Mozilla on tutvustanud oma brauserisse integreeritud AI-boti MemoryCache

Mozilla firma avaldas eksperimentaalse lisandmooduli MemoryCache, mis sisaldab masinõppe dialooge süsteemi, mis arvestab sisu, millega kasutaja veebibrauseris suhtleb. Erinevalt teistest AI-vestlustest võimaldab MemoryCache isikupärastada suhtlemist kasutajaga ja kasutada olulisi andmeid konkreetse kasutaja jaoks vastuste loomisel. Projekti kood on litsentseeritud MPL-i alusel. Firefoxi installimine on praegu toetatud ainult käsitsi režiimis 'about:debugging' ning nõuab patši rakendamist.

Kõik MemoryCache komponendid töötavad kasutaja süsteemis ega kasuta väliseid ressursse. Teadmiste baasi MemoryCache's kasutatakse mudelit GPT4All-J, mis on välja õpetatud ingliskeelsete sisu kogude Pile (825 GB andmeid), ShareGPT (13 MB) ja Dolly (660 MB) põhjal, ning saadaval variants 3, 7 ja 13 miljardi parameetriga. Mudeliga töötamiseks on kasutusel tööriistakomplekt privateGPT, mis on optimeeritud suurte keelemudelite kasutamiseks kohalikel arvutitel.

Lisandmoodul Memory Cache salvestab vaadatud lehed katalooge '~\/Downloads\/MemoryCache', kust neid tõmbab perioodiliselt käivitatav skript ja edastab privateGPT töötlejale (ingest.py) olemasoleva keelemudeli täiendamiseks. Seega kohandatakse mudelit kasutaja huvi ja seda saab kasutada vaadatud sisu arutamiseks tekstivestluses robotiga. Kasutaja saab loomulikul keelel küsida robotilt salvestatud lehtede kohta, näiteks faktide täpsustamiseks, ja robot genereerib vastuse, kasutades kohalikke mudeleid, ilma välistesse teenustesse pöördumata.

Allikas: opennet.ru