Mozilla on avaldanud katsetuslisandi MemoryCache, mis rakendab masinõppe dialoogisüsteemi, käsitledes sisu, millega kasutaja brauseris tegeleb. Erinevalt teistest AI-vestlustest võimaldab MemoryCache isikupärastada kasutajaga suhtlemist ja kasutada konkreetse kasutaja jaoks olulisi andmeid vastuste vormimisel. Projekti kood on vabalt saadaval MPL litsentsi alusel. Firefoxis saab seda praegu installida ainult käsitsi režiimis 'about:debugging' ning see eeldab patši rakendamist.
Kõik MemoryCache komponendid töötavad kasutaja süsteemis ja ei kasuta väliseid ressursse. Teadmistebaasina kasutatakse MemoryCaches mudelit GPT4All-J, mis on koolitatud ingliskeelse sisu kogumite, sealhulgas Pile (825 GB andmeid), ShareGPT (13 MB) ja Dolly (660 MB) põhjal ning on saadaval variantidega, millel on 3, 7 ja 13 miljardit parameetrit. Mudeli töötamiseks on kasutusel tööriistakomplekt privateGPT, mis on optimeeritud suurte keelemudelite kasutamiseks kohalikes arvutites.
Memory Cache lisand võimaldab salvestada külastatud lehti kausta «~/Downloads/MemoryCache», kust neid perioodiliselt käivitatav skript välja tõmbab ja edastab privateGPT käsitlejale (ingest.py), et täiendada olemasolevat keelemudelit. Nii kohandatakse mudelit kasutaja huvide järgi ning seda saab kasutada vaadatud sisu käsitlemiseks tekstipõhises vestluses botiga. Kasutaja võib loomulikus keeles botile esitada küsimusi salvestatud lehtede kohta, näiteks faktide täpsustamiseks, ja bot koostab vastuse, kasutades kohalikku mudelit, ilma välistesse teenustesse pöördumata.
Allikas: opennet.ru
