Mozilla esitles eksperimentaalne lisand MemoryCache, mis viib ellu masinõppe dialoogisüsteemi, mis suudab arvesse võtta sisu, millega kasutaja brauseris suhtleb. Erinevalt teistest AI-chatidest võimaldab MemoryCache isikupärastada kasutajaga suhtlemist ja kasutada konkreetseid kasutajaandmeid vastuste koostamisel. Projekti kood levitatakse on MPL litsentsi all. Firefoxi installimine toimub praegu toetatud ainult käsitsi, kasutades režiimi «about:debugging», ja see nõuab plaastri rakendamist.
Kogu MemoryCache komponendid töötavad kasutaja seadmes ja ei pöördu väliste ressursside poole. Mudel GPT4All-J, mis on treenitud ingliskeelsetes kogudes Pile (825 GB andmeid), ShareGPT (13 MB) ja Dolly (660 MB), kasutatakse MemoryCache teadmiste baasi. Mudel on saadaval variantides 3, 7 ja 13 miljardi parameetriga. Mudeliga suhtlemiseks kasutatakse tööriistu privateGPT, mis on optimeeritud suurte keelemudelite töötamiseks kohalikes arvutites.
Memory Cache salvestab külastatud lehed katalooge «~\/Downloads\/MemoryCache». Perioodiline skript väljastab lehti sellest kataloogist ja edastab need privateGPT töötlejale (ingest.py) keele mudeli ajakohastamiseks. Seega kohandub mudel kasutaja huvidega ja seda saab kasutada vaadatud sisu arutamiseks tekstichatis botiga. Kasutaja saab loomulikult esitada botile küsimusi salvestatud lehtede kohta, näiteks faktide täpsustamiseks, ja bot koostab vastuse, kasutades kohalikku mudelit, ilma et pöörduks väliste teenuste poole.
Allikas: linux.org.ru
