Mozilla esitles eksperimentaalne lisand MemoryCache, mis viib ellu masinĂ”ppe dialoogisĂŒsteemi, mis suudab arvesse vĂ”tta sisu, millega kasutaja brauseris suhtleb. Erinevalt teistest AI-chatidest vĂ”imaldab MemoryCache isikupĂ€rastada kasutajaga suhtlemist ja kasutada konkreetseid kasutajaandmeid vastuste koostamisel. Projekti kood levitatakse on MPL litsentsi all. Firefoxi installimine toimub praegu toetatud ainult kĂ€sitsi, kasutades reĆŸiimi «about:debugging», ja see nĂ”uab plaastri rakendamist.
Kogu MemoryCache komponendid töötavad kasutaja seadmes ja ei pöördu vÀliste ressursside poole. Mudel GPT4All-J, mis on treenitud ingliskeelsetes kogudes Pile (825 GB andmeid), ShareGPT (13 MB) ja Dolly (660 MB), kasutatakse MemoryCache teadmiste baasi. Mudel on saadaval variantides 3, 7 ja 13 miljardi parameetriga. Mudeliga suhtlemiseks kasutatakse tööriistu privateGPT, mis on optimeeritud suurte keelemudelite töötamiseks kohalikes arvutites.
Memory Cache salvestab kĂŒlastatud lehed katalooge «~\/Downloads\/MemoryCache». Perioodiline skript vĂ€ljastab lehti sellest kataloogist ja edastab need privateGPT töötlejale (ingest.py) keele mudeli ajakohastamiseks. Seega kohandub mudel kasutaja huvidega ja seda saab kasutada vaadatud sisu arutamiseks tekstichatis botiga. Kasutaja saab loomulikult esitada botile kĂŒsimusi salvestatud lehtede kohta, nĂ€iteks faktide tĂ€psustamiseks, ja bot koostab vastuse, kasutades kohalikku mudelit, ilma et pöörduks vĂ€liste teenuste poole.
Allikas: linux.org.ru
