Mozilla esituse katseprojekt lisandmoodul MemoryCache, mis rakendab masinõppe dialoogisüsteemi, mis suudab arvestada kasutajaga veebibrauseris suheldes. Erinevalt teistest AI-vestlustest võimaldab MemoryCache isikupärastada kasutajakogemust ja kasutada konkreetseid kasutajaandmeid vastuste vormimise ajal. Projekti kood GNU Üldine Avaliku litsentsi alusel. on litsentseeritud MPL alusel. Firefoxi installimine on hetkel toetatakse ainult käsitsi läbi „about:debugging” režiimi ja nõuab plaastri rakendamist.
Kõik MemoryCache komponendid töötavad kasutaja seadmes ja ei pöördu väliste ressursside poole. Mudel GPT4All-J, mis on koolitatud ingliskeelsetest kogumitest Pile (825 GB andmeid), ShareGPT (13 MB) ja Dolly (660 MB), kasutatakse MemoryCache teadmiste aluseks. Mudel on saadaval versioonides 3, 7 ja 13 miljardi parameetriga. Mudeli interaktsiooniks kasutatakse tööriistu privateGPT, mis on optimeeritud suurte keelemudelite töötamiseks kohalikes arvutites.
Memory Cache hoiab vaadatud lehti kataloogis «~/Downloads/MemoryCache». Perioodiline skript tõmbab lehti sellest kataloogist ja edastab need privateGPT (ingest.py) töötlejale, et uuendada praegust keele mudelit. Nii kohandub mudel kasutaja huvidega ja seda saab kasutada vaadatud sisu arutamiseks teksti vestluses robotiga. Kasutaja saab loomulikult esitada robotile küsimusi salvestatud lehtede kohta, näiteks faktide täpsustamiseks, ja robot koostab vastuse, kasutades kohalikku mudelit, ilma väliste teenuste poole pöördumata.
Allikas: linux.org.ru
