Mozilla je predstavilo eksperimentalna dopolnitev MemoryCache, ki uvaja sistem dialoga strojnega učenja, sposoben upoštevati vsebino, s katero se uporabnik interagira v brskalniku. V nasprotju z drugimi AI klepeti, MemoryCache omogoča prilagoditev interakcije z uporabnikom ter uporabo specifičnih podatkov o uporabniku pri oblikovanju odgovorov na vprašanja. Koda projekta se distribuira je licencirana pod MPL. Namestitev v Firefox trenutno podprt samo ročno preko načina «about:debugging» in zahteva uporabo popravka.
Vse komponente MemoryCache delujejo na napravi uporabnika in se ne obračajo na zunanje vire. Model GPT4All-J, usposobljen na angleških zbirkah Pile (825 GB podatkov), ShareGPT (13 MB) in Dolly (660 MB), se uporablja kot osnovno znanje v MemoryCache. Model je na voljo v različicah s 3, 7 in 13 milijardami parametrov. Za interakcijo z modelom se uporablja orodje privateGPT, optimizirano za delo z velikimi jezikovnimi modeli na lokalnih računalnikih.
Memory Cache shranjuje ogledane strani v mapi «~\/Downloads\/MemoryCache». Periodični skript pridobiva strani iz te mape in jih posreduje obdelovalniku privateGPT (ingest.py) za posodobitev trenutnega jezikovnega modela. Tako se model prilagaja interesom uporabnika in ga je mogoče uporabiti za razpravo o ogledani vsebini v besedilnem klepetu z botom. Uporabnik lahko naravno postavlja vprašanja botu o shranjenih straneh, na primer, za pojasnitev dejstev, in bot bo oblikoval odgovor, ki uporablja lokalni model, brez obračanja na zunanje storitve.
Izvor: linux.org.ru
