Tvrtka Mozilla objavila je eksperimentalno proširenje MemoryCache s implementacijom dijaloga sustava strojnog učenja koji uzima u obzir sadržaj kojem pristupa korisnik u pregledniku. Za razliku od drugih AI chatova, MemoryCache omogućuje personalizaciju interakcije s korisnikom i korištenje važnih podataka specifičnih za korisnika prilikom oblikovanja odgovora na pitanja. Kod projekta objavljen je pod MPL licencom. Instalacija u Firefoxu trenutno se podržava samo ručno u režimu 'about:debugging' i zahtijeva primjenu patch-a.
Sve komponente MemoryCache rade na sustavu korisnika i ne obraćaju se vanjskim izvorima. Kao baza znanja, MemoryCache koristi model GPT4All-J, obučen na kolekcijama sadržaja na engleskom jeziku Pile (825 GB podataka), ShareGPT (13 MB) i Dolly (660 MB), a dostupni su u varijantama s 3, 7 i 13 milijardi parametara. Za rad s modelom koristi se alat privateGPT, optimiziran za korištenje velikih jezičnih modela na lokalnim računalima.
Proširenje Memory Cache sprema pregledane stranice u direktoriju '~/Downloads/MemoryCache', iz kojeg ih potom povlači povremeno pokretani skript i prenosi u alat privateGPT (ingest.py) radi dopunjavanja postojeće jezične potrebe. Tako se model prilagođava interesima korisnika i može se koristiti za raspravu o pregledanom sadržaju u tekstualnom chatu s botom. Korisnik može postavljati pitanja botu o sačuvanim stranicama na prirodnom jeziku, na primjer, kako bi razjasnio određene činjenice, a bot će generirati odgovor koristeći lokalni model, bez obraćanja vanjskim servisima.
Izvor: opennet.ru
