Mozilla predstavio eksperimentalni MemoryCache dodatak, koji implementira razgovorni sustav strojnog učenja koji može uzeti u obzir sadržaj s kojim korisnik komunicira u pregledniku. Za razliku od drugih AI chatova, MemoryCache vam omogućuje personalizaciju korisničkog iskustva i korištenje specifičnih korisničkih podataka prilikom generiranja odgovora na pitanja. Šifra projekta distribuira licenciran pod MPL. Instalacija u Firefoxu trenutno podržan od samo ručno kroz način rada "about:debugging" i zahtijeva primjenu zakrpe.
Sve komponente MemoryCache rade na korisničkom uređaju i ne pristupaju vanjskim resursima. Model GPT4Sve-J, trenirao na zbirkama na engleskom jeziku stanice (825 GB podataka), ShareGPT (13 MB) i Lutkica (660 MB), koristi se kao baza znanja u MemoryCacheu. Model dostupno u opcijama s 3, 7 i 13 milijardi parametara. Alati se koriste za interakciju s modelom privatniGPT, optimiziran za pokretanje velikih jezičnih modela na lokalnim računalima.
Memory Cache pohranjuje stranice koje gledate u direktorij "~/Downloads/MemoryCache". Povremena skripta dohvaća stranice iz ovog direktorija i prosljeđuje ih obrađivaču privateGPT (ingest.py) za ažuriranje trenutnog jezičnog modela. Tako se model prilagođava interesima korisnika i može se koristiti za raspravu o pregledanom sadržaju u tekstualnom chatu s botom. Korisnik prirodno može botu postavljati pitanja o spremljenim stranicama, na primjer, kako bi pojasnio činjenice, a bot će generirati odgovor koristeći lokalni model, bez pribjegavanja vanjskim uslugama.
Izvor: linux.org.ru
