Mozilla ka prezantuar eksperimentale shtesë MemoryCache, që implementon një sistem dialogu të mësimit të makinerive, të aftë të marrë parasysh përmbajtjen me të cilën ndërvepron përdoruesi në shfletues. Ndryshe nga chatbotët e tjerë AI, MemoryCache lejon personalizimin e ndërveprimit me përdoruesin dhe përdorimin e të dhënave specifike për përdoruesin në formimin e përgjigjeve ndaj pyetjeve. Kodi i projektit shpërndahet i licencuar nën MPL. Instalmimi në Firefox aktualisht mbështetet vetëm manualisht përmes modit «about:debugging» dhe kërkon përdorimin e një patchi.
Të gjithë komponentët e MemoryCache ekzekutohen në pajisjen e përdoruesit dhe nuk i drejtohen burimeve të jashtme. Modeli GPT4All-J, i stërvitur në koleksione anglisht Pile (825 GB të dhëna), ShareGPT (13 MB) dhe Dolly (660 MB), përdoret si bazë njohuri në MemoryCache. Modeli është i disponueshëm në variante me 3, 7 dhe 13 miliard parametra. Për ndërveprimin me modelin përdoret mjeti privateGPT, i optimizuar për të punuar me modele të mëdha gjuhësore në kompjuterët lokalë.
Memory Cache ruan faqet e shikuara në katalogun «~/Downloads/MemoryCache». Një skript periodik nxjerr faqet nga ky katalog dhe i dërgon ato në përpunuesin privateGPT (ingest.py) për të përditësuar modelin aktual gjuhësor. Në këtë mënyrë, modeli përshtatet me interesat e përdoruesit dhe mund të përdoret për të diskutuar përmbajtjen e parë në një bisedë tekstuale me botin. Përdoruesi mund të bëjë pyetje natyrale botit rreth faqeve të ruajtura, për shembull, për sqarimin e faktëve, dhe boti do të formojë një përgjigje duke përdorur modelin lokal, pa iu drejtuar shërbimeve të jashtme.
Burimi: linux.org.ru
