Kompania Mozilla publikoi një shtesë eksperimentale MemoryCache me një realizim të sistemit të dialogut të mësimit të makinës, që merr parasysh përmbajtjen që përdoruesi kërkon në shfletues. Ndryshe nga chatët e tjerë AI, MemoryCache lejon të personalizohet komunikimi me përdoruesin dhe të përdoret të dhëna të rëndësishme për përdoruesin konkret gjatë formimit të përgjigjeve të pyetjeve. Kodi i projektit shpërndahet nën licencën MPL. Instalimi në Firefox për momentin mbështetet vetëm manualisht në modalitetin 'about:debugging' dhe kërkon aplikimin e një patch-i.
Të gjitha komponentët e MemoryCache ekzekutohen në sistemin e përdoruesit dhe nuk i drejtohen burimeve të jashtme. Si bazë njohurish në MemoryCache është angazhuar modeli GPT4All-J, i trajnuar mbi koleksionet e përmbajtjes në anglisht Pile (825 GB të dhënash), ShareGPT (13 MB) dhe Dolly (660 MB), dhe është i disponueshëm në variante me 3, 7 dhe 13 miliard parametra. Për punën me modelin përdoret mjetin privateGPT, i optimizuar për përdorimin e modelet e mëdha gjuhësore në kompjuterët lokalë.
Shtesa Memory Cache ruan faqet e vizituara në katalogun '~/Downloads/MemoryCache', nga i cili një skenar i aktivizuar periodikisht i nxjerr ato dhe i dërgon në përpunuesin privateGPT (ingest.py) për të plotësuar modelin e gjuhës ekzistues. Kështu, modeli adaptohet ndaj interesave të përdoruesit dhe mund të përdoret për të diskutuar përmbajtjen e parë në bisedë tekstuale me botin. Përdoruesi mund të bëjë pyetje në gjuhë natyrale mbi faqet e ruajtura, për shembull, për të saktësuar disa fakte, dhe boti do të formojë përgjigjen duke përdorur modelin lokal, pa iu drejtuar shërbimeve të jashtme.
Burimi: opennet.ru
