Compania Mozilla a publicat un addon experimental MemoryCache care implementează un sistem de dialog bazat pe învățarea automată, luând în considerare conținutul la care utilizatorul accesează în browser. Spre deosebire de alte chat-uri AI, MemoryCache permite personalizarea comunicării cu utilizatorul și utilizarea unor date relevante pentru utilizatorul respectiv pentru generarea unor răspunsuri la întrebări. Codul proiectului este distribuit sub licența MPL. Instalarea în Firefox este deocamdată suportată doar manual în modul „about:debugging” și necesită aplicarea unui patch.
Toate componentele MemoryCache rulează pe sistemul utilizatorului și nu accesează resurse externe. Ca bază de cunoștințe, MemoryCache folosește modelul GPT4All-J, antrenat pe colecții de conținut în limba engleză din Pile (825 GB de date), ShareGPT (13 MB) și Dolly (660 MB), disponibil în variante cu 3, 7 și 13 miliarde de parametri. Pentru a lucra cu modelul, se folosește un instrumentar privateGPT, optimizat pentru utilizarea modelelor lingvistice mari pe computere locale.
Addon-ul Memory Cache salvează paginile vizualizate în directorul „~/Downloads/MemoryCache”, din care un script care rulează periodic le extrage și le trimite către procesorul privateGPT (ingest.py) pentru a completa modelul lingvistic existent. Astfel, modelul se adaptează intereselor utilizatorului și poate fi folosit pentru a discuta despre conținutul vizualizat într-un chat text cu un bot. Utilizatorul poate adresa întrebări botului despre paginile salvate într-un limbaj natural, de exemplu, pentru a clarifica anumite fapte, iar botul va genera un răspuns, folosind modelul local, fără a accesa servicii externe.
Sursa: opennet.ro
