Podjetje Mozilla je objavilo eksperimentalno razširitev MemoryCache z implementacijo pogovornega sistema strojnega učenja, ki upošteva vsebino, do katere uporabnik dostopa v brskalniku. V nasprotju z drugimi AI klepeti MemoryCache omogoča personalizacijo komunikacije z uporabnikom in uporabo pomembnih podatkov specifičnih za vsakega uporabnika pri oblikovanju odgovorov na vprašanja. Koda projekta se distribucira pod MPL licenco. Namestitev v Firefox zaenkrat podpira samo ročno v načinu 'about:debugging' in zahteva uporabo popravka.
Vse komponente MemoryCache delujejo na uporabnikovem sistemu in se ne povezujejo na zunanje vire. Kot osnovo znanja v MemoryCache uporablja model GPT4All-J, usposobljen na zbirkah angleškega besedila Pile (825 GB podatkov), ShareGPT (13 MB) in Dolly (660 MB), ter na voljo v različicah s 3, 7 in 13 milijardami parametrov. Za delo z modelom je uporabljen nabor orodij privateGPT, optimiziran za uporabo velikih jezikovnih modelov na lokalnih računalnikih.
Razširitev Memory Cache shranjuje obiskane strani v imenik '~/Downloads/MemoryCache', iz katerega jih nato pridobi občasno izvajani skript in jih posreduje obdelovalniku privateGPT (ingest.py), da bi dopolnil obstoječi jezikovni model. Tako se model prilagaja interesom uporabnika in se lahko uporablja za razpravo o ogledanem vsebinu v besedilnem klepetu z botom. Uporabnik lahko v naravnem jeziku zastavlja botu vprašanja o shranjenih straneh, na primer, za pojasnitev nekaterih dejstev, bot pa bo oblikoval odgovor, pri čemer bo uporabil lokalni model in se ne bo povezal na zunanje storitve.
Izvor: opennet.ru
