Mozilla uzņēmums ir publicējis eksperimentālo papildinājumu MemoryCache ar dialoga mašīnmācīšanās sistēmu, kas ņem vērā saturu, kuru lietotājs izmanto pārlūkā. Atšķirībā no citiem AI čatiem, MemoryCache ļauj personalizēt saziņu ar lietotāju un izmantot svarīgus datus, kas ir nozīmīgi konkrētajam lietotājam, veidojot atbildes uz jautājumiem. Projekta kods tiek izplatīts saskaņā ar MPL licenci. Uzstādīšana Firefox šobrīd tiek atbalstīta tikai manuāli režīmā "about:debugging" un prasa lietot plāksteri.
Visas MemoryCache sastāvdaļas darbojas uz lietotāja sistēmas un nesazinās ar ārējiem resursiem. Kā zināšanu bāze MemoryCache tiek izmantota GPT4All-J modelis, kas apmācīts, izmantojot angliski rakstītu saturu no Pile (825 GB datu), ShareGPT (13 MB) un Dolly (660 MB) kolekcijām, un pieejams variantos ar 3, 7 un 13 miljardiem parametru. Lai strādātu ar modeli, tiek izmantots privateGPT rīku komplekts, kas optimizēts lielo valodu modeļu izmantošanai lokālajos datoros.
Papildinājums Memory Cache saglabā aplūkotās lapas katalogā "~/Downloads/MemoryCache", no kura tās periodiski iegūst palaista skripta palīdzību un nodod privateGPT pārvaldītājam (ingest.py), lai papildinātu esošo valodu modeli. Tādējādi modelis pielāgojas lietotāja interesēm un var tikt izmantots, lai apspriestu aplūkoto saturu teksta sarunā ar botu. Lietotājs var uzdot botam jautājumus par saglabātajām lapām dabiski formulētā veidā, piemēram, lai precizētu kādus faktus, un bots veidos atbildi, izmantojot lokālo modeli, nesazinoties ar ārējiem pakalpojumiem.
Avots: opennet.lv
