Mozilla uzrādīts eksperimentāls MemoryCache papildinājums, kas ievieš sarunvalodas mašīnmācīšanās sistēmu, kas var ņemt vērā saturu, ar kuru lietotājs mijiedarbojas pārlūkprogrammā. Atšķirībā no citām AI tērzētavām, MemoryCache ļauj personalizēt lietotāja pieredzi un izmantot konkrētus lietotāja datus, ģenerējot atbildes uz jautājumiem. Projekta kods izplata licencēts saskaņā ar MPL. Pašlaik instalēšana pārlūkprogrammā Firefox atbalsta tikai manuāli, izmantojot režīmu “about:debugging”, un tam ir nepieciešams ielāps.
Visi MemoryCache komponenti darbojas lietotāja ierīcē un nepiekļūst ārējiem resursiem. Modelis GPT4All-J, apmācīts par kolekcijām angļu valodā kaudze (825 GB dati), ShareGPT (13 MB) un Lellīte (660 MB), ko izmanto kā zināšanu bāzi MemoryCache. Modelis pieejams opcijās ar 3, 7 un 13 miljardiem parametru. Lai mijiedarbotos ar modeli, tiek izmantoti rīki privāts GPT, optimizēts lielu valodu modeļu darbināšanai vietējos datoros.
Atmiņas kešatmiņa saglabā skatītās lapas direktorijā "~/Downloads/MemoryCache". Periodisks skripts ienes lapas no šī direktorija un nodod tās privātajam GPT apstrādātājam (ingest.py), lai atjauninātu pašreizējo valodas modeli. Tādējādi modelis pielāgojas lietotāja interesēm un var tikt izmantots, lai apspriestu skatīto saturu teksta tērzēšanā ar botu. Lietotājs, protams, var uzdot robotam jautājumus par saglabātajām lapām, piemēram, lai noskaidrotu faktus, un robots ģenerēs atbildi, izmantojot vietējo modeli, neizmantojot ārējos pakalpojumus.
Avots: linux.org.ru
