Mozilla ir prezentējusi AI botu MemoryCache

Mozilla prezentēja eksperimentāls paplašinājums MemoryCache, ieviešot dialogu sistēmu mašīnmācīšanās, kas spēj ņemt vērā saturu, ar kuru lietotājs mijiedarbojas pārlūkā. Atšķirībā no citiem AI čatiem, MemoryCache ļauj personalizēt mijiedarbību ar lietotāju un izmantot konkrētus datus par lietotāju, veidojot atbildes uz jautājumiem. Projekta kods tiek izplatīts ir licencēts MPL. Uzstādīšana Firefox šobrīd atbalsta ir iespējama tikai manuāli caur režīmu „about:debugging” un prasa izmantot plāksteri.

Visi MemoryCache komponenti tiek izpildīti lietotāja ierīcē un neapmeklē ārējus resursus. Modelis GPT4All-J, kas apmācīts angliski veidotās kolekcijās Pile (825 GB datu), ShareGPT (13 MB) un Dolly (660 MB), tiek izmantots kā zināšanu bāze MemoryCache. Modelis ir pieejams variantos ar 3, 7 un 13 miljardiem parametru. Lai mijiedarbotos ar modeli, tiek izmantots rīks privateGPT, optimizēts lielo valodas modeļu darbībai lokālās datoros.

Memory Cache saglabā apskatītās lapas katalogā „~\/Downloads\/MemoryCache”. Periodisks skripts izgūst lapas no šī katalogā un nodod tās apstrādātājam privateGPT (ingest.py), lai atjauninātu pašreizējo valodas modeli. Tādējādi modelis pielāgojas lietotāja interesēm un var tikt izmantots apskatītā satura apspriešanai tekstuālā čatā ar robotu. Lietotājs var dabiski uzdot jautājumus robotam par saglabātajām lapām, piemēram, lai precizētu faktus, un robots veidos atbildi, izmantojot lokālo modeli, nepiesakoties ārējiem pakalpojumiem.

Avots: linux.org.ru