A Mozilla közzétette a MemoryCache kísérleti bővítményét, amely megvalósít egy párbeszédrendszert gépi tanulás segítségével, figyelembe véve a felhasználó által a böngészőben meglátogatott tartalmakat. Más AI-csevegőktől eltérően a MemoryCache lehetővé teszi a felhasználói kommunikáció személyre szabását, és fontos adatokat használ a konkrét felhasználó számára a kérdések megválaszolásakor. A projekt kódja MPL licenc alatt terjesztésre kerül. A Firefox-ban való telepítés jelenleg csak manuálisan lehetséges az 'about:debugging' módban, és javítás alkalmazását igényli.
A MemoryCache összes komponense a felhasználó rendszerén működik, és nem fér hozzá külső forrásokhoz. A MemoryCache tudásbázisaként a GPT4All-J modellt használják, amely angol nyelvű tartalmak Pile (825 GB adat), ShareGPT (13 MB) és Dolly (660 MB) gyűjteményein tanult, és három, hét és 13 milliárd paraméteres változatban érhető el. A modellel való munka során a privateGPT eszközkészletét alkalmazzák, amely optimalizált a nagy nyelvi modellek helyi számítógépeken való használatára.
A Memory Cache bővítmény az '〜／Downloads／MemoryCache' mappába menti a böngészett oldalakat, ahonnan egy időközönként futó szkript kinyeri azokat, és a privateGPT (ingest.py) feldolgozóhoz továbbítja a meglévő nyelvi modell kiegészítése érdekében. Így a modell alkalmazkodik a felhasználó érdeklődéséhez, és a megtekintett tartalom szöveges csevegés keretében való megvitatására használható a bottal. A felhasználó természetes nyelven kérdéseket tehet fel a botnak a mentett oldalakról, például tények tisztázása érdekében, és a bot válaszokat alakít ki, a helyi modellt felhasználva, anélkül hogy külső szolgáltatásokhoz fordulna.
Forrás: opennet.ru
