A Mozilla bemutatta a MemoryCache mesterséges intelligenciával rendelkező botot

Mozilla bemutatta kísérleti MemoryCache kiegészítő, amely egy olyan gépi tanulási párbeszédrendszert vezet be, amely figyelembe tudja venni a felhasználó böngészőben megszerzett tartalmat. A többi AI-csevegőtől eltérően a MemoryCache lehetővé teszi a felhasználóval való interakció személyre szabását, és konkrét felhasználói adatokat használ a kérdések megválaszolásához. A projekt kódja terjesztésre kerül MPL licenc alatt áll. A Firefoxba való telepítés jelenleg támogatott csak kézzel lehetséges az «about:debugging» módon keresztül, és egy javítás alkalmazását igényli.

A MemoryCache összes komponense a felhasználó eszközén fut, és nem hívja meg a külső erőforrásokat. A GPT4All-J, angol nyelvű gyűjteményeken tanított, Pile (825 GB adat), ShareGPT (13 MB) és Dolly (660 MB), a MemoryCache tudásbázisaként funkcionál. A modell 3, 7 és 13 milliárd paraméterrel érhető el. A modellel való interakcióhoz a privateGPT eszközkészletet használják, amely nagy nyelvi modellekhez optimalizált a helyi számítógépeken.A Memory Cache a megtekintett oldalakat a «~/Downloads/MemoryCache» mappába menti. Egy időszakos szkript kinyeri az oldalakat ebből a mappából és átadja őket a privateGPT feldolgozónak (ingest.py) a jelenlegi nyelvi modell frissítéséhez. Így a modell alkalmazkodik a felhasználó érdeklődéséhez, és a megtekintett tartalommal kapcsolatos beszélgetések lebonyolítására is használható a bot szöveges chatjében. A felhasználó természetesen kérdéseket tehet fel a botnak a mentett oldalakról, például tények pontosítására, és a bot válaszokat generál, a helyi modellt felhasználva, anélkül, hogy külső szolgáltatásokhoz folyamodna.

A Mozilla bemutatta az experimentális kiegészítőt.

Forrás: linux.org.ru