Mozilla predstavila prehliadačom integrovaného AI bota MemoryCache

Spoločnosť Mozilla zverejnila experimentálne rozšírenie MemoryCache, ktoré implementuje dialogový systém strojového učenia zohľadňujúci obsah, ku ktorému používateľ pristupuje v prehliadači. Na rozdiel od iných AI chatov, MemoryCache umožňuje personalizovať komunikáciu s používateľom a využíva dôležité údaje pre konkrétneho používateľa pri formulovaní odpovedí na otázky. Kód projektu je distribuovaný pod licenciou MPL. Inštalácia vo Firefoxe je zatiaľ podporovaná iba ručne v režime „about:debugging“ a vyžaduje použitie patchu.

Všetky komponenty MemoryCache fungujú na systéme používateľa a neobrátiť sa na externé zdroje. Ako základňa znalostí je v MemoryCache použitá model GPT4All-J, trénovaný na zbierkach anglicky písaného obsahu Pile (825 GB dát), ShareGPT (13 MB) a Dolly (660 MB), a dostupný v variantoch s 3, 7 a 13 miliardami parametrov. Na prácu s modelom je použitý nástroj privateGPT, optimalizovaný pre použitie veľkých jazykových modelov na miestnych počítačoch.

Rozšírenie Memory Cache ukladá prezerané stránky do adresára „~/Downloads/MemoryCache“, z ktorého ich následne extrahuje pravidelne spúšťaný skript a posiela do spracovateľa privateGPT (ingest.py) na doplnenie existujúceho jazykového modelu. Týmto spôsobom sa model prispôsobuje záujmom používateľa a môže slúžiť na diskusiu o prezeranom obsahu v textovom chate s botom. Používateľ môže v prirodzenom jazyku klásť botovi otázky o uložených stránkach, napríklad na upresnenie určitých faktov, a bot bude formulovať odpoveď s použitím lokálneho modelu, bez obratu na externé služby.

Zdroj: opennet.ru