Mozilla predstavila AI bota MemoryCache

Mozilla predstavila experimentálne doplnenie MemoryCache, ktoré zavádza dialogový systém strojového učenia, schopný zohľadniť obsah, s ktorým používateľ interaguje v prehliadači. Na rozdiel od iných AI chatov, MemoryCache umožňuje personalizovať interakciu s používateľom a využívať konkrétne údaje o používateľovi pri formovaní odpovedí na otázky. Kód projektu distribuovaný je licencovaný pod MPL. Inštalácia v prehliadači Firefox je v súčasnosti podporované len manuálne cez režim „about:debugging“ a vyžaduje použitie patche.

Všetky komponenty MemoryCache sa vykonávajú na zariadení používateľa a neobrátiť sa na externé zdroje. Model GPT4All-J, vyškolený na anglicky hovoriacich zbierkach Pile (825 GB dát), ShareGPT (13 MB) a Dolly (660 MB), sa používa ako základňa vedomostí v MemoryCache. Model je dostupný vo variantoch s 3, 7 a 13 miliardami parametrov. Na interakciu s modelom sa používa nástroj privateGPT, optimalizovaný na prácu s veľkými jazykovými modelmi na lokálnych počítačoch.

Memory Cache ukladá navštívené stránky do adresára „~/Downloads/MemoryCache“. Periodický skript extrahuje stránky z tohto adresára a odovzdáva ich spracovateľovi privateGPT (ingest.py) na aktualizáciu aktuálneho jazykového modelu. Týmto spôsobom sa model prispôsobuje záujmom používateľa a môže sa používať na diskusiu o prezeranom obsahu v textovom chate s botom. Používateľ môže prirodzene klásť otázky botovi o uložených stránkach, napríklad na objasnenie faktov, a bot bude formulovať odpoveď s použitím miestneho modelu, bez obratu na externé služby.

Zdroj: linux.org.ru

Kúpte si spoľahlivý hosting pre webové stránky s ochranou proti DDoS, VPS VDS servery 🔥 Kúpte si spoľahlivý hosting pre webové stránky s ochranou proti DDoS, VPS VDS servery | ProHoster