Mozilla představila experimentální doplňěk MemoryCache, který zavádí dialogový systém strojového učení, schopný zohlednit obsah, se kterým uživatel interaguje v prohlížeči. Na rozdíl od jiných AI chatů, MemoryCache umožňuje personalizovat interakci s uživateli a využívat konkrétní údaje o uživateli při formování odpovědí na otázky. Kód projektu distribuováno je licencován pod MPL. Instalace v prohlížeči Firefox je v současnosti podporováno možná pouze ručně prostřednictvím režimu „about:debugging“ a vyžaduje použití záplaty.
Všechny komponenty MemoryCache běží na zařízení uživatele a neobracejí se na externí zdroje. Model GPT4All-J, trénovaný na anglicky mluvících sbírkách Pile (825 GB dat), ShareGPT (13 MB) a Dolly (660 MB), je používán jako znalostní základna v MemoryCache. Model je dostupný ve variantách s 3, 7 a 13 miliardami parametrů. Pro interakci s modelem se používá nástroj privateGPT, optimalizovaný pro práci s velkými jazykovými modely na místních počítačích.
Memory Cache ukládá navštívené stránky do adresáře „~/Downloads/MemoryCache“. Periodický skript extrahuje stránky z tohoto adresáře a předává je zpracovateli privateGPT (ingest.py) pro aktualizaci aktuální jazykové modely. Tímto způsobem se model přizpůsobuje zájmům uživatele a může být používán pro diskusi o prohlíženém obsahu v textovém chatu s botem. Uživatel může přirozeně klást otázky botovi o uložených stránkách, například pro vyjasnění skutečností, a bot bude formulovat odpověď pomocí místního modelu, aniž by se obracel na externí služby.
Zdroj: linux.org.ru
