Mozilla воведе MemoryCache AI ​​бот вграден во прелистувачот

Mozilla објави експериментален додаток MemoryCache кој имплементира разговорен систем за машинско учење кој ја зема предвид содржината до која корисникот пристапува во прелистувачот. За разлика од другите разговори со вештачка интелигенција, MemoryCache ви овозможува да ја персонализирате комуникацијата со корисникот и да користите податоци што се важни за одреден корисник кога генерирате одговори на прашања. Проектниот код се дистрибуира под лиценцата MPL. Инсталирањето во Firefox моментално е поддржано само рачно во режимот „about:debugging“ и бара примена на закрпа.

Сите компоненти на MemoryCache работат на системот на корисникот и не пристапуваат до надворешни ресурси. MemoryCache го користи моделот GPT4All-J како база на знаење, обучен за збирки содржини на англиски јазик Pile (825 GB податоци), ShareGPT (13 MB) и Dolly (660 MB) и достапен во верзии со 3, 7 и 13 милијарди параметри. За работа со моделот, се користи приватен GPT алатник, оптимизиран за користење големи јазични модели на локални компјутери.

Додатокот Memory Cache ги складира прегледаните страници во директориумот „~/Downloads/MemoryCache“, од кој периодично извршената скрипта потоа ги презема и ги пренесува на приватен GPT управувачот (ingest.py) за да го надополни постоечкиот јазичен модел. Така, моделот се прилагодува на интересите на корисникот и може да се користи за дискусија за прегледаната содржина во текстуален разговор со бот. Корисникот може да му поставува прашања на ботот за зачуваните страници на природен јазик, на пример, за да разјасни некои факти, а ботот ќе генерира одговор користејќи го локалниот модел, без да се сврти кон надворешни услуги.

Извор: opennet.ru