Mozilla fremlagde eksperimentel MemoryCache tilføjelse, som implementerer et maskinlæringssamtalesystem, der kan tage højde for det indhold, brugeren interagerer med i browseren. I modsætning til andre AI-chats giver MemoryCache dig mulighed for at tilpasse dine interaktioner med brugeren og bruge specifikke data om brugeren, når du genererer svar på spørgsmål. Projektkode distribueret af under MPL-licensen. Installerer i Firefox nu støttet af kun manuelt gennem "about:debugging"-tilstanden og kræver anvendelse af en patch.
Alle MemoryCache-komponenter kører på brugerens enhed og har ikke adgang til eksterne ressourcer. Model GPT4All-J, trænet på engelsksprogede samlinger celler (825 GB data), Del GPT (13 MB) og dukke (660 MB), bruges som vidensbase i MemoryCache. Model tilgængelig i optioner med 3, 7 og 13 milliarder parametre. Værktøjssættet bruges til at interagere med modellen. privatGPT, optimeret til at arbejde med store sprogmodeller på lokale computere.
Memory Cache gemmer de sider, du ser, i mappen "~/Downloads/MemoryCache". Det periodiske script henter sider fra denne mappe og sender dem til privateGPT-handleren (ingest.py) for at opdatere den aktuelle sprogmodel. På denne måde tilpasser modellen sig brugerens interesser og kan bruges til at diskutere det sete indhold i en tekstchat med botten. Brugeren kan naturligvis stille spørgsmål til botten om gemte sider, for eksempel for at afklare fakta, og botten genererer et svar ved hjælp af en lokal model uden at få adgang til eksterne tjenester.
Kilde: linux.org.ru
