Mozilla præsenterede eksperimentelt tilføjelse MemoryCache, der implementerer et dialogsystem med maskinlæring, som kan tage højde for indholdet, som brugeren interagerer med i browseren. I modsætning til andre AI-chats, giver MemoryCache mulighed for at personalisere interaktionen med brugeren og bruge specifikke brugerdata til at danne svar på spørgsmål. Projektkoden distribueres er under MPL-licens. Installation i Firefox sker i øjeblikket understøttes kun manuelt gennem ‘about:debugging’ og kræver anvendelse af en patch.
Alle komponenter i MemoryCache kører på brugerens enhed og henvender sig ikke til eksterne ressourcer. Modellen GPT4All-J, trænet på engelsksprogede samlinger Pile (825 GB data), ShareGPT (13 MB) og Dolly (660 MB), bruges som vidensbase i MemoryCache. Modellen er tilgængelig i varianter med 3, 7 og 13 milliarder parametre. For at interagere med modellen bruges værktøjet privateGPT, optimeret til at arbejde med store sprogmodeller på lokale computere.
Memory Cache gemmer de viste sider i mappen ‘~/Downloads/MemoryCache’. Et periodisk script henter sider fra denne mappe og sender dem til privateGPT-håndtereren (ingest.py) for at opdatere den aktuelle sprogmodel. På den måde tilpasser modellen sig brugerens interesser og kan bruges til at diskutere det viste indhold i en tekstchat med botten. Brugeren kan naturligt stille spørgsmål til botten om de gemte sider, f.eks. for at bekræfte fakta, og botten vil danne et svar ved at bruge den lokale model uden at henvende sig til eksterne tjenester.
Kilde: linux.org.ru
