Mozilla har offentliggjort et eksperimentelt tillæg, MemoryCache, med implementering af et dialogsystem for maskinlæring, der tager højde for det indhold, som brugeren tilgår i browseren. I modsætning til andre AI-chats muliggør MemoryCache at personliggøre kommunikationen med brugeren og bruge vigtige data for den specifikke bruger i formuleringen af svar på spørgsmål. Projektkoden distribueres under MPL-licensen. Installation i Firefox understøttes i øjeblikket kun manuelt i tilstanden "about:debugging" og kræver anvendelse af en patch.
Alle komponenter i MemoryCache kører på brugerens system og anmoder ikke eksterne ressourcer. Som vidensbase anvender MemoryCache modellen GPT4All-J, der er trænet på samlingerne af engelsksproget indhold fra Pile (825 GB data), ShareGPT (13 MB) og Dolly (660 MB), og som er tilgængelig i varianter med 3, 7 og 13 milliarder parametre. Toolsæt til at arbejde med modellen er privateGPT, der er optimeret til brug af store sprogmodeller på lokale computere.
Tillægget Memory Cache gemmer de viste sider i mappen "~\/Downloads\/MemoryCache", fra hvilken de derefter hentes af et script, der køres periodisk, og sendes til privatGPT-behandleren (ingest.py) for at supplere den eksisterende sprogmodel. På den måde tilpasser modellen sig brugerens interesser og kan bruges til at diskutere det viste indhold i en tekstchat med botten. Brugeren kan stille botten spørgsmål om de gemte sider på naturligt sprog, f.eks. for at afklare nogle fakta, og botten vil danne et svar ved at bruge den lokale model uden at anmode om eksterne tjenester.
Kilde: opennet.ru
