Mozilla heeft een experimentele MemoryCache-add-on gepubliceerd met de implementatie van een machine learning-dialoogsysteem dat rekening houdt met de inhoud die de gebruiker in de browser opent. In tegenstelling tot andere AI-chats stelt MemoryCache u in staat om de communicatie met de gebruiker te personaliseren en gegevens te gebruiken die voor een specifieke gebruiker belangrijk zijn bij het beantwoorden van vragen. De projectcode wordt gedistribueerd onder de MPL-licentie. Installatie in Firefox wordt momenteel alleen handmatig ondersteund in de "about:debugging"-modus en vereist het toepassen van een patch.
Alle MemoryCache-componenten draaien op het systeem van de gebruiker en hebben geen toegang tot externe bronnen. Het GPT4All-J-model, getraind op de Engelstalige contentcollecties Pile (825 GB aan data), ShareGPT (13 MB) en Dolly (660 MB), wordt gebruikt als kennisbank in MemoryCache en is beschikbaar in varianten met 3, 7 en 13 miljard parameters. De privateGPT-toolkit, geoptimaliseerd voor het gebruik van grote taalmodellen op lokale computers, wordt gebruikt om met het model te werken.
De Memory Cache-add-on slaat bekeken pagina's op in de map "~/Downloads/MemoryCache". Van daaruit worden ze opgehaald door een periodiek uitgevoerd script en doorgegeven aan de privateGPT-handler (ingest.py) ter aanvulling op het bestaande taalmodel. Op deze manier wordt het model aangepast aan de interesses van de gebruiker en kan het worden gebruikt om bekeken content te bespreken in een tekstchat met de bot. De gebruiker kan de bot in natuurlijke taal vragen stellen over de opgeslagen pagina's, bijvoorbeeld om bepaalde feiten te verduidelijken. De bot formuleert vervolgens een antwoord op basis van het lokale model, zonder externe services te gebruiken.
Bron: opennet.ru
