Die Firma Mozilla hat eine experimentelle Erweiterung namens MemoryCache veröffentlicht, die ein dialogbasiertes System für maschinelles Lernen implementiert, das den Inhalt berücksichtigt, auf den der Benutzer im Browser zugreift. Im Gegensatz zu anderen AI-Chats ermöglicht MemoryCache eine personalisierte Interaktion mit dem Benutzer und verwendet wichtige, benutzerspezifische Daten zur Beantwortung von Fragen. Der Code des Projekts wird unter der Lizenz MPL vertrieben. Die Installation in Firefox wird derzeit nur manuell im Modus „about:debugging“ unterstützt und erfordert die Anwendung eines Patches.
Alle Komponenten von MemoryCache laufen auf dem System des Benutzers und greifen nicht auf externe Ressourcen zu. Als Wissensdatenbank wird in MemoryCache das Modell GPT4All-J verwendet, das auf Sammlungen englischsprachiger Inhalte wie Pile (825 GB Daten), ShareGPT (13 MB) und Dolly (660 MB) trainiert wurde und in Varianten mit 3, 7 und 13 Milliarden Parametern verfügbar ist. Für die Arbeit mit dem Modell wird das Werkzeug privateGPT eingesetzt, das für den Einsatz großer Sprachmodelle auf lokalen Computern optimiert ist.
Die Erweiterung Memory Cache speichert die besuchten Seiten im Verzeichnis „~/Downloads/MemoryCache“, aus dem sie dann von einem regelmäßig ausgeführten Skript abgerufen und an den privateGPT-Handler (ingest.py) zur Ergänzung des vorhandenen Sprachmodells übergeben werden. So passt sich das Modell an die Interessen des Benutzers an und kann verwendet werden, um über den gesehenen Inhalt in einem Textchat mit dem Bot zu diskutieren. Der Benutzer kann dem Bot Fragen zu den gespeicherten Seiten in natürlicher Sprache stellen, um zum Beispiel bestimmte Fakten zu klären, und der Bot wird die Antwort unter Verwendung des lokalen Modells generieren, ohne auf externe Dienste zuzugreifen.
Quelle: opennet.ru
