Mozilla präsentierte experimentell die Erweiterung MemoryCache, die ein dialogbasiertes System für maschinelles Lernen einführt, das den Inhalt berücksichtigt, mit dem der Benutzer im Browser interagiert. Im Gegensatz zu anderen KI-Chats ermöglicht MemoryCache eine personalisierte Benutzerinteraktion und nutzt spezifische Benutzerdaten zur Erstellung von Antworten auf Fragen. Der Code des Projekts wird unter der GPLv3-Lizenz bereitgestellt. steht unter der MPL-Lizenz. Die Installation in Firefox erfolgt derzeit wird unterstützt nur manuell über den Modus „about:debugging“ und erfordert die Anwendung eines Patches.
Alle Komponenten von MemoryCache laufen auf dem Gerät des Benutzers und greifen nicht auf externe Ressourcen zu. Das Modell GPT4All-J, das auf englischsprachigen Sammlungen trainiert wurde, Pile (825 GB Daten), ShareGPT (13 MB) und Dolly (660 MB), dient als Wissensbasis in MemoryCache. Das Modell ist in Varianten mit 3, 7 und 13 Milliarden Parametern verfügbar. Für die Interaktion mit dem Modell wird das Toolkit privateGPT, das für die Arbeit mit großen Sprachmodellen auf lokalen Computern optimiert ist, verwendet.
Der Memory Cache speichert die angesehenen Seiten im Verzeichnis «~/Downloads/MemoryCache». Ein periodisches Skript entnimmt die Seiten aus diesem Verzeichnis und übergibt sie an den Handler privateGPT (ingest.py), um das aktuelle Sprachmodell zu aktualisieren. Auf diese Weise passt sich das Modell an die Interessen des Nutzers an und kann im Text-Chat mit dem Bot zur Diskussion des angesehenen Inhalts verwendet werden. Der Nutzer kann dem Bot auf natürliche Weise Fragen zu den gespeicherten Seiten stellen, beispielsweise zur Klärung von Fakten, und der Bot wird die Antwort unter Verwendung des lokalen Modells formulieren, ohne auf externe Dienste zuzugreifen.
Quelle: linux.org.ru
