La société Mozilla a publié une extension expérimentale MemoryCache avec une mise en œuvre d'un système de dialogue d'apprentissage automatique qui prend en compte le contenu consulté par l'utilisateur dans le navigateur. Contrairement à d'autres chats AI, MemoryCache permet de personnaliser l'interaction avec l'utilisateur et d'utiliser des données importantes pour l'utilisateur lors de la formulation des réponses aux questions. Le code du projet est distribué sous la licence MPL. L'installation dans Firefox est actuellement supportée uniquement manuellement en mode « about:debugging » et nécessite l'application d'un patch.
Tous les composants de MemoryCache s'exécutent sur le système de l'utilisateur et ne se connectent pas à des ressources externes. Comme base de connaissances, MemoryCache utilise le modèle GPT4All-J, entraîné sur des collections de contenus en anglais tels que Pile (825 Go de données), ShareGPT (13 Mo) et Dolly (660 Mo), et disponible en variantes de 3, 7 et 13 milliards de paramètres. L'outil privateGPT est utilisé pour travailler avec le modèle, optimisé pour les grandes modèles de langage sur des ordinateurs locaux.
L'extension Memory Cache enregistre les pages consultées dans le répertoire « ~/Downloads/MemoryCache », à partir duquel un script lancé périodiquement les extrait et les transmet au gestionnaire privateGPT (ingest.py) pour compléter le modèle linguistique existant. Ainsi, le modèle s'adapte aux intérêts de l'utilisateur et peut être utilisé pour discuter du contenu consulté dans un chat textuel avec le bot. L'utilisateur peut poser des questions au bot sur les pages sauvegardées en langage naturel, par exemple pour clarifier certains faits, et le bot formulera une réponse en utilisant le modèle local, sans se connecter à des services externes.
Source : opennet.ru
