Mozilla présentée expérimental module MemoryCache, introduisant un système de dialogue basé sur l'apprentissage automatique, capable de prendre en compte le contenu avec lequel l'utilisateur interagit dans le navigateur. Contrairement à d'autres IA de chat, MemoryCache permet de personnaliser l'interaction avec l'utilisateur et d'utiliser des données spécifiques sur l'utilisateur lors de la formulation des réponses aux questions. Le code du projet est distribué est sous licence MPL. L'installation sur Firefox se fait actuellement est pris en charge manuellement via le mode «about:debugging» et nécessite l'application d'un patch.
Tous les composants de MemoryCache s'exécutent sur l'appareil de l'utilisateur et ne se connectent pas à des ressources externes. Le modèle GPT4All-J, formé sur des collections anglophones Pile (825 Go de données), ShareGPT (13 Mo) et Dolly (660 Mo), est utilisé comme base de connaissances dans MemoryCache. Le modèle est disponible en variantes avec 3, 7 et 13 milliards de paramètres. Pour interagir avec le modèle, on utilise l'outil privateGPT, optimisé pour fonctionner avec de grands modèles linguistiques sur des ordinateurs locaux.
Memory Cache enregistre les pages consultées dans le répertoire «~/Downloads/MemoryCache». Un script périodique extrait les pages de ce répertoire et les transmet au gestionnaire privateGPT (ingest.py) pour mettre à jour le modèle linguistique actuel. Ainsi, le modèle s'adapte aux intérêts de l'utilisateur et peut être utilisé pour discuter du contenu consulté dans un chat textuel avec le bot. L'utilisateur peut poser des questions au bot sur les pages enregistrées, par exemple pour clarifier des faits, et le bot formulera une réponse en utilisant le modèle local, sans faire appel à des services externes.
Source : linux.org.ru
