Mozilla presentado experimental Complemento MemoryCache, que implementa un sistema conversacional de aprendizaje automático que puede tener en cuenta el contenido con el que el usuario interactúa en el navegador. A diferencia de otros chats de IA, MemoryCache permite interacciones personalizadas con el usuario y utiliza datos específicos del usuario al generar respuestas a preguntas. Código del proyecto. distribuido por Con licencia MPL. La instalación en Firefox está actualmente Apoyado por sólo manualmente a través del modo "about:debugging" y requiere la aplicación de un parche.
Todos los componentes de MemoryCache se ejecutan en el dispositivo del usuario y no acceden a recursos externos. Modelo GPT4All-J, capacitado en colecciones en idioma inglés Pila (825 GB de datos), CompartirGPT (13 MB) y Muñequita (660 MB), utilizado como base de conocimiento en MemoryCache. Modelo disponible en opciones Con 3, 7 y 13 mil millones de parámetros. Se interactúa con el modelo mediante herramientas. GPT privado, optimizado para trabajar con modelos de lenguaje grandes en computadoras locales.
La caché de memoria almacena las páginas visualizadas en el directorio "~/Downloads/MemoryCache". Un script periódico recupera páginas de este directorio y las pasa al controlador privateGPT (ingest.py) para actualizar el modelo de lenguaje actual. De esta forma, el modelo se adapta a los intereses del usuario y puede utilizarse para debatir el contenido visualizado en un chat de texto con el bot. El usuario puede, de forma natural, hacer preguntas al bot sobre las páginas guardadas, por ejemplo, para aclarar datos, y el bot generará una respuesta utilizando el modelo local, sin acceder a servicios externos.
Fuente: linux.org.ru
