Mozilla ha presentado experimental complemento MemoryCache, que implementa un sistema de diálogo de aprendizaje automático capaz de tener en cuenta el contenido con el que interactúa el usuario en el navegador. A diferencia de otros chats de IA, MemoryCache permite personalizar la interacción con el usuario y utilizar datos específicos sobre el usuario al formular respuestas a preguntas. El código del proyecto se distribuye se encuentra bajo la licencia MPL. La instalación en Firefox actualmente es compatible solo se puede realizar manualmente a través del modo 'about:debugging' y requiere la aplicación de un parche.
Todos los componentes de MemoryCache se ejecutan en el dispositivo del usuario y no hacen referencia a recursos externos. El modelo GPT4All-J, entrenado en colecciones en inglés Pile (825 GB de datos), ShareGPT (13 MB) y Dolly (660 MB), se utiliza como base de conocimientos en MemoryCache. El modelo está disponible en variantes con 3, 7 y 13 miles de millones de parámetros. Para interactuar con el modelo se utiliza la herramienta privateGPT, optimizada para trabajar con grandes modelos de lenguaje en computadoras locales.
Memory Cache guarda las páginas visitadas en el directorio '~/Downloads/MemoryCache'. Un script periódico extrae las páginas de este directorio y las pasa al procesador privateGPT (ingest.py) para actualizar el modelo de lenguaje actual. De esta manera, el modelo se adapta a los intereses del usuario y puede ser utilizado para discutir el contenido visualizado en un chat de texto con el bot. El usuario puede hacer preguntas al bot sobre las páginas guardadas de manera natural, por ejemplo, para aclarar hechos, y el bot formulará una respuesta utilizando el modelo local, sin recurrir a servicios externos.
Fuente: linux.org.ru
