La empresa Mozilla ha lanzado un complemento experimental llamado MemoryCache que implementa un sistema de diálogo de aprendizaje automático, teniendo en cuenta el contenido al que el usuario accede en el navegador. A diferencia de otros chats de IA, MemoryCache permite personalizar la comunicación con el usuario y utiliza datos significativos para cada usuario en la generación de respuestas a preguntas. El código del proyecto está disponible bajo la licencia MPL. La instalación en Firefox actualmente solo se admite manualmente en modo «about:debugging» y requiere un parche.
Todos los componentes de MemoryCache se ejecutan en el sistema del usuario y no acceden a recursos externos. Como base de conocimiento, MemoryCache utiliza el modelo GPT4All-J, entrenado en colecciones de contenido en inglés como Pile (825 GB de datos), ShareGPT (13 MB) y Dolly (660 MB), y disponible en versiones con 3, 7 y 13 mil millones de parámetros. Para trabajar con el modelo, se utiliza la herramienta privateGPT, optimizada para el uso de grandes modelos de lenguaje en computadoras locales.
El complemento MemoryCache guarda las páginas visitadas en el directorio «~/Downloads/MemoryCache», desde donde un script que se ejecuta periódicamente las recupera y las envía al procesador privateGPT (ingest.py) para complementar el modelo de lenguaje existente. De este modo, el modelo se adapta a los intereses del usuario y puede utilizarse para discutir el contenido visto en un chat de texto con el bot. El usuario puede hacer preguntas al bot sobre las páginas guardadas en lenguaje natural, por ejemplo, para aclarar ciertos hechos, y el bot generará una respuesta utilizando el modelo local, sin recurrir a servicios externos.
Fuente: opennet.ru
