Mozilla ha publicado un complemento experimental de MemoryCache que implementa un sistema de aprendizaje automático conversacional que tiene en cuenta el contenido al que accede el usuario en el navegador. A diferencia de otros chats de IA, MemoryCache le permite personalizar la comunicación con el usuario y utilizar datos que son importantes para un usuario en particular al generar respuestas a preguntas. El código del proyecto se distribuye bajo la licencia MPL. Actualmente, la instalación en Firefox solo se admite manualmente en el modo "about:debugging" y requiere la aplicación de un parche.
Todos los componentes de MemoryCache se ejecutan en el sistema del usuario y no acceden a recursos externos. MemoryCache utiliza el modelo GPT4All-J como base de conocimiento, entrenado en colecciones de contenido en inglés Pile (825 GB de datos), ShareGPT (13 MB) y Dolly (660 MB), y disponible en versiones con 3, 7 y 13. mil millones de parámetros. Para trabajar con el modelo, se utiliza el kit de herramientas privateGPT, optimizado para usar modelos de lenguaje grandes en computadoras locales.
El complemento Memory Cache almacena las páginas vistas en el directorio “~/Downloads/MemoryCache”, desde donde un script que se ejecuta periódicamente las recupera y las pasa al controlador privateGPT (ingest.py) para complementar el modelo de lenguaje existente. Así, el modelo se adapta a los intereses del usuario y puede utilizarse para discutir el contenido visto en un chat de texto con un bot. El usuario puede hacer preguntas al bot sobre páginas guardadas en lenguaje natural, por ejemplo, para aclarar algunos hechos, y el bot generará una respuesta utilizando el modelo local, sin recurrir a servicios externos.
Fuente: opennet.ru
