A empresa Mozilla lançou uma extensão experimental chamada MemoryCache que implementa um sistema de diálogo de aprendizado de máquina, levando em conta o conteúdo acessado pelo usuário no navegador. Ao contrário de outros chats de IA, o MemoryCache permite personalizar a interação com o usuário e utiliza dados específicos de cada usuário ao formar respostas para perguntas. O código do projeto é distribuído sob a licença MPL. A instalação no Firefox ainda é suportada apenas manualmente no modo 'about:debugging' e requer a aplicação de um patch.
Todos os componentes do MemoryCache operam na máquina do usuário e não acessam recursos externos. A base de conhecimento do MemoryCache utiliza o modelo GPT4All-J, treinado em coleções de conteúdo em inglês como Pile (825 GB de dados), ShareGPT (13 MB) e Dolly (660 MB), disponível em variantes com 3, 7 e 13 bilhões de parâmetros. Para o trabalho com o modelo, foi utilizado o kit de ferramentas privateGPT, otimizado para o uso de grandes modelos de linguagem em computadores locais.
A extensão Memory Cache salva as páginas visualizadas no diretório '~/Downloads/MemoryCache', de onde um script executado periodicamente as extrai e as envia para o processador privateGPT (ingest.py) para complementar o modelo de linguagem existente. Assim, o modelo se adapta aos interesses do usuário e pode ser usado para discutir o conteúdo visualizado em um chat de texto com o bot. O usuário pode fazer perguntas ao bot sobre as páginas salvas em linguagem natural, por exemplo, para esclarecer alguns fatos, e o bot gerará uma resposta utilizando o modelo local, sem acessar serviços externos.
Fonte: opennet.ru
