Mozilla ha pubblicato un'estensione sperimentale MemoryCache con l'implementazione di un sistema di dialogo per l'apprendimento automatico che tiene conto dei contenuti a cui l'utente accede nel browser. A differenza di altre chat AI, MemoryCache consente di personalizzare la comunicazione con l'utente e di utilizzare dati importanti per il singolo utente nella formulazione delle risposte alle domande. Il codice del progetto è distribuito con licenza MPL. L'installazione in Firefox è attualmente supportata solo manualmente in modalità "about:debugging" e richiede l'applicazione di una patch.
Tutti i componenti di MemoryCache vengono eseguiti sul sistema dell'utente e non fanno riferimento a risorse esterne. Come base di conoscenza, MemoryCache utilizza il modello GPT4All-J, addestrato su collezioni di contenuti in lingua inglese come Pile (825 GB di dati), ShareGPT (13 MB) e Dolly (660 MB), disponibile in varianti con 3, 7 e 13 miliardi di parametri. Per lavorare con il modello è stato utilizzato lo strumento privateGPT, ottimizzato per l'uso di grandi modelli linguistici sui computer locali.
L'estensione Memory Cache salva le pagine visualizzate nella cartella "~/Downloads/MemoryCache", da cui vengono successivamente estratte da uno script eseguito periodicamente e inviate al gestore privateGPT (ingest.py) per integrare il modello linguistico esistente. In questo modo, il modello si adatta agli interessi dell'utente e può essere utilizzato per discutere dei contenuti visualizzati in una chat testuale con il bot. L'utente può porre domande al bot sulle pagine salvate in linguaggio naturale, ad esempio per chiarire alcuni fatti, e il bot fornirà una risposta utilizzando il modello locale, senza fare riferimento a servizi esterni.
Fonte: opennet.ru
