Mozilla ha presentato sperimentale estensione MemoryCache, che introduce un sistema di dialogo di apprendimento automatico capace di considerare i contenuti con cui l'utente interagisce nel browser. A differenza di altri chatbot AI, MemoryCache consente di personalizzare l'interazione con l'utente e di utilizzare dati specifici sull'utente per formulare risposte alle domande. Il codice del progetto distribuito è distribuito con licenza MPL. L'installazione su Firefox attualmente supportata è possibile solo manualmente tramite la modalità «about:debugging» e richiede l'applicazione di una patch.
Tutti i componenti di MemoryCache vengono eseguiti sul dispositivo dell'utente e non accedono a risorse esterne. Il modello GPT4All-J, addestrato su collezioni in lingua inglese Pile (825 GB di dati), ShareGPT (13 MB) e Dolly (660 MB), viene utilizzato come base di conoscenza in MemoryCache. Il modello è disponibile nelle varianti con 3, 7 e 13 miliardi di parametri. Per interagire con il modello viene utilizzato l'ambiente privateGPT, ottimizzato per funzionare con grandi modelli linguistici su computer locali.
Memory Cache salva le pagine visitate nella directory «~/Downloads/MemoryCache». Uno script periodico estrae le pagine da questa directory e le invia al gestore privateGPT (ingest.py) per aggiornare il modello linguistico attuale. In questo modo, il modello si adatta agli interessi dell'utente e può essere utilizzato per discutere contenuti visualizzati in una chat testuale con il bot. L'utente può naturalmente porre domande al bot sulle pagine salvate, ad esempio per chiarire fatti, e il bot fornirà risposte utilizzando il modello locale, senza fare riferimento a servizi esterni.
Fonte: linux.org.ru
