Mozilla ha presentato sperimentale estensione MemoryCache, che introduce un sistema di dialogo basato su machine learning in grado di considerare il contenuto con cui l'utente interagisce nel browser. A differenza di altri chatbot AI, MemoryCache consente di personalizzare l'interazione con l'utente e di utilizzare dati specifici sull'utente nel formulare risposte alle domande. Il codice del progetto è distribuito è rilasciato sotto licenza MPL. L'installazione in Firefox al momento è supportato è possibile solo manualmente tramite la modalità «about:debugging» e richiede l'applicazione di una patch.
Tutti i componenti di MemoryCache vengono eseguiti sul dispositivo dell'utente e non accedono a risorse esterne. Il modello GPT4All-J, addestrato su raccolte di lingua inglese Pile (825 GB di dati), ShareGPT (13 MB) e Dolly (660 MB), è utilizzato come base di conoscenza in MemoryCache. Il modello è disponibile in versioni con 3, 7 e 13 miliardi di parametri. Per interagire con il modello, viene utilizzato l'insieme di strumenti privateGPT, ottimizzato per il funzionamento con grandi modelli linguistici sui computer locali.
Memory Cache salva le pagine visualizzate nella cartella «~/Downloads/MemoryCache». Uno script periodico estrae le pagine da questa cartella e le invia all'elaboratore privateGPT (ingest.py) per aggiornare il modello linguistico attuale. In questo modo, il modello si adatta agli interessi dell'utente e può essere utilizzato per discutere i contenuti visualizzati in una chat testuale con il bot. L'utente può porre domande al bot sulle pagine salvate, ad esempio per chiarire i fatti, e il bot genererà una risposta utilizzando il modello locale, senza accedere a servizi esterni.
Fonte: linux.org.ru
