Mozilla disajikan eksperimental Pengaya MemoryCache, yang mengimplementasikan sistem percakapan pembelajaran mesin yang dapat memperhitungkan konten yang berinteraksi dengan pengguna di peramban. Tidak seperti obrolan AI lainnya, MemoryCache memungkinkan interaksi pengguna yang dipersonalisasi dan menggunakan data pengguna spesifik saat menghasilkan respons terhadap pertanyaan. Kode proyek didistribusikan oleh Dilisensikan di bawah MPL. Instalasi di Firefox saat ini didukung oleh hanya secara manual melalui mode "about:debugging" dan memerlukan penerapan patch.
Semua komponen MemoryCache berjalan di perangkat pengguna dan tidak mengakses sumber daya eksternal. Model GPT4All-J, dilatih pada koleksi berbahasa Inggris sel (825 GB data), BagikanGPT (13 MB) dan Boneka (660 MB), digunakan sebagai basis pengetahuan di MemoryCache. Model tersedia dalam pilihan dengan 3, 7, dan 13 miliar parameter. Model berinteraksi dengan menggunakan alat privateGPT, dioptimalkan untuk bekerja dengan model bahasa besar pada komputer lokal.
Cache Memori menyimpan halaman yang dilihat di direktori "~/Downloads/MemoryCache". Sebuah skrip berkala mengambil halaman dari direktori ini dan meneruskannya ke pengendali privateGPT (ingest.py) untuk memperbarui model bahasa saat ini. Dengan demikian, model beradaptasi dengan minat pengguna dan dapat digunakan untuk membahas konten yang dilihat dalam obrolan teks dengan bot. Pengguna dapat mengajukan pertanyaan kepada bot tentang halaman yang disimpan, misalnya, untuk mengklarifikasi fakta, dan bot akan menghasilkan respons menggunakan model lokal, tanpa mengakses layanan eksternal.
Sumber: linux.org.ru
