Mozilla har publicerat ett experimentellt tillÀgg som heter MemoryCache, med en dialogsystemimplementering för maskininlÀrning som tar hÀnsyn till det innehÄll som anvÀndaren interagerar med i webblÀsaren. Till skillnad frÄn andra AI-chattar möjliggör MemoryCache en personlig anpassning av kommunikationen med anvÀndaren och utnyttjar viktig information som Àr specifik för varje anvÀndare vid formuleringen av svar pÄ frÄgor. Projektets kod distribueras under MPL-licensen. Installationen i Firefox stöds för nÀrvarande endast manuellt i lÀget 'about:debugging' och krÀver tillÀmpning av en patch.
Alla komponenter i MemoryCache körs pÄ anvÀndarens system och gör inga externa anrop. Som kunskapsbas anvÀnds en modell kallad GPT4All-J, som har trÀnats pÄ anglofona innehÄllssamlingar som Pile (825 GB data), ShareGPT (13 MB) och Dolly (660 MB), och som finns i versioner med 3, 7 och 13 miljarder parametrar. Verktyget privateGPT har anvÀnts för att arbeta med modellen, optimerat för att anvÀnda stora sprÄkmodeller pÄ lokala datorer.
MemoryCache-tillÀgget sparar de besökta sidorna i katalogen '~/Downloads/MemoryCache', vars innehÄll sedan hÀmtas av ett skript som körs periodiskt och skickas till privateGPT:s bearbetare (ingest.py) för att komplettera den existerande sprÄkmodellen. PÄ sÄ sÀtt anpassar sig modellen till anvÀndarens intressen och kan anvÀndas för att diskutera det visade innehÄllet i en textchatt med boten. AnvÀndaren kan stÀlla frÄgor till boten om de sparade sidorna pÄ naturligt sprÄk, till exempel för att fÄ klarhet i vissa fakta, och boten kommer att formulera sitt svar baserat pÄ den lokala modellen utan att göra externa anrop.
KĂ€lla: opennet.ru
