Mozilla hōʻike ʻia hoʻokolohua Hoʻohui MemoryCache, kahi e hoʻokō ai i kahi ʻōnaehana kamaʻilio aʻo mīkini e hiki ke noʻonoʻo i ka ʻike a ka mea hoʻohana e launa pū ai ma ka polokalamu kele pūnaewele. ʻAʻole e like me nā kamaʻilio AI ʻē aʻe, ʻae ʻo MemoryCache i nā pilina pilikino a ka mea hoʻohana a hoʻohana i ka ʻikepili mea hoʻohana kikoʻī i ka wā e hana ai i nā pane i nā nīnau. Kōmike papahana mahele ʻia e Laikini ʻia ma lalo o ka MPL. Ke hoʻouka ʻia nei ma Firefox kākoʻo ʻia e wale nō ma ke ʻano "about:debugging" a koi ʻia ka hoʻopili ʻana o kahi patch.
Holo nā ʻāpana MemoryCache āpau ma ka hāmeʻa o ka mea hoʻohana a ʻaʻole komo i nā kumuwaiwai waho. GPT4All-J, i aʻo ʻia ma nā hōʻiliʻili ʻōlelo Pelekania Pile (825 GB o ka ʻikepili), ShareGPT (13 MB) a me Dolly (660 MB), i hoʻohana ʻia ma ke ʻano he waihona ʻike ma MemoryCache. Hoʻohālike loaʻa i nā koho me 3, 7, a me 13 biliona mau palena. Hoʻopili ʻia ke kumu hoʻohālike me ka hoʻohana ʻana i nā mea hana pilikinoGPT, i hoʻonohonoho pono ʻia no ka hana ʻana me nā kumu hoʻohālike ʻōlelo nui ma nā kamepiula kūloko.
Mālama ʻo Memory Cache i nā ʻaoʻao i nānā ʻia ma ka papa kuhikuhi "~/Downloads/MemoryCache". Lawe kahi palapala manawa i nā ʻaoʻao mai kēia papa kuhikuhi a hāʻawi iā lākou i ka mea lawelawe privateGPT (ingest.py) e hōʻano hou i ke kumu hoʻohālike ʻōlelo o kēia manawa. Ma kēia ʻano, hoʻololi ke kumu hoʻohālike i nā makemake o ka mea hoʻohana a hiki ke hoʻohana ʻia e kūkākūkā i ka ʻike i nānā ʻia ma ke kamaʻilio kikokikona me ka bot. Hiki i ka mea hoʻohana ke nīnau maoli i nā nīnau bot e pili ana i nā ʻaoʻao i mālama ʻia, no ka laʻana, e wehewehe i nā ʻoiaʻiʻo, a e hoʻopuka ka bot i kahi pane me ka hoʻohana ʻana i ke kumu hoʻohālike kūloko, me ka ʻole o ke komo ʻana i nā lawelawe waho.
Source: linux.org.ru
