OpenChatKit, një mjet i hapur, ka si qëllim thjeshtimin e krijimit të chatbot-ëve për përdorim të specializuar dhe të përgjithshëm. Sistemi është i adaptruar për të realizuar detyra të tilla si përgjigjja në pyetje, mbajtja e bisedave shumë përbërë, përmbledhja, nxjerrja e informacionit dhe klasifikimi i tekstit. Kodi është shkruar në gjuhën Python dhe shpërndahet nën licencën Apache 2.0. Projekti përfshin një model të gatshëm, kod për trajnim të modelit tuaj, mjete për testimin e rezultateve të modelit, mjete për plotësimin e modelit me kontekst nga një indeks i jashtëm dhe adaptron modelin bazë për zgjidhjen e detyrave tuaja.
Si bazë për botin, ofrohet një model i thjeshtë i mësimit të makinerive (GPT-NeoXT-Chat-Base-20B), i ndërtuar me një model gjuhësor që mbulon rreth 20 miliard parametra dhe i optimizuar për komunikim konverzativ. Për trajnimin e modelit janë përdorur të dhëna nga koleksionet e projekteve LAION, Together dhe Ontocord.ai.
Për të zgjeruar bazën ekzistuese të njohurive, ofrohet një sistem që mund të nxjerrë informacion të shtuar nga depo të jashtme, API dhe burime të tjera. Për shembull, është e mundur përditësimi i informacionit përmes të dhënave nga Wikipedia dhe lajmet. Së ngritur, është në dispozicion një model për moderim, i stërvitur me përdorimin e 6 miliard parametrave, i bazuar në modelin GPT-JT dhe i destinuar për të filtruar pyetje të papranueshme ose për të kufizuar diskutimet brenda temave të caktuara.
Veçmas mund të përmendet projekti ChatLLaMA, i cili ofron një bibliotekë për krijimin e ndihmësve të zgjuar, të ngjashëm me ChatGPT. Projekti zhvillohet me synimin për t'u ekzekutuar në pajisjet e veta dhe për të krijuar zgjidhje të personalizuara, të dizajnuara për të përfshirë fusha të ngushta të njohurive (për shembull, mjekësi, jurisprudencë, lojra, kërkime shkencore, etj.). Kodi i ChatLLaMA ofrohet nën licencën GPLv3.
Projekti mbështet përdorimin e modeleve të bazuara në arkitekturën LLaMA (Large Language Model Meta AI), e propozuar nga kompania Meta. Modeli i plotë i LLaMA mbulon 65 miliardë parametra, por për ChatLLaMA rekomandohet të përdoren variante me 7 dhe 13 miliardë parametra ose modelet GPTJ (6 miliard), GPTNeoX (1.3 miliard), 20BOPT (13 miliard), BLOOM (7.1 miliard) dhe Galactica (6.7 miliard). Fillimisht, modelet LLaMA ofrohen vetëm për kërkuesit me kërkesë të veçantë, por pasi të dhënat u shpërndanë përmes torentëve, entuziastët përgatitën një skript që lejon shkarkimin e modelit nga kushdo që e dëshiron.
Burimi: opennet.ru
