A fost lansat un set deschis de instrumente OpenChatKit, destinat simplificării creării de chatbots pentru utilizare specializată și generală. Sistemul este adaptat pentru a realiza sarcini precum răspunsuri la întrebări, desfășurarea de dialoguri în mai multe etape, rezumarea, extragerea de informații, clasificarea textului. Codul este scris în Python și este distribuit sub licența Apache 2.0. Proiectul include un model gata făcut, cod pentru antrenarea propriului model, utilitare pentru testarea rezultatelor modelului, instrumente pentru completarea modelului cu context dintr-un index extern și adaptarea modelului de bază pentru a rezolva propriile sarcini.
Ca bază pentru bot, se propune un model de învățare automată de bază (GPT-NeoXT-Chat-Base-20B), construit cu ajutorul unui model lingvistic care acoperă aproximativ 20 de miliarde de parametri și optimizat pentru comunicarea conversațională. În timpul antrenării modelului au fost utilizate date obținute din colecțiile proiectelor LAION, Together și Ontocord.ai.
Pentru extinderea bazei de cunoștințe existente, se propune un sistem capabil să extragă informații suplimentare din repozitorii externe, API-uri și alte surse. De exemplu, actualizarea informațiilor poate fi efectuată folosind date din Wikipedia și fluxuri de știri. De asemenea, este disponibil un model pentru moderare, antrenat cu ajutorul a 6 miliarde de parametri, bazat pe modelul GPT-JT, destinat filtrării întrebărilor inadecvate sau limitării discuțiilor în anumite teme.
Un proiect notabil este ChatLLaMA, care oferă o bibliotecă pentru crearea de asistenți inteligenți similari cu ChatGPT. Proiectul se dezvoltă având în vedere posibilitatea de a fi rulat pe propriul echipament și de a crea soluții personalizate, destinate să acopere domenii strânse de cunoștințe (de exemplu, medicină, drept, jocuri, cercetări științifice etc.). Codul ChatLLaMA este distribuit sub licența GPLv3.
Proiectul suportă utilizarea modelelor bazate pe arhitectura LLaMA (Large Language Model Meta AI), propusă de compania Meta. Modelul complet LLaMA include 65 de miliarde de parametri, dar pentru ChatLLaMA se recomandă utilizarea variantelor cu 7 și 13 miliarde de parametri sau a modelelor GPTJ (6 miliarde), GPTNeoX (1.3 miliarde), 20BOPT (13 miliarde), BLOOM (7.1 miliarde) și Galactica (6.7 miliarde). Inițial, modelele LLaMA sunt disponibile doar cercetătorilor pe bază de solicitare specială, însă, deoarece datele au fost livrate prin torrente, entuziaștii au pregătit un script care permite descărcarea modelului oricui.
Sursa: opennet.ro
