Bol otvorený nástroj OpenChatKit, ktorý je zameraný na zjednodušenie vytvárania chatbotov pre špecializované a všeobecné použitie. Systém je prispôsobený na vykonávanie úloh, ako sú odpovede na otázky, vedenie viacfázových dialógov, zhrňovanie, extrahovanie informácií a klasifikácia textu. Kód je napísaný v programovacom jazyku Python a je distribuovaný pod licenciou Apache 2.0. Projekt obsahuje hotový model, kód na tréning svojho modelu, nástroje na testovanie výsledkov práce modelu, prostriedky na doplnenie modelu kontextom z externého indexu a prispôsobenie základného modelu potrebám vlastných úloh.
Ako základ bota je navrhnutý základný model strojového učenia (GPT-NeoXT-Chat-Base-20B), ktorý bol vybudovaný pomocou jazykového modelu pokrývajúceho približne 20 miliárd parametrov a optimalizovaného pre rozhovor. Na tréning modelu boli použité dáta získané z kolekcií projektov LAION, Together a Ontocord.ai.
Na rozšírenie existujúcej databázy vedomostí je navrhnutý systém schopný extrahovať dodatočné informácie z externých repozitárov, API a iných zdrojov. Napríklad je možné aktualizovať informácie pomocou dát z Wikipedia a spravodajských kanálov. K dispozícii je aj model na moderovanie, trénovaný s použitím 6 miliárd parametrov, založený na modeli GPT-JT a určený na filtrovanie neprijateľných otázok alebo obmedzenie diskusií v rámci určitých tém.
Samostatne možno poznamenať projekt ChatLLaMA, ktorý ponúka knižnicu na vytváranie inteligentných asistentov podobných ChatGPT. Projekt sa vyvíja s ohľadom na možnosť vykonávania na vlastnom hardvéri a vytvorenie personalizovaných riešení zameraných na úzke oblasti vedomostí (napríklad medicína, právo, hry, vedecký výskum a podobne). Kód ChatLLaMA je distribuovaný pod licenciou GPLv3.
Projekt podporuje použitie modelov založených na architektúre LLaMA (Large Language Model Meta AI), ktorú navrhla spoločnosť Meta. Plný model LLaMA pokrýva 65 miliárd parametrov, ale pre ChatLLaMA sa odporúča používať varianty s 7 a 13 miliardami parametrov alebo modely GPTJ (6 miliárd), GPTNeoX (1.3 miliardy), 20BOPT (13 miliárd), BLOOM (7.1 miliardy) a Galactica (6.7 miliardy). Pôvodne sa modely LLaMA dodávajú len výskumníkom na špeciálnu žiadosť, ale nakoľko na prenos dát boli použité torrentové sťahovače, nadšenci pripravili skript, ktorý umožňuje stiahnuť model každému záujemcovi.
Zdroj: opennet.ru
