Bemutatásra került az OpenChatKit nyílt eszköztár, amely a chatbotok egyszerűbb létrehozására összpontosít, mind a szakmai, mind a általános célokra. A rendszer alkalmazkodik olyan feladatokhoz, mint a kérdések megválaszolása, többlépcsős párbeszédek lebonyolítása, összegzés, információk kinyerése, szövegklasszifikáció. A kód Python nyelven íródott, és Apache 2.0 licenc alatt terjesztik. A projekt tartalmaz egy kész modellt, a saját modell tréningjéhez szükséges kódot, eszközöket a modell teljesítményének tesztelésére, valamint eszközöket a modell külső indexből származó kontextussal való kiegészítésére és a fő modell saját feladatokhoz való alkalmazására.
A bot alapjaként egy gépi tanuláson alapuló alapmodellt javasolnak (GPT-NeoXT-Chat-Base-20B), amelyet egy 20 milliárd paramétert tartalmazó nyelvi modell készített, és amely a beszélgető kommunikációra optimalizált. A modell tanításához a LAION, a Together és az Ontocord.ai projektjeiből származó adatokat használtak.
A meglévő tudásbázis kiterjesztésére egy olyan rendszert javasolnak, amely képes további információk kinyerésére külső tárolókból, API-ból és egyéb forrásokból. Például lehetséges az információk aktualizálása a Wikipédia és hírcsatornákból származó adatok felhasználásával. Ezen kívül elérhető egy moderáló modell, amelyet 6 milliárd paraméter felhasználásával képeztek, és amely a GPT-JT modellen alapul, célja a nem megfelelő kérdések kiszűrése vagy a bizonyos témák körüli diskurzusok korlátozása.
Külön figyelmet érdemel a ChatLLaMA projekt, amely egy könyvtárat kínál intelligens asszisztensek létrehozásához, amelyek hasonlítanak a ChatGPT-re. A projekt fejlődése szempontjából fontos a saját hardveren való futtatás lehetősége és a személyre szabott megoldások kifejlesztése, amelyek a szűk szakterületek (például orvostudomány, jog, játékok, tudományos kutatások stb.) lefedésére összpontosítanak. A ChatLLaMA kódja GPLv3 licenc alatt kerül forgalomba.
A projekt támogatja a Meta által javasolt LLaMA (Large Language Model Meta AI) architektúrára épülő modellek használatát. A teljes LLaMA modell 65 milliárd paramétert ölel fel, de a ChatLLaMA számára a 7 és 13 milliárd paraméteres változatok, valamint a GPTJ (6 milliárd), GPTNeoX (1.3 milliárd), 20BOPT (13 milliárd), BLOOM (7.1 milliárd) és Galactica (6.7 milliárd) modellek használata javasolt. A LLaMA modellek kezdetben csak tudósok számára, külön kérésre érhetők el, de mivel a modellek adatainak továbbítására torrentezést használtak, a lelkesedők elkészítettek egy szkriptet, amely lehetővé teszi a modell letöltését bárki számára, aki szeretné.
Forrás: opennet.ru
