Публикуван е OpenChatKit, инструментариум за създаване на чатботове

Представен е отворен инструментариум OpenChatKit, насочен към опростяване на създаването на чатботове за специализирани и общи приложения. Системата е адаптирана за извършване на различни задачи, като отговаряне на въпроси, водене на многопластови диалози, обобщаване, извличане на информация и класификация на текст. Кодът е написан на Python и се разпространява под лицензия Apache 2.0. В проекта е включен готова модел, код за обучение на собствен модел, инструменти за тестване на резултатите от работата на модела, средства за допълване на модела с контекст от външен индекс и адаптиране на основния модел за решение на собствени задачи.

Като основа на бота се предлага базов модел на машинно обучение (GPT-NeoXT-Chat-Base-20B), построен с помощта на езиков модел, обхващащ около 20 милиарда параметри и оптимизиран за разговорна комуникация. За обучението на модела са използвани данни, получени от колекции на проектите LAION, Together и Ontocord.ai.

За разширяване на съществуващата база знания се предлага система, способна да извлича допълнителна информация от външни репозитории, API и други източници. Например, е възможна актуализация на информацията с помощта на данни от Wikipedia и новинарски фийдове. Освен това е наличен модел за модериране, трениран с помощта на 6 милиарда параметри, базиран на модела GPT-JT и предназначен за филтриране на неприемливи въпроси или ограничаване на дискусии по определени теми.

Отделно може да се отбележи проектът ChatLLaMA, предлагащ библиотека за създаване на интелигентни помощници, подобни на ChatGPT. Проектът се развива с оглед на възможността за изпълнение на собствено оборудване и създаване на персонализирани решения, насочени към обхващане на специфични области на знание (например медицина, право, игри, научни изследвания и т.н.). Кодът на ChatLLaMA се предоставя под лицензия GPLv3.

Проектът поддържа използването на модели, базирани на архитектурата LLaMA (Large Language Model Meta AI), предложена от Meta. Пълният модел LLaMA обхваща 65 милиарда параметри, но за ChatLLaMA се препоръчва да се използват варианти с 7 и 13 милиарда параметри или модели GPTJ (6 млрд), GPTNeoX (1.3 млрд), 20BOPT (13 млрд), BLOOM (7.1 млрд) и Galactica (6.7 млрд). Първоначално моделите LLaMA се предоставят само на изследователи по специална заявка, но тъй като за предаване на данните бяха използвани торенти, ентусиасти подготвиха скрипт, позволяващ на всеки, който желае, да изтегли модела.

Източник: opennet.ru