Објавен OpenChatKit, комплет алатки за градење чат-ботови

Презентиран е пакетот алатки со отворен код OpenChatKit, чија цел е да се поедностави создавањето чет-ботови за специјализирана и општа употреба. Системот е прилагоден да извршува задачи како што се одговарање на прашања, водење дијалози во повеќе фази, сумирање, извлекување информации и класификација на текст. Кодот е напишан во Python и дистрибуиран под лиценцата Apache 2.0. Проектот вклучува готов модел, код за обука на вашиот модел, алатки за тестирање на резултатите од моделот, алатки за дополнување на моделот со контекст од надворешен индекс и прилагодување на основниот модел за решавање на вашите сопствени проблеми.

Ботот се базира на основен модел за машинско учење (GPT-NeoXT-Chat-Base-20B), изграден со јазичен модел кој покрива околу 20 милијарди параметри и е оптимизиран за разговорна комуникација. За обука на моделот, користени се податоци добиени од збирките на проекти LAION, Together и Ontocord.ai.

За да се прошири постоечката база на знаење, се предлага систем кој може да добие дополнителни информации од надворешни складишта, API и други извори. На пример, можно е да се ажурираат информациите користејќи податоци од Википедија и доводи за вести. Достапен е изборен модел за умереност, обучен на 6 милијарди параметри и заснован на моделот GPT-JT, за филтрирање на несоодветни прашања или ограничување на дискусиите на одредени теми.

Одделно, можеме да го споменеме проектот ChatLLaMA, кој нуди библиотека за создавање интелигентни асистенти слични на ChatGPT. Проектот се развива со око на можноста за работа на сопствена опрема и создавање персонализирани решенија дизајнирани да покриваат тесни области на знаење (на пример, медицина, право, игри, научно истражување итн.). Кодот ChatLLaMA е лиценциран под GPLv3.

Проектот поддржува употреба на модели базирани на архитектурата LLaMA (Large Language Model Meta AI) предложена од Мета. Целосниот LLaMA модел опфаќа 65 милијарди параметри, но за ChatLLaMA се препорачува да се користат опции со 7 и 13 милијарди параметри или GPTJ (6 милијарди), GPTNeoX (1.3 милијарди), 20BOPT (13 милијарди), BLOOM (7.1 милијарди) и Галактика (6.7 милијарди) модели). Првично, моделите LLaMA им беа доставени само на истражувачите по специјално барање, но бидејќи торентите се користеа за доставување податоци, ентузијастите подготвија скрипта што му дозволуваше на секој да го преземе моделот.

Извор: opennet.ru