Został zaprezentowany otwarty zestaw narzędzi OpenChatKit, mający na celu uproszczenie tworzenia chatbotów do zastosowań specjalistycznych i ogólnych. System jest przystosowany do realizacji takich zadań, jak udzielanie odpowiedzi na pytania, prowadzenie wieloetapowych dialogów, podsumowywanie, wydobywanie informacji oraz klasyfikacja tekstu. Kod napisany jest w języku Python i jest udostępniany na licencji Apache 2.0. W skład projektu wchodzi gotowy model, kod do treningu własnego modelu, narzędzia do testowania wyników działania modelu, a także środki do uzupełniania modelu kontekstem z zewnętrznego indeksu oraz dostosowywania podstawowego modelu do realizacji własnych zadań.
Jako bazę bota proponuje się podstawowy model uczenia maszynowego (GPT-NeoXT-Chat-Base-20B), zbudowany przy pomocy modelu językowego, który obejmuje około 20 miliardów parametrów i jest zoptymalizowany do komunikacji konwersacyjnej. Do szkolenia modelu wykorzystano dane pochodzące z kolekcji projektów LAION, Together oraz Ontocord.ai.
Aby rozszerzyć istniejącą bazę wiedzy, proponuje się system zdolny do wydobywania dodatkowych informacji z zewnętrznych repozytoriów, API i innych źródeł. Na przykład, możliwa jest aktualizacja informacji z wykorzystaniem danych z Wikipedii oraz serwisów informacyjnych. Dodatkowo dostępny jest model do moderacji, wytrenowany z użyciem 6 miliardów parametrów, oparty na modelu GPT-JT i przeznaczony do filtrowania nieakceptowalnych pytań lub ograniczania dyskusji w ramach określonych tematów.
Osobno warto wspomnieć o projekcie ChatLLaMA, który oferuje bibliotekę do tworzenia inteligentnych asystentów podobnych do ChatGPT. Projekt rozwija się z myślą o możliwości uruchamiania na własnym sprzęcie oraz tworzenia spersonalizowanych rozwiązań, które mają na celu obejmowanie wąskich dziedzin wiedzy (na przykład medycyna, prawo, gry, badania naukowe itp.). Kod ChatLLaMA jest udostępniany na licencji GPLv3.
Projekt wspiera korzystanie z modeli bazujących na architekturze LLaMA (Large Language Model Meta AI) zaproponowanej przez firmę Meta. Pełny model LLaMA obejmuje 65 miliardów parametrów, ale dla ChatLLaMA zaleca się korzystanie z wersji z 7 i 13 miliardami parametrów lub modeli GPTJ (6 mld), GPTNeoX (1,3 mld), 20BOPT (13 mld), BLOOM (7,1 mld) i Galactica (6,7 mld). Oryginalnie modele LLaMA są dostępne tylko dla badaczy na specjalne zaproszenie, ale ponieważ do dostarczenia danych użyto torrentów, entuzjaści przygotowali skrypt, który umożliwia pobranie modelu każdemu chętnemu.
Źródło: opennet.ru
