Firma Red Hat ogłosiła gotowość nowej wersji dystrybucji RHEL – Red Hat Enterprise Linux AI (RHEL AI), specjalnie dostosowanej do zadań uczenia maszynowego i mającej na celu uproszczenie tworzenia rozwiązań serwerowych wykorzystujących duże modele językowe.
W skład dystrybucji wchodzi zestaw narzędzi i frameworków do uczenia maszynowego, sterowniki do wykorzystania różnych akceleratorów sprzętowych AMD, Intel i NVIDIA oraz komponenty do wykorzystania możliwości serwerów Dell, Cisco, HPE, Lenovo i SuperMicro, zoptymalizowanych dla systemów AI. Kompilacje są udostępniane przez Red Hat Customer Portal w wariantach do bezpośredniej instalacji na serwerach oraz do wdrożeń w chmurze AWS i IBM Cloud.
Platforma może być stosowana do opracowywania korporacyjnych aplikacji AI, wdrażania usług generowania treści, tworzenia systemów dialogowych oraz integrowania w aplikacjach wirtualnych asystentów, wspierających takie umiejętności, jak odpowiadanie na pytania w języku naturalnym, rozwiązywanie zadań matematycznych, generowanie sensownego tekstu na dany temat, sporządzanie streszczeń zawartości, poprawianie błędów w tekście, wykonywanie przeróbek tekstu, pomoc w pisaniu kodu w różnych językach programowania, tworzenie listów i dokumentów według wzoru.
W RHEL AI zintegrowano komponenty do tworzenia, testowania i uruchamiania systemów uczenia maszynowego opartych na dużym modelu językowym Granite, udostępnionym przez firmę IBM na licencji Apache 2.0, zdolnym do uwzględnienia przy generowaniu tekstu do 4000 tokenów i obejmującym 7 miliardów parametrów. Do interakcji z modelem Granite w dystrybucji wbudowano otwartą platformę InstructLab, wspierającą metodologię LAB (Large-scale Alignment for chatBots) w celu dostosowania do swoich potrzeb i optymalizacji modeli, a także do dodawania dodatkowej wiedzy i realizacji nowych umiejętności w wstępnie wytrenowanych modelach.
Źródło: opennet.ru
