Firma Red Hat wprowadziła dystrybucję Red Hat Enterprise Linux AI (RHEL AI), która została specjalnie dostosowana do realizacji zadań związanych z uczeniem maszynowym i ma na celu uproszczenie tworzenia rozwiązań serwerowych wykorzystujących duże modele dialogowe. Zawiera zestaw narzędzi i frameworków do uczenia maszynowego, a także sterowniki do obsługi różnych akceleratorów sprzętowych AMD, Intel i NVIDIA oraz komponenty do wykorzystania możliwości serwerów Dell, Cisco, HPE, Lenovo i SuperMicro, zoptymalizowanych dla systemów AI.
RHEL AI jest przeznaczony do rozwoju, testowania i uruchamiania systemów uczenia maszynowego opartych na dużym modelu językowym Granite, udostępnionym przez firmę IBM na licencji Apache 2.0, zdolnym do uwzględniania przy generowaniu tekstu do 4 tysięcy tokenów i obejmującym 7 miliardów parametrów. W dystrybucji zintegrowano otwarte narzędzie InstructLab, które wspiera metodologię LAB (Large-scale Alignment for chatBots) do dostosowywania pod własne potrzeby i optymalizacji modeli, a także do dodawania dodatkowej wiedzy i realizacji nowych umiejętności wstępnie wytrenowanych modeli.
Platforma może być wykorzystywana do tworzenia aplikacji AI dla potrzeb przedsiębiorstw oraz do wprowadzania usług generujących treści, tworzenia systemów dialogowych i integracji z aplikacjami wirtualnych asystentów, które wspierają takie umiejętności, jak odpowiadanie na pytania w języku naturalnym, rozwiązywanie zadań matematycznych, generowanie sensownego tekstu na zadany temat, sporządzanie streszczeń treści, poprawianie błędów w tekstach, realizowanie przeredagowywania innymi słowy, pomoc w pisaniu kodu w różnych językach programowania, tworzenie pism i dokumentów według szablonu.
Ponadto firma Red Hat zaprezentowała nowy tryb do tworzenia i zarządzania obrazami systemowymi opartymi na Red Hat Enterprise Linux – „tryb obrazu”, który pozwala na wykorzystanie narzędzi i technologii stosowanych do uruchamiania kontenerów aplikacji w celu wdrażania systemu operacyjnego. Nowy tryb manipuluje monolitycznymi obrazami systemowymi, które są tworzone za pomocą narzędzia rpm-ostree i aktualizowane atomowo, bez dzielenia na osobne pakiety.
Obrazy mogą być tworzone w formatach OCI (jak w Dockerze), ISO, QCOW2, AMI, VMI oraz VMDK. Zawartość obrazu wybierana jest poprzez edytowanie pliku Containerfile. Do tworzenia i zarządzania obrazami można używać standardowych narzędzi do zarządzania kontenerami, takich jak Podman i OpenShift Container Platform. Do instalacji obrazów można zastosować zarówno standardowy instalator Anaconda, jak i narzędzie bootc-image-builder, które pozwala na konwersję obrazu kontenera na bootowalny obraz dysku. Do aktualizacji bootowalnych obrazów kontenerów, które dostarczane są z jądrem Linux i mogą startować analogicznie do standardowych wersji systemu, wykorzystuje się narzędzie bootc.
Źródło: opennet.ru
