Společnost Red Hat uvedla distribuci Red Hat Enterprise Linux AI (RHEL AI), která je speciálně přizpůsobena pro úkoly strojového učení a má za cíl zjednodušit vytváření serverových řešení využívajících velké dialogové modely. Obsahuje sbírku nástrojů a rámců pro strojové učení, stejně jako ovladače pro využití různých hardwarových akcelerátorů AMD, Intel a NVIDIA a komponenty pro využití schopností serverů Dell, Cisco, HPE, Lenovo a SuperMicro optimalizovaných pro AI systémy.
RHEL AI je určen pro vývoj, testování a provádění systémů strojového učení na základě velkého jazykového modelu Granite, který byl otevřen společností IBM pod licencí Apache 2.0, schopného při generování textu zohlednit až 4 tisíce tokenů a pokrývat 7 miliard parametrů. Pro interakci s modelem Granite je v distribuci integrován otevřený nástroj InstructLab, který podporuje metodologii LAB (Large-scale Alignment for chatBots) pro přizpůsobení vlastním potřebám a optimalizaci modelů, stejně jako pro přidávání dalších znalostí a realizaci nových dovedností v předem natrenovaných modelech.
Platforma může být použita pro vývoj AI aplikace pro firemní potřeby a pro implementaci služeb pro generaci obsahu, vytváření dialogových systémů a integraci do aplikací virtuálních asistentů, které podporují takové dovednosti, jako je schopnost odpovídat na otázky v přirozeném jazyce, řešit matematické úlohy, generovat smysluplný text na dané téma, vytvářet shrnutí obsahu, opravovat chyby v textu, provádět přepisování jinými slovy, pomáhat při psaní kódu v různých programovacích jazycích, formulovat dopisy a dokumenty podle šablony.
Kromě toho společnost Red Hat představila nový režim pro vytváření a správu systémových obrazů na bázi Red Hat Enterprise Linux – „image mode“, který umožňuje pro nasazení operačního systému používat nástroje a technologie používané pro vytváření a spuštění kontejnerových aplikací. Nový režim manipuluje s monolitickými systémovými obrazy, které jsou vytvořeny pomocí nástroje rpm-ostree a aktualizovány atomicky bez rozdělení na jednotlivé balíčky.
Sestavy mohou být vytvářeny ve formátu obrazů OCI (jako v Dockeru), ISO, QCOW2, AMI, VMI a VMDK. Obsah obrazu se vybírá úpravou souboru Containerfile. Pro vytváření a správu obrazů lze použít standardní nástroje pro správu kontejnerů, jako jsou Podman a OpenShift Container Platform. Pro instalaci obrazů může být použit jak standardní instalátor Anaconda, tak nástroj bootc-image-builder, který umožňuje převést obraz kontejneru na spouštěcí diskový obraz. Pro aktualizaci spouštěcích obrazů kontejnerů, které jsou dodávány s jádrem Linux a mohou se spouštět analogicky s běžnými sestavami systému, se používá nástroj bootc.
Zdroj: opennet.ru
