Společnost Red Hat oznámila připravenost nové verze distribuce RHEL — Red Hat Enterprise Linux AI (RHEL AI), speciálně přizpůsobené pro úlohy strojového učení a navržené tak, aby usnadnilo vytváření serverových řešení využívajících velké jazykové modely.
Distribuce zahrnuje sadu nástrojů a frameworků pro strojové učení, ovladače pro využívání různých hardwarových akcelerátorů AMD, Intel a NVIDIA, a komponenty pro využití schopností serverů Dell, Cisco, HPE, Lenovo a SuperMicro, optimalizovaných pro AI systémy. Verze jsou distribuovány prostřednictvím Red Hat Customer Portal v variantách pro přímou instalaci na servery a pro nasazení v cloudových systémech AWS a IBM Cloud.
Platforma může být použita pro vývoj podnikových AI aplikací, implementaci služeb generování obsahu, vytváření dialogových systémů a integraci do aplikací virtuálních asistentů, které podporují dovednosti jako je schopnost odpovídat na otázky v přirozeném jazyce, řešit matematické úlohy, generovat smysluplný text na dané téma, sestavovat shrnutí obsahu, opravovat chyby v textu, provádět přepisování jinými slovy, pomáhat při psaní kódu v různých programovacích jazycích, vytvářet e-maily a dokumenty podle šablony.
V RHEL AI jsou integrovány komponenty pro vytváření, testování a provozování systémů strojového učení na bázi velkého jazykového modelu Granite, který byl otevřen společností IBM pod licencí Apache 2.0 a je schopen zohlednit při generování textu až 4 tisíce tokenů a pokrýt 7 miliard parametrů. Pro interakci s modelem Granite je do distribuce integrován otevřený nástroj InstructLab, který podporuje metodologii LAB (Large-scale Alignment for chatBots) pro přizpůsobení svým potřebám a optimalizaci modelů, stejně jako pro přidávání dalších znalostí a uvádění nových dovedností do předtrénovaných modelů.
Zdroj: opennet.ru
