Spoločnosť Red Hat oznámila, že nový variant distribúcie RHEL — Red Hat Enterprise Linux AI (RHEL AI) je pripravený na vykonávanie úloh strojového učenia a má za cieľ zjednodušiť vytváranie serverových riešení využívajúcich veľké jazykové modely.
Distribúcia obsahuje súbor nástrojov a rámcov pre strojové učenie, ovládače pre použitie rôznych hardvérových akcelerátorov AMD, Intel a NVIDIA, ako aj komponenty pre využitie schopností serverov Dell, Cisco, HPE, Lenovo a SuperMicro, optimalizovaných pre AI systémy. Balíky sú dostupné cez Red Hat Customer Portal v variantách pre priamu inštaláciu na servery a pre nasadenie v cloudových systémoch AWS a IBM Cloud.
Platforma môže byť použitá na vývoj firemných AI aplikácií, nasadenie služieb generovania obsahu, vytváranie dialógových systémov a integráciu do aplikácií virtuálnych asistentov, ktoré podporujú zručnosti ako je odpovedanie na otázky v prirodzenom jazyku, riešenie matematických úloh, generovanie zmysluplného textu na danú tému, vytváranie zhrnutí obsahu, oprava chýb v texte, vykonávanie rewriting, pomáhanie pri písaní kódu v rôznych programovacích jazykoch, formovanie písmen a dokumentov podľa šablóny.
V RHEL AI sú integrované komponenty na vytváranie, testovanie a spúšťanie systémov strojového učenia založených na veľkom jazykovom modeli Granite, ktorý otvorila spoločnosť IBM pod licenciou Apache 2.0. Tento model dokáže pri generovaní textu zohľadniť až 4 tisíce tokenov a pokrýva 7 miliárd parametrov. Pre interakciu s modelom Granite je v distribúcii integrovaný otvorený nástroj InstructLab, ktorý podporuje metodológiu LAB (Large-scale Alignment for chatBots) na prispôsobenie a optimalizáciu modelov, ako aj na pridávanie dodatočných znalostí a implementáciu nových zručností do predtým vyškolených modelov.
Zdroj: opennet.ru
