Ettevõte Red Hat esitles Red Hat Enterprise Linux AI (RHEL AI) ja seda on spetsiaalselt kohandatud masinõppe ülesannete täitmiseks, lihtsustades suurte dialoogimudelite kasutamisel serverilahenduste loomist. Koos sellega tuleb komplekt masinõppe tööriistu ja raamistikku, samuti draivereid, mis toetavad erinevaid riistvarakiirendeid AMD, Intel ja NVIDIA jaoks ning komponente, mis võimaldavad kasutada AI-süsteemidele optimeeritud serverite võimalusi Dellilt, Ciscolt, HPE, Lenovolt ja SuperMicrolt.
RHEL AI on mõeldud suurte keelemudelite Granite, mille avas IBM Apache 2.0 litsentsi alusel, põhjal masinõppetehnoloogia süsteemide arendamiseks, testimiseks ja rakendamiseks. Mudel suudab tekstigeneratsiooni käigus arvesse võtta kuni 4000 tokenit ja katab 7 miljardit parameetrit. Granite mudeliga suhtlemiseks on distributsioonis integreeritud avatud tööriistakomplekt InstructLab, mis toetab LAB (Large-scale Alignment for chatBots) metodoloogiat, et kohandada seda vastavalt oma vajadustele ja optimeerida mudeleid, samuti lisada täiendavat teavet ja arendada uusi oskusi eelnevalt treenitud mudelites.
Platvormi saab kasutada AI-rakenduste arendamiseks ettevõtte vajadustele ning teenuste juurutamiseks sisuloometeenuste, dialoogisüsteemide loomise ja virtuaalsete assistentide rakenduste integreerimiseks, toetades selliseid oskusi nagu loomulikul keelel küsimustele vastamine, matemaatiliste ülesannete lahendamine, antud teema kohta mõtestatud teksti genereerimine, sisu kokkuvõtte koostamine, tekstis vigade parandamine, ümberkirjutamine teiste sõnadega, koodi kirjutamise toetamine erinevates programmeerimiskeeltes, ettekannete ja dokumentide vormimine šabloonide põhjal.

Lisaks tutvustas ettevõte Red Hat uut režiimi süsteemipiltide loomiseks ja haldamiseks Red Hat Enterprise Linuxi baasil — "image mode", mis võimaldab kasutada operatsioonisüsteemi juurutamiseks tööriistu ja tehnoloogiaid, mis on välja töötatud rakenduste konteinerite loomiseks ja käitamiseks. Uus režiim manipuleerib monoliitsete süsteemipiltidega, mis on loodud rpm-ostree tööriistade abil ja uuendatud atomaarsetena ilma eraldiseisvate pakettidena.
Kogumikud võivad luua pilte vormingutes OCI (nagu Dockeris), ISO, QCOW2, AMI, VMI ja VMDK. Pildi sisu valitakse Containerfile'i faili redigeerimise kaudu. Piltide loomiseks ja haldamiseks saavad kasutada standardseid konteinerihaldustööriistu, nagu Podman ja OpenShift Container Platform. Piltide installimiseks saab kasutada nii tavapärast Anaconda installijat kui ka tööriistu bootc-image-builder, mis võimaldab konteineri pildi muundada käivitatavaks kettapildiks. Käivitatavate konteineripiltide uuendamiseks, mis tarnitakse koos Linuxi tuumaga ja mis suudavad käivituda nagu tavalised süsteemi kogud, kasutatakse tööriistu bootc.
Allikas: opennet.ru
