Red Hat on kuulutanud välja uue versiooni RHEL-i jaotusest — Red Hat Enterprise Linux AI (RHEL AI), mis on spetsiaalselt kohandatud masinõppe ülesannete täitmiseks ja eesmärgiga lihtsustada serverilahenduste loomist, mis kasutavad suuri keelemudeleid.
Jaotuse koosseisus on masinõppe tööriistade ja raamistikute kogum, draiverid erinevate riistvarakiirendite, sealhulgas AMD, Intel ja NVIDIA, kasutamiseks ning komponendid Dell, Cisco, HPE, Lenovo ja SuperMicro serverite rakendamiseks, mis on optimeeritud AI-süsteemide jaoks. Kogumid on saadaval Red Hat Customer Portali kaudu serveritele otseinstallimiseks ja pilvesüsteemides, sealhulgas AWS ja IBM Cloud, kasutamiseks.
Platvormi saab kasutada ettevõtte AI-rakenduste arendamiseks, sisu genereerimise teenuste rakendamiseks, dialoogisüsteemide loomiseks ja integreerimiseks virtuaalsete assistentide rakendustesse, mis toetavad selliseid oskusi nagu küsimustele loomulikus keeles vastamine, matemaatiliste ülesannete lahendamine, antud teema kohta mõistliku teksti genereerimine, sisu kokkuvõtete koostamine, teksti vigade parandamine, ümberkirjutamine teiste sõnadega, koodikirjutamise abistamine erinevates programmeerimiskeeltes, kirjade ja dokumentide vormimine mallide alusel.
RHEL AI-s on integreeritud komponendid, mis võimaldavad luua, testida ja teostada suurte keelemudelite põhjal masinõppesüsteeme, mille mudel Granite, mille IBM avas Apache 2.0 litsentsi all, suudab tekstigeneratsioonis arvesse võtta kuni 4000 tokenit ja katab 7 miljardit parameetrit. Granite mudeliga suhtlemiseks on distributsioonis integreeritud avatud tööriistakomplekt InstructLab, mis toetab LAB (Large-scale Alignment for chatBots) metoodikat, et kohandada vastavalt vajadustele ja optimeerida mudeleid, samuti lisada täiendavaid teadmisi ja rakendada uusi oskusi eelnevalt treenitud mudelitesse.
Allikas: opennet.ru
