Red Hat har introducerat distributionen RHEL AI och byggläget RHEL baserat på OSTree och bootc

Red Hat har lanserat distributionen Red Hat Enterprise Linux AI (RHEL AI), som är speciellt anpassad för maskininlärningsuppgifter och syftar till att förenkla skapandet av serverlösningar som använder stora dialogmodeller. Den innehåller en samling verktyg och ramverk för maskininlärning, samt drivrutiner för användning av olika hårdvaruacceleratorer från AMD, Intel och NVIDIA, samt komponenter för att utnyttja möjligheterna hos Dell, Cisco, HPE, Lenovo och SuperMicro-servrar, som är optimerade för AI-system.

RHEL AI är avsedd för utveckling, testning och körning av maskininlärningssystem baserade på den stora språkmodellen Granite, som öppnats av IBM under Apache 2.0-licensen, och som kan ta hänsyn till upp till 4 000 tokens i textgenereringen och täcker 7 miljarder parametrar. För interaktion med modellen Granite har distributionen integrerat det öppna verktyget InstructLab, som stödjer metodologin LAB (Large-scale Alignment for chatBots) för att anpassa och optimera modeller, samt för att lägga till ytterligare kunskap och implementera nya färdigheter i förutbildade modeller.

Plattformen kan användas för att utveckla AI-applikationer för företagsbehov och för att implementera tjänster för innehållsgenerering, skapa dialogsystem och integrera i applikationer för virtuella assistenter som stöder färdigheter såsom att svara på frågor på naturligt språk, lösa matematiska problem, generera meningsfull text om ett angivet ämne, sammanfatta innehåll, korrigera textfel, utföra omformulering, hjälpa till med kodning på olika programmeringsspråk, samt att skapa brev och dokument enligt mall.

Dessutom har Red Hat presenterat ett nytt läge för att skapa och hantera systembilder baserade på Red Hat Enterprise Linux - "image mode", som gör det möjligt att använda verktyg och teknologier för distribution av operativsystemet som tillämpas för att skapa och köra applikationscontainrar. Det nya läget hanterar monolitiska systembilder som skapas med hjälp av rpm-ostree-verktyget och uppdateras atomärt utan att delas upp i separata paket.

Byggnader kan formas som avbilder i formaten OCI (som i Docker), ISO, QCOW2, AMI, VMI och VMDK. Innehållet i avbildningen väljs genom att redigera filen Containerfile. För att skapa och hantera avbilder kan standardverktyg för containerhantering användas, såsom Podman och OpenShift Container Platform. För installation av avbilder kan både den inbyggda installatören Anaconda och verktyget bootc-image-builder användas, vilket gör det möjligt att konvertera en containeravbildning till en startbar diskavbildning. För att uppdatera startbara avbilder av containrar, som levereras med Linux-kärnan och kan startas på samma sätt som vanliga systembyggnader, används verktyget bootc.

Källa: opennet.ru