Red Hat har presenterat sin Red Hat Enterprise-distribution. Linux AI (RHEL AI), som är specifikt anpassad för maskininlärningsuppgifter och utformad för att förenkla skapandet av serverlösningar som använder stora konversationsmodeller. Den inkluderar ett urval av maskininlärningsverktyg och ramverk, samt drivrutiner för olika AMD-, Intel- och NVIDIA-hårdvaruacceleratorer, och komponenter för att utnyttja funktionerna hos Dell-, Cisco-, HPE-, Lenovo- och SuperMicro-servrar som är optimerade för AI-system.
RHEL AI är designad för att utveckla, testa och köra maskininlärningssystem baserade på den stora Granite-språkmodellen, öppen av IBM under Apache 2.0-licensen, som kan ta hänsyn till upp till 4 tusen tokens och täcka 7 miljarder parametrar vid generering av text. För att interagera med Granite-modellen inkluderar distributionen det öppna InstructLab-verktyget, som stöder LAB-metoden (Large-scale Alignment for chatBots) för att anpassa och optimera modeller, samt lägga till ytterligare kunskap och implementera nya färdigheter i förutbildade modeller.
Plattformen kan användas för att utveckla en AI-applikation för företagens behov och för att implementera tjänster för att generera innehåll, skapa dialogsystem och integrera virtuella assistenter i applikationer som stödjer färdigheter som förmågan att svara på frågor på naturligt språk, lösa matematiska problem och generera meningsfull text i ett givet ämne, komponera en sammanfattning av innehållet, rätta fel i texten, skriva om med andra ord, hjälpa till att skriva kod på olika programmeringsspråk, generera brev och dokument med hjälp av en mall.
Dessutom introducerade Red Hat ett nytt läge för att skapa och hantera systemavbildningar baserade på Red Hat Enterprise. Linux — "bildläge", vilket möjliggör användning av verktyg och tekniker som används för att skapa och köra applikationsbehållare för driftsättning av operativsystem. Det nya läget manipulerar monolitiska systemavbildningar som skapats med rpm-ostree-verktygskedjan och uppdaterats atomärt utan att dela upp dem i individuella paket.
Byggen kan skapas som avbildningar i OCI (som Docker), ISO, QCOW2, AMI, VMI och VMDK-format. Avbildningsinnehållet anpassas genom att redigera containerfilen. Standardverktyg för containerhantering, som Podman och OpenShift Container Platform, kan användas för att skapa och hantera avbildningar. Avbildningar kan installeras med antingen standardinstallationsprogrammet för Anaconda eller verktyget bootc-image-builder, som konverterar containeravbildningar till startbara diskavbildningar. För att uppdatera containeravbildningarna som följer med kärnan, Linux och kan laddas på samma sätt som vanliga systemsammansättningar, med hjälp av bootc-verktygslådan.
Källa: opennet.ru
