Red Hat har præsenteret distributionen Red Hat Enterprise Linux AI (RHEL AI), som er specielt tilpasset til at håndtere opgaver inden for maskinlæring og har til formål at forenkle opbygningen af serverløsninger, der bruger store dialogmodeller. Distributionen inkluderer en række værktøjer og rammer til maskinlæring, samt drivere til at udnytte forskellige hardwareacceleratorer fra AMD, Intel og NVIDIA, og komponenter til at aktivere funktionerne på servere fra Dell, Cisco, HPE, Lenovo og SuperMicro, der er optimeret til AI-systemer.
RHEL AI er designet til at udvikle, teste og implementere systemer til maskinlæring baseret på den store sprogmodel Granite, der er åbnet af IBM under Apache 2.0 licensen, og som kan tage op til 4.000 tokens i betragtning under tekstgenerering og dækker 7 milliarder parametre. For at interagere med modellen Granite er der integreret et åbent værktøjssæt, InstructLab, som understøtter metoden LAB (Large-scale Alignment for chatBots) til at tilpasse og optimere modellerne efter egne behov samt til at tilføje ekstra viden og implementere nye færdigheder i foruddannede modeller.
Platformen kan anvendes til at udvikle AI-applikationer til virksomhedens behov og til at implementere tjenester til indholdsproduktion, opbygning af dialogsystemer og integration i applikationer for virtuelle assistenter, der understøtter færdigheder som at kunne svare på spørgsmål på naturligt sprog, løse matematiske opgaver, generere meningsfuld tekst om et givet emne, lave resuméer af indhold, rette tekstfejl, udføre omskrivning med andre ord, hjælpe med kodning på forskellige programmeringssprog, skabe breve og dokumenter efter skabelon.
Desuden har Red Hat introduceret en ny tilstand til oprettelse og administration af systembilleder baseret på Red Hat Enterprise Linux – "image mode", der gør det muligt at bruge de værktøjer og teknologier, der anvendes til oprettelse og kørsel af applikationscontainere, til at implementere operativsystemet. Den nye tilstand håndterer monolitiske systembilleder, der dannes ved hjælp af rpm-ostree værktøjer og opdateres atomisk uden opdeling i separate pakker.
Bygninger kan dannes som billeder i formaterne OCI (som i Docker), ISO, QCOW2, AMI, VMI og VMDK. Indholdet af billedet vælges ved at redigere Containerfile-filen. Standardværktøjer til containeradministration, såsom Podman og OpenShift Container Platform, kan bruges til at oprette og administrere billeder. Billederne kan installeres ved hjælp af den ordinære Anaconda-installationsprogram eller værktøjet bootc-image-builder, der gør det muligt at konvertere et containerbillede til et bootbart diskbillede. Til opdatering af bootbilleder for containere, der leveres med Linux-kernen og kan startes på samme måde som almindelige systembygninger, anvendes bootc-værktøjet.
Kilde: opennet.ru
