Red Hat har annonceret, at en ny version af distributionssystemet RHEL - Red Hat Enterprise Linux AI (RHEL AI) - er klar. Denne version er specielt tilpasset til opgaver inden for maskinlæring og er designet til at forenkle oprettelsen af serverløsninger, der bruger store sprogmodeller.
Distributionssystemet inkluderer en samling af værktøjer og rammer til maskinlæring, drivere til brug af forskellige hardwareacceleratorer fra AMD, Intel og NVIDIA, samt komponenter til udnyttelse af servere fra Dell, Cisco, HPE, Lenovo og SuperMicro, som er optimeret til AI-systemer. Pakkerne distribueres via Red Hat Customer Portal i versioner til direkte installation på servere samt til udrulning i cloudsystemer som AWS og IBM Cloud.
Platformen kan anvendes til udvikling af virksomheders AI-applikationer, implementering af indholdsgenereringstjenester, oprettelse af dialogsystemer og integration i applikationer til virtuelle assistenter, som understøtter færdigheder såsom at kunne besvare spørgsmål på naturligt sprog, løse matematiske opgaver, generere meningsfuld tekst om et givet emne, udarbejde resuméer af indhold, rette fejl i tekst, foretage omskrivning med andre ord, assistere i kodning på forskellige programmeringssprog samt formulere breve og dokumenter efter skabelon.
I RHEL AI er der integreret komponenter til at oprette, teste og udføre maskinlæringssystemer baseret på den store sprogmodel Granite, som er open source og udgivet af IBM under Apache 2.0-licensen. Denne model kan tage højde for op til 4000 tokens, og den dækker 7 milliarder parametre. For at interagere med modellen Granite, er der integreret et åbent værktøjssæt, InstructLab, i distributionssystemet, som understøtter metoden LAB (Large-scale Alignment for chatBots) til at tilpasse sig ens behov og optimere modellerne samt tilføje yderligere viden og implementere nye færdigheder i forudtrænede modeller.
Kilde: opennet.ru
