Red Hat heeft de distributie Red Hat Enterprise Linux AI (RHEL AI) geïntroduceerd, die speciaal is aangepast voor het uitvoeren van machine learning-taken en is ontworpen om het creëren van serveroplossingen met behulp van grote dialogmodellen te vereenvoudigen. Het bevat een verzameling tools en frameworks voor machine learning, evenals stuurprogramma's voor het gebruik van verschillende hardwareversnellers van AMD, Intel en NVIDIA, en componenten om de mogelijkheden van servers van Dell, Cisco, HPE, Lenovo en SuperMicro te benutten, geoptimaliseerd voor AI-systemen.
RHEL AI is bedoeld voor de ontwikkeling, het testen en de uitvoering van machine learning-systemen op basis van het grote taalmodel Granite, dat door IBM onder de Apache 2.0-licentie is opengezet en in staat is om tot 4.000 tokens te genereren, met 7 miljard parameters. Voor interactie met het model Granite is er een open toolkit genaamd InstructLab geïntegreerd in de distributie, die de LAB-methodologie (Large-scale Alignment for chatBots) ondersteunt voor het afstemmen op gebruiksbehoeften en het optimaliseren van modellen, evenals het toevoegen van extra kennis en het implementeren van nieuwe vaardigheden in van tevoren getrainde modellen.
Het platform kan worden gebruikt voor het ontwikkelen van AI-toepassingen voor bedrijfsdoeleinden en voor de implementatie van diensten voor contentgeneratie, het creëren van dialogsysteem en de integratie in applicaties van virtuele assistenten, die vaardigheden ondersteunen zoals het beantwoorden van vragen in natuurlijke taal, het oplossen van wiskundige problemen, het genereren van samenhangende tekst over een specifiek onderwerp, het maken van samenvattingen van inhoud, het corrigeren van fouten in tekst, het uitvoeren van herschrijven in andere woorden, en het helpen bij het schrijven van code in verschillende programmeertalen, evenals het opstellen van brieven en documenten volgens een sjabloon.
Bovendien heeft Red Hat een nieuwe modus geïntroduceerd voor het creëren en beheren van systeembeelden op basis van Red Hat Enterprise Linux — de "image mode", waarmee tools en technologieën die worden gebruikt voor het creëren en draaien van applicatiecontainers, kunnen worden toegepast voor het implementeren van het besturingssysteem. Deze nieuwe modus manipuleert monolithische systeembeelden die zijn gemaakt met behulp van de rpm-ostree-tool en worden atomair geüpdatet zonder deze op te splitsen in afzonderlijke pakketten.
Builds kunnen worden gevormd als afbeeldingen in de formaten OCI (zoals in Docker), ISO, QCOW2, AMI, VMI en VMDK. De inhoud van de afbeelding wordt geselecteerd door het bewerken van het Containerfile. Voor het creëren en beheren van afbeeldingen kunnen standaard containerbeheer hulpmiddelen zoals Podman en OpenShift Container Platform worden gebruikt. Voor de installatie van afbeeldingen kan zowel de standaardinstaller Anaconda als de tool bootc-image-builder worden toegepast, die het mogelijk maakt om een containerafbeelding om te zetten in een opstartbaar schijfbeeld. Voor het bijwerken van opstartbare containerafbeeldingen, die worden geleverd met de Linux-kernel en kunnen worden opgestart zoals reguliere systeembuilds, wordt de tool bootc gebruikt.
Bron: opennet.ru
