La société Red Hat a présenté la distribution Red Hat Enterprise Linux AI (RHEL AI), spécialement adaptée pour exécuter des tâches d'apprentissage automatique et conçue pour faciliter la création de solutions serveur utilisant de grands modèles de dialogue. Elle comprend une sélection d'outils et de frameworks pour l'apprentissage automatique, ainsi que des pilotes pour utiliser divers accélérateurs matériels d'AMD, Intel et NVIDIA, et des composants pour tirer parti des capacités des serveurs Dell, Cisco, HPE, Lenovo et SuperMicro optimisés pour les systèmes d'IA.
RHEL AI est destiné au développement, aux tests et à l'exécution de systèmes d'apprentissage automatique basés sur le grand modèle linguistique Granite, rendu public par IBM sous la licence Apache 2.0, capable de prendre en compte jusqu'à 4 000 jetons lors de la génération de texte et englobant 7 milliards de paramètres. Pour interagir avec le modèle Granite, la distribution intègre un ensemble d'outils open source appelé InstructLab, soutenant la méthodologie LAB (Large-scale Alignment for chatBots) pour l'adapter à des besoins spécifiques et optimiser les modèles, ainsi que pour ajouter des connaissances supplémentaires et mettre en œuvre de nouvelles compétences dans des modèles pré-entraînés.
La plateforme peut être utilisée pour développer des applications d'IA pour des besoins d'entreprise et pour déployer des services de génération de contenu, créer des systèmes de dialogue et intégrer des applications d'assistants virtuels, soutenant des compétences telles que la capacité de répondre à des questions en langage naturel, de résoudre des problèmes mathématiques, de générer du texte cohérent sur un sujet donné, de rédiger un résumé de contenu, de corriger des erreurs dans un texte, d'effectuer des réécritures, ou d'aider à rédiger du code dans divers langages de programmation, de rédiger des lettres et des documents selon un modèle.
De plus, la société Red Hat a présenté un nouveau mode pour créer et gérer des images système basées sur Red Hat Enterprise Linux — le « mode image », qui permet d'utiliser les outils et technologies conçus pour le déploiement de systèmes d'exploitation, ainsi que ceux créés pour le lancement de conteneurs d'applications. Ce nouveau mode manipule des images système monolithiques, créées à l'aide de l'outil rpm-ostree et mises à jour de manière atomique sans décomposer en paquets séparés.
Les images peuvent être créées sous forme d'images dans des formats OCI (comme dans Docker), ISO, QCOW2, AMI, VMI et VMDK. Le contenu de l'image est sélectionné en éditant le fichier Containerfile. Pour créer et gérer des images, des outils standard de gestion de conteneurs comme Podman et OpenShift Container Platform peuvent être utilisés. Pour l'installation des images, on peut utiliser à la fois l'installateur standard Anaconda et l'outil bootc-image-builder, qui permet de convertir une image de conteneur en une image disque amorçable. Pour mettre à jour les images de démarrage des conteneurs, qui sont livrées avec un noyau Linux et capables de démarrer de manière similaire aux assemblages système classiques, l'outil bootc est utilisé.
Source : opennet.ru
