La société Red Hat a annoncé la disponibilité d'une nouvelle édition de la distribution RHEL — Red Hat Enterprise Linux AI (RHEL AI), spécialement conçue pour répondre aux besoins de l'apprentissage automatique et visant à simplifier la création de solutions serveur utilisant de grands modèles linguistiques.
La distribution comprend un ensemble d'outils et de cadres pour l'apprentissage automatique, des pilotes pour utiliser divers accélérateurs matériels AMD, Intel et NVIDIA, ainsi que des composants pour exploiter les capacités des serveurs Dell, Cisco, HPE, Lenovo et SuperMicro, optimisés pour les systèmes AI. Les versions sont disponibles via le portail clients de Red Hat sous forme d'installations directes sur les serveurs et pour le déploiement dans les systèmes cloud AWS et IBM Cloud.
La plateforme peut être utilisée pour développer des applications AI d'entreprise, mettre en œuvre des services de génération de contenu, créer des systèmes de dialogue et s'intégrer dans des applications d'assistants virtuels, prenant en charge des compétences telles que répondre à des questions en langage naturel, résoudre des problèmes mathématiques, générer du texte significatif sur un sujet donné, résumer du contenu, corriger des erreurs dans le texte, effectuer du réécriture autrement dit, aider à la rédaction de code dans différents langages de programmation, et formuler des lettres et des documents selon un modèle.
RHEL AI intègre des composants pour créer, tester et exécuter des systèmes d'apprentissage automatique à partir du grand modèle de langage Granite, mis à disposition par IBM sous la licence Apache 2.0, capable de prendre en compte jusqu'à 4 000 jetons dans la génération de texte et englobant 7 milliards de paramètres. Pour interagir avec le modèle Granite, la distribution intègre l'outil open source InstructLab, qui prend en charge la méthodologie LAB (Large-scale Alignment for chatBots) pour l'adapter à ses besoins et optimiser les modèles, ainsi que pour ajouter des connaissances supplémentaires et réaliser de nouvelles compétences dans les modèles pré-entraînés.
Source : opennet.ru
