Red Hat hat die Verfügbarkeit einer neuen Version der Distribution RHEL — Red Hat Enterprise Linux AI (RHEL AI) bekannt gegeben, die speziell für Machine-Learning-Anwendungen entwickelt wurde und die Erstellung von Serverlösungen vereinfachen soll, die große Sprachmodelle nutzen.
Die Distribution umfasst eine Auswahl an Tools und Frameworks für maschinelles Lernen, Treiber für verschiedene Hardwarebeschleuniger von AMD, Intel und NVIDIA sowie Komponenten zur Nutzung der Funktionen von Servern von Dell, Cisco, HPE, Lenovo und SuperMicro, die für AI-Systeme optimiert sind. Die Builds sind über das Red Hat Customer Portal in Versionen für die direkte Installation auf Servern und für die Bereitstellung in den Cloud-Systemen AWS und IBM Cloud verfügbar.
Die Plattform kann zur Entwicklung von Unternehmens-AI-Anwendungen, zur Implementierung von Content-Generierungsdiensten, zur Erstellung von Dialogsystemen und zur Integration in Anwendungen von virtuellen Assistenten verwendet werden, die über Fähigkeiten verfügen, die es ihnen ermöglichen, Fragen in natürlicher Sprache zu beantworten, mathematische Probleme zu lösen, sinnvolle Texte zu einem bestimmten Thema zu generieren, Inhalte zusammenzufassen, Fehler im Text zu korrigieren, umzuformulieren, beim Programmieren in verschiedenen Programmiersprachen zu helfen und Briefe sowie Dokumente nach Vorlagen zu erstellen.
In RHEL AI sind Komponenten integriert, die es ermöglichen, Systeme für maschinelles Lernen auf der Basis des großen Sprachmodells Granite zu erstellen, zu testen und auszuführen. Dieses Modell wurde von IBM unter der Apache 2.0-Lizenz veröffentlicht und kann bei der Textgenerierung bis zu 4.000 Token berücksichtigen und umfasst 7 Milliarden Parameter. Zur Interaktion mit dem Granite-Modell enthält die Distribution das Open-Source-Toolkit InstructLab, das die LAB-Methodologie (Large-scale Alignment for chatBots) unterstützt. Damit können Sie das Modell an Ihre Bedürfnisse anpassen, optimieren, zusätzliches Wissen einfügen und neue Fähigkeiten in vortrainierte Modelle implementieren.
Quelle: opennet.ru
