Das Unternehmen Red Hat hat die Verfügbarkeit einer neuen Version des RHEL-Distributionspakets - Red Hat Enterprise Linux AI (RHEL AI) - angekündigt, die speziell für Aufgaben des maschinellen Lernens angepasst wurde und darauf abzielt, die Erstellung von Serverlösungen, die große Sprachmodelle nutzen, zu vereinfachen.
Das Distributionspaket enthält eine Auswahl an Werkzeugen und Frameworks für maschinelles Lernen, Treiber zur Nutzung verschiedener Hardwarebeschleuniger von AMD, Intel und NVIDIA sowie Komponenten zur Ausnutzung der Möglichkeiten von Dell-, Cisco-, HPE-, Lenovo- und SuperMicro-Servern, die für AI-Systeme optimiert sind. Die Builds werden über das Red Hat Customer Portal in Varianten für die direkte Installation auf Servern und für die Bereitstellung in Cloud-Systemen wie AWS und IBM Cloud verteilt.
Die Plattform kann zur Entwicklung von Unternehmens-AI-Anwendungen, zur Implementierung von Inhalten generierenden Diensten, zur Erstellung von Dialogsystemen und zur Integration in Anwendungen von virtuellen Assistenten, die Fähigkeiten unterstützen wie die Beantwortung von Fragen in natürlicher Sprache, das Lösen mathematischer Aufgaben, das Generieren von sinnvollem Text zu einem gegebenen Thema, das Erstellen von Zusammenfassungen von Inhalten, das Korrigieren von Fehlern im Text, das Umschreiben mit anderen Worten und das Unterstützen beim Programmieren in verschiedenen Programmiersprachen sowie das Erstellen von Briefen und Dokumenten nach Vorlage verwendet werden.
In RHEL AI sind Komponenten integriert, um Systeme des maschinellen Lernens auf Basis des großen Sprachmodells Granite zu erstellen, zu testen und auszuführen, das von IBM unter der Apache 2.0-Lizenz veröffentlicht wurde, in der Lage, bei der Textgenerierung bis zu 4.000 Token zu berücksichtigen und 7 Milliarden Parameter umfasst. Für die Interaktion mit dem Granite-Modell ist im Distributionspaket ein offenes Werkzeug InstructLab integriert, das die LAB-Methodologie (Large-scale Alignment for chatBots) unterstützt, um Modelle an die eigenen Bedürfnisse anzupassen und zu optimieren sowie zusätzliches Wissen hinzuzufügen und neue Fähigkeiten in vortrainierten Modellen zu implementieren.
Quelle: opennet.ru
