Das Unternehmen Red Hat hat die Distribution Red Hat Enterprise Linux AI (RHEL AI) vorgestellt, die speziell für die Durchführung von Aufgaben im Bereich des maschinellen Lernens angepasst wurde und die Erstellung von Serverlösungen vereinfachen soll, die große Dialogmodelle verwenden. Sie enthält eine Auswahl an Werkzeugen und Frameworks für maschinelles Lernen sowie Treiber für verschiedene Hardwarebeschleuniger von AMD, Intel und NVIDIA sowie Komponenten zur Nutzung der Möglichkeiten von Dell-, Cisco-, HPE-, Lenovo- und SuperMicro-Servern, die für AI-Systeme optimiert sind.
RHEL AI ist für die Entwicklung, das Testen und die Ausführung von Systemen für maschinelles Lernen auf der Basis des großen Sprachmodells Granite ausgelegt, das von IBM unter der Apache 2.0-Lizenz geöffnet wurde. Es kann bei der Textgenerierung bis zu 4.000 Token berücksichtigen und umfasst 7 Milliarden Parameter. Um mit dem Granite-Modell zu interagieren, ist im Distributionspaket das offene Tool InstructLab integriert, das die LAB-Methodologie (Large-scale Alignment for chatBots) unterstützt, um Anpassungen an die eigenen Bedürfnisse vorzunehmen und Modelle zu optimieren sowie zusätzliches Wissen hinzuzufügen und neue Fähigkeiten in vortrainierte Modelle zu implementieren.
Die Plattform kann zur Entwicklung von AI-Anwendungen für Unternehmenszwecke sowie zur Implementierung von Diensten für die Inhaltserzeugung, die Erstellung von Dialogsystemen und die Integration in Anwendungen von virtuellen Assistenten verwendet werden, die Fähigkeiten wie die Beantwortung von Fragen in natürlicher Sprache, die Lösung mathematischer Probleme, die Erstellung von sinnvollem Text zu einem bestimmten Thema, die Zusammenfassung von Inhalten, die Korrektur von Textfehlern, das Umschreiben in anderen Worten sowie die Unterstützung beim Schreiben von Code in verschiedenen Programmiersprachen und das Erstellen von Briefen und Dokumenten nach Vorlage bieten.
Außerdem hat das Unternehmen Red Hat einen neuen Modus zur Erstellung und Verwaltung von Systemabbildern auf Basis von Red Hat Enterprise Linux eingeführt – den "Image-Modus", der es ermöglicht, Werkzeuge und Technologien zu nutzen, die zur Bereitstellung von Betriebssystemen verwendet werden, die für die Erstellung und Ausführung von Anwendungscontainern eingesetzt werden. Der neue Modus manipuliert monolithische Systemabbilder, die mit Hilfe des rpm-ostree-Tools erstellt und atomar aktualisiert werden, ohne in separate Pakete unterteilt zu werden.
Abbildungen können in Formaten wie OCI (wie bei Docker), ISO, QCOW2, AMI, VMI und VMDK erstellt werden. Der Inhalt des Abbilds wird durch die Bearbeitung der Containerfile ausgewählt. Zum Erstellen und Verwalten von Abbildungen können Standardwerkzeuge zur Verwaltung von Containern wie Podman und OpenShift Container Platform verwendet werden. Zum Installieren von Abbildungen kann sowohl der integrierte Installer Anaconda als auch das Werkzeug bootc-image-builder verwendet werden, das es ermöglicht, ein Containerabbild in ein bootfähiges Disk-Image zu konvertieren. Zum Aktualisieren von Container-Bootabbildern, die mit dem Linux-Kernel geliefert werden und wie normale Systemabbilder bootfähig sind, kommt das Werkzeug bootc zum Einsatz.
Quelle: opennet.ru
