Das Unternehmen Red Hat hat die Distribution Red Hat Enterprise Linux AI (RHEL AI) vorgestellt, die speziell für die Durchführung von Aufgaben im Bereich maschinelles Lernen entwickelt wurde und darauf abzielt, die Erstellung von Serverlösungen, die große dialogorientierte Modelle nutzen, zu vereinfachen. Sie umfasst eine Auswahl an Werkzeugen und Frameworks für maschinelles Lernen sowie Treiber zur Nutzung verschiedener Hardwarebeschleuniger von AMD, Intel und NVIDIA sowie Komponenten zur Aktivierung der Funktionen von Dell-, Cisco-, HPE-, Lenovo- und SuperMicro-Servern, die für AI-Systeme optimiert sind.
RHEL AI ist für die Entwicklung, das Testen und die Ausführung von maschinellen Lernsystemen auf Basis des großen Sprachmodells Granite vorgesehen, das von IBM unter der Lizenz Apache 2.0 veröffentlicht wurde und in der Lage ist, bei der Textgenerierung bis zu 4.000 Tokens zu berücksichtigen und 7 Milliarden Parameter abzudecken. Zur Interaktion mit dem Granite-Modell wurde im Distribution ein offenes Toolkit namens InstructLab integriert, das die Methodologie LAB (Large-scale Alignment for chatBots) unterstützt, um es an die eigenen Bedürfnisse anzupassen, Modelle zu optimieren und zusätzliches Wissen hinzuzufügen sowie neue Fähigkeiten in vortrainierten Modellen zu implementieren.
Die Plattform kann zur Entwicklung von KI-Anwendungen für Unternehmensbedürfnisse sowie zur Implementierung von Diensten zur Inhaltserstellung, dem Aufbau von Dialogsystemen und der Integration in Anwendungen virtueller Assistenten verwendet werden. Sie unterstützt Fähigkeiten wie die Beantwortung von Fragen in natürlicher Sprache, das Lösen mathematischer Aufgaben, das Generieren von sinnvollem Text zu einem gegebenen Thema, das Erstellen von Zusammenfassungen, das Korrigieren von Fehlern im Text, das Umschreiben mit anderen Worten sowie das Helfen beim Programmieren in verschiedenen Programmiersprachen und das Erstellen von Briefen und Dokumenten nach Vorlage.
Darüber hinaus hat Red Hat einen neuen Modus für die Erstellung und Verwaltung von Systemabbildern auf Basis von Red Hat Enterprise Linux eingeführt – den "image mode". Dieser erlaubt die Nutzung von Werkzeugen und Technologien zur Bereitstellung des Betriebssystems, die auch zum Erstellen und Ausführen von Anwendungscontainern eingesetzt werden. Der neue Modus verarbeitet monolithische Systemabbilder, die mit Hilfe des rpm-ostree-Tools erstellt werden und atomar aktualisiert werden, ohne in einzelne Pakete aufgeteilt zu werden.
Abbilder können in Formaten wie OCI (ähnlich wie bei Docker), ISO, QCOW2, AMI, VMI und VMDK erstellt werden. Der Inhalt des Abbilds wird durch Bearbeitung der Datei Containerfile ausgewählt. Für die Erstellung und Verwaltung von Abbildern können Standard-Containerverwaltungstools wie Podman und OpenShift Container Platform verwendet werden. Zum Installieren der Abbilder kann sowohl der standardmäßige Anaconda-Installer als auch das Tool bootc-image-builder verwendet werden, das es ermöglicht, ein Containerabbild in ein bootfähiges Disk-Image zu konvertieren. Zum Aktualisieren bootfähiger Containerabbilder, die mit dem Linux-Kernel geliefert werden und ähnlich wie konventionelle Systemabbilder geladen werden können, wird das Tool bootc verwendet.
Quelle: opennet.ru
