{"id":107177,"date":"2023-03-10T12:48:22","date_gmt":"2023-03-10T10:48:23","guid":{"rendered":"https:\/\/prohoster.info\/?p=107177"},"modified":"2023-03-11T11:43:26","modified_gmt":"2023-03-11T09:43:26","slug":"predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/de\/blog\/news\/predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","title":{"rendered":"OpenXLA wurde vorgestellt, ein Toolkit zur Optimierung und Kompilierung von Modellen des maschinellen Lernens.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Die gr\u00f6\u00dften Unternehmen, die sich mit der Entwicklung im Bereich des maschinellen Lernens besch\u00e4ftigen, haben das Projekt OpenXLA vorgestellt, das auf die gemeinsame Entwicklung von Werkzeugen zur Kompilierung und Optimierung von Modellen f\u00fcr Systeme des maschinellen Lernens abzielt. Unter das Projekt fiel die Entwicklung von Werkzeugen, die es erm\u00f6glichen, die Kompilierung von Modellen, die in den Frameworks TensorFlow, PyTorch und JAX vorbereitet wurden, zu vereinheitlichen, um ein effektives Lernen und eine Ausf\u00fchrung auf verschiedenen GPUs und spezialisierten Beschleunigern zu erm\u00f6glichen. An der gemeinsamen Arbeit an dem Projekt beteiligten sich Unternehmen wie Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba und Amazon. <\/p>\n
Es wird erwartet, dass durch die Zusammenlegung der Anstrengungen f\u00fchrender Forschungsteams und Vertreter der Community die Entwicklung von Systemen des maschinellen Lernens angeregt und das Problem der Fragmentierung der Infrastruktur f\u00fcr verschiedene Frameworks und Hardware gel\u00f6st werden kann. OpenXLA erm\u00f6glicht eine effiziente Unterst\u00fctzung verschiedener Hardware, unabh\u00e4ngig davon, auf welchem Framework das Modell des maschinellen Lernens basiert. Es wird erwartet, dass OpenXLA dazu beitragen kann, die Trainingszeit von Modellen zu verk\u00fcrzen, die Bandbreite zu erh\u00f6hen, Latenzzeiten zu reduzieren, die Kosten f\u00fcr Rechenressourcen zu senken und die Markteinf\u00fchrungszeit zu verk\u00fcrzen.
<\/center> <\/p>\n
OpenXLA besteht aus drei Hauptkomponenten, deren Code unter der Lizenz Apache 2.0 verbreitet wird: <\/p>\n
\n
XLA (Accelerated Linear Algebra) \u2014 ein Compiler, der es erm\u00f6glicht, Modelle des maschinellen Lernens f\u00fcr eine leistungsstarke Ausf\u00fchrung auf verschiedenen Hardwareplattformen, einschlie\u00dflich GPU, CPU und spezialisierten Beschleunigern verschiedener Hersteller, zu optimieren.\n
StableHLO \u2014 eine Spezifikation und Basimplementation eines Sets von Hochsprachlichen Operationen (HLO, High-Level Operations) zur Verwendung in Modellen von maschinellem Lernen. Es dient als Schicht zwischen den Frameworks des maschinellen Lernens und den Compilern, die das Modell f\u00fcr die Ausf\u00fchrung auf spezifischer Hardware transformieren. Schichten zur Generierung von Modellen im StableHLO-Format sind f\u00fcr die Frameworks PyTorch, TensorFlow und JAX vorbereitet. Als Basis f\u00fcr StableHLO wurde das Set MHLO verwendet, das um Unterst\u00fctzung f\u00fcr Serialisierung und Versionierung erweitert wurde.\n
IREE (Intermediate Representation Execution Environment) \u2014 ein Compiler und Runtime, der Modelle des maschinellen Lernens in eine universelle Zwischenrepr\u00e4sentation umwandelt, die auf dem MLIR-Format (Multi-Level Intermediate Representation) des LLVM-Projekts basiert. Zu den Besonderheiten z\u00e4hlen die M\u00f6glichkeit der Vorabkompilierung (ahead-of-time), Unterst\u00fctzung f\u00fcr Flusskontrolle, die Verwendung dynamischer Elemente in Modellen sowie Optimierungen f\u00fcr verschiedene CPU und GPU mit niedrigen Overheadkosten. <\/ul>\n
Die Hauptvorteile des OpenXLA-Toolkits: <\/p>\n
\n
Erzielen optimaler Leistung, ohne dass tiefgreifende Kenntnisse in der programmierung ger\u00e4tespezifischer Codes erforderlich sind. Bereitstellung fertiger Optimierungen, einschlie\u00dflich der Vereinfachung algebraischer Ausdr\u00fccke, effizienter Speichereinteilung und der Planung der Ausf\u00fchrung unter Ber\u00fccksichtigung der Reduzierung des maximalen Speicherverbrauchs und von \u00dcberlastungen.\n
Vereinfachung der Skalierung und Parallelisierung von Berechnungen. Der Entwickler muss lediglich Annotationen f\u00fcr eine Teilmenge kritischer Tensoren hinzuf\u00fcgen, auf deren Grundlage der Compiler automatisch Code f\u00fcr parallele Berechnungen generieren kann.\n
Gew\u00e4hrleistung der Portabilit\u00e4t durch Unterst\u00fctzung verschiedener Hardwareplattformen, wie AMD- und NVIDIA-GPUs, CPUs auf Basis der Architekturen x86 und ARM, ML-Beschleuniger von Google TPU, IPU AWS Trainium und Inferentia, Graphcore und Cerebras Wafer-Scale Engine.\n
Unterst\u00fctzung f\u00fcr die Anbindung von Erweiterungen zur Implementierung zus\u00e4tzlicher Funktionen, wie die Unterst\u00fctzung der Programmierung von primitives f\u00fcr tiefes maschinelles Lernen mit CUDA, HIP, SYCL, Triton und anderen Sprachen f\u00fcr parallele Berechnungen. M\u00f6glichkeit der manuellen Feinabstimmung von Engp\u00e4ssen in Modellen. <\/ul>\n
![\"OpenXLA](\"\/wp-content\/uploads\/2023\/03\/b684d2f57def6348f6a0037c36baf717.jpg\")
<\/center> <\/p>\n