Das ZLUDA-Toolkit wurde veröffentlicht, mit dem Sie CUDA-Anwendungen auf AMD-GPUs ausführen können

Das ZLUDA-Projekt hat eine Open-Source-Implementierung der CUDA-Technologie für AMD-GPUs entwickelt. Diese ermöglicht die Ausführung unveränderter CUDA-Anwendungen mit einer Performance, die nahezu der von Anwendungen ohne Zwischenspeicherung entspricht. Das veröffentlichte Toolkit gewährleistet Binärkompatibilität mit bestehenden CUDA-Anwendungen, die mit dem CUDA-Compiler für NVIDIA-GPUs erstellt wurden. Die Implementierung basiert auf AMDs ROCm-Stack und der HIP-Laufzeitumgebung (Heterogeneous Computing Interface for Portability). Der Projektcode ist in Rust geschrieben und wird unter den Lizenzen MIT und Apache 2.0 veröffentlicht. Linux и Windows.

Die Ebene zur Organisation der CUDA-Arbeit auf Systemen mit AMD-GPUs wurde in den letzten zwei Jahren entwickelt, das Projekt hat jedoch eine längere Geschichte und wurde ursprünglich geschaffen, um die CUDA-Arbeit auf Intel-GPUs sicherzustellen. Die Änderung in der GPU-Unterstützungsrichtlinie erklärt sich aus der Tatsache, dass der ZLUDA-Entwickler zunächst ein Intel-Mitarbeiter war, dieses Unternehmen jedoch im Jahr 2021 die Bereitstellung der Möglichkeit, CUDA-Anwendungen auf Intel-GPUs auszuführen, für geschäftsuninteressant hielt und keine Beschleunigung vornahm die Entwicklung der Initiative.

Anfang 2022 verließ der Entwickler Intel und wurde von AMD beauftragt, eine Schicht für CUDA-Kompatibilität zu entwickeln. Während der Entwicklung bat AMD darum, AMDs Interesse am ZLUDA-Projekt nicht bekannt zu geben und keine Verpflichtungen gegenüber dem öffentlichen ZLUDA-Repository einzugehen. Zwei Jahre später entschied AMD, dass die Ausführung von CUDA-Anwendungen auf AMD-GPUs für Unternehmen nicht von Interesse sei, was es dem Entwickler laut Vertragsbedingungen ermöglichte, seine Arbeit zu entdecken. Da GPU-Hersteller die Finanzierung des Projekts eingestellt haben, hängt sein Schicksal nun vom Interesse der Community und dem Eingang von Kooperationsvorschlägen anderer Unternehmen ab. Ohne externe Unterstützung wird sich das Projekt nur in Richtungen entwickeln können, die für den Autor persönlich interessant sind, wie beispielsweise DLSS (Deep Learning Super Sampling).

In der aktuellen Form wird das Qualitätsniveau der Implementierung als Alpha-Version bewertet. ZLUDA kann jedoch bereits zum Ausführen vieler CUDA-Anwendungen verwendet werden, darunter Geekbench, 3DF Zephyr, Blender, Reality Capture, LAMMPS, NAMD, waifu2x, OpenFOAM und Arnold. Bietet minimale Unterstützung für cuDNN-, cuBLAS-, cuSPARSE-, cuFFT-, NCCL- und NVML-Grundelemente und -Bibliotheken.

Der erste Start von CUDA-Anwendungen, auf denen ZLUDA ausgeführt wird, erfolgt mit merklichen Verzögerungen, da ZLUDA GPU-Code kompiliert. Bei nachfolgenden Durchläufen gibt es keine solche Verzögerung, da der kompilierte Code im Cache gespeichert wird. Beim Ausführen von kompiliertem Code ist die Leistung nahezu nativ. Beim Ausführen von Geekbench auf einer AMD Radeon 6800 XT GPU schnitt die ZLUDA-Version der CUDA-Benchmark-Suite deutlich besser ab als die OpenCL-Version.

Die Unterstützung der offiziellen CUDA-Treiber-API und des rückentwickelten Teils der undokumentierten CUDA-API wird in ZLUDA implementiert, indem Funktionsaufrufe durch ähnliche Funktionen ersetzt werden, die in der HIP-Laufzeit bereitgestellt werden, die in vielerlei Hinsicht CUDA ähnelt. Beispielsweise wird die Funktion cuDeviceGetAttribute() durch hipDeviceGetAttribute() ersetzt. Die Kompatibilität mit NVIDIA-Bibliotheken wie NVML, cuBLAS und cuSPARSE wird auf ähnliche Weise sichergestellt – für solche Bibliotheken stellt ZLUDA Übersetzungsbibliotheken mit demselben Namen und demselben Funktionsumfang bereit, die als Add-Ons über ähnliche AMD-Bibliotheken erstellt werden.

Der in die PTX-Darstellung (Parallel Thread Execution) kompilierte GPU-Anwendungscode wird zunächst von einem speziellen Compiler in die LLVM-IR-Zwischendarstellung übersetzt, auf deren Grundlage Binärcode für AMD-GPUs generiert wird.

Source: opennet.ru