Das ZLUDA-Tool wurde veröffentlicht, das es ermöglicht, CUDA-Anwendungen auf AMD-GPUs auszuführen.

Das ZLUDA-Projekt hat eine offene Implementierung der CUDA-Technologie für AMD-GPUs vorbereitet, die es ermöglicht, unveränderte CUDA-Anwendungen mit einer Leistung auszuführen, die der von Anwendungen ähnelt, die ohne Layer ausgeführt werden. Das veröffentlichte Tool gewährleistet binäre Kompatibilität mit bestehenden CUDA-Anwendungen, die mit dem CUDA-Compiler für NVIDIA-GPUs erstellt wurden. Die Implementierung funktioniert über den von AMD entwickelten ROCm-Stack und die HIP-Runtime (Heterogeneous-computing Interface for Portability). Der Code des Projekts ist in Rust geschrieben und wird unter den Lizenzen MIT und Apache 2.0 veröffentlicht. Der Betrieb unter Linux und Windows wird unterstützt.

Der Layer zur Organisation der CUDA-Ausführung auf Systemen mit AMD-GPUs wurde in den letzten zwei Jahren entwickelt, hat jedoch eine längere Geschichte und wurde ursprünglich zur Unterstützung von CUDA auf Intel-GPUs erstellt. Die Änderung der Unterstützungspolitik für GPUs erklärt sich dadurch, dass der ursprüngliche ZLUDA-Entwickler Mitarbeiter von Intel war, das Unternehmen jedoch 2021 die Möglichkeit, CUDA-Anwendungen auf Intel-GPUs auszuführen, als nicht geschäftlich interessant erachtete und die Förderung der Initiative nicht weiter verfolgte.

Anfang 2022 verliess der Entwickler Intel und schloss einen Vertrag mit AMD ab, um einen Layer zur Kompatibilität mit CUDA zu entwickeln. AMD bat während der Entwicklung, das Interesse von AMD am ZLUDA-Projekt nicht öffentlich zu machen und keine Commits im öffentlichen ZLUDA-Repository vorzunehmen. Nach zwei Jahren entschied AMD, dass die Ausführung von CUDA-Anwendungen auf AMD-GPUs für das Geschäft nicht von Interesse sei, was gemäß den Vertragsbedingungen dem Entwickler ermöglichte, seine Arbeiten offenzulegen. Da die GPU-Hersteller die Finanzierung des Projekts eingestellt haben, hängt dessen Zukunft nun vom Interesse der Gemeinschaft und von Angeboten zur Zusammenarbeit anderer Firmen ab. Ohne externe Unterstützung wird das Projekt möglicherweise nur in Bereichen weiterentwickelt, die für den Autor persönlich von Interesse sind, wie DLSS (Deep Learning Super Sampling).

In der aktuellen Form wird das Qualitätsniveau der Implementierung als Alpha-Version eingeschätzt. Dennoch kann ZLUDA bereits zur Ausführung vieler CUDA-Anwendungen verwendet werden, einschließlich Geekbench, 3DF Zephyr, Blender, Reality Capture, LAMMPS, NAMD, waifu2x, OpenFOAM und Arnold. Es wird eine minimale Unterstützung für die Primitives und Bibliotheken cuDNN, cuBLAS, cuSPARSE, cuFFT, NCCL und NVML gewährleistet.

Der erste Start von CUDA-Anwendungen unter ZLUDA erfolgt mit spürbaren Verzögerungen, da ZLUDA den GPU-Code kompiliert. Bei nachfolgenden Starts gibt es keine Verzögerung mehr, da der kompilierte Code im Cache gespeichert wird. Während der Ausführung des kompilierten Codes ist die Leistung nahezu nativ. Bei der Durchführung des Geekbench-Pakets auf der GPU AMD Radeon 6800 XT zeigte die Testversion für CUDA, die mit ZLUDA durchgeführt wurde, eine deutlich höhere Leistung als die Version auf Basis von OpenCL.

Die Unterstützung der offiziellen CUDA Driver API und der durch Reverse Engineering erforschten Teile der nicht dokumentierten CUDA API ist in ZLUDA durch den Austausch von Funktionsaufrufen mit ähnlichen Funktionen umgesetzt, die im HIP-Runtime bereitgestellt werden, welches CUDA sehr ähnlich ist. Beispielsweise wird die Funktion cuDeviceGetAttribute() durch hipDeviceGetAttribute() ersetzt. Auf ähnliche Weise wird die Kompatibilität mit NVIDIA-Bibliotheken wie NVML, cuBLAS und cuSPARSE gewährleistet – für solche Bibliotheken werden in ZLUDA Übersetzungsbibliotheken mit demselben Namen und derselben Funktionalität bereitgestellt, die auf ähnlichen Bibliotheken von AMD basieren.

Der GPU-Code von Anwendungen, der in das PTX-Format (Parallel Thread Execution) kompiliert wird, wird zunächst von einem speziellen Compiler in das Intermediate Representation (IR) von LLVM übersetzt, auf dessen Grundlage der Binärcode für die AMD-GPU generiert wird.

Quelle: opennet.ru