Das ZLUDA-Projekt wird in Form einer universellen CUDA-Implementierung weiterentwickelt.

Andrzej Janik hat einen Plan für die weitere Entwicklung des Projekts ZLUDA vorgestellt, das eine offene Implementierung der CUDA-Technologie vorantreibt. Während die erste Version von ZLUDA darauf abzielte, eine CUDA-Implementierung für Intel GPUs zu schaffen, und die zweite für AMD GPUs, wird die jetzt präsentierte dritte Version auf die Entwicklung einer universellen CUDA-Implementierung für alle GPUs abzielen, die nicht von NVIDIA stammen. Ziel des Projekts ZLUDA ist es, Systemen mit GPUs, die nicht von NVIDIA stammen, die Möglichkeit zu geben, unmodifizierte CUDA-Anwendungen mit einer Leistung auszuführen, die der Leistung von Anwendungen, die ohne Schichten laufen, nahekommt. Der Code des Projekts wird weiterhin unter den Lizenzen MIT und Apache 2.0 verbreitet.

Ursprünglich wurde das Projekt ZLUDA für Intel GPUs entwickelt, aber im Jahr 2021 entschied das Unternehmen, die Möglichkeit zu bieten, CUDA-Anwendungen auf Intel GPUs auszuführen, nicht weiter zu verfolgen, da dies für das Geschäft uninteressant war. Anfänglich 2022 kündigte der Entwickler seine Position bei Intel und schloss einen Vertrag mit AMD für die Entwicklung einer Kompatibilitätsschicht für CUDA auf GPUs des Unternehmens. Nach zwei Jahren verlor AMD jedoch das Interesse an der Möglichkeit, CUDA-Anwendungen auf AMD GPUs auszuführen.

Gemäß den Vertragsbedingungen und nach Erhalt der Genehmigung zur Veröffentlichung von einem Vertreter von AMD während der E-Mail-Korrespondenz hat Andrzej den Code der Arbeiten, die während seiner Tätigkeit bei AMD entwickelt wurden, veröffentlicht. Diese Arbeiten ermöglichen es, CUDA-Anwendungen auf dem von AMD entwickelten ROCm-Stack und dem HIP (Heterogeneous-computing Interface for Portability) auszuführen. Sechs Monate nach der Veröffentlichung nahmen die Anwälte von AMD Kontakt zu Andrzej auf und machten deutlich, dass die zuvor in der Korrespondenz erteilte Genehmigung rechtlich nicht bindend ist. Letztendlich sah sich Andrzej gezwungen, den ZLUDA-Code, der während seiner Zeit bei AMD erstellt wurde, aus dem öffentlichen Zugriff zu entfernen.

Die neue Version von ZLUDA wird auf dem Code basiert, der vor dem Beginn von Andrzej’s Arbeit bei AMD existierte. Sie wird nicht an spezifische GPUs gebunden sein und sich auf die Ausführung von Anwendungen konzentrieren, die CUDA zur Beschleunigung von Aufgaben in den Bereichen maschinelles Lernen und künstliche Intelligenz verwenden. Zuvor war ZLUDA hauptsächlich auf Anwendungen zur Inhaltserstellung ausgerichtet, wie Arnold Render, Blender und 3DF Zephyr. Unter anderem ist geplant, die Nutzung der Frameworks Llama.cpp, PyTorch und TensorFlow über ZLUDA zu ermöglichen, wobei CUDA-Optimierungen für NVIDIA-GPUs zum Einsatz kommen.

Zunächst wird sich das Projekt auf die Arbeit mit AMD-GPUs konzentrieren, später wird es jedoch für Intel-GPUs angepasst. Die Implementierung für AMD-GPUs wird von Grund auf neu entwickelt, sie wird GPUs unterstützen, die mindestens auf der RDNA1-Befehlssatzarchitektur basieren, und den ROCm-Stack 6.1+ anstelle des zuvor verwendeten ROCm-Stacks 5 nutzen. Der Funktionsumfang des früheren Implementierungsansatzes, der von Andrzej aus dem öffentlichen Zugang entfernt werden musste, soll im dritten Quartal 2025 erreicht werden.

Quelle: opennet.ru