Andrzej Janik heeft het plan gepresenteerd voor de verdere ontwikkeling van het ZLUDA-project, dat een open implementatie van de CUDA-technologie ontwikkelt. Waar de eerste versie van ZLUDA zich richtte op het creƫren van een implementatie van CUDA voor Intel GPU's, en de tweede voor AMD GPU's, zal de huidige derde versie zich concentreren op de ontwikkeling van een universele CUDA-implementatie voor alle GPU's, behalve NVIDIA GPU's. Het doel van het ZLUDA-project is om systemen met GPU's, anders dan NVIDIA, de mogelijkheid te bieden om ongewijzigde CUDA-toepassingen uit te voeren met een prestatie die dicht bij die van toepassingen ligt die zonder tussenlagen worden uitgevoerd. De code van het project blijft beschikbaar onder de MIT- en Apache 2.0-licenties.
Oorspronkelijk werd het ZLUDA-project ontwikkeld voor Intel GPU's, maar in 2021 vond dit bedrijf het niet interessant om de mogelijkheid te bieden om CUDA-toepassingen op Intel GPU's uit te voeren en stopte het met de ondersteuning van het initiatief. Begin 2022 verliet de ontwikkelaar Intel en ging hij een contract aan met AMD om een laag te ontwikkelen voor compatibiliteit met CUDA voor GPU's van dit bedrijf. Na twee jaar verloor AMD interesse in de mogelijkheid om CUDA-toepassingen uit te voeren op AMD GPU's.
In overeenstemming met de voorwaarden van het contract en na toestemming voor publicatie van een vertegenwoordiger van AMD tijdens e-mailcorrespondentie, opende Andrzej de code van de ontwikkelingen die zijn gemaakt tijdens zijn werk bij AMD en die het mogelijk maakten om CUDA-toepassingen uit te voeren bovenop de ROCm-stack en runtime HIP (Heterogeneous-computing Interface for Portability) die door AMD werd ontwikkeld. Zes maanden na publicatie namen de juristen van AMD contact op met Andrzej en lieten weten dat de eerder gegeven toestemming tijdens de correspondentie geen juridische kracht had. Uiteindelijk was Andrzej genoodzaakt om de code van ZLUDA, die tijdens zijn werk bij AMD was gemaakt, uit de open toegang te verwijderen.
De nieuwe versie van ZLUDA zal voortbouwen op de codebase die bestond vĆ³Ć³r Andrzej's werkzaamheden bij AMD, zal niet gebonden zijn aan specifieke GPU's en zal zich richten op het uitvoeren van applicaties die CUDA gebruiken voor het versnellen van taken gerelateerd aan machine learning en kunstmatige intelligentie (vroeger was ZLUDA vooral gericht op applicaties voor contentcreatie, zoals Arnold Render, Blender en 3DF Zephyr). Onder andere is het de bedoeling om de mogelijkheid te bieden om frameworks zoals Llama.cpp, PyTorch en TensorFlow op ZLUDA te laten draaien met gebruikmaking van CUDA-optimalisaties die zijn toegepast voor NVIDIA GPU's.
In het begin zal het project zich richten op werken met AMD GPU's, maar later zal het worden aangepast voor Intel GPU's. De implementatie voor AMD GPU's zal vanaf nul worden opgebouwd, zal GPU's ondersteunen die ten minste gebaseerd zijn op de RDNA1-architectuur, en zal de ROCm 6.1+ stack gebruiken in plaats van de ROCm 5 stack die werd gebruikt in de eerder voor AMD ontwikkelde implementatie. Pariteit van functionaliteit met de vorige implementatie, die Andrzej gedwongen was om uit de open toegang te verwijderen, is gepland voor het derde kwartaal van 2025.
Bron: opennet.ru
