Andrzej Janik bemutatta a ZLUDA projekt további fejlesztési tervét, amely a CUDA technológia nyílt megvalósítását fejleszti. Míg a ZLUDA első változata a CUDA Intel GPU-ra történő megvalósítására összpontosított, a második az AMD GPU-k számára készült, a most bemutatott harmadik változat a NVIDIA GPU-tól eltérő bármely GPU számára készült univerzális CUDA megvalósításának fejlesztésére fog koncentrálni. A ZLUDA projekt célja, hogy lehetővé tegye olyan rendszerek számára, amelyek nem NVIDIA GPU-val rendelkeznek, a módosítatlan CUDA alkalmazások futtatását, hasonló teljesítménnyel, mint a rétegzés nélküli alkalmazásoké. A projekt kódját továbbra is MIT és Apache 2.0 licenc alatt terjesztik.
Eredetileg a ZLUDA projekt Intel GPU-ra fejlődött, de 2021-ben a cég úgy döntött, hogy nem érdekli a CUDA alkalmazások futtatási lehetősége az Intel GPU-kon, és nem támogatta a kezdeményezés fejlesztését. 2022 elején a fejlesztő elhagyta az Intel-t, és szerződést kötött az AMD-val a cég GPU-jaihoz való CUDA kompatibilitási réteg fejlesztésére. Két év elteltével az AMD elvesztette az érdeklődését a CUDA alkalmazások AMD GPU-n való futtatási lehetősége iránt.
A szerződés feltételei szerint és miután az AMD képviselőjének e-mailben történő egyeztetése során engedélyt kapott a publikációra, Andrzej felfedte az AMD-nél végzett munkája során készült kódot, amely lehetővé teszi a CUDA alkalmazások futtatását az AMD által fejlesztett ROCm és HIP (Heterogeneous-computing Interface for Portability) réteg felett. Hat hónappal a publikálás után az AMD jogászai felvették a kapcsolatot Andrzejj-kel, és világossá tették, hogy a korábban az egyeztetés során adott engedélynek nincs jogi ereje. Végül Andrzej kénytelen volt eltávolítani a nyilvánosságtól az AMD-nél végzett munkája során készült ZLUDA kódot.
Az új ZLUDA változat a Andrzej AMD-n végzett munkája előtti kódalapból fog kiindulni, nem lesz kötve konkrét GPU-hoz, és a CUDA-t használó gépi tanulási és mesterséges intelligencia feladatok gyorsítására optimalizált alkalmazások végrehajtására fog összpontosítani (korábban a ZLUDA elsősorban tartalomkészítő alkalmazásokra, mint például Arnold Render, Blender és 3DF Zephyr összpontosított). Többek között tervezik, hogy támogatni fogják a Llama.cpp, PyTorch és TensorFlow keretrendszereket a ZLUDA fölött, CUDA-optimalizációkkal, amelyeket az NVIDIA GPU-khoz alkalmaznak.
Az első időszakban a projekt az AMD GPU-kkal való együttműködésre fog összpontosítani, de később adaptálják az Intel GPU-khoz. Az AMD GPU-khoz készült megvalósítást teljesen új alapokra helyezik, támogatni fogja a RDNA1 architektúra lapkakészletét, és a ROCm 6.1+ stack-et fogja használni a korábban az AMD-re készült ROCm 5 stack helyett. A funkcionalitás korábbi megvalósítással való paritását várhatóan 2025 harmadik negyedévére érik el, amelyet Andrzej kénytelen volt eltávolítani a nyilvánosság elől.
Forrás: opennet.ru
