Andrzej Janik har præsenteret en plan for den videre udvikling af ZLUDA-projektet, der arbejder på en åben implementering af CUDA-teknologi. Mens den første version af ZLUDA havde til formål at skabe en implementering af CUDA for Intel GPU'er, og den anden for AMD GPU'er, fokuserer den nu præsenterede tredje version på at udvikle en universel CUDA-implementering, der kan bruges på andre GPU'er end NVIDIA GPU'er. Målet med ZLUDA-projektet er at muliggøre afvikling af uændrede CUDA-applikationer på systemer med ikke-NVIDIA GPU'er med ydeevne nær den ydeevne, der opnås uden lag.
ZLUDA-projektet blev oprindeligt udviklet til Intel GPU'er, men i 2021 fandt firmaet ikke længere at kunne interessere sig for muligheden for at køre CUDA-applikationer på Intel GPU'er, og de stoppede støtten til initiativet. I starten af 2022 forlod udvikleren Intel og indgik en kontrakt med AMD for at udvikle et lag til CUDA-kompatibilitet for virksomhedens GPU'er. Efter to år mistede AMD interessen for muligheden for at køre CUDA-applikationer på AMD GPU'er.
I henhold til kontraktbetingelserne og efter at have fået tilladelse til offentliggørelse fra en repræsentant fra AMD under e-mailkorrespondance, åbnede Andrzej koden til det, der var blevet udviklet under sit arbejde i AMD og som gjorde det muligt at køre CUDA-applikationer over AMD's ROCm-stak og HIP-runtime (Heterogeneous-computing Interface for Portability). Seks måneder efter offentliggørelsen kontaktede AMD's jurister Andrzej og gjorde det klart, at den tidligere givne tilladelse i korrespondancen ikke havde juridisk gyldighed. Som følge heraf blev Andrzej tvunget til at fjerne ZLUDA-koden, som var blevet udviklet under sin tid hos AMD, fra offentlig adgang.
Den nye version af ZLUDA vil tage udgangspunkt i den kodebase, der eksisterede før Andrzej begyndte at arbejde hos AMD, den vil ikke være bundet til specifikke GPU'er og vil fokusere på at køre applikationer, der bruger CUDA til acceleration af opgaver relateret til maskinlæring og kunstig intelligens (tidligere var ZLUDA primært rettet mod indholdsskabelsesapplikationer som Arnold Render, Blender og 3DF Zephyr). Blandt andet planlægges det at muliggøre brug af rammerne Llama.cpp, PyTorch og TensorFlow oven på ZLUDA, med inddragelse af CUDA-optimeringer anvendt til NVIDIA GPU'er.
I starten vil projektet være fokuseret på at arbejde på AMD GPU'er, men vil derefter blive tilpasset til Intel GPU'er. Implementeringen for AMD GPU'er vil blive skabt fra bunden, vil støtte GPU'er, der mindst er baseret på RDNA1 kommandosætarkitekturen, og vil bruge ROCm 6.1+ stakken i stedet for ROCm 5, som blev brugt i den tidligere AMD-implementering. Paritet med funktionaliteten fra den tidligere implementering, som Andrzej måtte fjerne fra offentlig adgang, planlægges at blive opnået i tredje kvartal af 2025.
Kilde: opennet.ru
