Avaldatud ZLUDA tööriistakomplekt, mis võimaldab CUDA rakenduste käitamist AMD GPU-de peal

ZLUDA projekt on valmistanud avatud rakenduse CUDA tehnoloogiale AMD GPU-dele, võimaldades käivitada muutmata CUDA rakendusi tootlikkusega, mis on lähedane rakendustele, mis käivituvad ilma kihtideta. Avaldatud tööriistakomplekt tagab binaarse ühilduvuse olemasolevate CUDA rakendustega, mis on koostatud NVIDIA GPU-dele mõeldud CUDA kompilaatoriga. Rakendamine toimib AMD arendatava ROCm ja HIP (Heterogeneous-computing Interface for Portability) käituskihi peal. Projekti kood on kirjutatud Rust keeles ning seda levitatakse MIT ja Apache 2.0 litsentside alusel. Toetatakse töötamist Linuxis ja Windowsis.

CUDA töötlemise kihti AMD GPU-dega süsteemides on arendatud viimased kaks aastat, kuid projektil on pikem ajalugu ja see loodi algselt CUDA toimimise tagamiseks Intel GPU-del. GPU toetamise poliitika muutmine seletub sellega, et projekti arendaja ZLUDA oli algselt Intel'i töötaja, kuid 2021. aastal leidis ettevõte, et CUDA rakenduste käivitamine Intel GPU-del ei paku nende ärile huvi ja ei kiirendanud algatuse arendamist.

2022. aasta alguses lahkus arendaja Intel’ist ja sõlmis lepingu AMD-ga CUDA ühilduvuse kihi arendamiseks. AMD palus arenduse käigus mitte avalikustada huvi projekti ZLUDA vastu ning mitte teha avalikke commit’e ZLUDA repositooriumis. Kaks aastat hiljem leidis AMD, et CUDA rakenduste käivitamine AMD GPU-del ei paku nende äri jaoks huvi, mis lepingutingimuste kohaselt võimaldas arendajal oma töid avalikustada. Kuna GPU tootjad on projekti rahastamise lõpetanud, sõltub selle saatus nüüd kogukonna huvidest ja teiste ettevõtete koostööettepanekutest. Ilma välistoetusteta võib projekt areneda ainult suundades, mis huvitavad isiklikult autorit, näiteks DLSS (Deep Learning Super Sampling).

Praeguses vormis hinnatakse rakenduse kvaliteedi taset alfa-versioonina. Sellegipoolest saab ZLUDA-d juba kasutada paljude CUDA rakenduste, sealhulgas Geekbench, 3DF Zephyr, Blender, Reality Capture, LAMMPS, NAMD, waifu2x, OpenFOAM ja Arnold käitamiseks. Tagatud on minimaalne toetus primitiividele ja raamatukogudele cuDNN, cuBLAS, cuSPARSE, cuFFT, NCCL ja NVML.

CUDA rakenduste esimene käivitus ZLUDA juhtimisel toimub märkimisväärsete viivitustega, kuna ZLUDA kompileerib GPU koodi. Järgmiste käivituste puhul selline viivitus puudub, kuna kompileeritud kood salvestatakse vahemälu. Kompileeritud koodi täitmise ajal on jõudlus lähedane natiivsele. Geekbench paketi sooritamisel AMD Radeon 6800 XT GPU-l näitas ZLUDA abil teostatud CUDA-testikomplekti variant oluliselt kõrgemat jõudlust kui OpenCL-põhine variant.

ZLUDA-s on ametliku CUDA Driver API toe ja tagasipööramise inseneritehnika abil uuritud dokumenteerimata CUDA API osade toe rakendamine läbi funktsioonikutsede asendamise HIP runtime-s pakutavate vastavate funktsioonidega, mis sarnanevad CUDA-ga. Näiteks asendatakse funktsioon cuDeviceGetAttribute() funktsiooniga hipDeviceGetAttribute(). Sarnasel viisil tagatakse ka ühilduvus NVIDIA raamatukogudega, nagu NVML, cuBLAS ja cuSPARSE – ZLUDA-s antakse nende raamatukogude jaoks ülekanne raamatukogud, millel on sama nimi ja sama funktsioonide kogum, mis on ehitatud AMD sarnaste raamatukogude peale.

Rakenduste GPU-kood, mis on kompileeritud PTX (Parallel Thread Execution) esituses, tõlgitakse alguses spetsiaalse kompilaatori poolt vahepealsesse LLVM IR esitusesse, mille põhjal genereeritakse binaarkood AMD GPU jaoks.

Allikas: opennet.ru