Projekt ZLUDA jätkab arengut universaalse CUDA rakenduse vormis

Andrzej Janik tutvustas ZLUDA projekti edasise arendamise plaani, mis arendab avatud CUDA tehnoloogia rakendust. Kui ZLUDA esialgne versioon keskendus CUDA rakenduse loomisele Intel GPU-dele ning teine versioon AMD GPU-dele, siis nüüd esitatud kolmas variant keskendub universaalse CUDA rakenduse arendamisele mis tahes GPU-dele, mis ei ole NVIDIA valmistatud. ZLUDA projekti eesmärk on pakkuda võimalust käitada muutmata CUDA rakendusi süsteemides, millel on erinevad GPU-d kui NVIDIA, peaaegu sama tõhusalt kui rakendustes, mis töötavad ilma vahekihtideta. Projekti kood jätkab levimist MIT ja Apache 2.0 litsentside alusel.

Alguses arendati ZLUDA projekti Intel GPU-dele, kuid 2021. aastal leidis ettevõte, et CUDA rakenduste käitamise võimalus Intel GPU-del ei ole äri seisukohalt huvitav ja ei toetanud algatuse edendamist. 2022. aasta alguses lahkus arendaja Intelist ja sõlmis lepingu AMD-ga CUDA ühilduvuse kihi arendamiseks selle ettevõtte GPU-dele. Kaks aastat hiljem kaotas AMD huvi CUDA rakenduste käitamise võimaluste vastu oma GPU-de peal.

Lepingu tingimuste kohaselt ja pärast AMD esindajalt e-posti teel saadud avaldust avaldamiseks avas Andrzej koodi, mis loodi AMD juures töötamise ajal ja mis võimaldab CUDA rakendusi käitada AMD arendatud ROCm ja HIP (Heterogeneous-computing Interface for Portability) kihi ja käitusaega. Kuus kuud pärast avaldamist võtsid AMD juristid Andrzejega ühendust ja andsid mõista, et varem antud nõusolek e-kirjas ei ole juristisch kehtiv. Lõppkokkuvõttes pidi Andrzej eemaldama ZLUDA koodi avatud juurdepääsust, mis loodi tema AMD töö ajal.

Uus ZLUDA mudel põhineb koodibaasil, mis eksisteeris enne Andrzeji töö algust AMD-l, ei sea endale kindlaid GPU nõudeid ning keskendub rakenduste täitmisele, mis kasutavad CUDA-d masinõppe ja tehisintellekti, (varem keskendus ZLUDA peamiselt sisuloomerakendustele nagu Arnold Render, Blender ja 3DF Zephyr). Lisaks plaanitakse pakkuda võimalust kasutada Llama.cpp, PyTorch ja TensorFlow frameworke ZLUDA peal, rakendades CUDA optimeerimisi NVIDIA GPU-dele.

Alguses keskendub projekt AMD GPU-dele, kuid hiljem kohandatakse see ka Intel GPU-dele. AMD GPU-dele rakenduse loomine toimub nullist, see toetab vähemalt RDNA1 arhitektuuril põhinevaid GPU-sid ning kasutab ROCm 6.1+ steeki ROCm 5 asemele, mida kasutati varasemas AMD rakenduses. Funktsionaalsuse pariteeti eelmise rakendusega, mille Andrzej pidi avalikustamisest eemaldama, plaanitakse saavutada 2025. aasta kolmandaks kvartaliks.

Allikas: opennet.ru