Публикуван е инструментариум ZLUDA, позволяващ стартиране на CUDA приложения на GPU AMD

Проект ZLUDA разработи открита реализация на технологията CUDA за GPU AMD, която позволява изпълнението на немодифицирани CUDA приложения с производителност, близка до приложението, работещо без прослойки. Публикуваният инструментариум осигурява бинарна съвместимост с наличните CUDA приложения, компилирани с компилатора CUDA за GPU NVIDIA. Реализацията работи върху разширяващия се стек ROCm, разработен от компанията AMD, и runtime HIP (Хетерогенен интерфейс за преносимост). Кодът на проекта е написан на езика Rust и се разпространява под лицензите MIT и Apache 2.0. Поддържа работа в Linux и Windows.

Слоят за организиране на работата на CUDA на системи с GPU AMD се разработваше през последните две години, но проектът има по-дълга история и първоначално беше създаден за осигуряване на работата на CUDA на GPU Intel. Промяната в политиката за поддръжка на GPU се обяснява с факта, че в началото разработчикът ZLUDA беше служител на Intel, но през 2021 година компанията реши, че предоставянето на възможност за изпълнение на CUDA приложения на GPU Intel не представлява интерес за бизнеса и не продължи развитието на инициативата.

В началото на 2022 година разработчикът напусна Intel и сключи договор с компанията AMD за разработка на слой за съвместимост с CUDA. Компанията AMD помоли по време на разработката да не се афишира интересът на AMD към проекта ZLUDA и да не се правят комити в публичния репозиторий на ZLUDA. След две години компанията AMD реши, че стартирането на CUDA приложения на GPU AMD не представлява интерес за бизнеса, което по условията на договора позволи на разработчика да публикува своите разработки. Тъй като производителите на GPU спрели да финансират проекта, неговата съдба сега зависи от интереса на общността и постъпленията от предложения за сътрудничество от други компании. Без външна подкрепа, проектът вероятно ще се развива само в направления, които лично интересуват автора, като DLSS (Deep Learning Super Sampling).

В текущия си вид нивото на качество на реализцията се оценява като алфа версия. Въпреки това, ZLUDA вече може да се използва за изпълнение на много CUDA приложения, включително Geekbench, 3DF Zephyr, Blender, Reality Capture, LAMMPS, NAMD, waifu2x, OpenFOAM и Arnold. Осигурена е минимална поддръжка на примитиви и библиотеки cuDNN, cuBLAS, cuSPARSE, cuFFT, NCCL и NVML.

Първото стартиране на CUDA приложения под управлението на ZLUDA е със забележими закъснения, тъй като ZLUDA компилира GPU кода. При последващите стартирания забавяне няма, тъй като компилираният код се съхранява в кеша. По време на изпълнението на компилираният код производителността е близка до натуралната. При изпълнение на пакета Geekbench на GPU AMD Radeon 6800 XT, вариантът на тестовия набор за CUDA, изпълняван с ZLUDA, показа значително по-висока производителност в сравнение с варианта на базата на OpenCL.

Поддержка официального CUDA Driver API и изученной при помощи обратного инжиниринга части недокументированного API CUDA реализована в ZLUDA через замену вызовов функций на аналогичные функции, предоставляемые в HIP runtime, который во многом походит на CUDA. Например, функция cuDeviceGetAttribute() заменяется на hipDeviceGetAttribute(). Похожим образом обеспечивается и совместимость с библиотеками NVIDIA, такими как NVML, cuBLAS и cuSPARSE, — для подобных библиотек в ZLUDA предоставляются транслирующие библиотеки с тем же именем и тем же набором функций, построенные в виде надстроек над похожими библиотеками AMD.

GPU код на приложенията, компилиран в представление PTX (Parallel Thread Execution), първо се трансформира от специален компилатор в междинно представление LLVM IR, на базата на което се генерира бинарен код за GPU AMD.

Източник: opennet.ru