Публикуван е инструментариум ZLUDA, позволяващ стартиране на CUDA-приложения на GPU AMD

Проект ZLUDA разработи откритата реализация на технологията CUDA за GPU AMD, която позволява изпълнението на немодифицирани CUDA приложения с производителност, близка до производителността на приложенията, изпълнявани без прослойки. Публикуваният инструментариум осигурява бинарна съвместимост с текущите CUDA приложения, изградени с помощта на компилатора CUDA за GPU NVIDIA. Реализацията работи над развиваната от AMD стека ROCm и runtime HIP (Интерфейс за хетерогенни изчисления за преносимост). Кодът на проекта е написан на Rust и се разпространява под лицензите MIT и Apache 2.0. Поддържа работа в Linux и Windows.

Слой за организиране на работата на CUDA на системи с GPU AMD се разработва последните две години, но проектът има по-дълга история и първоначално е създаден за осигуряване на работата на CUDA на GPU Intel. Промяната в политиката на поддръжка на GPU се обяснява с това, че първоначално разработчикът ZLUDA е бил служител на Intel, но през 2021 година компанията е преценила, че предоставянето на възможност за стартиране на CUDA приложения на GPU Intel не представлява интерес за бизнеса и не е продължила развитието на инициативата.

В началото на 2022 година разработчикът напусна Intel и сключи договор с AMD за разработка на слой за съвместимост с CUDA. Компанията AMD помоли по време на разработката да не афишира интереса на AMD към проекта ZLUDA и да не прави комити в публичния репозиторий на ZLUDA. След две години компанията AMD реши, че стартирането на CUDA приложения на GPU AMD не представлява интерес за бизнеса, което по условията на договора позволи на разработчика да открие своя труд. Тъй като производителите на GPU спряха финансирането на проекта, неговата съдба сега зависи от интереса на общността и предлагането на сътрудничество от други компании. Без външна подкрепа проектът вероятно ще се развива само в посоки, интересни за автора, като DLSS (Deep Learning Super Sampling).

В текущия си вид, нивото на качество на реализцията е оценено като алфа-версия. Въпреки това, ZLUDA вече може да се използва за изпълнение на много CUDA приложения, включително Geekbench, 3DF Zephyr, Blender, Reality Capture, LAMMPS, NAMD, waifu2x, OpenFOAM и Arnold. Осигурена е минимална поддръжка на примитиви и библиотеки cuDNN, cuBLAS, cuSPARSE, cuFFT, NCCL и NVML.

Първоначалният старт на CUDA приложения под управлението на ZLUDA се извършва с осезаеми забавяния, тъй като ZLUDA компилира GPU кода. В следващите стартирания подобна забавяне няма, тъй като компилираният код се съхранява в кеша. При изпълнението на компилирания код производителността е близка до натуралната. При изпълнението на пакета Geekbench на GPU AMD Radeon 6800 XT, вариантът на тестовия набор за CUDA, изпълняван чрез ZLUDA, показа значително по-висока производителност от варианта на базата на OpenCL.

Поддръжката на официалния CUDA Driver API и изучената чрез обратно инжиниринг част от недокументирания API CUDA е реализирана в ZLUDA чрез замяната на функции с аналогични функции, предоставени в HIP runtime, което много наподобява CUDA. Например, функцията cuDeviceGetAttribute() се заменя с hipDeviceGetAttribute(). Подобен начин се осигурява и съвместимост с библиотеките на NVIDIA, като NVML, cuBLAS и cuSPARSE — за такива библиотеки в ZLUDA се предоставят транслиращи библиотеки със същото име и набор от функции, изградени като разширения над подобни библиотеки на AMD.

GPU кодът на приложения, компилиран в представление PTX (Parallel Thread Execution), се транслира от специален компилатор първоначално в междинно представление LLVM IR, на базата на което се генерира бинарен код за GPU AMD.

Източник: opennet.ru