Le projet ZLUDA continuera de se développer sous la forme d'une réalisation universelle de CUDA.

Andrzej Janik a présenté un plan pour le développement futur du projet ZLUDA, qui développe une implémentation open-source de la technologie CUDA. Alors que la première version de ZLUDA visait à créer une implémentation de CUDA pour les GPU Intel, et que la deuxième était destinée aux GPU AMD, la troisième version présentée se concentrera sur le développement d'une implémentation universelle de CUDA pour tous les GPU autres que ceux de NVIDIA. L'objectif du projet ZLUDA est de permettre l'exécution d'applications CUDA non modifiées sur des systèmes dotés de GPU autres que NVIDIA, avec des performances proches de celles des applications exécutées sans intermédiaires. Le code du projet continue d'être distribué sous les licences MIT et Apache 2.0.

À l'origine, le projet ZLUDA a été développé pour les GPU Intel, mais en 2021, cette entreprise a jugé que la possibilité d'exécuter des applications CUDA sur les GPU Intel n'était pas d'un intérêt commercial et a cessé de soutenir le développement de cette initiative. Début 2022, le développeur a quitté Intel et a signé un contrat avec AMD pour développer une couche de compatibilité avec CUDA pour les GPU de cette entreprise. Deux ans plus tard, AMD a perdu tout intérêt pour la possibilité d'exécuter des applications CUDA sur ses GPU.

Conformément aux termes du contrat et après avoir obtenu l'autorisation de publication d'un représentant d'AMD lors d'échanges d'e-mails, Andrzej a ouvert le code des travaux réalisés pendant son emploi chez AMD, permettant d'exécuter des applications CUDA sur la pile ROCm et l'interface d'exécution HIP (Heterogeneous-computing Interface for Portability) développées par AMD. Six mois après la publication, les avocats d'AMD ont contacté Andrzej pour lui faire comprendre que l'autorisation précédemment donnée lors des échanges n'avait pas force obligatoire. En conséquence, Andrzej a été contraint de retirer du domaine public le code de ZLUDA qu'il avait créé pendant son temps chez AMD.

La nouvelle version de ZLUDA reposera sur une base de code existante datant d'avant le début du travail d'Andrzej chez AMD, ne sera pas liée à des GPU spécifiques et se concentrera sur l'exécution d'applications utilisant CUDA pour accélérer les tâches liées à l'apprentissage automatique et à l'intelligence artificielle (auparavant, ZLUDA était principalement orienté vers les applications de création de contenu comme Arnold Render, Blender et 3DF Zephyr). Entre autres, il est prévu de permettre le fonctionnement de frameworks Llama.cpp, PyTorch et TensorFlow sur ZLUDA en exploitant les optimisations CUDA applicables aux GPU NVIDIA.

Au début, le projet sera axé sur le travail sur les GPU AMD, mais sera ensuite adapté pour les GPU Intel. La mise en œuvre pour les GPU AMD sera créée à partir de zéro, supportera les GPU basés au minimum sur l'architecture du jeu d'instructions RDNA1, et utilisera la pile ROCm 6.1+ au lieu de la pile ROCm 5, qui avait été appliquée dans la mise en œuvre précédemment réalisée pour AMD. L'atteinte d'une parité fonctionnelle avec la précédente réalisation, que Andrzej a dû retirer de l'accès public, est prévue pour le troisième trimestre 2025.

Source : opennet.ru