Andrzej Janik apresentou um plano para o desenvolvimento futuro do projeto ZLUDA, que está aprimorando a implementação aberta da tecnologia CUDA. Se a primeira versão do ZLUDA visava criar uma implementação da CUDA para GPUs Intel, e a segunda para GPUs AMD, a terceira versão que é apresentada agora se concentrará no desenvolvimento de uma implementação universal da CUDA para quaisquer GPUs que não sejam da NVIDIA. O objetivo declarado do projeto ZLUDA é permitir que sistemas com GPUs que não são da NVIDIA executem aplicações CUDA não modificadas, com um desempenho próximo ao das aplicações executadas sem camadas intermediárias. O código do projeto continua a ser distribuído sob as licenças MIT e Apache 2.0.
Inicialmente, o projeto ZLUDA foi desenvolvido para GPUs Intel, mas em 2021 a empresa decidiu que fornecer a capacidade de executar aplicações CUDA em GPUs Intel não era interessante para os negócios e parou de apoiar o desenvolvimento da iniciativa. No início de 2022, o desenvolvedor deixou a Intel e firmou um contrato com a AMD para desenvolver uma camada de compatibilidade com CUDA para as GPUs dessa empresa. Após dois anos, a AMD perdeu o interesse na capacidade de executar aplicações CUDA em GPUs AMD.
De acordo com os termos do contrato e após receber autorização para publicação de um representante da AMD durante a comunicação por e-mail, Andrzej abriu o código dos trabalhos realizados durante seu tempo na AMD que permitiam a execução de aplicações CUDA sobre a pilha ROCm da AMD e o runtime HIP (Heterogeneous-computing Interface for Portability). Seis meses após a publicação, os advogados da AMD contataram Andrzej e deixaram claro que a autorização previamente concedida durante a troca de correspondência não possui valor legal. Como resultado, Andrzej foi forçado a remover o código ZLUDA, criado durante seu tempo na AMD, do acesso público.
A nova versão do ZLUDA basear-se-á no código existente antes do início do trabalho de Andrzej na AMD, não estará vinculada a GPUs específicas e se concentrará na execução de aplicações que utilizam CUDA para acelerar tarefas relacionadas a aprendizado de máquina e inteligência artificial (anteriormente, o ZLUDA estava principalmente voltado para aplicações de criação de conteúdo, como Arnold Render, Blender e 3DF Zephyr). Entre outras coisas, está previsto fornecer suporte para frameworks como Llama.cpp, PyTorch e TensorFlow funcionando sobre o ZLUDA, utilizando otimizações de CUDA para GPUs NVIDIA.
No início, o projeto será focado em funcionar em GPUs AMD, mas depois será adaptado para GPUs Intel. A implementação para GPUs AMD será criada do zero, suportará GPUs, pelo menos com base na arquitetura de conjunto de instruções RDNA1, e usará o stack ROCm 6.1+ em vez do stack ROCm 5, que foi anteriormente utilizado na implementação criada para AMD. A paridade de funcionalidade com a implementação anterior, que Andrzej foi forçado a retirar do acesso público, está prevista para ser alcançada no terceiro trimestre de 2025.
Fonte: opennet.ru
