Andrzej Janik ha presentato un piano per lo sviluppo futuro del progetto ZLUDA, che sta sviluppando un'implementazione open-source della tecnologia CUDA. Se la prima versione di ZLUDA era focalizzata sulla creazione di un'implementazione CUDA per le GPU Intel e la seconda per le GPU AMD, questa terza versione ora presentata sarà incentrata sullo sviluppo di un'implementazione universale di CUDA per qualsiasi GPU diversa dalle GPU NVIDIA. L'obiettivo del progetto ZLUDA è dichiarato come la fornitura, su sistemi con GPU diverse da NVIDIA, della possibilità di eseguire applicazioni CUDA non modificate con prestazioni vicine a quelle delle applicazioni eseguite senza sovrapposizioni. Il codice del progetto continua a essere distribuito sotto le licenze MIT e Apache 2.0.
Inizialmente, il progetto ZLUDA è stato sviluppato per le GPU Intel, ma nel 2021 questa azienda ha ritenuto che fornire la possibilità di eseguire applicazioni CUDA su GPU Intel non fosse di interesse per il business e ha deciso di non supportare ulteriormente l'iniziativa. All'inizio del 2022, lo sviluppatore si è dimesso da Intel e ha firmato un contratto con AMD per sviluppare uno strato di compatibilità con CUDA per le GPU di questa azienda. Dopo due anni, AMD ha perso interesse nella possibilità di eseguire applicazioni CUDA su GPU AMD.
In conformità con i termini del contratto e dopo aver ricevuto l'autorizzazione alla pubblicazione da un rappresentante di AMD durante la corrispondenza via e-mail, Andrzej ha reso disponibile il codice di lavoro creato durante la sua collaborazione con AMD, che consente di eseguire applicazioni CUDA sopra il stack ROCm e il runtime HIP (Heterogeneous-computing Interface for Portability) sviluppati da AMD. Sei mesi dopo la pubblicazione, i legali di AMD hanno contattato Andrzej per fargli capire che l'autorizzazione fornita in precedenza durante la corrispondenza non ha valo re giuridico. Di conseguenza, Andrzej è stato costretto a rimuovere l'accesso pubblico al codice ZLUDA, creato durante il suo lavoro in AMD.
La nuova versione di ZLUDA si baserà su un codice sorgente esistente prima che Andrzej iniziasse a lavorare in AMD, non sarà legata a specifiche GPU e si concentrerà sull'esecuzione di applicazioni che utilizzano CUDA per accelerare compiti legati all'apprendimento automatico e all'intelligenza artificiale (in precedenza ZLUDA era principalmente orientata alle applicazioni di creazione di contenuti, come Arnold Render, Blender e 3DF Zephyr). Tra le altre cose, è previsto di fornire la possibilità di far funzionare framework come Llama.cpp, PyTorch e TensorFlow sopra ZLUDA utilizzando le ottimizzazioni CUDA applicate per le GPU NVIDIA.
In un primo momento, il progetto sarà focalizzato sul lavoro sulle GPU AMD, ma successivamente sarà adattato per le GPU Intel. L'implementazione per le GPU AMD sarà creata da zero, supporterà le GPU basate almeno sull'architettura del set di istruzioni RDNA1 e utilizzerà il stack ROCm 6.1+ invece del stack ROCm 5, utilizzato nell'implementazione precedente per AMD. Si prevede di raggiungere la parità funzionale con la precedente implementazione, che Andrzej è stato costretto a rimuovere dall'accesso pubblico, nel terzo trimestre del 2025.
Fonte: opennet.ru
