NVIDIA har presentert CUDA Rust for utvikling av GPU-kjerner ved bruk av Rust-språket

NVIDIA har kunngjort utviklingen av CUDA Rust-verktøysettet, som gjør det mulig å bruke Rust-språket til å utvikle kjerner som kjører på GPU-siden. Verktøysettet sikrer minnesikkerhet ved kompileringstid og forhindrer tilstandskonkurranser. Neste år planlegger de å forbedre CUDA Rust til et nivå som er egnet for utvikling av arbeidsprosjekter, sammenlignbart med verktøysett som CUDA C++ og CUDA Python.

CUDA Rust-verktøysettet støtter to modeller for utvikling av parallelt kjørende kjerner — SIMT (Single Instruction, Multiple Threads) og Tile. SIMT-modellen gjør det mulig å definere logikken til en enkelt tråd på et lavt nivå, kjøre tusenvis av slike tråder, og kontrollere dem. Tile-modellen tilbyr et høyere abstraksjonsnivå, der det i stedet for eksplisitt styring av individuelle tråder defineres handlingsalgoritmer for datablokker (tile), mens alle manipuleringer med tråder, synkronisering av tilgang, minneadministrasjon og datadistribusjon til tensor-kjerner håndteres av Tile IR-kompilatoren.

For utvikling med Rust-språket under SIMT-modellen utvikles kompilatoren cuda-oxide, som lar deg kompilere Rust-kode som bruker det innebygde typesystemet og eierskapsmodellen i Rust, direkte til instruksjoner for utførelse i en virtuell maskin CUDA PTX (Parallel Thread Execution). Kjerner for GPU er laget med vanlig Rust, men kjøres i no_std-miljø og kan kun bruke funksjoner fra libcore-biblioteket og spesialiserte Rust-abstraksjoner, uten tilgang til Rusts standardbibliotek (libstd).

I CUDA-kjerner skrevet i Rust er det tillatt å bruke beskyttelse gjennom typesystemet (safe), bruke unsafe-blokker og referere til lavnivå maskininstruksjoner. For å sikre sikkerhet tilbys typen DisjointSlice, som garanterer at hver tråd har eksklusiv tilgang til sine egne data. Koden til cuda-oxide distribueres under Apache 2.0-lisensen.

For applying the Tail model, a library called cutile-rs is offered, allowing the use of idiomatic Rust to create code that compiles directly into CUDA cores. Cutile-rs applies the strict ownership and borrowing rules proposed in Rust to the code executed on the GPU. The core is designed as a single-threaded program operating on a data block, while the compiler itself breaks down computations into threads and ensures their synchronization. Threads are provided shared access to immutable tensors, and for safe access to mutable tensors, they are divided into non-overlapping blocks. The cutile-rs code is distributed under the Apache 2.0 license.

Kilde: opennet.ru

Kjøp pålitelig hosting for nettsteder med DDoS-beskyttelse, VPS VDS-servere 🔥 Kjøp pålitelig hosting for nettsteder med DDoS-beskyttelse, VPS VDS-servere | ProHoster