NVIDIA har introducerat CUDA Rust för utveckling av GPU-kärnor i språket Rust.

Företaget NVIDIA har tillkännagivit utvecklingen av CUDA Rust-verktyget, som möjliggör användning av språket Rust för att utveckla kärnor som körs på GPU-sidan. Verktyget säkerställer minnessäkerhet vid kompilering och förhindrar uppkomsten av tävlingsförhållanden. Under nästa år planerar de att ta CUDA Rust till en nivå som är lämplig för utveckling av arbetsprojekt, jämförbar med CUDA C++ och CUDA Python-verktygen.

CUDA Rust-verktyget stöder två utvecklingsmodeller för parallellt exekverande kärnor — SIMT (Single Instruction, Multiple Threads) och Tile. SIMT-modellen gör det möjligt att på låg nivå definiera logiken för en enskild tråd, köra tusentals sådana trådar och hantera dem. Tile-modellen erbjuder en högre abstraktionsnivå, där istället för att explicit hantera enskilda trådar definieras algoritmer för att arbeta med datablokkar (tile), och alla manipulationer med trådar, åtkomstdelning, minneshantering och distribution av data till tensor-kärnor sköts av kompilatorn Tile IR.

För utveckling i Rust med användning av SIMT-modellen utvecklas kompilatorn cuda-oxide, som möjliggör kompilering av Rust-kod som använder det inbyggda typesystemet och Rusts ägarmodell direkt till instruktioner för körning i en virtuell maskin CUDA PTX (Parallel Thread Execution). Kärnor för GPU:n skapas i vanlig Rust, men körs i en no_std-miljö och kan endast använda funktioner från biblioteket libcore och specialiserade Rust-abstraktioner, utan tillgång till Rusts standardbibliotek (libstd).

I CUDA-kärnor på Rust tillåts användning av typ-skydd (safe), användning av osäkra block (unsafe) och tillgång till lågnivå hårdvaruinstruktioner. För att säkerställa säkerhet föreslås typen DisjointSlice, som garanterar att varje tråd får exklusiv åtkomst till endast sina egna data. Koden för cuda-oxide distribueras under Apache 2.0-licensen.

För att tillämpa Tail-modellen erbjuds biblioteket cutile-rs, som möjliggör att använda det idiomatiska språket Rust för att skapa kod som kompileras direkt till CUDA-kärnor. Cutile-rs tillämpar de strikta ägar- och låneprinciperna som föreslås i Rust på koden som körs på GPU. Kärnan utformas som ett trådlöst program som arbetar med en datablok, och kompilatorn delar automatiskt upp beräkningarna i trådar och säkerställer deras synkronisering. Trådarna får gemensam åtkomst till oföränderliga tensorer, och för säker åtkomst till föränderliga tensorer delas de upp i icke-överlappande block. Koden för cutile-rs distribueras under Apache 2.0-licensen.

Källa: opennet.ru