NVIDIA는 Rust 언어로 GPU 커널을 개발할 수 있도록 CUDA Rust를 출시했습니다.

NVIDIA는 Rust 언어를 사용하여 GPU에서 실행되는 커널을 개발할 수 있도록 하는 CUDA Rust 툴킷 개발을 발표했습니다. 이 툴킷은 컴파일 시 메모리 안전성을 보장하고 경쟁 조건을 방지합니다. 내년에는 CUDA C++ 및 CUDA Python 툴킷처럼 상용 프로젝트에 적합한 수준으로 CUDA Rust가 개발될 예정입니다.

CUDA Rust 툴체인은 병렬 커널 개발을 위한 두 가지 모델, SIMT(Single Instruction, Multiple Threads)와 Tile을 지원합니다. SIMT 모델은 단일 스레드를 저수준에서 정의하고 수천 개의 스레드를 실행 및 관리할 수 있도록 합니다. Tile 모델은 더 높은 수준의 추상화를 제공하며, 개별 스레드를 명시적으로 관리하는 대신 데이터 블록(타일)을 처리하는 알고리즘을 정의합니다. 그러면 Tile IR 컴파일러가 모든 스레드 조작, 접근 동기화, 메모리 관리 및 텐서 코어 전체에 걸친 데이터 분산을 처리합니다.

SIMT 모델을 사용하는 Rust 언어 개발을 위해 cuda-oxide 컴파일러가 개발 중입니다. 이 컴파일러를 사용하면 표준 타입 시스템과 Rust 소유권 모델을 사용하여 Rust 언어 코드를 컴파일하고, 이를 실행 가능한 명령어로 직접 변환할 수 있습니다. 가상 기기 CUDA PTX(병렬 스레드 실행). GPU 커널은 일반 Rust로 작성되지만, no_std 환경에서 실행되며 표준 Rust 라이브러리(libstd)에 접근할 수 없고 libcore 라이브러리의 함수와 특수 Rust 추상화 기능만 사용할 수 있습니다.

Rust로 작성된 CUDA 커널은 타입 보호(safe), unsafe 블록 사용, 그리고 저수준 하드웨어 명령어 접근을 허용합니다. 안전성을 보장하기 위해 DisjointSlice 타입이 제안되었으며, 이를 통해 각 스레드는 자신의 데이터에만 배타적으로 접근할 수 있습니다. cuda-oxide 코드는 Apache 2.0 라이선스에 따라 배포됩니다.

Tail 모델을 구현하기 위해 cutile-rs 라이브러리를 제안합니다. 이 라이브러리는 Rust 관용 언어를 사용하여 CUDA 커널로 직접 컴파일되는 코드를 생성할 수 있도록 합니다. cutile-rs는 Rust의 엄격한 소유권 및 차용 규칙을 GPU에서 실행되는 코드에 적용합니다. 커널은 데이터 블록에서 작동하는 단일 스레드 프로그램으로 구현되며, 컴파일러는 계산을 자동으로 스레드로 분할하고 스레드 간 동기화를 보장합니다. 스레드는 불변 텐서에 대한 공유 접근 권한을 가지며, 가변 텐서는 안전한 접근을 위해 서로 분리된 블록으로 분할됩니다. cutile-rs 코드는 Apache 2.0 라이선스에 따라 배포됩니다.

출처 : opennet.ru