virtio-nvgpu — en modul för att ge åtkomst till NVIDIA GPU från KVM-virtuella maskiner.

Projektet virtio-nvgpu utvecklar en virtio-enhet som möjliggör åtkomst till NVIDIA GPU från gästsystem som körs under KVM-hypervisorn, med minimal prestandaförlust. Den inkluderar en kärnmodul som laddas i gästsystemet och en virtio-enhet som körs på hostsidan. Koden för kärnmodulen är skriven i C och distribueras under GPLv2-licens, medan koden för virtio-enheten är skriven i Rust och distribueras under Apache 2.0-licens.

Enligt utvecklarna överstiger prestandaförlusten vid åtkomst till GPU inte 2%. Den höga prestandan uppnås genom att omdirigera ioctl-anrop till den ursprungliga NVIDIA-drivrutinen och arbeta på ABI-nivå med NVIDIA-drivrutinen, utan översättning av förfrågningar på API-nivå. På gästsidan används standardbibliotek och högre nivå drivrutiner från NVIDIA som körs i användarutrymmet.

I gästsystemet laddas en kärnmodul som tillhandahåller enhetsfilerna /dev/nvidiactl, /dev/nvidia0…N, /dev/nvidia-uvm och vidarebefordrar ioctl() och mmap() anrop genom virtqueue till en hanterare på hostsidan, som skickar dem vidare till den host-baserade NVIDIA-drivrutinen. För att eliminera kontextväxlingar mellan värdmaskinen och den virtuella maskinen avspeglas kommandobuffrar (mmap) i delad minne som är tillgängligt för host-miljön och GPU:n.

Till skillnad från exklusiv passering av åtkomst till GPU (VFIO Passthrough) erbjuder projektet virtio-nvgpu delad åtkomst till en GPU från flera användare. virtuella maskiner, och till skillnad från virtio-gpu (Venus, VirGL) arbetar det genom att vidarebefordra ABI till NVIDIA-drivrutinen istället för på nivån för översättning av grafiska API:er Vulkan och OpenGL. Nackdelarna med virtio-nvgpu inkluderar avsaknad av fullständig isolering baserad på IOMMU (gästsysten arbetar genom NVIDIA:s host-drivrutin och begränsas endast av filtrering av ioctl-anrop) och bindning till NVIDIA-drivrutins ABI (ABI ändras i varje version och kräver anpassning av virtio-nvgpu).

Funktionerna hos virtio-nvgpu är tillräckliga för rendering, videokodning och beräkningar med hjälp av API:erna Vulkan, OpenGL, NVENC och CUDA. Den huvudsakliga tillämpningen nämns vara skapandet av molnbaserade spelservrar eller virtuella arbetsplatser där spelet eller grafikapplikationen körs i en virtuell maskin, där rendering sker, hårdvarukodning av resultatet med NVENC och överföring av utdata till den fjärran användaren i form av en komprimerad videoström.

Källa: opennet.ru