Kahanan: GPU virtual ora kalah kinerja kanggo solusi hardware

Ing wulan Februari, Stanford nganakake konferensi babagan komputasi kinerja dhuwur (HPC). Perwakilan VMware ujar manawa nalika nggarap GPU, sistem adhedhasar hypervisor ESXi sing diowahi cepet kaya solusi logam kosong.

Kita bakal ngandhani babagan teknologi sing ndadekake iki bisa ditindakake.

Kahanan: GPU virtual ora kalah kinerja kanggo solusi hardware
/ foto Victor Grigas CC BY-SA

Masalah kinerja

Analis ngira kira-kira 70% beban kerja ing pusat data virtualisasi. Nanging, isih 30% isih mlaku ing bare metal tanpa hypervisor. 30% iki biasane kalebu aplikasi kanthi beban dhuwur, kayata latihan jaringan saraf, sing nggunakake GPU.

Para ahli nerangake tren iki kanthi kasunyatan manawa hypervisor, minangka lapisan abstraksi penengah, bisa mengaruhi kinerja kabeh sistem. Ing pasinaon sing ditindakake limang taun kepungkur, sampeyan bisa nemokake data bab 10% abang ing kacepetan operasi. Mula, perusahaan lan operator pusat data ora cepet-cepet nransfer beban HPC menyang lingkungan virtual.

Nanging teknologi virtualisasi berkembang lan nambah. Ing konferensi sasi kepungkur, VMware ujar manawa hypervisor ESXi ora duwe pengaruh negatif ing kinerja GPU. Kacepetan petungan bisa nyuda telung persen, sing bisa dibandhingake karo logam kosong.

Carane ora karya iki

Kanggo nambah kinerja sistem HPC karo GPU, VMware nggawe sawetara owah-owahan ing hypervisor. Utamane, nyingkirake fungsi vMotion. Perlu kanggo ngimbangi beban lan biasane migrasi mesin virtual (VM) ing antarane server utawa GPU. Mateni vMotion nyebabake saben VM diwenehi GPU tartamtu. Iki mbantu nyuda biaya pertukaran data.

Komponen penting liyane saka sistem yaiku teknologi DirectPath I/O. Ngidini driver CUDA kanggo komputasi paralel bisa langsung sesambungan karo mesin virtual, ngliwati hypervisor. Nalika sawetara VM kudu diluncurake ing siji GPU bebarengan, solusi GRID vGPU digunakake. Iki mbagi memori kertu dadi sawetara bagean (nanging siklus komputasi ora dibagi).

Skema operasi rong mesin virtual ing kasus iki bakal katon kaya iki:

Kahanan: GPU virtual ora kalah kinerja kanggo solusi hardware

Asil lan ramalan

Tenan ditindakake tes hypervisor, wis dilatih model basa adhedhasar TensorFlow. Kinerja "mundhut" mung 3-4% dibandhingake karo bare metal. Minangka bali, sistem kasebut bisa nyebarake sumber daya sing dikarepake gumantung saka beban saiki.

Raksasa IT uga ditindakake tes karo wadhah. Insinyur perusahaan nglatih jaringan saraf kanggo ngenali gambar. Kanthi mengkono, sumber daya siji prosesor grafis disebarake ing antarane papat VM wadhah. Akibaté, kinerja mesin individu mudhun 17% (dibandhingake karo siji VM kanthi akses lengkap menyang sumber daya GPU). Nanging, jumlah gambar sing diproses saben detik mundhak kaping telu. Punika samesthine sing sistem kuwi bakal nemokake aplikasi ing bidang analisis data lan modeling komputer.

Antarane masalah potensial sing bisa ditindakake VMware, ujare para ahli alokasi target pamirsa sing cukup sempit. Mung sawetara perusahaan cilik sing nggarap sistem kinerja dhuwur. Senajan Statista ngrameke, yen ing taun 2021, 94% beban kerja pusat data ing donya bakal virtualisasi. prakiraan Analis ngira yen nilai pasar HPC bakal tuwuh saka $32 milyar dadi $45 milyar antarane 2017 lan 2022.

Kahanan: GPU virtual ora kalah kinerja kanggo solusi hardware
/ foto Titik Akses Global PD

Solusi sing padha

Ana sawetara analog ing pasar sing dikembangake dening perusahaan IT gedhe: AMD lan Intel.

Perusahaan pisanan sing nggawe virtualisasi GPU nawakake Pendekatan SR-IOV (single-root input/output virtualization). Teknologi iki nyedhiyakake akses menyang VM menyang bagean saka kemampuan hardware sistem. Solusi kasebut ngidini nuduhake prosesor grafis ing antarane pangguna 16 kanthi kinerja sistem virtualisasi sing padha.

Minangka kanggo buta IT kapindho, sing Teknologi kasebut adhedhasar ing hypervisor Citrix XenServer 7. Iki nggabungake karya driver GPU standar lan mesin virtual, sing ngidini sing terakhir nampilake aplikasi 3D lan desktop ing piranti saka atusan pangguna.

Masa Depan Teknologi

Pangembang GPU Virtual nggawe taruhan babagan implementasi sistem AI lan popularitas solusi kinerja dhuwur ing pasar teknologi bisnis. Dheweke ngarep-arep yen perlu ngolah data sing akeh bakal nambah permintaan kanggo vGPU.

Saiki produser golek dalan nggabungake fungsi CPU lan GPU ing inti siji kanggo nyepetake solusi masalah sing ana gandhengane karo grafis, petungan matematika, operasi logis, lan pangolahan data. Penampilan inti kasebut ing pasar ing mangsa ngarep bakal ngganti pendekatan virtualisasi sumber daya lan distribusi ing antarane beban kerja ing lingkungan virtual lan awan.

Apa sing kudu diwaca babagan topik iki ing blog perusahaan kita:

Sawetara kiriman saka saluran Telegram kita:

Source: www.habr.com

Tuku hosting sing dipercaya kanggo situs kanthi proteksi DDoS, server VPS VDS 🔥 Tuku hosting situs web sing bisa dipercaya nganggo proteksi DDoS, server VPS VDS | ProHoster