Kahanan: GPU virtual ora kalah kinerja kanggo solusi hardware
Ing wulan Februari, Stanford nganakake konferensi babagan komputasi kinerja dhuwur (HPC). Perwakilan VMware ujar manawa nalika nggarap GPU, sistem adhedhasar hypervisor ESXi sing diowahi ora kalah karo solusi logam kanthi cepet.
Kita ngomong babagan teknologi sing bisa ditindakake.
Miturut analis, udakara 70% beban kerja ing pusat data virtualisasi. Nanging, isih 30% isih mlaku ing bare metal tanpa hypervisor. 30% iki biasane kalebu aplikasi kanthi beban dhuwur, kayata sing ana gandhengane karo latihan jaringan saraf, lan nggunakake GPU.
Para ahli nerangake tren iki kanthi kasunyatan manawa hypervisor, minangka lapisan abstraksi penengah, bisa mengaruhi kinerja kabeh sistem. Ing pasinaon limang taun kepungkur sampeyan bisa nemokake data babagan ngurangi kacepetan karya kanthi 10%. Mula, perusahaan lan operator pusat data ora cepet-cepet nransfer beban kerja HPC menyang lingkungan virtual.
Nanging teknologi virtualisasi berkembang lan nambah. Ing konferensi sasi kepungkur, VMware ujar manawa hypervisor ESXi ora duwe pengaruh negatif ing kinerja GPU. Kacepetan komputasi bisa suda telung persen, sing bisa dibandhingake karo logam kosong.
Carane ora karya iki
Kanggo nambah kinerja sistem HPC karo GPU, VMware wis nggawe sawetara owah-owahan ing hypervisor. Utamane, iki nyisihaken fungsi vMotion. Perlu kanggo ngimbangi beban lan biasane nransfer mesin virtual (VM) antarane server utawa GPU. Mateni vMotion nyebabake saben VM saiki diwenehi GPU tartamtu. Iki mbantu nyuda biaya nalika ijol-ijolan data.
Komponen penting liyane saka sistem yaiku teknologi DirectPath I/O. Iki ngidini driver komputasi paralel CUDA bisa langsung sesambungan karo mesin virtual, ngliwati hypervisor. Nalika sampeyan kudu mbukak sawetara VM ing siji GPU bebarengan, solusi GRID vGPU digunakake. Iki mbagi memori kertu dadi sawetara bagean (nanging siklus komputasi ora dibagi).
Diagram operasi rong mesin virtual ing kasus iki bakal katon kaya iki:
Asil lan ramalan
Tenan ditindakake tes hypervisor dening latihan model basa adhedhasar TensorFlow. Kinerja "karusakan" mung 3-4% dibandhingake karo bare metal. Minangka bali, sistem kasebut bisa nyebarake sumber daya sing dikarepake gumantung saka beban saiki.
Antarane masalah potensial sing VMware bisa ngadhepi, ahli alokasi target pamirsa rada sempit. Sawetara perusahaan cilik isih nggarap sistem kinerja dhuwur. Senajan ing Statista ngramekeyen ing taun 2021, 94% beban kerja pusat data ing donya bakal virtualisasi. Miturut prakiraan analis, nilai pasar HPC bakal tuwuh saka 32 nganti 45 milyar dolar ing periode saka 2017 nganti 2022.
Ana sawetara analog ing pasar sing dikembangake dening perusahaan IT gedhe: AMD lan Intel.
Perusahaan pisanan kanggo virtualisasi GPU nawakake pendekatan adhedhasar SR-IOV (single-root input/output virtualization). Teknologi iki menehi akses VM menyang bagean saka kemampuan hardware sistem. Solusi kasebut ngidini sampeyan nuduhake GPU ing antarane 16 pangguna kanthi kinerja sistem virtualisasi sing padha.
Minangka kanggo buta IT kapindho, padha adhedhasar teknologi ing hypervisor Citrix XenServer 7. Nggabungke karya driver GPU standar lan mesin virtual, sing ngidini terakhir kanggo nampilake aplikasi 3D lan desktop ing piranti saka atusan kedhaftar.
Masa depan teknologi
Pangembang GPU Virtual nggawe taruhan babagan implementasi sistem AI lan popularitas solusi kinerja dhuwur ing pasar teknologi bisnis. Dheweke ngarep-arep yen perlu kanggo ngolah data sing akeh bakal nambah permintaan kanggo vGPU.
Saiki produsen golek dalan nggabungake fungsi CPU lan GPU ing siji inti kanggo nyepetake ngrampungake masalah sing ana gandhengane karo grafis, nindakake petungan matematika, operasi logis, lan pangolahan data. Penampilan inti kasebut ing pasar ing mangsa ngarep bakal ngganti pendekatan kanggo virtualisasi sumber daya lan distribusi ing antarane beban kerja ing lingkungan virtual lan awan.
Apa sing kudu diwaca babagan topik ing blog perusahaan kita: