Kahanan: GPU virtual ora kalah kinerja kanggo solusi hardware

Ing wulan Februari, Stanford nganakake konferensi babagan komputasi kinerja dhuwur (HPC). Perwakilan VMware ujar manawa nalika nggarap GPU, sistem adhedhasar hypervisor ESXi sing diowahi ora kalah karo solusi logam kanthi cepet.

Kita ngomong babagan teknologi sing bisa ditindakake.

Kahanan: GPU virtual ora kalah kinerja kanggo solusi hardware
/ foto Victorgrigas CC BY-SA

Masalah kinerja

Miturut analis, udakara 70% beban kerja ing pusat data virtualisasi. Nanging, isih 30% isih mlaku ing bare metal tanpa hypervisor. 30% iki biasane kalebu aplikasi kanthi beban dhuwur, kayata sing ana gandhengane karo latihan jaringan saraf, lan nggunakake GPU.

Para ahli nerangake tren iki kanthi kasunyatan manawa hypervisor, minangka lapisan abstraksi penengah, bisa mengaruhi kinerja kabeh sistem. Ing pasinaon limang taun kepungkur sampeyan bisa nemokake data babagan ngurangi kacepetan karya kanthi 10%. Mula, perusahaan lan operator pusat data ora cepet-cepet nransfer beban kerja HPC menyang lingkungan virtual.

Nanging teknologi virtualisasi berkembang lan nambah. Ing konferensi sasi kepungkur, VMware ujar manawa hypervisor ESXi ora duwe pengaruh negatif ing kinerja GPU. Kacepetan komputasi bisa suda telung persen, sing bisa dibandhingake karo logam kosong.

Carane ora karya iki

Kanggo nambah kinerja sistem HPC karo GPU, VMware wis nggawe sawetara owah-owahan ing hypervisor. Utamane, iki nyisihaken fungsi vMotion. Perlu kanggo ngimbangi beban lan biasane nransfer mesin virtual (VM) antarane server utawa GPU. Mateni vMotion nyebabake saben VM saiki diwenehi GPU tartamtu. Iki mbantu nyuda biaya nalika ijol-ijolan data.

Komponen penting liyane saka sistem yaiku teknologi DirectPath I/O. Iki ngidini driver komputasi paralel CUDA bisa langsung sesambungan karo mesin virtual, ngliwati hypervisor. Nalika sampeyan kudu mbukak sawetara VM ing siji GPU bebarengan, solusi GRID vGPU digunakake. Iki mbagi memori kertu dadi sawetara bagean (nanging siklus komputasi ora dibagi).

Diagram operasi rong mesin virtual ing kasus iki bakal katon kaya iki:

Kahanan: GPU virtual ora kalah kinerja kanggo solusi hardware

Asil lan ramalan

Tenan ditindakake tes hypervisor dening latihan model basa adhedhasar TensorFlow. Kinerja "karusakan" mung 3-4% dibandhingake karo bare metal. Minangka bali, sistem kasebut bisa nyebarake sumber daya sing dikarepake gumantung saka beban saiki.

Raksasa IT uga ditindakake tes karo kontaner. Insinyur perusahaan nglatih jaringan saraf kanggo ngenali gambar. Ing wektu sing padha, sumber daya siji GPU disebarake ing antarane papat VM wadhah. AkibatΓ©, kinerja mesin individu mudhun 17% (dibandhingake karo VM siji kanthi akses lengkap menyang sumber daya GPU). Nanging, jumlah gambar sing diproses saben detik mundhak ping telu. Dikarepake yen sistem kasebut bakal nemokake aplikasi ing analisis data lan modeling komputer.

Antarane masalah potensial sing VMware bisa ngadhepi, ahli alokasi target pamirsa rada sempit. Sawetara perusahaan cilik isih nggarap sistem kinerja dhuwur. Senajan ing Statista ngramekeyen ing taun 2021, 94% beban kerja pusat data ing donya bakal virtualisasi. Miturut prakiraan analis, nilai pasar HPC bakal tuwuh saka 32 nganti 45 milyar dolar ing periode saka 2017 nganti 2022.

Kahanan: GPU virtual ora kalah kinerja kanggo solusi hardware
/ foto Titik Akses Global PD

Solusi sing padha

Ana sawetara analog ing pasar sing dikembangake dening perusahaan IT gedhe: AMD lan Intel.

Perusahaan pisanan kanggo virtualisasi GPU nawakake pendekatan adhedhasar SR-IOV (single-root input/output virtualization). Teknologi iki menehi akses VM menyang bagean saka kemampuan hardware sistem. Solusi kasebut ngidini sampeyan nuduhake GPU ing antarane 16 pangguna kanthi kinerja sistem virtualisasi sing padha.

Minangka kanggo buta IT kapindho, padha adhedhasar teknologi ing hypervisor Citrix XenServer 7. Nggabungke karya driver GPU standar lan mesin virtual, sing ngidini terakhir kanggo nampilake aplikasi 3D lan desktop ing piranti saka atusan kedhaftar.

Masa depan teknologi

Pangembang GPU Virtual nggawe taruhan babagan implementasi sistem AI lan popularitas solusi kinerja dhuwur ing pasar teknologi bisnis. Dheweke ngarep-arep yen perlu kanggo ngolah data sing akeh bakal nambah permintaan kanggo vGPU.

Saiki produsen golek dalan nggabungake fungsi CPU lan GPU ing siji inti kanggo nyepetake ngrampungake masalah sing ana gandhengane karo grafis, nindakake petungan matematika, operasi logis, lan pangolahan data. Penampilan inti kasebut ing pasar ing mangsa ngarep bakal ngganti pendekatan kanggo virtualisasi sumber daya lan distribusi ing antarane beban kerja ing lingkungan virtual lan awan.

Apa sing kudu diwaca babagan topik ing blog perusahaan kita:

Sawetara kiriman saka saluran Telegram kita:

Source: www.habr.com

Add a comment