Sitwazzjoni: GPUs virtwali mhumiex inferjuri fil-prestazzjoni għal soluzzjonijiet tal-ħadid

Fi Frar, Stanford ospitat konferenza dwar il-kompjuters ta 'prestazzjoni għolja (HPC). Ir-rappreżentanti ta 'VMware qalu li meta taħdem ma' GPU, sistema bbażata fuq hypervisor ESXi modifikat mhix inferjuri fil-veloċità għal soluzzjonijiet tal-metall vojt.

Nitkellmu dwar it-teknoloġiji li għamluha possibbli li jinkiseb dan.

Sitwazzjoni: GPUs virtwali mhumiex inferjuri fil-prestazzjoni għal soluzzjonijiet tal-ħadid
/ ritratt Victorgrigas CC BY-SA

Kwistjoni tal-prestazzjoni

Skont l-analisti, madwar 70% tal-piżijiet tax-xogħol fiċ-ċentri tad-dejta virtwalizzat. Madankollu, it-30% li jifdal għadu jaħdem fuq metall vojt mingħajr hypervisors. Dan it-30% jikkonsisti l-aktar f'applikazzjonijiet ta 'tagħbija għolja, bħal dawk relatati mat-taħriġ ta' netwerks newrali, u l-użu ta 'GPUs.

L-esperti jispjegaw din it-tendenza mill-fatt li l-hypervisor, bħala saff intermedju ta 'estrazzjoni, jista' jaffettwa l-prestazzjoni tas-sistema kollha. Fi studji ħames snin ilu tista' ssib id-data dwar it-tnaqqis tal-veloċità tax-xogħol b'10%. Għalhekk, il-kumpaniji u l-operaturi taċ-ċentru tad-dejta m'għandhomx għaġla biex jittrasferixxu l-piżijiet tax-xogħol tal-HPC għal ambjent virtwali.

Iżda t-teknoloġiji tal-virtwalizzazzjoni qed jiżviluppaw u jitjiebu. F'konferenza xahar ilu, VMware qal li l-hypervisor ESXi m'għandux impatt negattiv fuq il-prestazzjoni tal-GPU. Il-veloċità tal-kompjuter tista 'titnaqqas bi tlieta fil-mija, li hija komparabbli mal-metall vojt.

Kif taħdem din

Biex ittejjeb il-prestazzjoni tas-sistemi HPC bil-GPUs, VMware għamel numru ta 'bidliet lill-hypervisor. B'mod partikolari, kien jeħles mill-funzjoni vMotion. Huwa meħtieġ għall-ibbilanċjar tat-tagħbija u normalment jittrasferixxi magni virtwali (VMs) bejn servers jew GPUs. Id-diżattivazzjoni ta' vMotion rriżultat f'kull VM issa tiġi assenjata GPU speċifika. Dan għen biex jitnaqqsu l-ispejjeż fl-iskambju tad-dejta.

Komponent ewlieni ieħor tas-sistema hija t-teknoloġija DirectPath I/O. Jippermetti lis-sewwieq tal-kompjuters paralleli CUDA jinteraġixxi ma 'magni virtwali direttament, billi jinjora l-hypervisor. Meta jkollok bżonn tħaddem diversi VMs fuq GPU waħda f'daqqa, tintuża s-soluzzjoni GRID vGPU. Taqsam il-memorja tal-karta f'diversi segmenti (iżda ċ-ċikli komputazzjonali mhumiex maqsuma).

Id-dijagramma tat-tħaddim ta 'żewġ magni virtwali f'dan il-każ se tidher bħal din:

Sitwazzjoni: GPUs virtwali mhumiex inferjuri fil-prestazzjoni għal soluzzjonijiet tal-ħadid

Riżultati u tbassir

kumpanija testijiet imwettqa hypervisor billi tħarreġ mudell tal-lingwa bbażat fuq TensorFlow. Il-“ħsara” tal-prestazzjoni kienet biss 3-4% meta mqabbla mal-metall vojt. Bi tpattija, is-sistema kienet kapaċi tqassam ir-riżorsi fuq talba skont it-tagħbija attwali.

Il-ġgant tal-IT ukoll testijiet imwettqa b'kontenituri. L-inġiniera tal-kumpanija ħarrġu netwerks newrali biex jagħrfu l-immaġini. Fl-istess ħin, ir-riżorsi ta 'GPU waħda tqassmu fost erba' VMs tal-kontejners. Bħala riżultat, il-prestazzjoni ta 'magni individwali naqset bi 17% (meta mqabbel ma' VM waħda b'aċċess sħiħ għar-riżorsi tal-GPU). Madankollu, in-numru ta 'immaġini pproċessati kull sekonda żdied tliet darbiet. Huwa mistenni li sistemi bħal dawn se ssib applikazzjonijiet fl-analiżi tad-dejta u l-immudellar tal-kompjuter.

Fost il-problemi potenzjali li VMware jista' jiffaċċja, esperti jalloka udjenza fil-mira pjuttost dejqa. Numru żgħir ta 'kumpaniji għadhom jaħdmu b'sistemi ta' prestazzjoni għolja. Għalkemm fi Statista tiċċelebrali sal-2021, 94% tal-piżijiet tax-xogħol taċ-ċentru tad-dejta tad-dinja se jiġu virtwalizzati. Permezz tbassir analisti, il-valur tas-suq tal-HPC se jikber minn 32 għal 45 biljun dollaru fil-perjodu mill-2017 sal-2022.

Sitwazzjoni: GPUs virtwali mhumiex inferjuri fil-prestazzjoni għal soluzzjonijiet tal-ħadid
/ ritratt Punt ta' Aċċess Globali PD

Soluzzjonijiet simili

Hemm diversi analogi fis-suq li huma żviluppati minn kumpaniji kbar tal-IT: AMD u Intel.

L-ewwel kumpanija għall-virtwalizzazzjoni tal-GPU offerti approċċ ibbażat fuq SR-IOV (virtwalizzazzjoni ta' input/output b'għerq wieħed). Din it-teknoloġija tagħti lill-VM aċċess għal parti mill-kapaċitajiet tal-ħardwer tas-sistema. Is-soluzzjoni tippermettilek taqsam il-GPU bejn 16-il utent bi prestazzjoni ugwali ta 'sistemi virtwalizzati.

Fir-rigward tat-tieni ġgant tal-IT, huma ibbażata fuq it-teknoloġija fuq l-hypervisor Citrix XenServer 7. Tgħaqqad ix-xogħol ta 'sewwieq GPU standard u magna virtwali, li tippermetti lil dan tal-aħħar juri applikazzjonijiet 3D u desktops fuq it-tagħmir ta' mijiet ta 'utenti.

Futur tat-teknoloġija

Iżviluppaturi tal-GPU Virtwali tagħmel bet dwar l-implimentazzjoni tas-sistemi AI u l-popolarità dejjem tikber ta 'soluzzjonijiet ta' prestazzjoni għolja fis-suq tat-teknoloġija tan-negozju. Huma jittamaw li l-ħtieġa li jiġu pproċessati ammonti kbar ta 'dejta se żżid id-domanda għal vGPUs.

Issa manifatturi tfittex mod għaqqad il-funzjonalità tas-CPU u l-GPU f'qalba waħda biex tħaffef is-soluzzjoni ta 'problemi relatati mal-grafika, it-twettiq ta' kalkoli matematiċi, operazzjonijiet loġiċi, u l-ipproċessar tad-dejta. Id-dehra ta' tali qlub fis-suq fil-futur se tbiddel l-approċċ għall-virtwalizzazzjoni tar-riżorsi u d-distribuzzjoni tagħhom bejn il-piżijiet tax-xogħol f'ambjenti virtwali u cloud.

X'għandek taqra dwar is-suġġett fil-blog korporattiv tagħna:

Koppja ta' postijiet mill-kanal Telegram tagħna:

Sors: www.habr.com

Żid kumment