Feveruaris toimus Stanfordis konverents, kus keskenduti kõrgtehnoloogilistele arvutustele (HPC). VMware esindajad rääkisid, et GPU-dega töötades ei jää modifitseeritud ESXi hüperviseori põhine süsteem jõudluses bare metal lahendustele alla.
Jagame tehnoloogiaid, mis võimaldasid seda saavutada.
/ фото
Jõudlusprobleem
Analüütikute hinnangul on andmekeskustes umbes 70% töökoormustest . Kuid ülejäänud 30% töötab endiselt bare metal-i keskkonnas ilma hüperviseeriteta. Need 30% koosnevad peamiselt kõrge koormusega rakendustest, mis on seotud näiteks närvivõrkude koolitamisega ning kasutavad graafikaprotsessoreid.
Eksperdid selgitavad sarnast trendi sellega, et hüperviseerija kui vahekiht võib mõjutada kogu süsteemi jõudlust. Viie aasta tagustes uuringutes mille kohaselt aeglustub töö 10% võrra. Seetõttu ei kiirusta ettevõtted ja andmekeskuse operaatorid HPC töökoormust virtuaalsesse keskkonda viima.
Kuid virtualiseerimistehnoloogiad arenevad ja paranevad pidevalt. Kuu aega tagasi konverentsil rääkis VMware, et ESXi hüperviisor ei avalda negatiivset mõju GPU jõudlusele. Arvutuskiirus võib langeda kolm protsenti, mis on võrreldav bare metal'i näitajatega.
Kuidas see toimib
Et suurendada HPC-süsteemide jõudlust graafikaprotsessoritega, on VMware hüperviisoris teinud mitmeid muudatusi. Esiteks on see vabastatud vMotion funktsioonist. See on vajalik koormuse tasakaalustamiseks ja tavaliselt viib virtuaalmasinad (VM) serverite või GPU-de vahel. vMotion'i väljalülitamine on toonud kaasa selle, et iga VM on nüüd seotud kindla graafikaprotsessoriga. See aitab vähendada andmevahetuse kulusid.
Teine süsteemi oluline komponent DirectPath I/O. See võimaldab CUDA draiveril paralleelsete arvutuste jaoks suhelda virtuaalmasinatega otse, mööda hüperviisorist. Kui on vaja käivitada mitmeid VM-e ühel GPU-l, kasutatakse GRID vGPU lahendust. See jagab kaardi mälu mitmeks segmendiks (kuid arvutus-tsüklid ei jagune).
Kaksikute virtuaalmasinate tööskeem näeb sel juhul välja järgmine:
Tulemused ja prognoosid
Ettevõte hüperviisor, koolitades keelemudelit, mille aluseks on . „Kahju“ jõudlusest oli vaid 3–4% võrreldes bare metaliga. Sellegipoolest sai süsteem võimaluse jagada ressursse vastavalt nõudlusele, sõltuvalt praegustest koormustest.
IT-hiiglane samuti konteineritega. Ettevõtte insenerid koolitasid närvivõrke tuvastama pilte. Ressursid ühelt graafikaprotsessorilt jagati nelja konteineripõhise VM vahel. Tulemuseks olid eraldi masinate jõudluse vähenemine 17% (võrreldes ühe VM-iga, millel on täielik juurdepääs GPU ressurssidele). Siiski kasvas töödeldavate piltide arv sekundis kolm korda. Oodatakse, et sellised süsteemid rakendust andmeanalüüsis ja arvutimudelites.
Potentsiaalsete probleemide seas, millega VMware võib silmitsi seista, toovad eksperdid suhteliselt kitsas sihtgrupp. Kõrge jõudlusega süsteemidega töötab seni vaid väike arv ettevõtteid. Kuigi Statistas , et aastaks 2021 virtualiseeritakse juba 94% maailmakuulsatest andmete keskustest. Vastavalt analüütikud ennustavad, et HPC-turu väärtus kasvab 32 silmilt 45 miljardi dollarini ajavahemikus 2017 kuni 2022.
/ фото PD
Sarnased lahendused
Turul on mitmeid analooge, mida arendavad suured IT-ettevõtted: AMD ja Intel.
Esimene ettevõte, kes virtualiseerib graafikaprotsessoreid lähenemine põhineb SR-IOV-l (single-root input/output virtualization). See tehnoloogia annab VM-ile juurdepääsu süsteemi osadele riistvaravõimetest. Lahendus võimaldab jagada graafikaprotsessorit 16 kasutaja vahel ühesuguse jõudlusega virtualiseeritud süsteemide puhul.
Mis puudutab teist IT-hiiglast, siis nende hüperviisori Citrix XenServer 7-l. See ühendab tavalise GPU-draiveri töö ja virtuaalmasina, mis võimaldab viimasel kuvada 3D rakendusi ja desktopsid sadade kasutajate seadmetes.
Tehnoloogia tulevik
Virtuaalsete graafikaprotsessorite arendajad tehisintellekti süsteemide juurutamine ja kõrge jõudlusega lahenduste populaarsuse kasv äritehnoloogia turul. Nad loodavad, et suurandmete töötlemise vajadus suurendab nõudlust vGPU järele.
Praegu otsivad tootjad ühendada CPU ja GPU funktsionaalsus ühes südamikus, et kiirendada graafikaga seotud ülesannete lahendamist, matemaatiliste arvutuste, loogiliste operatsioonide ja andmete töötlemise teostamist. Selliste südamekujuliste lahenduste turule tulek muudab tulevikus lähenemist ressursside virtualiseerimisele ja nende jaotamisele tööskoormuste vahel virtuaalses ja pilvkeskkonnas.
Mida lugeda meie ettevõtte blogis teemal:
Mõned postitused meie Telegrami kanalist:
Allikas: habr.com
