Omandatud: virtuaalsed GPU-d ei jää rauast lahendustele jõudluses alla.

Veebruaris toimus Stanfordis konverents, mis oli pühendatud suure jõudlusega arvutustele (HPC). VMware esindajad rääkisid, et muudetud ESXi hüperviisori baasil töötades ei jää süsteem kiiruselt maha bare metal lahendustest.

Toome välja tehnoloogiad, mis selle saavutamiseks kaasa aitasid.

Omandatud: virtuaalsed GPU-d ei jää rauast lahendustele jõudluses alla.
/ фото Victorgrigas CC BY-SA

Jõudlusprobleem

Analüütikute hinnangul on umbes 70% andakeskustes virtualiseeritud. Kuid ülejäänud 30% töötavad endiselt bare metal lahendustel ilma hüperviisoriteta. Need 30% koosnevad enamikus suure koormusega rakendustest, mis on seotud näiteks närvivõrkude õpetamisega ja kasutavad graafikaprotsessoreid.

Sarnast trendi selgitavad eksperdid sellega, et hüperviisor kui vahekiht võib mõjutada kogu süsteemi jõudlust. Viie aasta tagustes uuringutes on leitud andmeid kiiruslangusest 10%. Seetõttu ei kiirusta ettevõtted ja andakeskuste operaatorid HPC koormust virtuaalsesse keskkonda viima.

Kuid virtualiseerimistehnoloogiad arenevad ja täiustuvad. Kuu aega tagasi konverentsil rääkis VMware, et hüperviisor ESXi ei avalda negatiivset mõju GPU jõudlusele. Arvutuskiirus võib väheneda kolme protsendi võrra, mis on võrreldav bare metal näitajatega.

Kuidas see töötab

HPC süsteemide jõudluse tõstmiseks graafikaprotsessoritega on VMware hüperviisorisse teinud mitmeid muudatusi. Kõigepealt eemaldasid nad vMotion funktsiooni. See on vajalik koormuse tasakaalustamiseks ja tavaliselt viib virtuaalmasinad (VM) serverite või GPUde vahel. vMotion'i deaktiveerimine viis selleni, et iga VM-ga on nüüd seotud konkreetne graafikaprotsessor. See aitas vähendada andmevahetuse kulusid.

Teine süsteemi oluline komponent on tehnoloogiana DirectPath I/O. See võimaldab CUDA draiveril, mis on mõeldud paralleelsete arvutuste jaoks, suhelda virtuaalmasinatega otse, hüperviisorit vahele jätmata. Kui ühel GPU-l on vaja korraga käivitada mitu VM-i, siis kasutatakse lahendust GRID vGPU. See jagab kaardi mälu mitmeks lõiguks (kuid arvutusvoorud ei jagune sel juhul).

Kaks virtuaalmasinat töötavad selle puhul järgmiselt:

Omandatud: virtuaalsed GPU-d ei jää rauast lahendustele jõudluses alla.

Tulemused ja prognoosid

Ettevõte viis läbi teste hüpereisitorist, treenides keelemudelit põhjal TensorFlow. „Kahju“ jõudlusest oli vaid 3–4% võrreldes bare metaliga. Sellegipoolest sai süsteem võimaluse jaotada ressursse nõudmise järgi, sõltuvalt hetke koormustest.

IT-hiid samuti teostas teste konteineritega. Ettevõtte insenerid treenisid närvivõrke piltide tuvastamiseks. Sellegipoolest jaotati ühe graafikaprotsessori ressursid nelja konteineripõhise VM vahel. Tulemusena vähenes eraldi masinate jõudlus 17% (võrreldes ühe VM-ga, mis omab täis ligipääsu GPU ressurssidele). Küll aga töötleb umbes 2500-ni, ja eile kolm korda rohkem pilte sekundis. Oodatakse, et sellised süsteemid leiavad rakendust andmeanalüüsis ja arvutimudeldamises.

Potentsiaalsete probleemide seas, millega VMware silmitsi seista võib, on eksperdid suurte mängijate üsna kitsas sihtrühm. Kõrge jõudlusega süsteemidega töötab seni vaid väike hulk ettevõtteid. Kuigi Statista toovad esile, et 2021. aastaks virtualiseeritakse juba 94% globaalsetest andmekeskuste töökoormustest. Analüütikute andmetel kasvab HPC-turu väärtus 32 miljardilt 45 miljardi dollarini ajavahemikus 2017–2022. prognooside kohaselt Turul on mitu sarnast, mida arendavad suured IT-ettevõtted: AMD ja Intel.

Omandatud: virtuaalsed GPU-d ei jää rauast lahendustele jõudluses alla.
/ фото Globaalne pääsupunkt Arvamused

Sarnased lahendused

Esimene ettevõte, mis pakub graafikaprotsessorite virtualiseerimist

kasutab SR-IOV (single-root input/output virtualization) lähenemist. See tehnoloogia annab VM-le ligipääsu osa süsteemi riistvaralisest võimekusest. Lahendus võimaldab jagada graafikaprotsessori 16 kasutaja vahel võrdselt virtualiseeritud süsteemide jõudlusega. pakub Mis puudutab teist IT-hiidu, siis nende

tehnoloogia põhineb hüpereisitoril Citrix XenServer 7. See ühendab tavalise GPU-draiveri ja virtuaalmasina töö, mis võimaldab viimasel kuvada 3D-rakendusi ja töölauasid sadade kasutajate seadmetes. Tehnoloogia tulevik

Virtuaalsete graafikaprotsessorite arendajad

panustavad IТ-süsteemide ja kõrge jõudlusega lahenduste populaarsuse tõusule äritehnoloogiate turul. Nad loodavad, et vajadus suurte andmemahu töötlemise järele suurendab nõudlust vGPU järele. Praegu otsivad tootjad

lahendusi viisi ühendus CPU ja GPU funktsionaalsus ühes tuumas, et kiirendada graafikaga seotud ülesannete lahendamist, matemaatiliste arvutuste sooritamist, loogiliste operatsioonide teostamist ja andmete töötlemist. Selliste tuumade turule tulek muutub tulevikus lähenemisviisi virtualiseerimisele ja ressursside jaotamisele töökoormuse vahel virtuaalses ja pilvekeskkonnas.

Mida lugeda sellel teemal meie ettevõtte blogis:

Mõned postitused meie Telegrami kanalist:

Allikas: habr.com

Osta usaldusväärne veebimajutus DDoS-kaitsega veebisaitidele, VPS VDS serverid 🔥 Osta usaldusväärne veebimajutus DDoS-kaitsega veebisaitidele, VPS VDS serverid - ProHoster