{"id":42117,"date":"2019-03-18T00:00:00","date_gmt":"2019-03-17T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam"},"modified":"2020-02-18T13:44:55","modified_gmt":"2020-02-18T10:44:55","slug":"situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/et\/blog\/administrirovanie\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","title":{"rendered":"Olek: virtuaalsed GPU-d ei j\u00e4\u00e4 alla riistvaralahendustele j\u00f5udluse osas","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

Feveruaris toimus Stanfordis konverents, kus keskenduti k\u00f5rgtehnoloogilistele arvutustele (HPC). VMware esindajad r\u00e4\u00e4kisid, et GPU-dega t\u00f6\u00f6tades ei j\u00e4\u00e4 modifitseeritud ESXi h\u00fcperviseori p\u00f5hine s\u00fcsteem j\u00f5udluses bare metal lahendustele alla.<\/p>\n

Jagame tehnoloogiaid, mis v\u00f5imaldasid seda saavutada.<\/p>\n

\"Olek:<\/a><\/noindex><\/a><\/noindex>
\n\/ \u0444\u043e\u0442\u043e Victorgrigas<\/a><\/noindex> CC BY-SA<\/a><\/noindex><\/i><\/p>\n

J\u00f5udlusprobleem<\/h2>\n

\nAnal\u00fc\u00fctikute hinnangul on andmekeskustes umbes 70% t\u00f6\u00f6koormustest virtuaalsed<\/a><\/noindex>. Kuid \u00fclej\u00e4\u00e4nud 30% t\u00f6\u00f6tab endiselt bare metal-i keskkonnas ilma h\u00fcperviseeriteta. Need 30% koosnevad peamiselt k\u00f5rge koormusega rakendustest, mis on seotud n\u00e4iteks n\u00e4rviv\u00f5rkude koolitamisega ning kasutavad graafikaprotsessoreid.<\/p>\n

Eksperdid selgitavad sarnast trendi sellega, et h\u00fcperviseerija kui vahekiht v\u00f5ib m\u00f5jutada kogu s\u00fcsteemi j\u00f5udlust. Viie aasta tagustes uuringutes leidub andmeid<\/a><\/noindex> mille kohaselt aeglustub t\u00f6\u00f6 10% v\u00f5rra. Seet\u00f5ttu ei kiirusta ettev\u00f5tted ja andmekeskuse operaatorid HPC t\u00f6\u00f6koormust virtuaalsesse keskkonda viima.<\/p>\n

Kuid virtualiseerimistehnoloogiad arenevad ja paranevad pidevalt. Kuu aega tagasi konverentsil r\u00e4\u00e4kis VMware, et ESXi h\u00fcperviisor ei avalda negatiivset m\u00f5ju GPU j\u00f5udlusele. Arvutuskiirus v\u00f5ib langeda kolm protsenti, mis on v\u00f5rreldav bare metal'i n\u00e4itajatega.<\/p>\n

Kuidas see toimib<\/h2>\n

\nEt suurendada HPC-s\u00fcsteemide j\u00f5udlust graafikaprotsessoritega, on VMware h\u00fcperviisoris teinud mitmeid muudatusi. Esiteks on see vabastatud vMotion funktsioonist. See on vajalik koormuse tasakaalustamiseks ja tavaliselt viib virtuaalmasinad (VM) serverite v\u00f5i GPU-de vahel. vMotion'i v\u00e4ljal\u00fclitamine on toonud kaasa selle, et iga VM on n\u00fc\u00fcd seotud kindla graafikaprotsessoriga. See aitab v\u00e4hendada andmevahetuse kulusid.<\/p>\n

Teine s\u00fcsteemi oluline komponent on tehnoloogia<\/a><\/noindex> DirectPath I\/O. See v\u00f5imaldab CUDA draiveril paralleelsete arvutuste jaoks suhelda virtuaalmasinatega otse, m\u00f6\u00f6da h\u00fcperviisorist. Kui on vaja k\u00e4ivitada mitmeid VM-e \u00fchel GPU-l, kasutatakse GRID vGPU lahendust. See jagab kaardi m\u00e4lu mitmeks segmendiks (kuid arvutus-ts\u00fcklid ei jagune).<\/p>\n

Kaksikute virtuaalmasinate t\u00f6\u00f6skeem n\u00e4eb sel juhul v\u00e4lja j\u00e4rgmine:<\/p>\n

\"Olek:<\/p>\n

Tulemused ja prognoosid<\/h2>\n

\nEttev\u00f5te teostas katseid<\/a><\/noindex> h\u00fcperviisor, koolitades keelemudelit, mille aluseks on TensorFlow<\/a><\/noindex>. \u201eKahju\u201c j\u00f5udlusest oli vaid 3\u20134% v\u00f5rreldes bare metaliga. Sellegipoolest sai s\u00fcsteem v\u00f5imaluse jagada ressursse vastavalt n\u00f5udlusele, s\u00f5ltuvalt praegustest koormustest.<\/p>\n

IT-hiiglane samuti viis l\u00e4bi katseid<\/a><\/noindex> konteineritega. Ettev\u00f5tte insenerid koolitasid n\u00e4rviv\u00f5rke tuvastama pilte. Ressursid \u00fchelt graafikaprotsessorilt jagati nelja konteinerip\u00f5hise VM vahel. Tulemuseks olid eraldi masinate j\u00f5udluse v\u00e4henemine 17% (v\u00f5rreldes \u00fche VM-iga, millel on t\u00e4ielik juurdep\u00e4\u00e4s GPU ressurssidele). Siiski kasvas t\u00f6\u00f6deldavate piltide arv sekundis kolm korda. Oodatakse, et sellised s\u00fcsteemid<\/a><\/noindex> kolm korda. Oodatakse, et sellised s\u00fcsteemid leiavad<\/a><\/noindex> rakendust andmeanal\u00fc\u00fcsis ja arvutimudelites.<\/p>\n

Potentsiaalsete probleemide seas, millega VMware v\u00f5ib silmitsi seista, toovad eksperdid v\u00e4lja<\/a><\/noindex> suhteliselt kitsas sihtgrupp. K\u00f5rge j\u00f5udlusega s\u00fcsteemidega t\u00f6\u00f6tab seni vaid v\u00e4ike arv ettev\u00f5tteid. Kuigi Statistas m\u00e4rgib<\/a><\/noindex>, et aastaks 2021 virtualiseeritakse juba 94% maailmakuulsatest andmete keskustest. Vastavalt prognoosidele<\/a><\/noindex> anal\u00fc\u00fctikud ennustavad, et HPC-turu v\u00e4\u00e4rtus kasvab 32 silmilt 45 miljardi dollarini ajavahemikus 2017 kuni 2022.<\/p>\n

\"Olek:
\n\/ \u0444\u043e\u0442\u043e Global Access Point<\/a><\/noindex> PD<\/i><\/p>\n

Sarnased lahendused<\/h2>\n

\nTurul on mitmeid analooge, mida arendavad suured IT-ettev\u00f5tted: AMD ja Intel.<\/p>\n

Esimene ettev\u00f5te, kes virtualiseerib graafikaprotsessoreid pakub<\/noindex> l\u00e4henemine p\u00f5hineb SR-IOV-l (single-root input\/output virtualization). See tehnoloogia annab VM-ile juurdep\u00e4\u00e4su s\u00fcsteemi osadele riistvarav\u00f5imetest. Lahendus v\u00f5imaldab jagada graafikaprotsessorit 16 kasutaja vahel \u00fchesuguse j\u00f5udlusega virtualiseeritud s\u00fcsteemide puhul.<\/p>\n

Mis puudutab teist IT-hiiglast, siis nende tehnoloogia p\u00f5hineb<\/a><\/noindex> h\u00fcperviisori Citrix XenServer 7-l. See \u00fchendab tavalise GPU-draiveri t\u00f6\u00f6 ja virtuaalmasina, mis v\u00f5imaldab viimasel kuvada 3D rakendusi ja desktopsid sadade kasutajate seadmetes.<\/p>\n

Tehnoloogia tulevik<\/h2>\n

\nVirtuaalsete graafikaprotsessorite arendajad panustavad<\/a><\/noindex> tehisintellekti s\u00fcsteemide juurutamine ja k\u00f5rge j\u00f5udlusega lahenduste populaarsuse kasv \u00e4ritehnoloogia turul. Nad loodavad, et suurandmete t\u00f6\u00f6tlemise vajadus suurendab n\u00f5udlust vGPU j\u00e4rele.<\/p>\n

Praegu otsivad tootjad viisi<\/a><\/noindex> \u00fchendada CPU ja GPU funktsionaalsus \u00fches s\u00fcdamikus, et kiirendada graafikaga seotud \u00fclesannete lahendamist, matemaatiliste arvutuste, loogiliste operatsioonide ja andmete t\u00f6\u00f6tlemise teostamist. Selliste s\u00fcdamekujuliste lahenduste turule tulek muudab tulevikus l\u00e4henemist ressursside virtualiseerimisele ja nende jaotamisele t\u00f6\u00f6skoormuste vahel virtuaalses ja pilvkeskkonnas.<\/p>\n

\nMida lugeda meie ettev\u00f5tte blogis teemal:<\/p>\n