{"id":42117,"date":"2019-03-18T00:00:00","date_gmt":"2019-03-17T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam"},"modified":"2020-02-18T13:44:55","modified_gmt":"2020-02-18T10:44:55","slug":"situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sl\/blog\/administrirovanie\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","title":{"rendered":"Situacija: virtualni GPU-ji ne zaostajajo za zmogljivostjo fizi\u010dnim re\u0161itvam","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

V februarju je na Stanfordu potekala konferenca, posve\u010dena visokozmogljivim ra\u010dunalni\u0161tvom (HPC). Predstavniki VMware so povedali, da pri delu z GPU sistemi na osnovi modificiranega hipervizorja ESXi hitrostno ne zaostajajo za re\u0161itvami bare metal.<\/p>\n

Povezujemo tehnologije, ki so to omogo\u010dile.<\/p>\n

\"Situacija:<\/a><\/noindex><\/a><\/noindex>
\n\/ \u0444\u043e\u0442\u043e Victorgrigas<\/a><\/noindex> CC BY-SA<\/a><\/noindex><\/i><\/p>\n

Te\u017eava s u\u010dinkovitostjo<\/h2>\n

\nPo ocenah analitikov je pribli\u017eno 70 % delovnih obremenitev v podatkovnih centrih virtualiziranih<\/a><\/noindex>. Vendar pa preostalih 30 % \u0161e vedno deluje na bare metal brez hipervizorjev. Taih 30 % ve\u010dinoma sestavljajo visokoobremenitvene aplikacije, povezane, na primer, s treniranjem nevronskih mre\u017e in uporabo grafi\u010dnih procesorjev.<\/p>\n

Ekspertno trend razlo\u017eijo z dejstvom, da hipervizor kot vmesni sloj abstrakcije lahko vpliva na u\u010dinkovitost celotnega sistema. V raziskavah petih let nazaj lahko najdete podatke<\/a><\/noindex> o 10-odstotnem zmanj\u0161anju hitrosti delovanja. Zato podjetja in operaterji podatkovnih centrov ne hitijo s prenosom HPC-obremenitve v virtualno okolje.<\/p>\n

A vendar se tehnologije virtualizacije razvijajo in izbolj\u0161ujejo. Na konferenci pred mesecem dni je VMware povedal, da hipervizor ESXi ne vpliva negativno na u\u010dinkovitost GPU. Hitrost izra\u010dunov se lahko zmanj\u0161a za tri odstotke, kar je primerljivo s podatki bare metal.<\/p>\n

Kako to funkcionira<\/h2>\n

\nDa bi pove\u010dali u\u010dinkovitost HPC-sistemov z grafi\u010dnimi procesorji, so VMware v hipervizorju izvedli vrsto sprememb. Zlasti so ga osvobodili funkcije vMotion. Ta funkcija je potrebna za uravnote\u017eenje obremenitve in obi\u010dajno prena\u0161a virtualne stroje (VM) med stre\u017eniki ali GPU. Onemogo\u010denje vMotion je pripeljalo do tega, da je vsak VM zdaj povezan s konkretnim grafi\u010dnim procesorjem. To je pomagalo zmanj\u0161ati stro\u0161ke pri izmenjavi podatkov.<\/p>\n

Druga klju\u010dna komponenta sistema je tehnologija<\/a><\/noindex> DirectPath I\/O. Omogo\u010da voznika CUDA za paralelno obdelavo, da neposredno komunicira z virtualnimi stroji, obide hipervizor. Ko je potrebno zagnati ve\u010d VM na enem GPU, se uporabi re\u0161itev GRID vGPU. Ta deli pomnilnik kartice na ve\u010d segmentov (cikli izra\u010dunov pa se pri tem ne delijo).<\/p>\n

Shema delovanja dveh virtualnih strojev bo v tem primeru izgledala takole:<\/p>\n

\"Situacija:<\/p>\n

Rezultati in napovedi<\/h2>\n

\nPodjetje so izvedli teste<\/a><\/noindex> hipervizorja, ki je izobra\u017eeval jezikovni model na osnovi TensorFlow<\/a><\/noindex>. \"\u0160koda\" v zmogljivosti je zna\u0161ala le 3\u20134 % v primerjavi z bare metal. Namesto tega je sistem pridobil mo\u017enost razporejanja virov po potrebi glede na trenutne obremenitve.<\/p>\n

IT-gigant je prav tako izvajal teste<\/a><\/noindex> s kontejnerji. In\u017eenirji podjetja so usposabljali nevronetske sisteme za prepoznavanje slik. Pri tem so vire ene grafi\u010dne enote razdelili med \u0161tiri kontejnerske VM. Kot rezultat se je zmogljivost posameznih strojev zmanj\u0161ala za 17 % (v primerjavi z eno VM, ki ima popoln dostop do virov GPU). Vendar pa se je \u0161tevilo obdelanih slik na sekundo pove\u010dalo<\/a><\/noindex> pove\u010dalo trikrat. Pri\u010dakuje se, da bodo tak\u0161ni sistemi na\u0161li<\/a><\/noindex> uporabo na podro\u010dju analize podatkov in ra\u010dunalni\u0161kega modeliranja.<\/p>\n

Med potencialnimi te\u017eavami, s katerimi se lahko sre\u010da VMware, strokovnjaki izpostavljajo<\/a><\/noindex> zelo ozko ciljno publiko. Z visokozmogljivimi sistemi trenutno deluje majhno \u0161tevilo podjetij. \u010ceprav v Statista opazujejo<\/a><\/noindex>, da bo do leta 2021 virtualiziranih \u017ee 94 % delovnih obremenitev v svetovnih podatkovnih centrih. Po napovedi<\/a><\/noindex> analitikih se bo vrednost HPC-trga pove\u010dala s 32 na 45 milijard dolarjev v obdobju od 2017 do 2022.<\/p>\n

\"Situacija:
\n\/ \u0444\u043e\u0442\u043e Global Access Point<\/a><\/noindex> PD<\/i><\/p>\n

Podobne re\u0161itve<\/h2>\n

\nNa trgu obstaja ve\u010d analogov, ki jih razvijajo velike IT-podjetja: AMD in Intel.<\/p>\n

Prvo podjetje za virtualizacijo grafi\u010dnih procesorjev ponuja<\/noindex> pristop temelji na SR-IOV (single-root input\/output virtualization). Ta tehnologija omogo\u010da VM dostop do dela strojnih zmogljivosti sistema. Re\u0161itev omogo\u010da delitev grafi\u010dne enote med 16 uporabniki pri enaki zmogljivosti virtualiziranih sistemov.<\/p>\n

Kar se ti\u010de drugega IT-giganta, je njihova tehnologija zasnovana<\/a><\/noindex> na hipervizorju Citrix XenServer 7. Povezuje delo standardnega GPU gonilnika in virtualnega stroja, kar zadnjemu omogo\u010da prikazovanje 3D aplikacij in namizij na napravah stotin uporabnikov.<\/p>\n

Prihodnost tehnologije<\/h2>\n

\nRazvijalci virtualnih grafi\u010dnih procesorjev stavijo<\/a><\/noindex> na uvajanje sistemov AI in rast priljubljenosti visokozmogljivih re\u0161itev na trgu poslovnih tehnologij. Upajo, da bo potreba po obdelavi velikih koli\u010din podatkov pove\u010dala povpra\u0161evanje po vGPU.<\/p>\n

Trenutno proizvajalci i\u0161\u010dejo na\u010din<\/a><\/noindex> Zdru\u017eite funkcionalnost CPU in GPU v eni jedri, da pospe\u0161ite re\u0161evanje nalog, povezanih z grafiko, izvajanje matemati\u010dnih izra\u010dunov, logi\u010dnih operacij in obdelavo podatkov. Pojav takih jeder na trgu bo v prihodnosti spremenil pristop k virtualizaciji virov in njihovi porazdelitvi med obremenitvami v virtualnem in obla\u010dnem okolju.<\/p>\n

\nKaj prebrati o temi na na\u0161em korporativnem blogu:<\/p>\n