V februarju je na Stanfordu potekala konferenca, posvečena visokozmogljivim računalništvom (HPC). Predstavniki VMware so povedali, da pri delu z GPU sistemi na osnovi modificiranega hipervizorja ESXi hitrostno ne zaostajajo za rešitvami bare metal.
Povezujemo tehnologije, ki so to omogočile.
/ фото
Težava s učinkovitostjo
Po ocenah analitikov je približno 70 % delovnih obremenitev v podatkovnih centrih . Vendar pa preostalih 30 % še vedno deluje na bare metal brez hipervizorjev. Taih 30 % večinoma sestavljajo visokoobremenitvene aplikacije, povezane, na primer, s treniranjem nevronskih mrež in uporabo grafičnih procesorjev.
Ekspertno trend razložijo z dejstvom, da hipervizor kot vmesni sloj abstrakcije lahko vpliva na učinkovitost celotnega sistema. V raziskavah petih let nazaj o 10-odstotnem zmanjšanju hitrosti delovanja. Zato podjetja in operaterji podatkovnih centrov ne hitijo s prenosom HPC-obremenitve v virtualno okolje.
A vendar se tehnologije virtualizacije razvijajo in izboljšujejo. Na konferenci pred mesecem dni je VMware povedal, da hipervizor ESXi ne vpliva negativno na učinkovitost GPU. Hitrost izračunov se lahko zmanjša za tri odstotke, kar je primerljivo s podatki bare metal.
Kako to funkcionira
Da bi povečali učinkovitost HPC-sistemov z grafičnimi procesorji, so VMware v hipervizorju izvedli vrsto sprememb. Zlasti so ga osvobodili funkcije vMotion. Ta funkcija je potrebna za uravnoteženje obremenitve in običajno prenaša virtualne stroje (VM) med strežniki ali GPU. Onemogočenje vMotion je pripeljalo do tega, da je vsak VM zdaj povezan s konkretnim grafičnim procesorjem. To je pomagalo zmanjšati stroške pri izmenjavi podatkov.
Druga ključna komponenta sistema DirectPath I/O. Omogoča voznika CUDA za paralelno obdelavo, da neposredno komunicira z virtualnimi stroji, obide hipervizor. Ko je potrebno zagnati več VM na enem GPU, se uporabi rešitev GRID vGPU. Ta deli pomnilnik kartice na več segmentov (cikli izračunov pa se pri tem ne delijo).
Shema delovanja dveh virtualnih strojev bo v tem primeru izgledala takole:
Rezultati in napovedi
Podjetje hipervizorja, ki je izobraževal jezikovni model na osnovi . "Škoda" v zmogljivosti je znašala le 3–4 % v primerjavi z bare metal. Namesto tega je sistem pridobil možnost razporejanja virov po potrebi glede na trenutne obremenitve.
IT-gigant je prav tako s kontejnerji. Inženirji podjetja so usposabljali nevronetske sisteme za prepoznavanje slik. Pri tem so vire ene grafične enote razdelili med štiri kontejnerske VM. Kot rezultat se je zmogljivost posameznih strojev zmanjšala za 17 % (v primerjavi z eno VM, ki ima popoln dostop do virov GPU). Vendar pa se je število obdelanih slik na sekundo povečalo trikrat. Pričakuje se, da bodo takšni sistemi uporabo na področju analize podatkov in računalniškega modeliranja.
Med potencialnimi težavami, s katerimi se lahko sreča VMware, strokovnjaki zelo ozko ciljno publiko. Z visokozmogljivimi sistemi trenutno deluje majhno število podjetij. Čeprav v Statista , da bo do leta 2021 virtualiziranih že 94 % delovnih obremenitev v svetovnih podatkovnih centrih. Po analitikih se bo vrednost HPC-trga povečala s 32 na 45 milijard dolarjev v obdobju od 2017 do 2022.
/ фото PD
Podobne rešitve
Na trgu obstaja več analogov, ki jih razvijajo velike IT-podjetja: AMD in Intel.
Prvo podjetje za virtualizacijo grafičnih procesorjev pristop temelji na SR-IOV (single-root input/output virtualization). Ta tehnologija omogoča VM dostop do dela strojnih zmogljivosti sistema. Rešitev omogoča delitev grafične enote med 16 uporabniki pri enaki zmogljivosti virtualiziranih sistemov.
Kar se tiče drugega IT-giganta, je njihova na hipervizorju Citrix XenServer 7. Povezuje delo standardnega GPU gonilnika in virtualnega stroja, kar zadnjemu omogoča prikazovanje 3D aplikacij in namizij na napravah stotin uporabnikov.
Prihodnost tehnologije
Razvijalci virtualnih grafičnih procesorjev na uvajanje sistemov AI in rast priljubljenosti visokozmogljivih rešitev na trgu poslovnih tehnologij. Upajo, da bo potreba po obdelavi velikih količin podatkov povečala povpraševanje po vGPU.
Trenutno proizvajalci Združite funkcionalnost CPU in GPU v eni jedri, da pospešite reševanje nalog, povezanih z grafiko, izvajanje matematičnih izračunov, logičnih operacij in obdelavo podatkov. Pojav takih jeder na trgu bo v prihodnosti spremenil pristop k virtualizaciji virov in njihovi porazdelitvi med obremenitvami v virtualnem in oblačnem okolju.
Kaj prebrati o temi na našem korporativnem blogu:
Nekaj objav iz našega Telegram kanala:
Izvor: habr.com
