{"id":42117,"date":"2019-03-18T00:00:00","date_gmt":"2019-03-17T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam"},"modified":"2020-02-18T13:44:55","modified_gmt":"2020-02-18T10:44:55","slug":"situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/ro\/blog\/administrirovanie\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","title":{"rendered":"Situa\u021bia: GPU-urile virtuale nu cedeaz\u0103 \u00een performan\u021b\u0103 fa\u021b\u0103 de solu\u021biile hardware","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

\u00cen februarie, la Stanford, a avut loc o conferin\u021b\u0103 dedicat\u0103 calculului de mare performan\u021b\u0103 (HPC). Reprezentan\u021bii VMware au explicat c\u0103, \u00een cazul utiliz\u0103rii unit\u0103\u021bilor GPU, sistemul bazat pe un hipervizor ESXi modificat nu este inferior solu\u021biilor bare metal ca vitez\u0103.<\/p>\n

Discut\u0103m despre tehnologiile care au permis realizarea acestui lucru.<\/p>\n

\"Situa\u021bia:<\/a><\/noindex><\/a><\/noindex>
\n\/ \u0444\u043e\u0442\u043e Victorgrigas<\/a><\/noindex> CC BY-SA<\/a><\/noindex><\/i><\/p>\n

Problema performan\u021bei<\/h2>\n

\nPotrivit estim\u0103rilor anali\u0219tilor, aproximativ 70% din sarcinile de lucru din centrele de date sunt virtualizate<\/a><\/noindex>. Cu toate acestea, cele 30% r\u0103mase func\u021bioneaz\u0103 \u00eenc\u0103 pe bare metal f\u0103r\u0103 hipervizoare. Aceste 30% sunt, \u00een mare parte, formate din aplica\u021bii de mare \u00eenc\u0103rcare, legate, de exemplu, de antrenarea re\u021belelor neuronale \u0219i care utilizeaz\u0103 procesoare grafice.<\/p>\n

Exper\u021bii explic\u0103 acest trend prin faptul c\u0103 hipervizorul, ca strat intermediar de abstractizare, poate influen\u021ba performan\u021ba \u00eentregului sistem. Studiile de acum cinci ani confirm\u0103 date<\/a><\/noindex> privind sc\u0103derea rapidit\u0103\u021bii oper\u0103rii cu 10%. Din acest motiv, companiile \u0219i operatorii de centre de date nu se gr\u0103besc s\u0103 migreze sarcinile HPC \u00een medii virtualizate.<\/p>\n

Dar tehnologiile de virtualizare evolueaz\u0103 \u0219i se perfec\u021bioneaz\u0103. La conferin\u021ba de acum o lun\u0103, VMware a declarat c\u0103 hipervizorul ESXi nu afecteaz\u0103 negativ performan\u021ba GPU-urilor. Viteza de calcul poate sc\u0103dea cu trei procente, ceea ce este comparabil cu rezultatele bare metal.<\/p>\n

Cum func\u021bioneaz\u0103<\/h2>\n

\nPentru a \u00eembun\u0103t\u0103\u021bi performan\u021ba sistemelor HPC cu GPU-uri, VMware a adus o serie de modific\u0103ri hipervizorului. \u00cen special, acesta a fost eliberat de func\u021bia vMotion. Aceasta este necesar\u0103 pentru echilibrarea sarcinilor \u0219i, de obicei, mut\u0103 ma\u0219inile virtuale (VM) \u00eentre servere sau GPU-uri. Dezactivarea vMotion a dus la faptul c\u0103 fiecare VM este acum asociat\u0103 cu un GPU specific. Acest lucru a ajutat la reducerea costurilor de schimb de date.<\/p>\n

Un alt component cheie al sistemului este tehnologia<\/a><\/noindex> DirectPath I\/O. Aceasta permite driverului CUDA pentru procesare paralel\u0103 s\u0103 interac\u021bioneze direct cu ma\u0219inile virtuale, ocolind hipervizorul. Atunci c\u00e2nd pe un GPU este necesar s\u0103 se ruleze simultan mai multe VM-uri, se utilizeaz\u0103 solu\u021bia GRID vGPU. Aceasta \u00eemparte memoria pl\u0103cii \u00een mai multe segmente (dar ciclurile de calcul nu sunt \u00eemp\u0103r\u021bite).<\/p>\n

Schema de func\u021bionare a dou\u0103 ma\u0219ini virtuale \u00een acest caz va ar\u0103ta astfel:<\/p>\n

\"Situa\u021bia:<\/p>\n

Rezultatele \u0219i prognozele<\/h2>\n

\nCompania au efectuat teste<\/a><\/noindex> hypervisorului, antren\u00e2nd un model lingvistic pe baza TensorFlow<\/a><\/noindex>. \u201eDaunele\u201d de performan\u021b\u0103 au fost de doar 3-4% comparativ cu bare metal. \u00cen schimb, sistemul a ob\u021binut capacitatea de a distribui resurse \u00een func\u021bie de cerin\u021bele curente.<\/p>\n

gigantul IT a efectuat teste<\/a><\/noindex> cu containere. Inginerii companiei au instruit re\u021bele neuronale s\u0103 recunoasc\u0103 imagini. \u00cen acest context, resursele unei unit\u0103\u021bi grafice au fost distribuite \u00eentre patru VM-uri containerizate. Drept rezultat, performan\u021ba ma\u0219inilor individuale a sc\u0103zut cu 17% (comparativ cu o VM care avea acces complet la resursele GPU). Totu\u0219i, num\u0103rul imaginilor procesate pe secund\u0103 a crescut<\/a><\/noindex> a crescut de trei ori. Se preconizeaz\u0103 c\u0103 astfel de sisteme vor g\u0103si<\/a><\/noindex> aplicare \u00een domeniul analizei datelor \u0219i model\u0103rii computa\u021bionale.<\/p>\n

Printre problemele poten\u021biale cu care se poate confrunta VMware, exper\u021bii eviden\u021biaz\u0103<\/a><\/noindex> o audien\u021b\u0103 destul de restr\u00e2ns\u0103. Cu sistemele de \u00eenalt\u0103 performan\u021b\u0103 lucreaz\u0103 \u00een prezent un num\u0103r redus de companii. De\u0219i \u00een Statista pun accent pe<\/a><\/noindex>, se estimeaz\u0103 c\u0103 p\u00e2n\u0103 \u00een 2021, 94% din sarcinile de lucru ale centrelor de date globale vor fi virtualizate. Conform prognozelor<\/a><\/noindex> anali\u0219tilor, valoarea pie\u021bei HPC va cre\u0219te de la 32 la 45 miliarde de dolari \u00een perioada 2017-2022.<\/p>\n

\"Situa\u021bia:
\n\/ \u0444\u043e\u0442\u043e Global Access Point<\/a><\/noindex> PD<\/i><\/p>\n

Solu\u021bii similare<\/h2>\n

\nPe pia\u021b\u0103 exist\u0103 c\u00e2\u021biva analogi care sunt dezvolta\u021bi de mari companii IT: AMD \u0219i Intel.<\/p>\n

Prima companie pentru virtualizarea unit\u0103\u021bilor grafice ofer\u0103<\/noindex> \u00ee\u0219i bazeaz\u0103 abordarea pe SR-IOV (virtualizarea intr\u0103rii\/ie\u0219irii cu r\u0103d\u0103cin\u0103 unic\u0103). Aceast\u0103 tehnologie ofer\u0103 VM-urilor acces la o parte din capabilit\u0103\u021bile hardware ale sistemului. Solu\u021bia permite \u00eemp\u0103r\u021birea unit\u0103\u021bii grafice \u00eentre 16 utilizatori cu o performan\u021b\u0103 egal\u0103 a sistemelor virtualizate.<\/p>\n

\u00cen ceea ce prive\u0219te al doilea gigant IT, tehnologia lor se bazeaz\u0103<\/a><\/noindex> pe hypervisorul Citrix XenServer 7. Aceasta combin\u0103 func\u021bionarea driverului GPU standard \u0219i a ma\u0219inii virtuale, ceea ce permite ultimei s\u0103 afi\u0219eze aplica\u021bii 3D \u0219i desktopuri pe dispozitivele sute de utilizatori.<\/p>\n

Viitorul tehnologiei<\/h2>\n

\nDezvoltatorii de unit\u0103\u021bi grafice virtuale se bazeaz\u0103<\/a><\/noindex> pe implementarea sistemelor de inteligen\u021b\u0103 artificial\u0103 \u0219i pe cre\u0219terea popularit\u0103\u021bii solu\u021biilor de \u00eenalt\u0103 performan\u021b\u0103 pe pia\u021ba tehnologiilor de afaceri. Ei sper\u0103 c\u0103 necesitatea proces\u0103rii unor volume mari de date va cre\u0219te cererea pentru vGPU.<\/p>\n

\u00cen prezent, produc\u0103torii caut\u0103 o modalitate<\/a><\/noindex> combinarea func\u021bionalit\u0103\u021bilor CPU \u0219i GPU \u00eentr-un singur nucleu pentru a accelera rezolvarea sarcinilor legate de grafic\u0103, efectuarea calculelor matematice, opera\u021biunilor logice \u0219i procesarea datelor. Apari\u021bia pe pia\u021b\u0103 a acestor nuclee \u00een viitor va schimba abordarea virtualiz\u0103rii resurselor \u0219i distribuirea acestora \u00eentre sarcinile de lucru \u00een medii virtuale \u0219i cloud.<\/p>\n

\nCe s\u0103 cite\u0219ti pe acest subiect \u00een blogul nostru corporativ:<\/p>\n