{"id":42117,"date":"2019-03-18T00:00:00","date_gmt":"2019-03-17T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam"},"modified":"2020-02-18T13:44:55","modified_gmt":"2020-02-18T10:44:55","slug":"situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sk\/blog\/administrirovanie\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","title":{"rendered":"Situ\u00e1cia: virtu\u00e1lne GPU sa v\u00fdkonovo nevyrovnaj\u00fa hardv\u00e9rov\u00fdm rie\u0161eniam","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

V febru\u00e1ri sa na Stanforde konala konferencia zameran\u00e1 na vysoko v\u00fdkonn\u00e9 po\u010d\u00edta\u010dov\u00e9 syst\u00e9my (HPC). Z\u00e1stupcovia VMware uviedli, \u017ee pri pr\u00e1ci s GPU syst\u00e9m zalo\u017een\u00fd na modifikovanom hyperv\u00edzore ESXi r\u00fdchlostne nezaost\u00e1va za rie\u0161eniami bez virtualiz\u00e1cie.<\/p>\n

Rozpr\u00e1vame o technol\u00f3giach, ktor\u00e9 to umo\u017enili.<\/p>\n

\"Situ\u00e1cia:<\/a><\/noindex><\/a><\/noindex>
\n\/ \u0444\u043e\u0442\u043e Victorgrigas<\/a><\/noindex> CC BY-SA<\/a><\/noindex><\/i><\/p>\n

Probl\u00e9m s v\u00fdkonom<\/h2>\n

\nPod\u013ea odhadov analytikov je pribli\u017ene 70% pracovn\u00fdch za\u0165a\u017een\u00ed v d\u00e1tov\u00fdch centr\u00e1ch virtualizovan\u00fdch<\/a><\/noindex>. Av\u0161ak zost\u00e1vaj\u00facich 30% st\u00e1le pracuje na hardv\u00e9ri bez hyperv\u00edzorov. T\u00fdchto 30% sa v\u00e4\u010d\u0161inou sklad\u00e1 z vysoko za\u0165a\u017een\u00fdch aplik\u00e1ci\u00ed, ktor\u00e9 s\u00fa spojen\u00e9 napr\u00edklad s u\u010den\u00edm neur\u00f3nov\u00fdch siet\u00ed a vyu\u017e\u00edvaj\u00fa grafick\u00e9 procesory.<\/p>\n

Experti tento trend vysvet\u013euj\u00fa t\u00fdm, \u017ee hyperv\u00edzor ako medzivrstvu abstrakcie m\u00f4\u017ee ma\u0165 vplyv na v\u00fdkon cel\u00e9ho syst\u00e9mu. V \u0161t\u00fadi\u00e1ch spred piatich rokov sa daj\u00fa n\u00e1js\u0165 \u00fadaje<\/a><\/noindex> o poklese r\u00fdchlosti o 10%. Preto sa spolo\u010dnosti a oper\u00e1tori d\u00e1tov\u00fdch centier nepon\u00e1h\u013eaj\u00fa pren\u00e1\u0161a\u0165 HPC pracovn\u00e9 za\u0165a\u017eenie do virtu\u00e1lneho prostredia.<\/p>\n

Av\u0161ak technol\u00f3gie virtualiz\u00e1cie sa vyv\u00edjaj\u00fa a zdokona\u013euj\u00fa. Na konferencii pred mesiacom v VMware uviedli, \u017ee hyperv\u00edzor ESXi nem\u00e1 negat\u00edvny vplyv na v\u00fdkon GPU. R\u00fdchlos\u0165 v\u00fdpo\u010dtov m\u00f4\u017ee klesn\u00fa\u0165 o tri percent\u00e1, \u010do je porovnate\u013en\u00e9 s v\u00fdsledkami bez virtualiz\u00e1cie.<\/p>\n

Ako to funguje<\/h2>\n

\nNa zv\u00fd\u0161enie v\u00fdkonu HPC syst\u00e9mov s grafick\u00fdmi procesormi, VMware vykonali v pr\u00e1ci hyperv\u00edzora nieko\u013eko zmien. Predov\u0161etk\u00fdm odstr\u00e1nili funkciu vMotion. T\u00e1 je potrebn\u00e1 na vyva\u017eovanie za\u0165a\u017eenia a zvy\u010dajne pres\u00fava virtu\u00e1lne stroje (VM) medzi servers alebo GPU. Deaktiv\u00e1cia vMotion viedla k tomu, \u017ee ka\u017ed\u00e9mu VM je teraz pridelen\u00fd konkr\u00e9tny grafick\u00fd procesor. To pomohlo zn\u00ed\u017ei\u0165 n\u00e1klady pri v\u00fdmene d\u00e1t.<\/p>\n

\u010eal\u0161ou k\u013e\u00fa\u010dovou s\u00fa\u010das\u0165ou syst\u00e9mu je technol\u00f3gia<\/a><\/noindex> DirectPath I\/O. T\u00e1 umo\u017e\u0148uje CUDA ovl\u00e1da\u010du pre paraleln\u00e9 v\u00fdpo\u010dty komunikova\u0165 s virtu\u00e1lnymi strojmi priamo, obch\u00e1dzaj\u00fac hyperv\u00edzor. Ke\u010f je na jednom GPU potrebn\u00e9 spusti\u0165 nieko\u013eko VM, vyu\u017e\u00edva sa rie\u0161enie GRID vGPU. To delenie pam\u00e4te grafickej karty na nieko\u013eko segmentov (ale v\u00fdpo\u010dtov\u00e9 cykly sa pri tom nedelia).<\/p>\n

Sch\u00e9ma pr\u00e1ce dvoch virtu\u00e1lnych strojov bude v tomto pr\u00edpade vyzera\u0165 nasledovne:<\/p>\n

\"Situ\u00e1cia:<\/p>\n

V\u00fdsledky a predpovede<\/h2>\n

\nSpolo\u010dnos\u0165 vykonali testy<\/a><\/noindex> hyperv\u00edzora, tr\u00e9novan\u00edm jazykov\u00e9ho modelu zalo\u017een\u00e9ho na TensorFlow<\/a><\/noindex>. \"Zn\u00ed\u017eenie\" v\u00fdkonu predstavovalo iba 3\u20134 % v porovnan\u00ed s bare metal. Na opl\u00e1tku syst\u00e9m z\u00edskal mo\u017enos\u0165 distribuova\u0165 zdroje na po\u017eiadanie v z\u00e1vislosti od aktu\u00e1lnych za\u0165a\u017een\u00ed.<\/p>\n

IT gigant tie\u017e realizoval testy<\/a><\/noindex> s kontajnermi. In\u017einieri spolo\u010dnosti tr\u00e9novali neur\u00f3nov\u00e9 siete na rozpozn\u00e1vanie obr\u00e1zkov. Pri tom boli zdroje jedn\u00e9ho grafick\u00e9ho procesora rozdelen\u00e9 medzi \u0161tyri kontajnerov\u00e9 VM. V d\u00f4sledku toho v\u00fdkon jednotliv\u00fdch strojov klesol o 17 % (v porovnan\u00ed s jednou VM, ktor\u00e1 mala pln\u00fd pr\u00edstup k zdrojom GPU). Av\u0161ak po\u010det spracov\u00e1van\u00fdch obr\u00e1zkov za sekundu zv\u00fd\u0161il<\/a><\/noindex> sa zv\u00fd\u0161il trikr\u00e1t. O\u010dak\u00e1va sa, \u017ee tak\u00e9to syst\u00e9my n\u00e1jdu<\/a><\/noindex> pou\u017eitie v oblasti anal\u00fdzy \u00fadajov a po\u010d\u00edta\u010dov\u00e9ho modelovania.<\/p>\n

Medzi potenci\u00e1lne probl\u00e9my, s ktor\u00fdmi sa m\u00f4\u017ee VMware stretn\u00fa\u0165, odborn\u00edci vydeluj\u00fa<\/a><\/noindex> m\u00e1 dos\u0165 \u00fazku cie\u013eov\u00fa skupinu. S vysokov\u00fdkonn\u00fdmi syst\u00e9mami zatia\u013e pracuje len mal\u00e9 mno\u017estvo spolo\u010dnost\u00ed. Aj ke\u010f v Statista poznamen\u00e1vaj\u00fa<\/a><\/noindex>, \u017ee do roku 2021 bude virtualizovan\u00fdch u\u017e 94 % pracovn\u00fdch za\u0165a\u017een\u00ed vo svetov\u00fdch d\u00e1tov\u00fdch centr\u00e1ch. Pod\u013ea predpoved\u00ed<\/a><\/noindex> analytikov, hodnota HPC trhu vzrastie z 32 na 45 mili\u00e1rd dol\u00e1rov v obdob\u00ed od 2017 do 2022.<\/p>\n

\"Situ\u00e1cia:
\n\/ \u0444\u043e\u0442\u043e Glob\u00e1lny pr\u00edstupov\u00fd bod<\/a><\/noindex> PD<\/i><\/p>\n

Podobn\u00e9 rie\u0161enia<\/h2>\n

\nNa trhu je nieko\u013eko anal\u00f3gov, ktor\u00e9 vyv\u00edjaj\u00fa ve\u013ek\u00e9 IT spolo\u010dnosti: AMD a Intel.<\/p>\n

Prv\u00e1 spolo\u010dnos\u0165 pre virtualiz\u00e1ciu grafick\u00fdch procesorov pon\u00faka<\/noindex> pou\u017e\u00edva pr\u00edstup na z\u00e1klade SR-IOV (single-root input\/output virtualization). T\u00e1to technol\u00f3gia poskytuje VM pr\u00edstup k \u010dasti hardv\u00e9rov\u00fdch zdrojov syst\u00e9mu. Rie\u0161enie umo\u017e\u0148uje rozdeli\u0165 grafick\u00fd procesor medzi 16 pou\u017e\u00edvate\u013emi s rovnak\u00fdm v\u00fdkonom virtualizovan\u00fdch syst\u00e9mov.<\/p>\n

Pokia\u013e ide o druh\u00e9ho IT giganta, ich technol\u00f3gia sa zaklad\u00e1<\/a><\/noindex> na hyperv\u00edzore Citrix XenServer 7. Spojuje pr\u00e1cu \u0161tandardn\u00e9ho GPU ovl\u00e1da\u010da a virtu\u00e1lnej ma\u0161iny, \u010do umo\u017e\u0148uje tejto poslednej zobrazova\u0165 3D aplik\u00e1cie a desktop na zariadeniach stovky pou\u017e\u00edvate\u013eov.<\/p>\n

Bud\u00facnos\u0165 technol\u00f3gie<\/h2>\n

\nV\u00fdvoj\u00e1ri virtu\u00e1lnych grafick\u00fdch procesorov stavia na<\/a><\/noindex> implementovanie syst\u00e9mov AI a rast popularity vysokov\u00fdkonn\u00fdch rie\u0161en\u00ed na trhu biznis technol\u00f3gi\u00ed. D\u00fafaj\u00fa, \u017ee potreba spracovania ve\u013ek\u00fdch objemov d\u00e1t zv\u00fd\u0161i dopyt po vGPU.<\/p>\n

Teraz v\u00fdrobcovia h\u013eadaj\u00fa sp\u00f4sob<\/a><\/noindex> skombinova\u0165 funk\u010dnos\u0165 CPU a GPU v jednom jadre, aby sa ur\u00fdchlilo rie\u0161enie \u00faloh s\u00favisiacich s grafikou, vykon\u00e1vanie matematick\u00fdch v\u00fdpo\u010dtov, logick\u00fdch oper\u00e1ci\u00ed a spracovanie d\u00e1t. Objavenie t\u00fdchto jadier na trhu v bud\u00facnosti zmen\u00ed pr\u00edstup k virtualiz\u00e1cii zdrojov a ich rozdeleniu medzi pracovn\u00fdmi z\u00e1\u0165a\u017eami vo virtu\u00e1lnom a cloudovom prostred\u00ed.<\/p>\n

\n\u010co \u010d\u00edta\u0165 na t\u00e9mu v na\u0161om firemnom blogu:<\/p>\n