{"id":42117,"date":"2019-03-18T00:00:00","date_gmt":"2019-03-17T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam"},"modified":"2020-02-18T13:44:55","modified_gmt":"2020-02-18T10:44:55","slug":"situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/hr\/blog\/administrirovanie\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","title":{"rendered":"Situacija: virtualni GPU-i se ne oslanjaju na performanse hardverskih rje\u0161enja","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

U velja\u010di je na Stanfordu odr\u017eana konferencija posve\u0107ena visoko performativnim ra\u010dunalnim sistemima (HPC). Predstavnici VMware-a su izjavili da u radu s GPU-ovima sustav temeljen na modificiranom hipervizoru ESXi po brzini ne zaostaje za bare metal rje\u0161enjima.<\/p>\n

Govorit \u0107emo o tehnologijama koje su omogu\u0107ile postizanje ovih rezultata.<\/p>\n

\"Situacija:<\/a><\/noindex><\/a><\/noindex>
\n\/ \u0444\u043e\u0442\u043e Victorgrigas<\/a><\/noindex> CC BY-SA<\/a><\/noindex><\/i><\/p>\n

Problemi s performansama<\/h2>\n

\nPrema procjenama analiti\u010dara, oko 70% radnih optere\u0107enja u podatkovnim centrima je virtualizirano<\/a><\/noindex>. Me\u0111utim, preostalih 30% jo\u0161 uvijek radi na bare metal bez hipervizora. Ovih 30% ve\u0107inom se sastoji od visoko optere\u0107enih aplikacija, povezanih, na primjer, sa obukom neuronskih mre\u017ea, i koriste grafi\u010dke procesore.<\/p>\n

Ekspeti obja\u0161njavaju ovakav trend time da hipervizor kao me\u0111usloj apstrakcije mo\u017ee utjecati na performanse cijelog sustava. U istra\u017eivanjima starim pet godina mogu se prona\u0107i podaci<\/a><\/noindex> o smanjenju brzine rada za 10%. Stoga kompanije i operateri podatkovnih centara ne \u017eure s prijelazom HPC optere\u0107enja u virtualno okru\u017eenje.<\/p>\n

No, tehnologije virtualizacije se razvijaju i usavr\u0161avaju. Na konferenciji prije mjesec dana, VMware je izvijestio da hipervizor ESXi ne utje\u010de negativno na performanse GPU-a. Brzina izra\u010duna mo\u017ee se smanjiti za tri posto, \u0161to je usporedivo s rezultatima bare metal.<\/p>\n

Kako to funkcionira<\/h2>\n

\nKako bi se pobolj\u0161ale performanse HPC sustava s grafi\u010dkim procesorima, VMware je u rad hipervizora uveo niz promjena. Konkretno, oslobodili su ga od funkcije vMotion. Ova funkcija je potrebna za balansiranje optere\u0107enja i obi\u010dno premje\u0161ta virtualne ma\u0161ine (VM) izme\u0111u poslu\u017eitelja ili GPU-a. Isklju\u010divanje vMotion-a rezultiralo je time da je sada svaka VM povezana s odre\u0111enim grafi\u010dkim procesorom. To je pomoglo u smanjenju tro\u0161kova prilikom razmjene podataka.<\/p>\n

Druga klju\u010dna komponenta sustava je tehnologija<\/a><\/noindex> DirectPath I\/O. Omogu\u0107uje CUDA drajveru za paralelne izra\u010dune izravnu interakciju s virtualnim ma\u0161inama, zaobilaze\u0107i hipervizor. Kada je potrebno pokrenuti nekoliko VM na jednom GPU-u, koristi se rje\u0161enje GRID vGPU. Ono dijeli memoriju kartice na nekoliko segmenata (ali se prora\u010dunski ciklusi pritom ne dijele).<\/p>\n

Shema rada dviju virtualnih ma\u0161ina u ovom slu\u010daju izgledat \u0107e ovako:<\/p>\n

\"Situacija:<\/p>\n

Rezultati i prognoze<\/h2>\n

\nTvrtka provela je testove<\/a><\/noindex> hipervizora, obu\u010div\u0161i jezi\u010dni model temeljen na TensorFlow<\/a><\/noindex>. \u201eGubitak\u201c performansi iznosio je samo 3\u20134%, u usporedbi s bare metalom. U tom procesu sustav je osvojio mogu\u0107nost raspodjele resursa prema zahtjevu ovisno o trenutnim optere\u0107enjima.<\/p>\n

IT div tako\u0111er provodio testove<\/a><\/noindex> s kontejnerima. In\u017eenjeri tvrtke obu\u010davali su neuronske mre\u017ee prepoznavati slike. Pri tome su resurse jednog grafi\u010dkog procesora raspodijelili izme\u0111u \u010detiri kontejnerske VM. Kao rezultat, performanse pojedinih ma\u0161ina smanjene su za 17% (u usporedbi s jednom VM koja ima potpuni pristup resursima GPU-a). Me\u0111utim, broj obra\u0111enih slika po sekundi porastao<\/a><\/noindex> pove\u0107ao se tri puta. O\u010dekuje se da \u0107e takvi sustavi prona\u0107i<\/a><\/noindex> primjenu u podru\u010dju analize podataka i ra\u010dunalnog modeliranja.<\/p>\n

Me\u0111u potencijalnim problemima s kojima se VMware mo\u017ee suo\u010diti, stru\u010dnjaci isti\u010du<\/a><\/noindex> imaju prili\u010dno usku ciljnu publiku. S visokou\u010dinkovitim sustavima zasad radi mali broj tvrtki. Iako u Statista napominju<\/a><\/noindex>, do 2021. godine virtualizirano \u0107e biti ve\u0107 94% radnih optere\u0107enja na globalnim podatkovnim centrima. Prema prognozama<\/a><\/noindex> analiti\u010darima, vrijednost HPC tr\u017ei\u0161ta porast \u0107e s 32 na 45 milijardi dolara u razdoblju od 2017. do 2022. godine.<\/p>\n

\"Situacija:
\n\/ \u0444\u043e\u0442\u043e Global Access Point<\/a><\/noindex> PD<\/i><\/p>\n

Sli\u010dna rje\u0161enja<\/h2>\n

\nNa tr\u017ei\u0161tu postoji nekoliko analoga koje razvijaju velike IT tvrtke: AMD i Intel.<\/p>\n

Prva tvrtka za virtualizaciju grafi\u010dkih procesora nudi<\/noindex> pristup temeljen na SR-IOV (single-root input\/output virtualization). Ova tehnologija omogu\u0107uje VM pristup dijelu hardverskih mogu\u0107nosti sustava. Rje\u0161enje omogu\u0107uje dijeljenje grafi\u010dkog procesora me\u0111u 16 korisnika pri jednakim performansama virtualiziranih sustava.<\/p>\n

\u0160to se ti\u010de drugog IT diva, njihova tehnologija se temelji<\/a><\/noindex> na hipervizoru Citrix XenServer 7. Ona objedinjuje rad standardnog GPU upravlja\u010dkog programa i virtualne ma\u0161ine, \u0161to posljednjoj omogu\u0107uje prikazivanje 3D aplikacija i radnih povr\u0161ina na ure\u0111ajima stotina korisnika.<\/p>\n

Budu\u0107nost tehnologije<\/h2>\n

\nRazvijatelji virtualnih grafi\u010dkih procesora oslanjaju se<\/a><\/noindex> na implementaciju AI sustava i rast popularnosti visokou\u010dinkovitih rje\u0161enja na tr\u017ei\u0161tu poslovnih tehnologija. Nadaju se da \u0107e potreba za obradom velikih koli\u010dina podataka pove\u0107ati potra\u017enju za vGPU.<\/p>\n

Trenutno proizvo\u0111a\u010di tra\u017ee na\u010din<\/a><\/noindex> kombinirati funkcionalnost CPU-a i GPU-a u jednoj jezgri kako bi se ubrzalo rje\u0161avanje zadataka povezanih s grafikom, izvr\u0161avanje matemati\u010dkih prora\u010duna, logi\u010dkih operacija i obradom podataka. Pojava takvih jezgri na tr\u017ei\u0161tu u budu\u0107nosti izmijenit \u0107e pristup virtualizaciji resursa i njihovoj distribuciji me\u0111u radnim optere\u0107enjima u virtualnom i obla\u010dnom okru\u017eenju.<\/p>\n

\n\u0160to pro\u010ditati o temi u na\u0161em korporativnom blogu:<\/p>\n