🥇vGPU — nu poate fi ignorat

În perioada iunie-iulie, aproape douăzeci de companii ne-au contactat interesate de posibilitățile GPU-urilor virtuale. «Grafica» de la Cloud4Y este deja folosită de una dintre marii subsidiari ai Sberbank, însă, în general, serviciul nu este prea popular. Așadar, o astfel de activitate ne-a bucurat foarte mult. Observând creșterea interesului pentru tehnologie, am decis să vorbim puțin mai în detaliu despre vGPU.

«Lacurile de date», obținute în urma experimentelor științifice și cercetărilor, Învățarea profundă și alte domenii de lucru cu IA, modelarea obiectelor mari și complexe - toate acestea necesită hardware de înaltă performanță. E bine dacă există și permite rezolvarea rapidă a sarcinilor curente. Cu toate acestea, din cauza creșterii complexității computaționale a sarcinilor (mai ales în cazul analizei de afaceri, randării, algoritmilor și cadrelor DL), puterea de procesare a CPU-urilor desktop și chiar a celor server devine din ce în ce mai inutilă.

Soluția a fost găsită în utilizarea calculului pe GPU. Această tehnologie de accelerare grafică permite partajarea resurselor unui singur procesor grafic între mai multe computere virtuale. GPU-ul a fost proiectat inițial pentru a lucra cu grafică, de aceea acesta este compus din mii de nuclee mici care sunt folosite pentru procesarea eficientă a sarcinilor paralele. În acest fel, pe GPU se execută o parte din cele mai consumatoare de resurse calculuri, restul fiind preluat de CPU.

Calculul utilizând GPU a fost inventat de compania Nvidia în 2007. Astăzi, această tehnologie a atins un nou nivel și este utilizată în centrele de date ale celor mai mari întreprinderi și laboratoare științifice. Cu toate acestea, abordarea tradițională are un dezavantaj semnificativ: achiziția de echipamente fizice este foarte costisitoare. Și dacă ne amintim de viteza cu care se degradază «hardware»-ul, devine și mai sumbru.

Problema este menită să fie rezolvată de tehnologia procesorilor grafici virtuali: vGPU. Cu ajutorul acesteia, utilizatorii pot rula de la distanță aplicații grele precum AutoCAD, 3DS Max, Maya, Sony Vegas Pro. Virtualizarea și-a câștigat rapid partea de piață. Căci ce om de știință rus nu iubește calculul rapid pe plăcile grafice NVidia Tesla?

Este este de menționat că, înainte de apariția vGPU, au fost utilizate alte metode de accelerare a procesării graficii: Accelerarea Grafică Virtuală Partajată (vSGA) și Accelerarea Grafică Virtuală Dedicată (vDGA). Soluția vGPU combină cele mai bune aspecte din ambele tehnologii. La fel ca în cazul vSGA, în mediul vGPU se preconizează partajarea GPU-ului și a RAM-ului între mai multe desktopuri virtuale, dar fiecare VM trimite comenzile direct către GPU, ca în cazul vDGA.

De ce sunt necesare vGPU?

Calculul în cloud folosind vGPU permite companiilor să facă față sarcinilor care înainte erau imposibil de rezolvat. Sau poate, era posibil, dar necesitau resurse exorbitante. 1 server GPU modern poate înlocui până la 100 de CPU obișnuiți. Există și alte, informații și mai impresionante. Nu sunt glume: soluțiile Nvidia procesează petabytes de date de câteva ori mai repede decât serverele CPU clasice. Iar Google Cloud oferă mașini virtuale cu GPU care emit până la 960 teraflopi.

Mulți specialiști au nevoie de dispozitive puternice, capabile să efectueze calcule paralele. Arhitecții și inginerii folosesc tehnologia vGPU în sistemele de proiectare (cum ar fi Autodesk, de exemplu). Designerii lucrează cu conținut digital foto și video (Photoshop, CorelDraw). Mașini virtuale GPU-urile sunt necesare și instituțiilor medicale, care acumulează și analizează date despre pacienți și boli. Lucrează cu GPU și „Yandex».

Credeți că e tot? Nici pomeneală. Tehnologia este folosită și pentru verificarea automată a preciziei imaginilor satelitare, și pentru previzionarea epidemiilor, cercetărilor meteorologice, modelare a ciclurilor solare și analizelor de afaceri. Și mai este un articol interesant despre modelare în mediul Unity3D de la ThisIsZolden Cu toate acestea, soluțiile bazate pe vGPU nu au fost încă adoptate pe scară largă în lume. Astfel, în 2018 NetApp a realizat.

un sondaj printre companiile care folosesc GPU-uri în activitatea lor. Rezultatele au arătat că 60% dintre organizații continuă să opereze pe infrastructura IT proprie. „Cloud”-ul este utilizat doar de 23%. În Rusia, penetrarea tehnologiei calculului în cloud are o relevanță mai mică. Dar datorită noilor soluții hardware și software, numărul companiilor care folosesc mașini virtuale cu GPU crește constant. un sondaj Soluții pentru vGPU

Soluții pentru vGPU

Multe companii se ocupă cu dezvoltarea tehnologiilor de virtualizare a acceleratorului grafic, dar printre ele se numără lideri incontestabili.

Una dintre cele mai respectate companii dezvoltatoare de soluții în domeniul cloud-ului, compania VMware oferă companiilor hipervizorul ESXi, sub care viteza de lucru a procesorilor grafici virtuali este comparabilă cu realizările pe hardware pur. În actualizarea recentă, dezvoltatorul a dezactivat echilibratorul de sarcină vMotion și a adăugat suport pentru tehnologia DirectPath I/O, care leagă driverul CUDA de VM prin ocolirea hipervizorului și accelerează transferul de date.

Nvidia de asemenea, se străduiește să corespundă așteptărilor pieței, și pentru asta a lansat o platformă opensource Rapids. Soluția înglobează mai multe biblioteci pentru lucrul cu arhitectura CUDA, ceea ce simplifică lucrul cu datele în timpul antrenării rețelelor neuronale și permite automatizarea muncii cu codul Python. Utilizarea Rapids cu algoritmul de învățare automată XGBoost oferă o creștere de 50 de ori a performanței în comparație cu sistemele bazate pe CPU.

Propria tehnologie există și la AMD. Platforma se numește ROCm. Aceasta utilizează tehnologia SR-IOV, care împarte capacitățile hardware ale unui dispozitiv fizic între mai multe mașini virtuale. Resursele unui accelerator pot fi împărțite între șaisprezece utilizatori, menținând o performanță egală pentru fiecare dintre ei. Astfel, se accelerează transferul de date între CPU-uri și GPU-uri în cloud. De asemenea, se folosește un dialect special de C++ numit HIP, care simplifică executarea operațiunilor matematice pe GPU.

Intel își construiește tehnologia pe baza hipervizorului cross-platform Citrix XenServer 7, care în 2017 a obținut un certificat de conformitate de la FSTEK. Soluția combină funcționarea driverului standard de GPU și a mașinii virtuale. Asta înseamnă că „virtuala” poate susține rula aplicații grele pe dispozitive cu un număr mare (câteva sute) de utilizatori.

Perspectivele de piață

Analiștii independenți consideră că volumul vânzărilor de soluții pentru sistemele HPC va atinge 45 de miliarde de dolari până în 2022. Dezvoltatorii platformelor se așteaptă, de asemenea, la o creștere a cererii pentru sistemele de înaltă performanță. Această așteptare este susținută de popularitatea Big Data și de necesitatea frecventă de a procesa volume mari de date.

De asemenea, creșterea cererii pentru vGPU ar putea stimula dezvoltarea tehnologiilor hibride care combină GPU și CPU într-un singur dispozitiv. În aceste soluții integrate, cele două tipuri de nuclee utilizează un cache comun, ceea ce accelerează transferul de date între procesoarele grafice și cele tradiționale.

Hibrizii ar putea schimba fundamental abordarea virtualizării și alocării resurselor virtuale în cadrul centrelor de date. Soluțiile cu sursă deschisă, precum ROCm și Rapids, permit operatorilor de centre de date să utilizeze mai eficient resursele de calcul, îmbunătățind performanța echipamentelor.

Există și o altă opinie. De exemplu, că GPU-urile virtuale vor fi înlocuite de cipuri optice cu codificare fotonică a datelor. Astfel de soluții există deja și sunt utilizate pentru învățarea automată. Mai mult, acestea par mai productive decât GPU-urile obișnuite. Dar tehnologia este încă în stadiu incipient.

Ce concluzie se poate trasa? În ciuda posibilelor apariții de omologi, vGPU reprezintă o direcție promițătoare, capabilă să rezolve o mulțime de sarcini. Dar nu se potrivește pentru toată lumea. Așa că puteți pune virgula în titlu singuri.

P.S.
Abonați-vă la canalul nostru Telegram-canal pentru a nu rata următorul articol! Scriem nu mai des de două ori pe săptămână și doar lucruri importante.

Numai utilizatorii înregistrați pot participa la sondaj. Conectați-vă, vă rugăm.