I juni-juli henvendte næsten to dusin virksomheder sig til os for at høre om mulighederne for virtuelle GPU'er. "Grafikken" fra Cloud4Y bruges allerede af et af Sberbank's store datterselskaber, men generelt er tjenesten ikke særlig populær. Denne aktivitet glædede os meget. Da vi så en stigning i interessen for teknologien, besluttede vi at fortælle lidt mere om vGPU.
"Data søer", der er opnået som resultat af videnskabelige eksperimenter og forskning, Deep Learning og andre retninger inden for AI, samt modellering af store og komplekse objekter - alt dette kræver højtydende hardware. Det er godt, hvis det eksisterer og hurtigt kan løse aktuelle opgaver. Men på grund af den voksende beregningskompleksitet af opgaverne (især inden for forretningsanalyse, rendering, DL-algoritmer og rammer) bliver den hardwarekapacitet, der findes i stationære og endda server-CPU'er, stadig mere ubrugelig.
Løsningen blev fundet i brugen af GPU-beregninger. Denne grafikaccelereringsteknologi muliggør deling af ressourcerne fra en grafisk processor mellem flere virtuelle computere. GPU'en blev oprindeligt designet til grafisk arbejde, da den består af tusindvis af små kerner, der anvendes til effektiv håndtering af parallelle opgaver. Samtidig udføres en del af de mest ressourceintensive beregninger på GPU'en, mens resten håndteres af CPU'en.
GPU-beregninger blev opfundet af virksomheden allerede i 2007. I dag er denne teknologi nået til et nyt niveau og anvendes i datacentre hos de største virksomheder og forskningslaboratorier. Imidlertid er der en væsentlig ulempe ved den traditionelle tilgang: indkøb af fysisk udstyr er meget dyrt. Og når man i tillæg hertil betragter hastigheden af udstyrets forældelse, bliver det endnu mere trist.
Problemet skal løses af teknologien for virtuelle grafiske processorer: vGPU. Med denne teknologi kan brugerne fjernstarte tunge programmer som AutoCAD, 3DS Max, Maya, Sony Vegas Pro. Virtualiseringen har hurtigt erobret sin del af markedet. For hvilken russisk data scientist elsker ikke hurtige beregninger på NVidia Tesla grafikkort?
Det er værd at nævne, at før vGPU kom, blev der anvendt andre metoder til at accelerere grafikbehandling: Virtual Shared Graphics Acceleration (vSGA) og Virtual Dedicated Graphics Acceleration (vDGA). vGPU-løsningen kombinerede det bedste fra begge teknologier. Ligesom med vSGA antages det, at GPU og RAM deles mellem flere virtuelle skriveborde i et vGPU-miljø, men hver VM sender kommandoer direkte til GPU'en, ligesom i tilfældet med vDGA.
Hvorfor er vGPU nødvendigt?
Cloud computing med vGPU gør det muligt for virksomheder at tackle opgaver, som tidligere var umulige at løse, eller som krævede urealistisk mange ressourcer. En moderne GPU-server kan erstatte op til 100 almindelige CPU'er. Der er også andre . Det er ikke spøge: Nvidia-løsninger behandler petabytes af data mange gange hurtigere end klassiske CPU-servere. Samtidig tilbyder Google Cloud virtuelle maskiner med GPU, der leverer op til 960 teraflops.
Mange specialister har brug for kraftfulde enheder, der kan udføre parallelle beregninger. Arkitekter og ingeniører bruger vGPU-teknologi i designssystemer (det samme gælder for Autodesk, for eksempel). Designere arbejder med digital foto- og videoindhold (Photoshop, CorelDraw). Grafikprocessorer er også nødvendige for sundhedssektoren, der akkumulerer og analyserer data om patienter og sygdomme. GPU anvendes også af».
Tænker du, at det er alt? Langt fra. Teknologien anvendes også til automatisk , og til , , modellering og . Og der er også en fantastisk i miljøet Unity3D fra .
På trods af dette har løsninger baseret på vGPU endnu ikke opnået udbredt anvendelse i verden. Så i 2018 gennemførte NetApp en undersøgelse blandt virksomheder, der bruger grafiske processorer i deres arbejde. Resultaterne viste, at 60% af organisationerne stadig arbejder med deres egen IT-infrastruktur. Kun 23% bruger "cloud". I Rusland har teknologien for cloud computing mindre betydning. Men takket være nye hardware- og softwareløsninger vokser antallet af virksomheder, der bruger virtuelle maskiner med GPU, konstant.
Løsninger til vGPU
Mange virksomheder arbejder på udviklingen af virtualiseringsteknologier til grafiske accelerater, men blandt dem er der nogle, der er ubestridte ledere.
En af de mest anerkendte udviklere af løsninger inden for cloud-løsninger, virksomheden VMware tilbyder virksomheder en hypervisor , under hvilken hastigheden for virtualiserede grafiske processorer er sammenlignelig med implementeringer på rå hardware. I en nylig opdatering deaktiverede udvikleren load balancer vMotion og tilføjede understøttelse af teknologien DirectPath I/O, som forbinder CUDA-driveren med VM'en uden om hypervisoren og acceleratorerer dataoverførslen.
Nvidia gør også sit bedste for at imødekomme markedets forventninger, og for dette har de udgivet en open source-platform . Løsningen samler flere biblioteker til arbejde med CUDA-arkitekturen, hvilket forenkler arbejdet med data under træning af neurale netværk og muliggør automatisering af arbejdet med Python-kode. Brug af Rapids med maskinlæringsalgoritmen XGBoost giver en 50-fold stigning i ydeevnen i forhold til systemer baseret på CPU.
Der findes også en teknologi fra AMD. Platformen hedder . Den anvender teknologien SR-IOV, som opdeler de fysiske enhedsressourcer mellem flere virtuelle maskiner. Ressourcerne fra en accelerator kan deles mellem seksten brugere, hvilket opretholder lige ydeevne for hver af dem. Dette accelererer dataoverførslen mellem cloud CPU og GPU. Der anvendes også en speciel C++ dialekt kaldet HIP, som forenkler udførelsen af matematiske operationer på GPU.
Intel bygger sin teknologi på en cross-platform hypervisor XenServer 7, som fik FSTEC overensstemmelsescertifikat i 2017. Løsningen kombinerer arbejdet med den standard GPU-driver og den virtuelle maskine. Det vil sige, at en "virtuelt" kan køre tunge applikationer på enheder med et stort (flere hundrede) antal brugere.
Markedsudsigter
Uafhængige analytikere mener, at salget af løsninger til HPC-systemer vil nå 45 milliarder dollars inden 2022. Udviklerne af platforme forventer også en stigning i efterspørgslen efter højtydende systemer. Denne forventning understøttes af populariteten af Big Data og den ofte forekommende nødvendighed for at bearbejde store mængder data.
Desuden kan den voksende efterspørgsel efter vGPU stimulere udviklingen af hybride teknologier, der kombinerer GPU og CPU i én enhed. I sådanne integrerede løsninger bruger de to typer af kerner en fælles cache, hvilket hastighedsopfører dataoverførslen mellem grafiske og traditionelle processorer.
Hybrider vil grundlæggende ændre tilgangen til virtualisering og fordeling af virtuelle ressourcer inden for datacentre. Åbne kildeløsninger som ROCm og Rapids gør det muligt for datacenteroperatører at udnytte beregningsressourcerne mere effektivt og forbedre udstyrets ydeevne.
Der er også en anden opfattelse. For eksempel, at virtuelle GPU'er vil blive udfaset af optiske chips med fotonisk datakodning. Sådanne løsninger eksisterer allerede og anvendes til maskinlæring. Desuden synes de at være end almindelige GPU'er. Men teknologien er stadig umoden.
Hvad kan der konkluderes? På trods af muligheden for at der kan komme alternativer, er vGPU en lovende retning, der kan løse mange opgaver. Men det passer ikke til alle. Så I kan selv sætte kommaet i overskriften.
P.S.
Tilmeld dig vores -kanalen for ikke at misse den næste artikel! Vi skriver højst to gange om ugen og kun om relevante emner.
Kun registrerede brugere kan deltage i undersøgelsen. , please.
Bruger du vGPU?
Ja, der er ofte behov for virtuelle ressourcer.
Nej, og det er usandsynligt, at vi planlægger det.
23 brugere har stemt. 11 brugere har undladt at stemme.
Kilde: habr.com
