Under juni-juli kontaktade nÀstan tjugo företag oss, intresserade av möjligheterna med virtuella GPU:er. "Grafiken" frÄn Cloud4Y anvÀnds redan av ett av de stora dotterbolagen till Sberbank, men generellt Àr tjÀnsten inte sÀrskilt populÀr. SÄ den hÀr aktiviteten glÀder oss mycket. Med tanke pÄ det vÀxande intresset för teknologin beslutade vi att berÀtta lite mer om vGPU.
"Data lakes", som erhĂ„llits genom vetenskapliga experiment och forskning, Deep Learning och andra omrĂ„den inom AI, modellering av stora och komplexa objekt â allt detta krĂ€ver högpresterande "hĂ„rdvara". Det Ă€r bra om den finns och snabbt kan lösa aktuella uppgifter. Men pĂ„ grund av den ökande berĂ€kningskomplexiteten i uppgifter (frĂ€mst relaterat till affĂ€rsanalys, rendering, DL-algoritmer och ramverk) blir hĂ„rdvarukapaciteten hos bĂ„de stationĂ€ra och servrar CPU allt mer vĂ€rdelös.
Lösningen fanns i anvÀndningen av berÀkningar pÄ GPU. Denna grafikhastighetsutveckling gör det möjligt att dela resurserna hos en grafisk processor mellan flera virtuella datorer. GPU var ursprungligen designat för grafiskt arbete, dÀrför bestÄr det av tusentals smÄ kÀrnor, vilket möjliggör effektiv hantering av parallella uppgifter. Samtidigt utför GPU en del av de mest resurskrÀvande berÀkningarna, resten bekostas av CPU.
BerÀkningar med hjÀlp av GPU uppfanns av företaget redan 2007. Idag har denna teknologi nÄtt en ny nivÄ och tillÀmpas i datacenter hos de största företagen och forskningslaboratorierna. Den traditionella metoden har dock en betydande nackdel: inköp av fysisk utrustning Àr ganska kostsamt. Och om man tÀnker pÄ hastigheten av att "hÄrdvara" blir förÄldrad, blir det Ànnu sorgligare.
Problemet ska lösas av teknologin för virtuella grafiska processorer: vGPU. Med hjÀlp av den kan anvÀndare pÄ distans köra tunga applikationer som AutoCAD, 3DS Max, Maya, Sony Vegas Pro. Virtualisering har snabbt tagit sin del av marknaden. Vilken rysk data scientist Àlskar inte snabba berÀkningar pÄ NVidia Tesla-grafikkort?
Det Àr vÀrt att nÀmna att innan vGPU kom andra metoder för att pÄskynda grafikbearbetning: Virtual Shared Graphics Acceleration (vSGA) och Virtual Dedicated Graphics Acceleration (vDGA). vGPU-lösningen kombinerar det bÀsta frÄn bÄda teknologierna. Precis som med vSGA förutsÀtter vGPU-miljön delning av GPU och RAM mellan flera virtuella skrivbord, men varje VM skickar kommandon direkt till GPU:n, som med vDGA.
Varför behövs vGPU överhuvudtaget
MollycbÀddstjÀnster som anvÀnder vGPU gör det möjligt för företag att hantera uppgifter som tidigare var omöjliga att lösa. Eller möjliga, men med en orimlig mÀngd resurser. En modern GPU-server kan ersÀtta upp till 100 vanliga CPU:er. Det finns ocksÄ andra . Det Àr ingen skÀmt: Nvidia-lösningar bearbetar petabyte data flera gÄnger snabbare Àn klassiska CPU-servrar. Google Cloud erbjuder ocksÄ virtuella maskiner med GPU som ger upp till 960 teraflops.
MÄnga specialister behöver kraftfulla enheter för att utföra parallella berÀkningar. Arkitekter och ingenjörer anvÀnder vGPU-teknologi i designsystem (som Autodesk, till exempel). Designers arbetar med digitalt foto- och videoinnehÄll (Photoshop, CorelDraw). Grafikprocessorer behövs ocksÄ av medicinska institutioner som samlar in och analyserar data om patienter och sjukdomar. Arbetar med GPU gör Àven "».
Tror du att det Àr allt? Det Àr inte sÄ. Teknologin anvÀnds Àven för automatisk , och för , , modellering och . Och det finns ocksÄ en fantastisk i Unity3D-miljö frÄn .
Trots detta har lösningar baserade pÄ vGPU Ànnu inte fÄtt ett brett genomslag i vÀrlden. SÄ, Är 2018 genomförde NetApp bland företag som anvÀnder grafikprocessorer. Resultaten visade att 60% av organisationerna fortfarande arbetar med sin egen IT-infrastruktur. Endast 23% anvÀnder "molnet". I Ryssland Àr spridningen av teknologin för molnberÀkningar mindre betydelsefull. Men tack vare nya hÄrdvaru- och mjukvarulösningar vÀxer antalet företag som anvÀnder virtuella maskiner med GPU stÀndigt.
Lösningar för vGPU
MÄnga företag arbetar med utvecklingen av virtualiseringstekniker för grafiska acceleratorer, men bland dem finns det utan tvekan vissa ledare.
Ett av de mest ansedda företagen inom molnlösningar, VMware erbjuder företag hypervisorn , dÀr hastigheten pÄ virtuella grafiska processorer Àr jÀmförbar med implementeringar pÄ ren hÄrdvara. I en nyligen genomförd uppdatering avaktiverade utvecklaren lastbalanseraren vMotion och lade till stöd för teknologin DirectPath I/O, som kopplar CUDA-drivrutinen direkt till VM:n, vilket snabbar upp dataöverföringen.
Nvidia strÀvar ocksÄ efter att möta marknadens förvÀntningar och har dÀrför lanserat en öppen kÀllkod-plattform . Lösningen kombinerar flera bibliotek för att arbeta med CUDA-arkitekturen, vilket förenklar datahantering under trÀning av neurala nÀtverk och möjliggör automatisering av Python-kod. AnvÀndningen av Rapids med maskininlÀrningsalgoritmen XGBoost ger en 50-faldig ökning i prestanda jÀmfört med system baserade pÄ CPU.
Egen teknologi finns Àven hos AMD. Plattformen heter . Den anvÀnder teknologin SR-IOV, som delar de fysiska enheternas resurser mellan flera virtuella maskiner. Resurserna hos en accelerator kan delas mellan sexton anvÀndare, vilket bibehÄller likvÀrdig prestanda för varje anvÀndare. Detta accelererar dataöverföringen mellan moln-CPU:er och GPU:er. Det anvÀnds ocksÄ en sÀrskild C++-dialekt som kallas HIP, vilket förenklar utförandet av matematiska operationer pÄ GPU.
Intel bygger sin teknologi pÄ den plattformsoberoende hypervisorn XenServer 7, som fick certifiering av FSTEK 2017. Lösningen kombinerar standard GPU-drivrutinen med den virtuella maskinen. Det innebÀr att "virtuella maskinen" kan hantera tunga applikationer pÄ enheter med ett stort antal anvÀndare (flera hundra).
Marknadsperspektiv
Oberoende analytiker anser att försÀljningen av lösningar för HPC-system kommer att nÄ 45 miljarder dollar fram till 2022. Plattformutvecklare förvÀntar sig ocksÄ en ökning av efterfrÄgan pÄ högpresterande system. Denna förvÀntan stöds av populariteten för Big Data och den ofta uppkommande behovet av att bearbeta stora datavolymer.
Ăkningen av efterfrĂ„gan pĂ„ vGPU kan ocksĂ„ stimulera utvecklingen av hybridteknologier som kombinerar GPU och CPU i en enhet. I sĂ„dana integrerade lösningar anvĂ€nder de tvĂ„ typerna av kĂ€rnor en gemensam cache, vilket snabbar upp överföringen av data mellan de grafiska och traditionella processorerna.
Hybrider kommer i grunden att förĂ€ndra tillvĂ€gagĂ„ngssĂ€ttet för virtualisering och fördelning av virtuella resurser inom datacenter. Ăppen kĂ€llkodslösningar som ROCm och Rapids gör att datacenteroperatörer kan anvĂ€nda berĂ€kningsresurser mer effektivt och öka hĂ„rdvarans prestanda.
Det finns ocksÄ en annan Äsikt. Till exempel att virtuella GPU:er kommer att ersÀttas av optiska chip med fotonisk datakodning. SÄdana lösningar finns redan och anvÀnds för maskininlÀrning. Dessutom verkar de Àn vanliga GPU:er. Men teknologin Àr fortfarande i ett tidigt skede.
Vad kan man dra för slutsats? Trots möjliga alternativ Àr vGPU en lovande vÀg som kan lösa mÄnga uppgifter. Men det passar inte alla. SÄ du kan sjÀlv sÀtta kommatecknet i rubriken.
P.S.
Prenumerera pÄ vÄr -kanal för att inte missa nÀsta artikel! Vi skriver högst tvÄ gÄnger i veckan och endast om viktiga Àmnen.
Endast registrerade anvÀndare kan delta i omröstningen. , tack.
AnvÀnder du vGPU?
Ja, virtuella resurser behövs ofta
Nej, och planerar knappast att göra det
23 anvÀndare röstade. 11 anvÀndare avstod.
KĂ€lla: habr.com
