{"id":36902,"date":"2019-10-31T22:14:38","date_gmt":"2019-10-31T19:14:38","guid":{"rendered":"https:\/\/prohoster.info\/blog\/vgpu-ispolzovat-nelzya-ignorirovat\/"},"modified":"2019-10-31T22:14:38","modified_gmt":"2019-10-31T19:14:38","slug":"vgpu-ispolzovat-nelzya-ignorirovat","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sv\/blog\/administrirovanie\/vgpu-ispolzovat-nelzya-ignorirovat","title":{"rendered":"vGPU \u2014 att ignorera detta \u00e4r inte ett alternativ","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

\"vGPU
\n
\nUnder juni-juli kontaktade n\u00e4stan tjugo f\u00f6retag oss, intresserade av m\u00f6jligheterna med virtuella GPU:er. \"Grafiken\" fr\u00e5n Cloud4Y anv\u00e4nds redan av ett av de stora dotterbolagen till Sberbank, men generellt \u00e4r tj\u00e4nsten inte s\u00e4rskilt popul\u00e4r. S\u00e5 den h\u00e4r aktiviteten gl\u00e4der oss mycket. Med tanke p\u00e5 det v\u00e4xande intresset f\u00f6r teknologin beslutade vi att ber\u00e4tta lite mer om vGPU.<\/i> <\/a><\/noindex><\/p>\n

\"Data lakes\", som erh\u00e5llits genom vetenskapliga experiment och forskning, Deep Learning och andra omr\u00e5den inom AI, modellering av stora och komplexa objekt \u2014 allt detta kr\u00e4ver h\u00f6gpresterande \"h\u00e5rdvara\". Det \u00e4r bra om den finns och snabbt kan l\u00f6sa aktuella uppgifter. Men p\u00e5 grund av den \u00f6kande ber\u00e4kningskomplexiteten i uppgifter (fr\u00e4mst relaterat till aff\u00e4rsanalys, rendering, DL-algoritmer och ramverk) blir h\u00e5rdvarukapaciteten hos b\u00e5de station\u00e4ra och servrar CPU allt mer v\u00e4rdel\u00f6s.<\/p>\n

L\u00f6sningen fanns i anv\u00e4ndningen av ber\u00e4kningar p\u00e5 GPU. Denna grafikhastighetsutveckling g\u00f6r det m\u00f6jligt att dela resurserna hos en grafisk processor mellan flera virtuella datorer. GPU var ursprungligen designat f\u00f6r grafiskt arbete, d\u00e4rf\u00f6r best\u00e5r det av tusentals sm\u00e5 k\u00e4rnor, vilket m\u00f6jligg\u00f6r effektiv hantering av parallella uppgifter. Samtidigt utf\u00f6r GPU en del av de mest resurskr\u00e4vande ber\u00e4kningarna, resten bekostas av CPU.<\/p>\n

\"vGPU
\n
\nBer\u00e4kningar med hj\u00e4lp av GPU uppfanns av f\u00f6retaget Nvidia <\/a><\/noindex>redan 2007. Idag har denna teknologi n\u00e5tt en ny niv\u00e5 och till\u00e4mpas i datacenter hos de st\u00f6rsta f\u00f6retagen och forskningslaboratorierna. Den traditionella metoden har dock en betydande nackdel: ink\u00f6p av fysisk utrustning \u00e4r ganska kostsamt. Och om man t\u00e4nker p\u00e5 hastigheten av att \"h\u00e5rdvara\" blir f\u00f6r\u00e5ldrad, blir det \u00e4nnu sorgligare.<\/p>\n

Problemet ska l\u00f6sas av teknologin f\u00f6r virtuella grafiska processorer: vGPU. Med hj\u00e4lp av den kan anv\u00e4ndare p\u00e5 distans k\u00f6ra tunga applikationer som AutoCAD, 3DS Max, Maya, Sony Vegas Pro. Virtualisering har snabbt tagit sin del av marknaden. Vilken rysk data scientist \u00e4lskar inte snabba ber\u00e4kningar p\u00e5 NVidia Tesla-grafikkort? <\/p>\n

Det \u00e4r v\u00e4rt att n\u00e4mna att innan vGPU kom andra metoder f\u00f6r att p\u00e5skynda grafikbearbetning: Virtual Shared Graphics Acceleration (vSGA) och Virtual Dedicated Graphics Acceleration (vDGA). vGPU-l\u00f6sningen kombinerar det b\u00e4sta fr\u00e5n b\u00e5da teknologierna. Precis som med vSGA f\u00f6ruts\u00e4tter vGPU-milj\u00f6n delning av GPU och RAM mellan flera virtuella skrivbord, men varje VM skickar kommandon direkt till GPU:n, som med vDGA.<\/p>\n

Varf\u00f6r beh\u00f6vs vGPU \u00f6verhuvudtaget <\/h2>\n

\nMollycb\u00e4ddstj\u00e4nster som anv\u00e4nder vGPU g\u00f6r det m\u00f6jligt f\u00f6r f\u00f6retag att hantera uppgifter som tidigare var om\u00f6jliga att l\u00f6sa. Eller m\u00f6jliga, men med en orimlig m\u00e4ngd resurser. En modern GPU-server kan ers\u00e4tta upp till 100 vanliga CPU:er. Det finns ocks\u00e5 andra \u00e4nnu mer imponerande siffror<\/a><\/noindex>. Det \u00e4r ingen sk\u00e4mt: Nvidia-l\u00f6sningar bearbetar petabyte data flera g\u00e5nger snabbare \u00e4n klassiska CPU-servrar. Google Cloud erbjuder ocks\u00e5 virtuella maskiner med GPU som ger upp till 960 teraflops.<\/p>\n

M\u00e5nga specialister beh\u00f6ver kraftfulla enheter f\u00f6r att utf\u00f6ra parallella ber\u00e4kningar. Arkitekter och ingenj\u00f6rer anv\u00e4nder vGPU-teknologi i designsystem (som Autodesk, till exempel). Designers arbetar med digitalt foto- och videoinneh\u00e5ll (Photoshop, CorelDraw). Virtuella maskiner<\/a><\/noindex> Grafikprocessorer beh\u00f6vs ocks\u00e5 av medicinska institutioner som samlar in och analyserar data om patienter och sjukdomar. Arbetar med GPU g\u00f6r \u00e4ven \"Yandex<\/a><\/noindex>\u00bb.<\/p>\n

Tror du att det \u00e4r allt? Det \u00e4r inte s\u00e5. Teknologin anv\u00e4nds \u00e4ven f\u00f6r automatisk kontroll av noggrannheten i satellitbilder<\/a><\/noindex>, och f\u00f6r epidemiprognoser<\/a><\/noindex>, meteorologisk forskning<\/a><\/noindex>, modellering solcykler<\/a><\/noindex> och business analytics<\/a><\/noindex>. Och det finns ocks\u00e5 en fantastisk artikel om modellering<\/a><\/noindex> i Unity3D-milj\u00f6 fr\u00e5n ThisIsZolden<\/a><\/noindex>.<\/p>\n

Trots detta har l\u00f6sningar baserade p\u00e5 vGPU \u00e4nnu inte f\u00e5tt ett brett genomslag i v\u00e4rlden. S\u00e5, \u00e5r 2018 genomf\u00f6rde NetApp en unders\u00f6kning <\/a><\/noindex>bland f\u00f6retag som anv\u00e4nder grafikprocessorer. Resultaten visade att 60% av organisationerna fortfarande arbetar med sin egen IT-infrastruktur. Endast 23% anv\u00e4nder \"molnet\". I Ryssland \u00e4r spridningen av teknologin f\u00f6r molnber\u00e4kningar mindre betydelsefull. Men tack vare nya h\u00e5rdvaru- och mjukvarul\u00f6sningar v\u00e4xer antalet f\u00f6retag som anv\u00e4nder virtuella maskiner med GPU st\u00e4ndigt.<\/p>\n

L\u00f6sningar f\u00f6r vGPU<\/h2>\n

\n\"vGPU
\n
\nM\u00e5nga f\u00f6retag arbetar med utvecklingen av virtualiseringstekniker f\u00f6r grafiska acceleratorer, men bland dem finns det utan tvekan vissa ledare.<\/p>\n

Ett av de mest ansedda f\u00f6retagen inom molnl\u00f6sningar, VMware <\/b>erbjuder f\u00f6retag hypervisorn ESXi<\/a><\/noindex>, d\u00e4r hastigheten p\u00e5 virtuella grafiska processorer \u00e4r j\u00e4mf\u00f6rbar med implementeringar p\u00e5 ren h\u00e5rdvara. I en nyligen genomf\u00f6rd uppdatering avaktiverade utvecklaren lastbalanseraren vMotion och lade till st\u00f6d f\u00f6r teknologin DirectPath I\/O, som kopplar CUDA-drivrutinen direkt till VM:n, vilket snabbar upp data\u00f6verf\u00f6ringen.<\/p>\n

Nvidia <\/b>str\u00e4var ocks\u00e5 efter att m\u00f6ta marknadens f\u00f6rv\u00e4ntningar och har d\u00e4rf\u00f6r lanserat en \u00f6ppen k\u00e4llkod-plattform Rapids<\/a><\/noindex>. L\u00f6sningen kombinerar flera bibliotek f\u00f6r att arbeta med CUDA-arkitekturen, vilket f\u00f6renklar datahantering under tr\u00e4ning av neurala n\u00e4tverk och m\u00f6jligg\u00f6r automatisering av Python-kod. Anv\u00e4ndningen av Rapids med maskininl\u00e4rningsalgoritmen XGBoost ger en 50-faldig \u00f6kning i prestanda j\u00e4mf\u00f6rt med system baserade p\u00e5 CPU.<\/p>\n

Egen teknologi finns \u00e4ven hos AMD<\/b>. Plattformen heter ROCm<\/a><\/noindex>. Den anv\u00e4nder teknologin SR-IOV, som delar de fysiska enheternas resurser mellan flera virtuella maskiner. Resurserna hos en accelerator kan delas mellan sexton anv\u00e4ndare, vilket bibeh\u00e5ller likv\u00e4rdig prestanda f\u00f6r varje anv\u00e4ndare. Detta accelererar data\u00f6verf\u00f6ringen mellan moln-CPU:er och GPU:er. Det anv\u00e4nds ocks\u00e5 en s\u00e4rskild C++-dialekt som kallas HIP, vilket f\u00f6renklar utf\u00f6randet av matematiska operationer p\u00e5 GPU.<\/p>\n

Intel <\/b>bygger sin teknologi p\u00e5 den plattformsoberoende hypervisorn Citrix <\/a><\/noindex>XenServer 7, som fick certifiering av FSTEK 2017. L\u00f6sningen kombinerar standard GPU-drivrutinen med den virtuella maskinen. Det inneb\u00e4r att \"virtuella maskinen\" kan st\u00f6da <\/a><\/noindex>hantera tunga applikationer p\u00e5 enheter med ett stort antal anv\u00e4ndare (flera hundra).<\/p>\n

Marknadsperspektiv<\/h2>\n

\n\"vGPU
\n
\nOberoende analytiker anser att f\u00f6rs\u00e4ljningen av l\u00f6sningar f\u00f6r HPC-system kommer att n\u00e5 45 miljarder dollar fram till 2022. Plattformutvecklare f\u00f6rv\u00e4ntar sig ocks\u00e5 en \u00f6kning av efterfr\u00e5gan p\u00e5 h\u00f6gpresterande system. Denna f\u00f6rv\u00e4ntan st\u00f6ds av populariteten f\u00f6r Big Data och den ofta uppkommande behovet av att bearbeta stora datavolymer.<\/p>\n

\u00d6kningen av efterfr\u00e5gan p\u00e5 vGPU kan ocks\u00e5 stimulera utvecklingen av hybridteknologier som kombinerar GPU och CPU i en enhet. I s\u00e5dana integrerade l\u00f6sningar anv\u00e4nder de tv\u00e5 typerna av k\u00e4rnor en gemensam cache, vilket snabbar upp \u00f6verf\u00f6ringen av data mellan de grafiska och traditionella processorerna. <\/p>\n

Hybrider kommer i grunden att f\u00f6r\u00e4ndra tillv\u00e4gag\u00e5ngss\u00e4ttet f\u00f6r virtualisering och f\u00f6rdelning av virtuella resurser inom datacenter. \u00d6ppen k\u00e4llkodsl\u00f6sningar som ROCm och Rapids g\u00f6r att datacenteroperat\u00f6rer kan anv\u00e4nda ber\u00e4kningsresurser mer effektivt och \u00f6ka h\u00e5rdvarans prestanda.<\/p>\n

Det finns ocks\u00e5 en annan \u00e5sikt. Till exempel att virtuella GPU:er kommer att ers\u00e4ttas av optiska chip med fotonisk datakodning. S\u00e5dana l\u00f6sningar finns redan och anv\u00e4nds f\u00f6r maskininl\u00e4rning. Dessutom verkar de mer effektiva <\/a><\/noindex>\u00e4n vanliga GPU:er. Men teknologin \u00e4r fortfarande i ett tidigt skede.<\/p>\n

Vad kan man dra f\u00f6r slutsats? Trots m\u00f6jliga alternativ \u00e4r vGPU en lovande v\u00e4g som kan l\u00f6sa m\u00e5nga uppgifter. Men det passar inte alla. S\u00e5 du kan sj\u00e4lv s\u00e4tta kommatecknet i rubriken.<\/p>\n

P.S.<\/b>
\nPrenumerera p\u00e5 v\u00e5r Telegram<\/a><\/noindex>-kanal f\u00f6r att inte missa n\u00e4sta artikel! Vi skriver h\u00f6gst tv\u00e5 g\u00e5nger i veckan och endast om viktiga \u00e4mnen.<\/i><\/p>\n

Endast registrerade anv\u00e4ndare kan delta i omr\u00f6stningen. Logga in<\/a><\/noindex>, tack.<\/p>\n

Anv\u00e4nder du vGPU?<\/h2>\n