Június-július folyamán csaknem két tucat cég keresett meg minket, érdeklődve a virtuális GPU lehetőségei iránt. A Cloud4Y „Grafika” szolgáltatását már egy jelentős Sberbank leányvállalat használja, de összességében a szolgáltatás nem különösképpen népszerű. Így tehát ez a fajta aktivitás nagyon örömteli számunkra. Látva a technológia iránti érdeklődés növekedését, úgy döntöttünk, hogy kicsit részletesebben beszélünk a vGPU-ról.
A tudományos kísérletek és kutatások, a Deep Learning és más mesterséges intelligenciával kapcsolatos munkák, valamint nagy és bonyolult objektumok modellezése során létrejövő „adat-tavak” – mindezekhez nagy teljesítményű „hardware” szükséges. Jó, ha van ilyen, és gyorsan megoldhatóak a jelenlegi feladatok. De a feladatok számítási bonyolultságának növekedése miatt (elsősorban az üzleti elemzés, renderelés, DL-algoritmusok és keretrendszerek terén) a desktop és még a szerver CPU-k hardveres teljesítménye egyre inkább haszontalanná válik.
A megoldást a GPU-számítások alkalmazása jelentette. Ez a grafikai gyorsító technológia lehetővé teszi egy grafikus processzor erőforrásainak megosztását több virtuális számítógép között. A GPU-t eredetileg grafikai feladatokhoz tervezték, ezért több ezer apró magból áll, amelyek hatékonyan kezelik a párhuzamos feladatokat. A GPU végzi a legnagyobb erőforrás-igényű számítások egy részét, míg a többit a CPU végzi.
A GPU-számításokat a fejlesztette ki 2007-ben. Ma ez a technológia új szintre lépett, és a legnagyobb vállalatok és tudományos laboratóriumok adatközpontjaiban alkalmazzák. Azonban a hagyományos megközelítésnek van egy jelentős hátránya: a fizikai berendezések beszerzése nem túl olcsó. Ha figyelembe vesszük a „hardver” elavulásának sebességét, még szomorúbbá válik a helyzet.
A virtuális grafikus processzorok technológiája, a vGPU hivatott megoldani a problémát. Ennek segítségével a felhasználók távolról futtathatják az olyan nehéz alkalmazásokat, mint az AutoCAD, 3DS Max, Maya, Sony Vegas Pro. A virtualizáció gyorsan megszerezte piaci részesedését. Mert melyik orosz data scientist ne szeretné a gyors számításokat az NVidia Tesla grafikus kártyákon?
Fontos megjegyezni, hogy a vGPU megjelenése előtt más grafikai feldolgozó gyorsító módszereket használtak: Virtual Shared Graphics Acceleration (vSGA) és Virtual Dedicated Graphics Acceleration (vDGA). A vGPU megoldás ötvözte e két technológia legjavát. A vSGA-hoz hasonlóan a vGPU környezetben a GPU-t és a RAM-ot több virtuális asztal osztja meg, de minden virtuális gép közvetlenül a GPU-hoz továbbítja a parancsokat, ahogyan azt a vDGA esetében is teszi.
Miért van szükség a vGPU-ra?
A vGPU-t használó felhőalapú számítástechnika lehetővé teszi a vállalatok számára, hogy olyan feladatokat végezzenek, amelyek korábban megoldhatatlanok voltak. Vagy esetleg lehetségesek, de ehhez elképzelhetetlen mennyiségű erőforrásra volt szükség. 1 modern GPU-server akár 100 hagyományos CPU-t is helyettesíthet. Vannak más, Ez nem tréfadolog: az Nvidia megoldásai petabájtnyi adatot dolgoznak fel több mint ötször gyorsabban, mint a klasszikus CPU-s szerverek. Ugyanakkor a Google Cloud GPU-val rendelkező virtuális gépeket kínál, amelyek akár 960 teraflops sebességre is képesek.
Sok szakembernek szüksége van erőteljes eszközökre, amelyek párhuzamos számításokat tudnak végezni. Az építészek és mérnökök vGPU technológiát használnak tervezési rendszerekben (például Autodesk). A designerek digitális fény- és videó tartalommal dolgoznak (Photoshop, CorelDraw). grafikus processzorokkal orvosi intézményeknek is szükségük van, amelyek pácienseikről és betegségeikről gyűjtenek és elemeznek adatokat. A GPU pedig a "».
Azt gondolod, hogy ennyi? Dehogyis. Ezt a technológiát automatikus , és , , modellezésre és . Ráadásul létezik egy nagyszerű Unity3D környezetében a .
Mindezek ellenére a vGPU alapú megoldások jelenleg még nem terjedtek el széles körben a világban. Így 2018-ban a NetApp felmérést végzett a grafikus processzorokat használó cégek körében. Az eredmények azt mutatták, hogy a szervezetek 60%-a továbbra is saját IT-infrastruktúráján dolgozik. Az 'felhőt' csak a cégek 23%-a használja. Oroszországban a felhőalapú számítástechnika elterjedtsége még kevesebb kitettséggel bír. De az új hardver- és szoftvermegoldásoknak köszönhetően a GPU-val rendelkező virtuális gépeket használó cégek száma folyamatosan növekszik.
vGPU megoldások
A grafikus gyorsítók virtualizációs technológiáinak fejlesztésével számos vállalat foglalkozik, de közöttük vannak kétségtelen vezetők.
Az egyik legtekintélyesebb felhőmegoldások fejlesztője, a cég VMware. cégek számára hypervisor-t , amely alatt a virtuális grafikus processzorok munkájának sebessége összehasonlítható a közvetlen hardveres megoldásokkal. A közelmúltban a fejlesztő kikapcsolta a vMotion terheléselosztót, és hozzáadta a DirectPath I/O technológiát, amely a CUDA illesztőprogramot közvetlenül a VM-hez köti, elkerülve a hypervisort, és gyorsítja az adatátvitelt.
Nvidia szintén igyekszik megfelelni a piaci elvárásoknak, és ennek érdekében kiadta az opensource platformot . A megoldás több könyvtárat egyesít a CUDA architektúrával való munkához, megkönnyítve ezzel az adatok kezelését a neurális hálózatok edzésekor, és lehetővé téve a Python kód automatizálását. A Rapids használata az XGBoost gépi tanulási algoritmussal 50-szeres teljesítménynövekedést eredményez a CPU alapú rendszerekhez képest.
Saját technológiával rendelkezik a AMD. A platform neve . Ez a SR-IOV technológiát használja, amely felosztja a fizikai eszköz hardveres lehetőségeit több virtuális gép között. Egy gyorsító erőforrásait tizenhat felhasználó között lehet megosztani, fenntartva ezzel mindenki számára az egyenlő teljesítményt. Így felgyorsul az adatátvitel a felhőben található CPU és GPU között. Ezenkívül egy speciális C++ dialektust használnak, amely HIP néven ismert, és megkönnyíti a matematikai műveletek végrehajtását a GPU-n.
Intel a cross-platform hypervisor alapú technológiáját építi XenServer 7, amely 2017-ben megkapta a FSTEK megfelelőségi tanúsítványt. A megoldás egyesíti a standard GPU-illesztőprogram és a virtuális gép működését. Tehát a "virtuális gép" nagy teljesítményű alkalmazások futtatását teszi lehetővé nagy (több száz) felhasználó számára.
Piaci kilátások
Független elemzők azt állítják, hogy a HPC rendszerek megoldásainak értékesítése 45 milliárd dollárra nő 2022-re. A platformok fejlesztői is a nagy teljesítményű rendszerek iránti kereslet növekedésére számítanak. Ez az elvárás a Big Data népszerűségével és a nagy mennyiségű adat feldolgozásának gyakori szükségességével van alátámasztva.
A kereslet növekedése a vGPU iránt a GPU és CPU egyesítésére épülő hibrid technológiák fejlődését is előmozdíthatja. Ezekben az integrált megoldásokban a kétféle mag közös cache-t használ, ami felgyorsítja az adatok átvitelét a grafikus és a hagyományos processzorok között.
A hibrid megoldások gyökeresen megváltoztatják a virtualizációhoz és a virtuális erőforrások elosztásához való hozzáállást az adatközpontokban. Az olyan nyílt forráskódú megoldások, mint a ROCm és a Rapids, lehetővé teszik az adatközpont üzemeltetők számára, hogy hatékonyabban használják ki a számítási erőforrásokat, ezáltal növelve a berendezések teljesítményét.
Van egy másik nézet is. Például, hogy a virtuális GPU-kat optikai chipek váltják fel, amelyek fotonikus adatkódolást alkalmaznak. Ezek a megoldások már léteznek, és gépi tanulásra használják őket. Sőt, úgy tűnik, hogy mint egy hagyományos GPU. De a technológia még gyerekcipőben jár.
Mire lehet következtetni? A lehetséges alternatívák megjelenése ellenére a vGPU egy ígéretes terület, amely számos feladat megoldására képes. De nem mindenkinek való. Így hát a vesszőt a címben tegyétek oda magatok.
P.S.
Iratkozzon fel az -csatornánkra, hogy ne maradjon le a legújabb cikkünkről! Hetente legfeljebb kétszer írunk és csak hasznos tartalommal.
Csak a regisztrált felhasználók vehetnek részt a szavazáson. , kérem.
Használ vGPU-t?
Igen, gyakran van szükség virtuális kapacitásra.
Nem, és valószínűleg nem is tervezünk ilyet.
23 felhasználó szavazott. 11 felhasználó tartózkodott.
Forrás: habr.com
