🥇vGPU – uporaba se ne sme ignorirati

V juniju in juliju se nam je obrnilo skoraj dve desetini podjetij, ki so se zanimala za možnosti virtualnih GPU. Za 'Grafiko' od Cloud4Y že uporablja ena od večjih 'hčerinskih' družb Sberbanke, toda na splošno storitev ni preveč priljubljena. Takšna aktivnost nas je zato zelo razveselila. Glede na rast zanimanja za tehnologijo smo se odločili, da nekoliko podrobneje predstavimo vGPU.

‘Jezera podatkov’, pridobljena z raziskovalnimi eksperimenti in študijami, Deep Learning in druge smeri dela z umetno inteligenco, modeliranje velikih in zapletenih objektov - vse to zahteva visoko zmogljivo 'železo'. Dobro je, če je na voljo in omogoča hitro reševanje trenutnih nalog. Vendar pa iz razloga naraščajoče računalniške kompleksnosti nalog (kar se predvsem nanaša na poslovno analitiko, renderiranje, DL-algoritme in ogrodja) postajajo zmogljivosti namiznih in celo strežnih CPU-jev vse bolj neučinkovite.

Izhod je bil najden v uporabi računalniških sredstev na GPU. Ta tehnologija pospeševanja grafike omogoča delitev virov enega grafičnega procesorja med več virtualnimi računalniki. GPU je bil prvotno zasnovan za delo z grafiko, zato se sestoji iz tisoč drobnih jeder, ki se uporabljajo za učinkovito obdelavo paralelnih nalog. Pri tem na GPU poteka del najbolj zahtevnih izračunov, preostalo nalogo prevzame CPU.

Izračune z uporabo GPU je prvi uvedel Nvidia leta 2007. Danes je ta tehnologija dosegla novo raven in se uporablja v podatkovnih središčih največjih podjetij in znanstvenih laboratorijev. Vendar pa ima tradicionalni pristop eno pomembno pomanjkljivost: nakup fizične opreme je precej drag. In če pomislimo na hitrost zastare 'železa', postane še bolj žalostno.

Tehnologija virtualnih grafičnih procesorjev: vGPU naj bi rešila problem. S to tehnologijo lahko uporabniki na daljavo izvajajo zahteve, kot so AutoCAD, 3DS Max, Maya, Sony Vegas Pro. Virtualizacija je hitro pridobila svoj delež na trgu. Kateri ruski podatkovni znanstvenik pa ne obožuje hitrih izračunov na grafičnih karticah NVidia Tesla?

Tu je treba omeniti, da so se pred pojavom vGPU uporabljale druge metode za pospeševanje obdelave grafike: Virtual Shared Graphics Acceleration (vSGA) in Virtual Dedicated Graphics Acceleration (vDGA). Rešitev vGPU združuje najboljše iz obeh tehnologij. Tako kot pri vSGA, v okolju vGPU predvidevamo skupno rabo GPU in RAM-a med več virtualnimi delovnimi površinami, toda vsaka VM posreduje ukaze neposredno GPU-ju, kot pri vDGA.

Zakaj so sploh potrebni vGPU

Oblačne storitve z uporabo vGPU podjetjem omogočajo soočanje z nalogami, ki jih prej ni bilo mogoče rešiti. Ali pa je bilo to mogoče, vendar so potrebovali nerealno veliko virov. 1 sodoben GPU strežnik lahko nadomesti do 100 običajnih CPU-jev. Obstajajo tudi drugi, še bolj impresivni podatki. To ni šala: rešitve Nvidia obdelujejo petabajte podatkov večkrat hitreje kot klasični CPU strežniki. Enak Google Cloud ponuja virtualne stroje z GPU, ki dosegajo do 960 teraflopov.

Mnogi strokovnjaki potrebujejo zmogljive naprave, sposobne izvajati paralelne izračune. Arhitekti in inženirji uporabljajo tehnologijo vGPU v projektnih sistemih (na primer Autodesk). Oblikovalci delajo s digitalnim foto- in video vsebinami (Photoshop, CorelDraw). Virtualne naprave z grafičnimi procesorji so potrebne tudi zdravstvenim ustanovam, ki zbirajo in analizirajo podatke o pacientih in boleznih. Dela s GPU tudi "Yandex».

Mislite, da je to vse? Nikakor. Tehnologijo uporabljajo tudi za avtomatično preverjanje točnosti satelitskih posnetkov, in za napovedovanje epidemij, meteorološke raziskave, modeliranje sončnih ciklov in poslovno analitiko. In še vedno je članek o modeliranju v okolju Unity3D od ThisIsZolden Kljub vsemu temu rešitve, temelječe na vGPU, še niso dosegli široke prepoznavnosti po svetu. Tako je leta 2018 NetApp izvedel.

anketo med podjetji, ki uporabljajo grafične procesorje v svojem delu. Rezultati so pokazali, da 60 % organizacij še vedno deluje na lastni IT infrastrukturi. »Oblak« pa uporablja le 23 %. V Rusiji je prodor tehnologije oblačnih storitev manjši. Toda zahvaljujoč novim strojno in programsko zasnovanim rešitvam število podjetij, ki uporabljajo virtualne naprave z GPU, nenehno narašča. Rešitve za vGPU

Rešitve za vGPU

Veliko podjetij se ukvarja z razvojem tehnologij virtualizacije grafičnih pospeševalnikov, vendar so med njimi tudi nedvomni voditelji.

Eden izmed najuglednejših razvijalcev rešitev na področju oblačnih rešitev, podjetje VMware ponuja podjetjem hipervizor ESXi, pri katerem je hitrost delovanja virtualnih grafičnih procesorjev primerljiva z implementacijami na golih napravah. V nedavnem posodobitvi je razvijalec izklopil uravnoteževalnik obremenitev vMotion in dodal podporo za tehnologijo DirectPath I/O, ki neposredno povezuje gonilnik CUDA z VM in pospešuje prenos podatkov.

Nvidia tudi stremi k izpolnjevanju pričakovanj trga in je v ta namen izdalo odprtokodno platformo Rapids. To rešitev združuje več knjižnic za delo z arhitekturo CUDA, kar poenostavi delo s podatki med treningom nevralnih mrež in omogoča avtomatizacijo dela s Python kodo. Uporaba Rapids z algoritmom strojnega učenja XGBoost prinaša 50-kratno povečanje zmogljivosti v primerjavi s sistemi, ki temeljijo na CPU.

Tudi AMDima svojo tehnologijo. Njena platforma se imenuje ROCm. Uporablja tehnologijo SR-IOV, ki deli strojne zmogljivosti fizične naprave med več virtualnimi stroji. Vire enega pospeševalnika je mogoče razdeliti med šestnajst uporabnikov, pri čemer se za vsakega od njih ohranja enaka zmogljivost. Tako se pospeši prenos podatkov med oblačnimi CPU in GPU. Uporablja se tudi poseben dialekt C++ z imenom HIP, ki poenostavi izvajanje matematičnih operacij na GPU.

Intel gradi svojo tehnologijo na osnovi večplatformskega hipervizorja Citrix XenServer 7, ki je leta 2017 pridobil potrdilo o skladnosti s FSTEK-om. Ta rešitev združuje delovanje standardnega GPU gonilnika in virtualnega stroja. To pomeni, da „virtualka“ lahko podpira delovanje zahtevnih aplikacij na napravah z veliko (več sto) uporabniki.

Tržne perspektive

Neodvisni analitiki menijo, da bo obseg prodaje rešitev za HPC sisteme dosegel 45 milijard dolarjev do leta 2022. Razvijalci platform pričakujejo tudi povečanje povpraševanja po visokozmogljivih sistemih. Ta pričakovanja podpirajo priljubljenost Big Data in pogosta potreba po obdelavi velikih količin podatkov.

Rast povpraševanja po vGPU lahko spodbudi razvoj hibridnih tehnologij, ki združujejo GPU in CPU v eni napravi. V teh integriranih rešitvah uporabljajo dva tipa jeder skupno predpomnilnik, kar pospeši prenos podatkov med grafičnimi in tradicionalnimi procesorji.

Hibridi lahko temeljito spremenijo pristop k virtualizaciji in razporeditvi virtualnih virov znotraj podatkovnih centrov. Rešitve z odprtokodnimi sistemi, kot sta ROCm in Rapids, omogočajo upravljavcem podatkovnih centrov, da bolj učinkovito izkoristijo računalniške vire, kar povečuje zmogljivost opreme.

Obstaja tudi drugo mnenje. Na primer, da bodo virtualne GPU nadomestile optične čipe s fotonskim kodiranjem podatkov. Takšne rešitve že obstajajo in se uporabljajo za strojno učenje. Poleg tega se zdijo učinkovitejše od običajnega GPU. Vendar pa je tehnologija še vedno nedodelana.

Kakšen zaključek lahko potegnemo? Kljub morebitnemu pojavlu analogov je vGPU povsem perspektivna smer, sposobna reševati veliko število nalog. Vendar ni primerna za vsakogar. Zato lahko vejico v naslovu postavite sami.

P.S.
Prijavite se na naš Telegram-kanal, da ne zamudite novega članka! Pišemo največ dvakrat na teden in samo o pomembnih stvareh.

Samo registrovani korisnici mogu učestvovati u anketi. Prijavite se, molim vas.