Yn febrewaris, Stanford hosted in konferinsje oer hege-performance computing (HPC). VMware-fertsjintwurdigers seine dat by it wurkjen mei in GPU, in systeem basearre op in wizige ESXi-hypervisor is net ynferior yn snelheid foar bleate metalen oplossings.
Wy prate oer de technologyen dy't it mooglik makken om dit te berikken.
/ foto
Performance issue
Neffens analisten, sa'n 70% fan wurkdruk yn datasintra . De oerbleaune 30% rint lykwols noch op blank metaal sûnder hypervisors. Dizze 30% bestiet meast út applikaasjes mei hege lading, lykas dy relatearre oan training fan neurale netwurken, en it brûken fan GPU's.
Eksperts ferklearje dizze trend troch it feit dat de hypervisor, as in tuskenlizzende abstraksjelaach, de prestaasjes fan it hiele systeem beynfloedzje kin. Yn stúdzjes fiif jier lyn oer it ferminderjen fan de wurksnelheid mei 10%. Dêrom hawwe bedriuwen en datacenteroperators gjin haast om HPC-wurklasten oer te bringen nei in firtuele omjouwing.
Mar virtualisaasjetechnologyen ûntwikkelje en ferbetterje. Op in konferinsje in moanne lyn sei VMware dat de ESXi hypervisor gjin negative ynfloed hat op GPU-prestaasjes. Computing snelheid kin wurde fermindere troch trije prosint, dat is te fergelykjen mei bleate metaal.
Hoe docht dit wurk
Om de prestaasjes fan HPC-systemen te ferbetterjen mei GPU's, hat VMware in oantal wizigingen makke oan 'e hypervisor. Benammen wie it kwyt fan 'e vMotion-funksje. It is nedich foar load balancing en meastal oerdrage firtuele masines (VMs) tusken servers of GPUs. It útskeakeljen fan vMotion resultearre yn dat elke VM no in spesifike GPU waard tawiisd. Dit holp de kosten te ferminderjen by it útwikseljen fan gegevens.
In oare wichtige komponint fan it systeem DirectPath I/O. It lit de CUDA parallelle komputerbestjoerder direkt ynteraksje mei firtuele masines, troch de hypervisor te omgean. As jo ferskate VM's tagelyk op ien GPU moatte útfiere, wurdt de GRID vGPU-oplossing brûkt. It dielt it ûnthâld fan 'e kaart yn ferskate segminten (mar de berekkeningssyklusen binne net ferdield).
It operaasjediagram fan twa firtuele masines yn dit gefal sil der sa útsjen:
Resultaten en prognoazes
It bedriuw hypervisor troch training fan in taalmodel basearre op . De prestaasje "skea" wie mar 3-4% yn ferliking mei bleat metaal. Yn ruil dêrfoar wie it systeem by steat om te fersprieden boarnen op fraach ôfhinklik fan de hjoeddeiske lading.
De IT-gigant ek mei konteners. De yngenieurs fan it bedriuw trainden neurale netwurken om ôfbyldings te herkennen. Tagelyk waarden de boarnen fan ien GPU ferdield oer fjouwer container VM's. As resultaat fermindere de prestaasjes fan yndividuele masines mei 17% (ferlike mei in inkele VM mei folsleine tagong ta GPU-boarnen). Lykwols, it oantal ôfbyldings ferwurke per sekonde trije kear. It wurdt ferwachte dat sokke systemen tapassingen yn gegevensanalyse en komputermodellering.
Under de potinsjele problemen dy't VMware kin tsjinkomme, saakkundigen nochal smel doelgroep. In lyts oantal bedriuwen wurket noch mei hege-prestaasje systemen. Hoewol't yn Statista dat troch 2021, 94% fan 'e wrâld syn data sintrum workloads sil virtualized. Troch analysts, de wearde fan 'e HPC-merk sil groeie fan 32 nei 45 miljard dollar yn' e perioade fan 2017 oant 2022.
/ foto PD
Similar oplossings
D'r binne ferskate analogen op 'e merk dy't ûntwikkele binne troch grutte IT-bedriuwen: AMD en Intel.
It earste bedriuw foar GPU-virtualisaasje oanpak basearre op SR-IOV (single-root input / output virtualization). Dizze technology jout de VM tagong ta in diel fan 'e hardwaremooglikheden fan it systeem. De oplossing lit jo de GPU diele tusken 16 brûkers mei gelikense prestaasjes fan virtualisearre systemen.
As foar de twadde IT reus, sy op de hypervisor Citrix XenServer 7. It kombinearret it wurk fan in standert GPU-bestjoerder en in firtuele masine, wêrtroch't de lêste 3D-applikaasjes en buroblêden werjaan kin op 'e apparaten fan hûnderten brûkers.
De takomst fan technology
Firtuele GPU Developers oer de ymplemintaasje fan AI-systemen en de tanimmende populariteit fan oplossingen mei hege prestaasjes yn 'e saaklike technologymerk. Se hoopje dat de needsaak om grutte hoemannichten gegevens te ferwurkjen de fraach nei vGPU's sil tanimme.
No fabrikanten kombinearje de funksjonaliteit fan 'e CPU en GPU yn ien kearn om problemen op te lossen yn ferbân mei grafiken, wiskundige berekkeningen, logyske operaasjes en gegevensferwurking te fersnellen. It uterlik fan sokke kearnen op 'e merke yn' e takomst sil de oanpak fan boarne-virtualisaasje feroarje en har ferdieling tusken workloads yn firtuele en wolkomjouwings.
Wat te lêzen oer it ûnderwerp yn ús bedriuwsblog:
In pear berjochten fan ús Telegram-kanaal:
Boarne: www.habr.com