Në shkurt u mbajt një konferencë në Stanford, e dedikuar kompjuterave me performancë të lartë (HPC). Përfaqësuesit e VMware informuan se gjatë përdorimit të GPU-ve, sistemi i bazuar në një hipervizor të modifikuar ESXi, renditet njëlloj si zgjidhjet bare metal në terma shpejtësie.
Po flasim për teknologjitë që e bënë këtë të mundur.
/ фото
Problemi i performancës
Sipas analistëve, rreth 70% e ngarkesave të punës në qendrat e të dhënave . Megjithatë, 30% e mbetur ende punon në bare metal pa hipervizorë. Këto 30% kryesisht përbëhen nga aplikacione me ngarkesë të lartë, të lidhura, për shembull, me trajnimin e rrjeteve neuronale, dhe që përdorin GPU-të.
Ekspertët e shpjegojnë këtë trend me faktin se hipervizori si një shtresë ndërmjetëse abstraksioni mund të ndikojë në performancën e të gjithë sistemit. Në studimet e pesë viteve më parë për një ulje të shpejtësisë së punës prej 10%. Prandaj, kompanitë dhe operatorët e qendrave të të dhënave nuk nxitohen të transfertojnë ngarkesat HPC në ambientin virtual.
Por teknologjitë e virtualizimit po zhvillohen dhe përmirësohen. Në konferencën e muajit të kaluar, VMware tha se hipervizori ESXi nuk ka një nd Wirkung negativ në performancën e GPU-së. Shpejtësia e llogaritjeve mund të bjerë me tre për qind, e cila është e krahasueshme me treguesit e bare metal.
Si funksionon kjo
Për të rritur performancën e sistemeve HPC me GPU-të, VMware kanë bërë disa ndryshime në funksionimin e hipervizorit. Në veçanti, e kanë çliruar atë nga funksioni vMotion. Ky funksion është i nevojshëm për balancimin e ngarkesës dhe zakonisht transferon makinat virtuale (VM) midis serverëve ose GPU-ve. Çaktivizimi i vMotion ka bërë që secila VM tani të lidhet me një GPU specifike. Kjo ndihmoi në uljen e kostove gjatë shkëmbimit të të dhënave.
Një komponent tjetër kyç i sistemit DirectPath I/O. Kjo lejon që drivere e CUDA për llogaritje paralele të interagojë me makinat virtuale drejtpërdrejt, duke kaluar hipervizorin. Kur një GPU ka nevojë të ekzekutojë disa VM njëkohësisht, atëherë zgjidhet zgjidhja GRID vGPU. Kjo ndan memorie të kartës në disa segmente (por ciklet llogaritëse nuk ndahen në këtë rast).
Skema e punës së dy makinave virtuale në këtë rast do të duket si vijon:
Rezultatet dhe parashikimet
Kompania hypervisor, duke modelet një model gjuhe mbi . "Dëmi" i performancës ishte vetëm 3-4%, krahasuar me bare metal. Megjithatë, sistemi fitoi mundësinë për të shpërndarë burimet sipas kërkesës, në varësi të ngarkesave aktuale.
Giganti IT gjithashtu me kontejnerët. Inxhinierët e kompanisë trajnuan rrjetet neuronale për të njohur imazhet. Në këtë proces, burimet e një procesori grafik u shpërndanë mes katër VM-ve kontejnerike. Si rezultat, performanca e makinave individuale u ul me 17% (krahasuar me një VM që kishte qasje të plotë në burimet GPU). Megjithatë, numri i imazheve të procesuar për sekondë u trefishua. Pritet që sisteme të tilla përdorim në fushën e analizës së të dhënave dhe modelimit kompjuterik.
Mes problemeve të mundshme me të cilat VMware mund të përballet, ekspertët në një audiencë mjaft të ngushtë. Aktualisht, numri i kompanive që punojnë me sisteme me performancë të lartë është i vogël. Megjithatë, sipas Statista , deri në vitin 2021, 94% e ngarkesave të punës botërore do të jenë të virtualizuara. Sipas analistëve, vlera e tregut të HPC do të rritet nga 32 në 45 miliard dollarë në periudhën nga 2017 deri në 2022.
/ фото PD
Zgjidhje të ngjashme
Në treg ka disa alternativa, të cilat po zhvillohen nga kompani të mëdha IT: AMD dhe Intel.
Kompania e parë për virtualizimin e procesorëve grafikë ka qasje mbi bazën e SR-IOV (virtualizimi i hyrjes/daljes me rrënjë të vetme). Kjo teknologji ofron VM-ve akses në një pjesë të kapaciteteve harduerike të sistemit. Zgjidhja lejon ndarjen e procesorit grafik mes 16 përdoruesve me performancë të barabartë të sistemeve të virtualizuara.
Sa i përket gjigantit të dytë IT, teknologjia e tyre në hypervisorin Citrix XenServer 7. Ajo bashkon funksionimin e drejtuesve standard të GPU-ve dhe makinave virtuale, duke lejuar që këto të fundit të shfaqin aplikacione 3D dhe desktopë në pajisjet e qindra përdoruesve.
E ardhmja e teknologjisë
Zhvilluesit e procesorëve grafikë virtualë në integrimin e sistemeve AI dhe rritjen e popullaritetit të zgjidhjeve me performancë të lartë në tregun e teknologjive për biznes. Ata shpresojnë se nevoja për përpunimin e volumit të madh të të dhënave do të rrisë kërkesën për vGPU.
Aktualisht, prodhuesit të kombinohet funksionaliteti i CPU dhe GPU në një bërthamë, për të përshpejtuar zgjidhjen e detyrave të lidhura me grafikën, kryerjen e llogaritjeve matematikore, operacioneve logjike dhe përpunimin e të dhënave. Shfaqja në treg e këtyre bërthamave në të ardhmen do ta ndryshojë qasjen ndaj virtualizimit të burimeve dhe shpërndarjes së tyre mes ngarkesave punuese në mjedisin virtual dhe në re.
Çfarë të lexoni për temën në blogun tonë të korporatës:
Një çift postimesh nga kanali ynë në Telegram:
Burimi: habr.com
