I februar blev der afholdt en konference i Stanford, der fokuserede på højtydende beregninger (HPC). Repræsentanter fra VMware fortalte, at et system baseret på den modificerede hypervisor ESXi ikke er langsommere end bare metal-løsninger, når det arbejder med GPU.
Vi fortæller om de teknologier, der har gjort dette muligt.
/ фото
Ydelsesproblem
Ifølge analytikere er omkring 70% af arbejdsbyrderne i datacentre . De resterende 30% kører dog stadig på bare metal uden hypervisorer. Disse 30% består hovedsageligt af højtydende applikationer, som for eksempel relaterer til træning af neurale netværk og bruger grafiske processorer.
Eksperter forklarer denne tendens med, at hypervisoren som et mellemled kan influere på systemets samlede ydelse. I undersøgelser fra for fem år siden om et fald i hastigheden på 10%. Derfor skynder virksomheder og datacenteroperatører sig ikke med at flytte HPC-arbejdsbyrder til et virtuelt miljø.
Men virtualiseringsteknologierne udvikler sig og forbedres. På konferencen for en måned siden fortalte VMware, at hypervisoren ESXi ikke har negativ indflydelse på GPU-ydeevnen. Beregningshastigheden kan falde med tre procent, hvilket svarer til præstationer fra bare metal.
Hvordan fungerer det
For at forbedre HPC-systemers ydeevne med grafiske processorer har VMware foretaget en række ændringer i hypervisorens funktionalitet. Især har de fjernet funktionen vMotion. Den er nødvendig for belastningsbalancering og flytter normalt virtuelle maskiner (VM) mellem servere eller GPU'er. En deaktivering af vMotion har resulteret i, at hver VM nu er knyttet til en bestemt grafisk processor. Dette har bidraget til at reducere omkostningerne ved dataudveksling.
En anden vigtig komponent i systemet DirectPath I/O. Den tillader CUDA-driveren til parallelle beregninger at interagere med virtuelle maskiner direkte, uden om hypervisoren. Når flere VMer skal køres på en GPU, benyttes løsningen GRID vGPU. Den opdeler grafikkortets hukommelse i flere segmenter (men beregningscyklusserne deles ikke).
Arbejdsdiagrammet for to virtuelle maskiner vil i dette tilfælde se således ud:
Resultater og prognoser
Virksomheden hypervisoren ved at træne en sprogmodel baseret på . "Skaden" på ydeevnen udgjorde kun 3–4% sammenlignet med bare metal. Til gengæld fik systemet mulighed for at fordele ressourcerne efter behov afhængigt af de aktuelle belastninger.
IT-giganten har også med containere. Ingeniører i virksomheden trænede neurale netværk til at genkende billeder. Her blev ressourcerne fra én GPU delt mellem fire container-baserede VM’er. Som et resultat faldt ydeevnen for de enkelte maskiner med 17% (sammenlignet med én VM, der havde fuld adgang til GPU-ressourcerne). Men antallet af behandlede billeder per sekund med tre gange. Det forventes, at lignende systemer anvendelse inden for dataanalyse og computerbaseret modellering.
Blandt de potentielle problemer, som VMware kan støde på, fremhæver eksperter bemærker, at 94% af de globale datacentre vil være virtualiserede inden 2021. Ifølge fra analytikere forventes værdien af HPC-markedet at stige fra 32 til 45 milliarder dollars i perioden fra 2017 til 2022. PD
/ фото Der findes flere alternativer på markedet, som store IT-virksomheder udvikler: AMD og Intel.
Det første selskab til virtualisering af grafiske processorer
bruger en tilgang baseret på SR-IOV (single-root input/output virtualization). Denne teknologi giver VM adgang til dele af systemets hardwarekapacitet. Løsningen muliggør deling af en GPU mellem 16 brugere med lig med ydeevne for de virtualiserede systemer.
Hvad angår det andet IT-gigant, er deres teknologi baseret på hypervisoren Citrix XenServer 7. Det kombinerer arbejdet mellem standard GPU-driveren og den virtuelle maskine, hvilket gør det muligt for den sidstnævnte at vise 3D-applikationer og desktopper på enheder for hundredvis af brugere.
Fremtiden for teknologien satser på
Fremtiden for teknologi
Udviklere af virtuelle grafiske processorer med implementeringen af AI-systemer og den stigende popularitet af højtydende løsninger på markedet for virksomhedsteknologi. De håber, at behovet for behandling af store datamængder vil øge efterspørgslen efter vGPU.
Lige nu søger producenterne at kombinere funktionaliteten af CPU og GPU i en enkelt kerne for at fremskynde løsningen af opgaver relateret til grafik, udførelse af matematiske beregninger, logiske operationer og datahåndtering. Fremkomsten af sådanne kerner på markedet i fremtiden vil ændre tilgangen til virtualisering af ressourcer og deres fordeling mellem arbejdsbyrder i virtuelle og cloud-miljøer.
Hvad du kan læse om emnet i vores virksomhedsblog:
Et par indlæg fra vores Telegram-kanal:
Kilde: habr.com
