I februar var Stanford vært for en konference om højtydende databehandling (HPC). VMware-repræsentanter sagde, at når man arbejder med GPU, er systemet baseret på den modificerede ESXi-hypervisor ikke ringere i hastighed end bare metal-løsninger.
Vi vil fortælle dig om de teknologier, der har gjort dette muligt.
/ Foto
Ydeevneproblem
Analytikere anslår, at omkring 70 % af arbejdsbyrderne i datacentre . De resterende 30% kører dog stadig på bare metal uden hypervisorer. Disse 30% består hovedsageligt af applikationer med høj belastning, såsom træning af neurale netværk, der bruger GPU'er.
Eksperter forklarer denne tendens med, at hypervisoren, som et mellemliggende abstraktionslag, kan påvirke hele systemets ydeevne. I undersøgelser udført for fem år siden om at reducere driftshastigheden med 10 %. Derfor har virksomheder og datacenteroperatører ikke travlt med at overføre HPC-arbejdsbelastninger til et virtuelt miljø.
Men virtualiseringsteknologier udvikler sig og forbedres. På en konference for en måned siden rapporterede VMware, at ESXi-hypervisoren ikke har en negativ indflydelse på GPU-ydeevnen. Computerhastigheden kan falde med tre procent, hvilket kan sammenlignes med bart metal.
Hvordan fungerer denne her
For at forbedre ydeevnen af HPC-systemer med GPU'er har VMware foretaget en række ændringer af hypervisoren. Især blev den af med vMotion-funktionen. Det bruges til load balancing og migrerer typisk virtuelle maskiner (VM'er) mellem servere eller GPU'er. Deaktivering af vMotion betyder, at hver VM nu tildeles en specifik GPU. Dette bidrog til at reducere omkostningerne ved dataudveksling.
En anden nøglekomponent i systemet DirectPath I/O. Det gør det muligt for CUDA parallel computing-driveren at interagere direkte med virtuelle maskiner og omgå hypervisoren. Når flere VM'er skal køres på en enkelt GPU, bruges GRID vGPU-løsningen. Den opdeler kortets hukommelse i flere segmenter (men beregningscyklusserne er ikke opdelt).
Driftsskemaet for to virtuelle maskiner vil i dette tilfælde se sådan ud:
Resultater og prognoser
selskab hypervisor, efter at have trænet en sprogmodel baseret på . Ydelsestabet var kun 3-4% sammenlignet med bart metal. Til gengæld fik systemet muligheden for at fordele ressourcer efter behov afhængigt af den aktuelle belastning.
IT-giganten også med containere. Virksomhedens ingeniører trænede neurale netværk til at genkende billeder. I dette tilfælde blev ressourcerne fra én grafikprocessor fordelt mellem fire container-VM'er. Som følge heraf faldt ydeevnen for individuelle maskiner med 17 % (sammenlignet med en enkelt VM med fuld adgang til GPU-ressourcer). Antallet af billeder, der behandles pr. sekund, er dog tre gange. Det forventes, at sådanne systemer anvendelse inden for dataanalyse og computermodellering.
Blandt de potentielle problemer, som VMware kan stå over for, siger eksperter en ret snæver målgruppe. Kun et lille antal virksomheder arbejder i øjeblikket med højtydende systemer. Selvom i Statista , at 2021 % af verdens datacenterarbejdsbelastninger vil være virtualiserede inden 94. Ved Analytikere anslår, at HPC-markedsværdien vil vokse fra 32 milliarder dollars til 45 milliarder dollars mellem 2017 og 2022.
/ Foto PD
Lignende løsninger
Der findes flere analoger på markedet, som udvikles af store IT-virksomheder: AMD og Intel.
Det første firma til at virtualisere GPU'er tilgang baseret på SR-IOV (single-root input/output virtualisering). Denne teknologi giver VM'er adgang til nogle af systemets hardwarefunktioner. Løsningen muliggør deling af en grafikprocessor mellem 16 brugere med samme ydeevne som virtualiserede systemer.
Hvad angår den anden IT-gigant, deres på Citrix XenServer 7 hypervisoren. Den kombinerer arbejdet i en standard GPU-driver og en virtuel maskine, som gør det muligt for sidstnævnte at vise 3D-applikationer og desktops på enheder fra hundredvis af brugere.
Teknologiens fremtid
Virtuelle GPU-udviklere om implementeringen af AI-systemer og den voksende popularitet af højtydende løsninger på markedet for erhvervsteknologi. De håber, at behovet for at behandle store mængder data vil øge efterspørgslen efter vGPU'er.
Nu producenterne Kombiner CPU'ens og GPU'ens funktionalitet i én kerne for at fremskynde løsningen af problemer relateret til grafik, udførelse af matematiske beregninger, logiske operationer og databehandling. Fremtidens fremkomst af sådanne kerner på markedet vil ændre tilgangen til ressourcevirtualisering og deres fordeling mellem arbejdsbyrder i virtuelle og cloud-miljøer.
Hvad kan man læse om dette emne i vores virksomhedsblog:
Et par opslag fra vores Telegram-kanal:
Kilde: www.habr.com
