In februari vond er een conferentie plaats in Stanford die gewijd was aan hoogpresterende computing (HPC). Vertegenwoordigers van VMware gaven aan dat bij het gebruik van GPU's een systeem op basis van een gemodificeerde hypervisor ESXi qua snelheid niet onderdoet voor bare metal oplossingen.
We vertellen over de technologieën die dit mogelijk hebben gemaakt.
/ фото
Prestatief probleem
Volgens analisten is ongeveer 70% van de werkbelasting in datacenters . De overige 30% draait echter nog steeds op bare metal zonder hypervisors. Deze 30% bestaat voornamelijk uit zwaar belaste applicaties, zoals het trainen van neurale netwerken, die gebruik maken van grafische processoren.
Een dergelijke trend verklaren experts met het feit dat de hypervisor als tussenlaag van abstractie invloed kan hebben op de prestaties van het gehele systeem. In studies van vijf jaar geleden over een vermindering van de snelheid van 10%. Daarom zijn bedrijven en datacenteroperators terughoudend om HPC-belastingen naar een virtuele omgeving te verplaatsen.
Maar virtualisatietechnologieën ontwikkelen en verbeteren zich. Op de conferentie een maand geleden vertelde VMware dat de hypervisor ESXi geen negatieve invloed heeft op de prestaties van GPU's. De snelheid van de berekeningen kan met drie procent afnemen, wat vergelijkbaar is met de cijfers van bare metal.
Hoe het werkt
Om de prestaties van HPC-systemen met grafische processoren te verbeteren, heeft VMware verschillende wijzigingen aangebracht in de werking van de hypervisor. In het bijzonder is de vMotion-functie verwijderd. Deze is nodig voor belastingbalancering en verplaatst doorgaans virtuele machines (VM's) tussen servers of GPU's. Het uitschakelen van vMotion zorgde ervoor dat een specifieke grafische processor nu aan elke VM is toegewezen. Dit hielp de kosten bij data-uitwisseling te verlagen.
Een ander belangrijk component van het systeem DirectPath I/O. Deze stelt de CUDA-driver voor parallelle berekeningen in staat om rechtstreeks met virtuele machines te communiceren, waarbij de hypervisor wordt omzeild. Wanneer meerdere VM's op één GPU tegelijk moeten worden gestart, wordt de GRID vGPU-oplossing ingezet. Deze deelt het geheugen van de kaart in meerdere segmenten (maar de berekeningen worden niet verdeeld).
De werking van twee virtuele machines ziet er in dit geval als volgt uit:
Resultaten en voorspellingen
Het bedrijf hypervisor, die een taalmodel hebben getraind op basis van . De "schade" aan de prestaties bedroeg slechts 3-4% in vergelijking met bare metal. In ruil daarvoor kreeg het systeem de mogelijkheid om middelen op aanvraag te verdelen, afhankelijk van de huidige belasting.
De IT-gigant met containers. Ingenieurs van het bedrijf hebben neurale netwerken getraind om afbeeldingen te herkennen. Daarbij werden de middelen van één grafische processor verdeeld over vier container-VM's. Als resultaat daalde de prestatie van afzonderlijke machines met 17% (in vergelijking met één VM met volledige toegang tot de GPU-middelen). Echter, het aantal verwerkte afbeeldingen per seconde drie keer. Verwacht wordt dat dergelijke systemen in het gebied van data-analyse en computerimulatie.
Onder de potentiële problemen waarmee VMware geconfronteerd kan worden, benadrukken experts blijkt de voorspellingen Vergelijkbare oplossingen
/ фото PD
Er zijn verschillende alternatieven op de markt die door grote IT-bedrijven worden ontwikkeld: AMD en Intel.
Het eerste bedrijf biedt virtualisatie van grafische processors
een aanpak op basis van SR-IOV (single-root input/output virtualization). Deze technologie geeft VM toegang tot een deel van de hardwarecapaciteit van het systeem. De oplossing maakt het mogelijk om de grafische processor onder 16 gebruikers te verdelen met gelijke prestaties van de gevirtualiseerde systemen. technologie is gebaseerd
op de hypervisor Citrix XenServer 7. Het combineert het werk van de standaard GPU-driver en de virtuele machine, waardoor de laatste 3D-toepassingen en desktops kan weergeven op apparaten van honderden gebruikers. Ontwikkelaars van virtuele grafische processors
zetten in op de implementatie van AI-systemen en de groei van de populariteit van high-performance oplossingen op de markt voor zakelijke technologieën. Ze hopen dat de behoefte aan het verwerken van grote hoeveelheden data de vraag naar vGPU zal verhogen.
Momenteel zijn producenten de implementatie van AI-systemen en de groeiende populariteit van hoogwaardige oplossingen op de markt voor zakelijke technologieën. Ze hopen dat de behoefte aan het verwerken van grote datavolumes de vraag naar vGPU zal verhogen.
Momenteel zijn fabrikanten de functionaliteit van CPU en GPU in één kern combineren om de oplossing van grafische taken, wiskundige berekeningen, logische operaties en gegevensverwerking te versnellen. De komst van dergelijke kernen op de markt zal in de toekomst de benadering van resourcevirtualisatie en de verdeling ervan tussen workloads in virtuele en cloudomgevingen veranderen.
Wat te lezen over het onderwerp in onze bedrijfsblog:
Een paar berichten uit ons Telegram-kanaal:
Bron: habr.com
