{"id":42117,"date":"2019-03-18T00:00:00","date_gmt":"2019-03-17T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam"},"modified":"2020-02-18T13:44:55","modified_gmt":"2020-02-18T10:44:55","slug":"situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/nl\/blog\/administrirovanie\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","title":{"rendered":"Situatie: virtuele GPU's presteren niet slechter dan fysieke oplossingen","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

In februari vond er een conferentie plaats in Stanford die gewijd was aan hoogpresterende computing (HPC). Vertegenwoordigers van VMware gaven aan dat bij het gebruik van GPU's een systeem op basis van een gemodificeerde hypervisor ESXi qua snelheid niet onderdoet voor bare metal oplossingen.<\/p>\n

We vertellen over de technologie\u00ebn die dit mogelijk hebben gemaakt.<\/p>\n

\"Situatie:<\/a><\/noindex><\/a><\/noindex>
\n\/ \u0444\u043e\u0442\u043e Victorgrigas<\/a><\/noindex> CC BY-SA<\/a><\/noindex><\/i><\/p>\n

Prestatief probleem<\/h2>\n

\nVolgens analisten is ongeveer 70% van de werkbelasting in datacenters gevirtualiseerd<\/a><\/noindex>. De overige 30% draait echter nog steeds op bare metal zonder hypervisors. Deze 30% bestaat voornamelijk uit zwaar belaste applicaties, zoals het trainen van neurale netwerken, die gebruik maken van grafische processoren.<\/p>\n

Een dergelijke trend verklaren experts met het feit dat de hypervisor als tussenlaag van abstractie invloed kan hebben op de prestaties van het gehele systeem. In studies van vijf jaar geleden kun je gegevens vinden<\/a><\/noindex> over een vermindering van de snelheid van 10%. Daarom zijn bedrijven en datacenteroperators terughoudend om HPC-belastingen naar een virtuele omgeving te verplaatsen.<\/p>\n

Maar virtualisatietechnologie\u00ebn ontwikkelen en verbeteren zich. Op de conferentie een maand geleden vertelde VMware dat de hypervisor ESXi geen negatieve invloed heeft op de prestaties van GPU's. De snelheid van de berekeningen kan met drie procent afnemen, wat vergelijkbaar is met de cijfers van bare metal.<\/p>\n

Hoe het werkt<\/h2>\n

\nOm de prestaties van HPC-systemen met grafische processoren te verbeteren, heeft VMware verschillende wijzigingen aangebracht in de werking van de hypervisor. In het bijzonder is de vMotion-functie verwijderd. Deze is nodig voor belastingbalancering en verplaatst doorgaans virtuele machines (VM's) tussen servers of GPU's. Het uitschakelen van vMotion zorgde ervoor dat een specifieke grafische processor nu aan elke VM is toegewezen. Dit hielp de kosten bij data-uitwisseling te verlagen.<\/p>\n

Een ander belangrijk component van het systeem is de technologie<\/a><\/noindex> DirectPath I\/O. Deze stelt de CUDA-driver voor parallelle berekeningen in staat om rechtstreeks met virtuele machines te communiceren, waarbij de hypervisor wordt omzeild. Wanneer meerdere VM's op \u00e9\u00e9n GPU tegelijk moeten worden gestart, wordt de GRID vGPU-oplossing ingezet. Deze deelt het geheugen van de kaart in meerdere segmenten (maar de berekeningen worden niet verdeeld).<\/p>\n

De werking van twee virtuele machines ziet er in dit geval als volgt uit:<\/p>\n

\"Situatie:<\/p>\n

Resultaten en voorspellingen<\/h2>\n

\nHet bedrijf heeft tests uitgevoerd<\/a><\/noindex> hypervisor, die een taalmodel hebben getraind op basis van TensorFlow<\/a><\/noindex>. De \"schade\" aan de prestaties bedroeg slechts 3-4% in vergelijking met bare metal. In ruil daarvoor kreeg het systeem de mogelijkheid om middelen op aanvraag te verdelen, afhankelijk van de huidige belasting.<\/p>\n

De IT-gigant heeft ook tests uitgevoerd<\/a><\/noindex> met containers. Ingenieurs van het bedrijf hebben neurale netwerken getraind om afbeeldingen te herkennen. Daarbij werden de middelen van \u00e9\u00e9n grafische processor verdeeld over vier container-VM's. Als resultaat daalde de prestatie van afzonderlijke machines met 17% (in vergelijking met \u00e9\u00e9n VM met volledige toegang tot de GPU-middelen). Echter, het aantal verwerkte afbeeldingen per seconde steg met<\/a><\/noindex> drie keer. Verwacht wordt dat dergelijke systemen toepassing zullen vinden<\/a><\/noindex> in het gebied van data-analyse en computerimulatie.<\/p>\n

Onder de potenti\u00eble problemen waarmee VMware geconfronteerd kan worden, benadrukken experts een vrij smalle doelgroep. Momenteel werkt een klein aantal bedrijven met high-performance systemen. Hoewel uit Statista<\/a><\/noindex> blijkt , dat tegen 2021 al 94% van de wereldwijde datacenter-werklasten gevirtualiseerd zal zijn. Volgens<\/a><\/noindex>de voorspellingen voorspellingen<\/a><\/noindex> Vergelijkbare oplossingen<\/p>\n

\"Situatie:
\n\/ \u0444\u043e\u0442\u043e Global Access Point<\/a><\/noindex> PD<\/i><\/p>\n

Er zijn verschillende alternatieven op de markt die door grote IT-bedrijven worden ontwikkeld: AMD en Intel.<\/h2>\n

\nHet eerste bedrijf biedt virtualisatie van grafische processors<\/p>\n

een aanpak op basis van SR-IOV (single-root input\/output virtualization). Deze technologie geeft VM toegang tot een deel van de hardwarecapaciteit van het systeem. De oplossing maakt het mogelijk om de grafische processor onder 16 gebruikers te verdelen met gelijke prestaties van de gevirtualiseerde systemen. Wat betreft de tweede IT-gigant, hun<\/noindex> technologie is gebaseerd<\/p>\n

op de hypervisor Citrix XenServer 7. Het combineert het werk van de standaard GPU-driver en de virtuele machine, waardoor de laatste 3D-toepassingen en desktops kan weergeven op apparaten van honderden gebruikers. De toekomst van technologie<\/a><\/noindex> Ontwikkelaars van virtuele grafische processors<\/p>\n

zetten in op de implementatie van AI-systemen en de groei van de populariteit van high-performance oplossingen op de markt voor zakelijke technologie\u00ebn. Ze hopen dat de behoefte aan het verwerken van grote hoeveelheden data de vraag naar vGPU zal verhogen.<\/h2>\n

\nMomenteel zijn producenten op zoek naar een manier<\/a><\/noindex> de implementatie van AI-systemen en de groeiende populariteit van hoogwaardige oplossingen op de markt voor zakelijke technologie\u00ebn. Ze hopen dat de behoefte aan het verwerken van grote datavolumes de vraag naar vGPU zal verhogen.<\/p>\n

Momenteel zijn fabrikanten op zoek naar een manier<\/a><\/noindex> de functionaliteit van CPU en GPU in \u00e9\u00e9n kern combineren om de oplossing van grafische taken, wiskundige berekeningen, logische operaties en gegevensverwerking te versnellen. De komst van dergelijke kernen op de markt zal in de toekomst de benadering van resourcevirtualisatie en de verdeling ervan tussen workloads in virtuele en cloudomgevingen veranderen.<\/p>\n

\nWat te lezen over het onderwerp in onze bedrijfsblog:<\/p>\n