In juni-juli hebben bijna twee dozijn bedrijven contact met ons opgenomen om te informeren naar de mogelijkheden van virtuele GPU's. Een van de grote dochters van Sberbank maakt al gebruik van de 'grafische' diensten van Cloud4Y, maar over het algemeen is de service niet erg populair. Deze toegenomen belangstelling heeft ons dan ook zeer verheugd. Gezien de groeiende interesse in de technologie, hebben we besloten om wat meer details te delen over vGPU.
De 'data meren', ontstaan uit wetenschappelijke experimenten en onderzoeken, Deep Learning en andere werkgebieden met AI, en het modelleren van grote en complexe objecten vereisen allemaal krachtige 'hardware'. Het is goed als deze beschikbaar is en snel in staat is om huidige taken op te lossen. Echter, door de toenemende rekencomplexiteit van taken (vooral voor business analytics, rendering, DL-algoritmes en frameworks) worden de hardwarecapaciteiten van desktop- en zelfs server-CPU's steeds vaker nutteloos.
De oplossing werd gevonden in het gebruik van GPU-rekenkracht. Deze versnellings-technologie zorgt voor de verdeling van de middelen van ƩƩn grafische processor tussen verschillende virtuele computers. GPU's zijn oorspronkelijk ontworpen voor grafische toepassingen en bestaan uit duizenden kleine kernen die worden gebruikt voor efficiƫnte verwerking van parallelle taken. Op de GPU worden de meeste rekenintensieve taken uitgevoerd, terwijl de CPU de rest op zich neemt.
GPU-berekeningen zijn bedacht door het bedrijf in 2007. Vandaag de dag is deze technologie naar een nieuw niveau getild en wordt deze toegepast in de datacenters van de grootste ondernemingen en wetenschappelijke laboratoria. Echter, de traditionele aanpak heeft Ć©Ć©n groot nadeel: de aanschaf van fysieke apparatuur is behoorlijk duur. En als we de snelheid van veroudering van 'hardware' in overweging nemen, wordt het nog treuriger.
De technologie van virtuele grafische processors: vGPU is bedoeld om dit probleem op te lossen. Hiermee kunnen gebruikers zware applicaties zoals AutoCAD, 3DS Max, Maya, en Sony Vegas Pro op afstand uitvoeren. Virtualisatie heeft snel zijn marktaandeel veroverd. Want welke Russische data scientist houdt nu niet van snelle berekeningen op NVidia Tesla videokaarten?
Het is belangrijk op te merken dat voor de introductie van vGPU andere methoden voor grafische versnelling werden gebruikt: Virtual Shared Graphics Acceleration (vSGA) en Virtual Dedicated Graphics Acceleration (vDGA). De oplossing vGPU combineert het beste van beide technologieƫn. Net als bij vSGA is het gebruik van GPU en RAM in de vGPU-omgeving bedoeld voor gedeeld gebruik door meerdere virtuele desktops, maar elke VM stuurt opdrachten rechtstreeks naar de GPU, zoals bij vDGA.
Waarom zijn vGPU's Ć¼berhaupt nodig?
Cloudcomputing met vGPU maakt het bedrijven mogelijk om taken aan te pakken die eerder niet konden worden opgelost. Of mogelijk, maar daarvoor waren er onredelijk veel middelen vereist. 1 moderne GPU-server kan tot 100 gewone CPU's vervangen. Er zijn nog andere, . Dit is geen grap: oplossingen van Nvidia verwerken petabytes aan gegevens vele malen sneller dan klassieke CPU-servers. En Google Cloud biedt dezelfde virtuele machines met GPU die tot 960 teraflopps kunnen leveren.
Veel specialisten hebben krachtige apparaten nodig die parallelle berekeningen kunnen uitvoeren. Architecten en ingenieurs gebruiken de vGPU-technologie in ontwerpsystemen (zoals Autodesk, bijvoorbeeld). Ontwerpers werken met digitale foto- en videoinhoud (Photoshop, CorelDraw). Voor grafische processoren zijn ook medische instellingen nodig die gegevens over patiĆ«nten en ziekten verzamelen en analyseren. Werkt met GPU en "Ā».
Denk je dat het daarbij blijft? Nee hoor. De technologie wordt ook gebruikt voor automatische , en voor , , modellering en . En er is ook een geweldige in de Unity3D-omgeving van .
Desondanks hebben oplossingen op basis van vGPU nog niet wijdverbreide acceptatie in de wereld gevonden. Zo voerde NetApp in 2018 een onderzoek uit onder bedrijven die gebruikmaken van grafische processoren. De resultaten toonden aan dat 60% van de organisaties nog steeds werkt met hun eigen IT-infrastructuur. Slechts 23% maakt gebruik van de "cloud". In Rusland heeft de penetratie van cloudcomputing een kleinere betekenis. Maar dankzij nieuwe hardware- en softwareoplossingen groeit het aantal bedrijven dat gebruikmaakt van virtuele machines met GPU gestaag.
Oplossingen voor vGPU
Veel bedrijven zijn bezig met het ontwikkelen van virtualisatietechnologieƫn voor grafische versnellingshardware, maar onder hen zijn er onbetwiste leiders.
Een van de meest autoritaire ontwikkelaars van cloudoplossingen, het bedrijf VMware biedt bedrijven de hypervisor , waarmee de snelheid van virtuele grafische processoren vergelijkbaar is met implementaties op bare metal. In een recente update heeft de ontwikkelaar de vMotion-loadbalancer uitgeschakeld en ondersteuning toegevoegd voor de DirectPath I/O-technologie, die de CUDA-stuurprogramma's met de VM verbindt om de hypervisor heen, waardoor de datatransfer wordt versneld.
Nvidia is ook bezig om aan de verwachtingen van de markt te voldoen, en heeft daarvoor een open-sourceplatform uitgebracht, . Deze oplossing combineert verschillende bibliotheken voor het werken met de CUDA-architectuur, wat het werken met data tijdens de training van neurale netwerken vereenvoudigt en het automatiseren van Python-code mogelijk maakt. Het gebruik van Rapids met het machine learning-algoritme XGBoost biedt een 50-voudige prestatieverbetering ten opzichte van systemen op basis van CPU.
Een eigen technologie heeft ook AMD. Het platform heet . Het maakt gebruik van de SR-IOV-technologie, die de hardwarecapaciteiten van een fysiek apparaat tussen meerdere virtuele machines verdeelt. De resources van Ć©Ć©n accelerator kunnen worden verdeeld tussen zestien gebruikers, waarbij een gelijke prestatie voor elk van hen wordt ondersteund. Op deze manier wordt de datatransfer tussen cloud-CPU's en GPU's versneld. Ook wordt er een speciale dialect C++ gebruikt, genaamd HIP, die de uitvoering van wiskundige operaties op GPU's vereenvoudigt.
Intel bouwt zijn technologie op basis van de cross-platform hypervisor XenServer 7, dat in 2017 de certificering van de FSTEK heeft ontvangen. Deze oplossing combineert het werk van de standaard GPU-stuurprogramma's en de virtuele machine. Dit betekent dat de 'virtuele machine' kan de zware applicaties draaien op apparaten met een groot aantal (enkele honderden) gebruikers.
Marktperspectieven
Onafhankelijke analisten verwachten dat de verkoop van oplossingen voor HPC-systemen in 2022 45 miljard dollar zal bedragen. De ontwikkelaars van platforms verwachten ook een toename van de vraag naar hoogwaardige systemen. Deze verwachting wordt ondersteund door de populariteit van Big Data en de vaak voorkomende noodzaak om grote hoeveelheden data te verwerken.
De toenemende vraag naar vGPU kan de ontwikkeling van hybride technologieĆ«n stimuleren die GPU en CPU in Ć©Ć©n apparaat combineren. In dergelijke geĆÆntegreerde oplossingen gebruiken twee soorten kernen een gedeelde cache, wat de gegevensoverdracht tussen grafische en traditionele processors versnelt.
Hybriden zullen de benadering van virtualisatie en de distributie van virtuele middelen binnen datacenters ingrijpend veranderen. Open-source oplossingen zoals ROCm en Rapids stellen datacenteroperators in staat om rekencapaciteiten efficiƫnter te benutten, waardoor de prestaties van de apparatuur verbeteren.
Er is ook een ander standpunt. Bijvoorbeeld, dat virtuele GPU's zullen worden verdrongen door optische chips met fotonische datacodering. Dergelijke oplossingen bestaan al en worden gebruikt voor machine learning. Bovendien lijken ze Wat kunnen we concluderen? Ondanks de mogelijke komst van alternatieven, is vGPU een veelbelovende richting die in staat is om een groot aantal taken op te lossen. Maar het is niet voor iedereen geschikt. Dus de komma in de titel kunt u zelf plaatsen.
Gebruikt u vGPU?
P.S.
Subscribe to our -kanaal, zodat je het volgende artikel niet mist! We schrijven niet vaker dan twee keer per week en alleen als het nodig is.
Alleen geregistreerde gebruikers kunnen deelnemen aan de enquĆŖte. , alstublieft.
Ja, er zijn vaak virtuele bronnen nodig.
Nee, en waarschijnlijk plannen we dat niet.
23 gebruikers hebben gestemd. 11 gebruikers hebben zich onthouden.
In juni-juli hebben bijna twee dozijn mensen contact met ons opgenomen.
Bron: habr.com
