Im Juni und Juli haben sich fast zwei Dutzend Unternehmen bei uns nach den Möglichkeiten virtueller GPUs erkundigt. Das Grafik-Tool von Cloud4Y wird bereits von einer der großen Tochtergesellschaften der Sberbank genutzt, aber insgesamt ist der Dienst noch nicht sehr beliebt. Daher hat uns diese rege Nachfrage sehr gefreut. Angesichts des gestiegenen Interesses an der Technologie haben wir uns entschlossen, etwas ausführlicher über vGPU zu berichten.
Die im Rahmen wissenschaftlicher Experimente und Forschungen gewonnenen „Datenseen“, Deep Learning und andere KI-gestützte Projekte sowie das Modellieren großer und komplexer Objekte erfordern leistungsstarke Hardware. Es ist vorteilhaft, wenn diese vorhanden ist und es ermöglicht, aktuelle Aufgaben schnell zu lösen. Doch angesichts der zunehmenden Komplexität der Berechnungen (insbesondere im Bereich der Business-Analyse, Rendering, DL-Algorithmen und Frameworks) werden die Hardwarekapazitäten von Desktop- und sogar Server-CPUs immer häufiger unzureichend.
Eine Lösung wurde in der Nutzung von GPU-Computing gefunden. Diese Grafikbeschleunigungstechnologie ermöglicht die Aufteilung der Ressourcen einer einzelnen Grafikkarte auf mehrere virtuelle Maschinen. Die GPU wurde ursprünglich für die Grafikverarbeitung entwickelt und besteht aus Tausenden von kleinen Kernen, die für die effiziente Bearbeitung paralleler Aufgaben genutzt werden. Dabei übernimmt die GPU einen Teil der rechenintensivsten Berechnungen, während die CPU den Rest bewältigt.
GPU-Computing wurde von der Firma bereits im Jahr 2007 eingeführt. Heute hat diese Technologie eine neue Dimension erreicht und findet Anwendung in Rechenzentren großer Unternehmen und wissenschaftlicher Labore. Der traditionelle Ansatz hat jedoch einen erheblichen Nachteil: Die Anschaffung physischer Hardware kann ziemlich kostspielig sein. Und wenn man die Geschwindigkeit der Veralterung von Hardware bedenkt, wird die Situation noch trübseliger.
Das Problem wird durch die Technologie der virtuellen Grafikprozessoren: vGPU gelöst. Mit dieser Technologie können Nutzer ressourcenintensive Anwendungen wie AutoCAD, 3DS Max, Maya und Sony Vegas Pro remote ausführen. Die Virtualisierung hat schnell ihren Marktanteil gewonnen. Denn welcher russische Data Scientist liebt keine schnellen Berechnungen mit NVidia Tesla-Grafikkarten?
Hier ist zu beachten, dass vor der Einführung von vGPU andere Methoden zur Beschleunigung der Grafikverarbeitung verwendet wurden: Virtual Shared Graphics Acceleration (vSGA) und Virtual Dedicated Graphics Acceleration (vDGA). Die vGPU-Lösung kombiniert das Beste aus beiden Technologien. Wie bei vSGA wird in der vGPU-Umgebung die GPU und RAM von mehreren virtuellen Desktops gemeinsam genutzt, jedoch übermittelt jede VM ihre Befehle direkt an die GPU, wie es bei vDGA der Fall ist.
Warum sind vGPUs überhaupt notwendig?
Cloud-Computing mit vGPU ermöglicht es Unternehmen, Herausforderungen zu bewältigen, die zuvor unlösbar schienen. Oder lösbar, aber mit unrealistisch hohen Ressourcenanforderungen. Ein moderner GPU-Server kann bis zu 100 herkömmliche CPUs ersetzen. Es gibt noch andere, . Dies ist kein Scherz: Nvidia-Lösungen verarbeiten Petabytes an Daten mehrere Male schneller als klassische CPU-Server. Auch Google Cloud bietet virtuelle Maschinen mit GPU an, die bis zu 960 Teraflops liefern.
Viele Fachleute benötigen leistungsstarke Geräte, die parallel rechnen können. Architekten und Ingenieure nutzen die vGPU-Technologie in Design-Systemen (wie zum Beispiel Autodesk). Designer arbeiten mit digitalen Foto- und Videoinhalten (Photoshop, CorelDraw). Grafikprozessoren werden auch in medizinischen Einrichtungen benötigt, die Daten über Patienten und Krankheiten sammeln und analysieren. Auch für die GPU gilt, dass ...».
Denken Sie, das war's? Weit gefehlt. Diese Technologie wird auch für die automatische , sowie für , , Modellierungen und . Zudem gibt es einen interessanten in der Unity3D-Umgebung von .
. Trotz alledem haben vGPU-basierte Lösungen weltweit noch nicht weit verbreitet Fuß gefasst. So führte NetApp 2018 unter den Unternehmen, die Grafikkarten in ihren Betrieb einsetzen. Die Ergebnisse zeigten, dass 60 % der Organisationen weiterhin auf ihre eigene IT-Infrastruktur setzen. Das „Cloud-Computing“ wird jedoch nur von 23 % genutzt. In Russland hat die Technologie des Cloud Computing eine geringere Verbreitung. Dank neuer Hardware- und Softwarelösungen wächst jedoch die Zahl der Unternehmen, die virtuelle Maschinen mit GPU einsetzen, kontinuierlich.
Lösungen für vGPU
Viele Unternehmen entwickeln Technologien zur Virtualisierung von Grafikbeschleunigern, aber es gibt einige unbestrittene Marktführer.
Einer der angesehensten Entwickler von Cloud-Lösungen, das Unternehmen VMware bietet Unternehmen einen Hypervisor an , bei dem die Geschwindigkeit der virtuellen Grafikprozessoren mit der von Bare-Metal-Implementierungen vergleichbar ist. In einem kürzlichen Update hat der Entwickler den Lastenausgleich vMotion deaktiviert und die Unterstützung für die Technologie DirectPath I/O hinzugefügt, die den CUDA-Treiber direkt mit der VM verbindet, um den Hypervisor zu umgehen und die Datenübertragung zu beschleunigen.
Nvidia arbeitet ebenfalls daran, den Markterwartungen gerecht zu werden, und hat dazu eine Open-Source-Plattform herausgebracht . Die Lösung vereint mehrere Bibliotheken zur Arbeit mit der CUDA-Architektur, was die Handhabung von Daten während des Trainings von neuronalen Netzen vereinfacht und die Automatisierung von Python-Code ermöglicht. Der Einsatz von Rapids mit dem Machine-Learning-Algorithmus XGBoost führt zu einem 50-fachen Leistungszuwachs im Vergleich zu CPU-basierten Systemen.
Eigenes Technologieangebot besteht ebenfalls bei AMD. Die Plattform heißt . Sie nutzt die SR-IOV-Technologie, die die Hardware-Ressourcen eines physischen Geräts auf mehrere virtuelle Maschinen verteilt. Die Ressourcen eines einzigen Beschleunigers können unter sechzehn Benutzern geteilt werden, wobei die gleiche Leistung für jeden von ihnen sichergestellt wird. Dies beschleunigt den Datenaustausch zwischen Cloud-CPUs und -GPUs. Außerdem wird ein spezieller C++-Dialekt namens HIP verwendet, der die Ausführung mathematischer Operationen auf der GPU vereinfacht.
Intel entwickelt ihre Technologie auf Basis des plattformübergreifenden Hypervisors XenServer 7, der im Jahr 2017 die FSTEK-Konformitätszertifizierung erhielt. Die Lösung vereint den Betrieb des Standard-GPU-Treibers und der virtuellen Maschine. Das bedeutet, dass die "Virtuelle Maschine" den Betrieb komplexer Anwendungen auf Geräten mit einer großen Anzahl von Benutzern (einige Hundert).
Marktchancen
Unabhängige Analysten prognostizieren, dass der Umsatz mit HPC-Systemlösungen bis 2022 45 Milliarden Dollar erreichen wird. Auch Entwickler von Plattformen erwarten eine steigende Nachfrage nach Hochleistungs-systemen. Diese Erwartungen werden durch die Beliebtheit von Big Data und die häufigen Anforderungen zur Verarbeitung großer Datenmengen unterstützt.
Darüber hinaus könnte das wachsende Interesse an vGPU die Entwicklung hybrider Technologien fördern, die GPU und CPU in einem Gerät kombinieren. In solchen integrierten Lösungen nutzen zwei Kerneltypen einen gemeinsamen Cache, was den Datentransfer zwischen grafik- und traditionellen Prozessoren beschleunigt.
Hybride Technologien werden grundlegend die Herangehensweise an Virtualisierung und die Verteilung virtueller Ressourcen in Rechenzentren verändern. Lösungen mit open source wie ROCm und Rapids ermöglichen es den Rechenzentrumsbetreibern, die Rechenressourcen effizienter zu nutzen und die Leistung der Hardware zu steigern.
Es gibt auch eine andere Meinung. Zum Beispiel, dass virtuelle GPUs von optischen Chips mit photonischer Datenkodierung verdrängt werden. Solche Lösungen existieren bereits und werden für maschinelles Lernen eingesetzt. Darüber hinaus scheinen sie als herkömmliche GPUs zu sein. Aber die Technologie ist noch unausgereift.
Was kann man daraus schließen? Trotz möglicher Alternativen ist vGPU ein durchaus vielversprechender Bereich, der in der Lage ist, eine Vielzahl von Aufgaben zu bewältigen. Aber es ist nicht für jeden geeignet. Setzen Sie also das Komma im Titel nach eigenem Ermessen.
P.S.
Abonnieren Sie unseren -Kanal, um keinen neuen Artikel zu verpassen! Wir schreiben höchstens zweimal pro Woche und nur wenn es notwendig ist.
Nur registrierte Benutzer können an der Umfrage teilnehmen. Sind Sie an Contour interessiert?
Verwenden Sie vGPU?
Ja, oft werden virtuelle Ressourcen benötigt.
Nein, und wir planen wahrscheinlich auch nicht.
Es haben 23 Nutzer abgestimmt. 11 Nutzer haben sich enthalten.
Quelle: habr.com
