Im Juni und Juli haben fast zwei Dutzend Unternehmen Kontakt zu uns aufgenommen, die sich für die Möglichkeiten virtueller GPUs interessierten. Eine große Tochtergesellschaft von Sberbank nutzt bereits „Grafiken“ von Cloud4Y, doch insgesamt ist der Service nicht sehr populär. Daher hat uns diese Aktivität sehr gefreut. Angesichts des wachsenden Interesses an der Technologie, wollten wir ein wenig detaillierter über vGPU berichten.
Die „Datenseen“, die durch wissenschaftliche Experimente und Forschungen, Deep Learning und andere KI-Arbeitsrichtungen gewonnen werden, sowie die Modellierung großer und komplexer Objekte erfordern alle leistungsstarke Hardware. Es ist gut, wenn diese verfügbar ist und es ermöglicht, aktuelle Aufgaben schnell zu lösen. Doch aufgrund der zunehmenden rechnerischen Komplexität der Aufgaben (insbesondere in der Geschäftsanalyse, beim Rendern, den DL-Algorithmen und -Frameworks) werden die Hardwareressourcen von Desktop- und sogar Server-CPUs immer häufiger nutzlos.
Eine Lösung wurde in der Nutzung von GPU-Berechnungen gefunden. Diese Grafikbeschleunigungstechnologie ermöglicht die Aufteilung der Ressourcen eines einzelnen Grafikprozessors auf mehrere virtuelle Computer. GPUs wurden ursprünglich zur Verarbeitung von Grafiken entwickelt und bestehen aus Tausenden kleiner Kerne, die zur effektiven Verarbeitung paralleler Aufgaben eingesetzt werden. Dabei werden einige der rechenintensivsten Berechnungen auf der GPU ausgeführt, während der Rest die CPU übernimmt.
Die Berechnungen unter Verwendung von GPUs wurden von der Firma bereits im Jahr 2007 entwickelt. Heute hat diese Technologie ein neues Niveau erreicht und wird in den Rechenzentren der größten Unternehmen und wissenschaftlichen Labors eingesetzt. Allerdings hat der traditionelle Ansatz einen erheblichen Nachteil: Der Kauf physischer Hardware ist alles andere als günstig. Und wenn man die Geschwindigkeit bedenkt, mit der Hardware veraltet, wird es noch trister.
Das Problem soll durch die Technologie virtueller Grafikkarten vGPU gelöst werden. Damit können Benutzer schwergewichtige Anwendungen wie AutoCAD, 3DS Max, Maya und Sony Vegas Pro remote ausführen. Die Virtualisierung hat schnell ihren Marktanteil erobert. Denn welcher russische Data Scientist liebt keine schnellen Berechnungen auf NVidia Tesla-Grafikkarten?
Hier ist zu beachten, dass vor der Einführung von vGPU andere Methoden zur Beschleunigung der Grafikverarbeitung verwendet wurden: Virtual Shared Graphics Acceleration (vSGA) und Virtual Dedicated Graphics Acceleration (vDGA). Die Lösung vGPU kombiniert das Beste aus beiden Technologien. Wie bei vSGA wird in der vGPU-Umgebung die GPU und der RAM von mehreren virtuellen Arbeitsplätzen gemeinsam genutzt, während jede VM jedoch Befehle direkt an die GPU überträgt, wie im Fall von vDGA.
Warum benötigt man überhaupt vGPU
Cloud-Computing mit vGPU ermöglicht es Unternehmen, Aufgaben zu bewältigen, die zuvor nicht gelöst werden konnten. Oder vielleicht möglich, aber es wären unrealistisch viele Ressourcen erforderlich gewesen. 1 moderner GPU-Server kann bis zu 100 gewöhnliche CPUs ersetzen. Es gibt auch andere, . Das ist kein Scherz: Nvidia-Lösungen verarbeiten Petabytes an Daten mehrere Male schneller als klassische CPU-Server. Auch Google Cloud bietet virtuelle Maschinen mit GPU an, die bis zu 960 Teraflops liefern.
Viele Fachleute benötigen leistungsstarke Geräte, die parallele Berechnungen durchführen können. Architekten und Ingenieure nutzen die vGPU-Technologie in Entwurfssystemen (zum Beispiel Autodesk). Designer arbeiten mit digitalen Foto- und Videoinhalten (Photoshop, CorelDraw). Grafikprozessoren werden auch von medizinischen Einrichtungen benötigt, die Daten über Patienten und Krankheiten sammeln und analysieren. Auch "».
Denken Sie, das war's? Weit gefehlt. Die Technologie wird auch zur automatischen , und für , , Modellierung von und . Und es gibt auch einen großartigen in der Umgebung von Unity3D von .
Trotz allem haben Lösungen auf Basis von vGPU bisher nicht weit verbreitet. So führte NetApp 2018 eine unter Unternehmen durch, die Grafikprozessoren in ihrer Arbeit verwenden. Die Ergebnisse zeigten, dass 60 % der Organisationen weiterhin auf ihrer eigenen IT-Infrastruktur arbeiten. Nur 23 % nutzen die "Cloud". In Russland hat die Verbreitung der Cloud-Computing-Technologie eine geringere Bedeutung. Doch dank neuer Hardware- und Softwarelösungen wächst die Zahl der Unternehmen, die virtuelle Maschinen mit GPU nutzen, ständig.
Lösungen für vGPU
Die Entwicklung von Virtualisierungstechnologien für Grafikkarten wird von vielen Unternehmen vorangetrieben, aber unter ihnen gibt es unbestreitbare Führer.
Einer der angesehensten Entwickler von Lösungen im Bereich Cloud-Computing, das Unternehmen VMware bietet Unternehmen einen Hypervisor an , unter dem die Arbeitsgeschwindigkeit virtueller Grafikkarten mit Implementierungen auf Bare-Metal vergleichbar ist. In einem kürzlichen Update hat der Entwickler den vMotion-Load-Balancer deaktiviert und Unterstützung für die DirectPath I/O-Technologie hinzugefügt, die den CUDA-Treiber direkt mit der VM verbindet, wodurch die Datenübertragung beschleunigt wird.
Nvidia auch bemüht sich, den Erwartungen des Marktes gerecht zu werden, und hat zu diesem Zweck eine Open-Source-Plattform veröffentlicht . Die Lösung vereint mehrere Bibliotheken zur Arbeit mit der CUDA-Architektur, was die Arbeit mit Daten während des Trainings von neuronalen Netzen vereinfacht und die Automatisierung von Python-Code ermöglicht. Die Verwendung von Rapids mit dem Machine-Learning-Algorithmus XGBoost bietet eine 50-fache Leistungsteigerung im Vergleich zu Systemen auf CPU-Basis.
Eigene Technologie hat auch AMD. Die Plattform heißt . Sie nutzt die SR-IOV-Technologie, die die Hardware-Ressourcen eines physischen Geräts unter mehreren virtuellen Maschinen aufteilt. Die Ressourcen eines Beschleunigers können zwischen sechzehn Benutzern geteilt werden, wobei für jeden eine gleichbleibende Leistung sichergestellt wird. Dadurch wird die Datenübertragung zwischen Cloud-CPU und GPU beschleunigt. Zudem wird ein spezieller Dialekt von C++, genannt HIP, verwendet, der die Durchführung mathematischer Operationen auf der GPU vereinfacht.
Intel baut seine Technologie auf dem plattformübergreifenden Hypervisor XenServer 7 auf, der 2017 die Zulassung durch die FSTEK erhielt. Die Lösung kombiniert die Arbeit des Standard-GPU-Treibers mit der virtuellen Maschine. Das bedeutet, dass die „Virtuelle Maschine“ die Ausführung von ressourcenintensiven Anwendungen auf Geräten mit einer großen (mehrere Hundert) Anzahl von Benutzern ermöglicht.
Marktausichten
Unabhängige Analysten glauben, dass der Umsatz mit HPC-Systemlösungen bis 2022 45 Milliarden Dollar erreichen wird. Plattformentwickler erwarten ebenfalls eine steigende Nachfrage nach Hochleistungs-Systemen. Diese Erwartung wird durch die Beliebtheit von Big Data und die häufig auftretende Notwendigkeit, große Datenmengen zu verarbeiten, gestützt.
Auch die steigende Nachfrage nach vGPU kann die Entwicklung hybrider Technologien ankurbeln, die GPU und CPU in einem Gerät vereinen. In solchen integrierten Lösungen nutzen zwei Arten von Kernen einen gemeinsamen Cache, was den Datenaustausch zwischen Grafikkarten und traditionellen Prozessoren beschleunigt.
Hybride werden den Ansatz zur Virtualisierung und zur Verteilung virtueller Ressourcen in Rechenzentren grundlegend verändern. Open-Source-Lösungen wie ROCm und Rapids ermöglichen es Rechenzentrumsbetreibern, Rechenressourcen effizienter zu nutzen und die Leistung der Hardware zu steigern.
Es gibt auch eine andere Meinung. Zum Beispiel, dass virtuelle GPUs durch optische Chips mit photonischer Datenkodierung verdrängt werden. Solche Lösungen existieren bereits und werden für maschinelles Lernen eingesetzt. Darüber hinaus erscheinen sie als herkömmliche GPUs. Doch die Technologie ist noch nicht ausgereift.
Was lässt sich daraus schlussfolgern? Trotz des möglichen Auftauchens von Alternativen ist vGPU ein vielversprechender Bereich, der in der Lage ist, eine Vielzahl von Aufgaben zu lösen. Aber es ist nicht für jeden geeignet. Die Entscheidung über das Komma im Titel überlassen wir Ihnen.
P.S.
Abonnieren Sie unseren -Kanal, um keinen Artikel zu verpassen! Wir schreiben nicht öfter als zweimal pro Woche und nur relevante Inhalte.
Nur registrierte Benutzer können an der Umfrage teilnehmen. .
Setzen Sie vGPU ein?
Ja, oft werden virtuelle Ressourcen benötigt.
Nein, und wir planen das auch nicht.
23 Benutzer haben abgestimmt. 11 Benutzer haben sich enthalten.
Quelle: habr.com
