Im Februar fand an der Stanford University eine Konferenz zum Thema Hochleistungsrechnen (HPC) statt. Vertreter von VMware berichteten, dass ein auf einem modifizierten Hypervisor ESXi basierendes System hinsichtlich der Geschwindigkeit mit Bare-Metal-Lösungen vergleichbar ist.
Wir stellen die Technologien vor, die dies ermöglicht haben.
/ фото
Leistungsproblem
Laut Analysten sind etwa 70 % der Arbeitslasten in Rechenzentren . Die verbleibenden 30 % arbeiten jedoch nach wie vor auf Bare Metal ohne Hypervisor. Diese 30 % bestehen größtenteils aus stark belasteten Anwendungen, die beispielsweise mit dem Training von neuronalen Netzen verbunden sind und Grafikprozessoren nutzen.
Experten erklären diesen Trend damit, dass Hypervisoren als Zwischenablage die Leistung des gesamten Systems beeinträchtigen können. In Studien aus der Zeit vor fünf Jahren über eine verringerte Arbeitsgeschwindigkeit von 10 %. Daher zögern Unternehmen und Betreiber von Rechenzentren, HPC-Lasten in virtuelle Umgebungen zu migrieren.
Doch die Virtualisierungstechnologien entwickeln sich weiter und verbessern sich. Auf der Konferenz vor einem Monat berichtete VMware, dass der ESXi-Hypervisor keinen negativen Einfluss auf die Leistung von GPUs hat. Die Berechnungsgeschwindigkeit kann um drei Prozent sinken, was mit den Werten von Bare Metal vergleichbar ist.
Die DANE-Spezifikation ist in
Um die Leistung von HPC-Systemen mit Grafikprozessoren zu erhöhen, haben VMware eine Reihe von Änderungen am Hypervisor vorgenommen. Insbesondere wurde die Funktion vMotion abgeschaltet. Diese ist für die Lastenverteilung erforderlich und verschiebt normalerweise virtuelle Maschinen (VMs) zwischen Servern oder GPUs. Die Deaktivierung von vMotion hat dazu geführt, dass jeder VM nun ein bestimmter Grafikprozessor zugewiesen wird. Dies hat geholfen, die Datenübertragungskosten zu senken.
Ein weiterer Schlüsselkomponente des Systems DirectPath I/O. Sie ermöglicht es dem CUDA-Treiber für paralleles Rechnen, direkt mit virtuellen Maschinen zu interagieren, ohne den Hypervisor zu durchlaufen. Wenn auf einem GPU mehrere VMs gleichzeitig ausgeführt werden müssen, kommt die Lösung GRID vGPU zum Einsatz. Sie teilt den Speicher der Karte in mehrere Segmente auf (aber die Rechenschleifen werden dabei nicht geteilt).
Das Arbeitschema von zwei virtuellen Maschinen sieht in diesem Fall folgendermaßen aus:
Ergebnisse und Prognosen
Unternehmen des Hypervisors, indem ein Sprachmodell auf der Basis von . Der "Schaden" an der Leistung betrug nur 3-4 % im Vergleich zu Bare Metal. Im Gegenzug erhielt das System die Möglichkeit, Ressourcen je nach aktueller Last nach Bedarf zu verteilen.
Der IT-Riese führte ebenfalls mit Containern. Die Ingenieure des Unternehmens trainierten neuronale Netze zur Bilderkennung. Dabei wurden die Ressourcen einer Grafikkarte zwischen vier Container-VMs aufgeteilt. Infolgedessen sank die Leistung der einzelnen Maschinen um 17 % (im Vergleich zu einer VM, die vollen Zugriff auf die Ressourcen der GPU hatte). Die Anzahl der pro Sekunde verarbeiteten Bilder auf das Dreifache. Es wird erwartet, dass solche Systeme im Bereich der Datenanalyse und Computer-Simulation.
Unter den potenziellen Problemen, mit denen VMware konfrontiert sein könnte, sehen Experten eine recht enge Zielgruppe. Nur eine geringe Anzahl von Unternehmen arbeitet derzeit mit Hochleistungsystemen. Während Statista , dass bis 2021 bereits 94 % der Arbeitslasten weltweit virtualisiert sein werden. Laut von Analysten wird der Wert des HPC-Marktes von 32 auf 45 Milliarden Dollar in der Zeit von 2017 bis 2022 steigen.
/ фото PD
Ähnliche Lösungen
Es gibt mehrere Alternativen, die von großen IT-Unternehmen wie AMD und Intel entwickelt werden.
Das erste Unternehmen zur Virtualisierung von Grafikkarten verfolgt einen Ansatz auf der Basis von SR-IOV (Single-Root Input/Output Virtualization). Diese Technologie ermöglicht VMs den Zugriff auf Teile der Hardware-Ressourcen des Systems. Die Lösung erlaubt es, die Grafikkarte zwischen 16 Nutzern bei gleicher Leistung der virtualisierten Systeme zu teilen.
Was den zweiten IT-Riesen betrifft, basiert deren dem Hypervisor Citrix XenServer 7. Diese kombiniert die Funktion des Standard-GPU-Treibers mit der virtuellen Maschine, was der letzteren ermöglicht, 3D-Anwendungen und Desktops auf den Geräten von Hunderten von Nutzern darzustellen.
Die Zukunft der Technologie
Entwickler von virtuellen Grafikkarten für die Einführung von KI-Systemen und das Wachstum der Beliebtheit hochleistungsfähiger Lösungen im Bereich der Geschäftstechnologien. Sie hoffen, dass der Bedarf an der Verarbeitung großer Datenmengen die Nachfrage nach vGPU erhöhen wird.
Derzeit suchen die Hersteller Was Sie zu diesem Thema in unserem Unternehmensblog lesen können:
„Wie läuft es bei VMware“: Überblick über neue Lösungen
5 Werkzeuge für das Cloud-Management
Quelle: habr.com
