Im Februar fand an der Stanford-Universität eine Konferenz über Hochleistungsrechnen (HPC) statt. Vertreter von VMware berichteten, dass das System auf Basis eines modifizierten ESXi-Hypervisors in Bezug auf die Geschwindigkeit mit bare metal-Lösungen konkurriert.
Wir berichten über die Technologien, die dies ermöglicht haben.
/ фото
Leistungsproblematik
Laut Analystenschätzungen sind etwa 70 % der Arbeitslasten in Rechenzentren . Die verbleibenden 30 % laufen jedoch nach wie vor auf bare metal ohne Hypervisoren. Diese 30 % bestehen größtenteils aus hochbelasteten Anwendungen, die beispielsweise für das Training von neuronalen Netzen genutzt werden und Grafikprozessoren verwenden.
Experten erklären diesen Trend damit, dass der Hypervisor als Zwischenebene der Abstraktion die gesamte Systemleistung beeinflussen kann. In Studien aus vor fünf Jahren über eine Geschwindigkeitsreduktion von 10 %. Daher zögern Unternehmen und Betreiber von Rechenzentren, HPC-Lasten in virtuelle Umgebungen zu verlagern.
Die Virtualisierungstechnologien entwickeln sich weiter und verbessern sich. Auf einer Konferenz vor einem Monat hat VMware mitgeteilt, dass der Hypervisor ESXi keine negativen Auswirkungen auf die GPU-Leistung hat. Die Berechnungsgeschwindigkeit kann um drei Prozent sinken, was mit den Werten von Bare Metal vergleichbar ist.
Wie es funktioniert
Um die Leistung von HPC-Systemen mit Grafikkarten zu steigern, hat VMware eine Reihe von Änderungen am Hypervisor vorgenommen. Insbesondere wurde die vMotion-Funktion entfernt, die zur Lastenverteilung dient und normalerweise virtuelle Maschinen (VMs) zwischen Servern oder GPUs verschiebt. Die Deaktivierung von vMotion hat dazu geführt, dass nun jeder VM ein spezifischer Grafikprozessor zugeordnet ist. Dies hat die Kosten bei der Datenübertragung gesenkt.
Ein weiterer Schlüsselkomponent des Systems DirectPath I/O. Sie ermöglicht es dem CUDA-Treiber für parallele Berechnungen, direkt mit den virtuellen Maschinen zu interagieren und den Hypervisor zu umgehen. Wenn auf einer GPU mehrere VMs gleichzeitig gestartet werden müssen, kommt die GRID vGPU-Lösung zum Einsatz. Diese teilt den Speicher der Karte in mehrere Segmente auf (aber die Rechenzyklen werden dabei nicht geteilt).
Das Arbeitsdiagramm von zwei virtuellen Maschinen in diesem Fall sieht folgendermaßen aus:
Ergebnisse und Prognosen
Das Unternehmen des Hypervisors, indem ein Sprachmodell auf Basis von trainiert wurde. Der "Schaden" an der Leistung betrug nur 3–4 % im Vergleich zu Bare Metal. Im Gegenzug erhielt die System jedoch die Möglichkeit, Ressourcen je nach aktueller Auslastung bedarfsgerecht zu verteilen.
Der IT-Riese hat ebenfalls mit Containern. Die Ingenieure des Unternehmens trainierten neuronale Netze zur Bilderkennung. Dabei wurden die Ressourcen einer GPU zwischen vier containerbasierten VMs aufgeteilt. Infolgedessen sank die Leistung einzelner Maschinen um 17 % (im Vergleich zu einer VM mit vollem Zugriff auf die GPU-Ressourcen). Allerdings stieg die Anzahl der pro Sekunde verarbeiteten Bilder um das Dreißigfache. Es wird erwartet, dass solche Systeme Unter den potenziellen Problemen, mit denen VMware konfrontiert sein könnte, sind Experten
eine vergleichsweise enge Zielgruppe. Mit hochleistungsfähigen Systemen arbeiten bislang nur wenige Unternehmen. Obwohl in Statista eine ziemlich enge Zielgruppe. Derzeit arbeiten nur wenige Unternehmen mit leistungsstarken Systemen. Obwohl bei Statista , dass bis 2021 bereits 94% der Workloads in globalen Rechenzentren virtualisiert sein werden. Laut von Analysten wird der HPC-Markt von 32 auf 45 Milliarden Dollar zwischen 2017 und 2022 wachsen.
/ фото PD
Ähnliche Lösungen
Es gibt mehrere Alternativen auf dem Markt, die von großen IT-Unternehmen wie AMD und Intel entwickelt werden.
Das erste Unternehmen, das GPUs virtualisiert hat, verwendet einen Ansatz auf Basis von SR-IOV (Single Root Input/Output Virtualization). Diese Technologie ermöglicht es VMs, auf Teile der Hardware-Ressourcen des Systems zuzugreifen. Die Lösung ermöglicht es, eine GPU unter 16 Benutzern mit gleicher Leistung der virtualisierten Systeme zu teilen.
Was den zweiten IT-Riesen betrifft, so basiert deren auf dem Hypervisor Citrix XenServer 7. Sie kombiniert die Funktionalität des Standard-GPU-Treibers und der virtuellen Maschine, was es letzterer ermöglicht, 3D-Anwendungen und Desktops auf Geräten von Hunderten von Benutzern anzuzeigen.
Die Zukunft der Technologie
Entwickler virtueller Grafikkarten zur Implementierung von KI-Systemen und dem Anstieg der Beliebtheit leistungsstarker Lösungen auf dem Markt für Geschäftstechnologien. Sie hoffen, dass der Bedarf an der Verarbeitung großer Datenmengen die Nachfrage nach vGPU steigern wird.
Aktuell suchen die Hersteller die Funktionalität von CPU und GPU in einem Kern zu vereinen, um die Lösung von grafikbezogenen Aufgaben, die Durchführung mathematischer Berechnungen, logischer Operationen und die Datenverarbeitung zu beschleunigen. Das Auftreten solcher Kerne auf dem Markt wird in Zukunft die Herangehensweise an die Virtualisierung von Ressourcen und deren Verteilung zwischen Arbeitslasten in virtuellen und Cloud-Umgebungen verändern.
Was Sie zu diesem Thema in unserem Unternehmensblog lesen können:
Ein paar Beiträge aus unserem Telegram-Kanal:
Quelle: habr.com
