{"id":42117,"date":"2019-03-18T00:00:00","date_gmt":"2019-03-17T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam"},"modified":"2020-02-18T13:44:55","modified_gmt":"2020-02-18T10:44:55","slug":"situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/de\/blog\/administrirovanie\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","title":{"rendered":"Situation: Virtuelle GPUs stehen in der Leistung den hardwarebasierten L\u00f6sungen in nichts nach.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

Im Februar fand an der Stanford-Universit\u00e4t eine Konferenz \u00fcber Hochleistungsrechnen (HPC) statt. Vertreter von VMware berichteten, dass das System auf Basis eines modifizierten ESXi-Hypervisors in Bezug auf die Geschwindigkeit mit bare metal-L\u00f6sungen konkurriert.<\/p>\n

Wir berichten \u00fcber die Technologien, die dies erm\u00f6glicht haben.<\/p>\n

\"Situation:<\/a><\/noindex><\/a><\/noindex>
\n\/ \u0444\u043e\u0442\u043e Victorgrigas<\/a><\/noindex> CC BY-SA<\/a><\/noindex><\/i><\/p>\n

Leistungsproblematik<\/h2>\n

\nLaut Analystensch\u00e4tzungen sind etwa 70 % der Arbeitslasten in Rechenzentren virtualisiert<\/a><\/noindex>. Die verbleibenden 30 % laufen jedoch nach wie vor auf bare metal ohne Hypervisoren. Diese 30 % bestehen gr\u00f6\u00dftenteils aus hochbelasteten Anwendungen, die beispielsweise f\u00fcr das Training von neuronalen Netzen genutzt werden und Grafikprozessoren verwenden.<\/p>\n

Experten erkl\u00e4ren diesen Trend damit, dass der Hypervisor als Zwischenebene der Abstraktion die gesamte Systemleistung beeinflussen kann. In Studien aus vor f\u00fcnf Jahren finden sich Daten<\/a><\/noindex> \u00fcber eine Geschwindigkeitsreduktion von 10 %. Daher z\u00f6gern Unternehmen und Betreiber von Rechenzentren, HPC-Lasten in virtuelle Umgebungen zu verlagern.<\/p>\n

Die Virtualisierungstechnologien entwickeln sich weiter und verbessern sich. Auf einer Konferenz vor einem Monat hat VMware mitgeteilt, dass der Hypervisor ESXi keine negativen Auswirkungen auf die GPU-Leistung hat. Die Berechnungsgeschwindigkeit kann um drei Prozent sinken, was mit den Werten von Bare Metal vergleichbar ist.<\/p>\n

Wie es funktioniert<\/h2>\n

\nUm die Leistung von HPC-Systemen mit Grafikkarten zu steigern, hat VMware eine Reihe von \u00c4nderungen am Hypervisor vorgenommen. Insbesondere wurde die vMotion-Funktion entfernt, die zur Lastenverteilung dient und normalerweise virtuelle Maschinen (VMs) zwischen Servern oder GPUs verschiebt. Die Deaktivierung von vMotion hat dazu gef\u00fchrt, dass nun jeder VM ein spezifischer Grafikprozessor zugeordnet ist. Dies hat die Kosten bei der Daten\u00fcbertragung gesenkt.<\/p>\n

Ein weiterer Schl\u00fcsselkomponent des Systems ist die Technologie<\/a><\/noindex> DirectPath I\/O. Sie erm\u00f6glicht es dem CUDA-Treiber f\u00fcr parallele Berechnungen, direkt mit den virtuellen Maschinen zu interagieren und den Hypervisor zu umgehen. Wenn auf einer GPU mehrere VMs gleichzeitig gestartet werden m\u00fcssen, kommt die GRID vGPU-L\u00f6sung zum Einsatz. Diese teilt den Speicher der Karte in mehrere Segmente auf (aber die Rechenzyklen werden dabei nicht geteilt).<\/p>\n

Das Arbeitsdiagramm von zwei virtuellen Maschinen in diesem Fall sieht folgenderma\u00dfen aus:<\/p>\n

\"Situation:<\/p>\n

Ergebnisse und Prognosen<\/h2>\n

\nDas Unternehmen hat Tests durchgef\u00fchrt<\/a><\/noindex> des Hypervisors, indem ein Sprachmodell auf Basis von TensorFlow<\/a><\/noindex>trainiert wurde. Der \"Schaden\" an der Leistung betrug nur 3\u20134 % im Vergleich zu Bare Metal. Im Gegenzug erhielt die System jedoch die M\u00f6glichkeit, Ressourcen je nach aktueller Auslastung bedarfsgerecht zu verteilen.<\/p>\n

Der IT-Riese hat ebenfalls Tests durchgef\u00fchrt<\/a><\/noindex> mit Containern. Die Ingenieure des Unternehmens trainierten neuronale Netze zur Bilderkennung. Dabei wurden die Ressourcen einer GPU zwischen vier containerbasierten VMs aufgeteilt. Infolgedessen sank die Leistung einzelner Maschinen um 17 % (im Vergleich zu einer VM mit vollem Zugriff auf die GPU-Ressourcen). Allerdings stieg die Anzahl der pro Sekunde verarbeiteten Bilder am 23. Juli<\/a><\/noindex> um das Drei\u00dfigfache. Es wird erwartet, dass solche Systeme in der Datenanalyse und computergest\u00fctzten Modellierung Anwendung finden werden.<\/a><\/noindex> Unter den potenziellen Problemen, mit denen VMware konfrontiert sein k\u00f6nnte, sind Experten<\/p>\n

eine vergleichsweise enge Zielgruppe. Mit hochleistungsf\u00e4higen Systemen arbeiten bislang nur wenige Unternehmen. Obwohl in Statista z\u00e4hlen die Experten<\/a><\/noindex> eine ziemlich enge Zielgruppe. Derzeit arbeiten nur wenige Unternehmen mit leistungsstarken Systemen. Obwohl bei Statista stellt fest<\/a><\/noindex>, dass bis 2021 bereits 94% der Workloads in globalen Rechenzentren virtualisiert sein werden. Laut Prognosen<\/a><\/noindex> von Analysten wird der HPC-Markt von 32 auf 45 Milliarden Dollar zwischen 2017 und 2022 wachsen.<\/p>\n

\"Situation:
\n\/ \u0444\u043e\u0442\u043e Global Access Point<\/a><\/noindex> PD<\/i><\/p>\n

\u00c4hnliche L\u00f6sungen<\/h2>\n

\nEs gibt mehrere Alternativen auf dem Markt, die von gro\u00dfen IT-Unternehmen wie AMD und Intel entwickelt werden.<\/p>\n

Das erste Unternehmen, das GPUs virtualisiert hat, bietet<\/noindex> verwendet einen Ansatz auf Basis von SR-IOV (Single Root Input\/Output Virtualization). Diese Technologie erm\u00f6glicht es VMs, auf Teile der Hardware-Ressourcen des Systems zuzugreifen. Die L\u00f6sung erm\u00f6glicht es, eine GPU unter 16 Benutzern mit gleicher Leistung der virtualisierten Systeme zu teilen.<\/p>\n

Was den zweiten IT-Riesen betrifft, so basiert deren Technologie<\/a><\/noindex> auf dem Hypervisor Citrix XenServer 7. Sie kombiniert die Funktionalit\u00e4t des Standard-GPU-Treibers und der virtuellen Maschine, was es letzterer erm\u00f6glicht, 3D-Anwendungen und Desktops auf Ger\u00e4ten von Hunderten von Benutzern anzuzeigen.<\/p>\n

Die Zukunft der Technologie<\/h2>\n

\nEntwickler virtueller Grafikkarten setzen darauf<\/a><\/noindex> zur Implementierung von KI-Systemen und dem Anstieg der Beliebtheit leistungsstarker L\u00f6sungen auf dem Markt f\u00fcr Gesch\u00e4ftstechnologien. Sie hoffen, dass der Bedarf an der Verarbeitung gro\u00dfer Datenmengen die Nachfrage nach vGPU steigern wird.<\/p>\n

Aktuell suchen die Hersteller nach einem Weg<\/a><\/noindex> die Funktionalit\u00e4t von CPU und GPU in einem Kern zu vereinen, um die L\u00f6sung von grafikbezogenen Aufgaben, die Durchf\u00fchrung mathematischer Berechnungen, logischer Operationen und die Datenverarbeitung zu beschleunigen. Das Auftreten solcher Kerne auf dem Markt wird in Zukunft die Herangehensweise an die Virtualisierung von Ressourcen und deren Verteilung zwischen Arbeitslasten in virtuellen und Cloud-Umgebungen ver\u00e4ndern.<\/p>\n

\nWas Sie zu diesem Thema in unserem Unternehmensblog lesen k\u00f6nnen:<\/p>\n