Situation : les GPU virtuels égalent les performances des solutions physiques

En février, une conférence sur le calcul haute performance (HPC) s'est tenue à Stanford. Les représentants de VMware ont expliqué qu'avec un GPU, un système basé sur un hyperviseur modifié ESXi a une rapidité équivalente aux solutions bare metal.

Nous présentons les technologies qui ont permis d'atteindre cela.

Situation : les GPU virtuels égalent les performances des solutions physiques
/ фото Victorgrigas CC BY-SA

Problème de performance

Selon les analystes, environ 70 % des charges de travail dans les data centers sont virtualisées. Cependant, les 30 % restants fonctionnent toujours sur bare metal sans hyperviseurs. Ces 30 % sont majoritairement constitués d'applications à forte charge, liées, par exemple, à l'apprentissage des réseaux neuronaux et utilisant des processeurs graphiques.

Les experts expliquent cette tendance par le fait que l'hyperviseur, en tant que couche d'abstraction intermédiaire, peut affecter la performance de l'ensemble du système. Des études remontant à cinq ans indiquent une diminution de la vitesse de fonctionnement de 10 %. Par conséquent, les entreprises et les opérateurs de data centers ne se précipitent pas pour transférer la charge de travail HPC vers un environnement virtuel.

Cependant, les technologies de virtualisation évoluent et s'améliorent. Lors de la conférence il y a un mois, VMware a déclaré que l'hyperviseur ESXi n'a pas d'impact négatif sur la performance des GPU. La vitesse de calcul peut diminuer de trois pour cent, comparable aux performances bare metal.

Comment cela fonctionne

Pour améliorer la performance des systèmes HPC avec des processeurs graphiques, VMware a apporté plusieurs modifications au fonctionnement de l'hyperviseur. En particulier, ils ont supprimé la fonction vMotion. Celle-ci est nécessaire pour équilibrer la charge et transfert généralement des machines virtuelles (VM) entre les serveurs ou GPU. Désactiver vMotion a permis que chaque VM soit désormais associée à un processeur graphique spécifique. Cela a aidé à réduire les coûts lors de l'échange de données.

L'autre composant clé du système est la technologie DirectPath I/O. Elle permet au pilote CUDA pour le calcul parallèle d'interagir directement avec les machines virtuelles, contournant l'hyperviseur. Lorsque plusieurs VM doivent fonctionner sur un même GPU, la solution GRID vGPU est utilisée. Elle divise la mémoire de la carte en plusieurs segments (mais les cycles de calcul ne sont pas divisés).

Le schéma de fonctionnement de deux machines virtuelles dans ce cas ressemblera à ceci :

Situation : les GPU virtuels égalent les performances des solutions physiques

Résultats et prévisions

Société ont effectué des tests hyperviseur, ayant formé un modèle linguistique basé sur TensorFlow. La « perte » de performance était seulement de 3 à 4 % par rapport au bare metal. En revanche, le système a gagné la capacité de répartir les ressources à la demande en fonction des charges de travail actuelles.

Le géant de l'IT a également effectué des tests avec des conteneurs. Les ingénieurs de l'entreprise ont formé des réseaux neuronaux à reconnaître des images. Les ressources d'un seul processeur graphique ont été réparties entre quatre VM conteneurisées. En conséquence, la performance des machines individuelles a diminué de 17 % (par rapport à une VM ayant un accès complet aux ressources GPU). Cependant, le nombre d'images traitées par seconde a triplé. On s'attend à ce que de tels systèmes trouvent une application dans le domaine de l'analyse de données et de la modélisation informatique.

Parmi les problèmes potentiels auxquels VMware pourrait être confronté, les experts soulignent un public cible plutôt restreint. Actuellement, peu d'entreprises travaillent avec des systèmes haute performance. Bien que Statista note, d'ici 2021, 94 % des charges de travail mondiales seront déjà virtualisées. Selon prévisions les analystes, la valeur du marché HPC augmentera de 32 à 45 milliards de dollars entre 2017 et 2022.

Situation : les GPU virtuels égalent les performances des solutions physiques
/ фото Global Access Point PD

Des solutions similaires

Il existe plusieurs équivalents sur le marché développés par de grandes entreprises IT : AMD et Intel.

La première entreprise pour la virtualisation des processeurs graphiques propose adopte une approche basée sur SR-IOV (single-root input/output virtualization). Cette technologie donne aux VM accès à une partie des capacités matérielles du système. La solution permet de partager un processeur graphique entre 16 utilisateurs tout en maintenant une performance équitable des systèmes virtualisés.

Concernant le deuxième géant de l'IT, leur technologie est basée sur l’hyperviseur Citrix XenServer 7. Elle combine le fonctionnement du pilote GPU standard et de la machine virtuelle, ce qui permet à cette dernière de rendre des applications 3D et des bureaux sur les dispositifs de centaines d'utilisateurs.

L'avenir de la technologie

Les développeurs de processeurs graphiques virtuels parient sur l'implémentation des systèmes IA et la montée en popularité des solutions haute performance sur le marché des technologies commerciales. Ils espèrent que le besoin de traitement de grandes quantités de données augmentera la demande pour vGPU. Actuellement, les fabricants

cherchent un moyen cherchent une manière combiner la fonctionnalité CPU et GPU dans un seul cœur pour accélérer la résolution des tâches liées à la graphique, l'exécution de calculs mathématiques, d'opérations logiques et de traitement de données. L'apparition de tels cœurs sur le marché changera l'approche de la virtualisation des ressources et leur répartition entre les charges de travail dans un environnement virtuel et cloud.

À lire sur ce sujet dans notre blog d'entreprise :

Quelques posts de notre canal Telegram :

Source : habr.com

Acheter un hébergement fiable pour les sites avec protection DDoS, serveurs VPS VDS 🔥 Acheter un hébergement fiable pour les sites avec protection DDoS, serveurs VPS VDS | ProHoster