Il ne faut pas ignorer vGPU.

Entre juin et juillet, près d'une vingtaine d'entreprises nous ont contactés pour en savoir plus sur les possibilités des GPU virtuels. Une des grandes filiales de Sberbank utilise déjà le service « Graphique » de Cloud4Y, mais en général, cette offre n'est pas très populaire. Cette activité nous a donc particulièrement réjouis. Constatant la hausse de l'intérêt pour la technologie, nous avons décidé de parler un peu plus en détail du vGPU.

Les « lacs de données », issus d'expériences scientifiques et de recherches, le Deep Learning et d'autres domaines liés à l'intelligence artificielle, la modélisation d'objets complexes et volumineux — tout cela nécessite du matériel haute performance. Il est favorable d'en disposer pour résoudre rapidement des tâches actuelles. Toutefois, en raison de la complexité croissante des calculs (surtout en ce qui concerne l'analyse commerciale, le rendu, les algorithmes DL et les frameworks), la puissance matérielle des CPU de bureau et même des serveurs devient de plus en plus souvent inutile.

La solution a été trouvée dans l'utilisation des calculs sur GPU. Cette technologie d'accélération graphique permet de partager les ressources d'un seul processeur graphique entre plusieurs ordinateurs virtuels. À l'origine, les GPU ont été conçus pour travailler avec des graphiques, ce qui explique pourquoi ils sont composés de milliers de petits cœurs, utilisés pour traiter efficacement les tâches parallèles. Ainsi, une partie des calculs les plus gourmands en ressources est effectuée sur le GPU, tandis que le reste est traité par le CPU.

Les calculs à l'aide de GPU ont été inventés par la société Nvidia en 2007. Aujourd'hui, cette technologie a atteint un nouveau niveau et est utilisée dans les centres de données des plus grandes entreprises et laboratoires de recherche. Cependant, l'approche traditionnelle présente un inconvénient majeur : l'achat de matériel physique est assez coûteux. Et si l'on considère la rapidité avec laquelle le matériel devient obsolète, la situation est encore plus préoccupante.

La technologie des processeurs graphiques virtuels : vGPU est censée résoudre ce problème. Grâce à elle, les utilisateurs peuvent exécuter à distance des applications lourdes comme AutoCAD, 3DS Max, Maya, Sony Vegas Pro. La virtualisation a rapidement conquis sa part de marché. Après tout, quel data scientist russe n'aime pas des calculs rapides sur des cartes graphiques NVidia Tesla ?

Il convient de noter qu'avant l'apparition de vGPU, d'autres méthodes d'accélération du traitement graphique étaient utilisées : l'accélération graphique partagée virtuelle (vSGA) et l'accélération graphique dédiée virtuelle (vDGA). La solution vGPU a combiné le meilleur des deux technologies. Comme avec vSGA, dans un environnement vGPU, le GPU et la RAM sont partagés par plusieurs postes de travail virtuels, mais chaque VM transmet des commandes directement au GPU, comme dans le cas de vDGA.

Pourquoi les vGPU sont-ils nécessaires ?

L'informatique cloud utilisant des vGPU permet aux entreprises de faire face à des tâches qui étaient auparavant impossibles à résoudre. Ou possibles, mais nécessitant des ressources démesurées. Un serveur GPU moderne peut remplacer jusqu'à 100 CPU classiques. Il y a d'autres chiffres encore plus impressionnants. Ce n'est pas une blague : les solutions Nvidia traitent des pétaoctets de données plusieurs fois plus rapidement que les serveurs CPU classiques. Et Google Cloud propose des machines virtuelles avec GPU offrant jusqu'à 960 téraflops.

De nombreux spécialistes ont besoin de dispositifs puissants capables d'effectuer des calculs parallèles. Les architectes et les ingénieurs utilisent la technologie vGPU dans les systèmes de conception (comme Autodesk, par exemple). Les designers travaillent avec du contenu photo et vidéo numérique (Photoshop, CorelDraw). Machines virtuelles Les centres médicaux ont également besoin de processeurs graphiques pour accumuler et analyser des données sur les patients et les maladies. Les GPU sont utilisés pourYandex».

Vous pensez que c'est tout ? Pas du tout. La technologie est également utilisée pour la vérification automatique de la précision des images satellite, et pour la prévision des épidémies, des recherches météorologiques, la modélisation des cycles solaires et de l'analyse commerciale. Et il y a aussi un super article sur la modélisation dans l'environnement Unity3D de ThisIsZolden.

Malgré tout, les solutions basées sur vGPU n'ont pas encore connu une large adoption dans le monde. En 2018, NetApp a effectué une enquête un sondage parmi les entreprises utilisant des processeurs graphiques. Les résultats ont montré que 60 % des organisations utilisent encore leur propre infrastructure informatique. Seulement 23 % bénéficient du "cloud". En Russie, l'adoption des technologies de l'informatique cloud a moins d'importance. Cependant, grâce aux nouvelles solutions matérielles et logicielles, le nombre d'entreprises utilisant des machines virtuelles avec GPU augmente continuellement.

Solutions pour vGPU

De nombreuses entreprises travaillent sur la virtualisation des accélérateurs graphiques, mais certaines se distinguent comme des leaders incontestés.

L'un des développeurs les plus respectés de solutions cloud, la société VMware propose aux entreprises un hyperviseur ESXi., dont la vitesse d'exécution des processeurs graphiques virtuels est comparable à celle des implémentations sur du matériel dédié. Dans une récente mise à jour, le développeur a désactivé l'équilibreur de charge vMotion et ajouté la prise en charge de la technologie DirectPath I/O, qui relie le pilote CUDA à la VM en contournant l'hyperviseur et accélère le transfert de données.

Nvidia s'efforce également de répondre aux attentes du marché, et pour cela, a lancé la plateforme open source Rapids. La solution regroupe plusieurs bibliothèques pour travailler avec l'architecture CUDA, facilitant le traitement des données lors de l'entraînement des réseaux de neurones et permettant d'automatiser le travail avec le code Python. L'utilisation de Rapids avec l'algorithme d'apprentissage automatique XGBoost offre 50 fois la performance par rapport aux systèmes basés sur CPU.

Sa propre technologie existe aussi chez AMD. La plateforme s'appelle ROCm. Elle utilise la technologie SR-IOV, qui divise les capacités matérielles d'un appareil physique entre plusieurs machines virtuelles. Les ressources d'un seul accélérateur peuvent être partagées entre seize utilisateurs, maintenant une performance égale pour chacun d'eux. Cela accélère ainsi le transfert de données entre les CPU et GPU cloud. Un dialecte spécial de C++ nommé HIP est également utilisé, simplifiant l'exécution des opérations mathématiques sur le GPU.

Intel construit sa technologie sur la base de l'hyperviseur multiplateforme Citrix XenServer 7, qui a obtenu une certification de conformité de la FSTEC en 2017. La solution combine le travail du pilote GPU standard et de la machine virtuelle. Ainsi, la 'virtuelle' peut soutenir. exécuter de lourdes applications sur des dispositifs ayant un grand nombre d'utilisateurs (plusieurs centaines).

Perspectives de marché

Les analystes indépendants estiment que le volume des ventes de solutions pour les systèmes HPC atteindra 45 milliards de dollars d'ici 2022. Les développeurs de plateformes s'attendent également à une augmentation de la demande pour des systèmes à haute performance. Cette attente est renforcée par la popularité des Big Data et la nécessité souvent rencontrée de traiter de grands volumes de données.

La demande croissante pour les vGPU pourrait également stimuler le développement de technologies hybrides qui combinent GPU et CPU dans un seul dispositif. Dans ces solutions intégrées, les deux types de cœurs utilisent un cache commun, ce qui accélère le transfert de données entre les processeurs graphiques et traditionnels.

Les hybrides vont fondamentalement changer l'approche de la virtualisation et de la répartition des ressources virtuelles au sein des centres de données. Des solutions open source telles que ROCm et Rapids permettent aux opérateurs de centres de données d'utiliser plus efficacement les ressources de calcul, augmentant ainsi la performance des équipements.

Il y a aussi une autre opinion. Par exemple, que les GPU virtuels seront remplacés par des puces optiques avec un codage photonique des données. De telles solutions existent déjà et sont utilisées pour l'apprentissage automatique. De plus, elles semblent plus performantes que les GPU classiques. Mais la technologie est encore immature.

Quelle conclusion peut-on en tirer ? Malgré l'éventuelle apparition d'alternatives, le vGPU est une direction tout à fait prometteuse, capable de résoudre un grand nombre de problèmes. Mais ce n'est pas pour tout le monde. Donc, vous pouvez mettre la virgule dans le titre vous-même.

P.S.
Abonnez-vous à notre Telegram-canal pour ne pas manquer le prochain article ! Nous écrivons pas plus de deux fois par semaine et uniquement sur des sujets pertinents.

Seuls les utilisateurs enregistrés peuvent participer au sondage. Connectez-vous, s'il vous plaît.

Utilisez-vous des vGPU ?

• Oui, il faut souvent des capacités virtuelles.

• Non, et je ne prévois pas de le faire.

23 utilisateurs ont voté. 11 utilisateurs se sont abstenus.

Source : habr.com