Durante junio y julio, casi una veintena de empresas se acercaron a nosotros interesadas en las capacidades de las GPUs virtuales. Una de las grandes filiales de Sberbank ya está utilizando la «Gráfica» de Cloud4Y, pero en general el servicio no es muy popular. Por lo tanto, esta actividad nos alegró bastante. Al ver el aumento de interés en la tecnología, decidimos contar un poco más sobre vGPU.
Los «lagos de datos», generados a partir de experimentos científicos e investigaciones, Deep Learning y otras áreas de trabajo con IA, así como la modelación de objetos grandes y complejos, requieren hardware de alto rendimiento. Es ideal tenerlo y que permita resolver rápidamente las tareas actuales. Sin embargo, debido a la creciente complejidad computacional de las tareas (especialmente en análisis de negocios, renderizado, algoritmos de DL y frameworks), la capacidad de los CPUs de escritorio e incluso de servidor se vuelve cada vez más insuficiente.
La solución se encontró en el uso de cálculos en la GPU. Esta tecnología de aceleración gráfica permite la compartición de recursos de un único procesador gráfico entre varias computadoras virtuales. La GPU fue diseñada originalmente para el trabajo gráfico, por lo que consiste en miles de pequeños núcleos utilizados para procesar tareas en paralelo de manera eficaz. Parte de los cálculos más exigentes se realizan en la GPU, mientras que el resto lo asume la CPU.
La computación mediante GPU fue ideada por la empresa ya en 2007. Hoy en día, esta tecnología ha alcanzado un nuevo nivel y se aplica en los centros de datos de las principales empresas y laboratorios científicos. Sin embargo, el enfoque tradicional tiene una desventaja significativa: la compra de hardware físico resulta bastante costosa. Y si recordamos la velocidad a la que se vuelve obsoleto el «hardware», la situación se vuelve aún más desalentadora.
La tecnología de procesadores gráficos virtuales: vGPU está destinada a resolver este problema. Con su ayuda, los usuarios pueden ejecutar aplicaciones pesadas de forma remota, como AutoCAD, 3DS Max, Maya, Sony Vegas Pro. La virtualización rápidamente ha reclamado su parte del mercado. Después de todo, ¿qué científico de datos ruso no aprecia los cálculos rápidos en las tarjetas gráficas NVidia Tesla?
Es importante señalar que antes de la aparición de vGPU se utilizaban otros métodos para acelerar el procesamiento gráfico: Acceleración Gráfica Compartida Virtual (vSGA) y Acceleración Gráfica Dedicada Virtual (vDGA). La solución vGPU combina lo mejor de ambas tecnologías. Al igual que con vSGA, en el entorno de vGPU se prevé que varias estaciones de trabajo virtuales compartan GPU y RAM, pero cada VM envía comandos directamente a la GPU, como en el caso de vDGA.
¿Por qué se necesitan vGPU?
La computación en la nube utilizando vGPU permite a las empresas abordar tareas que anteriormente no podían resolver. O que podían resolver, pero requerían una cantidad irreal de recursos. Un servidor GPU moderno puede reemplazar hasta 100 CPU convencionales. Y hay otras cifras aún más impresionantes. Muchos especialistas necesitan dispositivos potentes capaces de realizar cálculos paralelos. Arquitectos e ingenieros utilizan la tecnología vGPU en sistemas de diseño (como Autodesk, por ejemplo). Los diseñadores trabajan con contenido digital de fotos y videos (Photoshop, CorelDraw).
Las máquinas virtuales ¿Crees que eso es todo? Para nada. La tecnología también se utiliza para la verificación automática de la precisión de las imágenes satelitales, y para».
la predicción de epidemias , modelado , Y también hay un excelente y ThisIsZolden una encuesta .
Soluciones para vGPU entre empresas que utilizan procesadores gráficos. Los resultados mostraron que el 60% de las organizaciones todavía operan sobre su propia infraestructura de TI. La "nube" se utiliza solo en el 23%. En Rusia, la adopción de la tecnología de computación en la nube es menor. Pero gracias a nuevas soluciones de hardware y software, el número de empresas que utilizan máquinas virtuales con GPU sigue creciendo.
Soluciones para vGPU
El desarrollo de tecnologías de virtualización de aceleradores gráficos es llevado a cabo por muchas empresas, pero entre ellas hay líderes indiscutibles.
Uno de los desarrolladores más reconocidos de soluciones en el ámbito de la nube, la empresa VMware ofrece a las compañías un hipervisor , bajo el cual la velocidad de trabajo de las GPU virtuales es comparable a la de implementaciones en hardware físico. En una reciente actualización, el desarrollador desactivó el equilibrio de carga vMotion y añadió soporte para la tecnología DirectPath I/O, que conecta el controlador CUDA con la VM evitando el hipervisor y acelerando la transferencia de datos.
Nvidia también se esfuerza por cumplir con las expectativas del mercado, y para ello lanzó una plataforma de código abierto . La solución combina varias bibliotecas para trabajar con la arquitectura CUDA, lo que simplifica el manejo de datos durante el entrenamiento de redes neuronales y permite automatizar el trabajo con código Python. El uso de Rapids con el algoritmo de aprendizaje automático XGBoost logra un aumento en el rendimiento de 50 veces en comparación con sistemas basados en CPU.
También cuenta con su propia tecnología AMD. La plataforma se llama . Utiliza la tecnología SR-IOV, que divide las capacidades hardware del dispositivo físico entre varias máquinas virtuales. Los recursos de un solo acelerador se pueden compartir entre dieciséis usuarios, manteniendo un rendimiento uniforme para cada uno de ellos. De este modo, se acelera la transferencia de datos entre las CPUs y GPUs en la nube. También se utiliza un dialecto especial de C++ llamado HIP, que simplifica la ejecución de operaciones matemáticas en la GPU.
Intel está construyendo su tecnología sobre el hipervisor multiplataforma XenServer 7, que en 2017 obtuvo la certificación de cumplimiento del FSTEC. La solución combina el funcionamiento del controlador GPU estándar y de la máquina virtual. Es decir, la "máquina virtual" puede el funcionamiento de aplicaciones pesadas en dispositivos con una gran cantidad de usuarios (varias centenas).
Perspectivas del mercado
Analistas independientes consideran que el volumen de ventas de soluciones para sistemas HPC alcanzará los 45 mil millones de dólares para 2022. Los desarrolladores de plataformas también esperan un aumento en la demanda de sistemas de alto rendimiento. Esta expectativa está respaldada por la popularidad de Big Data y la frecuente necesidad de procesar grandes volúmenes de datos.
Además, el aumento de la demanda de vGPU puede estimular el desarrollo de tecnologías híbridas que combinan GPU y CPU en un solo dispositivo. En estas soluciones integradas, dos tipos de núcleos utilizan una caché compartida, lo que acelera la transferencia de datos entre los procesadores gráficos y tradicionales.
Los híbridos cambiarán radicalmente el enfoque hacia la virtualización y la distribución de recursos virtuales en los centros de datos. Además, soluciones de código abierto como ROCm y Rapids permiten a los operadores de centros de datos utilizar más eficazmente los recursos de computación, mejorando el rendimiento del hardware.
Hay otra opinión. Por ejemplo, que las GPU virtuales serán desplazadas por chips ópticos con codificación fotónica de datos. Tales soluciones ya existen y se utilizan para el aprendizaje automático. Además, parecen que las GPU convencionales. Pero la tecnología aún es inmadura.
¿Qué conclusión se puede sacar? A pesar de la posible aparición de análogos, el vGPU es una dirección bastante prometedora, capaz de resolver una gran cantidad de tareas. Pero no es adecuado para todos. Así que pueden colocar la coma en el título ustedes mismos.
P.D.
Suscríbete a nuestro -canal para no perderte el próximo artículo. Escribimos no más de dos veces a la semana y solo lo necesario.
Solo los usuarios registrados pueden participar en la encuesta. , por favor.
¿Usas vGPU?
Sí, a menudo se requieren recursos virtuales.
No, y es poco probable que lo planifiquemos.
Han votado 23 usuarios. Se abstuvieron 11 usuarios.
Fuente: habr.com
