Entre junho e julho, quase duas dezenas de empresas nos procuraram interessadas nas possibilidades de GPU virtual. Uma das grandes subsidiárias do Sberbank já utiliza a ‘Gráfica’ da Cloud4Y, mas, de forma geral, o serviço não é muito popular. Portanto, essa atividade nos deixou bastante contentes. Vendo o crescimento do interesse pela tecnologia, decidimos falar um pouco mais sobre vGPU.
Os ‘Lagos de Dados’, obtidos como resultado de experiências científicas e pesquisas, Deep Learning e outras áreas de trabalho com IA, modelagem de objetos grandes e complexos — tudo isso exige hardware de alto desempenho. É bom se ele está disponível e permite resolver rapidamente as tarefas atuais. Só que, devido à crescente complexidade computacional das tarefas (especialmente no que diz respeito à análise de negócios, renderização, algoritmos DL e frameworks), a capacidade de CPUs de desktops e até mesmo de servidores frequentemente se torna inútil.
A solução foi encontrada no uso de computação em GPU. Essa tecnologia de aceleração gráfica permite a alocação de recursos de uma única placa gráfica entre vários computadores virtuais. A GPU foi projetada originalmente para trabalhar com gráficos, razão pela qual é composta por mil núcleos pequenos usados para o processamento eficaz de tarefas paralelas. Dessa forma, parte dos cálculos mais exigentes em termos de recursos é realizada na GPU, enquanto o restante fica a cargo da CPU.
A computação com GPUs foi desenvolvida pela em 2007. Hoje, essa tecnologia alcançou um novo patamar e é aplicada em data centers das maiores empresas e laboratórios de pesquisa. No entanto, a abordagem tradicional tem uma grande desvantagem: a compra de hardware físico pode ser bastante cara. E se lembrarmos da velocidade com que o ‘hardware’ se torna obsoleto, a situação parece ainda mais triste.
A tecnologia de processadores gráficos virtuais, vGPU, foi criada para resolver esse problema. Com ela, os usuários podem executar remotamente aplicações pesadas como AutoCAD, 3DS Max, Maya, Sony Vegas Pro. A virtualização rapidamente conquistou sua parcela de mercado. Afinal, qual data scientist russo não aprecia cálculos rápidos com placas gráficas NVidia Tesla?
Vale ressaltar que antes do surgimento do vGPU, foram utilizados outros métodos para acelerar o processamento gráfico: Virtual Shared Graphics Acceleration (vSGA) e Virtual Dedicated Graphics Acceleration (vDGA). A solução vGPU combina o melhor de ambas as tecnologias. Assim como no caso do vSGA, no ambiente vGPU, espera-se que múltiplos desktops virtuais compartilhem GPU e RAM, mas cada VM envia comandos diretamente para a GPU, como no caso do vDGA.
Por que precisamos do vGPU?
Os serviços de computação em nuvem com vGPU permitem que as empresas lidem com tarefas que antes eram impossíveis de resolver. Ou eram possíveis, mas exigiam recursos irrealmente altos. Um servidor moderno com GPU pode substituir até 100 CPUs comuns. Existem outros . Não é brincadeira: as soluções da Nvidia processam petabytes de dados várias vezes mais rápido que os servidores CPU clássicos. E o próprio Google Cloud oferece máquinas virtuais com GPU que atingem até 960 teraflops.
Muitos profissionais precisam de dispositivos potentes capazes de realizar cálculos paralelos. Arquitetos e engenheiros utilizam a tecnologia vGPU em sistemas de design (como o Autodesk, por exemplo). Designers trabalham com conteúdo digital de fotos e vídeos (Photoshop, CorelDraw). Os processadores gráficos também são necessários em instituições médicas, que acumulam e analisam dados sobre pacientes e doenças. Trabalha-se com GPU e “».
Você acha que é só isso? De jeito nenhum. A tecnologia também é usada para verificação automática , e para , , modelagem e . Além disso, há um ótimo no ambiente Unity3D de .
Apesar disso, as soluções baseadas em vGPU ainda não ganharam ampla aceitação no mundo. Assim, em 2018, a NetApp realizou um levantamento entre empresas que utilizam processadores gráficos. Os resultados mostraram que 60% das organizações ainda operam com sua própria infraestrutura de TI. Apenas 23% utilizam 'nuvem'. Na Rússia, a adoção de tecnologia de computação em nuvem é menos significativa. Mas, graças a novas soluções de hardware e software, o número de empresas que utilizam máquinas virtuais com GPU está em constante crescimento.
Soluções para vGPU
Muitas empresas estão desenvolvendo tecnologias de virtualização de GPUs, mas há líderes indiscutíveis entre elas.
Uma das desenvolvedoras mais respeitáveis de soluções na área de cloud computing, a empresa VMware oferece às empresas um hipervisor , sob o qual a velocidade de trabalho das GPUs virtuais é comparável às implementações em hardware físico. Em uma atualização recente, o desenvolvedor desativou o balanceador de carga vMotion e adicionou suporte à tecnologia DirectPath I/O, que conecta o driver CUDA à VM, contornando o hipervisor e acelerando a transferência de dados.
Nvidia também se esforça para atender às expectativas do mercado e, para isso, lançou uma plataforma open-source . A solução combina várias bibliotecas para trabalhar com a arquitetura CUDA, facilitando o trabalho com dados durante o treinamento de redes neurais e permitindo automatizar o trabalho com código Python. O uso do Rapids com o algoritmo de aprendizado de máquina XGBoost proporciona um aumento de desempenho 50 vezes maior em comparação com sistemas baseados em CPU.
Sua tecnologia também é desenvolvida por AMD. A plataforma é chamada de . Ela utiliza a tecnologia SR-IOV, que divide as capacidades de hardware de um dispositivo físico entre várias máquinas virtuais. Os recursos de um único acelerador podem ser compartilhados entre dezesseis usuários, mantendo desempenho igual para cada um deles. Isso acelera a transferência de dados entre CPUs e GPUs na nuvem. Também é utilizado um dialeto especial de C++ chamado HIP, que simplifica a execução de operações matemáticas em GPUs.
Intel constrói sua tecnologia com base no hipervisor cross-platform XenServer 7, que recebeu certificação de conformidade da FSTEC em 2017. A solução combina o funcionamento do driver GPU padrão com a máquina virtual. Portanto, uma 'máquina virtual' pode executar aplicações pesadas em dispositivos com um grande número (centenas) de usuários.
Perspectivas de mercado
Analistas independentes acreditam que o volume de vendas de soluções para sistemas HPC atingirá 45 bilhões de dólares até 2022. Os desenvolvedores de plataformas também esperam um aumento na demanda por sistemas de alto desempenho. Essa expectativa é reforçada pela popularidade do Big Data e a necessidade frequente de processar grandes volumes de dados.
Além disso, o aumento da demanda por vGPU pode estimular o desenvolvimento de tecnologias híbridas que combinam GPU e CPU em um único dispositivo. Em tais soluções integradas, dois tipos de núcleos usam um cache comum, o que acelera a transferência de dados entre os processadores gráficos e tradicionais.
Os híbridos podem mudar fundamentalmente a abordagem para a virtualização e a distribuição de recursos virtuais dentro dos data centers. E soluções de código aberto como ROCm e Rapids permitem que os operadores de data centers utilizem os recursos computacionais de forma mais eficiente, aumentando a performance do hardware.
Há outra opinião. Por exemplo, que os GPUs virtuais serão substituídos por chips ópticos com codificação de dados fotônicos. Essas soluções já existem e são utilizadas para aprendizado de máquina. Além disso, parecem ser que o GPU convencional. Mas a tecnologia ainda está em desenvolvimento.
Qual pode ser a conclusão? Apesar da possível emergência de análogos, vGPU é uma direção bastante promissora, capaz de resolver uma grande quantidade de problemas. Mas não é adequada para todos. Portanto, você pode colocar a vírgula no título você mesmo.
P.S.
Inscreva-se no nosso -canal para não perder o próximo artigo! Publicamos no máximo duas vezes por semana e apenas conteúdo relevante.
Apenas usuários registrados podem participar da pesquisa. , por favor.
Você usa vGPU?
Sim, frequentemente precisamos de recursos virtuais.
Não, e provavelmente não planejamos.
23 usuários votaram. 11 usuários se abstiveram.
Fonte: habr.com
