{"id":42117,"date":"2019-03-18T00:00:00","date_gmt":"2019-03-17T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam"},"modified":"2020-02-18T13:44:55","modified_gmt":"2020-02-18T10:44:55","slug":"situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pt\/blog\/administrirovanie\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","title":{"rendered":"Situa\u00e7\u00e3o: GPUs virtuais n\u00e3o ficam atr\u00e1s das solu\u00e7\u00f5es f\u00edsicas em desempenho","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

Em fevereiro, ocorreu uma confer\u00eancia em Stanford dedicada a computa\u00e7\u00e3o de alto desempenho (HPC). Representantes da VMware informaram que, ao trabalhar com GPU, o sistema baseado em um hipervisor ESXi modificado n\u00e3o fica atr\u00e1s das solu\u00e7\u00f5es bare metal em termos de velocidade.<\/p>\n

Abordamos as tecnologias que possibilitaram isso.<\/p>\n

\"Situa\u00e7\u00e3o:<\/a><\/noindex><\/a><\/noindex>
\n\/ \u0444\u043e\u0442\u043e Victorgrigas<\/a><\/noindex> CC BY-SA<\/a><\/noindex><\/i><\/p>\n

Problema de desempenho<\/h2>\n

\nDe acordo com analistas, cerca de 70% das cargas de trabalho em data centers s\u00e3o virtualizadas<\/a><\/noindex>. No entanto, os 30% restantes ainda operam em bare metal sem hipervisores. Esses 30% consistem, em grande parte, em aplica\u00e7\u00f5es de alto desempenho, como o treinamento de redes neurais, que utilizam processadores gr\u00e1ficos.<\/p>\n

Esse tend\u00eancia \u00e9 explicada por especialistas pelo fato de que o hipervisor, como uma camada intermedi\u00e1ria de abstra\u00e7\u00e3o, pode afetar o desempenho de todo o sistema. Estudos de cinco anos atr\u00e1s revelam dados<\/a><\/noindex> sobre uma redu\u00e7\u00e3o de velocidade de 10%. Por isso, empresas e operadores de data centers n\u00e3o est\u00e3o com pressa em migrar cargas de HPC para ambientes virtuais.<\/p>\n

Entretanto, as tecnologias de virtualiza\u00e7\u00e3o est\u00e3o evoluindo e se aperfei\u00e7oando. Na confer\u00eancia do m\u00eas passado, a VMware informou que o hipervisor ESXi n\u00e3o tem impacto negativo no desempenho da GPU. A velocidade de computa\u00e7\u00e3o pode diminuir em tr\u00eas por cento, o que \u00e9 compar\u00e1vel \u00e0s m\u00e9tricas de bare metal.<\/p>\n

Como funciona<\/h2>\n

\nPara melhorar o desempenho de sistemas HPC com processadores gr\u00e1ficos, a VMware implementou v\u00e1rias mudan\u00e7as no hipervisor. Em particular, ele foi desligado da fun\u00e7\u00e3o vMotion. Essa fun\u00e7\u00e3o \u00e9 necess\u00e1ria para equilibrar a carga e geralmente transfere m\u00e1quinas virtuais (VMs) entre servidores ou GPUs. Desativar o vMotion fez com que cada VM agora fosse vinculada a um processador gr\u00e1fico espec\u00edfico. Isso ajudou a reduzir os custos de troca de dados.<\/p>\n

Outro componente chave do sistema \u00e9 a tecnologia<\/a><\/noindex> DirectPath I\/O. Ela permite que o driver CUDA para computa\u00e7\u00e3o paralela interaja diretamente com as m\u00e1quinas virtuais, contornando o hipervisor. Quando v\u00e1rias VMs precisam ser executadas em uma \u00fanica GPU, a solu\u00e7\u00e3o GRID vGPU \u00e9 utilizada. Ela divide a mem\u00f3ria da placa em v\u00e1rios segmentos (mas os ciclos de computa\u00e7\u00e3o n\u00e3o s\u00e3o divididos).<\/p>\n

O funcionamento de duas m\u00e1quinas virtuais neste caso ser\u00e1 o seguinte:<\/p>\n

\"Situa\u00e7\u00e3o:<\/p>\n

Resultados e previs\u00f5es<\/h2>\n

\nEmpresa realizou testes<\/a><\/noindex> hipervisor, treinando um modelo de linguagem com base TensorFlow<\/a><\/noindex>. O \"dano\" ao desempenho foi de apenas 3\u20134%, em compara\u00e7\u00e3o ao bare metal. Em contrapartida, o sistema ganhou a capacidade de alocar recursos sob demanda, dependendo das cargas atuais.<\/p>\n

O gigante da TI tamb\u00e9m realizou testes<\/a><\/noindex> com cont\u00eaineres. Os engenheiros da empresa treinaram redes neurais para reconhecer imagens. Nesse processo, os recursos de uma \u00fanica GPU foram alocados entre quatro VMs cont\u00eainerizadas. Como resultado, o desempenho de m\u00e1quinas individuais caiu em 17% (em compara\u00e7\u00e3o a uma VM com acesso total aos recursos da GPU). No entanto, o n\u00famero de imagens processadas por segundo aumentou<\/a><\/noindex> tr\u00eas vezes. Espera-se que sistemas desse tipo encontrem<\/a><\/noindex> aplica\u00e7\u00e3o na \u00e1rea de an\u00e1lise de dados e modelagem computacional.<\/p>\n

Entre os problemas potenciais que a VMware pode enfrentar, especialistas destacam<\/a><\/noindex> um p\u00fablico alvo bastante restrito. At\u00e9 o momento, um n\u00famero reduzido de empresas utiliza sistemas de alto desempenho. Embora no Statista observam<\/a><\/noindex>, que at\u00e9 2021, 94% das cargas de trabalho globais j\u00e1 estariam virtualizadas. Segundo previs\u00f5es<\/a><\/noindex> de analistas, o valor do mercado de HPC dever\u00e1 crescer de 32 para 45 bilh\u00f5es de d\u00f3lares entre 2017 e 2022.<\/p>\n

\"Situa\u00e7\u00e3o:
\n\/ \u0444\u043e\u0442\u043e Ponto de Acesso Global<\/a><\/noindex> PD<\/i><\/p>\n

Solu\u00e7\u00f5es semelhantes<\/h2>\n

\nNo mercado, existem v\u00e1rias alternativas, desenvolvidas por grandes empresas de TI: AMD e Intel.<\/p>\n

A primeira empresa para virtualiza\u00e7\u00e3o de GPUs oferece<\/noindex> adota uma abordagem baseada em SR-IOV (virtualiza\u00e7\u00e3o de entrada\/sa\u00edda de raiz \u00fanica). Essa tecnologia oferece \u00e0s VMs acesso a parte das capacidades de hardware do sistema. A solu\u00e7\u00e3o permite dividir a GPU entre 16 usu\u00e1rios com desempenho igual das VMs virtualizadas.<\/p>\n

Quanto ao segundo gigante da TI, sua tecnologia \u00e9 baseada<\/a><\/noindex> no hipervisor Citrix XenServer 7. Ela combina a opera\u00e7\u00e3o do driver padr\u00e3o da GPU com a m\u00e1quina virtual, permitindo que esta exiba aplicativos 3D e desktops em dispositivos de centenas de usu\u00e1rios.<\/p>\n

O futuro da tecnologia<\/h2>\n

\nDesenvolvedores de GPUs virtuais apostam<\/a><\/noindex> na implementa\u00e7\u00e3o de sistemas de IA e no crescimento da popularidade de solu\u00e7\u00f5es de alto desempenho no mercado de tecnologia empresarial. Eles esperam que a necessidade de processar grandes volumes de dados aumente a demanda por vGPUs.<\/p>\n

Atualmente, os fabricantes procuram uma maneira<\/a><\/noindex> unir a funcionalidade de CPU e GPU em um \u00fanico n\u00facleo para acelerar a solu\u00e7\u00e3o de tarefas relacionadas a gr\u00e1ficos, realizar c\u00e1lculos matem\u00e1ticos, opera\u00e7\u00f5es l\u00f3gicas e processamento de dados. A chegada desses n\u00facleos no mercado no futuro mudar\u00e1 a abordagem em rela\u00e7\u00e3o \u00e0 virtualiza\u00e7\u00e3o de recursos e sua distribui\u00e7\u00e3o entre cargas de trabalho em ambientes virtuais e em nuvem.<\/p>\n

\nO que ler sobre o assunto em nosso blog corporativo:<\/p>\n