{"id":42117,"date":"2019-03-18T00:00:00","date_gmt":"2019-03-17T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam"},"modified":"2020-02-18T13:44:55","modified_gmt":"2020-02-18T10:44:55","slug":"situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pl\/blog\/administrirovanie\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","title":{"rendered":"Sytuacja: wirtualne GPU nie ust\u0119puj\u0105 wydajno\u015bci\u0105 rozwi\u0105zaniom sprz\u0119towym","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

W lutym w Stanfordzie odby\u0142a si\u0119 konferencja po\u015bwi\u0119cona wysokowydajnym obliczeniom (HPC). Przedstawiciele VMware poinformowali, \u017ce w trakcie pracy z GPU system oparty na zmodyfikowanym hypervisorze ESXi osi\u0105ga pr\u0119dko\u015bci por\u00f3wnywalne z rozwi\u0105zaniami bare metal.<\/p>\n

Opowiadamy o technologiach, kt\u00f3re umo\u017cliwi\u0142y osi\u0105gni\u0119cie tych rezultat\u00f3w.<\/p>\n

\"Sytuacja:<\/a><\/noindex><\/a><\/noindex>
\n\/ \u0444\u043e\u0442\u043e Victorgrigas<\/a><\/noindex> CC BY-SA<\/a><\/noindex><\/i><\/p>\n

Problem wydajno\u015bci<\/h2>\n

\nWed\u0142ug analityk\u00f3w, oko\u0142o 70% obci\u0105\u017ce\u0144 w centrach danych jest wirtualizowanych<\/a><\/noindex>. Jednak pozosta\u0142e 30% nadal dzia\u0142a na bare metal bez hypervisor\u00f3w. Stanowi\u0105 je g\u0142\u00f3wnie aplikacje o wysokim obci\u0105\u017ceniu, zwi\u0105zane na przyk\u0142ad z treningiem sieci neuronowych, kt\u00f3re wykorzystuj\u0105 procesory graficzne.<\/p>\n

Eksperci t\u0142umacz\u0105 ten trend tym, \u017ce hypervisor jako warstwa abstrakcji mo\u017ce wp\u0142ywa\u0107 na wydajno\u015b\u0107 ca\u0142ego systemu. W badaniach sprzed pi\u0119ciu lat mo\u017cna znale\u017a\u0107 dane<\/a><\/noindex> o spadku pr\u0119dko\u015bci dzia\u0142ania o 10%. Dlatego firmy i operatorzy centr\u00f3w danych nie spiesz\u0105 si\u0119 z przenoszeniem obci\u0105\u017ce\u0144 HPC do \u015brodowiska wirtualnego.<\/p>\n

Jednak technologie wirtualizacji rozwijaj\u0105 si\u0119 i udoskonalaj\u0105. Na konferencji miesi\u0105c temu w VMware og\u0142oszono, \u017ce hypervisor ESXi nie ma negatywnego wp\u0142ywu na wydajno\u015b\u0107 GPU. Spadek pr\u0119dko\u015bci oblicze\u0144 mo\u017ce wynie\u015b\u0107 trzy procent, co jest por\u00f3wnywalne z wynikami bare metal.<\/p>\n

Jak to dzia\u0142a<\/h2>\n

\nAby zwi\u0119kszy\u0107 wydajno\u015b\u0107 system\u00f3w HPC z procesorami graficznymi, VMware wprowadzi\u0142o do dzia\u0142ania hypervisora szereg zmian. W szczeg\u00f3lno\u015bci zrezygnowano z funkcji vMotion. Jest ona potrzebna do r\u00f3wnowa\u017cenia obci\u0105\u017cenia i zwykle przenosi maszyny wirtualne (VM) mi\u0119dzy serwerami lub GPU. Wy\u0142\u0105czenie vMotion doprowadzi\u0142o do tego, \u017ce ka\u017cda VM ma teraz przypisany konkretny procesor graficzny. Pomog\u0142o to zredukowa\u0107 koszty wymiany danych.<\/p>\n

Innym kluczowym komponentem systemu jest technologia<\/a><\/noindex> DirectPath I\/O. Pozwala ona na bezpo\u015bredni\u0105 komunikacj\u0119 sterownika CUDA do oblicze\u0144 r\u00f3wnoleg\u0142ych z maszynami wirtualnymi, omijaj\u0105c hypervisor. Kiedy na jednym GPU wymagane jest uruchomienie kilku VM, anga\u017cowane jest rozwi\u0105zanie GRID vGPU. Dzieli ono pami\u0119\u0107 karty na kilka segment\u00f3w (przy czym cykle obliczeniowe nie s\u0105 dzielone).<\/p>\n

Schemat dzia\u0142ania dw\u00f3ch maszyn wirtualnych w tym przypadku b\u0119dzie wygl\u0105da\u0142 nast\u0119puj\u0105co:<\/p>\n

\"Sytuacja:<\/p>\n

Wyniki i prognozy<\/h2>\n

\nFirma przeprowadzi\u0142y testy<\/a><\/noindex> hiperwizora, ucz\u0105c model j\u0119zykowy na bazie TensorFlow<\/a><\/noindex>. Strata wydajno\u015bci wynios\u0142a zaledwie 3\u20134% w por\u00f3wnaniu do bare metal. W zamian system zyska\u0142 mo\u017cliwo\u015b\u0107 przydzielania zasob\u00f3w w zale\u017cno\u015bci od bie\u017c\u0105cych obci\u0105\u017ce\u0144.<\/p>\n

Gigant IT r\u00f3wnie\u017c przeprowadza\u0142 testy<\/a><\/noindex> z kontenerami. In\u017cynierowie firmy uczyli sieci neuronowe rozpoznawania obraz\u00f3w. Przy tym zasoby jednego procesora graficznego podzielono mi\u0119dzy cztery kontenerowe VM. W wyniku wydajno\u015b\u0107 pojedynczych maszyn spad\u0142a o 17% (w por\u00f3wnaniu do jednego VM z pe\u0142nym dost\u0119pem do zasob\u00f3w GPU). Jednak liczba przetwarzanych obraz\u00f3w na sekund\u0119 wzros\u0142a<\/a><\/noindex> wzros\u0142a trzykrotnie. Oczekuje si\u0119, \u017ce podobne systemy znajd\u0105<\/a><\/noindex> zastosowanie w zakresie analizy danych i modelowania komputerowego.<\/p>\n

W\u015br\u00f3d potencjalnych problem\u00f3w, z kt\u00f3rymi mo\u017ce si\u0119 zmierzy\u0107 VMware, eksperci wyr\u00f3\u017cniaj\u0105<\/a><\/noindex> ma do\u015b\u0107 w\u0105sk\u0105 grup\u0119 docelow\u0105. Z systemami wysokowydajnymi wsp\u00f3\u0142pracuje obecnie niewielka liczba firm. Chocia\u017c wed\u0142ug Statista zauwa\u017caj\u0105<\/a><\/noindex>, do 2021 roku wirtualizowane b\u0119d\u0105 ju\u017c 94% obci\u0105\u017ce\u0144 \u015bwiatowych centr\u00f3w danych. Wed\u0142ug forecasts<\/a><\/noindex> analityk\u00f3w, warto\u015b\u0107 rynku HPC wzro\u015bnie z 32 do 45 miliard\u00f3w dolar\u00f3w w okresie od 2017 do 2022 roku.<\/p>\n

\"Sytuacja:
\n\/ \u0444\u043e\u0442\u043e Global Access Point<\/a><\/noindex> PD<\/i><\/p>\n

Podobne rozwi\u0105zania<\/h2>\n

\nNa rynku dost\u0119pnych jest kilka analog\u00f3w, kt\u00f3re opracowuj\u0105 du\u017ce firmy IT: AMD i Intel.<\/p>\n

Pierwsza firma rozwija technologi\u0119 wirtualizacji procesor\u00f3w graficznych oferuj\u0105c<\/noindex> opart\u0105 na SR-IOV (single-root input\/output virtualization). Ta technologia zapewnia VM dost\u0119p do cz\u0119\u015bci mocy systemu. Rozwi\u0105zanie pozwala podzieli\u0107 procesor graficzny mi\u0119dzy 16 u\u017cytkownikami przy r\u00f3wnej wydajno\u015bci wirtualizowanych system\u00f3w.<\/p>\n

Je\u015bli chodzi o drugiego giganta IT, ich technologia opiera si\u0119<\/a><\/noindex> na hiperwizorze Citrix XenServer 7. \u0141\u0105czy on dzia\u0142anie standardowego sterownika GPU z maszyn\u0105 wirtualn\u0105, co pozwala tej ostatniej na wy\u015bwietlanie aplikacji 3D i pulpit\u00f3w na urz\u0105dzeniach setek u\u017cytkownik\u00f3w.<\/p>\n

Przysz\u0142o\u015b\u0107 technologii<\/h2>\n

\nProgrami\u015bci wirtualnych procesor\u00f3w graficznych stawiaj\u0105 na wdra\u017canie system\u00f3w AI i wzrost popularno\u015bci wysokowydajnych rozwi\u0105za\u0144 na rynku technologii biznesowych. Maj\u0105 nadziej\u0119, \u017ce potrzeba przetwarzania du\u017cych ilo\u015bci danych zwi\u0119kszy popyt na vGPU.<\/a><\/noindex> Producenci obecnie<\/p>\n

szukaj\u0105 sposobu szukaj\u0105 sposobu<\/a><\/noindex> po\u0142\u0105czy\u0107 funkcjonalno\u015b\u0107 CPU i GPU w jednym rdzeniu, aby przyspieszy\u0107 rozwi\u0105zanie zada\u0144 zwi\u0105zanych z grafik\u0105, wykonywanie oblicze\u0144 matematycznych, operacji logicznych, przetwarzanie danych. Pojawienie si\u0119 na rynku takich rdzeni w przysz\u0142o\u015bci zmieni podej\u015bcie do wirtualizacji zasob\u00f3w i ich rozdzielenia mi\u0119dzy obci\u0105\u017ceniami roboczymi w \u015brodowisku wirtualnym i chmurowym.<\/p>\n

\nCo warto przeczyta\u0107 na ten temat na naszym firmowym blogu:<\/p>\n