{"id":36902,"date":"2019-10-31T22:14:38","date_gmt":"2019-10-31T19:14:38","guid":{"rendered":"https:\/\/prohoster.info\/blog\/vgpu-ispolzovat-nelzya-ignorirovat\/"},"modified":"2019-10-31T22:14:38","modified_gmt":"2019-10-31T19:14:38","slug":"vgpu-ispolzovat-nelzya-ignorirovat","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pl\/blog\/administrirovanie\/vgpu-ispolzovat-nelzya-ignorirovat","title":{"rendered":"vGPU \u2014 nie mo\u017cna tego ignorowa\u0107","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

\"vGPU
\n
\nW czerwcu i lipcu do nas zwr\u00f3ci\u0142o si\u0119 prawie dwadzie\u015bcia firm, kt\u00f3re interesowa\u0142y si\u0119 mo\u017cliwo\u015bciami wirtualnych GPU. Z \"Grafik\u0105\" od Cloud4Y korzysta ju\u017c jedna z du\u017cych sp\u00f3\u0142ek-c\u00f3rek Sberbanku, jednak us\u0142uga ta nie jest zbyt popularna. Dlatego taka aktywno\u015b\u0107 bardzo nas ucieszy\u0142a. Widz\u0105c rosn\u0105ce zainteresowanie technologi\u0105, postanowili\u015bmy nieco dok\u0142adniej opisa\u0107 vGPU.<\/i> <\/a><\/noindex><\/p>\n

\"Jeziora danych\", uzyskane w wyniku eksperyment\u00f3w naukowych i bada\u0144, Deep Learning oraz inne obszary pracy z AI, modelowanie du\u017cych i skomplikowanych obiekt\u00f3w \u2212 wszystko to wymaga wysokowydajnego \"sprz\u0119tu\". Dobrze, je\u015bli taki istnieje i pozwala szybko rozwi\u0105zywa\u0107 bie\u017c\u0105ce zadania. Problem w tym, \u017ce z powodu rosn\u0105cej z\u0142o\u017cono\u015bci obliczeniowej zada\u0144 (dotyczy to w pierwszej kolejno\u015bci analizy biznesowej, renderowania, algorytm\u00f3w i framework\u00f3w DL) moce obliczeniowe procesor\u00f3w CPU, zar\u00f3wno desktopowych, jak i serwerowych, coraz cz\u0119\u015bciej staj\u0105 si\u0119 bezu\u017cyteczne.<\/p>\n

Rozwi\u0105zaniem by\u0142o wykorzystanie oblicze\u0144 na GPU. Ta technologia przyspieszania grafiki umo\u017cliwia podzia\u0142 zasob\u00f3w jednego procesora graficznego pomi\u0119dzy kilka wirtualnych komputer\u00f3w. GPU pierwotnie projektowano do pracy z grafik\u0105, dlatego sk\u0142ada si\u0119 z tysi\u0105ca drobnych rdzeni, kt\u00f3re s\u0105 wykorzystywane do efektywnego przetwarzania r\u00f3wnoleg\u0142ych zada\u0144. Przy tym na GPU wykonuje si\u0119 cz\u0119\u015b\u0107 najbardziej wymagaj\u0105cych oblicze\u0144, reszt\u0119 przejmuje CPU.<\/p>\n

\"vGPU
\n
\nObliczenia za pomoc\u0105 GPU zosta\u0142y wymy\u015blone przez firm\u0119 Nvidia <\/a><\/noindex>ju\u017c w 2007 roku. Dzi\u015b ta technologia osi\u0105gn\u0119\u0142a nowy poziom i jest wykorzystywana w centrach danych najwi\u0119kszych przedsi\u0119biorstw i laboratoriach naukowych. Jednak tradycyjne podej\u015bcie ma jeden powa\u017cny minus: zakup fizycznego sprz\u0119tu jest dosy\u0107 drogi. A je\u015bli wspomnimy o szybko\u015bci, z jak\u0105 \"sprz\u0119t\" si\u0119 starzeje, robi si\u0119 jeszcze smutniej.<\/p>\n

Problem ma rozwi\u0105za\u0107 technologia wirtualnych procesor\u00f3w graficznych: vGPU. Dzi\u0119ki niej u\u017cytkownicy mog\u0105 zdalnie uruchamia\u0107 wymagaj\u0105ce aplikacje, takie jak AutoCAD, 3DS Max, Maya, Sony Vegas Pro. Wirtualizacja szybko zdoby\u0142a swoj\u0105 cz\u0119\u015b\u0107 rynku. W ko\u0144cu jaki rosyjski data scientist nie kocha szybkich oblicze\u0144 na kartach graficznych NVidia Tesla? <\/p>\n

Warto zauwa\u017cy\u0107, \u017ce przed pojawieniem si\u0119 vGPU wykorzystywano inne metody przyspieszania przetwarzania grafiki: Virtual Shared Graphics Acceleration (vSGA) oraz Virtual Dedicated Graphics Acceleration (vDGA). Rozwi\u0105zanie vGPU \u0142\u0105czy najlepsze aspekty obu technologii. Podobnie jak w przypadku vSGA, w \u015brodowisku vGPU przewiduje si\u0119 wsp\u00f3\u0142dzielenie GPU i RAM przez kilka wirtualnych pulpit\u00f3w, jednak ka\u017cda VM przekazuje polecenia bezpo\u015brednio do GPU, jak ma to miejsce w przypadku vDGA.<\/p>\n

Po co w og\u00f3le potrzebne s\u0105 vGPU <\/h2>\n

\nObliczenia w chmurze z wykorzystaniem vGPU pozwalaj\u0105 firmom radzi\u0107 sobie z zadaniami, kt\u00f3re wcze\u015bniej by\u0142y niemo\u017cliwe do zrealizowania. Albo by\u0142y mo\u017cliwe, ale wymaga\u0142y niewiarygodnie du\u017cych zasob\u00f3w. 1 nowoczesny serwer GPU jest w stanie zast\u0105pi\u0107 do 100 zwyk\u0142ych CPU. Tych przyk\u0142ad\u00f3w jest wi\u0119cej, jeszcze bardziej imponuj\u0105cych liczb<\/a><\/noindex>. To nie jest \u017cart: rozwi\u0105zania Nvidia przetwarzaj\u0105 petabajty danych wielokrotnie szybciej ni\u017c klasyczne serwery CPU. A Google Cloud oferuje maszyny wirtualne z GPU, osi\u0105gaj\u0105ce do 960 teraflops.<\/p>\n

Wielu specjalist\u00f3w potrzebuje pot\u0119\u017cnych urz\u0105dze\u0144 zdolnych do wykonywania oblicze\u0144 r\u00f3wnoleg\u0142ych. Architekci i in\u017cynierowie wykorzystuj\u0105 technologi\u0119 vGPU w systemach projektowania (na przyk\u0142ad Autodesk). Projektanci pracuj\u0105 z cyfrowym zdj\u0119ciami i materia\u0142ami wideo (Photoshop, CorelDraw). Maszyny wirtualne<\/a><\/noindex> Procesory graficzne s\u0105 r\u00f3wnie\u017c potrzebne instytucjom medycznym, kt\u00f3re gromadz\u0105 i analizuj\u0105 dane o pacjentach i chorobach. Wykorzystuje si\u0119 GPU tak\u017ce do \u201eYandex<\/a><\/noindex>\u00bb.<\/p>\n

My\u015blicie, \u017ce to wszystko? Nic bardziej mylnego. Technologi\u0119 wykorzystuje si\u0119 r\u00f3wnie\u017c do automatycznej weryfikacji dok\u0142adno\u015bci zdj\u0119\u0107 satelitarnych<\/a><\/noindex>, oraz do prognozowania epidemii<\/a><\/noindex>, bada\u0144 meteorologicznych<\/a><\/noindex>, modelowania cykli s\u0142onecznych<\/a><\/noindex> i analizy biznesowej<\/a><\/noindex>. A opr\u00f3cz tego dost\u0119pny jest \u015bwietny artyku\u0142 dotycz\u0105cy modelowania<\/a><\/noindex> w \u015brodowisku Unity3D od ThisIsZolden<\/a><\/noindex>.<\/p>\n

Mimo wszystko rozwi\u0105zania oparte na vGPU wci\u0105\u017c nie zyska\u0142y szerokiego uznania w \u015bwiecie. W 2018 roku NetApp przeprowadzi\u0142 ankiet\u0119 <\/a><\/noindex>badania w\u015br\u00f3d firm, kt\u00f3re wykorzystuj\u0105 w swojej pracy procesory graficzne. Wyniki pokaza\u0142y, \u017ce 60% organizacji nadal funkcjonuje na w\u0142asnej infrastrukturze IT. Z 'chmury' korzysta jedynie 23%. W Rosji przenikanie technologii oblicze\u0144 w chmurze ma mniejsze znaczenie. Jednak dzi\u0119ki nowym rozwi\u0105zaniom sprz\u0119towym i programowym liczba firm wykorzystuj\u0105cych wirtualne maszyny z GPU nieustannie ro\u015bnie.<\/p>\n

Rozwi\u0105zania dla vGPU<\/h2>\n

\n\"vGPU
\n
\nWiele firm zajmuje si\u0119 rozwijaniem technologii wirtualizacji akcelerator\u00f3w graficznych, ale w\u015br\u00f3d nich s\u0105 bezsprzeczni liderzy.<\/p>\n

Jednym z najbardziej uznawanych tw\u00f3rc\u00f3w rozwi\u0105za\u0144 w obszarze chmurowych technologii jest firma VMware <\/b>oferuj\u0105ca przedsi\u0119biorstwom hipervizor ESXi.<\/a><\/noindex>, pod kt\u00f3rym pr\u0119dko\u015b\u0107 dzia\u0142ania wirtualnych procesor\u00f3w graficznych jest por\u00f3wnywalna z realizacjami na fizycznym sprz\u0119cie. W ostatniej aktualizacji deweloper wy\u0142\u0105czy\u0142 r\u00f3wnowa\u017cnik obci\u0105\u017cenia vMotion i doda\u0142 wsparcie dla technologii DirectPath I\/O, kt\u00f3ra \u0142\u0105czy sterownik CUDA z VM omijaj\u0105c hipervizor i przyspiesza transfer danych.<\/p>\n

Nvidia <\/b>r\u00f3wnie\u017c stara si\u0119 sprosta\u0107 oczekiwaniom rynku i w tym celu wyda\u0142a platform\u0119 open-source Rapids<\/a><\/noindex>. Rozwi\u0105zanie \u0142\u0105czy kilka bibliotek do pracy z architektur\u0105 CUDA, co u\u0142atwia prac\u0119 z danymi podczas szkolenia sieci neuronowych i umo\u017cliwia automatyzacj\u0119 pracy z kodem Python. U\u017cycie Rapids z algorytmem uczenia maszynowego XGBoost daje 50-krotne zwi\u0119kszenie wydajno\u015bci w por\u00f3wnaniu z systemami opartymi na CPU.<\/p>\n

Swoj\u0105 technologi\u0119 ma tak\u017ce AMD<\/b>. Platforma nazywa si\u0119 ROCm<\/a><\/noindex>. Wykorzystuje technologi\u0119 SR-IOV, kt\u00f3ra dzieli mo\u017cliwo\u015bci sprz\u0119towe fizycznego urz\u0105dzenia mi\u0119dzy kilka maszyn wirtualnych. Zasoby jednego akceleratora mo\u017cna podzieli\u0107 pomi\u0119dzy szesnastu u\u017cytkownik\u00f3w, utrzymuj\u0105c r\u00f3wn\u0105 wydajno\u015b\u0107 dla ka\u017cdego z nich. W ten spos\u00f3b przyspiesza transfer danych mi\u0119dzy chmurowymi CPU a GPU. Wykorzystywany jest tak\u017ce specjalny dialekt C++ o nazwie HIP, kt\u00f3ry u\u0142atwia wykonywanie operacji matematycznych na GPU.<\/p>\n

Intel <\/b>opiera swoj\u0105 technologi\u0119 na wieloplatformowym hipervizorze Citrix <\/a><\/noindex>XenServer 7, kt\u00f3ry w 2017 roku uzyska\u0142 certyfikat zgodno\u015bci z FSTEC. Rozwi\u0105zanie \u0142\u0105czy prac\u0119 standardowego sterownika GPU i maszyny wirtualnej. Oznacza to, \u017ce \u00abwirtualka\u00bb mo\u017ce obs\u0142ugiwa\u0107 <\/a><\/noindex>obs\u0142ugiwa\u0107 ci\u0119\u017ckie aplikacje na urz\u0105dzeniach dla du\u017cej (kilkaset) liczby u\u017cytkownik\u00f3w.<\/p>\n

Perspektywy rynkowe<\/h2>\n

\n\"vGPU
\n
\nNiezale\u017cni analitycy uwa\u017caj\u0105, \u017ce warto\u015b\u0107 sprzeda\u017cy rozwi\u0105za\u0144 dla system\u00f3w HPC osi\u0105gnie 45 miliard\u00f3w dolar\u00f3w do 2022 roku. Deweloperzy platform r\u00f3wnie\u017c przewiduj\u0105 wzrost zapotrzebowania na systemy o wysokiej wydajno\u015bci. To oczekiwanie jest potwierdzane popularno\u015bci\u0105 Big Data i cz\u0119sto pojawiaj\u0105c\u0105 si\u0119 potrzeb\u0105 przetwarzania du\u017cych wolumen\u00f3w danych.<\/p>\n

Wzrost zapotrzebowania na vGPU mo\u017ce stymulowa\u0107 rozw\u00f3j technologii hybrydowych, kt\u00f3re \u0142\u0105cz\u0105 GPU i CPU w jednym urz\u0105dzeniu. W takich zintegrowanych rozwi\u0105zaniach dwa rodzaje rdzeni korzystaj\u0105 ze wsp\u00f3lnej pami\u0119ci podr\u0119cznej, co przyspiesza transfer danych mi\u0119dzy procesorami graficznymi a tradycyjnymi. <\/p>\n

Hybrydy zasadniczo zmieniaj\u0105 podej\u015bcie do wirtualizacji i alokacji zasob\u00f3w w ramach centr\u00f3w danych. Rozwi\u0105zania open source, takie jak ROCm i Rapids, pozwalaj\u0105 operatorom centrum danych efektywniej wykorzystywa\u0107 zasoby obliczeniowe, zwi\u0119kszaj\u0105c wydajno\u015b\u0107 sprz\u0119tu.<\/p>\n

Jest tak\u017ce inna opinia. Na przyk\u0142ad, \u017ce wirtualne GPU zostan\u0105 wyparte przez chipy optyczne z fotonowym kodowaniem danych. Takie rozwi\u0105zania ju\u017c istniej\u0105 i s\u0105 wykorzystywane w uczeniu maszynowym. Co wi\u0119cej, wydaj\u0105 si\u0119 wydajniejsze <\/a><\/noindex>od zwyk\u0142ych GPU. Ale technologia jest wci\u0105\u017c w fazie rozwoju.<\/p>\n

Jakie mo\u017cna wyci\u0105gn\u0105\u0107 wnioski? Mimo mo\u017cliwego pojawienia si\u0119 odpowiednik\u00f3w, vGPU to ca\u0142kiem obiecuj\u0105cy kierunek, kt\u00f3ry mo\u017ce rozwi\u0105za\u0107 wiele problem\u00f3w. Jednak nie jest to rozwi\u0105zanie dla wszystkich. Tak wi\u0119c przecinek w tytule mo\u017cecie postawi\u0107 sami.<\/p>\n

P.S.<\/b>
\nSubskrybuj nasz Telegram<\/a><\/noindex>-kana\u0142, aby nie przegapi\u0107 kolejnego artyku\u0142u! Piszemy nie cz\u0119\u015bciej ni\u017c dwa razy w tygodniu i tylko w wa\u017cnych sprawach.<\/i><\/p>\n

Tylko zarejestrowani u\u017cytkownicy mog\u0105 bra\u0107 udzia\u0142 w ankiecie. Zaloguj si\u0119<\/a><\/noindex>, prosz\u0119.<\/p>\n

Czy korzystasz z vGPU?<\/h2>\n