Ситуација: виртуелни ГПУ-ови нису инфериорни у перформансама у односу на хардверска решења

У фебруару је Станфорд био домаћин конференције о рачунарству високих перформанси (ХПЦ). Представници ВМваре-а су рекли да када се ради са ГПУ-ом, систем заснован на модификованом ЕСКСи хипервизору није инфериоран у брзини од голих металних решења.

Разговарамо о технологијама које су омогућиле да се то постигне.

Ситуација: виртуелни ГПУ-ови нису инфериорни у перформансама у односу на хардверска решења
/ пхото Вицторгригас ЦЦ БИ-СА

Проблем са перформансама

Према аналитичарима, око 70% посла у центрима података виртуелизовано. Међутим, преосталих 30% и даље ради на голом металу без хипервизора. Ових 30% се углавном састоји од апликација са великим оптерећењем, као што су оне које се односе на обуку неуронских мрежа и коришћење ГПУ-а.

Стручњаци овај тренд објашњавају чињеницом да хипервизор, као средњи слој апстракције, може утицати на перформансе целог система. У студијама пре пет година можете пронаћи податке о смањењу брзине рада за 10%. Због тога компаније и оператери центара података не журе да преносе ХПЦ радна оптерећења у виртуелно окружење.

Али технологије виртуелизације се развијају и побољшавају. На конференцији пре месец дана, ВМваре је рекао да ЕСКСи хипервизор нема негативан утицај на перформансе ГПУ-а. Брзина рачунара се може смањити за три процента, што је упоредиво са голим металом.

Како ово ради

Да би побољшао перформансе ХПЦ система са ГПУ-овима, ВМваре је направио бројне измене у хипервизору. Конкретно, уклоњена је функција вМотион. Потребан је за балансирање оптерећења и обично преноси виртуелне машине (ВМ) између сервера или ГПУ-а. Онемогућавање вМотион-а довело је до тога да је сваком ВМ-у сада додељен одређени ГПУ. Ово је помогло у смањењу трошкова приликом размене података.

Још једна кључна компонента система је технологија ДирецтПатх И/О. Омогућава ЦУДА драјверу за паралелно рачунарство да директно комуницира са виртуелним машинама, заобилазећи хипервизор. Када треба да покренете неколико ВМ-ова на једном ГПУ-у одједном, користи се ГРИД вГПУ решење. Он дели меморију картице на неколико сегмената (али циклуси рачунања нису подељени).

Дијаграм рада две виртуелне машине у овом случају ће изгледати овако:

Ситуација: виртуелни ГПУ-ови нису инфериорни у перформансама у односу на хардверска решења

Резултати и прогнозе

компанија спроведена испитивања хипервизор обучавањем језичког модела заснованог на ТенсорФлов. „Оштећење“ перформанси је било само 3–4% у поређењу са голим металом. Заузврат, систем је могао да дистрибуира ресурсе на захтев у зависности од тренутног оптерећења.

ИТ гигант такође спроведена испитивања са контејнерима. Инжењери компаније обучили су неуронске мреже да препознају слике. Истовремено, ресурси једног ГПУ-а су распоређени између четири контејнерска ВМ-а. Као резултат тога, перформансе појединачних машина су смањене за 17% (у поређењу са једним ВМ-ом са пуним приступом ГПУ ресурсима). Међутим, број слика обрађених у секунди повећана три пута. Очекује се да такви системи наћи примене у анализи података и рачунарском моделирању.

Међу потенцијалним проблемима са којима се ВМваре може суочити, стручњаци издвојити прилично уска циљна публика. Мали број компанија још увек ради са системима високих перформанси. Иако у Статисту прославитида ће до 2021. 94% оптерећења светских центара података бити виртуелизовано. Од стране прогнозе аналитичари, вредност ХПЦ тржишта ће порасти са 32 на 45 милијарди долара у периоду од 2017. до 2022. године.

Ситуација: виртуелни ГПУ-ови нису инфериорни у перформансама у односу на хардверска решења
/ пхото Глобална приступна тачка PD

Слична решења

На тржишту постоји неколико аналога које развијају велике ИТ компаније: АМД и Интел.

Прва компанија за виртуелизацију ГПУ-а понуде приступ заснован на СР-ИОВ (сингле-роот инпут/оутпут виртуелизација). Ова технологија даје ВМ приступ делу хардверских могућности система. Решење вам омогућава да делите ГПУ између 16 корисника са једнаким перформансама виртуелизованих система.

Што се тиче другог ИТ гиганта, они заснована на технологији на хипервизору Цитрик КсенСервер 7. Комбинује рад стандардног ГПУ драјвера и виртуелне машине, што овој другој омогућава да приказује 3Д апликације и радне површине на уређајима стотина корисника.

Будућност технологије

Виртуелни ГПУ програмери кладити се о имплементацији АИ система и растућој популарности решења високих перформанси на тржишту пословних технологија. Надају се да ће потреба за обрадом великих количина података повећати потражњу за вГПУ-овима.

Сада произвођачи тражећи начин комбинују функционалност ЦПУ-а и ГПУ-а у једном језгру да би се убрзало решавање проблема везаних за графику, извођење математичких прорачуна, логичких операција и обраде података. Појава оваквих језгара на тржишту у будућности ће променити приступ виртуелизацији ресурса и њихову дистрибуцију између радних оптерећења у виртуелним и цлоуд окружењима.

Шта читати о овој теми на нашем корпоративном блогу:

Пар постова са нашег Телеграм канала:

Извор: ввв.хабр.цом

Додај коментар