През февруари в Станфорд се проведе конференция, посветена на високопродуктивните изчисления (HPC). Представители на VMware разказаха, че при работа с GPU, системата на база модифициран хипервизор ESXi не отстъпва на bare metal решенията по скорост.
Разказваме за технологиите, които позволиха това.
/ фото
Проблема с производителността
По оценка на анализаторите, около 70% от работните натоварвания в дата центровете . Останалите 30% все още работят на bare metal без хипервизори. Тези 30% в голяма степен се състоят от приложения с високо натоварване, които са свързани, например, с обучението на невронни мрежи и използват графични процесори.
Подобна тенденция експертите обясняват с това, че хипервизорът като междинен слой на абстракция може да влияе на производителността на цялата система. В изследвания от преди пет години за намаляване на работната скорост с 10%. Затова компаниите и операторите на дата центрове не бързат да пренасят HPC натоварванията в виртуална среда.
Но технологиите за виртуализация се развиват и усъвършенстват. На конференцията преди месец в VMware съобщиха, че хипервизорът ESXi не оказва негативно влияние на производителността на GPU. Скоростта на изчисленията може да се намали с три процента, което е сравнимо с показателите на bare metal.
Как работи това
За да повишат производителността на HPC системите с графични процесори, VMware вкараха редица промени в работата на хипервизора. В частност, го избавиха от функцията vMotion. Тя е необходима за балансиране на натоварването и обикновено прехвърля виртуални машини (ВМ) между сървъри или GPU. Деактивирането на vMotion доведе до факта, че на всяка ВМ вече е прикрепен конкретен графичен процесор. Това помогна за намаляване на разходите при обмен на данни.
Другият ключов компонент на системата DirectPath I/O. Тя позволява на CUDA драйвера за паралелни изчисления да взаимодействат с виртуалните машини директно, заобикаляйки хипервизора. Когато на един GPU се налага да стартира няколко ВМ, се използва решение GRID vGPU. То разделя паметта на картата на няколко сегмента (но изчислителните цикли не се разделят).
Схемата на работа на двете виртуални машини в този случай ще изглежда по следния начин:
Резултати и прогнози
Компанията хипервизора, обучавайки езиковата модел на база . „Щетата“ в производителността беше едва 3–4%, в сравнение с bare metal. При това системата получи възможност за разпределение на ресурсите при необходимост в зависимост от текущите натоварвания.
ИТ гигантът също с контейнерите. Инженерите на компанията обучаваха невронни мрежи да разпознават изображения. При това ресурсите на един графичен процесор бяха разпределени между четири контейнерни ВМ. В резултат производителността на отделните машини намаля с 17% (в сравнение с една ВМ, която има пълен достъп до ресурсите на GPU). Въпреки това, броят на обработваните изображения в секунда три пъти. Очаква се, че подобни системи приложение в областта на анализа на данни и компютърното моделиране.
Сред потенциалните проблеми, с които може да се сблъска VMware, експертите достатъчно тясна целева аудитория. С високо производителни системи все още работи малък брой компании. Въпреки това, според Statista , до 2021 година 94% от работните натоварвания в световните ЦОД ще бъдат виртуализирани. Според на аналитиците, стойността на HPC пазара ще нарасне от 32 до 45 милиарда долара в периода от 2017 до 2022 година.
/ фото PD
Подобни решения
На пазара има няколко аналога, които разработват големи ИТ компании: AMD и Intel.
Първата компания за виртуализация на графични процесори подход на база SR-IOV (single-root input/output virtualization). Тази технология предоставя на ВМ достъп до част от хардуерните възможности на системата. Решението позволява да се раздели графичният процесор между 16 потребители при равна производителност на виртуализираните системи.
Що се отнася до втория ИТ гигант, то тяхната на хипервизора Citrix XenServer 7. Тя обединява работата на стандартния GPU драйвер и виртуалната машина, което позволява на последната да показва 3D приложения и десктопи на устройства на стотици потребители.
Бъдещето на технологията
Разработчиците на виртуални графични процесори с внедряването на ИИ системи и растежа на популярността на високопроизводителните решения на пазара на бизнес технологии. Те се надяват, че нуждата от обработка на големи обеми данни ще увеличи търсенето на vGPU.
В момента производителите да комбинират функционалността на CPU и GPU в едно ядро, за да ускорят решаването на задачи, свързани с графика, извършване на математически изчисления, логически операции и обработка на данни. Появата на такива ядра на пазара в бъдеще ще промени подхода към виртуализацията на ресурсите и тяхното разпределение между работните натоварвания в виртуална и облачна среда.
Какво да прочетете по темата в нашия корпоративен блог:
Два поста от нашия Telegram-канал:
Източник: habr.com
