Ситуација: виртуелните графички процесори не се инфериорни во однос на хардверските решенија

Во февруари, Стенфорд беше домаќин на конференција за компјутери со високи перформанси (HPC). Претставниците на VMware рекоа дека кога работите со графички процесор, системот заснован на модифициран хипервизор ESXi не е инфериорен во брзината во однос на голите метални решенија.

Зборуваме за технологиите што овозможија да се постигне ова.

/ фотографија Викторгригас CC BY-SA

Прашање за изведба

Според аналитичарите, околу 70% од оптоварувањата во центрите за податоци виртуелизиран. Сепак, останатите 30% сè уште работат на гол метал без хипервизори. Овие 30% главно се состојат од апликации со големо оптоварување, како што се оние поврзани со обука на невронски мрежи и користење графички процесори.

Експертите го објаснуваат овој тренд со фактот дека хипервизорот, како среден слој на апстракција, може да влијае на перформансите на целиот систем. Во студиите пред пет години можете да ги најдете податоците за намалување на брзината на работа за 10%. Затоа, компаниите и операторите на центрите за податоци не брзаат да ги префрлат оптоварувањата на HPC во виртуелна средина.

Но, технологиите за виртуелизација се развиваат и се подобруваат. На конференција пред еден месец, VMware рече дека хипервизорот ESXi нема негативно влијание врз перформансите на графичкиот процесор. Брзината на пресметување може да се намали за три проценти, што е споредливо со гол метал.

Како го прави ова дело

За да ги подобри перформансите на HPC системите со графички процесори, VMware направи голем број промени во хипервизорот. Особено, тој беше ослободен од функцијата vMotion. Потребен е за балансирање на оптоварување и обично пренесува виртуелни машини (ВМ) помеѓу сервери или графички процесори. Оневозможувањето на vMotion резултираше со тоа што на секој VM сега му се доделува специфичен графички процесор. Ова помогна да се намалат трошоците при размена на податоци.

Друга клучна компонента на системот е технологијата DirectPath В/И. Тој му овозможува на двигателот за паралелно пресметување CUDA директно да комуницира со виртуелните машини, заобиколувајќи го хипервизорот. Кога треба да извршите неколку VM на еден графички процесор одеднаш, се користи решението GRID vGPU. Ја дели меморијата на картичката на неколку сегменти (но пресметковните циклуси не се поделени).

Дијаграмот за работа на две виртуелни машини во овој случај ќе изгледа вака:

Резултати и прогнози

компанијата спроведени тестови хипервизор преку обука на јазичен модел заснован на TensorFlow. „Штетата“ на перформансите беше само 3–4% во споредба со голиот метал. За возврат, системот можеше да дистрибуира ресурси по потреба во зависност од моменталниот товар.

ИТ гигантот исто така спроведени тестови со контејнери. Инженерите на компанијата тренираа невронски мрежи да препознаваат слики. Во исто време, ресурсите на еден графички процесор беа дистрибуирани меѓу четири контејнерски VM. Како резултат на тоа, перформансите на поединечните машини се намалија за 17% (во споредба со еден VM со целосен пристап до ресурсите на графичкиот процесор). Сепак, бројот на обработени слики во секунда зголемена три пати. Се очекува дека таквите системи ќе најде апликации во анализа на податоци и компјутерско моделирање.

Меѓу потенцијалните проблеми со кои може да се соочи VMware, експертите алоцираат прилично тесна целна публика. Мал број компании сè уште работат со системи со високи перформанси. Иако во Статиста славидека до 2021 година ќе бидат виртуелизирани 94% од оптоварувањата во светските центри за податоци. Од страна на прогнозите аналитичарите, вредноста на пазарот на HPC ќе порасне од 32 на 45 милијарди долари во периодот од 2017 до 2022 година.

/ фотографија Глобална пристапна точка PD

Слични решенија

Постојат неколку аналози на пазарот кои се развиени од големи ИТ компании: AMD и Intel.

Првата компанија за виртуелизација на графичкиот процесор понуди пристап базиран на SR-IOV (виртуелизација на влез/излез со еден корен). Оваа технологија му дава на VM пристап до дел од хардверските можности на системот. Решението ви овозможува да го споделите графичкиот процесор помеѓу 16 корисници со еднакви перформанси на виртуелизираните системи.

Што се однесува до вториот ИТ гигант, тие базирана на технологија на хипервизорот Citrix XenServer 7. Ја комбинира работата на стандарден двигател на графичкиот процесор и виртуелна машина, што им овозможува на вториот да прикажува 3D апликации и десктоп на уредите на стотици корисници.

Иднината на технологијата

Програмери на виртуелен графички процесор направете облог за имплементација на системи за вештачка интелигенција и зголемената популарност на решенија со високи перформанси на пазарот на деловна технологија. Тие се надеваат дека потребата за обработка на големи количини на податоци ќе ја зголеми побарувачката за vGPU.

Сега производители барајќи начин комбинирајте ја функционалноста на процесорот и графичкиот процесор во едно јадро за да го забрзате решавањето на проблемите поврзани со графика, извршувањето на математички пресметки, логички операции и обработка на податоци. Појавата на вакви јадра на пазарот во иднина ќе го промени пристапот кон виртуелизација на ресурсите и нивната дистрибуција помеѓу оптоварувањата во виртуелни и облак средини.

Што да прочитате на темата во нашиот корпоративен блог:

• Зошто компаниите користат виртуелни машини наместо контејнери
• „Како работи VMware“: преглед на нови решенија
• VMware vSphere 6.7: кои се придобивките од новите функции на хипервизорот

Неколку објави од нашиот канал на Телеграма:

• ИТ архитектура на иднината - кој и како се подготвува за тоа
• 5 Алатки за управување со облак
• Како давателот на IaaS ги штити податоците на клиентите

Извор: www.habr.com