Ақпан айында Стэнфордта жоғары өнімді есептеулер (HPC) бойынша конференция өтті. VMware өкілдері GPU-мен жұмыс істегенде модификацияланған ESXi гипервизорына негізделген жүйенің жылдамдығы жалаң металл шешімдерінен кем түспейтінін айтты.
Біз бұған қол жеткізуге мүмкіндік берген технологиялар туралы айтамыз.
/ фото
Өнімділік мәселесі
Сарапшылардың пікірінше, деректер орталықтарындағы жұмыс жүктемесінің шамамен 70% . Дегенмен, қалған 30% гипервизорсыз жалаңаш металда жұмыс істейді. Бұл 30% негізінен нейрондық желілерді оқытуға және графикалық процессорларды қолдануға қатысты сияқты жоғары жүктемелі қолданбалардан тұрады.
Сарапшылар бұл тенденцияны гипервизордың аралық абстракциялық қабат ретінде бүкіл жүйенің жұмысына әсер етуі мүмкін екендігімен түсіндіреді. Бес жыл бұрын оқуда жұмыс жылдамдығын 10%-ға төмендету туралы. Сондықтан компаниялар мен деректер орталығының операторлары HPC жұмыс жүктемелерін виртуалды ортаға тасымалдауға асықпайды.
Бірақ виртуализация технологиялары дамып, жетілдіріліп жатыр. Бір ай бұрын өткен конференцияда VMware ESXi гипервизоры GPU өнімділігіне теріс әсер етпейтінін айтты. Есептеу жылдамдығын үш пайызға азайтуға болады, бұл жалаңаш металмен салыстыруға болады.
Бұл қалай жұмыс істейді
GPU бар HPC жүйелерінің жұмысын жақсарту үшін VMware гипервизорға бірқатар өзгерістер енгізді. Атап айтқанда, ол vMotion функциясынан құтылды. Ол жүктемені теңестіру үшін қажет және әдетте виртуалды машиналарды (VM) серверлер немесе GPU арасында тасымалдайды. vMotion функциясын өшіру әрбір VM-ге нақты GPU тағайындалуына әкелді. Бұл деректер алмасу кезіндегі шығындарды азайтуға көмектесті.
Жүйенің тағы бір негізгі компоненті DirectPath енгізу/шығару. Ол CUDA параллельді есептеуіш драйверіне гипервизорды айналып өтіп, виртуалды машиналармен тікелей әрекеттесу мүмкіндігін береді. Бір GPU-де бірден бірнеше VM іске қосу қажет болғанда, GRID vGPU шешімі пайдаланылады. Ол картаның жадын бірнеше сегменттерге бөледі (бірақ есептеу циклдері бөлінбейді).
Бұл жағдайда екі виртуалды машинаның жұмыс диаграммасы келесідей болады:
Нәтижелер мен болжамдар
компания негізінде тіл үлгісін оқыту арқылы гипервизор . Жалаңаш металмен салыстырғанда өнімділік «зақымдану» небәрі 3-4% құрады. Өз кезегінде жүйе ағымдағы жүктемеге байланысты ресурстарды сұраныс бойынша тарата алды.
Сондай-ақ IT гиганты контейнерлермен. Компания инженерлері нейрондық желілерді кескіндерді тануға үйретті. Бұл ретте бір GPU ресурстары төрт контейнерлік VM арасында бөлінді. Нәтижесінде жеке машиналардың өнімділігі 17%-ға төмендеді (GPU ресурстарына толық қол жетімді жалғыз VM-мен салыстырғанда). Дегенмен, секундына өңделген кескіндер саны үш рет. Мұндай жүйелер күтілуде деректерді талдау және компьютерлік модельдеудегі қолданбалы бағдарламалар.
VMware тап болуы мүмкін ықтимал проблемалардың арасында сарапшылар айтарлықтай тар мақсатты аудитория. Аздаған компаниялар әлі де жоғары өнімді жүйелермен жұмыс істейді. Статистада болса да 2021 жылға қарай дүниежүзіндегі деректер орталығының жұмыс жүктемесінің 94%-ы виртуализацияланады. Авторы Сарапшылардың айтуынша, HPC нарығының құны 32 жылдан 45 жылға дейінгі кезеңде 2017-ден 2022 миллиард долларға дейін өседі.
/ фото PD
Ұқсас шешімдер
Нарықта ірі IT компаниялары әзірлеген бірнеше аналогтар бар: AMD және Intel.
GPU виртуализациясы бойынша бірінші компания SR-IOV (бір түбірлік енгізу/шығыс виртуализациясы) негізіндегі тәсіл. Бұл технология VM-ге жүйенің аппараттық мүмкіндіктерінің бір бөлігіне қол жеткізуге мүмкіндік береді. Шешім виртуалды жүйелердің бірдей өнімділігімен 16 пайдаланушы арасында GPU бөлісуге мүмкіндік береді.
Екінші IT алыбына келетін болсақ, олар Citrix XenServer 7 гипервизорында.Ол стандартты GPU драйвері мен виртуалды машинаның жұмысын біріктіреді, бұл соңғысына жүздеген пайдаланушылардың құрылғыларында 3D қолданбалары мен жұмыс үстелдерін көрсетуге мүмкіндік береді.
Технологияның болашағы
Виртуалды GPU әзірлеушілері AI жүйелерін енгізу және бизнес-технологиялар нарығында жоғары өнімді шешімдердің танымалдылығының артуы туралы. Олар деректердің үлкен көлемін өңдеу қажеттілігі vGPU-ға сұранысты арттырады деп үміттенеді.
Қазір өндірушілер графикаға қатысты мәселелерді шешуді, математикалық есептеулерді, логикалық операцияларды орындауды және деректерді өңдеуді жылдамдату үшін орталық процессор мен графикалық процессордың функционалдығын бір ядроға біріктіру. Болашақта мұндай ядролардың нарықта пайда болуы ресурстарды виртуалдандыруға және оларды виртуалды және бұлттық орталардағы жұмыс жүктемелері арасында бөлуге көзқарасты өзгертеді.
Біздің корпоративтік блогымызда тақырып бойынша не оқу керек:
Telegram арнамыздан бірнеше жазба:
Ақпарат көзі: www.habr.com