Februárban Stanfordban egy konferenciát tartottak a nagy teljesítményű számítások (HPC) témájában. A VMware képviselői elmondták, hogy GPU-val dolgozva a módosított ESXi hipervizorral a teljesítmény nem marad el a bare metal megoldásoktól.
Azokról a technológiákról beszélünk, amelyek lehetővé tették ezt.
/ фото
Teljesítményprobléma
Elemzők becslése szerint a környezet adatközpontjaiban a munkaterhelések körülbelül 70%-a . A fennmaradó 30% azonban továbbra is bare metal környezetben működik hipervizorok nélkül. Ezek a magas terhelésű alkalmazások nagyrészt például a neurális hálózatok tanításához kapcsolódnak, és grafikus processzorokat használnak.
Egy ilyen trendet a szakértők azzal magyarázzák, hogy a hipervizor mint közbülső absztrakciós réteg hatással lehet a rendszer teljesítményére. Öt évvel ezelőtti kutatásokban a sebesség csökkenéséről 10%-kal. Ezért a cégek és az adatközpontok üzemeltetői nem sietnek az HPC terhelések virtuális környezetbe történő áthelyezésével.
De a virtualizációs technológiák fejlődnek és javulnak. Egy hónappal ezelőtt a VMware konferenciáján elmondták, hogy az ESXi hipervizor nem gyakorol negatív hatást a GPU teljesítményére. A számítási sebesség akár három százalékkal is csökkenhet, ami összehasonlítható a bare metal teljesítményével.
Hogyan működik ez
A HPC rendszerek grafikus processzorokkal való teljesítményének fokozása érdekében a VMware változtatásokat hajtott végre a hipervizor működésében. Különösen eltávolították belőle a vMotion funkciót. Ez szükséges a terhelés kiegyensúlyozásához, és általában virtuális gépek (VM) áthelyezésére szolgál serverrek vagy GPU-k között. A vMotion kikapcsolása azt eredményezte, hogy minden VM mostantól egy adott grafikus processzorhoz van hozzárendelve. Ez segített csökkenteni az adatcserével kapcsolatos költségeket.
A rendszer másik kulcsfontosságú komponense DirectPath I/O technológia. Ez lehetővé teszi, hogy a CUDA meghajtó a párhuzamos számításokhoz közvetlenül lépjen kapcsolatba a virtuális gépekkel, megkerülve a hipervizort. Amikor egy GPU-n több VM-et kell futtatni, a GRID vGPU megoldás kerül aktiválásra. Ez a kártya memóriáját több szegmensre osztja (de a számítási ciklusok nem oszlanak meg).
A két virtuális gép működési sémája a következőképpen fog kinézni:
Eredmények és előrejelzések
Cég hipervizort, a nyelvi modellt az alapon képzi . A teljesítmény "károsodása" mindössze 3–4% volt a bare metalhoz képest. Cserébe a rendszer lehetőséget kapott az erőforrások igény szerinti elosztására a pillanatnyi terhelések függvényében.
Az IT óriás szintén konténerekkel. A cég mérnökei neurális hálózatokat tanítottak meg képek felismerésére. Ennek során egy GPU erőforrásait négy konténeres VM között osztották el. Ennek eredményeként az egyes gépek teljesítménye 17%-kal csökkent (összehasonlítva egy VM-mel, amely teljes hozzáféréssel rendelkezik a GPU erőforrásaihoz). Azonban a feldolgozott képek száma másodpercenként háromszorosára. Olyan rendszerek várhatók, amelyek az adatfeldolgozás és a számítógépes modellezés területén.
A VMware által található potenciális problémák között a szakértők a meglehetősen szűk célközönséget. A nagy teljesítményű rendszerekkel még mindig csak néhány cég dolgozik. Bár a Statista , hogy 2021-re már 94%-ra nőtt a virtualizált globális adatközpontok munkaterhei. A az elemzők arra számítanak, hogy a HPC-piac értéke 32 milliárd dollárról 45 milliárdra nő a 2017 és 2022 közötti időszakban.
/ фото PD
Hasonló megoldások
több hasonló, nagy IT cégek által kifejlesztett alternatív megoldás található a piacon: AMD és Intel.
Az első cég grafikus feldolgozók virtualizálására szolgáló megoldást kínál az SR-IOV (single-root input/output virtualization) alapú megoldásra. Ez a technológia lehetővé teszi a VM számára, hogy a rendszer egyes hardveres lehetőségeihez hozzáférjen. A megoldás lehetővé teszi, hogy egy GPU-t 16 felhasználó között osszanak meg egyenletes teljesítménnyel a virtualizált rendszerek között.
A második IT óriás esetében pedig a Citrix XenServer 7 hipervizor. Ez egyesíti a standard GPU-illesztőprogram és a virtuális gép működését, lehetővé téve, hogy a virtuális gép 3D-alkalmazásokat és asztalokat jelenítsen meg több száz felhasználó eszközein.
A technológia jövője
A virtuális grafikus processzorok fejlesztői a mesterséges intelligencia rendszerek bevezetésére és a nagy teljesítményű megoldások iránti kereslet növekedésére az üzleti technológiák piacán. Remélik, hogy a nagy adatmennyiségek feldolgozásának szükségessége növelni fogja a vGPU iránti keresletet.
Jelenleg a gyártók a CPU és GPU funkciók egyesítésére egy magban, hogy felgyorsítsák a grafikai feladatok, matematikai számítások, logikai műveletek és adatfeldolgozás végrehajtását. Az ilyen magok megjelenése a piacon a jövőben meg fogja változtatni a forrásvirtualizáció és az erőforrások munkaterhelések közötti elosztásának megközelítését virtuális és felhő alapú környezetben.
Olvasnivaló a témában a céges blogunkban:
Pár poszt a Telegram-csatornánkról:
Forrás: habr.com
