V únoru se na Stanfordu konala konference věnovaná vysoce výkonnému počítání (HPC). Představitelé VMware uvedli, že při práci s GPU systém založený na modifikovaném hypervizoru ESXi výkonem nijak nezaostává za řešeními typu bare metal.
Popisujeme technologie, které k tomu pomohly.
/ фото
Problém výkonu
Podle analýz se předpokládá, že přibližně 70 % pracovních zátěží v datových centrech . Nicméně zbylých 30 % stále běží na bare metal bez hypervizorů. Tento podíl většinou tvoří vysoce zatížené aplikace, spojené například s trénováním neuronových sítí, a využívající grafické procesory.
Odborníci tento trend vysvětlují tím, že hypervizor jako mezivrstva abstrakce může ovlivnit výkon celého systému. V pět let starých studiích o poklesu rychlosti práce o 10 %. Proto se společnosti a provozovatelé datových center nechystají přecházet HPC zátěž do virtuálního prostředí.
Technologie virtualizace se však vyvíjejí a zlepšují. Na konferenci před měsícem bylo ve VMware sděleno, že hypervizor ESXi nemá negativní vliv na výkon GPU. Rychlost výpočtů může klesnout o tři procenta, což je srovnatelné s ukazateli bare metal.
Jak to funguje
Aby se zvýšil výkon HPC systémů s grafickými procesory, VMware provedl v práci hypervizoru řadu změn. Zvláště se zbavili funkce vMotion. Ta je potřebná pro vyvažování zátěže a obvykle přesouvá virtuální stroje (VM) mezi servery nebo GPU. Vypnutí vMotion vedlo k tomu, že k každému VM je nyní přidělen konkrétní grafický procesor. To pomohlo snížit náklady při výměně dat.
Další klíčovou součástí systému DirectPath I/O. Ta umožňuje ovladači CUDA pro paralelní výpočty komunikovat s virtuálními stroji přímo, obcházejíc hypervizor. Když je na jednom GPU potřeba spustit více VM, je použito řešení GRID vGPU. To dělí paměť karty na několik segmentů (ale výpočetní cykly nejsou rozděleny).
Schéma práce dvou virtuálních strojů v tomto případě bude vypadat takto:
Výsledky a předpovědi
Společnost hypervisoru, který vyškolil jazykový model na základě . 'Ztráta' výkonu činila pouze 3–4% v porovnání s bare metal. Na oplátku systém získal možnost distribuovat zdroje podle potřeby v závislosti na aktuálních zátěžích.
IT gigant také s kontejnery. Inženýři společnosti vyučovali neuronové sítě rozpoznávat obrázky. Přitom byly zdroje jednoho grafického procesoru rozděleny mezi čtyři kontejnerové VM. V důsledku toho výkon jednotlivých strojů klesl o 17% (ve srovnání s jednou VM, která měla plný přístup k prostředkům GPU). Nicméně, množství zpracovávaných obrázků za sekundu trojnásobně. Očekává se, že podobné systémy uplatnění v oblasti analýzy dat a počítačového modelování.
Mezi potenciálními problémy, se kterými se může VMware setkat, odborníci poměrně úzkou cílovou skupinu. S vysoce výkonnými systémy momentálně pracuje pouze malé množství firem. Přestože v Statista , že do roku 2021 bude virtualizováno již 94% pracovních zátěží globálních datových center. Podle analytiků, cena trhu HPC vzroste z 32 na 45 miliard dolarů v období od 2017 do 2022.
/ фото PD
Podobná řešení
Na trhu existuje několik analogů, které vyvíjejí velké IT společnosti: AMD a Intel.
První společnost pro virtualizaci grafických procesorů přístup založený na SR-IOV (single-root input/output virtualization). Tato technologie poskytuje VM přístup k části hardwarových možností systému. Řešení umožňuje rozdělit grafický procesor mezi 16 uživateli při stejné výkonu virtualizovaných systémů.
Co se týče druhého IT giganta, jejich na hypervisoru Citrix XenServer 7. Ten spojuje práci standardního GPU ovladače a virtuálního stroje, což umožňuje tomuto druhému zobrazovat 3D aplikace a plochy na zařízeních stovek uživatelů.
Budoucnost technologie
Vývojáři virtuálních grafických procesorů na zavedení systémů AI a růst popularity vysoce výkonných řešení na trhu byznysových technologií. Doufají, že poptávka po zpracování velkých objemů dat zvýší poptávku po vGPU.
Nyní výrobci jak spojit funkčnost CPU a GPU v jednom jádru, aby urychlili řešení úloh souvisejících s grafikou, provádění matematických výpočtů, logických operací a zpracování dat. Objevování takových jader na trhu v budoucnu změní přístup k virtualizaci zdrojů a jejich rozdělení mezi pracovními zátěžemi ve virtuálním a cloudovém prostředí.
Co si přečíst na toto téma v našem firemním blogu:
Dva příspěvky z našeho Telegram kanálu:
Zdroj: habr.com
