V februári sa na Stanforde konala konferencia zameraná na vysoko výkonné počítačové systémy (HPC). Zástupcovia VMware uviedli, že pri práci s GPU systém založený na modifikovanom hypervízore ESXi rýchlostne nezaostáva za riešeniami bez virtualizácie.
Rozprávame o technológiach, ktoré to umožnili.
/ фото
Problém s výkonom
Podľa odhadov analytikov je približne 70% pracovných zaťažení v dátových centrách . Avšak zostávajúcich 30% stále pracuje na hardvéri bez hypervízorov. Týchto 30% sa väčšinou skladá z vysoko zaťažených aplikácií, ktoré sú spojené napríklad s učením neurónových sietí a využívajú grafické procesory.
Experti tento trend vysvetľujú tým, že hypervízor ako medzivrstvu abstrakcie môže mať vplyv na výkon celého systému. V štúdiách spred piatich rokov o poklese rýchlosti o 10%. Preto sa spoločnosti a operátori dátových centier neponáhľajú prenášať HPC pracovné zaťaženie do virtuálneho prostredia.
Avšak technológie virtualizácie sa vyvíjajú a zdokonaľujú. Na konferencii pred mesiacom v VMware uviedli, že hypervízor ESXi nemá negatívny vplyv na výkon GPU. Rýchlosť výpočtov môže klesnúť o tri percentá, čo je porovnateľné s výsledkami bez virtualizácie.
Ako to funguje
Na zvýšenie výkonu HPC systémov s grafickými procesormi, VMware vykonali v práci hypervízora niekoľko zmien. Predovšetkým odstránili funkciu vMotion. Tá je potrebná na vyvažovanie zaťaženia a zvyčajne presúva virtuálne stroje (VM) medzi servers alebo GPU. Deaktivácia vMotion viedla k tomu, že každému VM je teraz pridelený konkrétny grafický procesor. To pomohlo znížiť náklady pri výmene dát.
Ďalšou kľúčovou súčasťou systému DirectPath I/O. Tá umožňuje CUDA ovládaču pre paralelné výpočty komunikovať s virtuálnymi strojmi priamo, obchádzajúc hypervízor. Keď je na jednom GPU potrebné spustiť niekoľko VM, využíva sa riešenie GRID vGPU. To delenie pamäte grafickej karty na niekoľko segmentov (ale výpočtové cykly sa pri tom nedelia).
Schéma práce dvoch virtuálnych strojov bude v tomto prípade vyzerať nasledovne:
Výsledky a predpovede
Spoločnosť hypervízora, trénovaním jazykového modelu založeného na . "Zníženie" výkonu predstavovalo iba 3–4 % v porovnaní s bare metal. Na oplátku systém získal možnosť distribuovať zdroje na požiadanie v závislosti od aktuálnych zaťažení.
IT gigant tiež s kontajnermi. Inžinieri spoločnosti trénovali neurónové siete na rozpoznávanie obrázkov. Pri tom boli zdroje jedného grafického procesora rozdelené medzi štyri kontajnerové VM. V dôsledku toho výkon jednotlivých strojov klesol o 17 % (v porovnaní s jednou VM, ktorá mala plný prístup k zdrojom GPU). Avšak počet spracovávaných obrázkov za sekundu sa zvýšil trikrát. Očakáva sa, že takéto systémy použitie v oblasti analýzy údajov a počítačového modelovania.
Medzi potenciálne problémy, s ktorými sa môže VMware stretnúť, odborníci má dosť úzku cieľovú skupinu. S vysokovýkonnými systémami zatiaľ pracuje len malé množstvo spoločností. Aj keď v Statista , že do roku 2021 bude virtualizovaných už 94 % pracovných zaťažení vo svetových dátových centrách. Podľa analytikov, hodnota HPC trhu vzrastie z 32 na 45 miliárd dolárov v období od 2017 do 2022.
/ фото PD
Podobné riešenia
Na trhu je niekoľko analógov, ktoré vyvíjajú veľké IT spoločnosti: AMD a Intel.
Prvá spoločnosť pre virtualizáciu grafických procesorov používa prístup na základe SR-IOV (single-root input/output virtualization). Táto technológia poskytuje VM prístup k časti hardvérových zdrojov systému. Riešenie umožňuje rozdeliť grafický procesor medzi 16 používateľmi s rovnakým výkonom virtualizovaných systémov.
Pokiaľ ide o druhého IT giganta, ich na hypervízore Citrix XenServer 7. Spojuje prácu štandardného GPU ovládača a virtuálnej mašiny, čo umožňuje tejto poslednej zobrazovať 3D aplikácie a desktop na zariadeniach stovky používateľov.
Budúcnosť technológie
Vývojári virtuálnych grafických procesorov implementovanie systémov AI a rast popularity vysokovýkonných riešení na trhu biznis technológií. Dúfajú, že potreba spracovania veľkých objemov dát zvýši dopyt po vGPU.
Teraz výrobcovia skombinovať funkčnosť CPU a GPU v jednom jadre, aby sa urýchlilo riešenie úloh súvisiacich s grafikou, vykonávanie matematických výpočtov, logických operácií a spracovanie dát. Objavenie týchto jadier na trhu v budúcnosti zmení prístup k virtualizácii zdrojov a ich rozdeleniu medzi pracovnými záťažami vo virtuálnom a cloudovom prostredí.
Čo čítať na tému v našom firemnom blogu:
Náhodné príspevky z nášho Telegram kanála:
Zdroj: habr.com
