Situatioun: virtuell GPUs sinn net schwaach am Leeschtung zu Hardware Léisungen

Am Februar huet de Stanford eng Konferenz iwwer High-Performance Computing (HPC) gehost. VMware Vertrieder gesot, datt wann Dir mat enger GPU schafft, e System baséiert op engem geännert ESXi Hypervisor net schwaach am Vitesse ze blo Metal Léisungen.

Mir schwätzen iwwer d'Technologien déi et méiglech gemaach hunn dëst z'erreechen.

Situatioun: virtuell GPUs sinn net schwaach am Leeschtung zu Hardware Léisungen
/ Foto Victorgrigas CC BY-SA

Leeschtung Problem

Laut Analysten, ongeféier 70% vun Aarbechtslaascht an Datenzenteren virtualiséiert. Wéi och ëmmer, déi reschtlech 30% lafen nach ëmmer op Bare Metal ouni Hypervisoren. Dës 30% besteet meeschtens aus héich-Laascht Uwendungen, sou wéi déi am Zesummenhang mat Training neural Netzwierker, a mat GPUs.

Experten erklären dësen Trend duerch d'Tatsaach, datt den Hypervisor, als Zwëschenabstraktiounsschicht, d'Performance vum ganze System beaflosse kann. A Studien viru fënnef Joer Dir kënnt d'Donnéeën fannen iwwer d'Reduktioun vun der Geschwindegkeet vun der Aarbecht ëm 10%. Dofir sinn Firmen an Datenzenterbetreiber net presséiert fir HPC Aarbechtslaascht an e virtuellt Ëmfeld ze transferéieren.

Awer Virtualiséierungstechnologien entwéckelen a verbesseren. Op enger Konferenz virun engem Mount sot VMware datt den ESXi Hypervisor keen negativen Impakt op d'GPU Leeschtung huet. Rechengeschwindegkeet kann ëm dräi Prozent reduzéiert ginn, wat vergläichbar ass mat kalem Metal.

Wéi heescht dat Aarbecht

Fir d'Performance vun HPC Systemer mat GPUs ze verbesseren, huet VMware eng Rei Ännerungen am Hypervisor gemaach. Besonnesch war et vun der vMotion Funktioun lass. Et ass néideg fir Laaschtbalancéierung a transferéiert normalerweis virtuelle Maschinnen (VMs) tëscht Serveren oder GPUs. VMotion auszeschalten huet dozou gefouert datt all VM elo eng spezifesch GPU zougewisen gëtt. Dëst huet gehollef d'Käschte beim Austausch vun Daten ze reduzéieren.

En anere Schlësselkomponent vum System ass Technologie DirectPath I/O. Et erlaabt dem CUDA Parallel Computing Chauffer direkt mat virtuelle Maschinnen ze interagéieren, den Hypervisor ëmzegoen. Wann Dir e puer VMs op enger GPU gläichzäiteg muss lafen, gëtt d'GRID vGPU Léisung benotzt. Et deelt d'Erënnerung vun der Kaart an e puer Segmenter (awer d'Rechnungszyklen sinn net opgedeelt).

D'Operatiounsdiagramm vun zwou virtuelle Maschinnen an dësem Fall wäert esou ausgesinn:

Situatioun: virtuell GPUs sinn net schwaach am Leeschtung zu Hardware Léisungen

Resultater a Prognosen

D 'Firma Tester gemaach hypervisor duerch Training e Sproochemodell baséiert op TensorFlow. D'Performance "Schued" war nëmmen 3-4% am Verglach zum kale Metal. Als Retour konnt de System Ressourcen op Nofro ofhängeg vun der aktueller Laascht verdeelen.

Och den IT-Riese Tester gemaach mat Behälter. D'Ingenieuren vun der Firma hunn neural Netzwierker trainéiert fir Biller ze erkennen. Zur selwechter Zäit goufen d'Ressourcen vun enger GPU ënner véier Container VMs verdeelt. Als Resultat ass d'Performance vun eenzelne Maschinnen ëm 17% erofgaang (am Verglach zu engem eenzegen VM mat vollen Zougang zu GPU Ressourcen). Allerdéngs ass d'Zuel vun de Biller pro Sekonn veraarbecht erhéicht dräimol. Et gëtt erwaart, datt esou systemer wäert fannen Uwendungen an Datenanalyse a Computermodelléierung.

Ënnert de potenzielle Probleemer déi VMware konfrontéiere kënnen, Experten verdeelen éischter schmuel Zilgrupp. Eng kleng Zuel vu Firmen schaffe nach ëmmer mat High-Performance Systemer. Obwuel an Statista feierendatt bis 2021 94% vun den Aarbechtslaascht vun der Welt Datenzenter virtualiséiert ginn. Vun Prognosen Analysten, wäert de Wäert vum HPC Maart vun 32 bis 45 Milliarden Dollar an der Period vun 2017 bis 2022 wuessen.

Situatioun: virtuell GPUs sinn net schwaach am Leeschtung zu Hardware Léisungen
/ Foto Global Access Point PD

Ähnlech Léisungen

Et gi verschidde Analoga um Maart, déi vu groussen IT Firmen entwéckelt ginn: AMD an Intel.

Déi éischt Firma fir GPU Virtualiséierung bitt Approche baséiert op SR-IOV (Single-Root Input / Output Virtualization). Dës Technologie gëtt dem VM Zougang zu Deel vun de System Hardware Fäegkeeten. D'Léisung erlaabt Iech d'GPU tëscht 16 Benotzer mat der selwechter Leeschtung vu virtualiséierte Systemer ze deelen.

Wéi fir den zweeten IT Ris, si Technologie baséiert op der Hypervisor Citrix XenServer 7. Et kombinéiert d'Aarbecht vun engem Standard GPU Chauffer an enger virtueller Maschinn, déi et erlaabt 3D Applikatiounen an Desktops op Apparater vun honnerte vu Benotzer ze weisen.

Zukünfteg Technologie

Virtuell GPU Entwéckler maachen eng wetten iwwer d'Ëmsetzung vun AI Systemer an d'wuessend Popularitéit vun High-Performance Léisungen am Geschäftstechnologiemaart. Si hoffen datt d'Notzung fir grouss Quantitéiten un Daten ze veraarbechten d'Nofro fir vGPUs erhéijen.

Elo Hiersteller Sich no engem Wee kombinéieren d'Funktionalitéit vun der CPU an der GPU an engem Kär fir d'Léisung vu Problemer mat Grafiken ze beschleunegen, mathematesch Berechnungen, logesch Operatiounen an Datenveraarbechtung ze maachen. D'Erscheinung vun esou Cores um Maart an der Zukunft wäert d'Approche fir d'Ressourcevirtualiséierung änneren an hir Verdeelung tëscht Aarbechtslaaschten an virtuellen a Cloud-Ëmfeld.

Wat iwwer dëst Thema an eisem Firmeblog ze liesen:

E puer Posts vun eisem Telegram Kanal:

Source: will.com

Setzt e Commentaire