Předpokládá se, že virtuální servery s vGPU jsou drahé. V krátké recenzi se pokusím tuto tezi vyvrátit.

Hledání na internetu okamžitě odhalí pronájem superpočítačů s NVIDIA Tesla V100 nebo jednodušších serverů s výkonnými dedikovanými GPU. Podobné služby jsou dostupné např. , nebo . Jejich měsíční náklady se měří v desítkách tisíc rublů a já jsem chtěl najít levnější možnosti pro aplikace OpenCL a/nebo CUDA. Rozpočtových VPS s video adaptéry na ruském trhu není mnoho, v krátkém článku porovnám jejich výpočetní schopnosti pomocí syntetických testů.
Účastníci
Hostingové virtuální servery byly zařazeny do seznamu kandidátů na účast v přezkoumání. , , , и . Při získávání přístupu nebyly žádné zvláštní problémy, protože téměř všichni poskytovatelé mají bezplatné zkušební období. UltraVDS oficiálně nemá test zdarma, ale nebylo těžké se domluvit: poté, co se o publikaci dozvěděli, mi pracovníci podpory připsali částku potřebnou k objednání VPS na můj bonusový účet. V této fázi virtuální stroje VDS4YOU vypadly ze závodu, protože pro bezplatné testování hostitel vyžaduje, abyste poskytli sken vaší ID karty. Chápu, že se musíte chránit před zneužitím, ale pro ověření, údaje o pasu nebo například propojení účtu na sociální síti - to vyžaduje 1Gb.ru.
Konfigurace a ceny
Pro testování jsme použili stroje střední třídy s měsíční cenou nižší než 10 tisíc rublů: 2 výpočetní jádra, 4 GB RAM, SSD s kapacitou 20–50 GB, vGPU s 256 MB VRAM a Windows Server 2016. Než budeme hodnotit výkon VDS, podívejme se blíže na jejich grafické subsystémy. Vytvořil(a) nástroj umožňuje získat podrobné informace o hardwarových a softwarových řešeních používaných hostiteli. S jeho pomocí můžete vidět například verzi ovladače videa, velikost dostupné videopaměti a také údaje o podpoře OpenCL a CUDA.
1Gb.ru
GPUcloud
RuVDS
UltraVDS
Virtualizace
Hyper-V
OpenStack
Hyper-V
Hyper-V
Výpočetní jádra
2 * 2,6 GHz
2 * 2,8 GHz
2 * 3,4 GHz
2 * 2,2 GHz
RAM, GB
4
4
4
4
Úložiště, GB
30 (SSD)
50 (SSD)
20 (SSD)
30 (SSD)
vGPU
RemoteFX
NVIDIA GRID
RemoteFX
RemoteFX
Grafický adaptér
NVIDIA GeForce GTX 1080 Ti
NVIDIA Tesla T4
NVIDIA Quadro P4000
AMD FirePro W4300
vRAM, MB
256
4063
256
256
Podpora OpenCL
+
+
+
+
podpora CUDA
-
+
-
-
Cena za měsíc (pokud se platí ročně), rub.
3494 (3015)
7923,60
1904 (1333)
1930 (1351)
Platba za zdroje, rub
ne
CPU = 0,42 rubu za hodinu,
RAM = 0,24 rubu za hodinu,
SSD = 0,0087 rubu za hodinu,
OS Windows = 1,62 rublů/hodinu,
IPv4 = 0,15 rublů za hodinu,
vGPU (T4/4Gb) = 7 rublů za hodinu.
od 623,28 + 30 za instalaci
ne
Zkušební období
10 dny
7 dní a více dle dohody
3 dny s měsíčním vyúčtováním
ne
Z recenzovaných poskytovatelů využívá virtualizaci OpenStack a technologii NVIDIA GRID pouze GPUcloud. Vzhledem k velkému množství video paměti (k dispozici jsou profily 4, 8 a 16 GB) je služba dražší, ale na klientovi poběží aplikace OpenCL a CUDA. Zbytek uchazečů nabízí vGPU s méně VRAM, vytvořené pomocí Microsoft RemoteFX. Stojí mnohem méně, ale podporují pouze OpenCL.
Testování výkonu
Geekbench 5
S tímto populárním Můžete měřit grafický výkon pro aplikace OpenCL a CUDA. Níže uvedený graf ukazuje souhrnný výsledek s podrobnějšími údaji pro virtuální servery , GPUcloud ( и ), и k dispozici na webu vývojáře benchmarku. Jejich otevření odhalí zajímavou skutečnost: GeekBench ukazuje množství VRAM mnohem vyšší než objednaných 256 MB. Takt centrálních procesorů může být také vyšší, než je uvedeno. To je běžný jev ve virtuálních prostředích – hodně záleží na zatížení fyzického hostitele, na kterém VPS běží.

Sdílené „serverové“ vGPU jsou slabší než vysoce výkonné „desktopové“ grafické adaptéry při použití pro náročné grafické aplikace. Taková řešení jsou určena především pro výpočetní úlohy. Pro hodnocení jejich výkonu byly provedeny další syntetické testy.
FAHBench 2.3.1
Pro komplexní analýzu výpočetních schopností vGPU není vhodný, ale lze jej použít pro porovnání výkonu video adaptérů z různých VPS ve složitých výpočtech pomocí OpenCL. Distribuovaný výpočetní projekt řeší úzký problém počítačového modelování skládání proteinových molekul. Vědci se snaží pochopit příčiny patologií spojených s defektními proteiny: Alzheimerova a Parkinsonova choroba, nemoc šílených krav, roztroušená skleróza atd. Měřeno pomocí nástroje, který vytvořili Výkon s jednoduchou a dvojitou přesností je uveden v grafu. Bohužel nástroj vygeneroval chybu na virtuálním počítači UltraVDS.

Dále porovnám výsledky výpočtů pro metodu dhfr-implicitního modelování.

SiSoftware Sandra 20/20
Balíček Skvělé pro vyhodnocení výpočetních schopností virtuálních video adaptérů z různých hostitelů. Tento nástroj obsahuje sady obecných výpočetních benchmarků (GPGPU) a podporuje OpenCL, DirectCompute a CUDA. Nejprve bylo provedeno obecné posouzení různých vGPU. Diagram ukazuje souhrnný výsledek, podrobnější data pro virtuální servery , GPUcloud () A k dispozici na webu vývojáře benchmarku.

Problémy byly také se Sandřiným „dlouhým“ testem. U poskytovatele VPS GPUcloud nebylo možné provést obecné hodnocení pomocí OpenCL. Při výběru vhodné možnosti utilita stále fungovala přes CUDA. Stroj UltraVDS v tomto testu také neuspěl: benchmark při pokusu o určení latence paměti zamrzl na 86 %.
V obecném testovacím balíčku není možné vidět indikátory s dostatečnou mírou detailů nebo provádět výpočty s vysokou přesností. Museli jsme provést několik samostatných testů, počínaje určením špičkového výkonu grafického adaptéru pomocí sady jednoduchých matematických výpočtů pomocí OpenCL a (pokud možno) CUDA. Toto také zobrazuje pouze obecný indikátor a podrobné výsledky pro VPS z , GPUcloud ( и ), и k dispozici na webových stránkách.

Pro srovnání rychlosti kódování a dekódování dat má Sandra sadu kryptografických testů. Podrobné výsledky pro , GPUcloud ( и ), и .

Paralelní finanční výpočty vyžadují podpůrný výpočet adaptéru s dvojitou přesností. Toto je další důležitá oblast použití pro vGPU. Podrobné výsledky pro , GPUcloud ( и ), и .

Sandra 20/20 umožňuje otestovat možnosti využití vGPU pro vědecké výpočty s vysokou přesností: násobení matic, rychlá Fourierova transformace atd. Podrobné výsledky pro , GPUcloud ( и ), и .

Nakonec byl proveden test schopností zpracování obrazu vGPU. Podrobné výsledky pro , GPUcloud ( и ), и .

Závěry
Virtuální server GPUcloud vykázal vynikající výsledky v testech GeekBench 5 a FAHBench, ale v benchmarkových testech Sandra nepostoupil nad obecnou úroveň. Stojí mnohem více než služby konkurence, ale má výrazně větší množství video paměti a podporuje CUDA. V testech Sandra byl VPS od 1Gb.ru lídrem s vysokou přesností výpočtu, ale také není levný a v ostatních testech dopadl průměrně. UltraVDS se ukázal jako zřejmý outsider: nevím, zda zde existuje spojení, ale pouze tento hostitel nabízí klientům grafické karty AMD. V poměru cena/výkon se mi zdál jako nejlepší server RuVDS. Stojí to méně než 2000 XNUMX rublů měsíčně a testy prošly docela dobře. Konečné pořadí vypadá takto:
Místo
Hoster
Podpora OpenCL
podpora CUDA
Vysoký výkon podle GeekBench 5
Vysoký výkon podle FAHBench
Vysoký výkon podle Sandry 20/20
Nízká cena
I
RuVDS
+
-
+
+
+
+
II
1Gb.ru
+
-
+
+
+
+
III
GPUcloud
+
+
+
+
+
-
IV
UltraVDS
+
-
-
-
-
+
O vítězi jsem měl určité pochybnosti, ale recenze je věnována rozpočtu VPS s vGPU a virtuální stroj RuVDS stojí téměř polovinu než jeho nejbližší konkurent a více než čtyřikrát více než nejdražší recenzovaná nabídka. Druhé a třetí místo také nebylo snadné rozdělit, ale i zde cena převážila nad ostatními faktory.
V důsledku testování se ukázalo, že základní vGPU nejsou tak drahé a lze je již použít k řešení problémů s počítačem. Při použití syntetických testů je samozřejmě obtížné předvídat, jak se stroj bude chovat při skutečné zátěži, a kromě toho schopnost alokovat zdroje přímo závisí na jeho sousedech na fyzickém hostiteli – počítejte s tím. Pokud na ruském internetu najdete další levné VPS s vGPU, neváhejte o nich napsat do komentářů.
Zdroj: www.habr.com
