Server virtual dengan vGPU diyakini mahal. Dalam ulasan singkat saya akan mencoba membantah tesis ini.

Pencarian di Internet segera mengungkapkan persewaan superkomputer dengan NVIDIA Tesla V100 atau server yang lebih sederhana dengan GPU khusus yang kuat. Layanan serupa tersedia, misalnya, , или . Biaya bulanannya diukur dalam puluhan ribu rubel, dan saya ingin mencari opsi yang lebih murah untuk aplikasi OpenCL dan/atau CUDA. Tidak banyak VPS anggaran dengan adaptor video di pasar Rusia, dalam artikel singkat saya akan membandingkan kemampuan komputasinya menggunakan pengujian sintetis.
Peserta
Server virtual hosting dimasukkan dalam daftar kandidat untuk berpartisipasi dalam peninjauan. , , , и . Tidak ada masalah khusus dalam mendapatkan akses, karena hampir semua penyedia memiliki masa uji coba gratis. UltraVDS secara resmi tidak memiliki tes gratis, namun tidak sulit untuk mencapai kesepakatan: setelah mengetahui tentang publikasi tersebut, staf pendukung memberi kredit kepada saya sejumlah jumlah yang diperlukan untuk memesan VPS ke akun bonus saya. Pada tahap ini, mesin virtual VDS4YOU keluar dari perlombaan, karena untuk pengujian gratis hoster mengharuskan Anda memberikan scan kartu ID Anda. Saya memahami bahwa Anda perlu melindungi diri Anda dari penyalahgunaan, tetapi untuk verifikasi, detail paspor atau, misalnya, menautkan akun di jejaring sosial - ini diperlukan oleh 1Gb.ru.
Konfigurasi dan harga
Untuk pengujian, kami menggunakan mesin kelas menengah dengan harga kurang dari 10 ribu rubel per bulan: 2 inti komputasi, 4 GB RAM, 20-50 GB SSD, vGPU dengan 256 MB VRAM dan Windows Server 2016. Sebelum menilai kinerja VDS, mari kita lihat lebih dekat subsistem grafisnya. Dibuat oleh utilitas memungkinkan Anda memperoleh informasi terperinci tentang solusi perangkat keras dan perangkat lunak yang digunakan oleh hoster. Dengan bantuannya Anda dapat melihat, misalnya, versi driver video, jumlah memori video yang tersedia, serta data dukungan OpenCL dan CUDA.
1Gb.ru
GPUcloud
RuVDS
UltraVDS
Virtualisasi
Hyper-V
OpenStack
Hyper-V
Hyper-V
Inti komputasi
2*2,6GHz
2*2,8GHz
2*3,4GHz
2*2,2GHz
RAM, GB
4
4
4
4
Penyimpanan, GB
30 (SSD)
50 (SSD)
20 (SSD)
30 (SSD)
vGPU
RemoteFX
NVIDIA GRID
RemoteFX
RemoteFX
Adaptor video
NVIDIA GeForce GTX 1080 Ti
NVIDIA Tesla T4
NVIDIA Quadro P4000
AMD FirePro W4300
vRAM, MB
256
4063
256
256
dukungan OpenCL
+
+
+
+
dukungan CUDA
-
+
-
-
Harga per bulan (jika dibayar setiap tahun), gosok.
3494 (3015)
7923,60
1904 (1333)
1930 (1351)
Pembayaran untuk sumber daya, gosok
tidak
CPU = 0,42 gosok/jam,
RAM = 0,24 gosok/jam,
SSD = 0,0087 gosok/jam,
OS Windows = 1,62 rubel/jam,
IPv4 = 0,15 gosok/jam,
vGPU (T4/4Gb) = 7 rubel/jam.
dari 623,28 + 30 per instalasi
tidak
Masa percobaan
10 hari
7 hari atau lebih dengan persetujuan
3 hari dengan tagihan bulanan
tidak
Dari penyedia yang diulas, hanya GPUcloud yang menggunakan virtualisasi OpenStack dan teknologi NVIDIA GRID. Karena jumlah memori video yang besar (tersedia profil 4, 8 dan 16 GB), layanan ini lebih mahal, tetapi klien akan menjalankan aplikasi OpenCL dan CUDA. Pesaing lainnya menawarkan vGPU dengan VRAM lebih sedikit, dibuat menggunakan Microsoft RemoteFX. Harganya jauh lebih murah, tetapi hanya mendukung OpenCL.
Pengujian kinerja
GeekBench 5
Dengan ini populer Anda dapat mengukur kinerja grafis untuk aplikasi OpenCL dan CUDA. Bagan di bawah ini menunjukkan hasil ringkasan, dengan data lebih rinci untuk server virtual , GPUcloud ( и ), и tersedia di situs web pengembang benchmark. Membukanya mengungkapkan fakta menarik: GeekBench menunjukkan jumlah VRAM jauh lebih tinggi daripada 256 MB yang dipesan. Kecepatan jam prosesor pusat mungkin juga lebih tinggi dari yang dinyatakan. Ini adalah kejadian umum di lingkungan virtual - banyak hal bergantung pada beban pada host fisik tempat VPS dijalankan.

VGPU “server” bersama lebih lemah dibandingkan adaptor video “desktop” berkinerja tinggi bila digunakan untuk aplikasi grafis berat. Solusi semacam itu ditujukan terutama untuk tugas-tugas komputasi. Tes sintetik lainnya dilakukan untuk mengevaluasi kinerjanya.
FAHBench 2.3.1
Untuk analisis komprehensif kemampuan komputasi vGPU tidak cocok, tetapi dapat digunakan untuk membandingkan kinerja adaptor video dari VPS berbeda dalam perhitungan kompleks menggunakan OpenCL. Proyek Komputasi Terdistribusi memecahkan masalah sempit pemodelan komputer tentang pelipatan molekul protein. Para peneliti mencoba memahami penyebab patologi yang terkait dengan protein yang rusak: penyakit Alzheimer dan Parkinson, penyakit sapi gila, multiple sclerosis, dll. Diukur menggunakan utilitas yang mereka buat Kinerja presisi tunggal dan ganda ditunjukkan pada grafik. Sayangnya, utilitas tersebut menghasilkan kesalahan pada mesin virtual UltraVDS.

Selanjutnya saya akan membandingkan hasil perhitungan metode pemodelan dhfr-implisit.

SiSoftware Sandra 20/20
Paket Sangat bagus untuk mengevaluasi kemampuan komputasi adaptor video virtual dari berbagai hoster. Utilitas ini berisi rangkaian benchmark komputasi tujuan umum (GPGPU) dan mendukung OpenCL, DirectCompute, dan CUDA. Untuk memulainya, penilaian umum terhadap berbagai vGPU telah dilakukan. Diagram menunjukkan hasil ringkasan, data lebih rinci untuk server virtual , GPUcloud () Dan tersedia di situs web pengembang benchmark.

Ada juga masalah dengan ujian “panjang” Sandra. Untuk penyedia VPS GPUcloud, penilaian umum tidak dapat dilakukan menggunakan OpenCL. Saat memilih opsi yang sesuai, utilitas masih bekerja melalui CUDA. Mesin UltraVDS juga gagal dalam pengujian ini: benchmark terhenti pada 86% saat mencoba menentukan latensi memori.
Dalam paket pengujian umum, tidak mungkin melihat indikator dengan tingkat detail yang memadai atau melakukan penghitungan dengan akurasi tinggi. Kami harus menjalankan beberapa pengujian terpisah, dimulai dengan menentukan kinerja puncak adaptor video menggunakan serangkaian perhitungan matematis sederhana menggunakan OpenCL dan (jika mungkin) CUDA. Ini juga hanya menampilkan indikator umum, dan hasil detail untuk VPS , GPUcloud ( и ), и tersedia di situs web.

Untuk membandingkan kecepatan pengkodean dan penguraian kode data, Sandra memiliki serangkaian tes kriptografi. Hasil terperinci untuk , GPUcloud ( и ), и .

Perhitungan keuangan paralel memerlukan perhitungan adaptor presisi ganda yang mendukung. Ini adalah area penerapan vGPU penting lainnya. Hasil terperinci untuk , GPUcloud ( и ), и .

Sandra 20/20 memungkinkan Anda menguji kemungkinan penggunaan vGPU untuk perhitungan ilmiah dengan akurasi tinggi: perkalian matriks, transformasi Fourier cepat, dll. Hasil terperinci untuk , GPUcloud ( и ), и .

Terakhir, dilakukan pengujian terhadap kemampuan pemrosesan gambar vGPU. Hasil terperinci untuk , GPUcloud ( и ), и .

Temuan
Server virtual GPUcloud menunjukkan hasil yang sangat baik dalam pengujian GeekBench 5 dan FAHBench, tetapi tidak melampaui level umum dalam pengujian benchmark Sandra. Biayanya jauh lebih mahal dibandingkan layanan pesaing, namun memiliki jumlah memori video yang jauh lebih besar dan mendukung CUDA. Dalam pengujian Sandra, VPS dari 1Gb.ru adalah yang terdepan dengan akurasi penghitungan yang tinggi, tetapi juga tidak murah dan kinerjanya rata-rata dalam pengujian lainnya. UltraVDS ternyata merupakan pihak luar yang jelas: Saya tidak tahu apakah ada koneksi di sini, tetapi hanya hoster ini yang menawarkan kartu video AMD kepada klien. Dalam hal rasio harga/kinerja, server RuVDS menurut saya adalah yang terbaik. Biayanya kurang dari 2000 rubel per bulan, dan pengujiannya lulus dengan cukup baik. Klasemen akhir terlihat seperti ini:
Tempat
tuan rumah
dukungan OpenCL
dukungan CUDA
Performa tinggi menurut GeekBench 5
Performa tinggi menurut FAHBench
Performa tinggi menurut Sandra 20/20
Harga rendah
I
RuVDS
+
-
+
+
+
+
II
1Gb.ru
+
-
+
+
+
+
III
GPUcloud
+
+
+
+
+
-
IV
UltraVDS
+
-
-
-
-
+
Saya memiliki beberapa keraguan tentang pemenangnya, tetapi ulasan ini didedikasikan untuk VPS anggaran dengan vGPU, dan mesin virtual RuVDS harganya hampir setengah dari pesaing terdekatnya dan lebih dari empat kali lipat dari penawaran termahal yang diulas. Tempat kedua dan ketiga juga tidak mudah untuk dibagi, tapi di sini juga harganya melebihi faktor lainnya.
Dari hasil pengujian, ternyata vGPU entry-level tidak begitu mahal dan sudah bisa digunakan untuk menyelesaikan masalah komputasi. Tentu saja, dengan menggunakan pengujian sintetik, sulit untuk memprediksi bagaimana suatu mesin akan berperilaku di bawah beban sebenarnya, dan selain itu, kemampuan untuk mengalokasikan sumber daya secara langsung bergantung pada tetangganya pada host fisik - berikan kelonggaran untuk hal ini. Jika Anda menemukan VPS anggaran lainnya dengan vGPU di Internet Rusia, jangan ragu untuk menuliskannya di komentar.
Sumber: www.habr.com
