Считается, будто виртуальные серверы с vGPU стоят дорого. В небольшом обзоре я попробую опровергнуть этот тезис.
Поиск в сети сходу выдает аренду суперкомпьютеров на NVIDIA Tesla V100 или серверов с мощными выделенными GPU попроще. Подобные услуги есть, к примеру, у , или . Их месячная стоимость измеряется десятками тысяч рублей, а мне хотелось найти более дешевые варианты для приложений OpenCL и/или CUDA. Бюджетных VPS с видеоадаптерами на российском рынке не так много, в небольшой статье я сравню их вычислительные возможности с помощью синтетических тестов.
Участники
В список кандидатов на участие в обзоре попали виртуальные серверы хостеров , , , и . С получением доступа особых проблем не возникло, поскольку почти у всех провайдеров есть бесплатный тестовый период. У UltraVDS бесплатного теста официально нет, но договориться оказалось несложно: узнав о публикации, сотрудники поддержки накинули мне нужную для заказа VPS сумму на бонусный счет. На этом этапе с дистанции сошли виртуальные машины VDS4YOU, потому что для бесплатного тестирования хостер требует предоставить скан удостоверения личности. Понимаю, что от злоупотреблений нужно защищаться, но для проверки вполне достаточно реквизитов паспорта или, например, привязки аккаунта в социальной сети — ее требует 1Gb.ru.
Конфигурации и цены
Для тестирования были взяты машины среднего уровня, стоимостью менее 10 тысяч рублей в месяц: 2 вычислительных ядра, 4 ГБ оперативной памяти, SSD на 20 — 50 ГБ, vGPU с 256 МБ VRAM и Windows Server 2016. Перед оценкой производительности VDS посмотрим на их графические подсистемы вооруженным взглядом. Созданная компанией утилита позволяет получить подробную информацию об используемых хостерами аппаратных и программных решениях. С ее помощью можно увидеть, например, версию видеодрайвера, объем доступной видеопамяти, а также данные о поддержке OpenCL и CUDA.
1Gb.ru
GPUcloud
RuVDS
UltraVDS
Виртуализация
Hyper-V
OpenStack
Hyper-V
Hyper-V
Вычислительных ядер
2*2,6 ГГц
2*2,8 ГГц
2*3,4 ГГц
2*2,2 ГГц
RAM, ГБ
4
4
4
4
Накопитель, ГБ
30 (SSD)
50 (SSD)
20 (SSD)
30 (SSD)
vGPU
RemoteFX
NVIDIA GRID
RemoteFX
RemoteFX
Видеоадаптер
NVIDIA GeForce GTX 1080 Ti
NVIDIA Tesla T4
NVIDIA Quadro P4000
AMD FirePro W4300
vRAM, МБ
256
4063
256
256
Поддержка OpenCL
+
+
+
+
Поддержка CUDA
—
+
—
—
Цена в месяц (при оплате за год), руб.
3494 (3015)
7923,60
1904 (1333)
1930 (1351)
Оплата за ресурсы, руб
нет
CPU = 0,42 руб/час,
RAM = 0,24 руб/час,
SSD = 0,0087 руб/час,
OS Windows = 1,62 руб/час,
IPv4 = 0,15 руб/час,
vGPU (T4/4Gb) = 7 руб/час.
от 623,28 + 30 за инсталляцию
нет
Тестовый период
10 дней
7 дней или больше по договоренности
3 дня при помесячной тарификации
нет
Из рассмотренных провайдеров только GPUcloud использует виртуализацию OpenStack и технологию NVIDIA GRID. Из-за большого объема видеопамяти (доступны профили на 4, 8 и 16 ГБ) услуга стоит дороже, но у клиента будут работать приложения OpenCL и CUDA. Остальные претенденты предлагают vGPU и с меньшим объемом VRAM, созданные с использованием Microsoft RemoteFX. Стоят они значительно дешевле, но поддерживают только OpenCL.
Тестирование производительности
GeekBench 5
С помощью этой популярной можно измерить производительность графической подсистемы для приложений OpenCL и CUDA. На приведенной ниже диаграмме показан сводный результат, а более подробные данные для виртуальных серверов , GPUcloud ( и ), и доступны на сайте разработчика бенчмарка. Если их открыть, обнаружится интересный факт: GeekBench показывает объемы VRAM, намного превышающие заказанные 256 МБ. Тактовая частота центральных процессоров также может быть больше заявленной. В виртуальных средах это обычное явление — многое зависит от загруженности физического хоста, на котором работает VPS.
Разделяемые «серверные» vGPU слабее производительных «настольных» видеоадаптеров, если использовать их для тяжеловесных графических приложений. Такие решения предназначены в основном для вычислительных задач. Для оценки их эффективности были проведены другие синтетические тесты.
FAHBench 2.3.1
Для всестороннего анализа вычислительных возможностей vGPU не подходит, но с его помощью можно сравнить производительность видеоадаптеров разных VPS в сложных расчетах с использованием OpenCL. Проект распределенных вычислений решает узкую задачу компьютерного моделирования свертывания белковых молекул. Исследователи пытаются понять причины возникновения связанных с дефектными белками патологий: болезней Альцгеймера и Паркинсона, коровьего бешенства, рассеянного склероза и т.д. Измеренная с помощью созданной ими утилиты производительность вычислений с одинарной и двойной точностью показана на диаграмме. К сожалению на виртуальной машине UltraVDS утилита выдала ошибку.
Дальше приведу сравнение результатов вычислений для метода моделирования dhfr-implicit.
SiSoftware Sandra 20/20
Пакет отлично подходит для оценки вычислительных возможностей виртуальных видеоадаптеров различных хостеров. Утилита содержит наборы эталонных вычислительных тестов общего назначения (GPGPU) и поддерживает OpenCL, DirectCompute и CUDA. Для начала была сделана общая оценка разных vGPU. Диаграмма показывает сводный результат, более подробные данные для виртуальных серверов , GPUcloud () и доступны на сайте разработчика бенчмарка.
С «длинным» тестом Sandra тоже были проблемы. Для VPS провайдера GPUcloud не получилось провести общую оценку с использованием OpenCL. При выборе соответствующей опции утилита все равно работала через CUDA. Не прошел этот тест и для машины UltraVDS: бенчмарк замер на 86%, пытаясь определить латентность памяти.
В общем пакете тестов нельзя увидеть показатели с достаточной степенью детализации или проделать вычисления с высокой точностью. Пришлось провести несколько отдельных испытаний, начиная с определения пиковой производительности видеоадаптера с помощью набора простых математических расчетов с использованием OpenCL и (если это возможно) CUDA. Здесь также отражен только общий показатель, а детализированные результаты для VPS от , GPUcloud ( и ), и доступны на сайте.
Для сравнения скорости кодирования и декодирования данных в Sandra есть набор криптографических тестов. На сайте доступны подробные результаты для , GPUcloud ( и ), и .
Параллельные финансовые расчеты требуют поддерживающего вычисления с двойной точностью адаптера. Это еще одна важная сфера применения vGPU. На сайте доступны подробные результаты для , GPUcloud ( и ), и .
Sandra 20/20 позволяет протестировать возможности использования vGPU для научных расчетов с высокой точностью: умножения матриц, быстрого преобразования Фурье и т.д. На сайте доступны подробные результаты для , GPUcloud ( и ), и .
Напоследок был проведен тест возможностей vGPU по обработке изображений. На сайте доступны подробные результаты для , GPUcloud ( и ), и .
Выводы
Виртуальный сервер GPUcloud показал отличные результаты в тестах GeekBench 5 и FAHBench, но в эталонных тестах Sandra выше общего уровня не поднялся. Стоит он намного дороже услуг конкурентов, однако имеет значительно больший объем видеопамяти и поддерживает CUDA. В тестах Sandra с высокой точностью вычислений лидировал VPS от 1Gb.ru, но он тоже не из дешевых и в других испытаниях проявил себя средне. Явным аутсайдером оказался UltraVDS: не знаю есть ли тут связь, но только этот хостер предлагает клиентам видеокарты AMD. По соотношению цена/производительность лучшим мне показался сервер RuVDS. Стоит он меньше 2000 рублей в месяц, при этом испытания прошел вполне достойно. Итоговая турнирная таблица выглядит следующим образом:
Место
Хостер
Поддержка OpenCL
Поддержка CUDA
Высокая производительность по GeekBench 5
Высокая производительность по FAHBench
Высокая производительность по Sandra 20/20
Низкая цена
I
RuVDS
+
—
+
+
+
+
II
1Gb.ru
+
—
+
+
+
+
III
GPUcloud
+
+
+
+
+
—
IV
UltraVDS
+
—
—
—
—
+
У меня были определенные сомнения по поводу победителя, но обзор посвящен бюджетным VPS с vGPU, а виртуальная машина RuVDS стоит почти вдвое дешевле ближайшего конкурента и более чем вчетверо — самого дорогого предложения из рассмотренных. Второе и третье место тоже было непросто поделить, но и здесь цена перевесила прочие факторы.
В результате тестирования выяснилось, что vGPU начального уровня стоят не так дорого и пользоваться ими для решения вычислительных задач уже можно. Конечно по синтетическим тестам сложно предсказать, как поведет себя машина под реальной нагрузкой, к тому же от соседей по физическому хосту напрямую зависит возможность выделения ресурсов — делайте на это скидку. Если же вы найдете на просторах рунета другие бюджетные VPS с vGPU, не сочтите за труд написать о них в комментариях.
Источник: habr.com