Vaziyat: virtual grafik protsessorlar unumdorligi jihatidan apparat yechimlaridan kam emas

Fevral oyida Stenfordda yuqori samarali hisoblash (HPC) bo'yicha konferentsiya bo'lib o'tdi. VMware vakillarining ta'kidlashicha, GPU bilan ishlashda o'zgartirilgan ESXi gipervizoriga asoslangan tizim tezligi bo'yicha yalang'och metall yechimlardan qolishmaydi.

Biz bunga erishishga imkon bergan texnologiyalar haqida gapiramiz.

Vaziyat: virtual grafik protsessorlar unumdorligi jihatidan apparat yechimlaridan kam emas
/ rasm Viktorgrigas CC BY-SA

Ishlash muammosi

Tahlilchilarning fikriga ko'ra, ish yuklarining taxminan 70% ma'lumotlar markazlarida virtuallashtirilgan. Biroq, qolgan 30% hali ham gipervisorlarsiz yalang'och metallda ishlaydi. Ushbu 30% asosan neyron tarmoqlarni o'qitish va GPU'lardan foydalanish kabi yuqori yuklangan ilovalardan iborat.

Mutaxassislar bu tendentsiyani gipervisor oraliq abstraksiya qatlami sifatida butun tizimning ishlashiga ta'sir qilishi bilan izohlaydilar. Besh yil oldin o'qishda ma'lumotlarni topishingiz mumkin ish tezligini 10% ga kamaytirish haqida. Shu sababli, kompaniyalar va ma'lumotlar markazi operatorlari HPC ish yuklarini virtual muhitga o'tkazishga shoshilmayaptilar.

Ammo virtualizatsiya texnologiyalari rivojlanmoqda va takomillashtirilmoqda. Bir oy oldin bo'lib o'tgan konferentsiyada VMware ESXi gipervisor GPU ishlashiga salbiy ta'sir ko'rsatmasligini aytdi. Hisoblash tezligi uch foizga kamayishi mumkin, bu yalang'och metall bilan solishtirish mumkin.

U qanday ishlaydi

GPU-lar bilan HPC tizimlarining ishlashini yaxshilash uchun VMware gipervisorga bir qator o'zgarishlar kiritdi. Xususan, u vMotion funksiyasidan xalos bo'ldi. Bu yukni muvozanatlash uchun kerak va odatda virtual mashinalarni (VM) serverlar yoki GPUlar o'rtasida uzatadi. vMotion-ni o'chirib qo'yish har bir VM-ga ma'lum bir GPU tayinlanishiga olib keldi. Bu ma'lumot almashishda xarajatlarni kamaytirishga yordam berdi.

Tizimning yana bir asosiy komponenti texnologiya hisoblanadi DirectPath I/U. Bu CUDA parallel hisoblash drayveriga gipervisorni chetlab o'tib, virtual mashinalar bilan to'g'ridan-to'g'ri ishlashga imkon beradi. Bir vaqtning o'zida bir GPUda bir nechta VMlarni ishga tushirish kerak bo'lganda, GRID vGPU yechimi ishlatiladi. U karta xotirasini bir necha segmentlarga ajratadi (lekin hisoblash davrlari bo'linmaydi).

Bu holda ikkita virtual mashinaning ishlash diagrammasi quyidagicha ko'rinadi:

Vaziyat: virtual grafik protsessorlar unumdorligi jihatidan apparat yechimlaridan kam emas

Natijalar va prognozlar

kompaniya sinovlar o‘tkazdi asosida til modelini o'rgatish orqali hypervisor TensorFlow. Yalang'och metallga nisbatan "zarar" unumdorligi atigi 3-4% ni tashkil etdi. Buning evaziga tizim resurslarni joriy yuklamaga qarab talab bo‘yicha taqsimlay oldi.

IT giganti ham sinovlar o‘tkazdi konteynerlar bilan. Kompaniya muhandislari neyron tarmoqlarni tasvirlarni tanib olishga o‘rgatishdi. Shu bilan birga, bitta GPU resurslari to'rtta konteyner VM o'rtasida taqsimlandi. Natijada, alohida mashinalarning ishlashi 17% ga kamaydi (GPU resurslariga to'liq kirish imkoniga ega bo'lgan yagona VM bilan solishtirganda). Biroq, soniyada qayta ishlangan tasvirlar soni ortdi uch marta. Bunday tizimlar kutilmoqda topadi ma'lumotlarni tahlil qilish va kompyuter modellashtirishda ilovalar.

VMware duch kelishi mumkin bo'lgan muammolar orasida mutaxassislar chiqaring ancha tor maqsadli auditoriya. Kam sonli kompaniyalar hali ham yuqori samarali tizimlar bilan ishlamoqda. Statistada bo'lsa ham eslatma2021 yilga borib dunyo maʼlumotlar markazlari ish yuklarining 94 foizi virtualizatsiya qilinadi. tomonidan prognozlari Tahlilchilarning fikriga ko'ra, HPC bozorining qiymati 32 yildan 45 yilgacha bo'lgan davrda 2017 dan 2022 milliard dollargacha o'sadi.

Vaziyat: virtual grafik protsessorlar unumdorligi jihatidan apparat yechimlaridan kam emas
/ rasm Global kirish nuqtasi PD

Shunga o'xshash echimlar

Bozorda yirik IT kompaniyalari tomonidan ishlab chiqilgan bir nechta analoglar mavjud: AMD va Intel.

GPU virtualizatsiyasi bo'yicha birinchi kompaniya takliflar SR-IOV (bitta ildizli kirish/chiqish virtualizatsiyasi) asosidagi yondashuv. Ushbu texnologiya VMga tizimning apparat imkoniyatlarining bir qismiga kirish imkonini beradi. Yechim virtuallashtirilgan tizimlarning teng ishlashi bilan 16 foydalanuvchi o'rtasida GPU-ni almashish imkonini beradi.

Ikkinchi IT gigantiga kelsak, ular texnologiyaga asoslangan Citrix XenServer 7 gipervisorida.U standart GPU drayveri va virtual mashinaning ishini birlashtiradi, bu esa ikkinchisiga yuzlab foydalanuvchilarning qurilmalarida 3D ilovalar va ish stollarini ko'rsatish imkonini beradi.

Texnologiyaning kelajagi

Virtual GPU ishlab chiquvchilari pul tikish AI tizimlarini joriy etish va biznes texnologiyalari bozorida yuqori samarali yechimlarning tobora ommalashib borayotgani haqida. Ular katta hajmdagi ma'lumotlarni qayta ishlash zarurati vGPU-larga bo'lgan talabni oshiradi, deb umid qiladilar.

Endi ishlab chiqaruvchilar yo'l izlaydi grafika bilan bog'liq muammolarni hal qilishni, matematik hisob-kitoblarni, mantiqiy operatsiyalarni va ma'lumotlarni qayta ishlashni tezlashtirish uchun CPU va GPU funksionalligini bir yadroda birlashtiradi. Kelajakda bozorda bunday yadrolarning paydo bo'lishi resurslarni virtuallashtirishga yondashuvni va ularni virtual va bulutli muhitdagi ish yuklari o'rtasida taqsimlashni o'zgartiradi.

Bizning korporativ blogimizda mavzu bo'yicha nimani o'qish kerak:

Telegram kanalimizdan bir nechta postlar:

Manba: www.habr.com

a Izoh qo'shish