در ماه فوریه، استنفورد میزبان کنفرانسی در مورد محاسبات با عملکرد بالا (HPC) بود. نمایندگان VMware گفتند که هنگام کار با یک GPU، سیستم مبتنی بر یک Hypervisor اصلاح شده ESXi از نظر سرعت نسبت به راه حل های فلزی لخت پایین نیست.
ما در مورد فناوری هایی صحبت می کنیم که دستیابی به این هدف را ممکن ساخته است.
/ عکس
مسئله عملکرد
به گفته تحلیلگران، حدود 70 درصد از حجم کاری در مراکز داده است . با این حال، 30 درصد باقیمانده هنوز روی فلز خالی و بدون هایپروایزر اجرا می شود. این 30 درصد بیشتر شامل برنامه های کاربردی با بار بالا، مانند برنامه های مربوط به آموزش شبکه های عصبی و استفاده از GPU است.
کارشناسان این روند را با این واقعیت توضیح می دهند که هایپروایزر به عنوان یک لایه انتزاعی میانی می تواند بر عملکرد کل سیستم تأثیر بگذارد. در مطالعات پنج سال پیش در مورد کاهش سرعت کار تا 10 درصد. بنابراین، شرکت ها و اپراتورهای مراکز داده عجله ای برای انتقال بار کاری HPC به یک محیط مجازی ندارند.
اما فناوری های مجازی سازی در حال توسعه و بهبود هستند. در یک کنفرانس یک ماه پیش، VMware گفت که هایپروایزر ESXi تأثیر منفی بر عملکرد GPU ندارد. سرعت محاسبات را می توان تا سه درصد کاهش داد که با فلز لخت قابل مقایسه است.
چطور کار می کند؟
برای بهبود عملکرد سیستم‌های HPC با پردازنده‌های گرافیکی، VMware تغییراتی را در Hypervisor اعمال کرده است. به طور خاص، از تابع vMotion خلاص شد. برای متعادل کردن بار مورد نیاز است و معمولا ماشین های مجازی (VM) را بین سرورها یا GPU ها منتقل می کند. غیرفعال کردن vMotion باعث شد که اکنون به هر ماشین مجازی یک GPU خاص اختصاص داده شود. این به کاهش هزینه ها هنگام تبادل داده کمک کرد.
یکی دیگر از اجزای کلیدی سیستم DirectPath I/O. این به درایور محاسبات موازی CUDA اجازه می دهد تا مستقیماً با ماشین های مجازی تعامل داشته باشد و هایپروایزر را دور بزند. هنگامی که شما نیاز به اجرای همزمان چندین ماشین مجازی روی یک GPU دارید، از راه حل GRID vGPU استفاده می شود. حافظه کارت را به چند بخش تقسیم می کند (اما چرخه های محاسباتی تقسیم نمی شوند).
نمودار عملکرد دو ماشین مجازی در این حالت به صورت زیر خواهد بود:
نتایج و پیش بینی ها
شرکت هایپروایزر با آموزش یک مدل زبان بر اساس . عملکرد "آسیب" در مقایسه با فلز لخت فقط 3-4٪ بود. در ازای آن، سیستم قادر به توزیع منابع بر اساس تقاضا بسته به بار فعلی بود.
غول فناوری اطلاعات نیز با ظروف مهندسان این شرکت شبکه های عصبی را برای تشخیص تصاویر آموزش دادند. در همان زمان، منابع یک GPU بین چهار VM کانتینری توزیع شد. در نتیجه، عملکرد ماشین‌های جداگانه 17% کاهش یافت (در مقایسه با یک ماشین مجازی با دسترسی کامل به منابع GPU). با این حال، تعداد تصاویر پردازش شده در هر ثانیه سه بار. انتظار می رود که چنین سیستم هایی کاربرد در تحلیل داده ها و مدل سازی کامپیوتری
از جمله مشکلات احتمالی که VMware ممکن است با آن مواجه شود، کارشناسان مخاطب هدف نسبتاً محدود تعداد کمی از شرکت ها هنوز با سیستم های با کارایی بالا کار می کنند. اگرچه در Statista تا سال 2021، 94 درصد از حجم کاری مراکز داده جهان مجازی سازی خواهد شد. توسط تحلیلگران، ارزش بازار HPC از 32 به 45 میلیارد دلار در دوره 2017 تا 2022 رشد خواهد کرد.
/ عکس PD
راه حل های مشابه
چندین آنالوگ در بازار وجود دارد که توسط شرکت های بزرگ فناوری اطلاعات توسعه یافته است: AMD و Intel.
اولین شرکت مجازی سازی GPU رویکرد مبتنی بر SR-IOV (مجازی سازی ورودی/خروجی تک ریشه). این فناوری به VM امکان دسترسی به بخشی از قابلیت های سخت افزاری سیستم را می دهد. این راه حل به شما امکان می دهد GPU را بین 16 کاربر با عملکرد برابر سیستم های مجازی سازی شده به اشتراک بگذارید.
در مورد غول دوم فناوری اطلاعات، آنها در Hypervisor Citrix XenServer 7. کار یک درایور استاندارد GPU و یک ماشین مجازی را ترکیب می کند که به دومی اجازه می دهد برنامه های کاربردی و دسکتاپ های سه بعدی را روی دستگاه های صدها کاربر نمایش دهد.
آینده فناوری
توسعه دهندگان گرافیک مجازی در مورد پیاده سازی سیستم های هوش مصنوعی و محبوبیت فزاینده راه حل های با کارایی بالا در بازار فناوری کسب و کار. آنها امیدوارند که نیاز به پردازش مقادیر زیادی از داده ها باعث افزایش تقاضا برای vGPU ها شود.
اکنون تولید کنندگان ترکیب عملکرد CPU و GPU در یک هسته برای سرعت بخشیدن به حل مسائل مربوط به گرافیک، انجام محاسبات ریاضی، عملیات منطقی و پردازش داده ها. ظهور چنین هسته هایی در بازار در آینده رویکرد مجازی سازی منابع و توزیع آنها بین حجم کاری در محیط های مجازی و ابری را تغییر خواهد داد.
چه چیزی در مورد موضوع در وبلاگ شرکتی ما بخوانید:
چند پست از کانال تلگرام ما:
منبع: www.habr.com