מצב: GPUs וירטואליים אינם נחותים בביצועים מפתרונות חומרה

בפברואר, סטנפורד אירחה כנס בנושא מחשוב בעל ביצועים גבוהים (HPC). נציגי VMware אמרו שכאשר עובדים עם GPU, מערכת המבוססת על ESXi hypervisor שונה אינה נחותה במהירות מפתרונות מתכת חשופה.

אנחנו מדברים על הטכנולוגיות שאפשרו להשיג זאת.

/ תמונה ויקטורגריגס CC BY-SA

בעיית ביצועים

לפי אנליסטים, כ-70% מעומסי העבודה במרכזי נתונים וירטואליזציה. עם זאת, 30% הנותרים עדיין פועלים על מתכת חשופה ללא היפרוויזורים. 30% אלה מורכבים בעיקר מיישומים בעלי עומס גבוה, כגון אלו הקשורים לאימון רשתות עצביות ושימוש במעבדי GPU.

מומחים מסבירים מגמה זו בכך שה-hypervisor, כשכבת הפשטה ביניים, יכול להשפיע על הביצועים של המערכת כולה. בלימודים לפני חמש שנים אתה יכול למצוא את הנתונים על הפחתת מהירות העבודה ב-10%. לכן, חברות ומפעילי מרכזי נתונים לא ממהרים להעביר עומסי עבודה של HPC לסביבה וירטואלית.

אבל טכנולוגיות הווירטואליזציה מתפתחות ומשתפרות. בכנס לפני חודש, VMware אמרה כי ל-ESXi hypervisor אין השפעה שלילית על ביצועי ה-GPU. ניתן להפחית את מהירות המחשוב בשלושה אחוזים, אשר ניתן להשוות למתכת חשופה.

אֵיך מַפעִילִים אֶת זֶה

כדי לשפר את הביצועים של מערכות HPC עם GPUs, VMware ביצעה מספר שינויים ב-hypervisor. בפרט, זה נפטר מפונקציית vMotion. זה נחוץ לאיזון עומסים ובדרך כלל מעביר מכונות וירטואליות (VMs) בין שרתים או GPUs. השבתת vMotion הביאה לכך שלכל VM הוקצה כעת GPU ספציפי. זה עזר להפחית עלויות בעת החלפת נתונים.

עוד מרכיב מרכזי במערכת היא טכנולוגיה DirectPath I/O. זה מאפשר למנהל המחשוב המקביל CUDA לקיים אינטראקציה עם מכונות וירטואליות ישירות, תוך עקיפת ההיפרוויזר. כאשר אתה צריך להפעיל מספר VMs על GPU אחד בו זמנית, נעשה שימוש בפתרון GRID vGPU. הוא מחלק את זיכרון הכרטיס למספר מקטעים (אך מחזורי החישוב אינם מחולקים).

דיאגרמת הפעולה של שתי מכונות וירטואליות במקרה זה תיראה כך:

תוצאות ותחזיות

חברה ערכו בדיקות hypervisor על ידי הכשרת מודל שפה המבוסס על TensorFlow. "נזק" הביצועים היה רק ​​3-4% בהשוואה למתכת חשופה. בתמורה, המערכת הצליחה לחלק משאבים לפי דרישה בהתאם לעומס הנוכחי.

גם ענקית ה-IT ערכו בדיקות עם מיכלים. מהנדסי החברה הכשירו רשתות עצביות לזהות תמונות. במקביל, המשאבים של GPU אחד הופצו בין ארבעה מחשבי VM מכולות. כתוצאה מכך, הביצועים של מכונות בודדות ירדו ב-17% (לעומת VM יחיד עם גישה מלאה למשאבי GPU). עם זאת, מספר התמונות המעובדות בשנייה מוּגדָל שלוש פעמים. צפוי כי מערכות כאלה ימצא יישומים בניתוח נתונים ומידול ממוחשב.

בין הבעיות הפוטנציאליות ש-VMware עשויה להתמודד, מומחים לפלוט קהל יעד צר למדי. מספר קטן של חברות עדיין עובדות עם מערכות בעלות ביצועים גבוהים. אמנם בסטטיסטה לחגוגשעד 2021, 94% מעומסי העבודה של מרכז הנתונים בעולם יהיו וירטואליים. על ידי תחזיות אנליסטים, שווי שוק HPC יגדל מ-32 ל-45 מיליארד דולר בתקופה שבין 2017 ל-2022.

/ תמונה נקודת גישה גלובלית PD

פתרונות דומים

ישנם מספר אנלוגים בשוק המפותחים על ידי חברות IT גדולות: AMD ואינטל.

החברה הראשונה לווירטואליזציה של GPU מציע גישה המבוססת על SR-IOV (וירטואליזציה של קלט/פלט עם שורש בודד). טכנולוגיה זו מעניקה ל-VM גישה לחלק מיכולות החומרה של המערכת. הפתרון מאפשר לך לחלוק את ה-GPU בין 16 משתמשים עם ביצועים שווים של מערכות וירטואליות.

לגבי ענקית ה-IT השנייה, הם מבוסס טכנולוגיה על ה-Hypervisor Citrix XenServer 7. הוא משלב עבודה של מנהל התקן GPU סטנדרטי ומכונה וירטואלית, המאפשרת לאחרון להציג אפליקציות תלת מימד ומחשבי שולחנות במכשירים של מאות משתמשים.

עתיד הטכנולוגיה

מפתחי GPU וירטואליים לעשות הימור על הטמעת מערכות AI והפופולריות הגוברת של פתרונות בעלי ביצועים גבוהים בשוק הטכנולוגיה העסקית. הם מקווים שהצורך בעיבוד כמויות גדולות של נתונים יגדיל את הביקוש ל-vGPUs.

עכשיו יצרנים מחפש דרך שלב את הפונקציונליות של המעבד וה-GPU בליבה אחת כדי להאיץ פתרון בעיות הקשורות לגרפיקה, ביצוע חישובים מתמטיים, פעולות לוגיות ועיבוד נתונים. הופעתן של ליבות כאלה בשוק בעתיד תשנה את הגישה לווירטואליזציה של משאבים ואת חלוקתן בין עומסי עבודה בסביבות וירטואליות וענן.

מה לקרוא על הנושא בבלוג הארגוני שלנו:

• מדוע חברות משתמשות במכונות וירטואליות, לא בקונטיינרים
• "איך עובד VMware": סקירה של פתרונות חדשים
• VMware vSphere 6.7: מהם היתרונות של תכונות hypervisor חדשות

כמה פוסטים מערוץ הטלגרם שלנו:

• ארכיטקטורת IT של העתיד - מי וכיצד מתכוננת אליה
• 5 כלים לניהול ענן
• כיצד ספק IaaS מגן על נתוני לקוחות

מקור: www.habr.com