NVIDIA DGX A100: פלטפורמת אמפר לראשונה מספקת חמישה פטאפלופים של ביצועים

מערכת DGX A100, על בסיסה Jen-Hsun Huang לאחרונה הוציא אותו מהתנור, כולל שמונה A100 GPUs, שישה מתגי NVLink 3.0, תשעה בקרי רשת מלאנוקס, שני מעבדים מדור AMD EPYC Rome עם 64 ליבות, 1 TB של RAM ו-15 TB של SSDs עם תמיכה ב-NVMe.

NVIDIA DGX A100 הוא הדור השלישי של מערכות המחשוב של החברה, המיועדות בעיקר לפתרון בעיות בינה מלאכותית. כעת מערכות כאלה בנויות על המעבדים הגרפיים העדכניים ביותר של A100 ממשפחת Ampere, מה שגורם לעלייה חדה בביצועים שלהם, שהגיעו ל-5 petaflops. הודות לכך, ה-DGX A100 מסוגל להתמודד עם מודלים הרבה יותר מורכבים של AI וכמויות גדולות בהרבה של נתונים.

עבור מערכת DGX A100, NVIDIA מציינת רק את הכמות הכוללת של זיכרון HBM2, שמגיעה ל-320 GB. חישובים אריתמטיים פשוטים מאפשרים לנו לקבוע שלכל GPU יש 40 ג'יגה-בייט של זיכרון, ותמונות של המוצר החדש מבהירות שנפח זה מופץ בין שש ערימות. מוזכר גם רוחב הפס של הזיכרון הגרפי - 12,4 TB/s עבור כל מערכת DGX A100 בסך הכל.

בהתחשב בכך שמערכת DGX-1, המבוססת על שמונה Tesla V100s, ייצרה פטפלופ אחד בחישובי דיוק מעורבים, ולטענת ה-DGX A100 מתפקד בחמישה פטפלופים, אנו יכולים להניח שבחישובים ספציפיים GPU אחד אמפר מהיר פי חמישה מאשר קודמו עם ארכיטקטורת וולטה. במקרים מסוימים, היתרון הופך פי עשרים.

בסך הכל, מערכת DGX A8 מספקת ביצועי שיא של 100 פעולות בשנייה בפעולות מספר שלם (INT1016), בפעולות נקודה צפה בחצי דיוק (FP16) - 5 petaflops, בפעולות נקודה צפה עם דיוק כפול (FP64) - 156 טרפלופ. . בנוסף, ה-DGX A32 משיג ביצועי שיא של 100 petaflops במחשוב טנזור TF2,5. הבה נזכיר שטרפלופ אחד הוא 1012 פעולות נקודה צפה בשנייה, פטפלופ אחד הוא 1015 פעולות נקודה צפה בשנייה.

תכונה חשובה של מאיצי NVIDIA A100 היא היכולת לחלק את המשאבים של GPU אחד לשבעה מקטעים וירטואליים. זה מאפשר לך להגדיל משמעותית את גמישות התצורה באותו קטע ענן. לדוגמה, מערכת DGX A100 אחת עם שמונה GPUs פיזיים יכולה לפעול כ-56 GPUs וירטואליים. טכנולוגיית Multi-Instance GPU (MIG) מאפשרת לבחור מקטעים בגדלים שונים הן בין ליבות המחשוב והן כחלק מזיכרון מטמון וזיכרון HBM2, והם לא יתחרו זה בזה על רוחב הפס.

ראוי לציין שבהשוואה למערכות DGX קודמות, האנטומיה של ה-DGX A100 עברה כמה שינויים. מספר צינורות החום ברדיאטורים של מודולי SXM3, עליהם מותקנים מעבדים גרפיים A100 עם זיכרון HBM2, גדל משמעותית בהשוואה למודול ה-Tesla V100 מדור ה-Volta, אם כי קצוותיהם מוסתרים מעיני האדם הממוצע. על ידי הכריכות העליונות. המגבלה המעשית לעיצוב זה היא 400 וואט של אנרגיה תרמית. זה מאושר גם על ידי המאפיינים הרשמיים של ה-A100 בגרסת SXM3, שפורסמו היום.

לצד ה-A100 GPUs בלוח האם נמצאים שישה מתגי ממשק NVLink מהדור השלישי, המספקים יחד חילופי נתונים דו-כיווניים במהירות של 4,8 TB/s. NVIDIA גם דאגה ברצינות לקירור שלהם, אם לשפוט לפי הרדיאטורים בפרופיל מלא עם צינורות חום. לכל GPU מוקצים 12 ערוצים של ממשק NVLink; מעבדי GPU שכנים יכולים להחליף נתונים במהירות של 600 GB/s.

מערכת DGX A100 מכילה גם תשעה בקרי רשת מסוג Mellanox ConnectX-6 HDR, המסוגלים להעביר מידע במהירויות של עד 200 Gbit/s. בסך הכל, ה-DGX A100 מספק העברת נתונים דו-כיוונית במהירות של 3,6 TB/s. המערכת משתמשת גם בטכנולוגיות קנייניות של מלאנוקס שמטרתן קנה מידה יעיל של מערכות מחשוב עם ארכיטקטורה כזו. תמיכת PCI Express 4.0 ברמת הפלטפורמה נקבעת על ידי מעבדי דור AMD EPYC Rome; כתוצאה מכך, ממשק זה משמש לא רק מאיצים גרפיים A100, אלא גם על ידי כוננים מוצקים עם פרוטוקול NVMe.

בנוסף ל-DGX A100, NVIDIA החלה לספק לשותפיה לוחות HGX A100, שהם אחד המרכיבים של מערכות שרתים שיצרנים אחרים ייצרו בעצמם. לוח HGX A100 יחיד יכול להכיל ארבעה או שמונה GPUs של NVIDIA A100. בנוסף, לצרכיה שלה, NVIDIA כבר הרכיבה את DGX SuperPOD - מקבץ של 140 מערכות DGX A100, המספקות ביצועים ב-700 petaflops עם ממדים כלליים צנועים למדי. החברה הבטיחה לספק סיוע מתודולוגי לשותפים המעוניינים לבנות אשכולות מחשוב דומים המבוססים על DGX A100. אגב, ל-NVIDIA לקח לא יותר מחודש לבנות את ה-DGX SuperPOD במקום כמה חודשים או אפילו שנים אופייניים למשימות כאלה.

לפי NVIDIA, משלוחים של ה-DGX A100 כבר החלו במחיר של 199 דולר לעותק, שותפי החברה כבר מארחים את המערכות הללו באשכולות הענן שלהם, המערכת האקולוגית כבר מכסה 000 מדינות, כולל וייטנאם ואיחוד האמירויות. בנוסף, פתרונות גרפיים עם ארכיטקטורת אמפר יהיו באופן די צפוי חלק ממערכת מחשבי העל Perlmutter, שנוצרה על ידי קריי עבור משרד האנרגיה האמריקאי. הוא יורכב ממעבדים גרפיים של NVIDIA Ampere לצד מעבדים מרכזיים מדור AMD EPYC Milan עם ארכיטקטורת Zen 26. צמתי מחשבי-על המבוססים על NVIDIA Ampere יגיעו ללקוח במחצית השנייה של השנה, למרות שהעותקים הראשונים כבר הגיעו למעבדה המתמחה של המחלקה האמריקאית.

מקור: 3dnews.ru