NVIDIA DGX A100: ამპერზე დაფუძნებული სადებიუტო პლატფორმა გთავაზობთ ხუთ პეტაფლოპს შესრულებას

DGX A100 სისტემა, რომლის საფუძველზეც ჯენ-ჰსუნ ჰუანგმა ცოტა ხნის წინ გამოიღო ღუმელიდან, მოიცავს რვა A100 GPU-ს, ექვს NVLink 3.0 გადამრთველს, ცხრა Mellanox ქსელის კონტროლერს, ორ AMD EPYC Rome-ის თაობის პროცესორს 64 ბირთვით, 1 TB ოპერატიული და 15 TB SSD-ის NVMe მხარდაჭერით.

NVIDIA DGX A100 არის კომპანიის გამოთვლითი სისტემების მესამე თაობა, რომელიც შექმნილია ძირითადად ხელოვნური ინტელექტის პრობლემების გადასაჭრელად. ახლა ასეთი სისტემები აგებულია უახლეს A100 გრაფიკულ პროცესორებზე Ampere ოჯახისგან, რაც იწვევს მათი შესრულების მკვეთრ ზრდას, რომელმაც 5 პეტაფლოპს მიაღწია. ამის წყალობით, DGX A100-ს შეუძლია გაუმკლავდეს ბევრად უფრო რთულ AI მოდელებს და გაცილებით დიდი მოცულობის მონაცემებს.

DGX A100 სისტემისთვის NVIDIA მიუთითებს მხოლოდ HBM2 მეხსიერების საერთო რაოდენობაზე, რომელიც აღწევს 320 გბ. მარტივი არითმეტიკული გამოთვლები საშუალებას გვაძლევს განვსაზღვროთ, რომ თითოეულ GPU-ს აქვს 40 GB მეხსიერება და ახალი პროდუქტის სურათები ცხადყოფს, რომ ეს მოცულობა ნაწილდება ექვს დასტაზე. ასევე აღნიშნულია გრაფიკული მეხსიერების გამტარუნარიანობა - 12,4 ტბ/წმ მთლიანი DGX A100 სისტემისთვის.

იმის გათვალისწინებით, რომ DGX-1 სისტემა, რომელიც დაფუძნებულია რვა Tesla V100-ზე, აწარმოებდა ერთ პეტაფლოპს შერეული სიზუსტის გამოთვლებში, ხოლო DGX A100, როგორც ამბობენ, მუშაობს ხუთ პეტაფლოპზე, შეგვიძლია ვივარაუდოთ, რომ კონკრეტულ გამოთვლებში ერთი Ampere GPU ხუთჯერ უფრო სწრაფია ვიდრე მისი წინამორბედი ვოლტას არქიტექტურით. ზოგიერთ შემთხვევაში, უპირატესობა ოცდაათი ხდება.

მთლიანობაში, DGX A8 სისტემა უზრუნველყოფს მაქსიმალურ შესრულებას 100 ოპერაცია წამში მთელი რიცხვის ოპერაციებში (INT1016), ნახევრად სიზუსტის მცურავი წერტილის ოპერაციებში (FP16) - 5 პეტაფლოპი, ორმაგი სიზუსტის მცურავი წერტილის ოპერაციებში (FP64) - 156 ტერაფლოპი. . გარდა ამისა, DGX A32 აღწევს მაქსიმალურ შესრულებას 100 პეტაფლოპსს TF2,5 ტენზორული გამოთვლებით. შეგახსენებთ, რომ ერთი ტერაფლოპი არის 1012 მცურავი პუნქტიანი ოპერაცია წამში, ერთი პეტაფლოპი არის 1015 მცურავი პუნქტიანი ოპერაცია წამში.

NVIDIA A100 ამაჩქარებლების მნიშვნელოვანი მახასიათებელია ერთი GPU-ს რესურსების შვიდ ვირტუალურ სეგმენტად დაყოფის შესაძლებლობა. ეს საშუალებას გაძლევთ მნიშვნელოვნად გაზარდოთ კონფიგურაციის მოქნილობა იმავე ღრუბლოვან სეგმენტში. მაგალითად, ერთი DGX A100 სისტემა რვა ფიზიკური GPU-ით შეიძლება იმოქმედოს როგორც 56 ვირტუალური GPU. Multi-Instance GPU (MIG) ტექნოლოგია საშუალებას გაძლევთ აირჩიოთ სხვადასხვა ზომის სეგმენტები როგორც გამოთვლით ბირთვებს შორის, ასევე ქეში მეხსიერების და HBM2 მეხსიერების ნაწილად, და ისინი არ შეეჯიბრებიან ერთმანეთს გამტარუნარიანობისთვის.

აღსანიშნავია, რომ წინა DGX სისტემებთან შედარებით, DGX A100-ის ანატომია განიცადა გარკვეული ცვლილებები. სითბოს მილების რაოდენობა SXM3 მოდულების რადიატორებში, რომლებზეც დამონტაჟებულია A100 გრაფიკული პროცესორები HBM2 მეხსიერებით, მნიშვნელოვნად გაიზარდა ვოლტას თაობის Tesla V100 მოდულებთან შედარებით, თუმცა მათი ბოლოები იმალება ჩვეულებრივი ადამიანის ხედვისგან. ზედა საფარებით. ამ დიზაინის პრაქტიკული ზღვარი არის 400 W თერმული ენერგია. ამას ასევე ადასტურებს A100-ის ოფიციალური მახასიათებლები SXM3 ვერსიაში, რომელიც დღეს გამოქვეყნდა.

დედაპლატზე A100 GPU-ის გვერდით არის ექვსი მესამე თაობის NVLink ინტერფეისის გადამრთველი, რომლებიც ერთად უზრუნველყოფენ მონაცემთა ორმხრივ გაცვლას 4,8 ტბ/წმ სიჩქარით. NVIDIA ასევე სერიოზულად ზრუნავდა მათ გაგრილებაზე, თუ ვიმსჯელებთ სრულპროფილიანი რადიატორებით სითბოს მილებით. თითოეულ GPU-ს აქვს NVLink ინტერფეისის 12 არხი; მეზობელ GPU-ებს შეუძლიათ მონაცემთა გაცვლა 600 გბ/წმ სიჩქარით.

DGX A100 სისტემაში ასევე განთავსებულია ცხრა Mellanox ConnectX-6 HDR ქსელის კონტროლერი, რომელსაც შეუძლია ინფორმაციის გადაცემა 200 გბიტ/წმ-მდე სიჩქარით. მთლიანობაში, DGX A100 უზრუნველყოფს მონაცემთა ორმხრივ გადაცემას 3,6 ტბ/წმ სიჩქარით. სისტემა ასევე იყენებს Mellanox-ის საკუთრებაში არსებულ ტექნოლოგიებს, რომლებიც მიზნად ისახავს ასეთი არქიტექტურის მქონე გამოთვლითი სისტემების ეფექტურ მასშტაბირებას. PCI Express 4.0 მხარდაჭერა პლატფორმის დონეზე განისაზღვრება AMD EPYC Rome თაობის პროცესორებით; შედეგად, ამ ინტერფეისს იყენებენ არა მხოლოდ A100 გრაფიკული ამაჩქარებლები, არამედ მყარი მდგომარეობის დისკები NVMe პროტოკოლით.

DGX A100-ის გარდა, NVIDIA-მ თავისი პარტნიორების მიწოდება დაიწყო HGX A100 დაფებით, რომლებიც სერვერული სისტემების ერთ-ერთი კომპონენტია, რომელსაც სხვა მწარმოებლები თავად აწარმოებენ. ერთ HGX A100 დაფაზე შეიძლება განთავსდეს ოთხი ან რვა NVIDIA A100 GPU. გარდა ამისა, საკუთარი საჭიროებისთვის NVIDIA-მ უკვე ააწყო DGX SuperPOD - 140 DGX A100 სისტემის კლასტერი, რომელიც უზრუნველყოფს შესრულებას 700 პეტაფლოპზე საკმაოდ მოკრძალებული საერთო ზომებით. კომპანიამ პირობა დადო, რომ გაუწევს მეთოდოლოგიურ დახმარებას პარტნიორებს, რომლებსაც სურთ მსგავსი გამოთვლითი კლასტერების შექმნა DGX A100-ზე დაყრდნობით. სხვათა შორის, NVIDIA-ს დასჭირდა არაუმეტეს ერთი თვისა DGX SuperPOD-ის ასაშენებლად, ასეთი ამოცანებისთვის დამახასიათებელი რამდენიმე თვის ან თუნდაც წლების ნაცვლად.

NVIDIA-ს თანახმად, DGX A100-ის მიწოდება უკვე დაიწყო თითო ასლის ფასით 199 აშშ დოლარი, კომპანიის პარტნიორები უკვე უმასპინძლებენ ამ სისტემებს თავიანთ ღრუბლოვან კლასტერებში, ეკოსისტემა უკვე მოიცავს 000 ქვეყანას, მათ შორის ვიეტნამს და არაბეთის გაერთიანებულ საემიროებს. გარდა ამისა, გრაფიკული გადაწყვეტილებები Ampere არქიტექტურით, საკმაოდ პროგნოზირებადი იქნება Perlmutter სუპერკომპიუტერის სისტემის ნაწილი, რომელიც შექმნა Cray-მა აშშ-ს ენერგეტიკის დეპარტამენტისთვის. იგი მოიცავს NVIDIA Ampere GPU-ებს AMD EPYC Milan თაობის ცენტრალურ პროცესორებთან Zen 26 არქიტექტურით. NVIDIA Ampere-ზე დაფუძნებული სუპერკომპიუტერის კვანძები მომხმარებელს წლის მეორე ნახევარში მიაღწევს, თუმცა პირველი ასლები უკვე ჩამოვიდა ამერიკის სპეციალიზებულ ლაბორატორიაში. დეპარტამენტი.

წყარო: 3dnews.ru