NVIDIA DGX A100: पहला एम्पीयर-आधारित प्लेटफॉर्म प्रदर्शन के पांच पेटाफ्लॉप प्रदान करता है

DGX A100 प्रणाली, जिस पर हाल ही में जेन-सुन हुआंग ने आधारित किया है इसे ओवन से बाहर निकाला, इसमें आठ ए100 जीपीयू, छह एनवीलिंक 3.0 स्विच, नौ मेलानॉक्स नेटवर्क नियंत्रक, 64 कोर के साथ दो एएमडी ईपीवाईसी रोम-पीढ़ी के प्रोसेसर, 1 टीबी रैम और एनवीएमई समर्थन के साथ 15 टीबी एसएसडी शामिल हैं।

NVIDIA DGX A100 कंपनी के कंप्यूटिंग सिस्टम की तीसरी पीढ़ी है, जिसे मुख्य रूप से कृत्रिम बुद्धिमत्ता समस्याओं को हल करने के लिए डिज़ाइन किया गया है। अब ऐसे सिस्टम एम्पीयर परिवार के नवीनतम ए100 ग्राफिक्स प्रोसेसर पर बनाए गए हैं, जिससे उनके प्रदर्शन में तेज वृद्धि हुई है, जो 5 पेटाफ्लॉप तक पहुंच गया है। इसके लिए धन्यवाद, DGX A100 अधिक जटिल AI मॉडल और बहुत बड़ी मात्रा में डेटा को संभालने में सक्षम है।

DGX A100 सिस्टम के लिए, NVIDIA केवल HBM2 मेमोरी की कुल मात्रा को इंगित करता है, जो 320 जीबी तक पहुंचती है। सरल अंकगणितीय गणना हमें यह निर्धारित करने की अनुमति देती है कि प्रत्येक जीपीयू में 40 जीबी मेमोरी है, और नए उत्पाद की छवियां यह स्पष्ट करती हैं कि यह वॉल्यूम छह स्टैक के बीच वितरित किया गया है। ग्राफ़िक्स मेमोरी बैंडविड्थ का भी उल्लेख किया गया है - संपूर्ण DGX A12,4 सिस्टम के लिए कुल मिलाकर 100 TB/s।

यह देखते हुए कि आठ टेस्ला V1 पर आधारित DGX-100 प्रणाली ने मिश्रित-परिशुद्धता गणना में एक पेटाफ्लॉप का उत्पादन किया, और DGX A100 को पांच पेटाफ्लॉप पर प्रदर्शन करने का दावा किया गया है, हम मान सकते हैं कि विशिष्ट गणना में एक एम्पीयर जीपीयू तुलना में पांच गुना तेज है। वोल्टा वास्तुकला के साथ इसका पूर्ववर्ती। कुछ मामलों में तो फायदा बीस गुना हो जाता है.

कुल मिलाकर, DGX A8 प्रणाली पूर्णांक संचालन (INT100) में प्रति सेकंड 1016 संचालन, अर्ध-परिशुद्धता फ्लोटिंग पॉइंट संचालन (FP16) में - 5 पेटाफ्लॉप, डबल-परिशुद्धता फ्लोटिंग पॉइंट संचालन (FP64) में - 156 टेराफ्लॉप का चरम प्रदर्शन प्रदान करता है। . इसके अतिरिक्त, DGX A32 TF100 टेंसर कंप्यूटिंग में 2,5 पेटाफ्लॉप्स का सर्वोच्च प्रदर्शन प्राप्त करता है। आइए याद रखें कि एक टेराफ्लॉप्स 1012 फ्लोटिंग पॉइंट ऑपरेशंस प्रति सेकंड है, एक पेटाफ्लॉप्स 1015 फ़्लोटिंग पॉइंट ऑपरेशंस प्रति सेकंड है।

NVIDIA A100 एक्सेलेरेटर की एक महत्वपूर्ण विशेषता एक GPU के संसाधनों को सात आभासी खंडों में विभाजित करने की क्षमता है। यह आपको समान क्लाउड सेगमेंट में कॉन्फ़िगरेशन लचीलेपन को महत्वपूर्ण रूप से बढ़ाने की अनुमति देता है। उदाहरण के लिए, आठ भौतिक जीपीयू वाला एक डीजीएक्स ए100 सिस्टम 56 वर्चुअल जीपीयू के रूप में कार्य कर सकता है। मल्टी-इंस्टेंस जीपीयू (एमआईजी) तकनीक आपको कंप्यूटिंग कोर और कैश मेमोरी और एचबीएम 2 मेमोरी के हिस्से के रूप में विभिन्न आकारों के खंडों का चयन करने की अनुमति देती है, और वे बैंडविड्थ के लिए एक दूसरे के साथ प्रतिस्पर्धा नहीं करेंगे।

यह ध्यान देने योग्य है कि पिछले DGX सिस्टम की तुलना में, DGX A100 की शारीरिक रचना में कुछ बदलाव हुए हैं। SXM3 मॉड्यूल के रेडिएटर्स में हीट पाइप की संख्या, जिस पर HBM100 मेमोरी के साथ A2 ग्राफिक्स प्रोसेसर स्थापित हैं, वोल्टा पीढ़ी के टेस्ला V100 मॉड्यूल की तुलना में काफी बढ़ गई है, हालांकि उनके सिरे औसत व्यक्ति की दृष्टि से छिपे हुए हैं ऊपरी आवरणों द्वारा. इस डिज़ाइन की व्यावहारिक सीमा 400 W तापीय ऊर्जा है। इसकी पुष्टि आज प्रकाशित SXM100 संस्करण में A3 की आधिकारिक विशेषताओं से भी होती है।

मदरबोर्ड पर A100 GPU के बगल में छह तीसरी पीढ़ी के NVLink इंटरफ़ेस स्विच हैं, जो एक साथ 4,8 TB/s की गति से दो-तरफ़ा डेटा विनिमय प्रदान करते हैं। एनवीआईडीआईए ने हीट पाइप के साथ फुल-प्रोफाइल रेडिएटर्स को देखते हुए, उनकी कूलिंग का भी गंभीरता से ध्यान रखा। प्रत्येक GPU को NVLink इंटरफ़ेस के 12 चैनल आवंटित किए गए हैं; पड़ोसी GPU 600 GB/s की गति से डेटा का आदान-प्रदान कर सकते हैं।

DGX A100 प्रणाली में नौ मेलानॉक्स कनेक्टX-6 HDR नेटवर्क नियंत्रक भी हैं, जो 200 Gbit/s तक की गति से सूचना प्रसारित करने में सक्षम हैं। कुल मिलाकर, DGX A100 3,6 TB/s की गति से दो-तरफा डेटा ट्रांसफर प्रदान करता है। यह प्रणाली ऐसे आर्किटेक्चर के साथ कंप्यूटिंग सिस्टम की कुशल स्केलिंग के उद्देश्य से मालिकाना मेलानॉक्स प्रौद्योगिकियों का भी उपयोग करती है। प्लेटफ़ॉर्म स्तर पर PCI एक्सप्रेस 4.0 समर्थन AMD EPYC रोम पीढ़ी के प्रोसेसर द्वारा निर्धारित किया जाता है; परिणामस्वरूप, इस इंटरफ़ेस का उपयोग न केवल A100 ग्राफिक्स एक्सेलेरेटर द्वारा किया जाता है, बल्कि NVMe प्रोटोकॉल के साथ सॉलिड-स्टेट ड्राइव द्वारा भी किया जाता है।

DGX A100 के अलावा, NVIDIA ने अपने साझेदारों को HGX A100 बोर्ड की आपूर्ति शुरू कर दी है, जो सर्वर सिस्टम के घटकों में से एक है जिसे अन्य निर्माता अपने दम पर उत्पादित करेंगे। एक एकल HGX A100 बोर्ड चार या आठ NVIDIA A100 GPU को समायोजित कर सकता है। इसके अलावा, अपनी जरूरतों के लिए, NVIDIA ने पहले से ही DGX SuperPOD को असेंबल किया है - 140 DGX A100 सिस्टम का एक क्लस्टर, जो काफी मामूली समग्र आयामों के साथ 700 पेटाफ्लॉप्स पर प्रदर्शन प्रदान करता है। कंपनी ने DGX A100 पर आधारित समान कंप्यूटिंग क्लस्टर बनाने के इच्छुक भागीदारों को पद्धतिगत सहायता प्रदान करने का वादा किया। वैसे, DGX सुपरपॉड को बनाने में NVIDIA को ऐसे कार्यों के लिए विशिष्ट कई महीनों या वर्षों के बजाय एक महीने से अधिक का समय नहीं लगा।

NVIDIA के अनुसार, DGX A100 की डिलीवरी $199 प्रति कॉपी की कीमत पर पहले ही शुरू हो चुकी है, कंपनी के भागीदार पहले से ही इन प्रणालियों को अपने क्लाउड क्लस्टर में होस्ट कर रहे हैं, पारिस्थितिकी तंत्र पहले से ही वियतनाम और संयुक्त अरब अमीरात सहित 000 देशों को कवर करता है। इसके अलावा, एम्पीयर आर्किटेक्चर के साथ ग्राफिक्स समाधान काफी अनुमानित रूप से अमेरिकी ऊर्जा विभाग के लिए क्रे द्वारा बनाए गए पर्लमटर सुपरकंप्यूटर सिस्टम का हिस्सा होंगे। इसमें ज़ेन 26 आर्किटेक्चर के साथ AMD EPYC मिलान पीढ़ी के केंद्रीय प्रोसेसर के साथ NVIDIA एम्पीयर ग्राफिक्स प्रोसेसर शामिल होंगे। NVIDIA एम्पीयर पर आधारित सुपरकंप्यूटर नोड्स वर्ष की दूसरी छमाही में ग्राहक तक पहुंच जाएंगे, हालांकि पहली प्रतियां पहले ही विशेष प्रयोगशाला में आ चुकी हैं अमेरिकी विभाग.

स्रोत: 3dnews.ru