NVIDIA DGX A100: पदार्पण अँपिअर-आधारित प्लॅटफॉर्म कामगिरीचे पाच पेटाफ्लॉप ऑफर करतो

DGX A100 प्रणाली, ज्यावर आधारित जेन-सुन हुआंग अलीकडे ओव्हनमधून बाहेर काढले, आठ A100 GPU, सहा NVLink 3.0 स्विचेस, नऊ Mellanox नेटवर्क कंट्रोलर, 64 कोर असलेले दोन AMD EPYC रोम-जनरेशन प्रोसेसर, 1 TB RAM आणि NVMe सपोर्टसह 15 TB SSDs समाविष्ट आहेत.

NVIDIA DGX A100 ही कंपनीच्या संगणकीय प्रणालीची तिसरी पिढी आहे, जी प्रामुख्याने कृत्रिम बुद्धिमत्तेच्या समस्या सोडवण्यासाठी डिझाइन केलेली आहे. आता अशा प्रणाली अँपिअर कुटुंबातील नवीनतम A100 ग्राफिक्स प्रोसेसरवर तयार केल्या आहेत, ज्यामुळे त्यांच्या कार्यक्षमतेत तीव्र वाढ होते, जी 5 पेटाफ्लॉपवर पोहोचली आहे. याबद्दल धन्यवाद, DGX A100 अधिक जटिल AI मॉडेल्स आणि डेटाचे बरेच मोठे खंड हाताळण्यास सक्षम आहे.

DGX A100 सिस्टमसाठी, NVIDIA फक्त HBM2 मेमरीची एकूण रक्कम दर्शवते, जी 320 GB पर्यंत पोहोचते. साध्या अंकगणितीय गणनेमुळे आम्हाला प्रत्येक GPU मध्ये 40 GB मेमरी आहे हे निर्धारित करण्याची परवानगी मिळते आणि नवीन उत्पादनाच्या प्रतिमा हे स्पष्ट करतात की हा खंड सहा स्टॅकमध्ये वितरीत केला जातो. ग्राफिक्स मेमरी बँडविड्थ देखील नमूद केली आहे - एकूण संपूर्ण DGX A12,4 सिस्टमसाठी 100 TB/s.

आठ टेस्ला V1s वर आधारित DGX-100 सिस्टीमने मिश्र-सुस्पष्टता गणनेत एक पेटाफ्लॉप तयार केला आणि DGX A100 पाच पेटाफ्लॉप्सवर कार्य करते असा दावा केला जातो, हे लक्षात घेता, विशिष्ट गणनेत एक Ampere GPU पाचपट वेगवान आहे. व्होल्टा आर्किटेक्चरसह त्याचे पूर्ववर्ती. काही प्रकरणांमध्ये, फायदा वीसपट होतो.

एकूण, DGX A8 प्रणाली पूर्णांक ऑपरेशन्स (INT100) मध्ये प्रति सेकंद 1016 ऑपरेशन्सची सर्वोच्च कामगिरी प्रदान करते, अर्ध-परिशुद्धता फ्लोटिंग पॉइंट ऑपरेशन्समध्ये (FP16) - 5 पेटाफ्लॉप्स, डबल-प्रिसिजन फ्लोटिंग पॉइंट ऑपरेशन्समध्ये (FP64) - 156 टेराफ्लॉप्स . याव्यतिरिक्त, DGX A32 TF100 टेन्सर संगणनामध्ये 2,5 पेटाफ्लॉप्सची सर्वोच्च कामगिरी प्राप्त करते. एक टेराफ्लॉप म्हणजे प्रति सेकंद १०१२ फ्लोटिंग पॉइंट ऑपरेशन्स, एक पेटाफ्लॉप म्हणजे १०१५ फ्लोटिंग पॉइंट ऑपरेशन्स प्रति सेकंद आहे.

NVIDIA A100 प्रवेगकांचे महत्त्वाचे वैशिष्ट्य म्हणजे एका GPU ची संसाधने सात व्हर्च्युअल सेगमेंटमध्ये विभागण्याची क्षमता. हे तुम्हाला समान क्लाउड विभागात कॉन्फिगरेशन लवचिकता लक्षणीयरीत्या वाढविण्यास अनुमती देते. उदाहरणार्थ, आठ भौतिक GPU असलेली एक DGX A100 प्रणाली 56 आभासी GPU म्हणून कार्य करू शकते. मल्टी-इंस्टन्स GPU (MIG) तंत्रज्ञान तुम्हाला संगणकीय कोर आणि कॅशे मेमरी आणि HBM2 मेमरीचा भाग म्हणून वेगवेगळ्या आकाराचे विभाग निवडण्याची परवानगी देते आणि ते बँडविड्थसाठी एकमेकांशी स्पर्धा करणार नाहीत.

हे लक्षात घेण्यासारखे आहे की मागील डीजीएक्स सिस्टमच्या तुलनेत, डीजीएक्स ए100 च्या शरीर रचनामध्ये काही बदल झाले आहेत. SXM3 मॉड्यूल्सच्या रेडिएटर्समधील हीट पाईप्सची संख्या, ज्यावर HBM100 मेमरी असलेले A2 ग्राफिक्स प्रोसेसर स्थापित केले आहेत, व्होल्टा जनरेशनच्या टेस्ला V100 मॉड्यूलच्या तुलनेत लक्षणीय वाढ झाली आहे, जरी त्यांचे टोक सरासरी व्यक्तीच्या दृष्टीकोनातून लपलेले आहेत. वरच्या कव्हर्स द्वारे. या डिझाइनची व्यावहारिक मर्यादा 400 W थर्मल एनर्जी आहे. आज प्रकाशित झालेल्या SXM100 आवृत्तीमधील A3 च्या अधिकृत वैशिष्ट्यांनी देखील याची पुष्टी केली आहे.

मदरबोर्डवरील A100 GPU च्या पुढे सहा तृतीय-पिढीचे NVLink इंटरफेस स्विचेस आहेत, जे एकत्रितपणे 4,8 TB/s वेगाने द्वि-मार्गी डेटा एक्सचेंज प्रदान करतात. NVIDIA ने त्यांच्या कूलिंगची देखील गंभीर काळजी घेतली, उष्णता पाईप्ससह पूर्ण-प्रोफाइल रेडिएटर्सद्वारे न्याय केला. प्रत्येक GPU ला NVLink इंटरफेसच्या 12 चॅनेलचे वाटप केले जाते; शेजारचे GPU 600 GB/s च्या वेगाने डेटाची देवाणघेवाण करू शकतात.

DGX A100 सिस्टीममध्ये नऊ Mellanox ConnectX-6 HDR नेटवर्क कंट्रोलर देखील आहेत, जे 200 Gbit/s पर्यंतच्या वेगाने माहिती प्रसारित करण्यास सक्षम आहेत. एकूण, DGX A100 3,6 TB/s वेगाने द्वि-मार्गी डेटा हस्तांतरण प्रदान करते. प्रणाली अशा आर्किटेक्चरसह संगणकीय प्रणालीचे कार्यक्षम स्केलिंग करण्याच्या उद्देशाने मालकीच्या मेलनॉक्स तंत्रज्ञानाचा वापर करते. प्लॅटफॉर्म स्तरावर PCI एक्सप्रेस 4.0 सपोर्ट AMD EPYC रोम जनरेशन प्रोसेसरद्वारे निर्धारित केला जातो; परिणामी, हा इंटरफेस केवळ A100 ग्राफिक्स एक्सीलरेटर्सद्वारेच नाही तर NVMe प्रोटोकॉलसह सॉलिड-स्टेट ड्राइव्हद्वारे देखील वापरला जातो.

DGX A100 व्यतिरिक्त, NVIDIA ने त्याच्या भागीदारांना HGX A100 बोर्ड पुरवणे सुरू केले आहे, जे सर्व्हर सिस्टमचे एक घटक आहेत जे इतर उत्पादक स्वतः तयार करतील. एकच HGX A100 बोर्ड चार किंवा आठ NVIDIA A100 GPU सामावून घेऊ शकतो. याशिवाय, स्वतःच्या गरजांसाठी, NVIDIA ने आधीच DGX SuperPOD - 140 DGX A100 सिस्टीमचा क्लस्टर एकत्र केला आहे, जो 700 पेटाफ्लॉप्सवर बर्‍यापैकी सामान्य परिमाणांसह कार्यप्रदर्शन प्रदान करतो. कंपनीने DGX A100 वर आधारित समान संगणकीय क्लस्टर तयार करू इच्छिणाऱ्या भागीदारांना पद्धतशीर सहाय्य देण्याचे आश्वासन दिले. तसे, NVIDIA ला DGX SuperPOD तयार करण्यासाठी काही महिन्यांपेक्षा जास्त वेळ लागला नाही किंवा अशा कामांसाठी ठराविक वर्षेही लागली नाहीत.

NVIDIA नुसार, DGX A100 ची डिलिव्हरी आधीच $199 प्रति प्रत या किमतीने सुरू झाली आहे, कंपनीचे भागीदार आधीच त्यांच्या क्लाउड क्लस्टर्समध्ये या प्रणाली होस्ट करत आहेत, इकोसिस्टम आधीच व्हिएतनाम आणि UAE सह 000 देश व्यापते. याव्यतिरिक्त, अँपिअर आर्किटेक्चरसह ग्राफिक्स सोल्यूशन्स हे यूएस ऊर्जा विभागासाठी क्रे द्वारे तयार केलेल्या पर्लमटर सुपरकॉम्प्युटर प्रणालीचा भाग असेल. यात Zen 26 आर्किटेक्चरसह AMD EPYC मिलान जनरेशन सेंट्रल प्रोसेसरसह NVIDIA Ampere ग्राफिक्स प्रोसेसर असतील. NVIDIA Ampere वर आधारित सुपरकॉम्प्युटर नोड्स वर्षाच्या उत्तरार्धात ग्राहकांपर्यंत पोहोचतील, जरी पहिल्या प्रती आधीच विशेष प्रयोगशाळेत आल्या आहेत. अमेरिकन विभाग.

स्त्रोत: 3dnews.ru