NVIDIA DGX A100: डेब्यु एम्पीयर-आधारित प्लेटफर्मले प्रदर्शनको पाँच पेटाफ्लपहरू प्रदान गर्दछ

DGX A100 प्रणाली, जसमा आधारित जेन-सुन हुआंग हालै चुल्होबाट बाहिर निकाले, आठ A100 GPU, छ NVLink 3.0 स्विचहरू, नौ Mellanox नेटवर्क नियन्त्रकहरू, दुई AMD EPYC रोम-जेनेरेसन प्रोसेसरहरू 64 कोर, 1 TB RAM र 15 TB SSDs NVMe समर्थन समावेश गर्दछ।

NVIDIA DGX A100 कम्पनीको कम्प्युटिङ प्रणालीहरूको तेस्रो पुस्ता हो, मुख्य रूपमा कृत्रिम बुद्धिमत्ता समस्याहरू समाधान गर्न डिजाइन गरिएको हो। अब त्यस्ता प्रणालीहरू एम्पियर परिवारबाट नवीनतम A100 ग्राफिक्स प्रोसेसरहरूमा बनाइएका छन्, जसले तिनीहरूको कार्यसम्पादनमा तीव्र वृद्धि निम्त्याउँछ, जुन 5 petaflops पुगेको छ। यसका लागि धन्यवाद, DGX A100 ले धेरै जटिल AI मोडेलहरू र डाटाको धेरै ठूलो मात्राहरू ह्यान्डल गर्न सक्षम छ।

DGX A100 प्रणालीको लागि, NVIDIA ले HBM2 मेमोरीको कुल मात्रा मात्र संकेत गर्छ, जुन 320 GB सम्म पुग्छ। साधारण अंकगणितीय गणनाहरूले हामीलाई प्रत्येक GPU मा 40 GB मेमोरी छ भनेर निर्धारण गर्न अनुमति दिन्छ, र नयाँ उत्पादनका छविहरूले यो भोल्युम छ वटा स्ट्याकहरू बीच वितरण गरिएको छ भनेर स्पष्ट पार्छ। ग्राफिक्स मेमोरी ब्यान्डविथ पनि उल्लेख गरिएको छ - कुल DGX A12,4 प्रणालीको लागि 100 TB / s।

आठ टेस्ला V1s मा आधारित DGX-100 प्रणालीले मिश्रित-परिशुद्धता गणनामा एउटा पेटाफ्लप उत्पादन गर्‍यो, र DGX A100 लाई पाँच पेटाफ्लपमा प्रदर्शन गर्ने दाबी गरिएको छ भन्ने कुरालाई ध्यानमा राख्दै, हामी मान्न सक्छौं कि विशिष्ट गणनाहरूमा एउटा एम्पियर GPU भन्दा पाँच गुणा छिटो छ। भोल्टा वास्तुकला संग यसको पूर्ववर्ती। केही अवस्थामा, लाभ बीस गुणा हुन्छ।

कुल मिलाएर, DGX A8 प्रणालीले इन्टिजर अपरेसनहरू (INT100) मा प्रति सेकेन्ड 1016 अपरेशनहरूको शिखर प्रदर्शन प्रदान गर्दछ, आधा-परिशुद्धता फ्लोटिंग पोइन्ट अपरेशनहरूमा (FP16) - 5 petaflops, डबल-प्रेसिजन फ्लोटिंग पोइन्ट अपरेशनहरूमा (FP64) - 156 टेराफ्लपहरू। । थप रूपमा, DGX A32 ले TF100 टेन्सर कम्प्युटिङमा 2,5 petaflops को उच्चतम प्रदर्शन प्राप्त गर्दछ। याद गरौं कि एउटा टेराफ्लप भनेको १०१२ फ्लोटिंग पोइन्ट अपरेशन प्रति सेकेन्ड हो, एउटा पेटाफ्लप भनेको १०१५ फ्लोटिंग पोइन्ट अपरेशन प्रति सेकेन्ड हो।

NVIDIA A100 एक्सेलेटरहरूको महत्त्वपूर्ण विशेषता भनेको एउटा GPU को स्रोतहरूलाई सात भर्चुअल खण्डहरूमा विभाजन गर्ने क्षमता हो। यसले तपाईंलाई समान क्लाउड खण्डमा कन्फिगरेसन लचिलोपनलाई उल्लेखनीय रूपमा बढाउन अनुमति दिन्छ। उदाहरणका लागि, आठ भौतिक GPU हरू भएको एउटा DGX A100 प्रणालीले 56 भर्चुअल GPU को रूपमा काम गर्न सक्छ। मल्टि-इन्स्टेन्स GPU (MIG) टेक्नोलोजीले तपाईंलाई कम्प्युटिङ कोरहरू बीच र क्यास मेमोरी र HBM2 मेमोरीको भागको रूपमा विभिन्न आकारका खण्डहरू चयन गर्न अनुमति दिन्छ, र तिनीहरू ब्यान्डविथको लागि एकअर्कासँग प्रतिस्पर्धा गर्दैनन्।

यो ध्यान दिन लायक छ कि अघिल्लो DGX प्रणालीहरूको तुलनामा, DGX A100 को शरीर रचनामा केही परिवर्तनहरू भएका छन्। SXM3 मोड्युलहरूको रेडिएटरहरूमा तातो पाइपहरूको संख्या, जसमा HBM100 मेमोरीको साथ A2 ग्राफिक्स प्रोसेसरहरू स्थापित छन्, भोल्टा जेनरेशनको टेस्ला V100 मोड्युलहरूको तुलनामा उल्लेखनीय रूपमा बढेको छ, यद्यपि तिनीहरूको छेउ औसत व्यक्तिको दृश्यबाट लुकेको छ। माथिल्लो आवरण द्वारा। यस डिजाइनको लागि व्यावहारिक सीमा 400 वाट थर्मल ऊर्जा हो। यो पनि आज प्रकाशित SXM100 संस्करण मा A3 को आधिकारिक विशेषताहरु द्वारा पुष्टि गरिएको छ।

मदरबोर्डमा A100 GPUs को छेउमा छ तेस्रो-पुस्ताको NVLink इन्टरफेस स्विचहरू छन्, जसले 4,8 TB/s को गतिमा दुई-तर्फी डेटा आदानप्रदान प्रदान गर्दछ। NVIDIA ले उनीहरूको चिसोपनको पनि गम्भीर ख्याल राख्यो, तातो पाइपहरूको साथ पूर्ण-प्रोफाइल रेडिएटरहरू द्वारा न्याय गर्दै। प्रत्येक GPU लाई NVLink इन्टरफेसको 12 च्यानलहरू आवंटित गरिएको छ; छिमेकी GPU ले 600 GB/s को गतिमा डाटा आदान प्रदान गर्न सक्छ।

DGX A100 प्रणालीमा नौवटा Mellanox ConnectX-6 HDR नेटवर्क नियन्त्रकहरू पनि छन्, 200 Gbit/s को गतिमा सूचना प्रसारण गर्न सक्षम छन्। कुलमा, DGX A100 ले 3,6 TB/s को गतिमा दुई-तर्फी डेटा स्थानान्तरण प्रदान गर्दछ। प्रणालीले यस्तो वास्तुकलाको साथ कम्प्युटिङ प्रणालीहरूको कुशल स्केलिंगको उद्देश्यले स्वामित्व मेलानक्स टेक्नोलोजीहरू पनि प्रयोग गर्दछ। प्लेटफर्म स्तरमा PCI एक्सप्रेस 4.0 समर्थन AMD EPYC रोम जेनरेशन प्रोसेसरहरू द्वारा निर्धारण गरिन्छ; नतिजाको रूपमा, यो इन्टरफेस A100 ग्राफिक्स एक्सेलेरेटरहरू द्वारा मात्र होइन, तर NVMe प्रोटोकलको साथ ठोस-राज्य ड्राइभहरू द्वारा पनि प्रयोग गरिन्छ।

DGX A100 को अतिरिक्त, NVIDIA ले आफ्ना साझेदारहरूलाई HGX A100 बोर्डहरू आपूर्ति गर्न थालेको छ, जुन सर्भर प्रणालीहरूको एक भाग हो जुन अन्य निर्माताहरूले आफ्नै उत्पादन गर्नेछन्। एकल HGX A100 बोर्डले चार वा आठ NVIDIA A100 GPU हरू समायोजन गर्न सक्छ। थप रूपमा, यसको आफ्नै आवश्यकताहरूका लागि, NVIDIA ले पहिले नै DGX SuperPOD - 140 DGX A100 प्रणालीहरूको क्लस्टर जम्मा गरिसकेको छ, जसले 700 petaflops मा एकदम सामान्य समग्र आयामहरूको साथ प्रदर्शन प्रदान गर्दछ। कम्पनीले DGX A100 मा आधारित समान कम्प्युटिङ क्लस्टरहरू निर्माण गर्न चाहने साझेदारहरूलाई पद्धतिगत सहयोग उपलब्ध गराउने वाचा गरेको छ। जे होस्, NVIDIA लाई DGX SuperPOD निर्माण गर्न एक महिना भन्दा बढी समय लागेन, त्यस्ता कार्यहरूका लागि धेरै महिना वा वर्षौंको सट्टा।

NVIDIA का अनुसार, DGX A100 को डिलिवरीहरू प्रति प्रतिलिपि $199 को मूल्यमा सुरु भइसकेको छ, कम्पनीका साझेदारहरूले पहिले नै यी प्रणालीहरूलाई तिनीहरूको क्लाउड क्लस्टरहरूमा होस्ट गरिसकेका छन्, इकोसिस्टमले भियतनाम र UAE लगायत २६ देशहरूलाई पहिल्यै समेटेको छ। थप रूपमा, एम्पीयर आर्किटेक्चरको साथ ग्राफिक्स समाधानहरू अनुमानित रूपमा पर्लमटर सुपर कम्प्युटर प्रणालीको हिस्सा हुनेछन्, जुन अमेरिकी ऊर्जा विभागको लागि क्रे द्वारा सिर्जना गरिएको हो। यसमा NVIDIA एम्पीयर ग्राफिक्स प्रोसेसरहरूसँगै AMD EPYC मिलान जेनरेशनको जेन 000 आर्किटेक्चरको केन्द्रीय प्रोसेसरहरू समावेश हुनेछन्। NVIDIA एम्पीयरमा आधारित सुपर कम्प्युटर नोडहरू वर्षको दोस्रो आधामा ग्राहकमा पुग्ने छन्, यद्यपि पहिलो प्रतिलिपिहरू विशेष प्रयोगशालामा आइपुगिसकेका छन्। अमेरिकी विभाग।

स्रोत: 3dnews.ru