DGX A100 அமைப்பு, ஜென்-ஹ்சுன் ஹுவாங் சமீபத்தில் , எட்டு A100 GPUகள், ஆறு NVLink 3.0 சுவிட்சுகள், ஒன்பது Mellanox நெட்வொர்க் கன்ட்ரோலர்கள், 64 கோர்கள் கொண்ட இரண்டு AMD EPYC ரோம்-தலைமுறை செயலிகள், 1 TB RAM மற்றும் 15 TB SSDகள் NVMe ஆதரவுடன் அடங்கும்.
NVIDIA DGX A100 என்பது நிறுவனத்தின் மூன்றாம் தலைமுறை கணினி அமைப்பு ஆகும், இது முதன்மையாக செயற்கை நுண்ணறிவு சிக்கல்களைத் தீர்ப்பதற்காக வடிவமைக்கப்பட்டுள்ளது. இப்போது அத்தகைய அமைப்புகள் ஆம்பியர் குடும்பத்தின் சமீபத்திய A100 கிராபிக்ஸ் செயலிகளில் கட்டமைக்கப்பட்டுள்ளன, இது அவற்றின் செயல்திறனில் கூர்மையான அதிகரிப்புக்கு காரணமாகிறது, இது 5 பெட்டாஃப்ளாப்களை எட்டியுள்ளது. இதற்கு நன்றி, DGX A100 மிகவும் சிக்கலான AI மாதிரிகள் மற்றும் அதிக அளவிலான தரவுகளைக் கையாள முடியும்.
DGX A100 அமைப்புக்கு, NVIDIA ஆனது HBM2 நினைவகத்தின் மொத்த அளவை மட்டுமே குறிக்கிறது, இது 320 GB ஐ அடைகிறது. எளிய எண்கணித கணக்கீடுகள் ஒவ்வொரு GPU க்கும் 40 GB நினைவகம் உள்ளது என்பதை தீர்மானிக்க அனுமதிக்கிறது, மேலும் புதிய தயாரிப்பின் படங்கள் இந்த தொகுதி ஆறு அடுக்குகளில் விநியோகிக்கப்படுகிறது என்பதை தெளிவுபடுத்துகிறது. கிராபிக்ஸ் நினைவக அலைவரிசையும் குறிப்பிடப்பட்டுள்ளது - மொத்த DGX A12,4 அமைப்புக்கு 100 TB / s.
டிஜிஎக்ஸ்-1 அமைப்பு, எட்டு டெஸ்லா வி100களை அடிப்படையாகக் கொண்டது, கலப்பு துல்லியமான கணக்கீடுகளில் ஒரு பெட்டாஃப்ளாப்களை உருவாக்கியது, மேலும் டிஜிஎக்ஸ் ஏ100 ஐந்து பெட்டாஃப்ளாப்களில் செயல்படுவதாகக் கூறப்பட்டது, குறிப்பிட்ட கணக்கீடுகளில் ஒரு ஆம்பியர் ஜிபியு ஐந்து மடங்கு வேகமானது என்று நாம் கருதலாம். வோல்டா கட்டிடக்கலையுடன் அதன் முன்னோடி. சில சந்தர்ப்பங்களில், நன்மை இருபது மடங்கு ஆகிறது.
மொத்தத்தில், DGX A8 அமைப்பு முழு எண் செயல்பாடுகளில் (INT100), அரை-துல்லியமான மிதக்கும் புள்ளி செயல்பாடுகளில் (FP1016) - 16 பெட்டாஃப்ளாப்ஸ், இரட்டை துல்லியமான மிதக்கும் புள்ளி செயல்பாடுகளில் (FP5) - 64 டெராஃப்ளாப்களில் வினாடிக்கு 156 செயல்பாடுகளின் உச்ச செயல்திறனை வழங்குகிறது. . கூடுதலாக, DGX A32 ஆனது TF100 டென்சர் கம்ப்யூட்டிங்கில் 2,5 பெட்டாஃப்ளாப்களின் உச்ச செயல்திறனை அடைகிறது. ஒரு டெராஃப்ளாப்ஸ் என்பது ஒரு வினாடிக்கு 1012 மிதக்கும் புள்ளி செயல்பாடுகள், ஒரு பெட்டாஃப்ளாப்ஸ் என்பது வினாடிக்கு 1015 மிதக்கும் புள்ளி செயல்பாடுகள் என்பதை நினைவில் கொள்வோம்.
NVIDIA A100 முடுக்கிகளின் முக்கிய அம்சம் ஒரு GPU இன் வளங்களை ஏழு மெய்நிகர் பிரிவுகளாகப் பிரிக்கும் திறன் ஆகும். அதே கிளவுட் பிரிவில் உள்ளமைவு நெகிழ்வுத்தன்மையை கணிசமாக அதிகரிக்க இது உங்களை அனுமதிக்கிறது. எடுத்துக்காட்டாக, ஒரு DGX A100 அமைப்பு, எட்டு இயற்பியல் GPUகளுடன் 56 மெய்நிகர் GPUகளாகச் செயல்பட முடியும். மல்டி-இன்ஸ்டன்ஸ் ஜிபியு (எம்ஐஜி) தொழில்நுட்பம், கம்ப்யூட்டிங் கோர்கள் மற்றும் கேச் மெமரி மற்றும் எச்பிஎம்2 நினைவகத்தின் ஒரு பகுதியாக வெவ்வேறு அளவுகளில் உள்ள பிரிவுகளைத் தேர்ந்தெடுக்க உங்களை அனுமதிக்கிறது, மேலும் அவை அலைவரிசைக்கு ஒன்றுக்கொன்று போட்டியிடாது.
முந்தைய DGX அமைப்புகளுடன் ஒப்பிடுகையில், DGX A100 இன் உடற்கூறியல் சில மாற்றங்களுக்கு உட்பட்டுள்ளது என்பது குறிப்பிடத்தக்கது. HBM3 நினைவகத்துடன் A100 கிராபிக்ஸ் செயலிகள் நிறுவப்பட்ட SXM2 தொகுதிகளின் ரேடியேட்டர்களில் வெப்ப குழாய்களின் எண்ணிக்கை, வோல்டா தலைமுறையின் டெஸ்லா V100 தொகுதிகளுடன் ஒப்பிடும்போது கணிசமாக அதிகரித்துள்ளது, இருப்பினும் அவற்றின் முனைகள் சராசரி நபரின் பார்வையில் இருந்து மறைக்கப்பட்டுள்ளன. மேல் அட்டைகளால். இந்த வடிவமைப்பிற்கான நடைமுறை வரம்பு 400 W வெப்ப ஆற்றல் ஆகும். இன்று வெளியிடப்பட்ட SXM100 பதிப்பில் உள்ள A3 இன் அதிகாரப்பூர்வ குணாதிசயங்களாலும் இது உறுதிப்படுத்தப்பட்டுள்ளது.
மதர்போர்டில் உள்ள A100 GPUகளுக்கு அடுத்ததாக ஆறு மூன்றாம் தலைமுறை NVLink இடைமுக சுவிட்சுகள் உள்ளன, இவை இரண்டு வழி தரவு பரிமாற்றத்தை 4,8 TB/s வேகத்தில் வழங்குகின்றன. என்விடியா அவர்களின் குளிரூட்டலில் தீவிர அக்கறை எடுத்துக் கொண்டது, வெப்பக் குழாய்கள் கொண்ட முழு சுயவிவர ரேடியேட்டர்கள் மூலம் ஆராயப்பட்டது. ஒவ்வொரு GPU க்கும் NVLink இடைமுகத்தின் 12 சேனல்கள் ஒதுக்கப்பட்டுள்ளன; அண்டை GPUகள் 600 GB/s வேகத்தில் தரவைப் பரிமாறிக்கொள்ள முடியும்.
டிஜிஎக்ஸ் ஏ100 சிஸ்டம் ஒன்பது மெல்லனாக்ஸ் கனெக்ட்எக்ஸ்-6 எச்டிஆர் நெட்வொர்க் கன்ட்ரோலர்களையும் கொண்டுள்ளது, இது 200 ஜிபிட்/வி வேகத்தில் தகவல்களை அனுப்பும் திறன் கொண்டது. மொத்தத்தில், DGX A100 ஆனது 3,6 TB/s வேகத்தில் இருவழி தரவு பரிமாற்றத்தை வழங்குகிறது. இந்த அமைப்பு தனியுரிம மெல்லனாக்ஸ் தொழில்நுட்பங்களையும் பயன்படுத்துகிறது. இயங்குதள மட்டத்தில் PCI Express 4.0 ஆதரவு AMD EPYC ரோம் தலைமுறை செயலிகளால் தீர்மானிக்கப்படுகிறது; இதன் விளைவாக, இந்த இடைமுகம் A100 கிராபிக்ஸ் முடுக்கிகளால் மட்டுமல்ல, NVMe நெறிமுறையுடன் கூடிய திட-நிலை இயக்கிகளாலும் பயன்படுத்தப்படுகிறது.
DGX A100 ஐத் தவிர, NVIDIA அதன் கூட்டாளர்களுக்கு HGX A100 போர்டுகளுடன் வழங்கத் தொடங்கியுள்ளது, இது மற்ற உற்பத்தியாளர்கள் தாங்களாகவே தயாரிக்கும் சர்வர் அமைப்புகளின் கூறுகளில் ஒன்றாகும். ஒரு HGX A100 போர்டில் நான்கு அல்லது எட்டு NVIDIA A100 GPUகள் இருக்க முடியும். கூடுதலாக, NVIDIA தனது சொந்த தேவைகளுக்காக ஏற்கனவே DGX SuperPOD - 140 DGX A100 சிஸ்டம்களின் தொகுப்பு, 700 petaflops இல் செயல்திறன் வழங்கும். DGX A100ஐ அடிப்படையாகக் கொண்டு ஒத்த கணினிக் கிளஸ்டர்களை உருவாக்க விரும்பும் கூட்டாளர்களுக்கு முறையான உதவியை வழங்குவதாக நிறுவனம் உறுதியளித்தது. அப்படியானால், DGX SuperPOD ஐ உருவாக்குவதற்கு NVIDIA ஒரு மாதத்திற்கு மேல் எடுக்கவில்லை, இது போன்ற பணிகளுக்கு பல மாதங்கள் அல்லது வருடங்கள் கூட ஆகும்.
NVIDIA படி, DGX A100 இன் விநியோகங்கள் ஏற்கனவே ஒரு பிரதிக்கு $199 விலையில் தொடங்கியுள்ளன, நிறுவனத்தின் கூட்டாளர்கள் ஏற்கனவே இந்த அமைப்புகளை தங்கள் கிளவுட் கிளஸ்டர்களில் ஹோஸ்ட் செய்து வருகின்றனர், சுற்றுச்சூழல் அமைப்பு ஏற்கனவே வியட்நாம் மற்றும் UAE உட்பட 000 நாடுகளை உள்ளடக்கியது. கூடுதலாக, ஆம்பியர் கட்டிடக்கலையுடன் கூடிய கிராபிக்ஸ் தீர்வுகள் அமெரிக்க எரிசக்தி துறைக்காக க்ரே உருவாக்கிய பெர்ல்முட்டர் சூப்பர் கம்ப்யூட்டர் அமைப்பின் ஒரு பகுதியாக இருக்கும். இது NVIDIA ஆம்பியர் கிராபிக்ஸ் செயலிகளுடன் AMD EPYC மிலன் தலைமுறை மத்திய செயலிகளுடன் ஜென் 26 கட்டமைப்பைக் கொண்டிருக்கும். NVIDIA ஆம்பியர் அடிப்படையிலான சூப்பர் கம்ப்யூட்டர் கணுக்கள் ஆண்டின் இரண்டாம் பாதியில் வாடிக்கையாளரை சென்றடையும், இருப்பினும் முதல் பிரதிகள் ஏற்கனவே சிறப்பு ஆய்வகத்திற்கு வந்துவிட்டன. அமெரிக்க துறை.
ஆதாரம்: 3dnews.ru