NVIDIA DGX A100: ആമ്പിയർ അടിസ്ഥാനമാക്കിയുള്ള ആദ്യ പ്ലാറ്റ്‌ഫോം അഞ്ച് പെറ്റാഫ്ലോപ്പ് പ്രകടനങ്ങൾ വാഗ്ദാനം ചെയ്യുന്നു

DGX A100 സിസ്റ്റം, ജെൻ-ഹ്‌സുൻ ഹുവാങ് അടുത്തിടെ ഇത് അടിസ്ഥാനമാക്കിയുള്ളതാണ് അടുപ്പിൽ നിന്ന് എടുത്തു, എട്ട് എ100 ജിപിയു, ആറ് എൻവിലിങ്ക് 3.0 സ്വിച്ചുകൾ, ഒമ്പത് മെല്ലനോക്സ് നെറ്റ്‌വർക്ക് കൺട്രോളറുകൾ, 64 കോറുകളുള്ള രണ്ട് എഎംഡി ഇപിവൈസി റോം-ജനറേഷൻ പ്രോസസറുകൾ, എൻവിഎംഇ പിന്തുണയുള്ള 1 ടിബി റാം, 15 ടിബി എസ്എസ്ഡി എന്നിവ ഉൾപ്പെടുന്നു.

എൻവിഡിയ ഡിജിഎക്‌സ് എ100 കമ്പനിയുടെ മൂന്നാം തലമുറ കമ്പ്യൂട്ടിംഗ് സിസ്റ്റമാണ്, ഇത് പ്രാഥമികമായി ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് പ്രശ്‌നങ്ങൾ പരിഹരിക്കുന്നതിനായി രൂപകൽപ്പന ചെയ്‌തിരിക്കുന്നു. ഇപ്പോൾ അത്തരം സംവിധാനങ്ങൾ ആമ്പിയർ കുടുംബത്തിൽ നിന്നുള്ള ഏറ്റവും പുതിയ A100 ഗ്രാഫിക്സ് പ്രോസസറുകളിൽ നിർമ്മിച്ചിരിക്കുന്നു, ഇത് അവയുടെ പ്രകടനത്തിൽ കുത്തനെ വർദ്ധനവിന് കാരണമാകുന്നു, അത് 5 പെറ്റാഫ്ലോപ്പുകളിൽ എത്തിയിരിക്കുന്നു. ഇതിന് നന്ദി, DGX A100 ന് കൂടുതൽ സങ്കീർണ്ണമായ AI മോഡലുകളും വളരെ വലിയ അളവിലുള്ള ഡാറ്റയും കൈകാര്യം ചെയ്യാൻ കഴിയും.

DGX A100 സിസ്റ്റത്തിന്, NVIDIA സൂചിപ്പിക്കുന്നത് HBM2 മെമ്മറിയുടെ ആകെ അളവ് മാത്രമാണ്, അത് 320 GB വരെ എത്തുന്നു. ഓരോ ജിപിയുവിനും 40 GB മെമ്മറി ഉണ്ടെന്ന് നിർണ്ണയിക്കാൻ ലളിതമായ ഗണിത കണക്കുകൂട്ടലുകൾ ഞങ്ങളെ അനുവദിക്കുന്നു, കൂടാതെ ഈ വോളിയം ആറ് സ്റ്റാക്കുകൾക്കിടയിൽ വിതരണം ചെയ്യപ്പെടുന്നുവെന്ന് പുതിയ ഉൽപ്പന്നത്തിന്റെ ചിത്രങ്ങൾ വ്യക്തമാക്കുന്നു. ഗ്രാഫിക്സ് മെമ്മറി ബാൻഡ്‌വിഡ്ത്തും സൂചിപ്പിച്ചിരിക്കുന്നു - മൊത്തം DGX A12,4 സിസ്റ്റത്തിന് 100 TB / s.

എട്ട് ടെസ്‌ല വി1-കളെ അടിസ്ഥാനമാക്കിയുള്ള ഡിജിഎക്‌സ്-100 സിസ്റ്റം, മിക്സഡ്-പ്രിസിഷൻ കണക്കുകൂട്ടലുകളിൽ ഒരു പെറ്റാഫ്ലോപ്പുകൾ നിർമ്മിച്ചു, കൂടാതെ ഡിജിഎക്‌സ് എ100 അഞ്ച് പെറ്റാഫ്ലോപ്പുകളിൽ പ്രവർത്തിക്കുമെന്ന് അവകാശപ്പെടുന്നതിനാൽ, നിർദ്ദിഷ്ട കണക്കുകൂട്ടലുകളിൽ ഒരു ആമ്പിയർ ജിപിയു അഞ്ചിരട്ടി വേഗതയുള്ളതാണെന്ന് നമുക്ക് അനുമാനിക്കാം. വോൾട്ട ആർക്കിടെക്ചറിനൊപ്പം അതിന്റെ മുൻഗാമി. ചില സന്ദർഭങ്ങളിൽ, നേട്ടം ഇരുപത്തിരട്ടിയായി മാറുന്നു.

മൊത്തത്തിൽ, DGX A8 സിസ്റ്റം ഇന്റിജർ ഓപ്പറേഷനുകളിൽ (INT100), പകുതി-പ്രിസിഷൻ ഫ്ലോട്ടിംഗ് പോയിന്റ് ഓപ്പറേഷനുകളിൽ (FP1016) - 16 പെറ്റാഫ്ലോപ്പുകൾ, ഇരട്ട-പ്രിസിഷൻ ഫ്ലോട്ടിംഗ് പോയിന്റ് പ്രവർത്തനങ്ങളിൽ (FP5) - 64 ടെറാഫ്ലോപ്പുകൾ സെക്കൻഡിൽ 156 പ്രവർത്തനങ്ങളുടെ പീക്ക് പ്രകടനം നൽകുന്നു. . കൂടാതെ, TF32 ടെൻസർ കമ്പ്യൂട്ടിംഗിൽ DGX A100 2,5 പെറ്റാഫ്ലോപ്പുകളുടെ ഏറ്റവും ഉയർന്ന പ്രകടനം കൈവരിക്കുന്നു. ഒരു ടെറാഫ്ലോപ്സ് ഒരു സെക്കൻഡിൽ 1012 ഫ്ലോട്ടിംഗ് പോയിന്റ് പ്രവർത്തനങ്ങളാണെന്നും ഒരു പെറ്റാഫ്ലോപ്സ് സെക്കൻഡിൽ 1015 ഫ്ലോട്ടിംഗ് പോയിന്റ് ഓപ്പറേഷനുകളാണെന്നും നമുക്ക് ഓർക്കാം.

NVIDIA A100 ആക്സിലറേറ്ററുകളുടെ ഒരു പ്രധാന സവിശേഷത ഒരു GPU-യുടെ ഉറവിടങ്ങളെ ഏഴ് വെർച്വൽ സെഗ്മെന്റുകളായി വിഭജിക്കാനുള്ള കഴിവാണ്. ഒരേ ക്ലൗഡ് സെഗ്‌മെന്റിൽ കോൺഫിഗറേഷൻ വഴക്കം ഗണ്യമായി വർദ്ധിപ്പിക്കാൻ ഇത് നിങ്ങളെ അനുവദിക്കുന്നു. ഉദാഹരണത്തിന്, എട്ട് ഫിസിക്കൽ GPU-കളുള്ള ഒരു DGX A100 സിസ്റ്റത്തിന് 56 വെർച്വൽ GPU-കളായി പ്രവർത്തിക്കാനാകും. മൾട്ടി-ഇൻസ്‌റ്റൻസ് ജിപിയു (എംഐജി) സാങ്കേതികവിദ്യ, കമ്പ്യൂട്ടിംഗ് കോറുകൾക്കിടയിലും കാഷെ മെമ്മറിയുടെയും എച്ച്ബിഎം 2 മെമ്മറിയുടെയും ഭാഗമായി വ്യത്യസ്ത വലുപ്പത്തിലുള്ള സെഗ്‌മെന്റുകൾ തിരഞ്ഞെടുക്കാൻ നിങ്ങളെ അനുവദിക്കുന്നു, മാത്രമല്ല അവ ബാൻഡ്‌വിഡ്ത്തിന് വേണ്ടി പരസ്പരം മത്സരിക്കില്ല.

മുമ്പത്തെ DGX സിസ്റ്റങ്ങളുമായി താരതമ്യപ്പെടുത്തുമ്പോൾ, DGX A100 ന്റെ ശരീരഘടന ചില മാറ്റങ്ങൾക്ക് വിധേയമായിട്ടുണ്ട് എന്നത് ശ്രദ്ധിക്കേണ്ടതാണ്. HBM3 മെമ്മറിയുള്ള A100 ഗ്രാഫിക്സ് പ്രോസസറുകൾ ഇൻസ്റ്റാൾ ചെയ്തിരിക്കുന്ന SXM2 മൊഡ്യൂളുകളുടെ റേഡിയറുകളിലെ ചൂട് പൈപ്പുകളുടെ എണ്ണം, വോൾട്ട തലമുറയുടെ ടെസ്‌ല V100 മൊഡ്യൂളുകളുമായി താരതമ്യപ്പെടുത്തുമ്പോൾ ഗണ്യമായി വർദ്ധിച്ചു, എന്നിരുന്നാലും അവയുടെ അറ്റങ്ങൾ ശരാശരി വ്യക്തിയുടെ കാഴ്ചയിൽ നിന്ന് മറഞ്ഞിരിക്കുന്നു. മുകളിലെ കവറുകൾ വഴി. ഈ രൂപകൽപ്പനയുടെ പ്രായോഗിക പരിധി 400 W താപ ഊർജ്ജമാണ്. ഇന്ന് പ്രസിദ്ധീകരിച്ച SXM100 പതിപ്പിലെ A3-ന്റെ ഔദ്യോഗിക സവിശേഷതകളും ഇത് സ്ഥിരീകരിക്കുന്നു.

മദർബോർഡിലെ A100 GPU-കൾക്ക് അടുത്തായി ആറ് മൂന്നാം തലമുറ NVLink ഇന്റർഫേസ് സ്വിച്ചുകളുണ്ട്, അവ ഒരുമിച്ച് 4,8 TB/s വേഗതയിൽ ടു-വേ ഡാറ്റ എക്സ്ചേഞ്ച് നൽകുന്നു. ഹീറ്റ് പൈപ്പുകളുള്ള പൂർണ്ണ പ്രൊഫൈൽ റേഡിയറുകളെ വിലയിരുത്തിക്കൊണ്ട് എൻവിഡിയ അവരുടെ തണുപ്പിന്റെ കാര്യത്തിലും ഗൗരവമായി ശ്രദ്ധിച്ചു. ഓരോ ജിപിയുവിനും NVLink ഇന്റർഫേസിന്റെ 12 ചാനലുകൾ അനുവദിച്ചിരിക്കുന്നു; അയൽ GPU-കൾക്ക് 600 GB/s വേഗതയിൽ ഡാറ്റ കൈമാറാൻ കഴിയും.

DGX A100 സിസ്റ്റത്തിൽ ഒമ്പത് Mellanox ConnectX-6 HDR നെറ്റ്‌വർക്ക് കൺട്രോളറുകളും ഉണ്ട്, 200 Gbit/s വരെ വേഗതയിൽ വിവരങ്ങൾ കൈമാറാൻ കഴിയും. മൊത്തത്തിൽ, DGX A100 3,6 TB/s വേഗതയിൽ ടു-വേ ഡാറ്റ ട്രാൻസ്ഫർ നൽകുന്നു. അത്തരമൊരു ആർക്കിടെക്ചർ ഉപയോഗിച്ച് കമ്പ്യൂട്ടിംഗ് സിസ്റ്റങ്ങളുടെ കാര്യക്ഷമമായ സ്കെയിലിംഗ് ലക്ഷ്യമിട്ടുള്ള പ്രൊപ്രൈറ്ററി മെല്ലനോക്സ് സാങ്കേതികവിദ്യകളും സിസ്റ്റം ഉപയോഗിക്കുന്നു. പ്ലാറ്റ്‌ഫോം തലത്തിലുള്ള പിസിഐ എക്സ്പ്രസ് 4.0 പിന്തുണ നിർണ്ണയിക്കുന്നത് എഎംഡി ഇപിവൈസി റോം ജനറേഷൻ പ്രോസസറുകളാണ്; തൽഫലമായി, ഈ ഇന്റർഫേസ് A100 ഗ്രാഫിക്സ് ആക്സിലറേറ്ററുകൾ മാത്രമല്ല, NVMe പ്രോട്ടോക്കോൾ ഉള്ള സോളിഡ്-സ്റ്റേറ്റ് ഡ്രൈവുകളും ഉപയോഗിക്കുന്നു.

DGX A100 ന് പുറമേ, NVIDIA അതിന്റെ പങ്കാളികൾക്ക് HGX A100 ബോർഡുകൾ വിതരണം ചെയ്യാൻ തുടങ്ങി, മറ്റ് നിർമ്മാതാക്കൾ സ്വന്തമായി നിർമ്മിക്കുന്ന സെർവർ സിസ്റ്റങ്ങളുടെ ഘടകങ്ങളിലൊന്നാണ് ഇത്. ഒരൊറ്റ HGX A100 ബോർഡിന് നാലോ എട്ടോ NVIDIA A100 GPU-കൾ ഉൾക്കൊള്ളാൻ കഴിയും. കൂടാതെ, സ്വന്തം ആവശ്യങ്ങൾക്കായി, NVIDIA ഇതിനകം തന്നെ DGX SuperPOD - 140 DGX A100 സിസ്റ്റങ്ങളുടെ ഒരു ക്ലസ്റ്റർ, 700 പെറ്റാഫ്ലോപ്പുകളിൽ മൊത്തത്തിലുള്ള മിതമായ അളവുകളിൽ പ്രകടനം നൽകുന്നു. DGX A100 അടിസ്ഥാനമാക്കി സമാനമായ കമ്പ്യൂട്ടിംഗ് ക്ലസ്റ്ററുകൾ നിർമ്മിക്കാൻ ആഗ്രഹിക്കുന്ന പങ്കാളികൾക്ക് രീതിശാസ്ത്രപരമായ സഹായം നൽകുമെന്ന് കമ്പനി വാഗ്ദാനം ചെയ്തു. വഴിയിൽ, NVIDIA DGX SuperPOD നിർമ്മിക്കാൻ ഒരു മാസത്തിൽ കൂടുതൽ എടുത്തില്ല, അത്തരം ജോലികൾക്കായി നിരവധി മാസങ്ങൾ അല്ലെങ്കിൽ വർഷങ്ങൾ പോലും.

NVIDIA പറയുന്നതനുസരിച്ച്, DGX A100 ന്റെ ഡെലിവറി ഒരു പകർപ്പിന് $199 എന്ന നിരക്കിൽ ഇതിനകം ആരംഭിച്ചിട്ടുണ്ട്, കമ്പനിയുടെ പങ്കാളികൾ ഇതിനകം തന്നെ ഈ സംവിധാനങ്ങൾ അവരുടെ ക്ലൗഡ് ക്ലസ്റ്ററുകളിൽ ഹോസ്റ്റുചെയ്യുന്നു, ആവാസവ്യവസ്ഥ ഇതിനകം വിയറ്റ്നാമും യുഎഇയും ഉൾപ്പെടെ 000 രാജ്യങ്ങളെ ഉൾക്കൊള്ളുന്നു. കൂടാതെ, ആംപിയർ ആർക്കിടെക്ചറോടുകൂടിയ ഗ്രാഫിക്സ് സൊല്യൂഷനുകൾ, യുഎസിലെ ഊർജ വകുപ്പിന് വേണ്ടി ക്രേ സൃഷ്ടിച്ച പെർൽമുട്ടർ സൂപ്പർ കമ്പ്യൂട്ടർ സിസ്റ്റത്തിന്റെ ഭാഗമാകും. ഇതിൽ NVIDIA Ampere ഗ്രാഫിക്സ് പ്രോസസറുകൾക്കൊപ്പം AMD EPYC മിലാൻ ജനറേഷൻ സെൻട്രൽ പ്രൊസസറുകളും സെൻ 26 ആർക്കിടെക്ചറും ഉണ്ടാകും.NVIDIA Ampere അടിസ്ഥാനമാക്കിയുള്ള സൂപ്പർ കമ്പ്യൂട്ടർ നോഡുകൾ വർഷത്തിന്റെ രണ്ടാം പകുതിയിൽ ഉപഭോക്താവിൽ എത്തും, ആദ്യ പകർപ്പുകൾ ഇതിനകം തന്നെ പ്രത്യേക ലബോറട്ടറിയിൽ എത്തിക്കഴിഞ്ഞു. അമേരിക്കൻ വകുപ്പ്.

അവലംബം: 3dnews.ru