Is-sistema DGX A100, ibbażata fuqha Jen-Hsun Huang reċentement , jinkludi tmien GPUs A100, sitt swiċċijiet NVLink 3.0, disa 'kontrolluri tan-netwerk Mellanox, żewġ proċessuri AMD EPYC tal-ġenerazzjoni ta' Ruma b'64 core, 1 TB ta 'RAM u 15 TB ta' SSDs b'appoġġ NVMe.
NVIDIA DGX A100 hija t-tielet ġenerazzjoni tas-sistemi tal-kompjuter tal-kumpanija, iddisinjati primarjament biex isolvu problemi ta 'intelliġenza artifiċjali. Issa sistemi bħal dawn huma mibnija fuq l-aħħar proċessuri tal-grafika A100 mill-familja Ampere, li tikkawża żieda qawwija fil-prestazzjoni tagħhom, li laħqet 5 petaflops. Grazzi għal dan, id-DGX A100 huwa kapaċi jimmaniġġja mudelli AI ħafna aktar kumplessi u volumi ħafna akbar ta 'dejta.
Għas-sistema DGX A100, NVIDIA tindika biss l-ammont totali ta 'memorja HBM2, li tilħaq 320 GB. Kalkoli aritmetiċi sempliċi jippermettulna niddeterminaw li kull GPU għandha 40 GB ta 'memorja, u immaġini tal-prodott il-ġdid jagħmluha ċara li dan il-volum huwa mqassam fost sitt munzelli. Il-bandwidth tal-memorja tal-grafika tissemma wkoll - 12,4 TB / s għas-sistema DGX A100 kollha b'kollox.
Meta wieħed iqis li s-sistema DGX-1, ibbażata fuq tmien Tesla V100s, ipproduċiet petaflops wieħed f'kalkoli ta' preċiżjoni mħallta, u d-DGX A100 huwa ddikjarat li jaħdem f'ħames petaflops, nistgħu nassumu li f'kalkoli speċifiċi Ampere GPU waħda hija ħames darbiet aktar mgħaġġla minn predeċessur tiegħu bl-arkitettura Volta. F'xi każijiet, il-vantaġġ isir għoxrin darba.
B'kollox, is-sistema DGX A8 tipprovdi prestazzjoni massima ta '100 operazzjoni kull sekonda f'operazzjonijiet integer (INT1016), f'operazzjonijiet b'punt li jvarja b'nofs preċiżjoni (FP16) - 5 petaflops, f'operazzjonijiet b'punt li jvarja bi preċiżjoni doppja (FP64) - 156 teraflops . Barra minn hekk, id-DGX A32 jikseb l-ogħla prestazzjoni ta '100 petaflops fil-kompjuters tat-tensor TF2,5. Ejja nfakkru li teraflops wieħed huwa 1012 operazzjoni floating point kull sekonda, petaflops wieħed huwa 1015 operazzjoni floating point kull sekonda.
Karatteristika importanti tal-aċċeleraturi NVIDIA A100 hija l-abbiltà li jaqsmu r-riżorsi ta 'GPU waħda f'seba' segmenti virtwali. Dan jippermettilek li żżid b'mod sinifikanti l-flessibilità tal-konfigurazzjoni fl-istess segment tas-sħab. Pereżempju, sistema waħda DGX A100 bi tmien GPUs fiżiċi tista 'taġixxi bħala 56 GPU virtwali. It-teknoloġija Multi-Instance GPU (MIG) tippermettilek tagħżel segmenti ta 'daqsijiet differenti kemm fost il-qlub tal-kompjuters kif ukoll bħala parti mill-memorja cache u l-memorja HBM2, u mhux se jikkompetu ma' xulxin għall-bandwidth.
Ta 'min jinnota li meta mqabbla mas-sistemi DGX preċedenti, l-anatomija tad-DGX A100 għaddiet minn xi bidliet. In-numru ta 'pajpijiet tas-sħana fir-radjaturi tal-moduli SXM3, li fuqhom huma installati proċessuri tal-grafika A100 b'memorja HBM2, żdied b'mod sinifikanti meta mqabbel mal-moduli Tesla V100 tal-ġenerazzjoni Volta, għalkemm it-truf tagħhom huma moħbija mill-fehma tal-persuna medja mill-għata ta’ fuq. Il-limitu prattiku għal dan id-disinn huwa 400 W ta 'enerġija termali. Dan huwa kkonfermat ukoll mill-karatteristiċi uffiċjali tal-A100 fil-verżjoni SXM3, ippubblikata llum.
Ħdejn il-GPUs A100 fuq il-motherboard hemm sitt swiċċijiet tal-interface NVLink tat-tielet ġenerazzjoni, li flimkien jipprovdu skambju ta 'dejta f'żewġ direzzjonijiet b'veloċità ta' 4,8 TB/s. NVIDIA ħadet ukoll ħsieb serjament tat-tkessiħ tagħhom, ġġudikati mir-radjaturi ta 'profil sħiħ b'pajpijiet tas-sħana. Kull GPU hija allokata 12-il kanal tal-interface NVLink; GPUs ġirien jistgħu jiskambjaw data b'veloċità ta '600 GB/s.
Is-sistema DGX A100 fiha wkoll disa' kontrolluri tan-netwerk Mellanox ConnectX-6 HDR, kapaċi jittrasmettu informazzjoni b'veloċitajiet sa 200 Gbit/s. B'kollox, id-DGX A100 jipprovdi trasferiment tad-dejta f'żewġ direzzjonijiet b'veloċità ta '3,6 TB/s. Is-sistema tuża wkoll teknoloġiji proprjetarji Mellanox immirati lejn skalar effiċjenti tas-sistemi tal-kompjuter b'arkitettura bħal din. L-appoġġ tal-PCI Express 4.0 fil-livell tal-pjattaforma huwa ddeterminat mill-proċessuri tal-ġenerazzjoni AMD EPYC Rome; bħala riżultat, din l-interface tintuża mhux biss mill-aċċeleraturi tal-grafika A100, iżda wkoll minn drives fi stat solidu bil-protokoll NVMe.
Minbarra d-DGX A100, NVIDIA bdiet tforni lill-imsieħba tagħha b'bordijiet HGX A100, li huma wieħed mill-komponenti tas-sistemi tas-server li manifatturi oħra se jipproduċu waħedhom. Bord wieħed HGX A100 jista 'jakkomoda jew erba' jew tmien GPUs NVIDIA A100. Barra minn hekk, għall-bżonnijiet tagħha stess, NVIDIA diġà immuntat DGX SuperPOD - grupp ta '140 DGX A100 sistemi, li jipprovdu prestazzjoni f'700 petaflops b'dimensjonijiet ġenerali pjuttost modesti. Il-kumpanija wiegħdet li tipprovdi assistenza metodoloġika lill-imsieħba li jixtiequ jibnu raggruppamenti tal-kompjuters simili bbażati fuq id-DGX A100. Mill-mod, NVIDIA ħadet mhux aktar minn xahar biex tibni d-DGX SuperPOD minflok diversi xhur jew saħansitra snin tipiċi għal kompiti bħal dawn.
Skont NVIDIA, il-kunsinni tad-DGX A100 diġà bdew bi prezz ta '$199 għal kull kopja, l-imsieħba tal-kumpanija diġà qed jospitaw dawn is-sistemi fir-raggruppamenti ta' sħab tagħhom, l-ekosistema diġà tkopri 000 pajjiż, inkluż il-Vjetnam u l-UAE. Barra minn hekk, is-soluzzjonijiet tal-grafika bl-arkitettura Ampere se jkunu pjuttost prevedibbli parti mis-sistema tas-superkompjuter Perlmutter, maħluqa minn Cray għad-Dipartiment tal-Enerġija tal-Istati Uniti. Se jikkonsisti minn proċessuri tal-grafika NVIDIA Ampere flimkien ma 'proċessuri ċentrali tal-ġenerazzjoni AMD EPYC Milan b'arkitettura Zen 26. Nodi tas-superkompjuter ibbażati fuq NVIDIA Ampere se jilħqu l-klijent fit-tieni nofs tas-sena, għalkemm l-ewwel kopji diġà waslu fil-laboratorju speċjalizzat ta' id-dipartiment Amerikan.
Sors: 3dnews.ru