Sistèm nan DGX A100, ki baze sou ki Jen-Hsun Huang dènyèman , gen ladan uit GPU A100, sis switch NVLink 3.0, nèf kontwolè rezo Mellanox, de processeur AMD EPYC Rome-jenerasyon ak 64 nwayo, 1 TB RAM ak 15 TB SSD ak sipò NVMe.
NVIDIA DGX A100 se twazyèm jenerasyon sistèm informatique konpayi an, ki fèt sitou pou rezoud pwoblèm entèlijans atifisyèl. Koulye a, sistèm sa yo bati sou dènye processeurs grafik A100 nan fanmi Ampere, ki lakòz yon ogmantasyon byen file nan pèfòmans yo, ki te rive nan 5 petaflops. Mèsi a sa a, DGX A100 a kapab jere modèl AI pi konplèks ak pi gwo volim done.
Pou sistèm DGX A100 la, NVIDIA endike sèlman kantite total memwa HBM2, ki rive nan 320 GB. Senp kalkil aritmetik pèmèt nou detèmine ke chak GPU gen 40 GB nan memwa, ak imaj nan nouvo pwodwi a fè li klè ke volim sa a distribye nan mitan sis pil. Se lajè memwa grafik la mansyone tou - 12,4 TB / s pou tout sistèm DGX A100 la nan total.
Lè nou konsidere ke sistèm DGX-1 a, ki baze sou uit Tesla V100s, te pwodwi yon sèl petaflops nan kalkil ak presizyon melanje, ak DGX A100 a reklame ke li fè nan senk petaflops, nou ka asime ke nan kalkil espesifik yon sèl Ampere GPU se senk fwa pi vit pase. predesesè li a ak achitekti Volta. Nan kèk ka, avantaj la vin vent fwa.
An total, sistèm DGX A8 a bay yon pèfòmans pik 100 operasyon pou chak segonn nan operasyon nonb antye relatif (INT1016), nan operasyon demi-presizyon pwen k ap flote (FP16) - 5 petaflops, nan operasyon doub-presizyon pwen k ap flote (FP64) - 156 teraflops. . Anplis de sa, DGX A32 a reyalize yon pèfòmans pik nan 100 petaflops nan TF2,5 tensor informatique. Ann sonje ke yon teraflops se 1012 operasyon pwen flotan pou chak segonn, yon petaflops se 1015 operasyon pwen flotan pou chak segonn.
Yon karakteristik enpòtan nan akseleratè NVIDIA A100 se kapasite nan divize resous yo nan yon sèl GPU nan sèt segman vityèl. Sa a pèmèt ou ogmante siyifikativman fleksibilite konfigirasyon nan menm segman nwaj la. Pou egzanp, yon sistèm DGX A100 ak uit GPU fizik ka aji kòm 56 GPU vityèl. Teknoloji Multi-Instance GPU (MIG) pèmèt ou chwazi segman diferan gwosè tou de nan mitan nwayo yo enfòmatik ak kòm yon pati nan memwa kachèt ak memwa HBM2, epi yo pa pral konpetisyon youn ak lòt pou Pleasant.
Li enpòtan pou remake ke konpare ak sistèm DGX anvan yo, anatomi DGX A100 la te sibi kèk chanjman. Nimewo a nan tiyo chalè nan radyatè yo nan modil SXM3 yo, kote yo enstale processeur grafik A100 ak memwa HBM2, te ogmante anpil konpare ak modil Tesla V100 nan jenerasyon Volta, byenke pwent yo kache nan gade nan moun an mwayèn. pa kouvèti anwo yo. Limit pratik pou konsepsyon sa a se 400 W enèji tèmik. Sa a se konfime tou pa karakteristik ofisyèl yo nan A100 nan vèsyon an SXM3, pibliye jodi a.
Bò kote GPU A100 yo sou mèr la gen sis switch koòdone NVLink twazyèm jenerasyon, ki ansanm bay echanj done de-fason nan yon vitès 4,8 TB / s. NVIDIA te pran swen seryezman tou nan refwadisman yo, jije pa radyatè yo plen pwofil ak tiyo chalè. Chak GPU resevwa 12 chanèl nan koòdone NVLink la; GPU vwazen yo ka fè echanj done nan yon vitès 600 GB / s.
Sistèm DGX A100 la tou kay nèf Mellanox ConnectX-6 HDR rezo contrôleur, ki kapab transmèt enfòmasyon nan vitès ki rive jiska 200 Gbit/s. An total, DGX A100 a bay transfè done de-fason a yon vitès 3,6 TB/s. Sistèm nan itilize tou teknoloji propriétaires Mellanox ki vize a dekale efikas nan sistèm informatique ak yon achitekti konsa. Se processeur jenerasyon AMD EPYC Rome ki detèmine sipò PCI Express 4.0 nan nivo platfòm la; kòm yon rezilta, koòdone sa a itilize pa sèlman akseleratè grafik A100, men tou pa kondui eta solid ak pwotokòl NVMe.
Anplis DGX A100, NVIDIA te kòmanse bay patnè li yo ak tablo HGX A100, ki se youn nan eleman sistèm sèvè ke lòt manifaktirè yo pral pwodwi poukont yo. Yon sèl tablo HGX A100 ka akomode swa kat oswa uit GPU NVIDIA A100. Anplis de sa, pou pwòp bezwen li yo, NVIDIA te deja rasanble DGX SuperPOD - yon gwoup 140 sistèm DGX A100, ki bay pèfòmans nan 700 petaflops ak yon dimansyon jistis modès. Konpayi an te pwomèt pou bay asistans metodolojik patnè ki vle bati gwoup enfòmatik menm jan an ki baze sou DGX A100 la. By wout la, li te pran NVIDIA pa plis pase yon mwa pou konstwi DGX SuperPOD olye pou plizyè mwa oswa menm ane tipik pou travay sa yo.
Dapre NVIDIA, livrezon DGX A100 te deja kòmanse nan yon pri $ 199 pou chak kopi, patnè konpayi an yo deja òganize sistèm sa yo nan grap nwaj yo, ekosistèm nan deja kouvri 000 peyi, ki gen ladan Vyetnam ak UAE. Anplis de sa, solisyon grafik ak achitekti Ampere pral byen previzib fè pati sistèm supercomputer Perlmutter, ki te kreye pa Cray pou Depatman Enèji Ameriken an. Li pral konpoze de processeurs grafik NVIDIA Ampere ansanm ak processeur santral AMD EPYC Milan jenerasyon ak achitekti Zen 26. Nœuds supercomputer ki baze sou NVIDIA Ampere pral rive jwenn kliyan an nan dezyèm mwatye ane a, byenke premye kopi yo te deja rive nan laboratwa espesyalize nan. depatman Ameriken an.
Sous: 3dnews.ru