ʻO ka ʻōnaehana DGX A100, e pili ana iā Jen-Hsun Huang i kēia manawa , me ewalu A100 GPUs, eono NVLink 3.0 hoololi, eiwa Mellanox mea hooponopono, elua AMD EPYC Roma-hanauna kaʻina hana me 64 cores, 1 TB o RAM a me 15 TB o SSD me ke kākoʻo NVMe.
ʻO NVIDIA DGX A100 ke kolu o ka hanauna o nā ʻōnaehana computing o ka hui, i hoʻolālā mua ʻia no ka hoʻoponopono ʻana i nā pilikia naʻauao. I kēia manawa, kūkulu ʻia ia mau ʻōnaehana ma luna o nā kaʻina hana kiʻi A100 hou loa mai ka ʻohana Ampere, kahi e hoʻonui nui ai i kā lākou hana, a hiki i 5 petaflops. Mahalo i kēia, hiki i ka DGX A100 ke mālama i nā hiʻohiʻona AI paʻakikī a ʻoi aku ka nui o ka ʻikepili.
No ka ʻōnaehana DGX A100, hōʻike ʻo NVIDIA i ka nui o ka hoʻomanaʻo HBM2, a hiki i 320 GB. ʻO nā helu helu maʻalahi hiki iā mākou ke hoʻoholo i kēlā me kēia GPU he 40 GB o ka hoʻomanaʻo, a ʻo nā kiʻi o ka huahana hou e hoʻomaopopo i ka puʻunaue ʻia o kēia leo ma waena o nā papa ʻeono. Ua ʻōlelo pū ʻia ka bandwidth hoʻomanaʻo kiʻi - 12,4 TB / s no ka ʻōnaehana DGX A100 holoʻokoʻa.
I ka noʻonoʻo ʻana i ka ʻōnaehana DGX-1, i hoʻokumu ʻia ma ʻewalu Tesla V100s, ua hana i hoʻokahi petaflops i ka helu ʻana i ka huikau, a ua ʻōlelo ʻia ka DGX A100 e hana ma nā petaflops ʻelima, hiki iā mākou ke manaʻo i nā helu kikoʻī he ʻelima mau manawa ʻoi aku ka wikiwiki o ka Ampere GPU. kona mua me ka hoʻolālā Volta. I kekahi mau hihia, lilo ka pōmaikaʻi i iwakālua.
ʻO ka huina, hāʻawi ka ʻōnaehana DGX A8 i ka hana kiʻekiʻe o 100 mau hana i kēlā me kēia kekona i nā hana integer (INT1016), i ka hana ʻana i ka hapalua kikoʻī (FP16) - 5 petaflops, i nā hana floating point pālua (FP64) - 156 teraflops . Hoʻohui, loaʻa ka DGX A32 i kahi hana kiʻekiʻe o 100 petaflops ma TF2,5 tensor computing. E hoʻomanaʻo kākou, ʻo hoʻokahi teraflops he 1012 mau hana lana i kēlā me kēia kekona, hoʻokahi petaflops he 1015 mau hana lana i kēlā me kēia kekona.
ʻO kahi hiʻohiʻona nui o NVIDIA A100 accelerators ka hiki ke hoʻokaʻawale i nā kumuwaiwai o hoʻokahi GPU i ʻehiku mau ʻāpana virtual. Hāʻawi kēia iā ʻoe e hoʻonui nui i ka hiki ke hoʻonohonoho i ka ʻāpana kapuaʻi like. No ka laʻana, hoʻokahi ʻōnaehana DGX A100 me ʻewalu mau GPU kino hiki ke hana ma ke ʻano he 56 virtual GPU. ʻO ka ʻenehana Multi-Instance GPU (MIG) hiki iā ʻoe ke koho i nā ʻāpana o nā nui like ʻole ma waena o nā cores computing a ma ke ʻano o ka hoʻomanaʻo cache a me ka hoʻomanaʻo HBM2, a ʻaʻole lākou e hoʻokūkū kekahi i kekahi no ka bandwidth.
He mea pono e hoʻomaopopo i ka hoʻohālikelike ʻana i nā ʻōnaehana DGX mua, ua hoʻololi ʻia ka anatomy o ka DGX A100. ʻO ka nui o nā paipu wela i loko o nā radiators o nā modula SXM3, kahi i hoʻokomo ʻia ai nā kaʻina hana kiʻi A100 me ka hoʻomanaʻo HBM2, ua hoʻonui nui ʻia i ka hoʻohālikelike ʻana i nā modula Tesla V100 o ka hanauna Volta, ʻoiai ua hūnā ʻia ko lākou mau hopena mai ka ʻike o ke kanaka maʻamau. e na uhi luna. ʻO ka palena kūpono no kēia hoʻolālā he 400 W o ka ikehu wela. Ua hōʻoia ʻia kēia e nā hiʻohiʻona mana o ka A100 i ka mana SXM3, i paʻi ʻia i kēia lā.
Ma hope o nā A100 GPU ma ka motherboard he ʻeono mau hoʻololi NVLink o ka hanauna ʻekolu, e hāʻawi pū ana i ka hoʻololi ʻikepili ʻelua ala i ka wikiwiki o 4,8 TB/s. Ua mālama koʻikoʻi ʻo NVIDIA i kā lākou ʻoluʻolu, e hoʻoholo ana e nā radiators piha piha me nā paipu wela. Hoʻokaʻawale ʻia kēlā me kēia GPU i nā kaha 12 o ka interface NVLink; hiki i nā GPU kokoke ke hoʻololi i ka ʻikepili i ka wikiwiki o 600 GB/s.
ʻO ka ʻōnaehana DGX A100 ka hale ʻeiwa Mellanox ConnectX-6 HDR mea hoʻokele pūnaewele, hiki ke hoʻouna i ka ʻike ma ka wikiwiki a hiki i 200 Gbit/s. Ma ka huina, hāʻawi ka DGX A100 i ka hoʻoili ʻikepili ʻelua ala i ka wikiwiki o 3,6 TB/s. Hoʻohana pū ka ʻōnaehana i nā ʻenehana Mellanox proprietary e kuhikuhi ana i ka hoʻonui pono ʻana o nā ʻōnaehana kamepiula me ia ʻano hoʻolālā. Hoʻoholo ʻia ke kākoʻo ʻo PCI Express 4.0 ma ka pae kahua e nā kaʻina hana hanauna AMD EPYC Roma; ʻo ka hopena, hoʻohana ʻia kēia interface ʻaʻole wale e nā kiʻi kiʻi kiʻi A100 wale nō, akā e nā mea hoʻokele solid-state me ka protocol NVMe.
Ma waho aʻe o ka DGX A100, ua hoʻomaka ʻo NVIDIA e hoʻolako i kāna mau hoa me nā papa HGX A100, ʻo ia kekahi o nā ʻāpana o nā ʻōnaehana kikowaena e hana ai nā mea hana ʻē aʻe iā lākou iho. Hiki i kahi papa HGX A100 hoʻokahi ke hoʻokipa i ʻehā a ʻewalu NVIDIA A100 GPU. Eia kekahi, no kona pono ponoʻī, ua hōʻuluʻulu ʻo NVIDIA iā DGX SuperPOD - kahi pūʻulu o nā ʻōnaehana 140 DGX A100, e hāʻawi ana i ka hana ma 700 petaflops me nā ʻāpana ākea ākea. Ua hoʻohiki ka hui e hāʻawi i ke kōkua ʻano hana i nā hoa makemake e kūkulu i nā pūʻulu computing like e pili ana i ka DGX A100. Ma ke ala, ua lawe ʻo NVIDIA ma mua o hoʻokahi mahina e kūkulu i ka DGX SuperPOD ma kahi o kekahi mau mahina a i ʻole mau makahiki maʻamau no ia mau hana.
Wahi a NVIDIA, ua hoʻomaka mua ka hoʻopuka ʻana o ka DGX A100 i ke kumukūʻai o $ 199 no ke kope, ua hoʻolauna mua nā hoa o ka hui i kēia mau ʻōnaehana i kā lākou mau ʻōpū kapuaʻi, ua uhi ke kaiaolaola i nā ʻāina 000, me Vietnam a me ka UAE. Eia kekahi, ʻo nā hoʻonā kiʻi me ka hoʻolālā Ampere e lilo i ʻāpana o ka ʻōnaehana supercomputer Perlmutter, i hana ʻia e Cray no ka US Department of Energy. E loaʻa iā ia nā kaʻina hana kiʻi NVIDIA Ampere ma ka ʻaoʻao o ka AMD EPYC Milan generation processors me Zen 26 architecture. ʻO nā nodes supercomputer i hoʻokumu ʻia ma NVIDIA Ampere e hiki aku i ka mea kūʻai aku i ka hapa ʻelua o ka makahiki, ʻoiai ua hōʻea nā kope mua i ka hale hana kūikawā o ka oihana Amerika.
Source: 3dnews.ru