5.8 miriona IOPS: he aha te nui?

Kia ora Habr! Ko nga huinga raraunga mo nga Raraunga Nui me te ako miihini kei te tipu haere, me whai tonu tatou ki a raatau. Ko ta matou panui mo tetahi atu hangarau hou i roto i te mara o te rorohiko mahi teitei (HPC, High Performance Computing), e whakaatuhia ana i te tihokahoka o Kingston i Supercomputing-2019. Koinei te whakamahinga o nga punaha rokiroki raraunga Hi-End (SDS) i roto i nga tūmau me nga waeine tukatuka whakairoiro (GPU) me te hangarau pahi GPUDirect Storage. He mihi ki te whakawhiti raraunga tika i waenga i te punaha rokiroki me te GPU, te maataki i te PTM, te uta i nga raraunga ki roto i nga whakatere GPU ka whakaterehia e te raupapa o te nui, na reira ka rere nga tono Raraunga Nui i te nui o nga mahi e whakaratohia ana e nga GPU. Ka mutu, kei te pirangi nga kaiwhakawhanake punaha HPC ki te ahu whakamua i roto i nga punaha rokiroki me nga tere I/O teitei, penei i nga mea i hangaia e Kingston.

5.8 miriona IOPS: he aha te nui?

Ko te mahi GPU ka nui ake i te utaina o nga raraunga

Mai i te mea i hangaia te CUDA i te tau 2007, he hangahanga rorohiko whakarara e pa ana ki te GPU me te rorohiko mo te whakawhanake i nga tono kaupapa-whanui, kua tino kaha te tipu o nga taputapu o nga GPU. I tenei ra, kei te kaha haere nga GPU ki nga tono HPC penei i te Raraunga Nui, te ako miihini (ML), me te ako hohonu (DL).

Kia mahara ahakoa te rite o nga kupu, ko nga mea whakamutunga e rua he rereke nga mahi algorithmically. Ka whakangungu a ML i te rorohiko i runga i nga raraunga hanganga, ko DL te whakangungu i te rorohiko i runga i nga urupare mai i te whatunga neural. He tino ngawari tetahi tauira hei awhina i nga rereketanga. Me whakaaro tatou me wehe te rorohiko i nga whakaahua o nga ngeru me nga kuri ka utaina mai i te punaha rokiroki. Mo te ML, me tuku e koe he huinga whakaahua me te maha o nga tohu, ko ia mea e whakaatu ana i tetahi ahuatanga o te kararehe. Mo te DL, he nui noa atu ki te tuku i te maha o nga whakaahua, engari me te tohu kotahi noa "he ngeru tenei", "he kuri tenei". He tino rite te DL ki te whakaakoranga o nga tamariki nohinohi - ka whakaatuhia noa nga pikitia o nga kuri me nga ngeru i roto i nga pukapuka me te ao (te nuinga o te waa, me te kore e whakamaarama i te rereketanga o nga korero), a ka timata te roro o te tamaiti ki te whakatau i te momo kararehe i muri mai. he maha nga pikitia hei whakatairite ( E ai ki nga whakatau tata, e korero ana matou mo te kotahi rau, e rua noa nga whakaaturanga puta noa i nga tamarikitanga). Ko nga algorithms DL kaore ano kia tino pai: kia pai te mahi a te whatunga neural ki te tautuhi whakaahua, me whangai me te tukatuka i nga miriona whakaahua ki roto i te GPU.

Whakarāpopototanga o te kupu tuatahi: i runga i nga GPU, ka taea e koe te hanga i nga tono HPC i roto i te mara o Raraunga Nui, ML me DL, engari he raruraru - he nui rawa nga huinga raraunga ka pau te wa ki te uta i nga raraunga mai i te punaha rokiroki ki te GPU ka timata ki te whakaiti i te mahinga katoa o te tono. I etahi atu kupu, ko nga GPU tere kei te kore e whakamahia na te puhoi o nga raraunga I/O mai i etahi atu punaha. Ko te rereketanga o te tere I / O o te GPU me te pahi ki te punaha CPU / rokiroki ka taea te raupapa o te nui.

He pehea te mahi hangarau GPUDirect Storage?

Ko te tukanga I/O e whakahaeretia ana e te PTM, me te tukanga o te utaina o nga raraunga mai i te rokiroki ki nga GPU mo te tukatuka ano. Na tenei i puta he tono mo te hangarau ka taea te uru tika ki waenga i nga GPU me nga puku NVMe kia tere te korero ki a raatau ano. Ko NVIDIA te tuatahi ki te tuku i enei hangarau me te kiia ko te GPUDirect Storage. Inaa, he rerekee tenei o te hangarau GPUDirect RDMA (Remote Direct Memory Address) i whakawhanakehia e ratou i mua.

5.8 miriona IOPS: he aha te nui?
Ko Jensen Huang, Tumuaki o NVIDIA, ka whakaatu i te GPUDirect Storage hei momo rereke o GPUDirect RDMA i SC-19. Puna: NVIDIA

Ko te rereketanga i waenga i te GPUDirect RDMA me te GPUDirect Rokiroki kei roto i nga taputapu kei waenga i nga korero e whakahaerehia ana. Ko te hangarau GPUDirect RDMA he mea hou ki te nuku tika i nga raraunga i waenga i te kaari atanga whatunga o mua (NIC) me te mahara GPU, a ko te GPUDirect Storage e whakarato ana i te ara raraunga tika i waenga i te rokiroki o te rohe, o te waahi mamao ranei penei i te NVMe, NVMe ranei mo te papanga (NVMe-oF) me mahara GPU.

Ka karohia e te GPUDirect RDMA me te GPUDirect Rokiroki nga nekehanga raraunga koretake i roto i te putunga i roto i te mahara PTM me te tuku i te tikanga uru mahara tika (DMA) ki te neke raraunga mai i te kaari whatunga, te rokiroki ranei ki te mahara GPU ranei - katoa kaore he kawenga ki te PTM pokapū. Mo te GPUDirect Storage, kaore he mea nui te waahi o te rokiroki: ka taea he kōpae NVME i roto i te waahanga GPU, i roto i te whatanga, i hono ranei ki te whatunga hei NVMe-oF.

5.8 miriona IOPS: he aha te nui?
Kaupapa mahi o GPUDirect Rokiroki. Puna: NVIDIA

Ko nga punaha rokiroki Hi-End i runga i te NVMe kei te tono i te maakete tono HPC

Ma te mohio me te taenga mai o te GPUDirect Storage, ka arohia te hiahia o nga kaihoko nui ki te tuku i nga punaha rokiroki me nga tere I/O e rite ana ki te puta o te GPU, i te whakaaturanga SC-19 i whakaatuhia e Kingston he whakaaturanga o te punaha kei roto he te punaha rokiroki i runga i nga kopae NVMe me tetahi waahanga me te GPU, nana i tātari nga mano o nga whakaahua amiorangi ia hekona. Kua tuhia e matou mo taua punaha rokiroki i runga i nga puku 10 DC1000M U.2 NVMe i roto i te purongo mai i te whakaaturanga supercomputer.

5.8 miriona IOPS: he aha te nui?
He punaha rokiroki i runga i nga puku 10 DC1000M U.2 NVMe e tino whakakii ana i tetahi tūmau me nga kaiwhakatere whakairoiro. Puna: Kingston

Ko tenei punaha rokiroki kua hangaia hei 1U, nui ake ranei te waahanga whatanga, ka taea te whakarahi i runga i te maha o nga puku DC1000M U.2 NVMe, ia me te kaha o te 3.84-7.68 TB. Ko te DC1000M te tauira NVMe SSD tuatahi i roto i te ahua U.2 i roto i te rarangi puku o te pokapū raraunga a Kingston. He whakatauranga manawanui (DWPD, Ka tuhi a Drive ia ra), ka taea e ia te tuhi ano i nga raraunga ki tona kaha katoa i te ra kotahi mo te oranga o te puku.

I roto i te whakamatautau fio v3.13 i runga i te punaha whakahaere Ubuntu 18.04.3 LTS, Linux kernel 5.0.0-31-generic, i whakaatuhia e te tauira rokiroki whakaaturanga he tere panui (Tauturu Panui) o 5.8 miriona IOPS me te urunga pumau (Tauhono Whakaaetanga ) o 23.8 Gbit/s.

Ko Ariel Perez, te kaiwhakahaere pakihi SSD i Kingston, i kii mo nga punaha rokiroki hou: "Kei te rite taatau ki te whakakii i nga reanga o muri mai o nga kaiwhakarato me nga otinga U.2 NVMe SSD hei whakakore i te maha o nga putea whakawhiti raraunga kua honoa ki te rokiroki. Ko te whakakotahitanga o nga puku NVMe SSD me ta maatau Tūmau Pirimia DRAM ka riro a Kingston tetahi o nga kaiwhakarato otinga raraunga mutunga-ki-mutunga tino whanui o te umanga."

5.8 miriona IOPS: he aha te nui?
I whakaatuhia e te whakamatautau gfio v3.13 he 23.8 Gbps mo te punaha rokiroki demo i runga i nga puku DC1000M U.2 NVMe. Puna: Kingston

He aha te ahua o te punaha angamaheni mo nga tono HPC ma te whakamahi i te GPUDirect Storage me nga hangarau rite? He hoahoanga tenei me te wehewehe tinana o nga waeine mahi i roto i te whatanga: kotahi, e rua ranei nga waeine mo te RAM, he maha atu mo nga pona rorohiko GPU me te PTM, me te kotahi neke atu ranei nga waahanga mo nga punaha rokiroki.

Na te panui o te GPUDirect Storage me te puta mai o nga hangarau rite mai i etahi atu kaihoko GPU, kei te piki haere te hiahia a Kingston mo nga punaha rokiroki i hangaia hei whakamahi i nga mahi rorohiko teitei. Ko te tohu ko te tere o te panui raraunga mai i te punaha rokiroki, he rite ki te whakaputanga o nga kaari whatunga 40-, 100-Gbit ranei i te tomokanga ki tetahi waahanga rorohiko me te GPU. No reira, ko nga punaha rokiroki ultra-tiketike, tae atu ki te NVMe o waho ma te papanga, ka haere mai i te tuunga ki te auraki mo nga tono HPC. I tua atu i nga tatauranga putaiao me nga putea, ka kitea e raatau he tono i roto i te maha atu o nga waahanga mahi, penei i nga punaha haumarutanga i te taumata taone nui o Safe City, i nga pokapu tirotiro waka ranei, kei reira nga tere tere o te mohio me te tautuhi o nga miriona whakaahua HD mo ia hekona, "i tuhia. te kohanga maakete o te punaha Rokiroki runga

Ka kitea etahi atu korero mo nga hua Kingston i paetukutuku mana kamupene.

Source: will.com

Tāpiri i te kōrero