5.8 milyon IOPS: poukisa anpil?

Bonjou Habr! Ansanm done pou Big Data ak aprantisaj machin yo ap grandi yon fason eksponansyèl epi nou bezwen kenbe ak yo. Pòs nou an sou yon lòt teknoloji inovatè nan domèn enfòmatik segondè pèfòmans (HPC, High Performance Computing), yo montre nan izolwa Kingston nan Supercomputing-2019. Sa a se itilizasyon sistèm depo done Hi-End (SDS) nan serveurs ak inite pwosesis grafik (GPU) ak teknoloji otobis depo GPUDirect. Mèsi a echanj done dirèk ant sistèm depo a ak GPU a, kontoune CPU a, chaje done nan akseleratè GPU akselere pa yon lòd nan grandè, se konsa aplikasyon pou Big Data kouri nan pèfòmans maksimòm GPU yo bay. Nan vire, devlopè sistèm HPC yo enterese nan pwogrè nan sistèm depo ki gen pi gwo vitès I/O, tankou sa yo ki te pwodwi pa Kingston.

Pèfòmans GPU depase chaj done yo

Depi CUDA, yon GPU ki baze sou pyès ki nan konpitè ak lojisyèl paralèl achitekti enfòmatik pou devlope aplikasyon jeneral, yo te kreye an 2007, kapasite pyès ki nan konpitè GPU tèt yo te grandi ekstrèmman. Jodi a, GPU yo de pli zan pli itilize nan aplikasyon HPC tankou gwo done, aprantisaj machin (ML), ak aprantisaj pwofon (DL).

Remake byen ke malgre resanblans nan tèm, de dènye yo se algorithmically diferan travay. ML fòme òdinatè a ki baze sou done estriktire, pandan y ap DL fòme òdinatè a ki baze sou fidbak ki soti nan yon rezo neral. Yon egzanp pou ede konprann diferans ki genyen se byen senp. Ann sipoze ke òdinatè a dwe fè distenksyon ant foto chat ak chen ki chaje nan sistèm depo a. Pou ML, ou ta dwe soumèt yon seri imaj ak anpil tags, chak nan yo ki defini yon karakteristik patikilye nan bèt la. Pou DL, li ase yo Upload yon kantite pi gwo imaj, men ak yon sèl tag "sa a se yon chat" oswa "sa a se yon chen". DL sanble anpil ak fason yo anseye timoun piti yo - yo tou senpleman montre foto chen ak chat nan liv ak nan lavi (pi souvan, san yo pa menm eksplike diferans detaye), ak sèvo timoun nan tèt li kòmanse detèmine ki kalite bèt apre. yon sèten kantite kritik foto pou konparezon ( Dapre estimasyon, nou ap pale de sèlman yon santèn oswa de montre pandan tout timoun piti). Algoritm DL yo poko pafè: pou yon rezo neral travay avèk siksè tou sou idantifikasyon imaj, li nesesè manje ak trete dè milyon de imaj nan GPU la.

Rezime prefas la: ki baze sou GPU, ou ka bati aplikasyon HPC nan domèn Big Data, ML ak DL, men gen yon pwoblèm - seri done yo tèlman gwo ke tan an pase chaje done ki soti nan sistèm depo a nan GPU la. kòmanse diminye pèfòmans jeneral aplikasyon an. Nan lòt mo, GPU vit rete underutilized akòz done I/O ralanti ki soti nan lòt subsistèm. Diferans nan vitès I / O nan GPU a ak otobis la nan CPU / sistèm depo a kapab yon lòd nan grandè.

Ki jan teknoloji GPUDirect Depo travay?

Pwosesis I / O kontwole pa CPU a, menm jan ak pwosesis la nan chaje done ki soti nan depo nan GPU yo pou plis pwosesis. Sa a te mennen nan yon demann pou teknoloji ki ta bay aksè dirèk ant GPU ak kondui NVMe yo byen vit kominike youn ak lòt. NVIDIA se te premye moun ki ofri teknoloji sa yo epi li rele li GPUDirect Depo. An reyalite, sa a se yon varyasyon nan teknoloji GPUDirect RDMA (Remote Direct Memory Address) yo te deja devlope.

Jensen Huang, CEO nan NVIDIA, pral prezante GPUDirect Depo kòm yon variant de GPUDirect RDMA nan SC-19. Sous: NVIDIA

Diferans ki genyen ant GPUDirect RDMA ak GPUDirect Depo se nan aparèy ki genyen ant adrès yo te pote soti. Teknoloji GPUDirect RDMA reutilize pou deplase done dirèkteman ant kat koòdone rezo front-end (NIC) ak memwa GPU, ak GPUDirect Storage bay yon chemen done dirèk ant depo lokal oswa aleka tankou NVMe oswa NVMe sou twal (NVMe-oF) ak memwa GPU.

Tou de GPUDirect RDMA ak GPUDirect Depo evite mouvman done ki pa nesesè atravè yon tanpon nan memwa CPU epi pèmèt mekanis aksè memwa dirèk (DMA) deplase done ki sòti nan kat rezo a oswa depo dirèkteman nan oswa soti nan memwa GPU - tout san chaj sou CPU santral la. Pou Depo GPUDirect, kote depo a pa enpòtan: li kapab yon disk NVME andedan yon inite GPU, andedan yon etajè, oswa konekte sou rezo a kòm NVMe-oF.

Konplo operasyon nan Depo GPUDirect. Sous: NVIDIA

Sistèm depo Hi-End sou NVMe yo mande nan mache aplikasyon HPC

Reyalize ke ak avenman GPUDirect Depo, enterè gwo kliyan yo pral atire yo ofri sistèm depo ak vitès I/O ki koresponn ak debi GPU a, nan egzibisyon SC-19 Kingston te montre yon demonstrasyon nan yon sistèm ki gen ladann yon. sistèm depo ki baze sou disk NVMe ak yon inite ki gen yon GPU, ki analize dè milye de imaj satelit pou chak segonn. Nou te deja ekri sou yon sistèm depo konsa ki baze sou 10 DC1000M U.2 NVMe kondui nan yon rapò ki soti nan egzibisyon an supercomputer.

Yon sistèm depo ki baze sou 10 DC1000M U.2 NVMe kondui byen konplete yon sèvè ak akseleratè grafik. Sous: Kingston

Sistèm depo sa a fèt kòm yon inite etajè 1U oswa pi gwo epi li ka echèl depann de kantite kondui DC1000M U.2 NVMe, yo chak ak yon kapasite 3.84-7.68 TB. DC1000M a se premye modèl NVMe SSD nan fòm faktè U.2 nan liy kondui sant done Kingston. Li gen yon evalyasyon andirans (DWPD, Drive ekri pou chak jou), ki pèmèt li reekri done nan kapasite plen li yo yon fwa pa jou pou lavi a garanti nan kondwi a.

Nan tès la fio v3.13 sou Ubuntu 18.04.3 LTS sistèm operasyon an, Linux Kernel 5.0.0-31-jenerik, echantiyon depo egzibisyon an te montre yon vitès lekti (Sustained Read) nan 5.8 milyon IOPS ak yon debi dirab (Sustained Bandwidth). ) nan 23.8 Gbit/s.

Ariel Perez, manadjè biznis SSD nan Kingston, te di konsènan nouvo sistèm depo yo: “Nou pare pou nou ekipe pwochen jenerasyon sèvè a ak solisyon U.2 NVMe SSD pou elimine anpil nan pwoblèm transfè done ki tradisyonèlman asosye ak depo. Konbinezon NVMe SSD ak DRAM Premium Server Premier nou an fè Kingston youn nan founisè solisyon done ki pi konplè nan endistri a."

Tès gfio v3.13 la te montre yon debi 23.8 Gbps pou sistèm depo Demo a sou kondui DC1000M U.2 NVMe. Sous: Kingston

Ki jan yon sistèm tipik pou aplikasyon HPC ta sanble lè l sèvi avèk GPUDirect Depo oswa teknoloji menm jan an? Sa a se yon achitekti ki gen yon separasyon fizik nan inite fonksyonèl nan yon etajè: youn oswa de inite pou RAM, plizyè plis pou GPU ak CPU nœuds informatique, ak youn oswa plis inite pou sistèm depo.

Avèk anons GPUDirect Depo ak posiblite aparisyon teknoloji ki sanble nan lòt machann GPU yo, demann Kingston pou sistèm depo ki fèt pou itilize nan enfòmatik pèfòmans segondè ap ogmante. Makè a pral vitès la nan lekti done ki soti nan sistèm nan depo, ki konparab ak debi kat rezo 40- oswa 100-Gbit nan papòt la nan yon inite informatique ak yon GPU. Se konsa, sistèm depo ultra-wo vitès, ki gen ladan NVMe ekstèn atravè twal, yo pral soti nan yo te ekzotik nan endikap la pou aplikasyon HPC. Anplis syans ak kalkil finansye yo, yo pral jwenn aplikasyon nan anpil lòt domèn pratik, tankou sistèm sekirite nan nivo metwopoliten Safe City oswa sant siveyans transpò, kote rekonesans ak vitès idantifikasyon nan plizyè milyon imaj HD pa segonn yo mande, "li esplike. Tanporèman nich la nan sistèm nan Depo tèt

Ou ka jwenn plis enfòmasyon sou pwodwi Kingston nan ofisyèl sou sit wèb konpayi.

Sous: www.habr.com