PĂ«rshĂ«ndetje Habr! Grumbujt e tĂ« dhĂ«nave pĂ«r Big Data dhe mĂ«simin e makinave po rriten eksponencialisht dhe ne duhet tĂ« jemi nĂ« gjendje t'i pĂ«rpunojmĂ« ato. Postimi ynĂ« rreth njĂ« teknologjie inovative tjetĂ«r nĂ« fushĂ«n e llogaritjeve tĂ« performancĂ«s sĂ« lartĂ« (HPC, High Performance Computing), e cila u paraqit nĂ« stendĂ«n e Kingston nĂ« . Ky Ă«shtĂ« pĂ«rdorimi i sistemeve tĂ« avancuara tĂ« ruajtjes sĂ« tĂ« dhĂ«nave (SĐ„Đ) nĂ« serverat me procesorĂ« grafikĂ« (GPU) dhe teknologjinĂ« e shpejtĂ«sisĂ« GPUDirect Storage. FalĂ« shkĂ«mbimit tĂ« drejtpĂ«rdrejtĂ« tĂ« tĂ« dhĂ«nave midis SĐ„Đ dhe GPU, duke anashkaluar CPU-nĂ«, ngarkesa e tĂ« dhĂ«nave nĂ« GPU-akseleratorĂ«t pĂ«rshpejtohet ndjeshĂ«m, prandaj aplikacionet e Big Data realizohen me maksimumin e performancĂ«s qĂ« ofrojnĂ« GPU-tĂ«. Nga ana tjetĂ«r, zhvilluesit e sistemeve HPC janĂ« tĂ« interesuar pĂ«r arritjet nĂ« fushĂ«n e SĐ„Đ me shpejtĂ«si tĂ« lartĂ« hyrjeje/dali â ato qĂ« prodhon Kingston.
Performanca e GPU tejkalon ngarkesën e të dhënave
QĂ« nga krijimi i CUDA-s nĂ« vitin 2007 â njĂ« arkitekturĂ« programore dhe pajisjeje pĂ«r llogaritje tĂ« paralelizuara bazuar nĂ« GPU pĂ«r zhvillimin e aplikacioneve tĂ« qĂ«llimeve tĂ« pĂ«rgjithshme, kapacitetet harduerike tĂ« GPU-ve janĂ« rritur jashtĂ«zakonisht. Sot GPU-tĂ« gjejnĂ« pĂ«rdorim gjithnjĂ« e mĂ« tĂ« gjerĂ« nĂ« aplikacionet HPC, siç janĂ« Big Data, mĂ«simi i makinave (ML, machine learning) dhe mĂ«simi i thellĂ« (DL, deep learning).
Vlen tĂ« theksohet se megjithĂ«se terminologjitĂ« duken tĂ« ngjashme, dy tĂ« fundit janĂ« detyra algoritmike tĂ« ndryshme. ML mĂ«son kompjuterin nĂ« bazĂ« tĂ« tĂ« dhĂ«nave tĂ« strukturuara, ndĂ«rsa DL nĂ« bazĂ« tĂ« reagimit nga njĂ« rrjet nervor. NjĂ« shembull qĂ« ndihmon nĂ« kuptimin e dallimeve Ă«shtĂ« shumĂ« i thjeshtĂ«. Supozoni se kompjuteri duhet tĂ« dallojĂ« foto tĂ« maceve dhe qenve, tĂ« cilat ngarkohen nga SĐ„Đ. PĂ«r ML duhet tĂ« paraqitet njĂ« grumbull imazhesh me shumĂ« etiketa, secila prej tĂ« cilave pĂ«rcakton njĂ« karakteristikĂ« tĂ« veçantĂ« tĂ« kafshĂ«s. PĂ«r DL mjafton tĂ« ngarkohet njĂ« numĂ«r shumĂ« mĂ« i madh imazhesh, por me vetĂ«m njĂ« etiketĂ« «kjo Ă«shtĂ« njĂ« mace» ose «kjo Ă«shtĂ« njĂ« qen». DL Ă«shtĂ« shumĂ« e ngjashme me mĂ«nyrĂ«n se si i mĂ«sohet fĂ«mijĂ«ve tĂ« vegjĂ«l â atyre u tregohen thjesht imazhe tĂ« qenve dhe maceve nĂ« libra dhe nĂ« jetĂ« (shpesh, as qĂ« shpjegohet dallimi i detajuar), ndĂ«rsa truri i fĂ«mijĂ«s fillon tĂ« identifikojĂ« llojin e kafshĂ«s pas njĂ« numri kritik imazhesh pĂ«r krahasim (sipas vlerĂ«simeve, flasim pĂ«r vetĂ«m njĂ«qind apo dyqind shfaqje gjatĂ« gjithĂ« fĂ«mijĂ«risĂ« sĂ« hershme). Algoritmet DL ende nuk janĂ« aq tĂ« pĂ«rsosura: pĂ«r tĂ« arritur njĂ« efikasitet tĂ« ngjashĂ«m nĂ« identifikimin e imazheve, njĂ« rrjet nervor duhet tĂ« pranojĂ« dhe tĂ« pĂ«rpunojĂ« nĂ« GPU miliona imazhe.
PĂ«rfundimi i parathĂ«nies: mbi bazĂ«n e GPU-ve mund tĂ« ndĂ«rtohen aplikacione HPC nĂ« fushĂ«n e Big Data, ML dhe DL, por ekziston njĂ« problem â grumbujt e tĂ« dhĂ«nave janĂ« kaq tĂ« mĂ«dhenj, sa koha qĂ« shpenzohet pĂ«r ngarkimin e tĂ« dhĂ«nave nga sistemi i ruajtjes nĂ« GPU, fillon tĂ« ulin performancĂ«n totale tĂ« aplikacionit. Me fjalĂ« tĂ« tjera, procesorĂ«t grafikĂ« tĂ« shpejtĂ« mbeten tĂ« nĂ«n-ngarkuar pĂ«r shkak tĂ« ngadalĂ«sisĂ« sĂ« hyrje-daljeve tĂ« tĂ« dhĂ«nave nga sisteme tĂ« tjera. Diferenca nĂ« shpejtĂ«sinĂ« e hyrje-daljes midis GPU dhe shpejtĂ«sisĂ« sĂ« CPU/SĐ„Đ mund tĂ« arrijĂ« deri nĂ« njĂ« rend.
Si funksionon teknologjia GPUDirect Storage?
Procesi i hyrjes dhe daljes kontrollohet nga CPU, njësoj si procesi i ngarkimit të të dhënave nga ruajtja në procesorët grafikë për përpunim të mëtejshëm. Prandaj, ka lindur nevoja për një teknologji që do të sigurojë qasje të drejtpërdrejtë midis GPU-ve dhe disqeve NVMe për një ndërveprim të shpejtë mes tyre. Teknologjia e parë e tillë u propozua nga NVIDIA dhe u quajt GPUDirect Storage. Në thelb, kjo është një lloj e teknologjisë së mëparshme GPUDirect RDMA (Remote Direct Memory Address).
Jensen Huang, CEO i NVIDIA, prezanton GPUDirect Storage si një lloj GPUDirect RDMA në ekspozitën SC-19. Burimi: NVIDIA
Diferenca midis GPUDirect RDMA dhe GPUDirect Storage është në pajisjet midis të cilëve realizohet adresimi. Teknologjia GPUDirect RDMA e optimizuar për të transferuar të dhënat direkt midis kartës së rrjetit (NIC) dhe memories së GPU, ndërsa GPUDirect Storage siguron një rrugë të drejtpërdrejtë për transferimin e të dhënave midis ruajtjes lokale apo të largët, si NVMe ose NVMe përmes Fabric (NVMe-oF) dhe memories së GPU.
TĂ« dy variantet, GPUDirect RDMA dhe GPUDirect Storage, shmangin lĂ«vizjet e panevojshme tĂ« tĂ« dhĂ«nave pĂ«rmes tamponit nĂ« memorien e CPU dhe lejojnĂ« mekanizmin e qasjes sĂ« drejtpĂ«rdrejtĂ« nĂ« memorien (DMA) qĂ« tĂ« lĂ«vizi tĂ« dhĂ«nat nga karta e rrjetit ose ruajtja menjĂ«herĂ« nĂ« memorien e GPU apo nga ajo â dhe gjithĂ« ky proces pa ngarkesĂ« mbi procesorin qendror. PĂ«r GPUDirect Storage, lokacioni i ruajtjes nuk ka rĂ«ndĂ«si: mund tĂ« jetĂ« njĂ« disk NVMe brenda njĂ«sisĂ« me GPU, brenda rafti, ose i lidhur nĂ« rrjet si NVMe-oF.
Skema e funksionimit të GPUDirect Storage. Burimi: NVIDIA
Hi-End SЄРmbi NVMe janë të kërkuara në tregun e aplikacioneve HPC
Duke e kuptuar se me shfaqjen e GPUDirect Storage, interesimi i klientëve të mëdhenj do të përqendrohet në ofertat e sistemeve të ruajtjes me shpejtësi hyrjeje/daljeje që përputhen me kapacitetin e GPU-ve, në ekspozitën SC-19, Kingston tregoi një demo të një sistemi të përbërë nga një ruajtje bazuar në disqet NVMe dhe një njësinë me GPU, në të cilën u analizuan mijëra imazhe satelitore në sekondë. Për një ruajtje të tillë të bazuar në 10 disqe DC1000M U.2 NVMe, ne kemi shkruar tashmë. .
Ruajtja e bazuar në 10 disqe DC1000M U.2 NVMe është një plotësim i denjë për serverët me përshpejtues grafikë. Burimi: Kingston.
Një ruajtje e tillë përfundon si një njësinë 1U ose më shumë dhe mund të shkallëzohet në varësi të numrit të disqeve DC1000M U.2 NVMe, ku secili ka kapacitet prej 3.84-7.68 TB. DC1000M është modeli i parë NVMe SSD në formën U.2 në gamën e disqeve Kingston për qendrat të dhënash. Ai ka një vlerësim të qëndrueshmërisë (DWPD, Drive writes per day), i cili lejon ri-shkrimin e të dhënave në kapacitetin e plotë njëherë në ditë gjatë periudhës së garantuar të jetës së disqit.
Në testin fio v3.13 në sistemin operativ Ubuntu 18.04.3 LTS, Linux kernel 5.0.0-31-generic, mostra e ekspozitës e ruajtjes tregoi shpejtësinë e leximit (Sustained Read) 5.8 milion IOPS me kapacitet të qëndrueshëm (Sustained Bandwidth) prej 23.8 Gbit/s.
Ariel Perez, menaxheri i biznesit për SSD në Kingston, e karakterizoi kështu ruajtjen e re: "Ne jemi të gatshëm të furnizojmë brezin e ardhshëm të serverëve me zgjidhje SSD U.2 NVMe, për të eliminuar shumë kufizime në transferimin e të dhënave, të cilat tradicionalisht kanë qenë të lidhura me sistemin e ruajtjes. Kombinimi i disqeve NVMe SSD dhe memories sonë premium Server Premier DRAM e bën Kingston një nga furnizuesit më të plotë në industri për zgjidhje të integruara për procesimin e të dhënave."
Testi gfio v3.13 tregoi një kapacitet prej 23.8 Gbit/s për ruajtjen demonstrative me disqe DC1000M U.2 NVMe. Burimi: Kingston.
Si do të duket një sistem tipik për aplikacione HPC, ku është implementuar teknologjia GPUDirect Storage apo një e ngjashme? Kjo është një arkitekturë me ndarje fizike të blloqeve funksionale brenda raftit: një ose dy njësitë për memorjen, disa për njësitë e përpunimit GPU dhe CPU dhe një ose disa njësitë për ruajtjen.
Me shpalljen e GPUDirect Storage dhe mundësinë e shfaqjes së teknologjive të ngjashme nga furnizues të tjerë GPU, kërkesa për ruajtje e destinuar për përdorim në llogaritë me performancë të lartë është në rritje për Kingston. Një tregues do të jetë shpejtësia e leximit të të dhënave nga ruajtja, në përputhje me kapacitetin e kartave rrjet 40 ose 100 Gbit në hyrje të njësisë së përpunimit me GPU. Në këtë mënyrë, ruajtjet ultra të shpejta, përfshirë NVMe të jashtme përmes Fabric, do të kalojnë nga ekzotika në mjedisin kryesor për aplikacionet HPC. Përveç shkencës dhe llogarive financiare, ato do të gjejnë përdorim në shumë fusha praktike të tjera, si sistemet e sigurisë në nivel metropole, Safe City, apo qendrat e monitorimit në transport, ku kërkohet shpejtësi e njohjes dhe identifikimit në nivelin e miliona imazheve HD në sekondë," theksoi niçën e tregut për ruajtjet më të avancuara.
Informacione të mëtejshme mbi produktet Kingston mund të gjenden në të kompanisë.
Burimi: habr.com
