PĂ«rshĂ«ndetje Habr! Setet e tĂ« dhĂ«nave pĂ«r Big Data dhe mĂ«sim mahnitĂ«s po rriten eksponencialisht dhe duhet tĂ« arrijmĂ« t'i pĂ«rpunojmĂ« ato. Postimi ynĂ« flet pĂ«r njĂ« tjetĂ«r teknologji inovative nĂ« fushĂ«n e llogaritjeve me performancĂ« tĂ« lartĂ« (HPC, High Performance Computing), e ekspozuar nĂ« stendĂ«n e Kingston nĂ« . Kjo Ă«shtĂ« aplikimi i sistemeve tĂ« avancuara tĂ« ruajtjes sĂ« tĂ« dhĂ«nave (SĐ„D) nĂ« serverat me procesorĂ« grafore (GPU) dhe teknologjinĂ« e autobusit GPUDirect Storage. FalĂ« shkĂ«mbimit tĂ« tĂ« dhĂ«nave nĂ« mĂ«nyrĂ« tĂ« drejtpĂ«rdrejtĂ« midis SĐ„D dhe GPU, duke kaluar jashtĂ« CPU, ngarkesa e tĂ« dhĂ«nave nĂ« pĂ«rshpejtuesit GPU pĂ«rshpejtohet nĂ« masĂ«, prandaj aplikacionet Big Data realizohen nĂ« maksimumin e performancĂ«s qĂ« ofrojnĂ« GPU. Nga ana tjetĂ«r, zhvilluesit e sistemeve HPC janĂ« tĂ« interesuar pĂ«r arritjet nĂ« fushĂ«n e SĐ„D me shpejtĂ«si tĂ« lartĂ« hyrjeje/daljeje â tĂ« tilla si ato qĂ« prodhon Kingston.
Performanca e GPU-së tejkalon ngarkesën e të dhënave
QĂ« nga krijimi i CUDA nĂ« vitin 2007 â arkitektura programore-hardware pĂ«r llogaritje paralele mbi bazĂ«n e GPU pĂ«r zhvillimin e aplikacioneve me qĂ«llim tĂ« pĂ«rgjithshĂ«m, kapacitetet hardware tĂ« vetĂ« GPU-ve janĂ« rritur jashtĂ«zakonisht. Sot, GPU-tĂ« gjejnĂ« gjithnjĂ« e mĂ« shumĂ« aplikime nĂ« fushĂ«n e aplikacioneve HPC, siç janĂ« tĂ« dhĂ«nat e mĂ«dha (Big Data), mĂ«simi i makinerive (ML, machine learning) dhe mĂ«simi i thellĂ« (DL, deep learning).
TĂ« theksojmĂ« se, megjithĂ«se terminologjia Ă«shtĂ« e ngjashme, dy tĂ« fundit pĂ«rbĂ«jnĂ« detyra algoritmike tĂ« ndryshme. ML mĂ«son kompjuterin nĂ« bazĂ« tĂ« tĂ« dhĂ«nave tĂ« strukturuara, ndĂ«rsa DL nĂ« bazĂ« tĂ« reagimit nga rrjeti nervor. NjĂ« shembull qĂ« ndihmon pĂ«r tĂ« kuptuar dallimet Ă«shtĂ« mjaft i thjeshtĂ«. Supozoni se kompjuteri duhet tĂ« dallojĂ« foto tĂ« maceve dhe qenve qĂ« ngarkohen nga sistemi i ruajtjes. PĂ«r ML duhet tĂ« jepet njĂ« grup imazhesh me shumĂ« etiketa, çdo e cila pĂ«rcakton njĂ« veçori tĂ« veçantĂ« tĂ« kafshĂ«s. PĂ«r DL Ă«shtĂ« e mjaftueshme tĂ« ngarkohet njĂ« numĂ«r mĂ« i madh imazhesh, por vetĂ«m me njĂ« etiketĂ« âkjo Ă«shtĂ« njĂ« maceâ ose âkjo Ă«shtĂ« njĂ« qenâ. DL Ă«shtĂ« shumĂ« e ngjashme me mĂ«nyrĂ«n se si mĂ«sohen fĂ«mijĂ«t e vegjĂ«l â atyre thjesht u tregohen imazhe mace dhe qenĂ«sh nĂ« libra dhe nĂ« jetĂ« (nĂ« shumicĂ«n e rasteve, as nuk shpjegohet dallimi i detajuar), dhe truri i fĂ«mijĂ«s fillon tĂ« pĂ«rcaktojĂ« llojin e kafshĂ«s pas njĂ« numri kritik imazhesh pĂ«r krahasim (sipas vlerĂ«simeve, bĂ«het fjalĂ« pĂ«r rreth njĂ«qind deri dyqind paraqitje gjatĂ« gjithĂ« fĂ«mijĂ«risĂ« sĂ« hershme). Algoritmet DL ende nuk janĂ« aq tĂ« pĂ«rsosura: qĂ« njĂ« rrjet nervor tĂ« punojĂ« me sukses pĂ«r pĂ«rcaktimin e imazheve, Ă«shtĂ« e nevojshme tĂ« jepen dhe tĂ« procesohen nĂ« GPU miliona imazhesh.
PĂ«rfundimi i parathĂ«nies: mbi bazĂ«n e GPU-ve mund tĂ« ndĂ«rtohen aplikacione HPC nĂ« fushĂ«n e Big Data, ML dhe DL, por ekziston njĂ« problem â grupet e tĂ« dhĂ«nave janĂ« aq tĂ« mĂ«dha, saqĂ« koha e nevojshme pĂ«r ngarkimin e tĂ« dhĂ«nave nga sistemi i ruajtjes nĂ« GPU fillon tĂ« zvogĂ«lojĂ« performancĂ«n totale tĂ« aplikacionit. NĂ« fjalĂ« tĂ« tjera, grafikat e shpejta mbeten tĂ« papĂ«rdorura pĂ«r shkak tĂ« ngadalĂ«sisĂ« sĂ« hyrjes dhe daljes sĂ« tĂ« dhĂ«nave qĂ« vijnĂ« nga sisteme tĂ« tjera. Diferenca mes shpejtĂ«sisĂ« sĂ« hyrjes/daljes tĂ« GPU-sĂ« dhe autobusit ndaj CPU-sĂ«/SKH-sĂ« mund tĂ« jetĂ« deri nĂ« njĂ« rend.
Si funksionon teknologjia GPUDirect Storage?
Procesi i hyrjes dhe daljes kontrollohet nga CPU, ashtu si edhe procesi i ngarkimit të të dhënave nga ruajtja në grafikat për përpunim të mëvonshëm. Nga kjo erdhi kërkesa për një teknologji që do të siguronin akses të drejtpërdrejtë mes GPU dhe disqeve NVMe për ndërveprim të shpejtë mes tyre. Teknologjia e parë e tillë u propozua nga NVIDIA dhe u quajt GPUDirect Storage. Në thelb, kjo është një lloj i teknologjisë së mëparshme që ata kishin zhvilluar, GPUDirect RDMA (Remote Direct Memory Address).
Jensen Huang, CEO i NVIDIA, prezanton GPUDirect Storage si një lloj të GPUDirect RDMA në ekspozitën SC-19. Burimi: NVIDIA
Dallimi midis GPUDirect RDMA dhe GPUDirect Storage ndodhet tek pajisjet mbi të cilat bëhet adresimi. Teknologjia GPUDirect RDMA është e përshtatur për të transferuar të dhënat direkt midis kartës së rrjetit (NIC) dhe memories së GPU-së, ndërsa GPUDirect Storage ofron një rrugë direkte për transferimin e të dhënave midis ruajtjes lokale ose të largët, si NVMe ose NVMe përmes Fabric (NVMe-oF) dhe memories së GPU-së.
Të dy opsionet, GPUDirect RDMA dhe GPUDirect Storage, shmangin lëvizjet e panevojshme të të dhënave përmes një buferi në memorien e CPU-së dhe lejojnë mekanizmin e aksesit direkt në memorie (DMA) që të lëvizë të dhënat nga karta e rrjetit ose ruajtja menjëherë në memorien e GPU-së ose prej saj - dhe gjithçka pa ngarkesë në procesorin qendror. Për GPUDirect Storage, vendndodhja e ruajtjes nuk ka rëndësi: mund të jetë një disk NVME brenda njësisë me GPU, brenda raftit ose i lidhur në rrjet si NVMe-oF.
Skema e funksionimit të GPUDirect Storage. Burimi: NVIDIA
Sistemet e ruajtjes Hi-End mbi NVMe janë të kërkuara në tregun e aplikacioneve HPC
Duke e kuptuar se me shfaqjen e GPUDirect Storage interesi i klientëve të mëdhenj do të drejtohet në ofertën e sistemeve të ruajtjes me shpejtësi hyrjeje/daljeje që përputhet me kapacitetin e GPU-së, në ekspozitën SC-19, Kingston tregoi një demo sistemi, i përbërë nga sisteme ruajtëse të bazuara në disqe NVMe dhe një njësie me GPU, në të cilën u krye analiza e mijëra imazheve satelitore për sekondë. Ne kemi shkruar tashmë për një sistem ruajtës të bazuar në 10 disqe DC1000M U.2 NVMe. .
Sistemi ruajtës bazuar në 10 disqe DC1000M U.2 NVMe plotëson dinjitetshëm serverin me përshpejtues grafikë. Burimi: Kingston
Ky sistem ruajtës realizohet në formën e një njësie raft 1U ose më të madhe dhe mund të shkallëzohet sipas numrit të disqeve DC1000M U.2 NVMe, ku secili ka kapacitet prej 3.84-7.68 TB. DC1000M është modeli i parë NVMe SSD në formatin U.2 në gamën e disqeve Kingston për qendrat të dhënash. Ai ka një tregues qëndrueshmërie (DWPD, Drive writes per day), që lejon riparjen e të dhënave në kapacitet të plotë një herë në ditë gjatë kohëzgjatjes së garantuar të disku.
Në testin fio v3.13 në sistemin operativ Ubuntu 18.04.3 LTS, Linux kernel 5.0.0-31-generic, mostrat e ekspozitës treguan shpejtësi leximi (Sustained Read) prej 5.8 milion IOPS me një kapacitet të qëndrueshëm (Sustained Bandwidth) prej 23.8 Gbit/s.
Ariël Peres, menaxheri i biznesit të SSD në Kingston, e përshkruan kështu sistemin e ri të ruajtjes: "Ne jemi të gatshëm të ofrojmë gjeneratën e ardhshme të serverëve me zgjidhjet SSD U.2 NVMe, për të eliminuar shumë nga ngushticat në transferimin e të dhënave që tradicionalisht lidhen me sistemet e ruajtjes. Kombinimi i uniteteve NVMe SSD dhe memorjes sonë premium, Server Premier DRAM, e bën Kingston një nga ofruesit më të plotë në industrinë e zgjidhjeve për përpunimin e të dhënave."
Testi gfio v3.13 tregoi një kapacitet prej 23.8 Gbps për sistemin e ruajtjes tregues me disk DC1000M U.2 NVMe. Burimi: Kingston
Si do të duket një sistem tipik për aplikacione HPC, ku është implementuar teknologjia GPUDirect Storage ose ndonjë teknologji e ngjashme? Kjo është një arkitekturë me ndarje fizike të blloqeve funksionale brenda raftit: një deri në dy njësitë për memorjen, disa të tjera për njësitë llogaritus GPU dhe CPU, dhe një ose disa njësitë për sistemin e ruajtjes.
Me njoftimin e GPUDirect Storage dhe mundësinë e shfaqjes së teknologjive të ngjashme nga ofrues të tjerë GPU, për Kingston po zgjeron kërkesa për sisteme ruajtjeje që kanë për qëllim aplikacionet me performancë të lartë. Një tregues do të jetë shpejtësia e leximit të të dhënave nga sistemi i ruajtjes, e barabartë me kapacitetin e kartave rrjet 40 ose 100 Gbit në hyrje të njësive të llogaritjes me GPU. Pra, sistemet ultra të shpejta të ruajtjes, përfshirë NVMe jashtë përmes Fabric, do të bëhen mainstream për aplikacionet HPC. Përveç shkencës dhe llogaritjeve financiare, ato do të gjejnë përdorim në shumë fusha praktike të tjera, si sistemet e sigurisë në nivelin e qytetit Safe City ose qendrat e vëzhgimit në transport, ku kërkohet shpejtësi njohjeje dhe identifikimi në nivelin e miliona imazheve HD në sekondë," tha ai për tregun e sistemeve të ruajtjes së lartë.
Informacione të tjera rreth produkteve Kingston mund të gjenden në të kompanisë.
Burimi: habr.com
