{"id":54686,"date":"2020-01-01T00:00:00","date_gmt":"2019-12-31T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/5-8-mln-iops-zachem-tak-mnogo"},"modified":"2020-02-18T14:02:44","modified_gmt":"2020-02-18T11:02:44","slug":"5-8-mln-iops-zachem-tak-mnogo","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sv\/blog\/administrirovanie\/5-8-mln-iops-zachem-tak-mnogo","title":{"rendered":"5,8 miljoner IOPS: varf\u00f6r s\u00e5 m\u00e5nga?","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

Hej Habr! Dataseten f\u00f6r Big Data och maskininl\u00e4rning v\u00e4xer exponentiellt och vi m\u00e5ste hinna bearbeta dem. V\u00e5r post handlar om en annan innovativ teknologi inom h\u00f6gpresterande databehandling (HPC, High Performance Computing), som visades p\u00e5 Kingston-st\u00e5ndet vid Supercomputing-2019<\/a><\/noindex>. Detta \u00e4r anv\u00e4ndningen av Hi-End lagringssystem (SAS) i servrar med grafiska processorer (GPU) och GPUDirect Storage-buss teknologi. Tack vare direkt datadelning mellan SAS och GPU, utan att g\u00e5 via CPU, accelereras dataladdningen till GPU-acceleratorerna avsev\u00e4rt, vilket g\u00f6r att Big Data-applikationer kan k\u00f6ras med maximal prestanda som GPU:erna kan erbjuda. Samtidigt \u00e4r utvecklare av HPC-system intresserade av framsteg inom SAS med extremt h\u00f6g in-\/utg\u00e5ngshastighet \u2013 s\u00e5dana som Kingston producerar.<\/p>\n

\"5,8
\n<\/a><\/noindex><\/p>\n

GPU-prestanda \u00f6vertr\u00e4ffar dataladdningen <\/h2>\n

\nSedan CUDA skapades 2007 \u2013 en programvaru- och h\u00e5rdvaruarkitektur f\u00f6r parallell databehandling baserad p\u00e5 GPU f\u00f6r att utveckla allm\u00e4nna \u00e4ndam\u00e5l applikationer, har de h\u00e5rdvarum\u00e4ssiga m\u00f6jligheterna hos GPU:erna \u00f6kat otroligt. Idag anv\u00e4nds GPU mer och mer inom HPC-applikationer som stora data (Big Data), maskininl\u00e4rning (ML, machine learning) och djupinl\u00e4rning (DL, deep learning). <\/p>\n

Det \u00e4r v\u00e4rt att notera att trots likheten mellan termerna \u00e4r de tv\u00e5 sista algoritmiskt olika uppgifter. ML l\u00e4r en dator utifr\u00e5n strukturerad data, medan DL l\u00e4r utifr\u00e5n responsen fr\u00e5n ett neuralt n\u00e4tverk. Ett exempel som hj\u00e4lper till att f\u00f6rst\u00e5 skillnaderna \u00e4r ganska enkelt. Anta att en dator ska s\u00e4rskilja bilder av katter och hundar som laddas upp fr\u00e5n ett lagringssystem. F\u00f6r ML b\u00f6r en upps\u00e4ttning bilder med m\u00e5nga taggar matas in, d\u00e4r varje tagg definierar en enda egenskap hos djuret. F\u00f6r DL r\u00e4cker det med att ladda upp ett mycket st\u00f6rre antal bilder, men bara med en enda tagg \"detta \u00e4r en katt\" eller \"detta \u00e4r en hund\". DL liknar mycket hur sm\u00e5 barn l\u00e4r sig \u2014 de f\u00e5r helt enkelt se bilder av hundar och katter i b\u00f6cker och i verkliga livet (ofta utan att ens f\u00f6rklara de detaljerade skillnaderna), och barnets hj\u00e4rna b\u00f6rjar sj\u00e4lv identifiera djurtypen efter ett visst kritiskt antal bilder f\u00f6r j\u00e4mf\u00f6relse (enligt uppskattningar handlar det om endast hundra eller tv\u00e5 i tidig barndom). DL-algoritmer \u00e4r \u00e4nnu inte tillr\u00e4ckligt perfekta: f\u00f6r att ett neuralt n\u00e4tverk ska kunna arbeta lika framg\u00e5ngsrikt med att identifiera bilder, m\u00e5ste miljoner bilder matas in och bearbetas av GPU: er.<\/p>\n

Sammanfattning av inledningen: p\u00e5 basen av GPU:er kan HPC-applikationer f\u00f6r Big Data, ML och DL byggas, men det finns ett problem \u2014 datam\u00e4ngderna \u00e4r s\u00e5 stora att tiden som spenderas p\u00e5 att ladda data fr\u00e5n lagringssystemet till GPU: erna b\u00f6rjar s\u00e4nka den totala applikationsprestandan. Med andra ord f\u00f6rblir snabba grafikkort underutnyttjade p\u00e5 grund av den l\u00e5ngsamma in- och utmatningen av data fr\u00e5n andra delsystem. Skillnaden i in- och utmatningshastighet mellan GPU och bussen till CPU\/lager kan vara en ordning.<\/p>\n

Hur fungerar teknologin GPUDirect Storage?<\/h2>\n

\nIn- och utmatningsprocessen kontrolleras av CPU, liksom processen f\u00f6r att ladda data fr\u00e5n lagringen till grafikkort f\u00f6r efterf\u00f6ljande bearbetning. D\u00e4rf\u00f6r uppstod behovet av en teknologi som skulle ge direkt \u00e5tkomst mellan GPU: er och NVMe-enheter f\u00f6r snabb interaktion med varandra. Den f\u00f6rsta teknologin som erbj\u00f6ds av NVIDIA kallades GPUDirect Storage. I grunden \u00e4r det en variant av deras tidigare utvecklade teknologi GPUDirect RDMA (Remote Direct Memory Address).<\/p>\n

\"5,8
\nJensen Huang, VD f\u00f6r NVIDIA, presenterar GPUDirect Storage som en variant av GPUDirect RDMA p\u00e5 m\u00e4ssan SC-19. K\u00e4lla: NVIDIA<\/i><\/p>\n

Skillnaden mellan GPUDirect RDMA och GPUDirect Storage ligger i de enheter som adresseras. Tekniken GPUDirect RDMA \u00e4r avsedd f\u00f6r att \u00f6verf\u00f6ra data direkt mellan ing\u00e5ngskortet f\u00f6r n\u00e4tverksgr\u00e4nssnitt (NIC) och GPU-minnet, medan GPUDirect Storage erbjuder en direkt v\u00e4g f\u00f6r datatransfer mellan lokal eller fj\u00e4rrlagring, s\u00e5som NVMe eller NVMe \u00f6ver Fabric (NVMe-oF) och GPU-minnet.<\/p>\n

B\u00e5da alternativen, GPUDirect RDMA och GPUDirect Storage, undviker on\u00f6diga datar\u00f6relser genom CPU-minnesbuffertar och till\u00e5ter direktminnes\u00e5tkomst (DMA) att flytta data fr\u00e5n n\u00e4tverkskortet eller lagringen direkt till GPU-minnet eller fr\u00e5n det \u2014 allt utan belastning p\u00e5 centralprocessorn. F\u00f6r GPUDirect Storage spelar lagringsplatser ingen roll: det kan vara en NVMe-enhet inuti en GPU-enhet, inom ett skid eller ansluten via n\u00e4tverk som NVMe-oF. <\/p>\n

\"5,8
\nArbetsprincipen f\u00f6r GPUDirect Storage. K\u00e4lla: NVIDIA<\/i><\/p>\n

Hi-End lagringsl\u00f6sningar baserade p\u00e5 NVMe \u00e4r eftertraktade p\u00e5 marknaden f\u00f6r HPC-applikationer<\/h2>\n

\nMed insikten om att intresset fr\u00e5n stora kunder kommer att riktas mot lagringssystem som erbjuder in- och utmatningshastigheter i linje med GPU:ns bandbredd, visade Kingston p\u00e5 m\u00e4ssan SC-19 en demoversion av ett system best\u00e5ende av lagring baserad p\u00e5 NVMe-enheter och en GPU-enhet, d\u00e4r analys av tusentals satellitbilder utf\u00f6rdes per sekund. Vi har redan skrivit om s\u00e5dan lagring baserad p\u00e5 10 enheter DC1000M U.2 NVMe. i rapporten fr\u00e5n superdatorutst\u00e4llningen<\/a><\/noindex>. <\/p>\n

\"5,8
\nLagret baserat p\u00e5 10 enheter DC1000M U.2 NVMe kompletterar p\u00e5 ett v\u00e4rdefullt s\u00e4tt servrar med grafiska acceleratorer. K\u00e4lla: Kingston<\/i><\/p>\n

S\u00e5dan lagring finns i form av en 1U eller st\u00f6rre rackmodul och kan skalas beroende p\u00e5 antalet diskar DC1000M U.2 NVMe, d\u00e4r varje enhet har en kapacitet p\u00e5 3,84-7,68 TB. DC1000M \u00e4r den f\u00f6rsta modellen av NVMe SSD i U.2-formfaktor i Kingston's datacenter-sortiment. Den har en h\u00e5llbarhetsklassificering (DWPD, Drive writes per day) som till\u00e5ter att data skrivs \u00f6ver till full kapacitet en g\u00e5ng per dag under en garantiperiod. <\/p>\n

I testet fio v3.13 p\u00e5 operativsystemet Ubuntu 18.04.3 LTS, Linux kernel 5.0.0-31-generic, visade utst\u00e4llningsprototypen av lagret en l\u00e4shastighet (Sustained Read) p\u00e5 5,8 miljoner IOPS med sustained bandwidth p\u00e5 23,8 Gbit\/s.<\/p>\n

Ari\u00ebl Peres, aff\u00e4rschef f\u00f6r SSD p\u00e5 Kingston, beskrev de nya lagringssystemen s\u00e5 h\u00e4r: \"Vi \u00e4r redo att f\u00f6rs\u00f6rja n\u00e4sta generations servrar med SSD-l\u00f6sningar U.2 NVMe f\u00f6r att avhj\u00e4lpa m\u00e5nga av de flaskhalsar som traditionellt har varit f\u00f6rknippade med lagringssystem. Kombinationen av NVMe SSD-enheter och v\u00e5rt premium Server Premier DRAM g\u00f6r Kingston till en av branschens mest kompletta leverant\u00f6rer av helhetsl\u00f6sningar f\u00f6r databehandling.\"<\/p>\n

\"5,8
\nTestet gfio v3.13 visade en bandbredd p\u00e5 23,8 Gbit\/s f\u00f6r demonstrationslagringssystemet med DC1000M U.2 NVMe-diskar. K\u00e4lla: Kingston<\/i><\/p>\n

Hur kommer ett typiskt system f\u00f6r HPC-applikationer att se ut n\u00e4r teknologin GPUDirect Storage eller liknande implementeras? Det \u00e4r en arkitektur med fysisk uppdelning av funktionella block inom en rack: ett eller tv\u00e5 enheter f\u00f6r arbetsminne, ytterligare n\u00e5gra f\u00f6r ber\u00e4kningsenheter CPU och GPU samt en eller flera enheter f\u00f6r lagringssystemet.<\/p>\n

Med lanseringen av GPUDirect Storage och den potentiella framv\u00e4xten av liknande teknologier fr\u00e5n andra GPU-leverant\u00f6rer \u00f6kar efterfr\u00e5gan p\u00e5 lagringssystem skr\u00e4ddarsydda f\u00f6r h\u00f6gpresterande ber\u00e4kningar f\u00f6r Kingston. En indikator kommer att vara l\u00e4shastigheten fr\u00e5n lagringssystemet, j\u00e4mf\u00f6rbar med bandbredden hos 40- eller 100-Gbit-n\u00e4tverkskort vid ing\u00e5ngen till ber\u00e4kningsenheten med GPU. D\u00e4rmed kommer ultrahastiga lagringssystem, inklusive externa NVMe via Fabric, att g\u00e5 fr\u00e5n att vara exotiska till att bli mainstream f\u00f6r HPC-applikationer. F\u00f6rutom inom vetenskap och finansiella ber\u00e4kningar kommer de att anv\u00e4ndas inom m\u00e5nga andra praktiska omr\u00e5den, s\u00e5som megastads s\u00e4kerhetssystemet Safe City eller transport\u00f6vervakningscentraler, d\u00e4r hastighet f\u00f6r igenk\u00e4nning och identifiering p\u00e5 niv\u00e5n av miljontals HD-bilder per sekund kr\u00e4vs,\" sa prominent f\u00f6retr\u00e4dare f\u00f6r marknaden f\u00f6r avancerade lagringsl\u00f6sningar.<\/p>\n

Ytterligare information om Kingston-produkter finns p\u00e5 den officiella webbplatsen<\/a><\/noindex> f\u00f6r f\u00f6retaget.
\n
K\u00e4lla: habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"

\u041f\u0440\u0438\u0432\u0435\u0442 \u0425\u0430\u0431\u0440! \u041d\u0430\u0431\u043e\u0440\u044b \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f Big Data \u0438 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u044d\u043a\u0441\u043f\u043e\u043d\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e \u0440\u0430\u0441\u0442\u0443\u0442 \u0438 \u043d\u0430\u0434\u043e \u0443\u0441\u043f\u0435\u0432\u0430\u0442\u044c \u0438\u0445 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c. \u041d\u0430\u0448 \u043f\u043e\u0441\u0442 \u043e \u0435\u0449\u0435 \u043e\u0434\u043d\u043e\u0439 \u0438\u043d\u043d\u043e\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438 \u0432 \u043e\u0431\u043b\u0430\u0441\u0442\u0438 \u0432\u044b\u0441\u043e\u043a\u043e\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 (HPC, High Performance Computing), \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u043d\u043e\u0439 \u043d\u0430 \u0441\u0442\u0435\u043d\u0434\u0435 Kingston \u043d\u0430 Supercomputing-2019. \u042d\u0442\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435 Hi-End \u0441\u0438\u0441\u0442\u0435\u043c \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 (\u0421\u0425\u0414) \u0432 \u0441\u0435\u0440\u0432\u0435\u0440\u0430\u0445 \u0441 \u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u0438\u043c\u0438 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430\u043c\u0438 (GPU) \u0438 \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0435\u0439 \u0448\u0438\u043d\u044b GPUDirect […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[688],"tags":[],"class_list":["post-54686","post","type-post","status-publish","format-standard","hentry","category-administrirovanie"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\n","aioseo_head_json":{"title":"\ud83e\udd475.8 miljoner IOPS: varf\u00f6r s\u00e5 m\u00e5nga? | ProHoster","description":"Hej Habr! Datam\u00e4ngder f\u00f6r Big Data och maskininl\u00e4rning v\u00e4xer exponentiellt, och vi m\u00e5ste hinna bearbeta dem.","canonical_url":"https:\/\/prohoster.info\/sv\/blog\/administrirovanie\/5-8-mln-iops-zachem-tak-mnogo","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"sv_SE","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd475.8 \u043c\u043b\u043d IOPS: \u0437\u0430\u0447\u0435\u043c \u0442\u0430\u043a \u043c\u043d\u043e\u0433\u043e? | ProHoster","og:description":"\u041f\u0440\u0438\u0432\u0435\u0442 \u0425\u0430\u0431\u0440! \u041d\u0430\u0431\u043e\u0440\u044b \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f Big Data \u0438 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u044d\u043a\u0441\u043f\u043e\u043d\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e \u0440\u0430\u0441\u0442\u0443\u0442 \u0438 \u043d\u0430\u0434\u043e \u0443\u0441\u043f\u0435\u0432\u0430\u0442\u044c \u0438\u0445 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c.","og:url":"https:\/\/prohoster.info\/sv\/blog\/administrirovanie\/5-8-mln-iops-zachem-tak-mnogo","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-12-31T21:00:00+00:00","article:modified_time":"2020-02-18T11:02:44+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"54686","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-24 12:22:25","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-02-28 20:00:11","updated":"2026-01-24 12:22:25","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/posts\/54686","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/comments?post=54686"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/posts\/54686\/revisions"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/media?parent=54686"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/categories?post=54686"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/tags?post=54686"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}