{"id":54686,"date":"2020-01-01T00:00:00","date_gmt":"2019-12-31T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/5-8-mln-iops-zachem-tak-mnogo"},"modified":"2020-02-18T14:02:44","modified_gmt":"2020-02-18T11:02:44","slug":"5-8-mln-iops-zachem-tak-mnogo","status":"publish","type":"post","link":"https:\/\/prohoster.info\/de\/blog\/administrirovanie\/5-8-mln-iops-zachem-tak-mnogo","title":{"rendered":"5.8 Millionen IOPS: Warum so viele?","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

Hallo Habr! Die Datenmengen f\u00fcr Big Data und maschinelles Lernen wachsen exponentiell, und man muss sie rechtzeitig verarbeiten. Unser Beitrag handelt von einer weiteren innovativen Technologie im Bereich des Hochleistungsrechnens (HPC, High Performance Computing), die am Stand von Kingston auf Supercomputing-2019<\/a><\/noindex>pr\u00e4sentiert wurde. Dies ist die Anwendung von Hi-End-Speichersystemen (SSDs) in Servern mit Grafikeinheiten (GPUs) und der Technologie GPUDirect Storage. Durch den direkten Datenaustausch zwischen SSDs und GPUs, ohne Umweg \u00fcber die CPU, wird die Datenladezeit in GPU-Beschleuniger erheblich beschleunigt, sodass Big Data-Anwendungen mit maximaler Leistung ausgef\u00fchrt werden k\u00f6nnen, die die GPUs bieten. Im Gegenzug sind Entwickler von HPC-Systemen an Fortschritten im Bereich SSDs mit h\u00f6chster Ein- \/ Ausgabegeschwindigkeit interessiert, wie sie von Kingston hergestellt werden.<\/p>\n

\"5.8
\n<\/a><\/noindex><\/p>\n

Die Leistung von GPUs \u00fcbertrifft die Datenladezeiten <\/h2>\n

\nSeit der Einf\u00fchrung von CUDA im Jahr 2007 \u2013 einer Software-Hardware-Architektur f\u00fcr paralleles Rechnen auf Basis von GPUs zur Entwicklung von Anwendungen f\u00fcr allgemeine Zwecke \u2013 haben sich die Hardwaref\u00e4higkeiten der GPUs enorm gesteigert. Heute finden GPUs immer breitere Anwendung im Bereich von HPC-Anwendungen wie Big Data, maschinellem Lernen (ML) und Deep Learning (DL). <\/p>\n

Es ist zu beachten, dass trotz der \u00c4hnlichkeit der Begriffe die letzten beiden - dies sind algorithmisch unterschiedliche Aufgaben. ML trainiert den Computer auf der Grundlage strukturierter Daten, w\u00e4hrend DL auf der Grundlage der R\u00fcckmeldung von neuronalen Netzen arbeitet. Ein Beispiel zur Veranschaulichung der Unterschiede ist recht einfach. Angenommen, der Computer soll Fotos von Katzen und Hunden unterscheiden, die von einem Speicherger\u00e4t hochgeladen werden. F\u00fcr ML sollte ein Bildsatz mit vielen Tags bereitgestellt werden, von denen jeder ein bestimmtes Merkmal des Tieres definiert. F\u00fcr DL gen\u00fcgt es, eine viel gr\u00f6\u00dfere Anzahl von Bildern hochzuladen, aber nur mit einem einzigen Tag \u201edas ist eine Katze\u201c oder \u201edas ist ein Hund\u201c. DL \u00e4hnelt sehr dem, wie kleine Kinder lernen \u2013 sie sehen sich einfach Bilder von Hunden und Katzen in B\u00fcchern und im Leben an (h\u00e4ufig sogar ohne detaillierte Erkl\u00e4rungen zu den Unterschieden), und das Gehirn des Kindes beginnt selbst, den Typ des Tieres nach einer bestimmten kritischen Anzahl von Vergleichsbildern zu definieren (laut Sch\u00e4tzungen sind das nur etwa einhundert bis zweihundert Vorf\u00fchrungen in der gesamten fr\u00fchen Kindheit). Die DL-Algorithmen sind noch nicht perfekt: Damit ein neuronales Netzwerk zur erfolgreichen Mustererkennung in der Lage ist, m\u00fcssen Millionen von Bildern auf der GPU bereitgestellt und verarbeitet werden.<\/p>\n

Zusammenfassend l\u00e4sst sich sagen: Auf Basis von GPUs k\u00f6nnen HPC-Anwendungen im Bereich Big Data, ML und DL entwickelt werden, aber es gibt ein Problem \u2013 die Datens\u00e4tze sind so gro\u00df, dass die Zeit, die f\u00fcr das Laden der Daten aus dem Speichersystem in die GPU aufgewendet wird, die Gesamtleistung der Anwendung zu verringern beginnt. Mit anderen Worten bleiben die schnellen Grafikprozessoren aufgrund der langsamen Daten-Eingabe- und -Ausgabe von anderen Subsystemen unterausgelastet. Der Unterschied in der Eingabe-\/Ausgabegeschwindigkeit zwischen der GPU und dem Bus zu CPU\/Speicherger\u00e4t kann um den Faktor zehn betragen.<\/p>\n

Wie funktioniert die Technologie GPUDirect Storage?<\/h2>\n

\nDer Eingabe- und Ausgabeprozess wird vom CPU gesteuert, ebenso wie der Prozess des Ladevorgangs von Daten aus dem Speicher in die Grafikprozessoren zur anschlie\u00dfenden Verarbeitung. Daher entstand die Notwendigkeit f\u00fcr eine Technologie, die einen direkten Zugriff zwischen GPU und NVMe-Laufwerken f\u00fcr eine schnelle Interaktion zwischen ihnen erm\u00f6glichen w\u00fcrde. Die erste solche Technologie wurde von NVIDIA vorgestellt und als GPUDirect Storage bezeichnet. Im Wesentlichen handelt es sich um eine Variante der zuvor von ihnen entwickelten Technologie GPUDirect RDMA (Remote Direct Memory Access).<\/p>\n

\"5.8
\nJensen Huang, CEO von NVIDIA, pr\u00e4sentiert GPUDirect Storage als eine Variante von GPUDirect RDMA auf der Messe SC-19. Quelle: NVIDIA<\/i><\/p>\n

Der Unterschied zwischen GPUDirect RDMA und GPUDirect Storage liegt in den Ger\u00e4ten, zwischen denen die Adressierung erfolgt. Die GPUDirect RDMA-Technologie ist f\u00fcr den direkten Datentransfer zwischen der eingehenden Netzwerkschnittstellenkarte (NIC) und dem GPU-Speicher konzipiert, w\u00e4hrend GPUDirect Storage einen direkten \u00dcbertragungsweg zwischen lokalem oder entfernten Speicher, wie NVMe oder NVMe \u00fcber Fabric (NVMe-oF), und dem GPU-Speicher bietet.<\/p>\n

Beide Optionen, GPUDirect RDMA und GPUDirect Storage, vermeiden unn\u00f6tige Datenbewegungen durch einen Puffer im CPU-Speicher und erm\u00f6glichen es dem Direct Memory Access (DMA) Mechanismus, Daten direkt vom Netzwerkadapter oder Speicher in den GPU-Speicher oder umgekehrt zu verschieben \u2013 alles ohne Belastung des Hauptprozessors. F\u00fcr GPUDirect Storage spielt der Standort des Speichers keine Rolle: Er kann eine NVMe-Disk innerhalb der GPU-Einheit, im Rack oder netzwerkgebunden als NVMe-oF sein. <\/p>\n

\"5.8
\nFunktionsweise von GPUDirect Storage. Quelle: NVIDIA<\/i><\/p>\n

Hi-End SANs auf NVMe sind auf dem Markt f\u00fcr HPC-Anwendungen gefragt.<\/h2>\n

\nAngesichts der Tatsache, dass mit dem Erscheinen von GPUDirect Storage das Interesse gro\u00dfer Kunden auf Systeme mit einer Eingangs-\/Ausgabegeschwindigkeit gelenkt wird, die der Bandbreite von GPUs entspricht, pr\u00e4sentierte Kingston auf der Messe SC-19 ein Demomuster aus einem SAN, das auf NVMe-Disk basierte und eine GPU-Einheit beinhaltete und in der Tausende von Satellitenbildern pro Sekunde analysiert wurden. \u00dcber ein solches SAN auf Basis von 10 DC1000M U.2 NVMe-Laufwerken haben wir bereits berichtet. im Bericht von der Supercomputer-Messe.<\/a><\/noindex>. <\/p>\n

\"5.8
\nDas SAN basierend auf 10 DC1000M U.2 NVMe-Laufwerken erg\u00e4nzt den Server mit Grafikkarten hervorragend. Quelle: Kingston<\/i><\/p>\n

Ein solches SAN wird als 1U oder gr\u00f6\u00dferer Rack-Einheit ausgef\u00fchrt und kann je nach Anzahl der DC1000M U.2 NVMe-Laufwerke skaliert werden, wobei jedes eine Kapazit\u00e4t von 3,84\u20137,68 TB hat. Der DC1000M ist das erste NVMe SSD-Modell im U.2-Formfaktor in der Kingston-Linie von Datacenter-Laufwerken. Es hat eine Ausdauerbewertung (DWPD, Drive writes per day), die es erm\u00f6glicht, Daten einmal t\u00e4glich auf die volle Kapazit\u00e4t w\u00e4hrend der garantierten Lebensdauer des Laufwerks zu \u00fcberschreiben. <\/p>\n

Im Test fio v3.13 unter Ubuntu 18.04.3 LTS, Linux-Kernel 5.0.0-31-generic, zeigte das Ausstellungsmodell des SAN eine Leseleistung (Sustained Read) von 5,8 Millionen IOPS bei einer stabilen Bandbreite (Sustained Bandwidth) von 23,8 Gbit\/s.<\/p>\n

Ariel P\u00e9rez, Business-Manager f\u00fcr SSD bei Kingston, charakterisierte die neuen Speicherl\u00f6sungen mit den Worten: \u201eWir sind bereit, die n\u00e4chste Generation von Servern mit U.2 NVMe SSD-L\u00f6sungen auszustatten, um viele der traditionellen Engp\u00e4sse in der Daten\u00fcbertragung zu beseitigen, die mit Speichersystemen verbunden sind. Die Kombination von NVMe SSD-Speichern und unserem Premium Server Premier DRAM macht Kingston zu einem der umfassendsten Anbieter von integrierten Datenverarbeitungsl\u00f6sungen in der Branche.\u201c<\/p>\n

\"5.8
\nDer Test gfio v3.13 zeigte eine Bandbreite von 23,8 Gbit\/s f\u00fcr die Demoversion der Speicherl\u00f6sung auf DC1000M U.2 NVMe-Laufwerken. Quelle: Kingston<\/i><\/p>\n

Wie k\u00f6nnte ein typisches System f\u00fcr HPC-Anwendungen aussehen, in dem die GPUDirect Storage-Technologie oder eine \u00e4hnliche implementiert ist? Es handelt sich um eine Architektur mit physischer Trennung der funktionalen Einheiten innerhalb des Racks: ein bis zwei Einheiten f\u00fcr den Arbeitsspeicher, mehrere weitere f\u00fcr die Rechenknoten GPU und CPU sowie eine oder mehrere Einheiten f\u00fcr das Speichersystem.<\/p>\n

Mit der Ank\u00fcndigung von GPUDirect Storage und dem m\u00f6glichen Auftauchen \u00e4hnlicher Technologien bei anderen GPU-Anbietern w\u00e4chst die Nachfrage nach Speichersystemen von Kingston, die f\u00fcr den Einsatz in Hochleistungsrechnen konzipiert sind. Ein Marker wird die Lesegeschwindigkeit der Daten aus dem Speichersystem sein, vergleichbar mit der Bandbreite von 40- oder 100-Gbit-Netzwerkkarten an der Eingangsseite der Recheneinheit mit GPU. So werden ultraschnelle Speichersysteme, einschlie\u00dflich externer NVMe \u00fcber Fabrics, von einer Exotik zu einem Mainstream f\u00fcr HPC-Anwendungen. Neben Wissenschaft und Finanzberechnungen finden sie Anwendung in vielen anderen praktischen Bereichen, wie z.B. Sicherheitssystemen auf Mega-St\u00e4dte-Niveau wie Safe City oder Verkehrs\u00fcberwachungszentren, wo die Geschwindigkeit von Erkennung und Identifikation auf dem Niveau von Millionen HD-Bildern pro Sekunde erforderlich ist\u201c, so wurde die Marktposition der f\u00fchrenden Speichersysteme gekennzeichnet.<\/p>\n

Zus\u00e4tzliche Informationen zu den Produkten von Kingston finden Sie auf der offiziellen Website<\/a><\/noindex> der Firma.
\n
Quelle: habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"

\u041f\u0440\u0438\u0432\u0435\u0442 \u0425\u0430\u0431\u0440! \u041d\u0430\u0431\u043e\u0440\u044b \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f Big Data \u0438 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u044d\u043a\u0441\u043f\u043e\u043d\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e \u0440\u0430\u0441\u0442\u0443\u0442 \u0438 \u043d\u0430\u0434\u043e \u0443\u0441\u043f\u0435\u0432\u0430\u0442\u044c \u0438\u0445 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c. \u041d\u0430\u0448 \u043f\u043e\u0441\u0442 \u043e \u0435\u0449\u0435 \u043e\u0434\u043d\u043e\u0439 \u0438\u043d\u043d\u043e\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438 \u0432 \u043e\u0431\u043b\u0430\u0441\u0442\u0438 \u0432\u044b\u0441\u043e\u043a\u043e\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 (HPC, High Performance Computing), \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u043d\u043e\u0439 \u043d\u0430 \u0441\u0442\u0435\u043d\u0434\u0435 Kingston \u043d\u0430 Supercomputing-2019. \u042d\u0442\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435 Hi-End \u0441\u0438\u0441\u0442\u0435\u043c \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 (\u0421\u0425\u0414) \u0432 \u0441\u0435\u0440\u0432\u0435\u0440\u0430\u0445 \u0441 \u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u0438\u043c\u0438 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430\u043c\u0438 (GPU) \u0438 \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0435\u0439 \u0448\u0438\u043d\u044b GPUDirect […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[688],"tags":[],"class_list":["post-54686","post","type-post","status-publish","format-standard","hentry","category-administrirovanie"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\n","aioseo_head_json":{"title":"\ud83e\udd475,8 Millionen IOPS: Warum so viele?","description":"Hallo Habr! Die Datens\u00e4tze f\u00fcr Big Data und maschinelles Lernen wachsen exponentiell, und es ist wichtig, sie rechtzeitig zu verarbeiten.","canonical_url":"https:\/\/prohoster.info\/de\/blog\/administrirovanie\/5-8-mln-iops-zachem-tak-mnogo","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"de_DE","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd475.8 \u043c\u043b\u043d IOPS: \u0437\u0430\u0447\u0435\u043c \u0442\u0430\u043a \u043c\u043d\u043e\u0433\u043e? | ProHoster","og:description":"\u041f\u0440\u0438\u0432\u0435\u0442 \u0425\u0430\u0431\u0440! \u041d\u0430\u0431\u043e\u0440\u044b \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f Big Data \u0438 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u044d\u043a\u0441\u043f\u043e\u043d\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e \u0440\u0430\u0441\u0442\u0443\u0442 \u0438 \u043d\u0430\u0434\u043e \u0443\u0441\u043f\u0435\u0432\u0430\u0442\u044c \u0438\u0445 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c.","og:url":"https:\/\/prohoster.info\/de\/blog\/administrirovanie\/5-8-mln-iops-zachem-tak-mnogo","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-12-31T21:00:00+00:00","article:modified_time":"2020-02-18T11:02:44+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"54686","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-24 12:22:25","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-02-28 20:00:11","updated":"2026-01-24 12:22:25","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/posts\/54686","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/comments?post=54686"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/posts\/54686\/revisions"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/media?parent=54686"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/categories?post=54686"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/tags?post=54686"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}