5.8 მილიონი IOPS: რატომ ამდენი?

გამარჯობა ჰაბრ! მონაცემთა ნაკრები დიდი მონაცემებისა და მანქანათმცოდნეობისთვის ექსპონენტურად იზრდება და ჩვენ უნდა გავუყვეთ მათ. ჩვენი პოსტი მაღალი ხარისხის გამოთვლის სფეროში კიდევ ერთი ინოვაციური ტექნოლოგიის შესახებ (HPC, High Performance Computing), ნაჩვენებია კინგსტონის ჯიხურზე სუპერკომპიუტერი-2019. ეს არის Hi-End მონაცემთა შენახვის სისტემების (SDS) გამოყენება სერვერებში გრაფიკული დამუშავების ერთეულებით (GPU) და GPUDirect Storage ავტობუსის ტექნოლოგიით. შენახვის სისტემასა და GPU-ს შორის მონაცემთა პირდაპირი გაცვლის წყალობით, CPU-ს გვერდის ავლით, მონაცემთა ჩატვირთვა GPU-ის ამაჩქარებლებში დაჩქარებულია სიდიდის რიგითობით, ასე რომ, Big Data აპლიკაციები მუშაობს მაქსიმალურ შესრულებაზე, რასაც GPU უზრუნველყოფს. თავის მხრივ, HPC სისტემის დეველოპერები დაინტერესებულნი არიან მიღწევებით შენახვის სისტემებში უმაღლესი I/O სიჩქარით, როგორიცაა Kingston-ის მიერ წარმოებული.

GPU-ს შესრულება აჭარბებს მონაცემთა დატვირთვას

მას შემდეგ, რაც CUDA, GPU-ზე დაფუძნებული აპარატურა და პროგრამული პარალელური გამოთვლითი არქიტექტურა ზოგადი დანიშნულების აპლიკაციების შემუშავებისთვის, შეიქმნა 2007 წელს, თავად GPU-ების აპარატურის შესაძლებლობები წარმოუდგენლად გაიზარდა. დღეს GPU-ები სულ უფრო ხშირად გამოიყენება HPC აპლიკაციებში, როგორიცაა Big Data, Machine Learning (ML) და Deep Learning (DL).

გაითვალისწინეთ, რომ ტერმინების მსგავსების მიუხედავად, ბოლო ორი ალგორითმულად განსხვავებული ამოცანებია. ML ავარჯიშებს კომპიუტერს სტრუქტურირებულ მონაცემებზე დაყრდნობით, ხოლო DL ავარჯიშებს კომპიუტერს ნერვული ქსელის უკუკავშირის საფუძველზე. მაგალითი, რომელიც დაგეხმარებათ გაიგოთ განსხვავებები, საკმაოდ მარტივია. დავუშვათ, რომ კომპიუტერმა უნდა განასხვავოს კატებისა და ძაღლების ფოტოები, რომლებიც დატვირთულია შენახვის სისტემიდან. ML-სთვის, თქვენ უნდა წარადგინოთ სურათების ნაკრები მრავალი ტეგით, რომელთაგან თითოეული განსაზღვრავს ცხოველის ერთ კონკრეტულ მახასიათებელს. DL-სთვის საკმარისია სურათების გაცილებით დიდი რაოდენობის ატვირთვა, მაგრამ მხოლოდ ერთი ტეგით „ეს კატაა“ ან „ეს არის ძაღლი“. DL ძალიან ჰგავს იმას, თუ როგორ ასწავლიან მცირეწლოვან ბავშვებს - მათ უბრალოდ უჩვენებენ ძაღლების და კატების სურათებს წიგნებში და ცხოვრებაში (ყველაზე ხშირად, დეტალური განსხვავების ახსნის გარეშეც კი), და ბავშვის ტვინი თავად იწყებს ცხოველის ტიპის განსაზღვრას მას შემდეგ. სურათების გარკვეული კრიტიკული რაოდენობა შედარებისთვის ( შეფასებით, ჩვენ ვსაუბრობთ მხოლოდ ას ან ორ შოუზე ადრეული ბავშვობის განმავლობაში). DL ალგორითმები ჯერ კიდევ არ არის ისეთი სრულყოფილი: იმისთვის, რომ ნერვულმა ქსელმა ასევე წარმატებით იმუშაოს სურათების იდენტიფიცირებაზე, აუცილებელია მილიონობით სურათის შეტანა და დამუშავება GPU-ში.

წინასიტყვაობის შეჯამება: GPU-ებზე დაყრდნობით, შეგიძლიათ შექმნათ HPC აპლიკაციები Big Data, ML და DL სფეროში, მაგრამ არის პრობლემა - მონაცემთა ნაკრები იმდენად დიდია, რომ შენახვის სისტემიდან GPU-ში მონაცემების ჩატვირთვაზე დახარჯული დრო. იწყებს აპლიკაციის საერთო შესრულების შემცირებას. სხვა სიტყვებით რომ ვთქვათ, სწრაფი GPU-ები არ არის გამოყენებული სხვა ქვესისტემებიდან შემოსული ნელი I/O მონაცემების გამო. განსხვავება GPU-ს და ავტობუსის CPU/საცავის სისტემაში I/O სიჩქარეში შეიძლება იყოს სიდიდის რიგი.

როგორ მუშაობს GPUDirect Storage ტექნოლოგია?

I/O პროცესს აკონტროლებს CPU, ისევე როგორც მონაცემთა ჩატვირთვის პროცესი GPU–ში შემდგომი დამუშავებისთვის. ამან გამოიწვია ტექნოლოგიის მოთხოვნა, რომელიც უზრუნველყოფდა პირდაპირ წვდომას GPU-სა და NVMe დისკებს შორის ერთმანეთთან სწრაფად კომუნიკაციისთვის. NVIDIA იყო პირველი, ვინც შესთავაზა ასეთი ტექნოლოგია და უწოდა მას GPUDirect Storage. სინამდვილეში, ეს არის GPUDirect RDMA (დისტანციური პირდაპირი მეხსიერების მისამართი) ტექნოლოგიის ვარიაცია, რომელიც მათ ადრე შეიმუშავეს.

Jensen Huang, NVIDIA-ს აღმასრულებელი დირექტორი, წარადგენს GPUDirect Storage-ს, როგორც GPUDirect RDMA-ს ვარიანტს SC-19-ზე. წყარო: NVIDIA

განსხვავება GPUDirect RDMA-სა და GPUDirect Storage-ს შორის არის მოწყობილობებში, რომელთა შორისაც ხორციელდება მისამართი. GPUDirect RDMA ტექნოლოგია ხელახლა შექმნილია მონაცემთა გადასატანად პირდაპირ წინა ქსელის ინტერფეისის ბარათს (NIC) და GPU მეხსიერებას შორის, ხოლო GPUDirect Storage უზრუნველყოფს მონაცემთა პირდაპირ გზას ადგილობრივ ან დისტანციურ მეხსიერებას შორის, როგორიცაა NVMe ან NVMe Fabric-ზე (NVMe-oF) და GPU მეხსიერება.

ორივე GPUDirect RDMA და GPUDirect Storage თავიდან აიცილებენ მონაცემთა არასაჭირო მოძრაობას ბუფერის მეშვეობით CPU მეხსიერებაში და საშუალებას აძლევს მეხსიერების პირდაპირი წვდომის მექანიზმს (DMA) გადაიტანოს მონაცემები ქსელის ბარათიდან ან საცავიდან პირდაპირ GPU მეხსიერებაში - ეს ყველაფერი ცენტრალურ პროცესორზე დატვირთვის გარეშე. GPUDirect Storage-ისთვის მეხსიერების ადგილმდებარეობას მნიშვნელობა არ აქვს: ეს შეიძლება იყოს NVME დისკი GPU ერთეულის შიგნით, თაროს შიგნით, ან დაკავშირებული იყოს ქსელში, როგორც NVMe-oF.

GPUDirect Storage-ის მუშაობის სქემა. წყარო: NVIDIA

Hi-End შენახვის სისტემები NVMe-ზე მოთხოვნადია HPC აპლიკაციების ბაზარზე

გააცნობიერეს, რომ GPUDirect Storage-ის მოსვლასთან ერთად, დიდი მომხმარებლების ინტერესი მიიპყრობს შესანახი სისტემების შეთავაზებას I/O სიჩქარით, რომელიც შეესაბამება GPU-ს გამტარუნარიანობას, SC-19 გამოფენაზე Kingston-მა აჩვენა სისტემის დემო ვერსია, რომელიც შედგება შენახვის სისტემა, რომელიც დაფუძნებულია NVMe დისკებზე და ერთეული GPU-ით, რომელიც აანალიზებს ათასობით სატელიტურ სურათს წამში. ჩვენ უკვე დავწერეთ ასეთი შენახვის სისტემის შესახებ, რომელიც დაფუძნებულია 10 DC1000M U.2 NVMe დისკზე სუპერკომპიუტერის გამოფენის რეპორტაჟში.

შენახვის სისტემა, რომელიც დაფუძნებულია 10 DC1000M U.2 NVMe დისკზე, ადეკვატურად ავსებს სერვერს გრაფიკული ამაჩქარებლებით. წყარო: კინგსტონი

ეს შესანახი სისტემა შექმნილია როგორც 1U ან უფრო დიდი თაროს ერთეული და მისი მასშტაბირება შესაძლებელია DC1000M U.2 NVMe დისკების რაოდენობის მიხედვით, თითოეული 3.84-7.68 ტბ ტევადობით. DC1000M არის პირველი NVMe SSD მოდელი U.2 ფორმის ფაქტორით Kingston-ის მონაცემთა ცენტრის დისკების ხაზში. მას აქვს გამძლეობის ნიშანი (DWPD, Drive წერს დღეში), რაც საშუალებას აძლევს მას დღეში ერთხელ გადაწეროს მონაცემები დისკის გარანტირებული სიცოცხლის განმავლობაში.

Fio v3.13 ტესტში Ubuntu 18.04.3 LTS ოპერაციულ სისტემაზე, Linux kernel 5.0.0-31-ზოგადი, გამოფენის შენახვის ნიმუშმა აჩვენა წაკითხვის სიჩქარე (მდგრადი წაკითხვა) 5.8 მილიონი IOPS მდგრადი გამტარუნარიანობით (Sustained Bandwidth). ) 23.8 გბიტი/წმ.

არიელ პერესი, SSD ბიზნეს მენეჯერი Kingston-ში, თქვა ახალი შენახვის სისტემების შესახებ: ”ჩვენ მზად ვართ აღჭურვათ შემდეგი თაობის სერვერები U.2 NVMe SSD გადაწყვეტილებებით, რათა აღმოვფხვრათ მონაცემთა გადაცემის მრავალი შეფერხება, რომლებიც ტრადიციულად ასოცირდება შენახვასთან. NVMe SSD დისკების და ჩვენი Premium Server Premier DRAM-ის ერთობლიობა Kingston-ს აქცევს ინდუსტრიის ერთ-ერთ ყველაზე ყოვლისმომცველ მონაცემთა გადაწყვეტილებების მიმწოდებელს.

gfio v3.13 ტესტმა აჩვენა გამტარუნარიანობა 23.8 Gbps დემო შენახვის სისტემისთვის DC1000M U.2 NVMe დისკებზე. წყარო: კინგსტონი

როგორი იქნება ტიპიური სისტემა HPC აპლიკაციებისთვის GPUDirect Storage ან მსგავსი ტექნოლოგიის გამოყენებით? ეს არის არქიტექტურა თაროს შიგნით ფუნქციური ერთეულების ფიზიკური განცალკევებით: ერთი ან ორი ერთეული RAM-ისთვის, კიდევ რამდენიმე GPU და CPU გამოთვლითი კვანძებისთვის და ერთი ან მეტი ერთეული შენახვის სისტემებისთვის.

GPUDirect Storage-ის გამოცხადებით და სხვა GPU-ის მომწოდებლებისგან მსგავსი ტექნოლოგიების შესაძლო გაჩენით, Kingston-ის მოთხოვნა საცავ სისტემებზე, რომლებიც შექმნილია მაღალი ხარისხის გამოთვლებში გამოსაყენებლად, ფართოვდება. მარკერი იქნება მონაცემთა წაკითხვის სიჩქარე შენახვის სისტემიდან, შედარებული 40 ან 100 გბიტიანი ქსელის ბარათების გამტარუნარიანობასთან GPU გამოთვლითი ერთეულის შესასვლელთან. ამრიგად, ულტრა მაღალსიჩქარიანი შენახვის სისტემები, მათ შორის გარე NVMe Fabric-ის მეშვეობით, ეგზოტიკურიდან გადავა ძირითადი HPC აპლიკაციებისთვის. გარდა მეცნიერებისა და ფინანსური გამოთვლებისა, ისინი იპოვიან გამოყენებას ბევრ სხვა პრაქტიკულ სფეროში, როგორიცაა უსაფრთხოების სისტემები უსაფრთხო ქალაქის მეტროპოლიტენის დონეზე ან ტრანსპორტის სათვალთვალო ცენტრებში, სადაც საჭიროა ამოცნობა და ამოცნობის სიჩქარე მილიონობით HD გამოსახულების წამში. ” ზედა შენახვის სისტემის ბაზრის ნიშა

დამატებითი ინფორმაცია Kingston-ის პროდუქტების შესახებ შეგიძლიათ იხილოთ აქ ოფიციალურ საიტზე კომპანია

წყარო: www.habr.com