5.8 លាន IOPS: ហេតុអ្វីបានជាច្រើន?

ជំរាបសួរ Habr! សំណុំទិន្នន័យសម្រាប់ Big Data និងការរៀនតាមម៉ាស៊ីនកំពុងរីកចម្រើនយ៉ាងខ្លាំង ហើយយើងត្រូវបន្តតាមដានពួកគេ។ ការប្រកាសរបស់យើងអំពីបច្ចេកវិទ្យាច្នៃប្រឌិតថ្មីមួយទៀតនៅក្នុងវិស័យកុំព្យូទ័រដែលដំណើរការខ្ពស់ (HPC, High Performance Computing) ដែលបង្ហាញនៅស្តង់ Kingston នៅ Supercomputing-2019. នេះគឺជាការប្រើប្រាស់ប្រព័ន្ធផ្ទុកទិន្នន័យ Hi-End (SDS) នៅក្នុងម៉ាស៊ីនមេដែលមានអង្គភាពដំណើរការក្រាហ្វិក (GPU) និងបច្ចេកវិទ្យា GPUDirect Storage bus។ សូមអរគុណចំពោះការផ្លាស់ប្តូរទិន្នន័យដោយផ្ទាល់រវាងប្រព័ន្ធផ្ទុកទិន្នន័យ និង GPU ដោយឆ្លងកាត់ស៊ីភីយូ ការផ្ទុកទិន្នន័យទៅក្នុងឧបករណ៍បង្កើនល្បឿន GPU ត្រូវបានបង្កើនល្បឿនដោយលំដាប់នៃទំហំ ដូច្នេះកម្មវិធី Big Data ដំណើរការក្នុងដំណើរការអតិបរមាដែល GPUs ផ្តល់។ ផ្ទុយទៅវិញ អ្នកបង្កើតប្រព័ន្ធ HPC ចាប់អារម្មណ៍លើភាពជឿនលឿនក្នុងប្រព័ន្ធផ្ទុកទិន្នន័យដែលមានល្បឿន I/O ខ្ពស់បំផុត ដូចជាផលិតផលដែលផលិតដោយ Kingston ជាដើម។

ដំណើរការ GPU លើសពីការផ្ទុកទិន្នន័យ

ចាប់តាំងពី CUDA ដែលជាស្ថាបត្យកម្មកុំព្យូទ័រប៉ារ៉ាឡែលផ្នែករឹង និងសូហ្វវែរដែលមានមូលដ្ឋានលើ GPU សម្រាប់បង្កើតកម្មវិធីដែលមានគោលបំណងទូទៅត្រូវបានបង្កើតឡើងក្នុងឆ្នាំ 2007 សមត្ថភាពផ្នែករឹងរបស់ GPUs ខ្លួនឯងបានកើនឡើងយ៉ាងខ្លាំងមិនគួរឱ្យជឿ។ សព្វថ្ងៃនេះ GPUs ត្រូវបានប្រើប្រាស់កាន់តែខ្លាំងឡើងនៅក្នុងកម្មវិធី HPC ដូចជា Big Data, machine learning (ML) និង deep learning (DL)។

ចំណាំថាទោះបីជាមានភាពស្រដៀងគ្នានៃពាក្យក៏ដោយ ពីរចុងក្រោយគឺជាភារកិច្ចផ្សេងគ្នានៃក្បួនដោះស្រាយ។ ML បង្ហាត់កុំព្យូទ័រដោយផ្អែកលើទិន្នន័យដែលមានរចនាសម្ព័ន្ធ ចំណែក DL បង្ហាត់កុំព្យូទ័រដោយផ្អែកលើមតិត្រឡប់ពីបណ្តាញសរសៃប្រសាទ។ ឧទាហរណ៍​ដើម្បី​ជួយ​យល់​ពី​ភាព​ខុស​គ្នា​គឺ​សាមញ្ញ​ណាស់។ ចូរសន្មតថាកុំព្យូទ័រត្រូវតែបែងចែករវាងរូបថតឆ្មានិងឆ្កែដែលត្រូវបានផ្ទុកពីប្រព័ន្ធផ្ទុក។ សម្រាប់ ML អ្នកគួរដាក់សំណុំរូបភាពដែលមានស្លាកជាច្រើន ដែលនីមួយៗកំណត់លក្ខណៈជាក់លាក់មួយរបស់សត្វ។ សម្រាប់ DL វាគ្រប់គ្រាន់ក្នុងការបង្ហោះរូបភាពមួយចំនួនធំជាងនេះ ប៉ុន្តែដោយគ្រាន់តែមានស្លាកមួយ “នេះជាឆ្មា” ឬ “នេះគឺជាឆ្កែ”។ DL គឺស្រដៀងគ្នាទៅនឹងរបៀបដែលកុមារត្រូវបានបង្រៀន - ពួកគេត្រូវបានបង្ហាញយ៉ាងសាមញ្ញនូវរូបភាពរបស់សត្វឆ្កែ និងឆ្មានៅក្នុងសៀវភៅ និងក្នុងជីវិត (ជាញឹកញាប់បំផុតដោយមិនមានការពន្យល់លម្អិតពីភាពខុសគ្នា) ហើយខួរក្បាលរបស់កុមារខ្លួនឯងចាប់ផ្តើមកំណត់ប្រភេទសត្វបន្ទាប់ពី ចំនួនរូបភាពសំខាន់ៗមួយចំនួនសម្រាប់ការប្រៀបធៀប (យោងទៅតាមការប៉ាន់ប្រមាណ យើងកំពុងនិយាយអំពីការបង្ហាញត្រឹមតែមួយរយ ឬពីរប៉ុណ្ណោះក្នុងវ័យកុមារភាព)។ ក្បួនដោះស្រាយ DL មិនទាន់ល្អឥតខ្ចោះនៅឡើយទេ៖ សម្រាប់បណ្តាញសរសៃប្រសាទដើម្បីដំណើរការដោយជោគជ័យលើការកំណត់អត្តសញ្ញាណរូបភាព វាចាំបាច់ក្នុងការចិញ្ចឹម និងដំណើរការរូបភាពរាប់លានទៅក្នុង GPU ។

សេចក្តីសង្ខេបនៃបុព្វកថា៖ ផ្អែកលើ GPUs អ្នកអាចបង្កើតកម្មវិធី HPC ក្នុងវិស័យ Big Data, ML និង DL ប៉ុន្តែមានបញ្ហាមួយ - សំណុំទិន្នន័យមានទំហំធំណាស់ដែលចំណាយពេលផ្ទុកទិន្នន័យពីប្រព័ន្ធផ្ទុកទៅ GPU ចាប់ផ្តើមកាត់បន្ថយដំណើរការទាំងមូលនៃកម្មវិធី។ និយាយម៉្យាងទៀត GPUs លឿននៅតែប្រើប្រាស់មិនបានល្អ ដោយសារទិន្នន័យ I/O យឺតដែលមកពីប្រព័ន្ធរងផ្សេងទៀត។ ភាពខុសគ្នានៃល្បឿន I/O នៃ GPU និង Bus ទៅកាន់ប្រព័ន្ធ CPU/storage អាចជាលំដាប់នៃរ៉ិចទ័រ។

តើបច្ចេកវិទ្យា GPUDirect Storage ដំណើរការយ៉ាងដូចម្តេច?

ដំណើរការ I/O ត្រូវបានគ្រប់គ្រងដោយ CPU ក៏ដូចជាដំណើរការនៃការផ្ទុកទិន្នន័យពី Storage ទៅ GPUs សម្រាប់ដំណើរការបន្ថែម។ នេះបាននាំឱ្យមានសំណើសម្រាប់បច្ចេកវិទ្យាដែលនឹងផ្តល់នូវការចូលដំណើរការដោយផ្ទាល់រវាង GPUs និង NVMe drives ដើម្បីទាក់ទងគ្នាទៅវិញទៅមកយ៉ាងឆាប់រហ័ស។ NVIDIA គឺជាអ្នកដំបូងគេដែលផ្តល់ជូននូវបច្ចេកវិទ្យាបែបនេះ ហើយបានហៅវាថា GPUDirect Storage ។ តាមពិតនេះគឺជាបំរែបំរួលនៃបច្ចេកវិទ្យា GPUDirect RDMA (Remote Direct Memory Address) ដែលពួកគេបានបង្កើតពីមុន។

លោក Jensen Huang នាយកប្រតិបត្តិនៃ NVIDIA នឹងបង្ហាញ GPUDirect Storage ជាវ៉ារ្យ៉ង់នៃ GPUDirect RDMA នៅ SC-19 ។ ប្រភព៖ NVIDIA

ភាពខុសគ្នារវាង GPUDirect RDMA និង GPUDirect Storage គឺស្ថិតនៅក្នុងឧបករណ៍រវាងអាសយដ្ឋានដែលត្រូវបានអនុវត្ត។ បច្ចេកវិទ្យា GPUDirect RDMA ត្រូវបានកំណត់ឡើងវិញដើម្បីផ្លាស់ទីទិន្នន័យដោយផ្ទាល់រវាងកាតចំណុចប្រទាក់បណ្តាញផ្នែកខាងមុខ (NIC) និងអង្គចងចាំ GPU ហើយ GPUDirect Storage ផ្តល់នូវផ្លូវទិន្នន័យដោយផ្ទាល់រវាងឧបករណ៍ផ្ទុកក្នុងស្រុក ឬពីចម្ងាយដូចជា NVMe ឬ NVMe លើក្រណាត់ (NVMe-oF) និង អង្គចងចាំ GPU ។

ទាំង GPUDirect RDMA និង GPUDirect Storage ជៀសវាងការផ្លាស់ទីទិន្នន័យដែលមិនចាំបាច់តាមរយៈសតិបណ្ដោះអាសន្ននៅក្នុងអង្គចងចាំ CPU និងអនុញ្ញាតឱ្យយន្តការចូលប្រើអង្គចងចាំផ្ទាល់ (DMA) ដើម្បីផ្លាស់ទីទិន្នន័យពីកាតបណ្តាញ ឬការផ្ទុកដោយផ្ទាល់ទៅ ឬពីអង្គចងចាំ GPU - ទាំងអស់ដោយមិនផ្ទុកនៅលើស៊ីភីយូកណ្តាល។ សម្រាប់ GPUDirect Storage ទីតាំងផ្ទុកមិនមានបញ្ហាទេ៖ វាអាចជាថាស NVME នៅខាងក្នុងអង្គភាព GPU ខាងក្នុង rack ឬភ្ជាប់តាមបណ្តាញ NVMe-oF។

គ្រោងការណ៍នៃប្រតិបត្តិការនៃ GPUDirect Storage ។ ប្រភព៖ NVIDIA

ប្រព័ន្ធផ្ទុកទិន្នន័យ Hi-End នៅលើ NVMe មានតម្រូវការនៅក្នុងទីផ្សារកម្មវិធី HPC

ដោយដឹងថាជាមួយនឹងការមកដល់នៃ GPUDirect Storage ចំណាប់អារម្មណ៍របស់អតិថិជនធំនឹងត្រូវបានទាក់ទាញក្នុងការផ្តល់ជូននូវប្រព័ន្ធផ្ទុកទិន្នន័យជាមួយនឹងល្បឿន I/O ដែលត្រូវគ្នាទៅនឹងដំណើរការនៃ GPU នៅឯការតាំងពិពណ៌ SC-19 Kingston បានបង្ហាញការបង្ហាញនៃប្រព័ន្ធដែលមាន ប្រព័ន្ធផ្ទុកទិន្នន័យផ្អែកលើថាស NVMe និងឯកតាដែលមាន GPU ដែលវិភាគរូបភាពផ្កាយរណបរាប់ពាន់ក្នុងមួយវិនាទី។ យើងបានសរសេររួចហើយអំពីប្រព័ន្ធផ្ទុកបែបនេះដោយផ្អែកលើ 10 DC1000M U.2 NVMe drives នៅ​ក្នុង​របាយ​ការណ៍​ពី​ពិព័រណ៍​កុំព្យូទ័រ​ទំនើប.

ប្រព័ន្ធផ្ទុកទិន្នន័យដែលមានមូលដ្ឋានលើ 10 DC1000M U.2 NVMe ជំរុញយ៉ាងពេញលេញនូវម៉ាស៊ីនមេជាមួយនឹងឧបករណ៍បង្កើនល្បឿនក្រាហ្វិក។ ប្រភព៖ Kingston

ប្រព័ន្ធផ្ទុកនេះត្រូវបានរចនាឡើងជាឯកតា 1U ឬ rack ធំជាង ហើយអាចធ្វើមាត្រដ្ឋានបានអាស្រ័យលើចំនួននៃ DC1000M U.2 NVMe drives ដែលនីមួយៗមានទំហំ 3.84-7.68 TB ។ DC1000M គឺជាគំរូ NVMe SSD ដំបូងគេនៅក្នុងទម្រង់ U.2 នៅក្នុងបន្ទាត់នៃដ្រាយមជ្ឈមណ្ឌលទិន្នន័យរបស់ Kingston ។ វាមានចំណាត់ថ្នាក់នៃការស៊ូទ្រាំ (DWPD, Drive សរសេរក្នុងមួយថ្ងៃ) អនុញ្ញាតឱ្យវាសរសេរទិន្នន័យឡើងវិញឱ្យពេញសមត្ថភាពរបស់វាម្តងក្នុងមួយថ្ងៃសម្រាប់អាយុកាលធានារបស់ដ្រាយ។

នៅក្នុងការធ្វើតេស្ត fio v3.13 នៅលើប្រព័ន្ធប្រតិបត្តិការ Ubuntu 18.04.3 LTS, Linux kernel 5.0.0-31-generic គំរូផ្ទុកការតាំងពិពណ៌បានបង្ហាញពីល្បឿនអាន (Sustained Read) ចំនួន 5.8 លាន IOPS ជាមួយនឹងកម្រិតបញ្ជូនប្រកបដោយនិរន្តរភាព (Sustained Bandwidth ) នៃ 23.8 Gbit/s ។

Ariel Perez អ្នកគ្រប់គ្រងអាជីវកម្ម SSD នៅ Kingston បាននិយាយអំពីប្រព័ន្ធផ្ទុកទិន្នន័យថ្មីថា "យើងត្រៀមខ្លួនរួចជាស្រេចក្នុងការបំពាក់ម៉ាស៊ីនមេជំនាន់ក្រោយជាមួយនឹងដំណោះស្រាយ U.2 NVMe SSD ដើម្បីលុបបំបាត់ការស្ទះនៃការផ្ទេរទិន្នន័យជាច្រើនដែលជាប់ទាក់ទងជាមួយការផ្ទុក។ ការរួមបញ្ចូលគ្នានៃ NVMe SSD drives និង Server Premier DRAM ដ៏មានតម្លៃរបស់យើងធ្វើឱ្យ Kingston ក្លាយជាអ្នកផ្តល់ដំណោះស្រាយទិន្នន័យពីចុងដល់ចប់ដ៏ទូលំទូលាយបំផុតក្នុងឧស្សាហកម្មនេះ។"

ការធ្វើតេស្ត gfio v3.13 បានបង្ហាញពីដំណើរការនៃ 23.8 Gbps សម្រាប់ប្រព័ន្ធផ្ទុកសាកល្បងនៅលើដ្រាយ DC1000M U.2 NVMe ។ ប្រភព៖ Kingston

តើប្រព័ន្ធធម្មតាសម្រាប់កម្មវិធី HPC មើលទៅដូចការប្រើប្រាស់ GPUDirect Storage ឬបច្ចេកវិទ្យាស្រដៀងគ្នា? នេះគឺជាស្ថាបត្យកម្មដែលមានការបំបែកផ្នែករាងកាយនៃឯកតាមុខងារនៅក្នុង rack មួយ ឬពីរគ្រឿងសម្រាប់ RAM មួយ ឬពីរផ្សេងទៀតសម្រាប់ GPU និង CPU កុំព្យូទ័រថ្នាំង និងមួយឬច្រើនសម្រាប់ប្រព័ន្ធផ្ទុក។

ជាមួយនឹងការប្រកាសអំពី GPUDirect Storage និងការលេចឡើងនៃបច្ចេកវិទ្យាស្រដៀងគ្នាពីអ្នកលក់ GPU ផ្សេងទៀត តម្រូវការរបស់ Kingston សម្រាប់ប្រព័ន្ធផ្ទុកទិន្នន័យដែលត្រូវបានរចនាឡើងសម្រាប់ប្រើប្រាស់ក្នុងកុំព្យូទ័រដែលមានប្រសិទ្ធភាពខ្ពស់កំពុងពង្រីក។ សញ្ញាសម្គាល់នឹងជាល្បឿននៃការអានទិន្នន័យពីប្រព័ន្ធផ្ទុកទិន្នន័យ ប្រៀបធៀបទៅនឹងការបញ្ជូនកាតបណ្តាញ 40- ឬ 100-Gbit នៅច្រកចូលអង្គភាពកុំព្យូទ័រដែលមាន GPU ។ ដូច្នេះ ប្រព័ន្ធផ្ទុកទិន្នន័យល្បឿនលឿនបំផុត រួមទាំង NVMe ខាងក្រៅតាមរយៈ Fabric នឹងចេញពីភាពកម្រនិងអសកម្មទៅជាចរន្តចម្បងសម្រាប់កម្មវិធី HPC ។ បន្ថែមពីលើការគណនាវិទ្យាសាស្ត្រ និងហិរញ្ញវត្ថុ ពួកគេនឹងរកឃើញកម្មវិធីនៅក្នុងផ្នែកជាក់ស្តែងជាច្រើនទៀត ដូចជាប្រព័ន្ធសន្តិសុខនៅកម្រិតទីក្រុង Safe City ឬមជ្ឈមណ្ឌលតាមដានការដឹកជញ្ជូន ដែលតម្រូវឱ្យមានការទទួលស្គាល់ និងកំណត់ល្បឿននៃរូបភាព HD រាប់លានក្នុងមួយវិនាទី។” ទីផ្សារពិសេសនៃប្រព័ន្ធផ្ទុកកំពូល

ព័ត៌មានបន្ថែមអំពីផលិតផល Kingston អាចរកបាននៅ គេហទំព័រផ្លូវការ ក្រុមហ៊ុន។

ប្រភព: www.habr.com