Дзелімся досведам, як паказваюць сябе SSD у рамках RAID і які ўзровень масіва выгодней

В мінулым матэрыяле мы ўжо разгледзелі пытанне аб тым "Ці прымянім RAID на SSD" на прыкладзе назапашвальнікаў Kingston, але зрабілі гэта толькі ў рамках нулявога ўзроўню. У бягучым артыкуле мы разбяром варыянты выкарыстання прафесійных і хатніх NVMe-рашэнняў у самых папулярных тыпах RAID-масіваў і раскажам аб сумяшчальнасці кантролераў. Broadcom з назапашвальнікамі Kingston.

Дзелімся досведам, як паказваюць сябе SSD у рамках RAID і які ўзровень масіва выгодней

Навошта патрэбен RAID на SSD?

Перавагі масіваў захоўвання на аснове SSD у параўнанні з масівамі захоўвання на цвёрдых дысках уключаюць скарачэнне часу доступу да дадзеных на назапашвальніку і цудоўную прадукцыйнасць у аперацыях чытання/запісы. Аднак для ідэальнай прадукцыйнасці RAID'а на базе SSD патрабуецца аптымальнае спалучэнне працэсара, кэша, праграмнага і апаратнага забеспячэння. Калі ўсе гэтыя фактары ідэальна працуюць разам, RAID-масіў з SSD можа значна перасягнуць супастаўную канфігурацыю з ужываннем традыцыйных HDD.

Тыповы SSD спажывае менш энергіі, чым цвёрдыя дыскі, таму пры аб'яднанні вялікай колькасці цвёрдацельных назапашвальнікаў у RAID-масіў эканомія энергіі ў параўнанні з RAID-масіўам з HDD можа прывесці яшчэ і да зніжэння выдаткаў пры аплаце карпаратыўных рахункаў за электраэнергію.

Аднак SSD RAID мае абмежаванні і недахопы: у прыватнасці, больш высокі кошт за гігабайт прасторы ў параўнанні з цвёрдымі дыскамі супастаўнай ёмістасці. А час напрацоўкі флэш-памяці на адмову абмежаваны вызначанай колькасцю цыклаў перазапісу. Гэта значыць у SSD-назапашвальнікаў ёсць вызначаны тэрмін службы, які залежыць ад эксплуатацыі: чым актыўней перазапісваецца інфармацыя на ім, тым хутчэй назапашвальнік выйдзе са строю. З іншага боку, карпаратыўныя цвёрдацельныя назапашвальнікі маюць прыстойны тэрмін службы, супастаўны з механічнымі цвёрдымі кружэлкамі.

Як SSD Kingston жывуць у рэжыме RAID з кантролерамі Broadcom

На світанку з'яўлення SSD-назапашвальнікаў RAID-канструкцыі ўтойвалі ў сабе шмат нюансаў. У тым ліку з-за выкарыстання менш адмоваўстойлівых HDD-дыскаў. Цвёрдацельныя назапашвальнікі значна надзейней сваіх субратаў на аснове магнітных дыскаў. Як мы ведаем, у SSD-рашэннях няма якія рухаюцца элементаў, таму механічныя пашкоджанні зведзены да нуля. Вынахад цвёрдацельных назапашвальнікаў з ладу з прычыны скокаў напругі таксама малаверагодны, улічваючы, што на ўзроўні хатняга ПК і любога сервера вас засцерагаюць КБС, сеткавыя фільтры і нават блок сілкавання.

Пры гэтым у цвёрдацельных назапашвальнікаў ёсць яшчэ адзін істотны плюс: нават калі вочкі памяці знасяцца на запіс чытанне дадзеных з іх усё роўна можна будзе вырабіць, а вось пры пашкоджанні магнітнай кружэлкі нажаль.

Дзелімся досведам, як паказваюць сябе SSD у рамках RAID і які ўзровень масіва выгодней

На сённяшні дзень выкарыстоўваць SSD-рашэнні ў RAID-масівах розных узроўняў суцэль нармальная практыка. Галоўнае - выбіраць правільныя цвёрдацельныя назапашвальнікі, латэнтнасць якіх мінімальная. А яшчэ ў ідэале выкарыстоўваць SSD аднаго і таго ж вытворцы і адной і той жа мадэлі, каб не атрымалася мешаніна з назапашвальнікаў, якія падтрымліваюць розныя тыпы нагрузак і пабудаваных на базе розных тыпаў памяці, кантролераў і іншых тэхналогій. Гэта значыць, калі ўжо мы вырашылі закупіць для стварэння RAID-масіву чатыры ці 16 NVMe SSD кампаніі Kingston - хай лепш усе яны будуць з адной серыі і мадэльнага шэрагу.

Дарэчы, у мінулым артыкуле мы нездарма прыводзілі ў прыклад кантролеры Broadcom, калі казалі аб NVMe SSD ад Kingston. Справа ў тым, што ў мануалах да гэтых прылад адразу прапісваюцца сумяшчальныя назапашвальнікі (уключаючы рашэнні ад вышэйзгаданага амерыканскага вытворцы SSD), з якімі кантролер будзе працаваць без нараканняў. На гэтую інфармацыю і трэба абапірацца пры выбары звязка "кантролер-SSD" для RAID.

Разбіраны працу SSD Kingston у самых папулярных тыпах RAID – "1", "5", "10", "50"

Такім чынам, "нулявы" ўзровень RAID не забяспечвае надмернасці дадзеных, а толькі павялічвае прадукцыйнасць. Ніякай абароны дадзеных RAID 0 не падае наогул, таму ў рамках карпаратыўнага сегмента мы яго разглядаць не будзем. RAID 1, з іншага боку, забяспечвае поўную надмернасць, але толькі сціплы прырост прадукцыйнасці, і таму яго варта разглядаць у тым выпадку, калі падвышэнне прадукцыйнасці не з'яўляецца асноватворным фактарам пры стварэнні RAID-масіва з SSD.

RAID 1 на базе SSD Kingston і кантролераў Broadcom

Такім чынам, RAID-масіў першага ўзроўня на базе кантролера Broadcom MegaRAID 9460-16i аб'ядноўвае ад двух да 32 назапашвальнікаў Kingston, якія з'яўляюцца копіямі адзін аднаго, і забяспечвае поўную надмернасць. Калі пры выкарыстанні традыцыйных HDD хуткасць запісу і чытанні дадзеных заставалася на ўзроўні гэтага самага HDD, то з выкарыстаннем NVMe SSD-рашэнняў мы атрымліваем дзесяціразовы прырост прадукцыйнасці. Асабліва па частцы часу доступу да дадзеных. Напрыклад, з двума SSD Kingston DC1000M U.2 NVMe у серверным RAID 1 мы атрымаем 350 IOPS пры чытанні выпадковых дадзеных і 000 75 IOPS пры запісе.

Дзелімся досведам, як паказваюць сябе SSD у рамках RAID і які ўзровень масіва выгодней

У стаўленні паслядоўнай хуткасці чытання вынікі будуць адпавядаць характарыстыкам назапашвальніка — 3200 Мбайт/з. Але, паколькі абодва NVMe SSD знаходзяцца ў працоўным стане, дадзеныя могуць счытвацца з іх адначасова, што робіць аперацыі чытання даволі хуткімі. А вось хуткасць запісу (заяўленая складае 2000 Мбайт/з) будзе павольней, таму што кожная аперацыя запісу выконваецца двойчы.

Дзелімся досведам, як паказваюць сябе SSD у рамках RAID і які ўзровень масіва выгодней

Масіў RAID 1 ідэальна падыходзіць для невялікіх баз дадзеных або любога іншага асяроддзя, якая патрабуе адмоваўстойлівасці, але невялікі ёмістасці. Люстраное капіраванне назапашвальнікаў асабліва выбаўляе ў сцэнарах аварыйнага аднаўлення (прадукцыйнасць пры гэтым крыху пагаршаецца), паколькі забяспечвае імгненную "рэанімацыю" важных дадзеных, калі адзін з назапашвальнікаў у масіве выходзіць са строю. Але, паколькі гэты ўзровень абароны патрабуе падваення ёмістасці для захоўвання люстраной копіі дадзеных (для захоўвання 100 Тбайт запатрабуецца 200 Тбайт месца), у шматлікіх карпаратыўных сістэмах выкарыстоўваюцца больш эканамічныя варыянты захоўвання: RAID 5 і RAID 6.

RAID 5 на базе SSD Kingston і кантролераў Broadcom

Для арганізацыі RAID-масіва пятага ўзроўня нам запатрабуецца прынамсі тры назапашвальніка, дадзеныя на якіх чаргуюцца (цыклічна запісваюцца на ўсе назапашвальнікі ў масіве), але не дублююцца. Пры іх арганізацыі варта ўлічваць іх больш складаную прыладу, бо тут з'яўляецца такое паняцце, як "кантрольная сума" (ці ж "цотнасць"). Пад гэтым паняццем маецца на ўвазе лагічная алгебраічная функцыя XOR (яна ж выняткоўвалае "АБО"), якая і дыктуе выкарыстанне мінімум трох назапашвальнікаў у масіве (максімум - 32). Пры гэтым інфармацыя аб цотнасці запісваецца на ўсе "дыскі" у масіве.

Дзелімся досведам, як паказваюць сябе SSD у рамках RAID і які ўзровень масіва выгодней

Для масіва з чатырох SATA SSD-назапашвальнікаў Kingston DC500R з ёмістасцю па 3,84 Тбайт кожны, мы атрымаем 11,52 Тбайт прасторы і 3,84 для кантрольных сум. А калі аб'яднаць у RAID пятага ўзроўню 16 NVMe-назапашвальнікаў Kingston DC1000M U.2 з ёмістасцю 7,68 Тбайт – павучым 115,2 Тбайт са стратай 7,68 Тбайт. Як бачыце, чым больш назапашвальнікаў, тым у выніку лепш. Лепш яшчэ і таму, што чым больш назапашвальнікаў у RAID 5, тым вышэй сумарная прадукцыйнасць пры аперацыях запісу. А лінейнае чытанне будзе дасягаць узроўня RAID 0.

Дзелімся досведам, як паказваюць сябе SSD у рамках RAID і які ўзровень масіва выгодней

Група дыскаў RAID 5 забяспечвае высокую прапускную здольнасць (асабліва для вялікіх файлаў) і надмернасць з мінімальнай стратай магутнасці. Лепш за ўсё такі тып арганізацыі масіва падыходзіць для сетак, якія выконваюць шмат невялікіх аперацый уводу-вываду (I / O) адначасова. А вось выкарыстоўваць яго для задач, якія патрабуюць вялікай колькасці аперацый запісу невялікіх ці невялікіх блокаў, не варта.
Ёсць і яшчэ адзін нюанс: пры адмове хоць бы аднаго з NVMe-назапашвальнікаў, RAID 5 пераходзіць у рэжым дэградацыі і вынахад з ладу яшчэ адной прылады захоўвання можа стаць крытычным для ўсіх дадзеных. У выпадку збою аднаго назапашвальніка ў масіве RAID-кантролер выкарыстае інфармацыю аб цотнасці для ўзнаўлення ўсіх якія адсутнічаюць дадзеных.

RAID 10 на базе SSD Kingston і кантролераў Broadcom

Такім чынам, RAID 0 дае нам двухразовы прырост хуткасці і часу доступу, а RAID 1 забяспечвае надзейнасць. У ідэале б іх сумясціць, і тут на дапамогу прыходзіць RAID 10 (ці ж 1+0). "Дзясятка" збіраецца з чатырох SATA SSD-або NVMe-назапашвальнікаў (максімум - 32) і мае на ўвазе масіў з "люстэркаў", колькасць назапашвальнікаў у якім заўсёды павінна быць кратна чатыром. Дадзеныя ў гэтым масіве запісваюцца пасродкам разбіцця на фіксаваныя блокі (як у выпадку з RAID 0) і чаргаванні паміж назапашвальнікамі, размяркоўваючы копіі паміж "дыскамі" у масіве RAID 1. А дзякуючы магчымасці адначасовага доступу да некалькіх груп дыскаў, RAID 10 паказвае высокую прадукцыйнасць.

Дзелімся досведам, як паказваюць сябе SSD у рамках RAID і які ўзровень масіва выгодней

Бо RAID 10 здольны размяркоўваць дадзеныя па некалькіх люстраным парам, гэта азначае, што ён можа дапушчаць збой аднаго назапашвальніка ў пары. Аднак у выпадку збою абедзвюх люстраных пар (гэта значыць усіх чатырох назапашвальнікаў) адбудзецца непазбежная страта дадзеных. У выніку мы таксама атрымліваем добрую адмоваўстойлівасць і надзейнасць. Але варта мець на ўвазе, што, як і RAID 1, масіў дзясятага ўзроўня выкарыстоўвае толькі палову сумарнай ёмістасці, а таму з'яўляецца дарагім рашэннем. Ды яшчэ і складаным у наладзе.

RAID 10 падыходзіць для выкарыстання са сховішчамі дадзеных, якім патрабуецца 100-адсоткавая надмернасць груп люстраных кружэлак, а таксама падвышаная прадукцыйнасць уводу-высновы RAID 0. Гэта лепшае рашэнне для баз дадзеных сярэдняга памеру або любога асяроддзя, якая патрабуе больш высокай адмоваўстойлівасці, чым у RAID 5.

RAID 50 на базе SSD Kingston і кантролераў Broadcom

Камбінаваны масіў, аналагічны RAID'у дзясятага ўзроўня, які ўяўляе сабой масіў нулявога ўзроўня, створаны з масіваў пятага ўзроўня. Як і ў папярэднім выпадку, асноўная мэта дадзенага масіва складаецца ў атрыманні падвоенай прадукцыйнасці пры захаванні надзейнасці дадзеных у масівах RAID 5. Пры гэтым RAID 50 забяспечвае падвышаную прадукцыйнасць запісу і лепшую абарону дадзеных, чым стандартны RAID 5 у выпадку збою дыска, а таксама здольны да хутчэйшаму аднаўленню ў выпадку адмовы аднаго з назапашвальнікаў.

Дзелімся досведам, як паказваюць сябе SSD у рамках RAID і які ўзровень масіва выгодней

Група дыскаў RAID 50 разбівае дадзеныя на драбнейшыя блокі, а затым размяркоўвае іх на кожны масіў RAID 5. Група кружэлак RAID 5, у сваю чаргу, таксама разбівае дадзеныя на драбнейшыя блокі, вылічае цотнасць, вырабляе лагічную аперацыю OR для блокаў, а затым выконвае аперацыі запісы ў блокі дадзеных і кантролю цотнасці для кожнага дыска ў групе дыскаў.

І хоць прадукцыйнасць непазбежна змяншаецца ў выпадку збою аднаго з назапашвальнікаў, гэта не гэтак істотна, як у масіве RAID 5, паколькі адзін збой уплывае толькі на адзін з масіваў, пакідаючы іншы цалкам працаздольным. На самай справе RAID 50 можа вытрымаць да васьмі адмоў HDD/SSD/NVMe-назапашвальніка, калі кожны які адмовіў "дыск" знаходзіцца ў асобным масіве RAID 5.

Дзелімся досведам, як паказваюць сябе SSD у рамках RAID і які ўзровень масіва выгодней

RAID 50 лепш за ўсё выкарыстоўваць для прыкладанняў, якім патрабуецца высокая надзейнасць і якія павінны апрацоўваць вялікую колькасць запытаў пры захаванні высокай хуткасці перадачы дадзеных і ніжэйшага кошту назапашвальнікаў, чым у масіве RAID 10. Аднак, паколькі для налады масіва RAID 50 патрабуецца мінімум шэсць назапашвальнікаў, кошт не поўнасцю выключаецца як фактар. Адным з недахопаў RAID 50 з'яўляецца тое, што, як і RAID 5, яму патрэбен складаны кантролер: такі як згаданы намі у мінулым артыкуле MegaRAID 9460-16i ад Broadcom.

Варта таксама адзначыць, што RAID 50 мае менш выкарыстоўванай дыскавай прасторы, чым RAID 5, з-за вылучэнні ёмістасці для ўтрымання запісаў кантролю цотнасці. Тым не менш, ён усё яшчэ мае больш карыснага прасторы, чым іншыя ўзроўні RAID, асабліва тыя, якія выкарыстоўваюць люстраванне. Пры мінімальным патрабаванні ў шэсць дыскаў RAID 50 можа быць дарагім варыянтам, але дадатковая дыскавая прастора апраўдвае выдаткі, абараняючы карпаратыўныя дадзеныя. Гэты тып масіва рэкамендуецца для працы з дадзенымі, якія патрабуюць высокай надзейнасці захоўвання, высокай частаты запытаў, высокай хуткасці перадачы і вялікай ёмістасці для размяшчэння.

RAID 6 і RAID 60: пра іх мы таксама не забыліся

Раз ужо мы пагаварылі аб масівах пятага і пяцідзесятага ўзроўняў, грэх не згадаць і аб такіх тыпах арганізацыі масіваў як RAID 6 і RAID 60.

Дзелімся досведам, як паказваюць сябе SSD у рамках RAID і які ўзровень масіва выгодней

Прадукцыйнасць RAID 6 аналагічная RAID 5, але тут ужо мінімум два назапашвальнікі аддаюцца пад кантроль цотнасці, што дазваляе масіву перажыць выйсце з ладу двух назапашвальнікаў без страты дадзеных (у RAID 5 такая сітуацыя вельмі непажаданая). Дзякуючы гэтаму забяспечваецца больш высокая надзейнасць. У астатнім усё гэтак жа, як і ў масіве пятага ўзроўня: у выпадку збою аднаго або двух дыскаў кантролер RAID выкарыстоўвае блокі цотнасці для ўзнаўлення ўсёй недастатковай інфармацыі. Пры збоі двух назапашвальнікаў аднаўленне адбываюцца не адначасова: спачатку рэанімуецца першы назапашвальнік, затым - другі. Такім чынам, выконваюцца дзве аперацыі па аднаўленні даных.

Дзелімся досведам, як паказваюць сябе SSD у рамках RAID і які ўзровень масіва выгодней

Няцяжка здагадацца, што, калі RAID 50 уяўляе сабою масіў нулявога ўзроўня з масіваў пятага ўзроўня, то RAID 60 – гэта масіў нулявога ўзроўня з масіваў шостага ўзроўня, пра якія мы толькі што распавялі. Гэта значыць такая арганізацыя RAID-сховішчы дазваляе перажыць страту двух SSD у кожнай групе назапашвальнікаў RAID 6. Прынцып працы падобны з ​​тым, пра які мы расказвалі ў раздзеле пра RAID 50, але колькасць збояў, якія можа вытрымаць масіў шасцідзесятага ўзроўню, вырастае з 8 да 16 назапашвальнікаў. Звычайна такія масівы выкарыстоўваюцца для анлайн-абслугоўвання кліентаў, якое патрабуе высокай адмоваўстойлівасці.

Падводзім вынікі:

Нягледзячы на ​​тое, што люстраванне забяспечвае большую адмоваўстойлівасць, чым RAID 50/60, яно таксама патрабуе значна больш месца. Паколькі колькасць дадзеных падвойваецца, вы фактычна атрымліваеце толькі 50% ад агульнай ёмістасці ўсталяваных у серверы назапашвальнікаў для запісу і захоўванні інфармацыі. Выбар паміж RAID 50/60 і RAID 10, хутчэй за ўсё, будзе залежаць ад наяўных бюджэтаў, ёмістасці сервера і вашых запатрабаванняў у абароне дадзеных. Прычым кошт выходзіць на першы план, калі мы гаворым аб SSD-рашэннях (як карпаратыўнага, так і спажывецкага класа).

Не менш важна, што зараз мы сапраўды ведаем - RAID на базе SSD цалкам бяспечнае рашэнне і нармальная практыка для сучаснага бізнесу. У рамках хатняга ўжывання таксама ёсць рацыя пераходзіць на NVMe, калі дазваляюць бюджэты. А калі ў вас яшчэ засталося пытанне, навошта ж усё гэта трэба, вярніцеся да пачатку артыкула - мы ўжо падрабязна адказалі на яго.

Дадзены артыкул падрыхтавана пры падтрымцы нашых калег з Broadcom, якія падаюць свае кантролеры інжынерам Kingston для тэставання з назапашвальнікамі SATA/SAS/NVMe карпаратыўнага класа. Дзякуючы гэтаму сяброўскаму сімбіёзу, кліентам не даводзіцца сумнявацца ў надзейнасці і стабільнасці працы назапашвальнікаў Kingston c HBA-і RAID-кантролерамі вытворчасці. Broadcom.

Дадатковую інфармацыю аб прадуктах Kingston можна знайсці на афіцыйным сайце кампаніі.

Крыніца: habr.com

Дадаць каментар