Сёння пагаворым аб тым, як лепш захоўваць дадзеныя ў свеце, дзе сеткі пятага пакалення, сканары геномаў і беспілотныя аўтамабілі вырабляюць за дзень больш дадзеных, чым усё чалавецтва спарадзіла ў перыяд да прамысловай рэвалюцыі.
Наш сьвет генеруе ўсё больш інфармацыі. Нейкая яе частка мімалётная і губляецца гэтак жа хутка, як і збіраецца. Іншая павінна захоўвацца даўжэй, а іншая і зусім разлічана "на стагоддзі" - прынамсі, так нам бачыцца з сучаснасці. Інфармацыйныя патокі асядаюць у дата-цэнтрах з такой хуткасцю, што любы новы падыход, любая тэхналогія, закліканыя задаволіць гэты бясконцы "попыт", імкліва састарваюцца.
40 гадоў развіцця размеркаваных СГД
Першыя сеткавыя сховішчы ў звыклым нам выглядзе з'явіліся ў 1980-х. Многія з вас сутыкаліся з NFS (Network File System), AFS (Andrew File System) ці Coda. Праз дзесяцігоддзе мода і тэхналогіі змяніліся, а размеркаваныя файлавыя сістэмы саступілі месца кластарным СХД на аснове GPFS (General Parallel File System), CFS (Clustered File Systems) і StorNext. У якасці базісу выкарыстоўваліся блокавыя сховішчы класічнай архітэктуры, па-над якімі з дапамогай праграмнага пласта стваралася адзіная файлавая сістэма. Гэтыя і падобныя рашэнні да гэтага часу прымяняюцца, займаюць сваю нішу і цалкам запатрабаваны.
На мяжы тысячагоддзяў парадыгма размеркаваных сховішчаў некалькі памянялася, і на лідзіруючыя пазіцыі выйшлі сістэмы з архітэктурай SN (Shared-Nothing). Адбыўся пераход ад кластарнага захоўвання да захоўвання на асобных вузлах, у якасці якіх, як правіла, выступалі класічныя серверы з забяспечвальным надзейнае захоўванне ПЗ; на такіх прынцыпах пабудаваны, скажам, HDFS (Hadoop Distributed File System) і GFS (Global File System).
Бліжэй да 2010-м закладзеныя ў аснову размеркаваных сістэм захоўвання канцэпцыі ўсё часцей сталі знаходзіць адлюстраванне ў паўнавартасных камерцыйных прадуктах, такіх як VMware vSAN, Dell EMC Isilon і наша . За згаданымі платформамі стаіць ужо не супольнасць энтузіястаў, а канкрэтныя вендары, якія адказваюць за функцыянальнасць, падтрымку, сэрвіснае абслугоўванне прадукта і гарантуюць яго далейшае развіццё. Такія рашэнні найбольш запатрабаваны ў некалькіх сферах.
Аператары сувязі
Мабыць, аднымі з найстарэйшых спажыўцоў размеркаваных сістэм захоўвання з'яўляюцца аператары сувязі. На схеме відаць, якія групы прыкладанняў вырабляюць асноўны аб'ём дадзеных. OSS (Operations Support Systems), MSS (Management Support Services) і BSS (Business Support Systems) уяўляюць сабой тры дапаўняльных адзін аднаго праграмных пласта, неабходных для прадастаўлення сэрвісу абанентам, фінансавай справаздачнасці правайдэру і эксплуатацыйнай падтрымкі інжынерам аператара.
Часцяком дадзеныя гэтых пластоў моцна перамяшаныя паміж сабой, і, каб пазбегнуць назапашванні непатрэбных дзід, як раз і выкарыстоўваюцца размеркаваныя сховішчы, якія акумулююць увесь аб'ём інфармацыі, якая паступае ад працавальнай сеткі. Сховішчы аб'ядноўваюцца ў агульны пул, да якога і звяртаюцца ўсе сэрвісы.
Нашы разлікі паказваюць, што пераход ад класічных СХД да блокавых дазваляе зэканоміць да 70% бюджэту толькі за кошт адмовы ад выдзеленых СХД класа hi-end і выкарыстання звычайных сервераў класічнай архітэктуры (звычайна x86), якія працуюць у звязку са спецыялізаваным ПЗ. Сотавыя аператары ўжо даўнавата пачалі набываць падобныя рашэнні ў сур'ёзных аб'ёмах. У прыватнасці, расійскае аператары выкарыстоўваюць такія прадукты ад Huawei больш за шэсць гадоў.
Так, шэраг задач з дапамогай размеркаваных сістэм выканаць не атрымаецца. Напрыклад, пры падвышаных патрабаваннях да прадукцыйнасці ці да сумяшчальнасці са старымі пратаколамі. Але не менш за 70% дадзеных, якія апрацоўвае аператар, цалкам можна размясціць у размеркаваным пуле.
Банкаўская сфера
У любым банку суседнічае мноства разнамасных IT-сістэм, пачынаючы з працэсінгу і заканчваючы аўтаматызаванай банкаўскай сістэмай. Гэтая інфраструктура таксама працуе з велізарным аб'ёмам інфармацыі, пры гэтым вялікая частка задач не патрабуе падвышанай прадукцыйнасці і надзейнасці сістэм захоўвання, напрыклад распрацоўка, тэставанне, аўтаматызацыя офісных працэсаў і інш. Тут ужыванне класічных СХД магчыма, але з кожным годам усё меней выгодна. Да таго ж у гэтым выпадку адсутнічае гнуткасць расходавання рэсурсаў СГД, прадукцыйнасць якой разлічваецца з віновай нагрузкі.
Пры выкарыстанні размеркаваных сістэм захоўвання іх вузлы, якія па факце з'яўляюцца звычайнымі серверамі, могуць быць у любы момант канвертаваны, напрыклад, у серверную ферму і выкарыстаны ў якасці вылічальнай платформы.
Азёры дадзеных
На схеме вышэй прыведзены пералік тыповых спажыўцоў сэрвісаў . Гэта могуць быць службы электроннага ўрада (дапушчальны, «Дзяржпаслугі»), якія прайшлі цыфрызацыю прадпрыемства, фінансавыя структуры і інш. Усім ім неабходна працаваць з вялікімі аб'ёмамі разнастайнай інфармацыі.
Эксплуатацыя класічных СГД для рашэння такіх задач неэфектыўная, бо патрабуецца і высокапрадукцыйны доступ да блокавых баз дадзеных, і звычайны доступ да бібліятэк сканаваных дакументаў, якія захоўваюцца ў выглядзе аб'ектаў. Сюды ж можа быць прывязана, дапусцім, сістэма заказаў праз вэб-партал. Каб усё гэта рэалізаваць на платформе класічнай СХД, запатрабуецца вялікі камплект абсталявання пад розныя задачы. Адна гарызантальная ўніверсальная сістэма захоўвання цалкам можа зачыняць усе раней пералічаныя задачы: спатрэбіцца толькі стварыць у ёй некалькі пулаў з рознымі характарыстыкамі захоўвання.
Генератары новай інфармацыі
Колькасць захоўваемай у свеце інфармацыі расце прыкладна на 30% у год. Гэта добрыя навіны для пастаўшчыкоў сістэм захоўвання, але што ж з'яўляецца і будзе з'яўляцца асноўнай крыніцай гэтых дадзеных?
Дзесяць гадоў таму такімі генератарамі сталі сацыяльныя сеткі, гэта запатрабавала стварэння вялікай колькасці новых алгарытмаў, апаратных рашэнняў і т. д. Цяпер вылучаюцца тры галоўных драйвера росту аб'ёмаў захоўвання. Першы - cloud computing. У цяперашні час прыкладна 70% кампаній так ці інакш выкарыстоўваюць хмарныя сэрвісы. Гэта могуць быць электронныя паштовыя сістэмы, рэзервовыя копіі ды іншыя віртуалізаваныя сутнасці.
Другім драйверам становяцца сеткі пятага пакалення. Гэта новыя хуткасці і новыя аб'ёмы перадачы даных. Па нашых прагнозах, шырокае распаўсюджванне 5G прывядзе да падзення попыту на карткі флэш-памяці. Колькі б ні было памяці ў тэлефоне, яна ўсё роўна канчаецца, а пры наяўнасці ў гаджэце 100-мегабітнага канала няма ніякай неабходнасці захоўваць фатаграфіі лакальна.
Да трэцяй групы прычын, па якіх расце попыт на сістэмы захоўвання, адносяцца бурнае развіццё штучнага інтэлекту, пераход на аналітыку вялікіх дадзеных і трэнд на ўсеагульную аўтаматызацыю за ўсё, чаго толькі можна.
Асаблівасцю "новага трафіку" з'яўляецца яго . Нам трэба захоўваць гэтыя дадзеныя, ніяк не вызначаючы іх фармат. Ён патрабуецца толькі пры наступным чытанні. Да прыкладу, банкаўская сістэма скоринга для вызначэння даступнага памеру крэдыту будзе глядзець выкладзеныя вамі ў сацсетках фатаграфіі, вызначаючы, ці часта вы бываеце на моры і ў рэстаранах, і адначасова вывучаць даступныя ёй выпіскі з вашых медыцынскіх дакументаў. Гэтыя дадзеныя, з аднаго боку, усёабдымныя, а з другога - пазбаўленыя аднастайнасці.
Акіян неструктураваных дадзеных
Якія ж праблемы цягне за сабой з'яўленне "новых дадзеных"? Найпершая сярод іх, вядома, сам аб'ём інфармацыі і разліковыя тэрміны яе захоўвання. Адзін толькі сучасны аўтаномны аўтамабіль без кіроўцы кожны дзень генеруе да 60 Тбайт дадзеных, якія паступаюць са ўсіх яго датчыкаў і механізмаў. Для распрацоўкі новых алгарытмаў руху гэтую інфармацыю неабходна апрацаваць за тыя ж суткі, інакш яна пачне назапашвацца. Пры гэтым захоўвацца яна павінна вельмі доўга - дзясяткі гадоў. Толькі тады ў будучыні можна будзе рабіць вывады на аснове вялікіх аналітычных выбарак.
Адна прылада для расшыфроўкі генетычных паслядоўнасцяў вырабляе каля 6 Тбайт у дзень. А сабраныя з яго дапамогай дадзеныя наогул не маюць на ўвазе выдаленні, гэта значыць гіпатэтычна павінны захоўвацца вечна.
Нарэшце, усе тыя ж сеткі пятага пакаленьня. Апроч уласна перадаванай інфармацыі, такая сетка і сама з'яўляецца велізарным генератарам дадзеных: часопісаў дзеянняў, запісаў званкоў, прамежкавых вынікаў міжмашынных узаемадзеянняў і інш.
Усё гэта патрабуе выпрацоўкі новых падыходаў і алгарытмаў захавання і апрацоўкі інфармацыі. І такія падыходы з'яўляюцца.
Тэхналогіі новай эпохі
Можна вылучыць тры групы рашэнняў, закліканых зладзіцца з новымі патрабаваннямі да сістэм захоўвання інфармацыі: укараненне штучнага інтэлекту, тэхнічная эвалюцыя носьбітаў дадзеных і інавацыі ў вобласці сістэмнай архітэктуры. Пачнём з ІІ.
У новых рашэннях Huawei штучны інтэлект выкарыстоўваецца ўжо на ўзроўні самага сховішча, якое абсталявана ІІ-працэсарам, якія дазваляюць сістэме самастойна аналізаваць свой стан і прадказваць адмовы. Калі СГД падлучыць да сэрвіснага воблака, якое валодае значнымі вылічальнымі здольнасцямі, штучны інтэлект зможа апрацаваць больш інфармацыі і павысіць дакладнасць сваіх гіпотэз.
Акрамя адмоваў, такі ІІ умее прагназаваць будучую пікавую нагрузку і час, які застаецца да вычарпання ёмістасці. Гэта дазваляе аптымізаваць прадукцыйнасць і маштабаваць сістэму яшчэ да наступлення якіх-небудзь непажаданых падзей.
Зараз аб эвалюцыі носьбітаў дадзеных. Першыя флэш-назапашвальнікі былі выкананы па тэхналогіі SLC (Single-Level Cell). Заснаваныя на ёй прылады былі хуткімі, надзейнымі, стабільнымі, але мелі невялікую ёмістасць і каштавалі вельмі дорага. Росту аб'ёму і зніжэння кошту ўдалося дабіцца шляхам пэўных тэхнічных саступак, з-за якіх хуткасць, надзейнасць і тэрмін службы назапашвальнікаў скараціліся. Тым не менш трэнд не паўплываў на самі СГД, якія за кошт розных архітэктурных хітрыкаў у цэлым сталі і больш прадукцыйнымі, і больш надзейнымі.
Але чаму спатрэбіліся СГД класа All-Flash? Няўжо недастаткова было проста замяніць ва ўжо эксплуатаванай сістэме старыя HDD на новыя SSD таго ж формаў-фактару? Спатрэбілася гэта для таго, каб эфектыўна выкарыстоўваць усе рэсурсы новых цвёрдацельных назапашвальнікаў, што ў старых сістэмах было проста немагчыма.
Кампанія Huawei, напрыклад, для рашэння гэтай задачы распрацавала цэлы шэраг тэхналогій, адной з якіх стала , якая дазволіла максімальна аптымізаваць узаемадзеяння "дыск - кантролер".
Інтэлектуальная ідэнтыфікацыя дала магчымасць раскласці даныя на некалькі патокаў і справіцца з шэрагам непажаданых з'яў, такіх як (write amplification). Разам з тым новыя алгарытмы аднаўлення, у прыватнасці , павысілі хуткасць рэбілда, скараціўшы яго час да зусім нязначных велічынь.
Адмова, перапоўненасць, "зборка смецця" – гэтыя фактары таксама больш не ўплываюць на прадукцыйнасць сістэмы захоўвання дзякуючы спецыяльнай дапрацоўцы кантролераў.
А яшчэ блокавыя сховішчы дадзеных рыхтуюцца сустрэць . Нагадаем, што класічная схема арганізацыі доступу да дадзеных працавала так: працэсар звяртаўся да RAID-кантролеру па шыне PCI Express. Той, у сваю чаргу, узаемадзейнічаў з механічнымі кружэлкамі па SCSI або SAS. Ужыванне NVMe на бэкендзе прыкметна паскорыла ўвесь працэс, аднак несла ў сабе адзін недахоп: назапашвальнікі павінны былі мець непасрэднае падлучэнне да працэсара, каб забяспечыць таму прамы доступ у памяць.
Наступнай фазай развіцця тэхналогіі, якую мы назіраем зараз, стала прымяненне NVMe-oF (NVMe over Fabrics). Што тычыцца блокавых тэхналогій Huawei, яны ўжо зараз падтрымліваюць FC-NVMe (NVMe over Fibre Channel), і на падыходзе NVMe over RoCE (RDMA over Converged Ethernet). Тэставыя мадэлі суцэль функцыянальныя, да афіцыйнай іх прэзентацыі засталося некалькі месяцаў. Заўважым, што ўсё гэта з'явіцца і ў размеркаваных сістэмах, дзе "Ethernet без страт" будзе вельмі запатрабаваны.
Дадатковым спосабам аптымізацыі працы менавіта размеркаваных сховішчаў стала поўная адмова ад люстравання дадзеных. Рашэнні Huawei больш не выкарыстоўваюць n копій, як у звыклым RAID 1, і цалкам пераходзяць на механізм (Erasure coding). Адмысловы матэматычны пакет з вызначанай перыядычнасцю вылічае кантрольныя блокі, якія дазваляюць аднавіць прамежкавыя дадзеныя ў выпадку іх страты.
Механізмы дэдуплікацыі і сціску становяцца абавязковымі. Калі ў класічных СХД мы абмежаваныя колькасцю ўсталяваных у кантролеры працэсараў, то ў размеркаваных гарызантальна якія маштабуюцца сістэмах захоўвання кожны вузел утрымоўвае ўсё неабходнае: дыскі, памяць, працэсары і інтэрканэкт. Гэтых рэсурсаў дастаткова, каб дэдуплікацыя і кампрэсія аказвалі на прадукцыйнасць мінімальны ўплыў.
І пра апаратныя метады аптымізацыі. Тут зменшыць нагрузку на цэнтральныя працэсары атрымалася з дапамогай дадатковых вылучаных мікрасхем (ці вылучаных блокаў у самім працэсары), гуляючых ролю (TCP/IP Offload Engine) або якія бяруць на сябе матэматычныя задачы EC, дэдуплікацыі і кампрэсіі.
Новыя падыходы да захоўвання дадзеных знайшлі ўвасабленне ў дэзагрэгаваны (размеркаванай) архітэктуры. У сістэмах цэнтралізаванага захоўвання маецца фабрыка сервераў, па Fibre Channel падключаная да з вялікай колькасцю масіваў. Недахопамі такога падыходу з'яўляюцца цяжкасці з маштабаваннем і забеспячэннем гарантаванага ўзроўню паслугі (па прадукцыйнасці або затрымкі). Гіперканвергентныя сістэмы выкарыстоўваюць адны і тыя ж хасты - як для захоўвання, так і для апрацоўкі інфармацыі. Гэта дае практычна неабмежаваную прастору маштабавання, але цягне за сабой высокія выдаткі на падтрыманне цэласнасці дадзеных.
У адрозненне ад абедзвюх вышэйпералічаных, дэзагрэгаваная архітэктура мае на ўвазе падзел сістэмы на вылічальную фабрыку і гарызантальную сістэму захоўвання. Гэта забяспечвае перавагі абедзвюх архітэктур і дазваляе практычна неабмежавана маштабаваць толькі той элемент, прадукцыйнасці якога бракуе.
Ад інтэграцыі да канвергенцыі
Класічнай задачай, актуальнасць якой апошнія 15 гадоў толькі расла, з'яўляецца неабходнасць адначасова забяспечыць блокавае захоўванне, файлавы доступ, доступ да аб'ектаў, працу фермы для вялікіх дадзеных і т. д. Вішанькай на торце можа быць яшчэ, напрыклад, сістэма бэкапу на магнітную стужку.
На першым этапе ўніфікаваць атрымоўвалася толькі кіраванне гэтымі паслугамі. Разнастайныя сістэмы захоўвання дадзеных замыкаліся на якое-небудзь спецыялізаванае ПЗ, з дапамогай якога адміністратар размяркоўваў рэсурсы з даступных пулаў. Але паколькі апаратна гэтыя пулы былі рознымі, міграцыя нагрузкі паміж імі была немагчымая. На больш высокім узроўні інтэграцыі аб'яднанне адбывалася на ўзроўні шлюза. Пры наяўнасці агульнага файлавага доступу яго можна было аддаваць праз розныя пратаколы.
Самы дасканалы з даступных нам цяпер метадаў канвергенцыі мае на ўвазе стварэнне ўніверсальнай гібрыднай сістэмы. Менавіта такой, якой павінна стаць наша . Універсальны доступ выкарыстоўвае тыя ж самыя апаратныя рэсурсы, лагічна падзеленыя на розныя пулы, але якія дапускаюць міграцыю нагрузкі. Усё гэта можна зрабіць праз адзіную кансоль кіравання. Такім спосабам нам удалося рэалізаваць канцэпцыю «адзін ЦАД - адна СГД».
Кошт захоўвання інфармацыі зараз вызначае многія архітэктурныя рашэнні. І хоць яе можна смела ставіць у раздзел кута, мы сёння абмяркоўваем "жывое" захоўванне з актыўным доступам, так што прадукцыйнасць таксама неабходна ўлічваць. Яшчэ адной важнай уласцівасцю размеркаваных сістэм наступнага пакалення з'яўляецца уніфікацыя. Бо ніхто не жадае мець некалькі разрозненых сістэм, якія кіруюцца з розных кансоляў. Усе гэтыя якасці знайшлі ўвасабленне ў новай серыі прадуктаў Huawei .
Масавая СГД новага пакалення
OceanStor Pacific адказвае патрабаванням надзейнасці на ўзроўні шасці дзевятак (99,9999%) і можа выкарыстоўвацца для стварэння ЦАД класа HyperMetro. Пры адлегласці паміж двума дата-цэнтрамі да 100 км сістэмы дэманструюць дадатковую затрымку на ўзроўні 2 мс, што дазваляе будаваць на іх аснове любыя катастрофаўстойлівыя рашэнні, у тым ліку і з кворум-серверамі.
Прадукты новай серыі дэманструюць ўніверсальнасць па пратаколах. Ужо зараз OceanStor 100D падтрымлівае блокавы доступ, аб'ектавы доступ і доступ Hadoop. У бліжэйшы час будзе рэалізаваны і файлавы доступ. Няма патрэбы захоўваць некалькі копіяў дадзеных, калі іх можна выдаваць праз розныя пратаколы.
Здавалася б, якое дачыненне канцэпцыя "сетка без страт" мае да СГД? Справа ў тым, што размеркаваныя сістэмы захоўвання дадзеных будуюцца на аснове хуткай сеткі, якая падтрымлівае адпаведныя алгарытмы і механізм RoCE. Дадаткова павялічыць хуткасць сеткі і знізіць затрымкі дапамагае сістэма штучнага інтэлекту, якая падтрымліваецца нашымі камутатарамі. . Выйгрыш прадукцыйнасці СХД пры актывацыі AI Fabric можа дасягаць 20%.
Што ж уяўляе сабой новы вузел размеркаванай СХД OceanStor Pacific? Рашэнне формаў-фактару 5U складаецца з 120 назапашвальнікаў і можа замяніць тры класічных вузла, што дае больш за двухразовую эканомію месца ў стойцы. За кошт адмовы ад захоўвання копій ККД назапашвальнікаў адчувальна ўзрастае (да +92%).
Мы прывыклі да таго, што праграмна-вызначаемая СХД – гэта спецыяльнае ПЗ, якое ўстанаўліваецца на класічны сервер. Але зараз для дасягнення аптымальных параметраў гэтае архітэктурнае рашэнне патрабуе і адмысловых вузлоў. У яго склад уваходзяць два сервера на базе ARM-працэсараў, якія кіруюць масівам трохцалевых назапашвальнікаў.
Гэтыя серверы мала падыходзяць для гіперканвергентных рашэнняў. Па-першае, прыкладанняў для ARM досыць мала, а па-другое, цяжка выканаць баланс нагрузкі. Мы прапануем перайсці да паасобнага захоўвання: вылічальны кластар, прадстаўлены класічнымі ці rack-серверамі, функцыянуе асобна, але падлучаецца да вузлоў захоўвання OceanStor Pacific, якія таксама выконваюць свае прамыя задачы. І гэта сябе апраўдвае.
Для прыкладу возьмем класічнае рашэнне для захоўвання вялікіх дадзеных з гіперканвергентнай сістэмай, якое займае 15 серверных стоек. Калі размеркаваць нагрузку паміж асобнымі вылічальнымі серверамі і вузламі СХД OceanStor Pacific, аддзяліўшы іх сябар ад сябра, колькасць неабходных стоек скароціцца ў два разу! Гэта змяншае выдаткі на эксплуатацыю дата-цэнтра і памяншае сукупны кошт валодання. У свеце, дзе аб'ём захоўваемай інфармацыі расце на 30% у год, падобнымі перавагамі не раскідваюцца.
***
Больш інфармацыі аб рашэннях Huawei і сцэнарах іх ужывання вы можаце атрымаць на нашым ці звярнуўшыся непасрэдна да прадстаўнікоў кампаніі.
Крыніца: habr.com