Наши турски клијенти су нас замолили да правилно конфигуришемо резервну копију за њихов дата центар. Радимо сличне пројекте у Русији, али овде се више причало о истраживању како то најбоље урадити.
С обзиром: постоји локално С3 складиште, постоји Веритас НетБацкуп, који је добио нову проширену функционалност за премештање података у складиште објеката, сада са подршком за дедупликацију, а постоји и проблем са слободним простором у овој локалној меморији.
Задатак: направити све тако да процес чувања резервних копија буде брз и јефтин.
У ствари, пре овога, све у С3 су биле обичне датотеке, а то су биле комплетне копије критичних машина дата центра. Односно, није много оптимизовано, али све је функционисало у старту. Сада је време да то схватите и урадите како треба.
Слика показује до чега смо дошли:
Као што видите, прва резервна копија је направљена споро (70 Мб/с), а наредне бекапе истих система су биле много брже.
Заправо, даље има мало више детаља о томе које карактеристике постоје.
Бацкуп логови за оне који су спремни да прочитају пола странице думпаПун са поновним скенирањем
18. децембар 2018. 12:09:43 — Инфо бпбкар (пид=4452) акцелератор је послао 14883996160 бајтова од 14883994624 бајтова серверу, оптимизација 0.0%
18. децембар 2018. 12:10:07 - Инфо НБЦЦ (пид=23002) СторагеСервер=ПуреДиск_рхцепх_равд:с3.цлоуд.нгн.цом.тр; Извештај=ПДДО статистика (користи се вишенитни ток) за (НБЦЦ): скенирано: 14570817 КБ, ЦР послато: 1760761 КБ, ЦР послато преко ФЦ: 0 КБ, дедуп: 87.9%, кеш онемогућен
Пун
18. децембар 2018. 12:13:18 — Инфо бпбкар (пид=2864) акцелератор је послао 181675008 бајтова од 14884060160 бајтова серверу, оптимизација 98.8%
18. децембар 2018. 12:13:40 - Инфо НБЦЦ (пид=23527) СторагеСервер=ПуреДиск_рхцепх_равд:с3.цлоуд.нгн.цом.тр; Извештај=ПДДО статистика за (НБЦЦ): скенирано: 14569706 КБ, ЦР послато: 45145 КБ, ЦР послато преко ФЦ: 0 КБ, дедуп: 99.7%, кеш онемогућен
Постепен
18. децембар 2018. 12:15:32 — Инфо бпбкар (пид=792) акцелератор је послао 9970688 бајтова од 14726108160 бајтова серверу, оптимизација 99.9%
18. децембар 2018. 12:15:53 - Инфо НБЦЦ (пид=23656) СторагеСервер=ПуреДиск_рхцепх_равд:с3.цлоуд.нгн.цом.тр; Извештај=ПДДО статистика за (НБЦЦ): скенирано: 14383788 КБ, ЦР послато: 15700 КБ, ЦР послато преко ФЦ: 0 КБ, дедуп: 99.9%, кеш онемогућен
Пун
18. децембар 2018. 12:18:02 — Инфо бпбкар (пид=3496) акцелератор је послао 171746816 бајтова од 14884093952 бајтова серверу, оптимизација 98.8%
18. децембар 2018. 12:18:24 - Инфо НБЦЦ (пид=23878) СторагеСервер=ПуреДиск_рхцепх_равд:с3.цлоуд.нгн.цом.тр; Извештај=ПДДО статистика за (НБЦЦ): скенирано: 14569739 КБ, ЦР послато: 34120 КБ, ЦР послато преко ФЦ: 0 КБ, дедуп: 99.8%, кеш онемогућен
У чему је проблем
Купци желе да праве резервне копије што је чешће могуће и да их чувају што је јефтиније могуће. Најбоље их је јефтино складиштити у складиштима објеката као што је С3, јер су најјефтинији по цени услуге по мегабајту одакле можете вратити резервну копију у разумном времену. Када има много резервних копија, то није баш јефтино, јер већину складишта заузимају копије истих података. У случају ХааС-а турских колега, складиштење се може згуснути за приближно 80-90%. Јасно је да се то посебно односи на њихове специфичности, али ја бих свакако рачунао на најмање 50% деде.
Да би решили проблем, главни добављачи су одавно направили приступнике за Амазон С3. Све њихове методе су компатибилне са локалним С3 све док подржавају Амазон АПИ. У турском дата центру се прави резервна копија на нашем С3, као и на Т-ИИИ „Компресору“ у Русији, пошто нам је ова шема рада добро функционисала.
А наш С3 је потпуно компатибилан са Амазон С3 методама резервних копија. То јест, сви алати за прављење резервних копија који подржавају ове методе омогућавају вам да копирате све у такво складиште „из кутије“.
Веритас НетБацкуп је додао функцију ЦлоудЦаталист:
Односно, између машина за које је потребно направити резервну копију и гејтвеја, постоји посредни Линук сервер кроз који пролази резервни саобраћај од СРК агената и дедуплицира се у ходу пре него што га пренесе на С3. Ако је раније било 30 резервних копија од 20 ГБ са компресијом, сада је (због сличности машина) њихов волумен постао 90% мањи. Механизам за дедупликацију се користи исто као и када се чувају на редовним дисковима користећи Нетбацкуп.
Ево шта се дешава пре средњег сервера:
Тестирали смо и дошли до закључка да када се имплементира у нашим дата центрима, ово штеди простор у С3 складишту за нас и за купце. Као власници комерцијалних дата центара, наравно, наплаћујемо према заузетом обиму, али и нама је и даље веома исплативо – јер почињемо да зарађујемо на скалабилнијим местима у софтверу, а не на изнајмљивању хардвера. Па, и ово је смањење унутрашњих трошкова.
Дневници228 послова (0 У реду 0 Активно 0 Чека се поновни покушај 0 Суспендовано 0 Непотпуно 228 Готово — 13 изабрано)
(Примењени филтер [13])
Тип ИД-а посла Детаљи стања Статус Политика посла Распоред посла Клијент Медиа Сервер Почетно време Протекло време Време завршетка Јединица за складиштење Покушај операције Килобајти Фајлови Путања % Довршено (процењено) Задатак ПИД Власник Копирај ИД надређеног посла КБ/с Активан почетак Активан Протекла сесија профила робота трезора ИД медијума за избацивање података Померање података ван хоста Тип главног приоритета Брзина дедупликације Убрзавач транспорта Оптимизација Инстанце или базе података Дели Хост
— 1358 Снапсхот Урађен 0 ВМваре — НГНЦлоудАДЦ НБЦЦ 18. децембар 2018. 12:16:19 00:02:18 18. децембар 2018. 12:18:37 СТУ_ДП_С3_**** бацкуп 1 100 1358, 18 дец роот :2018:12 ПМ 16:27:00 Диск за тренутни опоравак Стандард ВИН-*********** 02
1360 Резервна копија је урађена 0 ВМваре Фулл НГНЦлоудАДЦ НБЦЦ 18. децембар 2018. 12:16:48 00:01:39 18. децембар 2018. 12:18:27 СТУ_ДП_С3_**** резервна копија 1 14,535,248% роот 149654 100 дец 23858 , 1358 335,098:18:2018 ПМ 12:16:48 Стандардни диск за тренутни опоравак ВИН-*********** 00 01% 39%
1352 Снимак Урађен 0 ВМваре - НГНЦлоудАДЦ НБЦЦ 18. децембар 2018. 12:14:04 00:02:01 18. децембар 2018. 12:16:05 СТУ_ДП_С3_**** резервна копија 1 100% 1352. децембра 18. децембра 2018:12 ПМ 14:14:00 Стандардни диск за тренутни опоравак ВИН-*********** 01
1354 Израда резервне копије 0 ВМваре инкрементални НГНЦлоудАДЦ НБЦЦ 18. децембар 2018. 12:14:34 00:01:21 18. децембар 2018. 12:15:55 СТУ_ДП_С3_**** резервна копија 1 14,380,965% роот 147 Дец 100 , 23617 1352:500,817:18 ПМ 2018:12:14 Стандардни диск за тренутни опоравак ВИН-*********** 34 00% 01%
1347 Снимак Урађен 0 ВМваре - НГНЦлоудАДЦ НБЦЦ 18. децембар 2018. 12:11:45 00:02:08 18. децембар 2018. 12:13:53 СТУ_ДП_С3_**** резервна копија 1 100% 1347. децембра 18. децембра 2018:12 ПМ 11:45:00 Стандардни диск за тренутни опоравак ВИН-*********** 02
1349 Резервна копија је урађена 0 ВМваре Фулл НГНЦлоудАДЦ НБЦЦ 18. децембар 2018. 12:12:02 00:01:41 18. децембар 2018. 12:13:43 СТУ_ДП_С3_**** резервна копија 1 14,535,215% роот 149653 100 дец 23508 , 1347 316,319:18:2018 ПМ 12:12:02 Стандардни диск за тренутни опоравак ВИН-*********** 00 01% 41%
1341 Снимак Урађен 0 ВМваре - НГНЦлоудАДЦ НБЦЦ 18. децембар 2018. 12:05:28 00:04:53 18. децембар 2018. 12:10:21 СТУ_ДП_С3_**** резервна копија 1 100% 1341. децембра 18. децембра 2018:12 ПМ 05:28:00 Стандардни диск за тренутни опоравак ВИН-*********** 04
1342 Израда резервне копије 0 ВМваре Фулл_Ресцан НГНЦлоудАДЦ НБЦЦ 18. децембар 2018. 12:05:47 00:04:24 18. децембар 2018. 12:10:11 СТУ_ДП_С3_**** резервна копија 1 14,535,151 149653% 100 22999% роот 1341 70,380 дец 18 , 2018 12:05:47 ПМ 00:04:24 Стандардни диск за инстант опоравак ВИН-*********** 0 87.9% 0%
1339 Снимак Урађен 150 ВМваре - НГНЦлоудАДЦ НБЦЦ 18. децембар 2018. 11:05:46 00:00:53 18. децембар 2018. 11:06:39 СТУ_ДП_С3_**** резервна копија 1 100% 1339% роот 18 2018. 11:05 АМ 46:00:00 Инстант Рецовери Диск Стандард ВИН-*********** 53
1327 Снапсхот Урађен 0 ВМваре - *******.********.цлоуд НБЦЦ 17. децембар 2018. 12:54:42 05:51:38 17. децембар 2018. 6:46:20 СТУ_ДП_С3_****бацкуп 1 100% роот 1327 17. децембар 2018. 12:54:42 поподне 05:51:38 Стандардни диск за тренутни опоравак ВИН-*********** 0
1328 Израда резервне копије 0 ВМваре Фулл *******.********.цлоуд НБЦЦ 17. децембар 2018. 12:55:10 05:29:21 17. децембар 2018. 6:24:31 СТУ_ДП_С3_****бацкуп 1 222,602,719 258932 100% 12856 роот 1327 11,326 Дец 17, 2018 12:55:10 ПМ 05:29:21 Инстант Рецовери Диск-******. 0***** Стандард ВИН% 87.9 0%
1136 Снапсхот Урађен 0 ВМваре - *******.********.цлоуд НБЦЦ 14. децембар 2018. 4:48:22 04:05:16 14. децембар 2018. 8:53:38 СТУ_ДП_С3_****бацкуп 1 100% роот 1136 14. децембар 2018. 4:48:22 поподне 04:05:16 Стандардни диск за тренутни опоравак ВИН-*********** 0
1140 Израда резервне копије 0 ВМваре Фулл_Сцан *******.********.цлоуд НБЦЦ 14. децембар 2018. 4:49:14 03:49:58 14. децембар 2018. 8:39:12 СТУ_ДП_С3_****бацкуп 1 217,631,332 255465 100% 26438 роот 1136 15,963 Дец 14, 2018 4:49:14 03:49:58 Инстант Рецовери Диск-0********** Стандард ВИН% 45.2 0%
Акцелератор вам омогућава да смањите промет од агената, јер Преносе се само промене података, то јест, чак ни пуне резервне копије се не отпремају у потпуности, пошто медијски сервер прикупља накнадне пуне резервне копије из инкременталних резервних копија.
Средњи сервер има сопствено складиште, где уписује „кеш“ података и одржава базу података за дедупликацију.
Комплетна архитектура изгледа овако:
- Главни сервер управља конфигурацијом, ажурирањима итд. и налази се у облаку.
- Медијски сервер (средња *ник машина) треба да се налази најближе редундантним системима у смислу доступности мреже. Овде се врши дедупликација резервних копија са свих резервисаних машина.
- На машинама са резервном копијом постоје агенти који обично шаљу медијском серверу само оно што није у његовом складишту.
Све почиње пуним скенирањем - ово је пуна потпуна резервна копија. У овом тренутку, медијски сервер све узима, уклања дупликате и преноси на С3. Брзина до медијског сервера је мала, али од њега већа. Главно ограничење је рачунарска снага сервера.
Следеће резервне копије су потпуне са становишта свих система, али у стварности су нешто попут синтетичких пуних резервних копија. Односно, стварни пренос и снимање на медијски сервер се дешава само оних блокова података који се раније нису наишли у резервним копијама ВМ-а. И само они блокови података чији се хеш не налази у бази података за дедупликацију медијског сервера се преносе и снимају у С3. Једноставнијим речима, ово је нешто што никада раније није виђено ни у једној резервној копији једне ВМ.
Приликом рестаурације, медијски сервер захтева од С3 неопходне дедуплициране објекте, рехидрира их и преноси ИРБ агентима, тј. потребно је узети у обзир обим саобраћаја приликом обнављања, који ће бити једнак стварном обиму података који се обнављају.
Ево како изгледа:
А ево још једног комада балвана169 послова (0 У реду 0 Активно 0 Чека се поновни покушај 0 Суспендовано 0 Непотпуно 169 Готово — 1 изабрано)
Тип ИД-а посла Детаљи стања Статус Политика посла Распоред посла Клијент Медиа Сервер Почетно време Протекло време Време завршетка Јединица за складиштење Покушај операције Килобајти Фајлови Путања % Довршено (процењено) Задатак ПИД Власник Копирај ИД надређеног посла КБ/с Активан почетак Активан Протекла сесија профила робота трезора ИД медијума за избацивање података Померање података ван хоста Тип главног приоритета Брзина дедупликације Убрзавач транспорта Оптимизација Инстанце или базе података Дели Хост
— 1372 Врати урађено 0 нбпр01 НБЦЦ 19. децембар 2018. 1:05:58 00:04:32 19. децембар 2018. 1:10:30 1 14,380,577 1 100% 8548. децембра 1372. 70,567 19. децембра 2018., 1 роот :06 ПМ 00:00:04 ВИН-*********** 30
Интегритет података је обезбеђен заштитом самог С3 – постоји добра редундантност за заштиту од хардверских кварова као што је мртво вретено чврстог диска.
Медија серверу је потребно 4 ТБ кеш меморије – ово је Веритасова препорука минималне величине. Више је боље, али то смо урадили.
Укупан
Када је партнер убацио 3 ГБ у наш С20, ми смо ускладиштили 60 ГБ, јер обезбеђујемо троструку гео-резервацију података. Сада је много мање саобраћаја, што је добро и за канал и за тарифе за складиштење.
У овом случају, руте су затворене поред „великог Интернета“, али можете да управљате саобраћајем преко ВПН Л2 преко Интернета, али је боље инсталирати медијски сервер пре уласка провајдера.
Ако сте заинтересовани да сазнате више о овим функцијама у нашим руским центрима података или имате питања о имплементацији код куће, питајте у коментарима или путем е-поште [емаил заштићен].
Извор: ввв.хабр.цом