Біздің түрік клиенттері деректер орталығының сақтық көшірмесін дұрыс конфигурациялауды сұрады. Біз Ресейде осындай жобаларды жасаймыз, бірақ бұл жолы оны жасаудың ең жақсы әдісін зерттеу туралы көбірек болды.
Берілген: жергілікті S3 жады бар, деректерді нысан жадына жылжыту үшін жаңа жетілдірілген функцияларды иеленген Veritas NetBackup бар, қазір деупликация қолдауы бар және осы жергілікті жадта бос орын мәселесі бар.
Қиындық: сақтық көшірмелерді сақтау процесін жылдам және арзан ету.
Шындығында, бұған дейін S3 ішіндегі барлық нәрсе жай файлдар, деректер орталығының маңызды машиналарының толық көшірмелері ретінде сақталды. Осылайша, ол дәл оңтайландырылған жоқ, бірақ кем дегенде бәрі қораптан шықты. Енді бәрін анықтап, оны дұрыс жасау уақыты келді.
Суретте біз не жеткеніміз көрсетілген:
Көріп отырғаныңыздай, бірінші сақтық көшірме баяу орындалды (70 МБ/с), бірақ сол жүйелердің кейінгі сақтық көшірмелері айтарлықтай жылдамырақ болды.
Шын мәнінде, төменде қандай мүмкіндіктер бар екендігі туралы қосымша мәліметтер берілген.
Демптердің жарты бетін оқығысы келетіндер үшін журналдардың сақтық көшірмесін жасаңызҚайта сканерлеумен толық
18.12.2018 ж. 12:09:43 — Ақпарат bpbkar (pid=4452) үдеткіші серверге 14883994624 байттың 14883996160 байтты жіберді, оңтайландыру 0.0%
2018 жылғы 18 желтоқсан 12:10:07 - Ақпараттық NBCC (pid=23002) StorageServer=PureDisk_rhceph_rawd:s3.cloud.ngn.com.tr; Есеп=PDDO статистикасы (пайдаланылған көп ағынды ағын) (NBCC): сканерленген: 14570817 КБ, CR жіберілген: 1760761 КБ, FC арқылы жіберілген CR: 0 КБ, жойылған: 87.9%, кэш өшірілген
толық
18.12.2018 ж. 12:13:18 — Ақпарат bpbkar (pid=2864) үдеткіші серверге 14884060160 байттың 181675008 байтты жіберді, оңтайландыру 98.8%
2018 жылғы 18 желтоқсан 12:13:40 - Ақпараттық NBCC (pid=23527) StorageServer=PureDisk_rhceph_rawd:s3.cloud.ngn.com.tr; Есеп=PDDO статистикасы (NBCC): сканерленген: 14569706 КБ, CR жіберілген: 45145 КБ, FC арқылы жіберілген CR: 0 КБ, жойылған: 99.7%, кэш өшірілген
Көтерілу
2018 жылғы 18 желтоқсан, сағат 12:15:32 — Info bpbkar (pid=792) үдеткіші серверге 14726108160 байттың 9970688 байтын жіберді, оңтайландыру 99.9%
2018 жылғы 18 желтоқсан, сағат 12:15:53 - NBCC туралы ақпарат (pid=23656) StorageServer=PureDisk_rhceph_rawd:s3.cloud.ngn.com.tr; Report=PDDO (NBCC) статистикасы: сканерленген: 14383788 КБ, жіберілген CR: 15700 КБ, FC арқылы жіберілген CR: 0 КБ, алынған: 99.9%, кэш өшірілген
толық
18.12.2018 ж. 12:18:02 — Ақпарат bpbkar (pid=3496) үдеткіші серверге 14884093952 байттың 171746816 байтты жіберді, оңтайландыру 98.8%
2018 жылғы 18 желтоқсан 12:18:24 - Ақпараттық NBCC (pid=23878) StorageServer=PureDisk_rhceph_rawd:s3.cloud.ngn.com.tr; Есеп=PDDO статистикасы (NBCC): сканерленген: 14569739 КБ, CR жіберілген: 34120 КБ, FC арқылы жіберілген CR: 0 КБ, жойылған: 99.8%, кэш өшірілген
Мәселе неде?
Тұтынушылар сақтық көшірмелерді мүмкіндігінше жиі жасап, оларды мүмкіндігінше арзан сақтағысы келеді. S3 сияқты нысанды сақтау арзан сақтаудың ең жақсы нұсқасы болып табылады, өйткені ол мегабайт үшін ең төмен техникалық қызмет көрсету құнын ұсынады және сақтық көшірмелерді ақылға қонымды уақыт аралығында бастапқы орынға қайтаруға болады. Үлкен сақтық көшірмелер болған кезде бұл айтарлықтай қымбатқа түседі, өйткені жадтың көп бөлігін бірдей деректердің көшірмелері алады. Түрік әріптестеріміздің HaaS жағдайында сақтауды нығыздауға шамамен 80-90% қол жеткізуге болады. Бұл олардың нақты қажеттіліктеріне тән, бірақ мен кем дегенде 50% қайталануды күтер едім.
Бұл мәселені шешу үшін ірі жеткізушілер Amazon компаниясының S3 шлюздерін әлдеқашан енгізді. Олардың барлық әдістері Amazon API қолдайтын болса, жергілікті S3 серверлерімен үйлесімді. Түрік деректер орталығында резервтік көшірмелер Ресейдегі T-III Compressor сияқты біздің S3 серверімізге жасалады, өйткені бұл әдіс біз үшін сәтті болды.
Біздің S3 Amazon S3 сақтық көшірме әдістерімен толық үйлесімді. Бұл осы әдістерді қолдайтын барлық сақтық көшірме жасау құралдары барлығын осы сақтау құрылғысына қораптан көшіруге мүмкіндік беретінін білдіреді.
Veritas NetBackup CloudCatalyst мүмкіндігін ұсынды:
Яғни, резервтік көшірмесі қажет машиналар мен шлюз арасында аралық шлюз орналастырылды. Linux- SRK агенттерінен резервтік трафикті өңдейтін және оны S3-ке ауыстырмас бұрын оны бірден қайталап шығаратын сервер. Бұрын 30 20 ГБ сығылған резервтік көшірмелер болған, бірақ қазір (машиналардың ұқсастығына байланысты) олардың көлемі 90%-ға азайды. Netbackup көмегімен кәдімгі дискілерде сақтау үшін бірдей қайталап шығару механизмі қолданылады.
Аралық сервер алдында не болады:
Біз оны сынап көрдік және біздің деректер орталықтарымызда енгізген кезде ол біз үшін де, тұтынушыларымыз үшін де S3 сақтау орнын үнемдейді деген қорытындыға келдік. Коммерциялық деректер орталығының иесі ретінде біз пайдаланылған кеңістік көлеміне қарай ақы аламыз, бірақ бұл біз үшін де өте тиімді, өйткені біз аппараттық құралдарды жалға алудан гөрі, ауқымдырақ бағдарламалық құралдан ақша таба бастаймыз. Және бұл ішкі шығындарды да азайтады.
Журналдар228 жұмыс (0 кезекте 0 белсенді 0 қайталауды күтуде 0 уақытша тоқтатылған 0 аяқталмаған 228 орындалды — 13 таңдалды)
(Сүзгі қолданылды [13])
Тапсырма идентификаторы түрі күй күйі мәліметтері Күй Тапсырма саясаты Тапсырма кестесі Клиент медиа серверінің басталу уақыты Өткен уақыты Аяқталу уақыты Сақтау бірлігі әрекеті Жұмыс килобайттары Файлдар жол аты % Аяқталған (болжалды) Тапсырма PID иесі Көшіру Негізгі тапсырма идентификаторы КБ/сек Белсенді бастау Белсенді өткен робот идентификаторы Модель қоймасы E-H Басымдық қайталану жылдамдығы Тасымалдау үдеткішін оңтайландыру данасы немесе дерекқорды ортақ пайдалану хосты
— 1358 Snapshot Done 0 VMware — NGNCloudADC NBCC 18.12, 2018 ж. 12:16:19 00:02:18 18 желтоқсан 2018 ж. 12:18:37 STU_DP_S3_**** сақтық көшірме 1 1102 түбірі 1108%, 12:16:27 PM 00:02:10 Жылдам қалпына келтіру дискісі стандартты WIN-************ 0
1360 Сақтық көшірме жасалды 0 VMware Толық NGNCloudADC NBCC 2018 жылғы 18 желтоқсан 12:16:48 00:01:39 18 желтоқсан 2018 ж. 12:18:27 STU_DP_S3_**** сақтық көшірме 1 14,535,248, 149654, 23858 түбір 1358 100 335,098 18 желтоқсан 2018 ж. 12:16:48 00:01:39 Instant Recovery Disk Standard WIN-************ 0 99.8% 99%
1352 Snapshot Done 0 VMware - NGNCloudADC NBCC 18.12, 2018 ж. 12:14:04 00:02:01 18 желтоқсан 2018 ж. 12:16:05 STU_DP_S3_**** сақтық көшірме 1 1018 түбірі 1 1012%, 12:14:14 PM 00:01:51 Жылдам қалпына келтіру дискісі стандартты WIN-************ 0
1354 Сақтық көшірме жасалды 0 VMware Incremental NGNCloudADC NBCC 2018 ж. 18 желтоқсан, сағат 12:14:34 00:01:21 2018 ж. 18 желтоқсан, сағат 12:15:55 STU_DP_S3_****сақтық көшірме 1 14,380,965 147 100% 23617 root 1352 500,817 2018 ж. 18 желтоқсан, сағат 12:14:34 00:01:21 Лезде қалпына келтіру дискісі Стандартты WIN-************** 0 99.9% 100%
1347 Snapshot Done 0 VMware - NGNCloudADC NBCC 18.12, 2018 ж. 12:11:45 00:02:08 18 желтоқсан 2018 ж. 12:13:53 STU_DP_S3_**** сақтық көшірме 1 1018 түбірі 1 1012%, 12:11:45 PM 00:02:08 Жылдам қалпына келтіру дискісі стандартты WIN-************ 0
1349 Сақтық көшірме жасалды 0 VMware Толық NGNCloudADC NBCC 2018 жылғы 18 желтоқсан 12:12:02 00:01:41 18 желтоқсан 2018 ж. 12:13:43 STU_DP_S3_**** сақтық көшірме 1 14,535,215, 149653, 23508 түбір 1347 100 316,319 18 желтоқсан 2018 ж. 12:12:02 00:01:41 Instant Recovery Disk Standard WIN-************ 0 99.7% 99%
1341 Snapshot Done 0 VMware - NGNCloudADC NBCC 18.12, 2018 ж. 12:05:28 00:04:53 18 желтоқсан 2018 ж. 12:10:21 STU_DP_S3_**** сақтық көшірме 1 1018 түбірі 1 1012%, 12:05:28 PM 00:04:53 Жылдам қалпына келтіру дискісі стандартты WIN-************ 0
1342 Сақтық көшірме жасалды 0 VMware Full_Rescan NGNCloudADC NBCC 18 желтоқсан, 2018 ж. 12:05:47 00:04:24 18 желтоқсан 2018 ж. 12:10:11 STU_DP_S3_**** сақтық көшірме 1 14,535,151 149653%, 22999 түбір 1341 100 70,380 18 желтоқсан 2018 ж. 12:05:47 00:04:24 Жылдам қалпына келтіру дискісі стандартты WIN-************ 0 87.9% 0%
1339 Snapshot Done 150 VMware - NGNCloudADC NBCC 18 желтоқсан 2018 ж. 11:05:46 00:00:53 18 желтоқсан 2018 ж. 11:06:39 STU_DP_S3_**** сақтық көшірме 1 110 2018 желтоқсан 11:05:46 00:00:53 Жылдам қалпына келтіру дискісі стандартты WIN-************ 0
1327 Snapshot Done 0 VMware - *******.********.cloud NBCC 17 желтоқсан, 2018 ж. 12:54:42 17:51:38 17 желтоқсан, 2018 ж. 18:46:20 STU_DP_S3_**** сақтық көшірме 1 1102, 2018 ж. 12:54:42 17:51:38 Жылдам қалпына келтіру дискісі стандартты WIN-************ 0
1328 Сақтық көшірме жасалды 0 VMware толық *******.********.cloud NBCC 17 желтоқсан 2018 ж. 12:55:10 17:29:21 17 желтоқсан, 2018 ж. 18:24:31 STU_DP_S3_**** сақтық көшірме 1 2,27102%, 12856 түбір 1327 11,326 17 желтоқсан 2018 жыл 12:55:10 17:29:21 Жылдам қалпына келтіру дискісі стандартты WIN-************ 0 87.9% 0%
1136 Snapshot Done 0 VMware - *******.********.cloud NBCC 14 желтоқсан, 2018 ж. 4:48:22 14:05:16 14 желтоқсан, 2018 ж. 18:53:38 STU_DP_S3_**** сақтық көшірме 1 1102, 2018 ж. 4:48:22 17:05:16 Жылдам қалпына келтіру дискісі стандартты WIN-************ 0
1140 Сақтық көшірме жасалды 0 VMware Full_Scan *******.********.cloud NBCC 14 желтоқсан 2018 ж. 16:49:14 15:49:58 14 желтоқсан, 2018 ж. 20:39:12 STU_DP_S3_**** сақтық көшірме 1 63, 2132, 1140 100% 26438 түбір 1136 15 963 14 желтоқсан 2018 ж. 16:49:14 15:49:58 Instant Recovery Disk Standard WIN-************ 0 45.2% 0%
Үдеткіш тек деректер өзгерістерін тасымалдау арқылы агент трафигін азайтады. Бұл медиа сервер қосымша сақтық көшірмелерден кейінгі толық сақтық көшірмелерді құрастыратындықтан, тіпті толық сақтық көшірмелер толығымен тасымалданбайтынын білдіреді.
Аралық сервердің жеке қоймасы бар, онда ол деректердің «кэшін» жазады және қайталану үшін мәліметтер базасын жүргізеді.
Толық архитектура келесідей көрінеді:
- Негізгі сервер конфигурацияны, жаңартуларды және т.б. басқарады және бұлтта орналасқан.
- Медиа сервер (аралық *nix құрылғысы) желіге қолжетімділік тұрғысынан сақтық көшірме жүйелеріне мүмкіндігінше жақын орналасуы керек. Барлық сақтық көшірме машиналарының сақтық көшірмелері осы жерде қайталанады.
- Сақтық көшірме машиналарында әдетте медиа серверге оның қоймасында жоқ нәрсені ғана жіберетін агенттер бар.
Барлығы толық сканерлеуден басталады - толық сақтық көшірме жасау. Осы кезде медиа-сервер барлығын алып, оны қайталайды және S3-ге тасымалдайды. Медиа серверге бару жылдамдығы баяу, бірақ одан жылдамырақ. Негізгі шектеу сервердің есептеу қуаты болып табылады.
Келесі сақтық көшірмелерді барлық жүйелер толық деп санайды, бірақ шын мәнінде олар синтетикалық толық сақтық көшірмелер болып табылады. Бұл бұрынғы VM сақтық көшірмелерінде ешқашан көрмеген деректер блоктары ғана шын мәнінде медиа серверге тасымалданатынын және жазылғанын білдіреді. Тек хэші медиа сервердің қайталанатын дерекқорында жоқ деректер блоктары ғана S3-ге тасымалданады және жазылады. Қарапайым тілмен айтқанда, бұл блоктар кез келген VM-нің бұрынғы сақтық көшірмесінде ешқашан көрмеген.
Қалпына келтіру кезінде мультимедиа сервері S3 жүйесінен қажетті дедупликацияланған нысандарды сұрайды, оларды регидратациялайды және оларды SRK агенттеріне тасымалдайды. Бұл қалпына келтіру кезіндегі трафик көлемін ескеру керек дегенді білдіреді, өйткені ол қалпына келтірілетін деректердің нақты көлеміне тең болады.
Мұнда қалай көрінеді:
Міне, бөренелердің тағы бір бөлігі169 жұмыс (0 кезекте 0 белсенді 0 қайталауды күтуде 0 уақытша тоқтатылған 0 аяқталмаған 169 орындалды — 1 таңдалды)
Тапсырма идентификаторы түрі күй күйі мәліметтері Күй Тапсырма саясаты Тапсырма кестесі Клиент медиа серверінің басталу уақыты Өткен уақыты Аяқталу уақыты Сақтау бірлігі әрекеті Жұмыс килобайттары Файлдар жол аты % Аяқталған (болжалды) Тапсырма PID иесі Көшіру Негізгі тапсырма идентификаторы КБ/сек Белсенді бастау Белсенді өткен робот идентификаторы Модель қоймасы E-H Басымдық қайталану жылдамдығы Тасымалдау үдеткішін оңтайландыру данасы немесе дерекқорды ортақ пайдалану хосты
— 1372 Қалпына келтіру орындалды 0 nbpr01 NBCC 19 желтоқсан 2018 ж. 1:05:58 00:04:32 19 желтоқсан 2018 ж. 14,380,577:10:30 1 1 8548 1372 1 100% түбір 70,567, 2018 ж. 19 ж. 1:06:00 00:04:30 ҰТУ-************ 90000
Деректер тұтастығы S3-тің өзін қорғау арқылы қамтамасыз етіледі — оның қатты дискінің өлі шпиндельі сияқты аппараттық құрал ақауларынан қорғау үшін жақсы резервтік мүмкіндігі бар.
БАҚ-сервер Veritas компаниясының ең аз ұсынысы - 4 ТБ кэш. Көбірек болғаны жақсы, бірақ біз дәл солай істедік.
Нәтиже
Серіктес S3 құрылғысына 20 ГБ жүктеп салғанда, біз 60 ГБ сақтадық, өйткені біз үш есе гео резервтік қамтамасыз етеміз. Қазір бізде трафик әлдеқайда аз, бұл өткізу қабілеттілігі үшін де, сақтау бағасы үшін де жақсы.
Бұл жағдайда бағыттар «үлкен Интернеттен» кейін жабық, бірақ трафикті өткізуге болады VPN Интернет арқылы L2, бірақ провайдер кіріспес бұрын медиа серверді орнатқан дұрыс.
Егер сіз біздің ресейлік деректер орталықтарындағы осы мүмкіндіктер туралы білгіңіз келсе немесе оларды орналасқан жеріңізде енгізу туралы сұрақтарыңыз болса, түсініктемелерде немесе ekorotkikh@croc.ru электрондық поштасына сұраңыз.
Ақпарат көзі: www.habr.com
