Mūsu turku klienti lūdza mūs pareizi konfigurēt dublēšanu viņu datu centram. Līdzīgus projektus mēs īstenojam Krievijā, taču šoreiz galvenais bija izpētīt labāko veidu, kā to izdarīt.
Dots: ir lokālā S3 krātuve, ir Veritas NetBackup, kas ir ieguvis jaunu uzlabotu funkcionalitāti datu pārvietošanai uz objektu krātuvi, tagad ar deduplikācijas atbalstu, un šajā lokālajā krātuvē ir problēma ar brīvo vietu.
Izaicinājums: padarīt dublējumu glabāšanas procesu ātru un lētu.
Patiesībā pirms tam viss S3 tika glabāts vienkārši kā faili — pilnīgas datu centra kritisko iekārtu kopijas. Tātad, tas nebija gluži optimizēts, bet vismaz viss darbojās uzreiz. Tagad ir pienācis laiks visu izdomāt un izdarīt pareizi.
Attēlā redzams, pie kā esam nonākuši:
Kā redzat, pirmā dublēšana tika veikta lēni (70 MB/s), bet turpmākās to pašu sistēmu dublēšanas bija ievērojami ātrākas.
Patiesībā, zemāk ir sniegta vēl dažas detaļas par to, kādas funkcijas tur ir.
Rezerves žurnāli tiem, kas vēlas izlasīt puslapas izgāztuviPilns ar atkārtotu skenēšanu
2018. gada 18. decembris, plkst. 12:09:43 — Informācija: bpbkar (pid=4452) paātrinātājs nosūtīja uz serveri 14883996160 baitus no 14883994624 baitiem, optimizācija 0.0 %
2018. gada 18. decembris, plkst. 12:10:07 — informācija par NBCC (pid=23002) StorageServer=PureDisk_rhceph_rawd:s3.cloud.ngn.com.tr; ziņojums=PDDO statistika (izmantota vairāku pavedienu plūsma) (NBCC): skenēts: 14570817 KB, nosūtītais CR: 1760761 KB, pa FC nosūtītais CR: 0 KB, dublikātu noņemšana: 87.9 %, kešatmiņa atspējota
pilns
2018. gada 18. decembris, plkst. 12:13:18 — Informācija: bpbkar (pid=2864) paātrinātājs nosūtīja uz serveri 181675008 baitus no 14884060160 baitiem, optimizācija 98.8 %
2018. gada 18. decembris, plkst. 12:13:40 — informācija NBCC (pid=23527) StorageServer=PureDisk_rhceph_rawd:s3.cloud.ngn.com.tr; ziņojums=PDDO statistika (NBCC): skenēts: 14569706 KB, nosūtītais CR: 45145 KB, pa FC nosūtītais CR: 0 KB, dublikātu noņemšana: 99.7 %, kešatmiņa atspējota
Papildu
2018. gada 18. decembris, plkst. 12:15:32 — Informācija: bpbkar (pid=792) paātrinātājs nosūtīja uz serveri 9970688 baitus no 14726108160 baitiem, optimizācija. 99.9%
2018. gada 18. decembris, plkst. 12:15:53 — informācija NBCC (pid=23656) StorageServer=PureDisk_rhceph_rawd:s3.cloud.ngn.com.tr; ziņojums=PDDO statistika (NBCC): skenēts: 14383788 KB, nosūtītais CR: 15700 KB, pa FC nosūtītais CR: 0 KB, deduplikācija: 99.9%, kešatmiņa ir atspējota
pilns
2018. gada 18. decembris, plkst. 12:18:02 — Informācija: bpbkar (pid=3496) paātrinātājs nosūtīja uz serveri 171746816 baitus no 14884093952 baitiem, optimizācija 98.8 %
2018. gada 18. decembris, plkst. 12:18:24 — informācija NBCC (pid=23878) StorageServer=PureDisk_rhceph_rawd:s3.cloud.ngn.com.tr; ziņojums=PDDO statistika (NBCC): skenēts: 14569739 KB, nosūtītais CR: 34120 KB, pa FC nosūtītais CR: 0 KB, dublikātu noņemšana: 99.8 %, kešatmiņa atspējota
Kāda ir problēma?
Klienti vēlas veidot dublējumkopijas pēc iespējas biežāk un uzglabāt tās pēc iespējas lētāk. Objektu krātuve, piemēram, S3, ir labākā izvēle lētai glabāšanai, jo tā piedāvā zemākās uzturēšanas izmaksas par megabaitu, un dublējumkopijas var atjaunot sākotnējā atrašanās vietā saprātīgā laika posmā. Lielu dublējumkopiju gadījumā tas kļūst diezgan dārgi, jo lielāko daļu krātuves aizņem to pašu datu kopijas. Mūsu turku kolēģu HaaS gadījumā krātuves sablīvēšanu var panākt aptuveni par 80–90%. Tas, protams, ir atkarīgs no viņu īpašajām vajadzībām, taču es noteikti sagaidītu vismaz 50% deduplikāciju.
Lai atrisinātu šo problēmu, lielie pārdevēji jau sen ir ieviesuši vārtejas uz Amazon S3. Visas viņu metodes ir saderīgas ar lokālajiem S3 serveriem, ja tās atbalsta Amazon API. Turcijas datu centrā dublējumkopijas tiek veidotas uz mūsu S3 serveri, tāpat kā ar T-III Compressor Krievijā, jo šī pieeja mums ir izrādījusies veiksmīga.
Mūsu S3 ir pilnībā saderīgs ar Amazon S3 dublēšanas metodēm. Tas nozīmē, ka visi dublēšanas rīki, kas atbalsta šīs metodes, ļauj jums kopēt visu uz šo atmiņas ierīci uzreiz pēc izņemšanas no kastes.
Veritas NetBackup ir ieviesis CloudCatalyst funkciju:
Tas ir, starp mašīnām, kurām nepieciešams dublējums, un vārteju tika novietots starpposms. Linux— serveris, kas apstrādā SRK aģentu dublējuma trafiku un pirms pārsūtīšanas uz S3 to dedublikē. Iepriekš bija 30 saspiestas 20 GB dublējumkopijas, bet tagad (mašīnu līdzības dēļ) to apjoms ir samazināts par 90%. Tiek izmantota tā pati deduplikācijas programma, kas glabāšanai parastajos diskos, izmantojot Netbackup.
Lūk, kas notiek pirms starpposma servera:
Mēs to pārbaudījām un secinājām, ka, ieviešot to mūsu datu centros, tas ietaupa S3 krātuves vietu gan mums, gan mūsu klientiem. Kā komerciāla datu centra īpašnieks mēs iekasējam maksu, pamatojoties uz izmantotās vietas apjomu, taču tas joprojām ir ļoti ienesīgi arī mums, jo mēs sākam pelnīt naudu no mērogojamākas programmatūras, nevis no aparatūras nomas. Un tas arī samazina iekšējās izmaksas.
Baļķi228 darbi (0 rindā 0 aktīvi 0 gaida atkārtotu mēģinājumu 0 apturēti 0 nepabeigti 228 pabeigti — 13 atlasīti)
(Filtrs lietots [13])
Darba ID Tips Stāvoklis Stāvokļa informācija Statuss Darba politika Darba grafiks Klients Multivides serveris Sākuma laiks Pagājušais laiks Beigu laiks Krātuves vienība Mēģinājums Darbība Kilobaiti Faili Ceļa nosaukums Pabeigtības % (aptuveni) Darba PID Īpašnieks Kopija Vecāks Darba ID KB/s Aktīvs Sākums Aktīvs Pagājušais Robota glabātuves profils Sesijas ID Datu nesējs, kas jāizstumj Datu pārvietošana ārpus resursdatora Tips Galvenā prioritāte Deduplikācijas ātrums Transporta paātrinātājs Optimizācija Instance vai datubāzes koplietošanas resursdators
— 1358 Momentuzņēmums pabeigts 0 VMware — NGNCloudADC NBCC 2018. gada 18. decembris, plkst. 12:16:19, plkst. 00:02:18 2018. gada 18. decembris, plkst. 12:18:37 STU_DP_S3_****backup 1 100 % root 1358 2018. gada 18. decembris, plkst. 12:16:27, plkst. 00:02:10 Tūlītējas atkopšanas disks Standarta WIN-*********** 0
1360 Dublēšana pabeigta 0 VMware Full NGNCloudADC NBCC 2018. gada 18. decembris, plkst. 12:16:48, plkst. 00:01:39 2018. gada 18. decembris, plkst. 12:18:27 STU_DP_S3_****backup 1 14 535 248 149654 100 % 23858 root 1358 335 098 2018. gada 18. decembris, plkst. 12:16:48, plkst. 00:01:39 Tūlītējas atkopšanas disks Standarta WIN-*********** 0 99.8 % 99 %
1352 Momentuzņēmums pabeigts 0 VMware - NGNCloudADC NBCC 2018. gada 18. decembris, plkst. 12:14:04, plkst. 00:02:01 2018. gada 18. decembris, plkst. 12:16:05 STU_DP_S3_****backup 1 100% root 1352 2018. gada 18. decembris, plkst. 12:14:14, plkst. 00:01:51 Tūlītējas atkopšanas disks Standarta WIN-*********** 0
1354 Dublēšana pabeigta 0 VMware Incremental NGNCloudADC NBCC 2018. gada 18. decembris, plkst. 12:14:34, plkst. 00:01:21 2018. gada 18. decembris, plkst. 12:15:55 STU_DP_S3_****backup 1 14 380 965 147 100 % 23617 root 1352 500 817 2018. gada 18. decembris, plkst. 12:14:34, plkst. 00:01:21 Tūlītējas atkopšanas disks Standarta WIN-*********** 0 99.9% 100%
1347 Momentuzņēmums pabeigts 0 VMware - NGNCloudADC NBCC 2018. gada 18. decembris, plkst. 12:11:45, plkst. 00:02:08 2018. gada 18. decembris, plkst. 12:13:53 STU_DP_S3_****backup 1 100% root 1347 2018. gada 18. decembris, plkst. 12:11:45, plkst. 00:02:08 Tūlītējas atkopšanas disks Standarta WIN-*********** 0
1349 Dublēšana pabeigta 0 VMware Full NGNCloudADC NBCC 2018. gada 18. decembris, plkst. 12:12:02, plkst. 00:01:41 2018. gada 18. decembris, plkst. 12:13:43 STU_DP_S3_****backup 1 14 535 248 149653 100 % 23508 root 1347 335 098 2018. gada 18. decembris, plkst. 12:12:02, plkst. 00:01:41 Tūlītējas atkopšanas disks Standarta WIN-*********** 0 99.7 % 99 %
1341 Momentuzņēmums pabeigts 0 VMware - NGNCloudADC NBCC 2018. gada 18. decembris, plkst. 12:05:28, plkst. 00:04:53 2018. gada 18. decembris, plkst. 12:10:21 STU_DP_S3_****backup 1 100% root 1341 2018. gada 18. decembris, plkst. 12:05:28, plkst. 00:04:53 Tūlītējas atkopšanas disks Standarta WIN-*********** 0
1342 Dublēšana pabeigta 0 VMware Full_Rescan NGNCloudADC NBCC 2018. gada 18. decembris, plkst. 12:05:47, plkst. 00:04:24 2018. gada 18. decembris, plkst. 12:10:11 STU_DP_S3_****backup 1 14 535 151 149653 100 % 22999 root 1341 70 380 2018. gada 18. decembris, plkst. 12:05:47, plkst. 00:04:24 Tūlītējas atkopšanas disks Standarta WIN-*********** 0 87.9 % 0 %
1339 Momentuzņēmums pabeigts 150 VMware - NGNCloudADC NBCC 2018. gada 18. decembris 11:05:46 00:00:53 2018. gada 18. decembris 11:06:39 STU_DP_S3_****backup 1 100% root 1339 2018. gada 18. decembris 11:05:46 00:00:53 Tūlītējas atkopšanas disks Standarta WIN-*********** 0
1327 Momentuzņēmums pabeigts 0 VMware - *******.*********.cloud NBCC 2018. gada 17. decembris, plkst. 12:54:42, plkst. 17:51:38 2018. gada 17. decembris, plkst. 05:46:20 STU_DP_S3_****backup 1 100 % root 1327 2018. gada 6. decembris, plkst. 12:54:42, plkst. 05:51:38 Tūlītējas atkopšanas disks Standarta WIN-*********** 0
1328 Dublēšana pabeigta 0 VMware Full *******.*********.cloud NBCC 2018. gada 17. decembris, plkst. 12:55:10 17:29:21 2018. gada 17. decembris, plkst. 18:24:31 STU_DP_S3_****backup 1 222 602 719 258932 100 % 12856 root 1327 11 326 2018. gada 17. decembris, plkst. 12:55:10 17:29:21 Tūlītējas atkopšanas disks Standarta WIN-*********** 0 87.9 % 0 %
1136 Momentuzņēmums pabeigts 0 VMware - *******.*********.cloud NBCC 2018. gada 14. decembris, plkst. 4:48:22, plkst. 14:05:16 2018. gada 14. decembris, plkst. 04:53:38 STU_DP_S3_****backup 1 100 % root 1136 2018. gada 8. decembris, plkst. 4:48:22, plkst. 04:05:16 Tūlītējas atkopšanas disks Standarta WIN-*********** 0
1140 Dublēšana pabeigta 0 VMware Full_Scan *******.*********.cloud NBCC 2018. gada 14. decembris, plkst. 16:49:14, plkst. 15:49:58 2018. gada 14. decembris, plkst. 20:39:12 STU_DP_S3_****backup 1 217 631 332 255465 100 % 26438 root 1136 15 963 2018. gada 14. decembris, plkst. 16:49:14, plkst. 15:49:58 Tūlītējas atkopšanas disks Standarta WIN-*********** 0 45.2 % 0 %
Akselerators samazina aģenta datplūsmu, pārsūtot tikai datu izmaiņas. Tas nozīmē, ka pat pilnas dublējumkopijas netiek pārsūtītas pilnībā, jo multivides serveris apkopo nākamās pilnās dublējumkopijas no inkrementālajām dublējumiem.
Starpserverim ir sava krātuve, kurā tas ieraksta datu "kešatmiņu" un uztur datubāzi deduplikācijai.
Pilna arhitektūra izskatās šādi:
- Galvenais serveris pārvalda konfigurāciju, atjauninājumus utt. un atrodas mākonī.
- Multivides serverim (starpposma *nix iekārtai) jānovieto pēc iespējas tuvāk dublēšanas sistēmām, ņemot vērā tīkla pieejamību. Šeit tiek noņemtas dublējumkopijas no visām dublēšanas iekārtām.
- Rezerves kopēšanas iekārtām ir aģenti, kas parasti nosūta uz multivides serveri tikai to, kas nav tā atmiņā.
Viss sākas ar pilnu skenēšanu — pilnīgu dublēšanu. Šajā brīdī multivides serveris paņem visu, noņem dublikātus un pārsūta uz S3. Ātrums uz multivides serveri ir mazs, bet no turienes — lielāks. Galvenais ierobežojums ir servera skaitļošanas jauda.
Šīs dublējumkopijas visas sistēmas uzskata par pilnām, taču patiesībā tās ir sintētiskas pilnas dublējumkopijas. Tas nozīmē, ka uz multivides serveri tiek pārsūtīti un ierakstīti tikai tie datu bloki, kas nekad nav redzēti iepriekšējās VM dublējumos. Un uz S3 tiek pārsūtīti un ierakstīti tikai tie datu bloki, kuru jaucējkoda nav multivides servera deduplikācijas datubāzē. Vienkāršāk sakot, šie bloki nekad nav redzēti nevienā iepriekšējā VM dublējumā.
Atjaunošanas laikā multivides serveris pieprasa no S3 nepieciešamos deduplikētos objektus, tos rehidratē un pārsūta SRK aģentiem. Tas nozīmē, ka atjaunošanas laikā jāņem vērā datplūsmas apjoms, jo tas būs vienāds ar faktisko atjaunojamo datu apjomu.
Tas izskatās šādi:
Un šeit ir vēl viens baļķu gabals169 darbi (0 rindā 0 aktīvi 0 gaida atkārtotu mēģinājumu 0 apturēti 0 nepabeigti 169 pabeigti — 1 atlasīti)
Darba ID Tips Stāvoklis Stāvokļa informācija Statuss Darba politika Darba grafiks Klients Multivides serveris Sākuma laiks Pagājušais laiks Beigu laiks Krātuves vienība Mēģinājums Darbība Kilobaiti Faili Ceļa nosaukums Pabeigtības % (aptuveni) Darba PID Īpašnieks Kopija Vecāks Darba ID KB/s Aktīvs Sākums Aktīvs Pagājušais Robota glabātuves profils Sesijas ID Datu nesējs, kas jāizstumj Datu pārvietošana ārpus resursdatora Tips Galvenā prioritāte Deduplikācijas ātrums Transporta paātrinātājs Optimizācija Instance vai datubāzes koplietošanas resursdators
— 1372 Atjaunošana pabeigta 0 nbpr01 NBCC 2018. gada 19. decembris 13:05:58 00:04:32 2018. gada 19. decembris 13:10:30 1 14 380 577 1 100 % 8548 root 1372 70 567 2018. gada 19. decembris 13:06:00 00:04:30 WIN-************ 90000
Datu integritāti nodrošina paša S3 aizsardzība — tam ir laba redundanci, lai aizsargātu pret aparatūras kļūmēm, piemēram, nedarbojošos cietā diska vārpstu.
Medijiserveris Veritas iesaka vismaz 4 TB kešatmiņas. Jo vairāk, jo labāk, bet tieši tā mēs arī izdarījām.
Kopsavilkums
Kad mūsu partneris augšupielādēja 20 GB mūsu S3 ierīcē, mēs saglabājām 60 GB, jo nodrošinām trīskāršu ģeogrāfisko redundanci. Tagad mums ir daudz mazāka datplūsma, kas ir labi gan joslas platuma, gan krātuves cenu ziņā.
Šajā gadījumā maršruti ir slēgti garām “lielajam internetam”, bet ir iespējams vadīt satiksmi cauri VPN L2 caur internetu, taču multivides serveri labāk instalēt pirms pakalpojumu sniedzēja ievades.
Ja vēlaties uzzināt par šīm funkcijām mūsu Krievijas datu centros vai jums ir kādi jautājumi par to ieviešanu jūsu atrašanās vietā, lūdzu, jautājiet komentāros vai rakstiet uz e-pastu ekorotkikh@croc.ru.
Avots: www.habr.com
