Kako komprimirati do 90% pohranu sigurnosnih kopija u objektnoj pohrani

Naši turski klijenti zamolili su nas da pravilno postavimo backup za data centar. Ovakve projekte radimo u Rusiji, ali ovdje je priča više bila o istraživanju kako učiniti najbolje.

Postavljeno: imamo lokalno S3 skladište, imamo Veritas NetBackup, koji je dobio novu proširenu funkcionalnost za premještanje podataka u objekte za pohranu s podrškom za deduplifikaciju, i imamo problem sa slobodnim mestom u tom lokalnom skladištu.

Zadatak: učiniti sve tako da proces pohrane rezervnih kopija bude brz i jeftin.

U biti, do sada su se podaci u S3 jednostavno pohranjivali u obliku datoteka, pri čemu su to bile potpune slike kritičnih mašina data centra. To nije bilo posebno optimizirano, ali je sve radilo od početka. Sada je došlo vreme da se razjasnimo i učinimo to ispravno.

Na slici je ono što smo postigli:

Kako komprimirati do 90% pohranu sigurnosnih kopija u objektnoj pohrani

Kao što se može vidjeti, prva rezervna kopija izrađena je polako (70 MB/s), a sljedeće rezervne kopije istih sistema su bile znatno brže.

U suštini, dalje slijede malo više detalja o posebnim karakteristikama.

Logovi rezervnih kopija za one koji su spremni pročitati polstranice ispisaPuno sa rescanningom
18. dec 2018 12:09:43 PM — Info bpbkar (pid=4452) akcelerator je poslao 14883996160 bajtova od 14883994624 bajtova na server, optimizacija 0.0%
18. dec 2018 12:10:07 PM — Info NBCC (pid=23002) StorageServer=PureDisk_rhceph_rawd:s3.cloud.ngn.com.tr; Izvještaj=PDDO Statistika (koristi se višedretvena struja) za (NBCC): skenirano: 14570817 KB, CR poslao: 1760761 KB, CR poslao preko FC: 0 KB, dedup: 87.9%, keš onemogućen

Full
18. dec 2018 12:13:18 PM — Info bpbkar (pid=2864) akcelerator je poslao 181675008 bajtova od 14884060160 bajtova na server, optimizacija 98.8%
18. dec 2018 12:13:40 PM — Info NBCC (pid=23527) StorageServer=PureDisk_rhceph_rawd:s3.cloud.ngn.com.tr; Izvještaj=PDDO Statistika za (NBCC): skenirano: 14569706 KB, CR poslao: 45145 KB, CR poslao preko FC: 0 KB, dedup: 99.7%, keš onemogućen

Inkrementalno
18. dec 2018 12:15:32 PM — Info bpbkar (pid=792) akcelerator je poslao 9970688 bajtova od 14726108160 bajtova na server, optimizacija 99.9%
18. dec 2018 12:15:53 PM — Info NBCC (pid=23656) StorageServer=PureDisk_rhceph_rawd:s3.cloud.ngn.com.tr; Izvještaj=PDDO Statistika za (NBCC): skenirano: 14383788 KB, CR poslao: 15700 KB, CR poslao preko FC: 0 KB, dedup: 99.9%, keš onemogućen

Full
18. dec 2018 12:18:02 PM — Info bpbkar (pid=3496) akcelerator je poslao 171746816 bajtova od 14884093952 bajtova na server, optimizacija 98.8%
18. dec 2018 12:18:24 PM — Info NBCC (pid=23878) StorageServer=PureDisk_rhceph_rawd:s3.cloud.ngn.com.tr; Izvještaj=PDDO Statistika za (NBCC): skenirano: 14569739 KB, CR poslao: 34120 KB, CR poslao preko FC: 0 KB, dedup: 99.8%, keš onemogućen

Koji je problem

Klijenti žele raditi backup što češće i pohraniti ga što jeftinije. Najjeftinije je skladištiti u objektnoj pohrani poput S3, jer su troškovi održavanja po megabajtu najniži za povratak backupa u razumnom roku. Kada je backupa mnogo, to postaje skuplje, jer većinu pohrane zauzimaju kopije istih podataka. U slučaju HaaS turskih kolega, pohranu se može sažeti za otprilike 80-90%. Naravno, to se odnosi posebno na njihovu specifičnost, ali najmanje 50% deduplikacije bih definitivno očekivao.

Za rješavanje problema, glavni vendori su već odavno napravili gatewaye na Amazon S3. Sve njihove metode su kompatibilne s lokalnim S3, ako podržavaju Amazon API. U turskom data centru backup se radi na naš S3, kao i u T-III 'Kompressoru' u Rusiji, jer se takva radna shema pokazala uspješnom kod nas.

Naš S3 je potpuno kompatibilan s metodama backupiranja na Amazon S3. To znači da sva sredstva za backup koja podržavaju ove metode omogućuju kopiranje svega u sličnu pohranu 'iz kutije'.

U Veritas NetBackup-u su napravili značajku CloudCatalyst:

Kako komprimirati do 90% pohranu sigurnosnih kopija u objektnoj pohrani

Između mašina koje treba backupirati i gatewaya, postavljen je posrednički Linux server, kroz koji prolazi backup promet s agenata SRK i vrši se njihova deduplikacija 'u letu' prije prijenosa na S3. Ako je ranije bilo 30 backupova po 20 GB s kompresijom, sada (zbog sličnosti mašina) ima 90% manje u volumenu. Motor deduplikacije je isti kao i pri pohrani na običnim diskovima s alatima Netbackup.

Evo što se događa prije posredničkog servera:

Kako komprimirati do 90% pohranu sigurnosnih kopija u objektnoj pohrani

Testirali smo i došli do zaključka da implementacija u našim data centrima donosi uštedu prostora u S3 pohranama za nas i naše klijente. Kao vlasnik komercijalnih data centara, naravno, naplaćujemo prema zauzetom volumenu, ali to je svejedno vrlo profitabilno za nas — jer počinjemo zarađivati na skalabilnijim mjestima u softveru, a ne na najmu hardvera. Također, ovo smanjuje unutarnje troškove.

Zapisi228 poslova (0 na čekanju, 0 aktivno, 0 čeka na ponovni pokušaj, 0 suspendirano, 0 nepotpuno, 228 izvršenih — 13 odabranih)
(Primijenjen filter [13])

ID posla Tip Država Detalji o državi Status Politika posla Raspored posla Klijent Mediji Poslužitelj Vrijeme početka Prošlo vrijeme Vrijeme završetka Jedinica za pohranu Pokušaj Operacija Kilobajti Datoteke Putanja % Dovršeno (procijenjeno) PID posla Vlasnik Kopiraj ID roditeljskog posla KB/Sek Aktivno Početak Aktivno Prošlo Robusni profil Vault ID sesije Mediji za izbacivanje Premještanje podataka Off-Host Tip Glavni Prioritet Stopa deduplikacije Transportni akcelerator Optimizacija Instanca ili Baza podataka Dijeli domaćin
— 1358 Trenutna snimka Gotovo 0 VMware — NGNCloudADC NBCC 18. prosinca 2018. 12:16:19 PM 00:02:18 18. prosinca 2018. 12:18:37 PM STU_DP_S3_****backup 1 100% root 1358 18. prosinca 2018. 12:16:27 PM 00:02:10 Trenutno oporavak Disk Standard WIN-*********** 0
1360 Backup Gotovo 0 VMware Puni NGNCloudADC NBCC 18. prosinca 2018. 12:16:48 PM 00:01:39 18. prosinca 2018. 12:18:27 PM STU_DP_S3_****backup 1 14,535,248 149654 100% 23858 root 1358 335,098 18. prosinca 2018. 12:16:48 PM 00:01:39 Trenutno oporavak Disk Standard WIN-*********** 0 99.8% 99%
1352 Trenutna snimka Gotovo 0 VMware — NGNCloudADC NBCC 18. prosinca 2018. 12:14:04 PM 00:02:01 18. prosinca 2018. 12:16:05 PM STU_DP_S3_****backup 1 100% root 1352 18. prosinca 2018. 12:14:14 PM 00:01:51 Trenutno oporavak Disk Standard WIN-*********** 0
1354 Backup Gotovo 0 VMware Inkrementalni NGNCloudADC NBCC 18. prosinca 2018. 12:14:34 PM 00:01:21 18. prosinca 2018. 12:15:55 PM STU_DP_S3_****backup 1 14,380,965 147 100% 23617 root 1352 500,817 18. prosinca 2018. 12:14:34 PM 00:01:21 Trenutno oporavak Disk Standard WIN-*********** 0 99.9% 100%
1347 Trenutna snimka Gotovo 0 VMware — NGNCloudADC NBCC 18. prosinca 2018. 12:11:45 PM 00:02:08 18. prosinca 2018. 12:13:53 PM STU_DP_S3_****backup 1 100% root 1347 18. prosinca 2018. 12:11:45 PM 00:02:08 Trenutno oporavak Disk Standard WIN-*********** 0
1349 Backup Gotovo 0 VMware Puni NGNCloudADC NBCC 18. prosinca 2018. 12:12:02 PM 00:01:41 18. prosinca 2018. 12:13:43 PM STU_DP_S3_****backup 1 14,535,215 149653 100% 23508 root 1347 316,319 18. prosinca 2018. 12:12:02 PM 00:01:41 Trenutno oporavak Disk Standard WIN-*********** 0 99.7% 99%
1341 Trenutna snimka Gotovo 0 VMware — NGNCloudADC NBCC 18. prosinca 2018. 12:05:28 PM 00:04:53 18. prosinca 2018. 12:10:21 PM STU_DP_S3_****backup 1 100% root 1341 18. prosinca 2018. 12:05:28 PM 00:04:53 Trenutno oporavak Disk Standard WIN-*********** 0
1342 Backup Gotovo 0 VMware Puni Ponovno skeniranje NGNCloudADC NBCC 18. prosinca 2018. 12:05:47 PM 00:04:24 18. prosinca 2018. 12:10:11 PM STU_DP_S3_****backup 1 14,535,151 149653 100% 22999 root 1341 70,380 18. prosinca 2018. 12:05:47 PM 00:04:24 Trenutno oporavak Disk Standard WIN-*********** 0 87.9% 0%

1339 Trenutna snimka Gotovo 150 VMware — NGNCloudADC NBCC 18. prosinca 2018. 11:05:46 AM 00:00:53 18. prosinca 2018. 11:06:39 AM STU_DP_S3_****backup 1 100% root 1339 18. prosinca 2018. 11:05:46 AM 00:00:53 Trenutno oporavak Disk Standard WIN-*********** 0
1327 Trenutna snimka Gotovo 0 VMware — *******.********.cloud NBCC 17. prosinca 2018. 12:54:42 PM 05:51:38 17. prosinca 2018. 6:46:20 PM STU_DP_S3_****backup 1 100% root 1327 17. prosinca 2018. 12:54:42 PM 05:51:38 Trenutno oporavak Disk Standard WIN-*********** 0
1328 Backup Gotovo 0 VMware Puni *******.********.cloud NBCC 17. prosinca 2018. 12:55:10 PM 05:29:21 17. prosinca 2018. 6:24:31 PM STU_DP_S3_****backup 1 222,602,719 258932 100% 12856 root 1327 11,326 17. prosinca 2018. 12:55:10 PM 05:29:21 Trenutno oporavak Disk Standard WIN-*********** 0 87.9% 0%
1136 Trenutna snimka Gotovo 0 VMware — *******.********.cloud NBCC 14. prosinca 2018. 4:48:22 PM 04:05:16 14. prosinca 2018. 8:53:38 PM STU_DP_S3_****backup 1 100% root 1136 14. prosinca 2018. 4:48:22 PM 04:05:16 Trenutno oporavak Disk Standard WIN-*********** 0
1140 Backup Gotovo 0 VMware Puni_Skeniranje *******.********.cloud NBCC 14. prosinca 2018. 4:49:14 PM 03:49:58 14. prosinca 2018. 8:39:12 PM STU_DP_S3_****backup 1 217,631,332 255465 100% 26438 root 1136 15,963 14. prosinca 2018. 4:49:14 PM 03:49:58 Trenutno oporavak Disk Standard WIN-*********** 0 45.2% 0%

Akselerator omogućuje smanjenje prometa iz agenta, jer se prenose samo promjene podataka, to jest, čak i puni backupovi se ne prenose u cijelosti, budući da medijski poslužitelj prikuplja sljedeće pune rezervne kopije iz inkrementalnih backupova.

Posrednički poslužitelj ima svoje skladište u koje zapisuje "keš" podataka i drži bazu za deduplifikaciju.

U kompletnoj arhitekturi to izgleda ovako:

  1. Glavni poslužitelj upravlja konfiguracijom, ažuriranjima i ostalim te se nalazi u oblaku.
  2. Medijski poslužitelj (posrednički *nix-stroj) treba biti što bliže sustavima koji se rezerviraju u smislu mrežne dostupnosti. Ovdje se vrši deduplifikacija backupova sa svih rezerviranih računala.
  3. Na rezerviranim računalima postoje agenti koji općenito šalju medijskom poslužitelju samo ono što se ne nalazi u njegovom skladištu.

Sve počinje s potpunim skeniranjem — to je potpuni backup. U tom trenutku medijski poslužitelj preuzima sve, vrši deduplifikaciju i šalje u S3. Brzina prema medijskom poslužitelju je niska, od njega — viša. Glavno ograničenje je računalna snaga poslužitelja.

Sljedeći backupovi se rade s stanovišta svih sustava kao puni, ali u stvarnosti to su nešto poput sintetičkih punih backupova. To jest, stvarni prijenos i zapis na medijski poslužitelj odvijaju se samo onih blokova podataka koji se još nisu susreli u backupovima VM-a ranije. A prijenos i zapis u S3 odvijaju se samo onih blokova podataka čiji hash nema u bazi deduplifikacije medijskog poslužitelja. Drugim riječima — ono što se nikada nije susrelo ni u jednom backupu nijedne VM ranije.

Prilikom vraćanja, medijski poslužitelj traži potrebne deduplificirane objekte sa S3, rehidrira ih i šalje agentima SRK, što znači da treba uzeti u obzir volumen prometa prilikom vraćanja, koji će biti jednak stvarnom volumenu podataka koji se vraćaju.

Evo kako to izgleda:

Kako komprimirati do 90% pohranu sigurnosnih kopija u objektnoj pohrani

I evo još jednog dijela logova169 Jobs (0 Queued 0 Active 0 Waiting for Retry 0 Suspended 0 Incomplete 169 Done — 1 selected)

ID posla Tip Država Detalji o državi Status Politika posla Raspored posla Klijent Mediji Poslužitelj Vrijeme početka Prošlo vrijeme Vrijeme završetka Jedinica za pohranu Pokušaj Operacija Kilobajti Datoteke Putanja % Dovršeno (procijenjeno) PID posla Vlasnik Kopiraj ID roditeljskog posla KB/Sek Aktivno Početak Aktivno Prošlo Robusni profil Vault ID sesije Mediji za izbacivanje Premještanje podataka Off-Host Tip Glavni Prioritet Stopa deduplikacije Transportni akcelerator Optimizacija Instanca ili Baza podataka Dijeli domaćin
— 1372 Restore Done 0 nbpr01 NBCC 19. prosinac 2018 1:05:58 PM 00:04:32 19. prosinac 2018 1:10:30 PM 1 14,380,577 1 100% 8548 root 1372 70,567 19. prosinac 2018 1:06:00 PM 00:04:30 WIN-*********** 90000

Cjelovitost podataka osigurava zaštita samog S3 — postoji dobra redundancija za zaštitu od hardverskih kvarova poput mrtvog spindlea tvrdog diska.

Medijski-poslužitelju treba 4 TB keša — to je preporuka Veritasa za minimalni volumen. Bolje više, ali mi smo radili upravo tako.

Zaključak

Kada je partner učitao 20 GB u naš S3, mi smo čuvali 60 GB jer osiguravamo trostruko georedundantno čuvanje podataka. Sada je prometa znatno manje, što je dobro i za kanal i za naplatu po skladištenju.

U ovom slučaju rute su zatvorene mimo «velikog Interneta», ali se promet može usmjeriti i preko VPN L2 preko Interneta, no medijski poslužitelj je bolje postaviti prije ulaza pružatelja usluga.

Ako vas zanimaju ove funkcije u našim ruskim DC-ima ili imate pitanja o implementaciji kod vas — pitajte u komentarima ili na e-mail ekorotkikh@croc.ru.

Izvor: habr.com

Kupite pouzdan hosting za web stranice s DDoS zaštitom, VPS VDS servere 🔥 Kupite pouzdan hosting za web stranice s DDoS zaštitom, VPS VDS servere | ProHoster