Backup Deel 3: Iwwerpréiwung an Testen vun Duplizitéit, Duplicati

Backup Deel 3: Iwwerpréiwung an Testen vun Duplizitéit, Duplicati

Dës Notiz diskutéiert Backup Tools déi Backups ausféieren andeems Dir Archiven op engem Backupserver erstellt.

Ënner deenen, déi den Ufuerderunge entspriechen, sinn Duplizitéit (wat e flotten Interface a Form vun Deja Dup huet) an Duplicati.

En anert ganz bemierkenswäert Backup-Tool ass dar, awer well et eng ganz extensiv Lëscht vun Optiounen huet - d'Testmethodologie deckt knapp 10% vun deem wat et fäeg ass - mir testen et net als Deel vum aktuellen Zyklus.

Erwaart Resultater

Well béid Kandidaten Archiven op déi eng oder aner Manéier erstellen, kann regelméisseg Tar als Guide benotzt ginn.

Zousätzlech wäerte mir evaluéieren wéi gutt Datenspeicherung um Späicherserver optiméiert ass andeems Dir Backupkopien erstellt, déi nëmmen den Ënnerscheed tëscht enger voller Kopie an dem aktuellen Zoustand vun de Dateien enthalen, oder tëscht de fréieren an aktuellen Archiven (inkrementell, dekrementell, etc.) .

Verhalen wann Dir Backups erstellt:

  1. Eng relativ kleng Unzuel vun Dateien um Backup-Späicherserver (vergläichbar mat der Unzuel vun de Backupkopien oder der Gréisst vun den Daten a GB), awer hir Gréisst ass zimlech grouss (Zénger bis Honnerte vu Megabytes).
  2. D'Repositorygréisst wäert nëmmen Ännerungen enthalen - keng Duplikate ginn gespäichert, sou datt d'Repositorygréisst méi kleng ass wéi mat rsync-baséiert Software.
  3. Erwaart schwéier CPU Belaaschtung wann Dir Kompressioun an / oder Verschlësselung benotzt, a méiglecherweis zimlech héich Netzwierk- an Diskbelaaschtung wann den Archiv- an / oder Verschlësselungsprozess op engem Backup-Späicherserver leeft.

Loosst eis de folgende Kommando als Referenzwäert ausféieren:

cd /src/dir; tar -cf - * | ssh backup_server "cat > /backup/dir/archive.tar"

D'Ausféierungsresultater waren wéi follegt:

Backup Deel 3: Iwwerpréiwung an Testen vun Duplizitéit, Duplicati

Ausféierung Zäit 3m12s. Et kann gesi ginn datt d'Geschwindegkeet vum Disk-Subsystem vum Backup-Späicherserver limitéiert ass, wéi am Beispill mat rsync. Nëmmen e bësse méi séier, well ... Opnam geet op eng Datei.

Och, fir d'Kompressioun ze evaluéieren, loosst eis déiselwecht Optioun lafen, awer aktivéiert d'Kompressioun op der Backupserver Säit:

cd /src/dir; tar -cf - * | ssh backup_server "gzip > /backup/dir/archive.tgz"

D'Resultater sinn:

Backup Deel 3: Iwwerpréiwung an Testen vun Duplizitéit, Duplicati

Ausféierung Zäit 10m11s. Wahrscheinlech ass de Flaschenhals den Single-Flow-Kompressor um Empfangsend.

Dee selwechte Kommando, awer mat Kompressioun op de Server iwwerdroen mat den ursprénglechen Donnéeën fir d'Hypothese ze testen datt de Flaschenhals e Single-threaded Kompressor ass.

cd /src/dir; tar -czf - * | ssh backup_server "cat > /backup/dir/archive.tgz"

Et huet sech esou erausgestallt:

Backup Deel 3: Iwwerpréiwung an Testen vun Duplizitéit, Duplicati

D'Ausféierungszäit war 9m37s. D'Laascht op engem Kär vum Kompressor ass kloer ze gesinn, well D'Netzübertragungsgeschwindegkeet an d'Laascht op de Quelldiskussubsystem sinn ähnlech.

Fir d'Verschlësselung ze evaluéieren, kënnt Dir openssl oder gpg benotzen andeems Dir en zousätzleche Kommando verbënnt openssl oder gpg am Päif. Fir Referenz gëtt et e Kommando wéi dëst:

cd /src/dir; tar -cf - * | ssh backup_server "gzip | openssl enc -e -aes256 -pass pass:somepassword -out /backup/dir/archive.tgz.enc"

D'Resultater koumen esou eraus:

Backup Deel 3: Iwwerpréiwung an Testen vun Duplizitéit, Duplicati

D'Ausféierungszäit huet sech als 10m30s erausgestallt, well 2 Prozesser op der Empfangssäit lafen - de Flaschenhals ass erëm e Single-threaded Kompressor, plus kleng Verschlësselungsoverhead.

UPS: Op Ufro vum Bliznezz addéieren ech Tester mat Pigz. Wann Dir nëmmen de Kompressor benotzt, da géif et 6m30s huelen, wann Dir och Verschlësselung bäidréit, wier et ongeféier 7m. Den Dip an der ënneschter Grafik ass en ongewollten Disk Cache:

Backup Deel 3: Iwwerpréiwung an Testen vun Duplizitéit, Duplicati

Duplizéiert Testen

Duplicity ass eng Python Software fir Backupsatellit andeems Dir verschlësselte Archiven am Tar Format erstellt.

Fir inkrementell Archiven gëtt librsync benotzt, sou datt Dir d'Verhalen erwaarden kann, déi an virdrun Post an der Serie.

Backups kënne verschlësselt an ënnerschriwwe ginn mat gnupg, wat wichteg ass wann Dir verschidde Fournisseuren benotzt fir Backups ze späicheren (s3, backblaze, gdrive, etc.)

Loosst eis kucken wat d'Resultater sinn:

Dëst sinn d'Resultater déi mir kritt hunn wann se ouni Verschlësselung lafen

spoiler

Backup Deel 3: Iwwerpréiwung an Testen vun Duplizitéit, Duplicati

Lafzäit vun all Testlaf:

Start 1
Start 2
Start 3

16 m33s
17 m20s
16 m30s

8 m29s
9 m3s
8 m45s

5 m21s
6 m04s
5 m53s

An hei sinn d'Resultater wann d'gnupg Verschlësselung aktivéiert ass, mat enger Schlësselgréisst vun 2048 Bits:

Backup Deel 3: Iwwerpréiwung an Testen vun Duplizitéit, Duplicati

Operatiounszäit op déiselwecht Daten, mat Verschlësselung:

Start 1
Start 2
Start 3

17 m22s
17 m32s
17 m28s

8 m52s
9 m13s
9 m3s

5 m48s
5 m40s
5 m30s

D'Blockgréisst gouf uginn - 512 Megabytes, wat kloer an de Grafike sichtbar ass; D'Prozessorbelaaschtung ass tatsächlech bei 50% bliwwen, dat heescht datt de Programm net méi wéi ee Prozessorkär benotzt.

De Prinzip vun der Operatioun vum Programm ass och ganz kloer ze gesinn: si hunn e Stéck Daten geholl, kompriméiert a geschéckt op e Backup-Speicherserver, deen zimlech lues ka sinn.
Eng aner Feature ass déi prévisibel Lafzäit vum Programm, déi nëmmen vun der Gréisst vun de geännerten Donnéeën hänkt.

D'Verschlësselung aktivéieren huet d'Laafzäit vum Programm net wesentlech erhéicht, awer et huet d'Prozessorbelaaschtung ëm ongeféier 10% erhéicht, wat e ganz flotte Bonus ka sinn.

Leider war dëse Programm net fäeg d'Situatioun korrekt z'entdecken mam Verzeechnes ëmbenennen, an déi resultéierend Repositorygréisst huet sech als gläich wéi d'Gréisst vun den Ännerungen erausgestallt (dh all 18GB), awer d'Fäegkeet fir en net zouverléissege Server fir de Backup kloer ze benotzen deckt dëst Verhalen.

Duplizéiert Testen

Dës Software ass an C # geschriwwen a leeft mat enger Rei vu Bibliothéike vu Mono. Et gëtt eng GUI souwéi eng CLI Versioun.

Déi geschätzte Lëscht vun den Haaptfeatures ass ähnlech wéi Duplizitéit, dorënner verschidde Backupspeicher Ubidder, awer, am Géigesaz zu Duplizitéit, sinn déi meescht Feature verfügbar ouni Drëtt-Partei Tools. Ob dëst e Plus oder e Minus ass hänkt vum spezifesche Fall of, awer fir Ufänger ass et héchstwahrscheinlech méi einfach eng Lëscht vun all de Fonctiounen virun hinnen op eemol ze hunn, anstatt zousätzlech Pakete fir Python z'installéieren, sou wéi et ass. de Fall mat Duplizitéit.

Eng aner kleng Nuance - de Programm schreift aktiv eng lokal sqlite Datebank am Numm vum Benotzer deen de Backup ufänkt, also musst Dir zousätzlech suergen datt déi erfuerderlech Datebank korrekt spezifizéiert gëtt all Kéier wann de Prozess mat der Cli gestart gëtt. Wann Dir duerch GUI oder WEBGUI schafft, ginn Detailer vum Benotzer verstoppt.

Loosst eis kucken wéi eng Indicateuren dës Léisung produzéiere kann:

Wann Dir d'Verschlësselung ausschalt (a WEBGUI recommandéiert dëst net ze maachen), sinn d'Resultater wéi follegt:

Backup Deel 3: Iwwerpréiwung an Testen vun Duplizitéit, Duplicati

Aarbechtszäit:

Start 1
Start 2
Start 3

20 m43s
20 m13s
20 m28s

5 m21s
5 m40s
5 m35s

7 m36s
7 m54s
7 m49s

Mat Verschlësselung aktivéiert, mat aes, gesäit et esou aus:

Backup Deel 3: Iwwerpréiwung an Testen vun Duplizitéit, Duplicati

Aarbechtszäit:

Start 1
Start 2
Start 3

29 m9s
30 m1s
29 m54s

5 m29s
6 m2s
5 m54s

8 m44s
9 m12s
9 m1s

A wann Dir den externen Programm gnupg benotzt, kommen déi folgend Resultater eraus:

Backup Deel 3: Iwwerpréiwung an Testen vun Duplizitéit, Duplicati

Start 1
Start 2
Start 3

26 m6s
26 m35s
26 m17s

5 m20s
5 m48s
5 m40s

8 m12s
8 m42s
8 m15s

Wéi Dir gesitt, kann de Programm a verschiddene Threads funktionnéieren, awer dëst mécht et net zu enger méi produktiver Léisung, a wann Dir d'Verschlësselungsaarbecht vergläicht, lancéiert et en externe Programm
huet sech méi séier erausgestallt wéi d'Bibliothéik aus dem Mono-Set ze benotzen. Dëst kann wéinst der Tatsaach sinn datt den externen Programm méi optimiséiert ass.

Eng aner flott Saach war d'Tatsaach datt d'Gréisst vum Repository genee sou vill hëlt wéi déi tatsächlech geännert Daten, d.h. duplicati huet e Verzeechnes ëmbenennen entdeckt an dës Situatioun korrekt gehandhabt. Dëst kann gesi ginn wann Dir den zweeten Test leeft.

Insgesamt, zimlech positiv Impressioune vum Programm, och zimmlech frëndlech fir Newbies.

Resultater

Béid Kandidaten hunn zimlech lues geschafft, awer am Allgemengen, am Verglach zum normale Tar, gëtt et Fortschrëtter, op d'mannst mat Duplicati. De Präis vun esou Fortschrëtter ass och kloer - eng merkbar Belaaschtung
Prozessor. Am Allgemengen ginn et keng speziell Ofwäichunge bei der Viraussoen vun de Resultater.

Conclusiounen

Wann Dir net braucht iwwerall ze presséieren, an och e Ersatzprozessor hutt, wäert eng vun den iwwerluechte Léisunge maachen, op jidde Fall ass zimmlech vill Aarbecht gemaach ginn, déi net sollt widderholl ginn andeems Dir Wrapper-Skripten uewen op Tar schreift . D'Präsenz vun der Verschlësselung ass e ganz noutwendege Besëtz wann de Server fir Backupkopien ze späicheren kann net voll vertraut ginn.

Verglach mat Léisungen baséiert rsync - Leeschtung kann e puer mol méi schlëmm ginn, trotz der Tatsaach, datt a senger reng Form tar geschafft 20-30% méi séier wéi rsync.
Et gi Spueren op der Gréisst vum Repository, awer nëmme mat Duplikat.

Announcement

Backup, Deel 1: Firwat Backup gebraucht gëtt, en Iwwerbléck iwwer Methoden, Technologien
Backup Part 2: Iwwerpréift an Testen rsync-baséiert Backupsatellit Tools
Backup Deel 3: Iwwerpréiwung an Testen Duplicity, Duplicati, Deja Dup
Backupsatellit Deel 4: Iwwerpréiwung an Testen zbackup, restic, borgbackup
Backup Part 5: Testen Bacula a veeam Backup fir Linux
Backupsatellit Deel 6: Vergläichen Backupsatellit Tools
Backupsatellit Deel 7: Conclusiounen

Gepost vum: Pavel Demkovich

Source: will.com

Setzt e Commentaire