Rugsteun data met 'n klomp FreeFileSync en 7-zip

Anamnese, so te sê:

Fujitsu rx300 s6-bediener, RAID6 van 6 1TB-skywe, XenServer 6.2 is op, verskeie bedieners draai, onder wie Ubuntu met verskeie balle, 3,5 miljoen lêers, 1,5 TB data, dit alles groei en swel.

Taak: stel data-rugsteun vanaf die lêerbediener op, deels daagliks, deels weekliks.
Ons het 'n Windows-masjien vir rugsteun met RAID5 (vir armoede, 'n gewone stelseleenheid met 'n RAID-beheerder ingebou in die moeder) plus 'n aparte 2TB-skyf vir tussentydse kopiëring van die huidige toestand van die lêers. Dit was moontlik om enige Linux-verspreiding te gebruik, maar hierdie masjien was reeds beskikbaar met 'n aanvalskikking en 'n Windows-lisensie.

Installeer op 'n rugsteunbediener FreeFileSync, stel ons 'n "spieël" op van alles in 'n ry van al die lêerbedieneraandele een keer per dag in die aand na 18:XNUMX deur deur die skeduleerder te begin.

'n Belangrike punt: wanneer u 'n bondeltaak stoor, maak seker dat u "Maak die taakvenster toe na voltooiing" merk, anders sal die prosesse vermenigvuldig en vermenigvuldig.

Ons gooi tydelike lêers in uitsonderings deur masker: *.dwl, *.dwl2, *.tmp.

FreeFileSync gebruik die netwerk baie goed, kopiëring gaan in verskeie strome, die spoed bereik 80 Mbps wanneer groot lêers gekopieer word, geen prop is gevind op klein lêers nie.

Argiveering sal reeds op 'n plaaslike rugsteunbediener uitgevoer word, in plaas van die voorheen gebruik Die Kopieerder met netwerkargivering. Terloops, TheCopier is wonderlik! Maar met sulke volumes het dit eenvoudig nie tyd om alles oor te dra nie, ten spyte van die 1Gbps-koppelvlak op die rugsteun en 2Gbps op die lêer een (binding van twee netwerkkaarte).

Ook voorheen gebruik SyncToy, maar toe die aantal lêers meer as 1,5-2 miljoen was, het dit opgehou om normaal te werk, dit kon net nie klaarkom nie.

Om die nodige dopgehou te argiveer, skryf ons 'n bondellêer vir 7-zip:

stel nou=%TYD:~0,-3%
stel nou=%nou::=.%
stel nou=%nou: =0%
stel nou=%DATE:~-4%.%DATE:~3,2%.%DATE:~0,2%_%nou%
C:"Program Files"7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_10-04.zip E:10-04
C:"Program Files"7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_35-110.zip E:35-110
C:"Program Files"7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_asu.zip E:asu
C:"Program Files"7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_director.zip E:director
C:"Program Files"7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_gpr.zip E:gpr
C:"Program Files"7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_otiz.zip E:otiz
C:"Program Files"7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_ps.zip E:ps
C:"Program Files"7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_pto.zip E:pto
C:"Program Files"7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_rza.zip E:rza
C:"Program Files"7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_smeta.zip E:smeta

:: a - skep 'n argief
:: -tzip of -t7z - tipe argief (zip is 1.5-2 keer vinniger)
:: -mx=1 — kompressieverhouding (1 minimum, 9 maksimum x=[0 | 1 | 3 | 5 | 7 | 9 ])
:: -mmt=aan - skakel multithreading aan waar dit skielik nie aangeskakel is nie
:: -mtc=off - deaktiveer lêerstelsel tydstempels (wanneer gestoor, verander, ens.)
:: -ssw - komprimeer ook lêers wat oopgemaak is vir skryf
:: -xr!.Sync* - sluit tydelike BtSync-lêers uit van argivering, en laat permanente lêers

Die konstruksie van stel nou=% ensovoorts laat jou toe om die tydformaat in die lêernaam te stoor sonder die probleme wat ontstaan ​​het toe die nommer van die dag of maand minder as 10 was, dit wil sê, ons vervang 'n nul.

Die -xr!.Sync* opmerking is 'n oorblyfsel van die oorspronklike BTSync.

Tot 500 GB en 700-800 duisend lêers, BTSync het steeds gewerk, aan die gang gesinchroniseer, maar teen die huidige volumes het dit baie geheue en verwerkerbronne geëet op beide die Ubuntu-lêerbediener en op die Windows-rugsteun, waar dit bekendgestel is deur die diens, en ook eenvoudig skyfstelsel verkrag met konstante lees en skryf.

Alhoewel die argiefhouer 7-zip is, argiveer ons dit in die zip-formaat in plaas van die oorspronklike 7z, want dit is baie vinniger, en daar is feitlik geen verskil in kompressie met mx=1 nie, dit is deur baie eksperimente geverifieer.

Argiewe word om die beurt uitgevoer.

Die gids met argiewe word ook skoongemaak deur 'n geskeduleerde taak met behulp van die fpurge-nutsding, wat argiewe nie ouer as 'n week laat nie.
Gevolglik het ons 'n kopie van die lêers vir die vorige dag, sowel as argiewe vir die afgelope week, FreeFileSync plaas die geskrap lêers in die asblik.

Bron: will.com

Voeg 'n opmerking