Pag-backup sa datos gamit ang FreeFileSync ug 7-zip

Anamnesis, ingnon ta:

Fujitsu rx300 s6 server, RAID6 sa 6 1TB disks, XenServer 6.2 instalar, pipila ka mga server spinning, sa taliwala kanila Ubuntu uban sa pipila ka mga bola, 3,5 ka milyon nga mga file, 1,5 TB sa data, ang tanan nga kini sa hinay-hinay nga pagtubo ug paghubag.

Buluhaton: i-set up ang data backup gikan sa file server, bahin adlaw-adlaw, bahin kada semana.
Kami adunay Windows backup machine nga adunay RAID5 (usa ka dili maayo nga standard system unit nga adunay RAID controller nga gitukod sa inahan) ug usa ka bulag nga 2TB disk alang sa intermediate nga pagkopya sa kasamtangan nga kahimtang sa mga file. Posible nga magamit ang bisan unsang pag-apod-apod sa Linux, apan kini nga makina magamit na nga adunay raid array ug lisensya sa Windows.

Pag-instalar sa usa ka backup nga server FreeFileSync, nagbutang kami og "salamin" sa tanan nga sunud-sunod gikan sa tanang bahin sa file server kausa sa usa ka adlaw sa gabii human sa 18 ka oras pinaagi sa pagpadagan niini pinaagi sa scheduler.

Usa ka importante nga punto: kung magtipig sa usa ka batch nga buluhaton, siguruha nga susihon ang "Close task window kung makompleto," kung dili ang mga proseso modaghan ug modaghan.

Among ilabay ang temporaryo nga mga file ngadto sa mask nga mga eksepsiyon: *.dwl, *.dwl2, *.tmp.

Gigamit sa FreeFileSync ang network nga maayo kaayo, ang pagkopya mahitabo sa daghang mga hilo, ang katulin moabot sa 80 Mbps sa pagkopya sa dagkong mga file, walay blocking nga nakit-an sa gagmay nga mga file.

Ang pag-archive himuon sa usa ka lokal nga backup server, imbes sa usa nga gigamit kaniadto Ang Copier uban ang pag-archive sa network. By the way, nindot ang TheCopier! Apan sa ingon nga mga volume, wala’y oras nga ibalhin ang tanan, bisan pa sa 1Gbps interface sa backup ug 2Gbps sa file usa (gapos sa duha nga network card).

Gigamit usab kaniadto SyncToy, apan kung ang gidaghanon sa mga file milapas sa 1,5-2 milyon, kini mihunong sa pagtrabaho nga normal, kini dili gyud makaya.

Aron ma-archive ang gikinahanglan nga mga folder, nagsulat kami og batch file alang sa 7-zip:

itakda karon=%ORAS:~0,-3%
ibutang karon=%karon::=.%
itakda karon=%karon: =0%
itakda karon=%DATE:~-4%.%DATE:~3,2%.%DATE:~0,2%_%karon%
C: "Program Files" 7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%karon%_10-04.zip E:10-04
C: "Program Files" 7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%karon%_35-110.zip E:35-110
C: "Program Files" 7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_asu.zip E:asu
C: “Program Files”7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_director.zip E:director
C: “Program Files” 7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_gpr.zip E:gpr
C: "Program Files" 7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_otiz.zip E:otiz
C: “Program Files” 7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%karon%_ps.zip E:ps
C: “Program Files”7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_pto.zip E:pto
C: “Program Files”7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_rza.zip E:rza
C: “Program Files” 7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_smeta.zip E:smeta

::a - paghimo og archive
:: -tzip o -t7z - tipo sa archive (zip 1.5-2 ka beses nga mas paspas)
:: -mx=1 — compression ratio (1 minimum, 9 maximum values ​​​​x=[0 | 1 | 3 | 5 | 7 | 9 ])
:: -mmt=on - makapahimo sa multithreading kung dili kini mahimo
:: -mtc=off - nag-disable sa mga timestamp sa file system (kung gitipigan, giusab, ug uban pa)
:: -ssw - nag-compress usab sa mga file nga giablihan para sa pagsulat
:: -xr!.Sync* - wala maglakip sa temporaryo nga BtSync files gikan sa pag-archive, nagbilin ug mga permanente

Ang pagtukod sa set karon=% ug uban pa nagtugot kanimo sa pagtipig sa format sa oras sa pagrekord sa usa ka ngalan sa file nga wala’y mga problema nga mitungha kung ang gidaghanon sa adlaw o bulan wala’y 10, nga mao, gipulihan namon ang usa ka zero.

Ang Comment -xr!.Sync* maoy usa ka sukaranan nga nahibilin gikan sa orihinal nga gigamit BTSync.

Hangtud sa 500 GB ug 700-800 ka libo nga mga file, ang BTSync nagtrabaho gihapon og maayo, nga gi-synchronize sa langaw, apan sa kasamtangan nga mga volume kini nag-usik sa memorya ug mga kapanguhaan sa processor sa Ubuntu file server ug sa Windows backup diin kini gilusad ni ang serbisyo, ug gilugos usab ang sistema sa disk pinaagi sa kanunay nga pagbasa ug pagsulat.

Bisan kung ang archiver 7-zip, gi-archive namon kini sa format sa zip imbes sa lumad nga 7z, tungod kay kini labi ka paspas, ug halos wala’y kalainan sa compression sa mx=1, kini napamatud-an sa daghang mga eksperimento.

Ang mga archive gipatuman sa usag usa.

Ang folder nga adunay mga archive gilimpyohan usab pinaagi sa usa ka naka-iskedyul nga buluhaton gamit ang fpurge utility, nga nagbilin sa mga archive nga dili molapas sa usa ka semana.
Ingon usa ka sangputanan, kami adunay usa ka kopya sa mga file sa miaging adlaw, ingon man mga archive alang sa miaging semana; Gibutang sa FreeFileSync ang mga natangtang nga mga file sa basurahan.

Source: www.habr.com

Idugang sa usa ka comment