使用 FreeFileSync 和 7-zip 进行数据备份

可以说,病历:

富士通rx300 s6服务器,6个6TB磁盘的RAID1,安装了XenServer 6.2,几台服务器在旋转,其中Ubuntu有几个球,3,5万个文件,1,5 TB数据,这一切都在逐渐增长和膨胀。

任务:从文件服务器设置数据备份,部分每天备份,部分每周备份。
我们有一台带有 RAID5 的 Windows 备份机(一个较差的标准系统单元,在母体中内置有 RAID 控制器),加上一个单独的 2TB 磁盘,用于中间复制文件的当前状态。 可以使用任何 Linux 发行版,但是这台机器已经可以使用 raid 阵列和 Windows 许可证。

安装在备份服务器上 免费文件同步,我们通过调度程序运行它,每天在 18 小时后的晚上设置一次来自所有文件服务器共享的连续所有内容的“镜像”。

重要的一点:保存批处理任务时,一定要勾选“完成后关闭任务窗口”,否则进程会倍增。

我们将临时文件放入掩码异常中:*.dwl、*.dwl2、*.tmp。

FreeFileSync对网络的利用非常好,复制发生在多个线程中,复制大文件时速度达到80Mbps,小文件上没有发现阻塞。

归档将在本地备份服务器上进行,而不是之前使用的服务器 复印机 具有网络归档功能。 顺便说一句,TheCopier 很棒! 但对于这样的卷,它根本没有时间传输所有内容,尽管备份上有 1Gbps 接口,文件一上有 2Gbps 接口(两个网卡的绑定)。

之前也用过 同步玩具,但是当文件数量超过1,5-2万时,它就停止正常工作了,根本应付不了。

为了归档必要的文件夹,我们编写了一个批处理文件 7-ZIP:

现在设置=%TIME:~0,-3%
现在设置=%现在::=.%
现在设置=%现在:=0%
现在设置=%DATE:~-4%.%DATE:~3,2%.%DATE:~0,2%_%now%
C:“程序文件”7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_10-04.zip E:10-04
C:“程序文件”7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_35-110.zip E:35-110
C:"Program Files"7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_asu.zip E:asu
C:“Program Files”7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_director.zip E:director
C:“程序文件”7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_gpr.zip E:gpr
C:"程序文件"7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_otiz.zip E:otiz
C:“程序文件”7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_ps.zip E:ps
C:“程序文件”7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_pto.zip E:pto
C:“程序文件”7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_rza.zip E:rza
C:“程序文件”7-Zip7z.exe a -tzip -mx=1 -mmt=on -mtc=off -ssw D:backupsAll%now%_smeta.zip E:smeta

::a - 创建档案
:: -tzip 或 -t7z - 存档类型(zip 速度快 1.5-2 倍)
:: -mx=1 — 压缩比(1 个最小值,9 个最大值 x=[0 | 1 | 3 | 5 | 7 | 9 ])
:: -mmt=on - 在未启用的情况下启用多线程
:: -mtc=off - 禁用文件系统时间戳(保存、修改等时)
:: -ssw - 还压缩打开用于写入的文件
:: -xr!.Sync* - 从归档中排除临时 BtSync 文件,留下永久文件

set now=% 等构造可以让你将记录时间的格式保存在一个文件名中,而不会出现当日或月的数字小于10时出现的问题,即我们用零代替。

注释 -xr!.Sync* 是最初使用的遗留下来的雏形 蓝牙同步.

对于高达 500 GB 和 700-800 个文件,BTSync 仍然运行良好,可以即时同步,但就当前卷而言,它在 Ubuntu 文件服务器和启动它的 Windows 备份上都非常消耗内存和处理器资源。服务,并且还通过不断的读写来简单地强奸磁盘系统。

虽然存档器是7-zip,但我们将其存档为zip格式而不是原生的7z,因为它速度更快,并且mx=1的压缩实际上没有差异,这已经经过许多实验验证。

档案一一执行。

包含存档的文件夹也会使用 fpurge 实用程序通过计划任务进行清理,留下的存档不会超过一周。
因此,我们拥有前一天的文件副本以及上周的存档;FreeFileSync 会将已删除的文件放入垃圾箱。

来源: habr.com

添加评论