Khách hàng Thổ Nhĩ Kỳ đã yêu cầu chúng tôi định cấu hình sao lưu đúng cách cho trung tâm dữ liệu của họ. Chúng tôi đang thực hiện các dự án tương tự ở Nga, nhưng ở đây câu chuyện thiên về nghiên cứu cách tốt nhất để thực hiện điều đó.
Đưa ra: có bộ lưu trữ S3 cục bộ, có Veritas NetBackup, đã có chức năng mở rộng mới để di chuyển dữ liệu sang bộ lưu trữ đối tượng, hiện có hỗ trợ chống trùng lặp và có vấn đề với dung lượng trống trong bộ lưu trữ cục bộ này.
Nhiệm vụ: thực hiện mọi thứ để quá trình lưu trữ bản sao lưu diễn ra nhanh chóng và rẻ tiền.
Trên thực tế, trước đó, mọi thứ trong S3 chỉ đơn giản là các tệp và đây là các phiên bản hoàn chỉnh của các máy quan trọng của trung tâm dữ liệu. Nghĩa là, nó không được tối ưu hóa lắm, nhưng mọi thứ đều hoạt động ngay từ đầu. Bây giờ là lúc để tìm ra nó và làm điều đó đúng.
Hình ảnh cho thấy những gì chúng tôi đã đến:
Như bạn có thể thấy, lần sao lưu đầu tiên được thực hiện chậm (70 Mb/giây) và các lần sao lưu tiếp theo của cùng hệ thống nhanh hơn nhiều.
Trên thực tế, ở phần tiếp theo sẽ có thêm một chút chi tiết về những tính năng có sẵn.
Nhật ký sao lưu dành cho những ai sẵn sàng đọc nửa trang rácQuét lại đầy đủ
Ngày 18 tháng 2018 năm 12 09:43:4452 chiều — Trình tăng tốc thông tin bpbkar (pid=14883996160) đã gửi 14883994624 byte trong tổng số 0.0 byte tới máy chủ, tối ưu hóa XNUMX%
Ngày 18 tháng 2018 năm 12 10:07:23002 CH - Thông tin NBCC (pid=3) StorageServer=PureDisk_rhceph_rawd:s14570817.cloud.ngn.com.tr; Báo cáo=Số liệu thống kê PDDO (luồng đa luồng được sử dụng) cho (NBCC): được quét: 1760761 KB, CR đã gửi: 0 KB, CR đã gửi qua FC: 87.9 KB, trích xuất: XNUMX%, bộ nhớ đệm bị tắt
Full
Ngày 18 tháng 2018 năm 12 13:18:2864 chiều — Trình tăng tốc thông tin bpbkar (pid=181675008) đã gửi 14884060160 byte trong tổng số 98.8 byte tới máy chủ, tối ưu hóa XNUMX%
Ngày 18 tháng 2018 năm 12 13:40:23527 - Thông tin NBCC (pid=3) StorageServer=PureDisk_rhceph_rawd:s14569706.cloud.ngn.com.tr; Report=Số liệu thống kê PDDO cho (NBCC): đã quét: 45145 KB, CR đã gửi: 0 KB, CR đã gửi qua FC: 99.7 KB, trích xuất: XNUMX%, bộ đệm bị tắt
Tăng dần
12:15:32 CH 18/12/2018 — Thông tin bpbkar (pid=792) bộ tăng tốc đã gửi 9970688 byte trong tổng số 14726108160 byte đến máy chủ, tối ưu hóa 99.9%
12:15:53 CH 18/12/2018 - Thông tin NBCC (pid=23656) StorageServer=PureDisk_rhceph_rawd:s3.cloud.ngn.com.tr; Báo cáo=Thống kê PDDO cho (NBCC): đã quét: 14383788 KB, CR đã gửi: 15700 KB, CR đã gửi qua FC: 0 KB, đã khử trùng lặp: 99.9%, bộ nhớ đệm bị vô hiệu hóa
Full
Ngày 18 tháng 2018 năm 12 18:02:3496 chiều — Trình tăng tốc thông tin bpbkar (pid=171746816) đã gửi 14884093952 byte trong tổng số 98.8 byte tới máy chủ, tối ưu hóa XNUMX%
Ngày 18 tháng 2018 năm 12 18:24:23878 - Thông tin NBCC (pid=3) StorageServer=PureDisk_rhceph_rawd:s14569739.cloud.ngn.com.tr; Report=Số liệu thống kê PDDO cho (NBCC): đã quét: 34120 KB, CR đã gửi: 0 KB, CR đã gửi qua FC: 99.8 KB, trích xuất: XNUMX%, bộ đệm bị tắt
vấn đề là gì
Khách hàng muốn sao lưu thường xuyên nhất có thể và lưu trữ chúng với giá rẻ nhất có thể. Tốt nhất nên lưu trữ chúng với giá rẻ trong các kho lưu trữ đối tượng như S3, vì chúng rẻ nhất với chi phí dịch vụ trên mỗi Megabyte từ đó bạn có thể khôi phục bản sao lưu trong thời gian hợp lý. Khi có nhiều bản sao lưu, nó sẽ trở nên không rẻ lắm, vì phần lớn dung lượng lưu trữ bị chiếm bởi các bản sao của cùng một dữ liệu. Trong trường hợp HaaS của các đồng nghiệp Thổ Nhĩ Kỳ, việc lưu trữ có thể được tăng mật độ lên khoảng 80-90%. Rõ ràng là điều này liên quan cụ thể đến chi tiết cụ thể của họ, nhưng tôi chắc chắn sẽ tin tưởng vào ít nhất 50% ông nội.
Để giải quyết vấn đề, các nhà cung cấp chính từ lâu đã tạo ra các cổng vào Amazon S3. Tất cả các phương thức của họ đều tương thích với S3 cục bộ miễn là chúng hỗ trợ API Amazon. Tại trung tâm dữ liệu của Thổ Nhĩ Kỳ, bản sao lưu được thực hiện trên S3 của chúng tôi, cũng như trong “Máy nén” T-III ở Nga, vì kế hoạch làm việc này đã hoạt động tốt với chúng tôi.
Và S3 của chúng tôi hoàn toàn tương thích với các phương pháp sao lưu của Amazon S3. Nghĩa là, tất cả các công cụ sao lưu hỗ trợ các phương pháp này đều cho phép bạn sao chép mọi thứ vào bộ lưu trữ đó “ngay lập tức”.
Veritas NetBackup đã thêm tính năng CloudCatalyst:
Tức là, giữa các máy cần được sao lưu và cổng kết nối, một máy trung gian đã được đặt. Linux- Một máy chủ xử lý lưu lượng sao lưu từ các tác nhân SRK và loại bỏ dữ liệu trùng lặp ngay lập tức trước khi chuyển đến S3. Trước đây, có 30 bản sao lưu nén 20 GB, nhưng hiện tại (do sự tương đồng giữa các máy), dung lượng của chúng đã giảm 90%. Công cụ loại bỏ dữ liệu trùng lặp tương tự được sử dụng như đối với lưu trữ trên các ổ đĩa thông thường bằng Netbackup.
Đây là những gì xảy ra trước máy chủ trung gian:
Chúng tôi đã thử nghiệm và đi đến kết luận rằng khi triển khai tại các trung tâm dữ liệu của mình, điều này sẽ tiết kiệm dung lượng trong bộ lưu trữ S3 cho chúng tôi và cho khách hàng. Tất nhiên, với tư cách là chủ sở hữu của các trung tâm dữ liệu thương mại, chúng tôi tính phí theo khối lượng sử dụng, nhưng điều đó vẫn mang lại lợi nhuận rất lớn cho chúng tôi - vì chúng tôi bắt đầu kiếm tiền ở những vị trí có khả năng mở rộng cao hơn trong phần mềm chứ không phải từ việc cho thuê phần cứng. Vâng, và đây là sự giảm chi phí nội bộ.
Nhật ký228 công việc (0 Đã xếp hàng 0 Đang hoạt động 0 Đang chờ thử lại 0 Bị tạm dừng 0 Chưa hoàn thành 228 Đã hoàn thành — 13 đã chọn)
(Bộ lọc được áp dụng [13])
Mã công việc Loại Trạng thái Chi tiết trạng thái Trạng thái Chính sách công việc Lịch trình công việc Máy khách phương tiện Máy chủ Thời gian bắt đầu Thời gian đã trôi qua Thời gian kết thúc Đơn vị lưu trữ Cố gắng vận hành Kilobyte Tệp Tên đường dẫn % Hoàn thành (Ước tính) Công việc PID Chủ sở hữu Sao chép ID công việc gốc KB/giây Hoạt động Bắt đầu hoạt động Phiên hồ sơ Robot Vault đã trôi qua ID Phương tiện để Loại bỏ Di chuyển Dữ liệu Loại Máy chủ Ngoài Máy chủ Ưu tiên Tốc độ Chống trùng lặp Tốc độ Tối ưu hóa Bộ tăng tốc Vận chuyển hoặc Máy chủ Chia sẻ Cơ sở dữ liệu
— 1358 Snapshot Done 0 VMware — NGNCloudADC NBCC 18/2018/12 16:19:00 CH 02:18:18 2018/12/18 37:3:1 CH STU_DP_S100_****backup 1358 18% root 2018 12/16/27 00 :02:10 PM 0:XNUMX:XNUMX Tiêu chuẩn đĩa khôi phục tức thì WIN-*********** XNUMX
1360 Backup Done 0 VMware Full NGNCloudADC NBCC 18/2018/12 16:48:00 PM 01:39:18 2018/12/18 27:3:1 PM STU_DP_S14,535,248_****backup 149654 100 23858 1358% 335,098 root 18 2018, 12 16/48 , 00 01:39:0 PM 99.8:99:XNUMX Tiêu chuẩn đĩa khôi phục tức thì WIN-*********** XNUMX XNUMX% XNUMX%
1352 Snapshot Done 0 VMware - NGNCloudADC NBCC 18/2018/12 14:04:00 PM 02:01:18 2018/12/16 05:3:1 PM STU_DP_S100_****backup 1352 18% root 2018 12/14/14 00: 01:51 PM 0:XNUMX:XNUMX Tiêu chuẩn đĩa khôi phục tức thì WIN-*********** XNUMX
1354 Sao lưu hoàn tất 0 VMware Incremental NGNCloudADC NBCC 18/12/2018 12:14:34 PM 00:01:21 18/12/2018 12:15:55 PM STU_DP_S3_****backup 1 14,380,965 147 100% 23617 root 1352 500,817 18/12/2018 12:14:34 PM 00:01:21 Instant Recovery Disk Standard WIN-*********** 0 99.9% 100%
1347 Snapshot Done 0 VMware - NGNCloudADC NBCC 18/2018/12 11:45:00 PM 02:08:18 2018/12/13 53:3:1 PM STU_DP_S100_****backup 1347 18% root 2018 12/11/45 00: 02:08 PM 0:XNUMX:XNUMX Tiêu chuẩn đĩa khôi phục tức thì WIN-*********** XNUMX
1349 Backup Done 0 VMware Full NGNCloudADC NBCC 18/2018/12 12:02:00 PM 01:41:18 2018/12/13 43:3:1 PM STU_DP_S14,535,215_****backup 149653 100 23508 1347% 316,319 root 18 2018, 12 12/02 , 00 01:41:0 PM 99.7:99:XNUMX Tiêu chuẩn đĩa khôi phục tức thì WIN-*********** XNUMX XNUMX% XNUMX%
1341 Snapshot Done 0 VMware - NGNCloudADC NBCC 18/2018/12 05:28:00 PM 04:53:18 2018/12/10 21:3:1 PM STU_DP_S100_****backup 1341 18% root 2018 12/05/28 00: 04:53 PM 0:XNUMX:XNUMX Tiêu chuẩn đĩa khôi phục tức thì WIN-*********** XNUMX
1342 Sao lưu xong 0 VMware Full_Rescan NGNCloudADC NBCC 18/2018/12 05:47:00 PM 04:24:18 2018/12/10 11:3:1 PM STU_DP_S14,535,151__***backup 149653 100 22999 1341% 70,380 root 18 2018 12 tháng 05 47 , 00 04:24:0 PM 87.9:0:XNUMX Tiêu chuẩn đĩa khôi phục tức thì WIN-*********** XNUMX XNUMX% XNUMX%
1339 Snapshot Done 150 VMware - NGNCloudADC NBCC 18/2018/11 05:46:00 AM 00:53:18 2018/11/06 39:3:1 AM STU_DP_S100__***backup 1339 18% root 2018 11/05/46 00: 00:53 AM 0:XNUMX:XNUMX Tiêu chuẩn đĩa khôi phục tức thì WIN-*********** XNUMX
1327 Snapshot Done 0 VMware - *******.********.cloud NBCC Ngày 17 tháng 2018 năm 12 54:42:05 chiều 51:38:17 Ngày 2018 tháng 6 năm 46 20:3:1 chiều STU_DP_S100_****backup 1327 17% root 2018 12/54/42 05:51:38 PM 0:XNUMX:XNUMX Tiêu chuẩn đĩa khôi phục tức thì WIN-************ XNUMX
1328 Sao lưu xong 0 VMware Full *******.********.cloud NBCC Ngày 17 tháng 2018 năm 12 55:10:05 chiều 29:21:17 Ngày 2018 tháng 6 năm 24 31:3:1 chiều STU_DP_S222,602,719_****backup 258932 100 12856 1327% 11,326 root 17 2018 12/55/10 05:29:21 PM 0:87.9:0 Tiêu chuẩn đĩa khôi phục tức thì WIN-************ XNUMX XNUMX% XNUMX%
1136 Snapshot Done 0 VMware - *******.********.cloud NBCC Ngày 14 tháng 2018 năm 4 48:22:04 chiều 05:16:14 Ngày 2018 tháng 8 năm 53 38:3:1 chiều STU_DP_S100_****backup 1136 14% root 2018 4/48/22 04:05:16 PM 0:XNUMX:XNUMX Tiêu chuẩn đĩa khôi phục tức thì WIN-************ XNUMX
1140 Sao lưu xong 0 VMware Full_Scan *******.********.cloud NBCC Ngày 14 tháng 2018 năm 4 49:14:03 chiều 49:58:14 Ngày 2018 tháng 8 năm 39 12:3:1 tối STU_DP_S217,631,332_****backup 255465 100 26438 1136% 15,963 root 14 2018 4/49/14 03:49:58 PM 0:45.2:0 Tiêu chuẩn đĩa khôi phục tức thì WIN-************ XNUMX XNUMX% XNUMX%
Trình tăng tốc cho phép bạn giảm lưu lượng truy cập từ các đại lý, bởi vì Chỉ các thay đổi dữ liệu mới được truyền đi, nghĩa là ngay cả các bản sao lưu đầy đủ cũng không được tải lên hoàn toàn, vì máy chủ phương tiện thu thập các bản sao lưu đầy đủ tiếp theo từ các bản sao lưu gia tăng.
Máy chủ trung gian có bộ lưu trữ riêng, nơi nó ghi “bộ đệm” dữ liệu và duy trì cơ sở dữ liệu để chống trùng lặp.
Kiến trúc hoàn chỉnh trông như thế này:
- Máy chủ chính quản lý cấu hình, cập nhật, v.v. và được đặt trên đám mây.
- Máy chủ phương tiện (máy *nix trung gian) phải được đặt gần các hệ thống dự phòng nhất về khả năng truy cập mạng. Tại đây, việc sao chép các bản sao lưu từ tất cả các máy dự trữ được thực hiện.
- Trên các máy được sao lưu, có các tác nhân thường chỉ gửi đến máy chủ phương tiện những gì không có trong bộ lưu trữ của nó.
Tất cả bắt đầu bằng quá trình quét toàn bộ - đây là bản sao lưu đầy đủ chính thức. Tại thời điểm này, máy chủ phương tiện sẽ lấy mọi thứ, loại bỏ trùng lặp và chuyển nó sang S3. Tốc độ đến máy chủ phương tiện thấp, nhưng từ đó tốc độ cao hơn. Hạn chế chính là khả năng tính toán của máy chủ.
Các bản sao lưu sau đây được thực hiện hoàn chỉnh theo quan điểm của tất cả các hệ thống, nhưng trên thực tế, chúng giống như các bản sao lưu đầy đủ tổng hợp. Nghĩa là, việc truyền và ghi thực tế vào máy chủ phương tiện chỉ xảy ra với những khối dữ liệu chưa từng gặp trong các bản sao lưu VM trước đó. Và chỉ những khối dữ liệu có hàm băm không có trong cơ sở dữ liệu chống trùng lặp của máy chủ phương tiện mới được truyền và ghi lại trong S3. Nói một cách đơn giản hơn, đây là điều chưa từng thấy trong bất kỳ bản sao lưu nào của một VM trước đây.
Trong quá trình khôi phục, máy chủ phương tiện yêu cầu các đối tượng được sao chép cần thiết từ S3, bù nước cho chúng và chuyển chúng đến các tác nhân IRB, tức là. cần tính đến lưu lượng truy cập trong quá trình khôi phục, khối lượng này sẽ bằng với khối lượng dữ liệu thực tế được khôi phục.
Đây là cách có vẻ:
Và đây là một mẩu nhật ký khác169 công việc (0 Đã xếp hàng 0 Đang hoạt động 0 Đang chờ thử lại 0 Bị tạm dừng 0 Chưa hoàn thành 169 Đã hoàn thành — 1 đã chọn)
Mã công việc Loại Trạng thái Chi tiết trạng thái Trạng thái Chính sách công việc Lịch trình công việc Máy khách phương tiện Máy chủ Thời gian bắt đầu Thời gian đã trôi qua Thời gian kết thúc Đơn vị lưu trữ Cố gắng vận hành Kilobyte Tệp Tên đường dẫn % Hoàn thành (Ước tính) Công việc PID Chủ sở hữu Sao chép ID công việc gốc KB/giây Hoạt động Bắt đầu hoạt động Phiên hồ sơ Robot Vault đã trôi qua ID Phương tiện để Loại bỏ Di chuyển Dữ liệu Loại Máy chủ Ngoài Máy chủ Ưu tiên Tốc độ Chống trùng lặp Tốc độ Tối ưu hóa Bộ tăng tốc Vận chuyển hoặc Máy chủ Chia sẻ Cơ sở dữ liệu
- 1372 Khôi phục xong 0 NBPR01 NBCC 19/2018/1 05:58:00 chiều 04:32:19 2018/1/10 30:1:14,380,577 chiều 1 100 8548 1372% 70,567 ROOT 19 2018 1/06/00 00:04 :30 PM 90000:XNUMX:XNUMX THẮNG-************ XNUMX
Tính toàn vẹn của dữ liệu được đảm bảo bằng khả năng bảo vệ của chính S3 - có khả năng dự phòng tốt ở đó để bảo vệ khỏi các lỗi phần cứng chẳng hạn như trục xoay ổ cứng bị chết.
Медиа-người phục vụ Veritas khuyến nghị dung lượng bộ nhớ đệm tối thiểu là 4 TB. Dung lượng càng lớn càng tốt, nhưng đó chính xác là những gì chúng tôi đã làm.
Tổng
Khi một đối tác ném 3 GB vào S20 của chúng tôi, chúng tôi đã lưu trữ 60 GB vì chúng tôi cung cấp khả năng dự trữ dữ liệu theo địa lý gấp ba lần. Bây giờ lưu lượng truy cập ít hơn nhiều, điều này tốt cho cả kênh và phí lưu trữ.
Trong trường hợp này, các tuyến đường bị đóng sau "mạng Internet lớn", nhưng vẫn có thể điều hướng lưu lượng truy cập qua đó. VPN L2 thông qua Internet, nhưng tốt hơn là nên cài đặt máy chủ đa phương tiện trước khi nhập dữ liệu từ nhà cung cấp.
Nếu bạn quan tâm đến việc tìm hiểu về các tính năng này tại các trung tâm dữ liệu của chúng tôi tại Nga hoặc có thắc mắc về việc triển khai chúng tại nơi của bạn, hãy hỏi trong phần bình luận hoặc qua email tại ekorotkikh@croc.ru.
Nguồn: www.habr.com
