{"id":83100,"date":"2020-05-28T13:42:10","date_gmt":"2020-05-28T11:42:10","guid":{"rendered":"https:\/\/prohoster.info\/blog\/administrirovanie\/bekap-hranilishhe-dlya-tysyach-virtualnyh-mashin-svobodnymi-instrumentami"},"modified":"2020-05-28T13:42:10","modified_gmt":"2020-05-28T11:42:10","slug":"bekap-hranilishhe-dlya-tysyach-virtualnyh-mashin-svobodnymi-instrumentami","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sv\/blog\/administrirovanie\/bekap-hranilishhe-dlya-tysyach-virtualnyh-mashin-svobodnymi-instrumentami","title":{"rendered":"Backup-lagring f\u00f6r tusentals virtuella maskiner med gratis verktyg","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

\"Backup-lagring<\/p>\n

<\/p>\n

Hej, nyligen st\u00f6tte jag p\u00e5 en intressant uppgift att konfigurera lagring f\u00f6r backup av ett stort antal blockenheter.<\/p>\n

<\/p>\n

Varje vecka g\u00f6r vi en s\u00e4kerhetskopiering av alla virtuella maskiner i v\u00e5r molntj\u00e4nst, vilket kr\u00e4ver att vi kan hantera tusentals s\u00e4kerhetskopior och g\u00f6ra det s\u00e5 snabbt och effektivt som m\u00f6jligt.<\/p>\n

<\/p>\n

Tyv\u00e4rr passar inte standardkonfigurationerna RAID5<\/strong>, RAID6<\/strong> i det h\u00e4r fallet p\u00e5 grund av att \u00e5terst\u00e4llningsprocessen p\u00e5 s\u00e5 stora diskar som v\u00e5ra skulle vara pl\u00e5gsamt l\u00e5ngsam och sannolikt aldrig slutf\u00f6ras.<\/p>\n

<\/p>\n

L\u00e5t oss \u00f6verv\u00e4ga vilka alternativ som finns:<\/p>\n

<\/p>\n

Erasure Coding<\/a><\/noindex><\/strong> \u2014 En analog av RAID5, RAID6, men med justerbar paritetsniv\u00e5. Backup g\u00f6rs inte blockvis utan f\u00f6r varje objekt separat. Det enklaste s\u00e4ttet att prova erasure coding \u00e4r att distribuera minio<\/a><\/noindex>.<\/p>\n

<\/p>\n

DRAID<\/a><\/noindex><\/strong> \u2014 detta \u00e4r f\u00f6r n\u00e4rvarande en \u00e4nnu inte sl\u00e4ppt funktion i ZFS. Till skillnad fr\u00e5n RAIDZ har DRAID en distribuerad paritetsblock och anv\u00e4nder alla diskar i arrayen vid \u00e5terst\u00e4llning, vilket g\u00f6r att den b\u00e4ttre klarar av diskfel och \u00e5terh\u00e4mtar sig snabbare efter ett fel. <\/p>\n

<\/a><\/noindex><\/p>\n

\"Backup-lagring<\/p>\n

<\/p>\n

\"Backup-lagring<\/p>\n

Tillg\u00e4nglig \u00e4r en server Fujitsu Primergy RX300 S7<\/strong> med en processor Intel Xeon CPU E5-2650L 0 @ 1.80GHz<\/strong>, nio moduler RAM-minne Samsung DDR3-1333 8Gb PC3L-10600R ECC Registered (M393B1K70DH0-YH9)<\/strong>, en diskhylla Supermicro SuperChassis 847E26-RJBOD1<\/strong>, ansluten via Dual LSI SAS2X36 Expander<\/strong> och 45 diskar Seagage ST6000NM0115-1YZ110<\/strong> per 6TB<\/strong> varje.<\/p>\n

<\/p>\n

Innan vi kan fatta n\u00e5gra beslut m\u00e5ste vi f\u00f6rst testa allt ordentligt.<\/p>\n

<\/p>\n

F\u00f6r detta f\u00f6rberedde jag mig och genomf\u00f6rde tester av olika konfigurationer. Jag anv\u00e4nde minio som agerade som S3-backend och k\u00f6rde det i olika l\u00e4gen med olika antal m\u00e5l.<\/p>\n

<\/p>\n

Huvudsakligen testades fallet minio i erasure coding vs programvaruraid med samma antal diskar och paritetsdiskar, det vill s\u00e4ga: RAID6, RAIDZ2 och DRAID2.<\/p>\n

<\/p>\n

F\u00f6r referens: n\u00e4r du k\u00f6r minio med bara ett m\u00e5l, fungerar minio i S3-gatewayl\u00e4ge f\u00f6r att ge din lokala filsystem som S3-lagring. Om du \u00e5 sin sida startar minio med flera m\u00e5l aktiveras automatiskt l\u00e4get f\u00f6r Erasure Coding, vilket kommer att sprida data \u00f6ver dina m\u00e5l och ge redundans.<\/p>\n

Som standard delar MinIO m\u00e5l p\u00e5 grupper med 16 diskar, d\u00e4r varje grupp har tv\u00e5 parity. Det betyder att tv\u00e5 diskar kan g\u00e5 s\u00f6nder samtidigt utan att data g\u00e5r f\u00f6rlorad.<\/p><\/blockquote>\n

F\u00f6r att testa prestanda anv\u00e4nde jag 16 diskar p\u00e5 6 TB vardera och skrev sm\u00e5 objekt p\u00e5 1 MB, vilket noggrant beskrev v\u00e5r framtida belastning, eftersom alla moderna backupverktyg delar data i block p\u00e5 n\u00e5gra megabyte och skriver dem p\u00e5 det s\u00e4ttet.<\/p>\n

<\/p>\n

F\u00f6r att genomf\u00f6ra benchmark-testet anv\u00e4ndes verktyget s3bench som k\u00f6rdes p\u00e5 en fj\u00e4rrserver och skickade tiotusentals s\u00e5dana objekt till MinIO i hundratals tr\u00e5dar. D\u00e4refter f\u00f6rs\u00f6kte det p\u00e5 samma s\u00e4tt att h\u00e4mta dem tillbaka.<\/p>\n

<\/p>\n

Resultaten av benchmark-testet presenteras i f\u00f6ljande tabell:<\/p>\n

<\/p>\n

\"Backup-lagring<\/p>\n

<\/p>\n

Som vi ser fungerar MinIO i sitt eget erasure coding-l\u00e4ge betydligt s\u00e4mre vid skrivning \u00e4n MinIO som k\u00f6rs ovanp\u00e5 programvaru-RAID6, RAIDZ2 och DRAID2 i samma konfiguration.<\/p>\n

<\/p>\n

Separat blev jag ombedd<\/a><\/noindex> att testa MinIO p\u00e5 ext4 vs XFS. \u00d6verraskande nog visade det sig att f\u00f6r min typ av belastning var XFS betydligt l\u00e5ngsammare \u00e4n ext4.<\/p>\n

<\/p>\n

I den f\u00f6rsta delen av testerna visade Mdadm \u00f6verl\u00e4gsenhet \u00f6ver ZFS, men senare gmelikov<\/a><\/noindex> p\u00e5pekade<\/a><\/noindex>, att prestandan f\u00f6r ZFS kan f\u00f6rb\u00e4ttras genom att st\u00e4lla in f\u00f6ljande alternativ:<\/p>\n

<\/p>\n

xattr=sa atime=off recordsize=1M<\/code><\/pre>\n
<\/p>\n
och efter detta blev testerna med ZFS mycket b\u00e4ttre.<\/p>\n
<\/p>\n
Det kan ocks\u00e5 noteras att DRAID inte ger n\u00e5gon betydande prestandavinst j\u00e4mf\u00f6rt med RAIDZ, men i teorin borde det vara mycket s\u00e4krare.<\/p>\n
<\/p>\n
I de tv\u00e5 senaste testerna f\u00f6rs\u00f6kte jag ocks\u00e5 flytta metadata (special) och ZIL (logg) till en spegel av SSD. Men flytt av metadata gav ingen betydande \u00f6kning i skrivhastighet, och n\u00e4r jag flyttade ZIL st\u00f6tte mina SSDSC2KI128G8<\/a><\/noindex> p\u00e5 en v\u00e4gg med 100% utnyttjande, s\u00e5 jag anser att detta test misslyckades. Jag utesluter inte att om jag hade snabbare SSD-diskar skulle det kunna ha f\u00f6rb\u00e4ttrat mina resultat kraftigt, men tyv\u00e4rr hade jag inte tillg\u00e5ng till s\u00e5dana.<\/p>\n
<\/p>\n
Till slut beslutade jag mig f\u00f6r att stanna vid DRAID och trots sin beta-status \u00e4r det den snabbaste och mest effektiva l\u00f6sningen f\u00f6r lagring i v\u00e5rt fall.<\/p>\n
<\/p>\n
Jag skapade en enkel DRAID2-konfiguration med tre grupper och tv\u00e5 distribuerade reservdelar:<\/p>\n
<\/p>\n
# zpool status data\n  pool: data\n state: ONLINE\n  scan: none requested\nconfig:\n\n    NAME                 STATE     READ WRITE CKSUM\n    data                 ONLINE       0     0     0\n      draid2:3g:2s-0     ONLINE       0     0     0\n        sdy              ONLINE       0     0     0\n        sdam             ONLINE       0     0     0\n        sdf              ONLINE       0     0     0\n        sdau             ONLINE       0     0     0\n        sdab             ONLINE       0     0     0\n        sdo              ONLINE       0     0     0\n        sdw              ONLINE       0     0     0\n        sdak             ONLINE       0     0     0\n        sdd              ONLINE       0     0     0\n        sdas             ONLINE       0     0     0\n        sdm              ONLINE       0     0     0\n        sdu              ONLINE       0     0     0\n        sdai             ONLINE       0     0     0\n        sdaq             ONLINE       0     0     0\n        sdk              ONLINE       0     0     0\n        sds              ONLINE       0     0     0\n        sdag             ONLINE       0     0     0\n        sdi              ONLINE       0     0     0\n        sdq              ONLINE       0     0     0\n        sdae             ONLINE       0     0     0\n        sdz              ONLINE       0     0     0\n        sdan             ONLINE       0     0     0\n        sdg              ONLINE       0     0     0\n        sdac             ONLINE       0     0     0\n        sdx              ONLINE       0     0     0\n        sdal             ONLINE       0     0     0\n        sde              ONLINE       0     0     0\n        sdat             ONLINE       0     0     0\n        sdaa             ONLINE       0     0     0\n        sdn              ONLINE       0     0     0\n        sdv              ONLINE       0     0     0\n        sdaj             ONLINE       0     0     0\n        sdc              ONLINE       0     0     0\n        sdar             ONLINE       0     0     0\n        sdl              ONLINE       0     0     0\n        sdt              ONLINE       0     0     0\n        sdah             ONLINE       0     0     0\n        sdap             ONLINE       0     0     0\n        sdj              ONLINE       0     0     0\n        sdr              ONLINE       0     0     0\n        sdaf             ONLINE       0     0     0\n        sdao             ONLINE       0     0     0\n        sdh              ONLINE       0     0     0\n        sdp              ONLINE       0     0     0\n        sdad             ONLINE       0     0     0\n    spares\n      s0-draid2:3g:2s-0  AVAIL   \n      s1-draid2:3g:2s-0  AVAIL   \n\nerrors: No known data errors<\/code><\/pre>\n
Bra, vi har l\u00f6st lagringen, nu om vad vi ska anv\u00e4nda f\u00f6r backup. H\u00e4r vill jag direkt ber\u00e4tta om tre l\u00f6sningar som jag lyckades prova, n\u00e4mligen:<\/p>\n
<\/p>\n
Benji Backup<\/a><\/noindex><\/strong> \u2014 en fork Backy2<\/a><\/noindex>, en specialiserad l\u00f6sning f\u00f6r s\u00e4kerhetskopiering av blockenheter, har en n\u00e4ra integration med Ceph. Den kan h\u00e4mta diffar mellan snapshots och skapa inkrementella s\u00e4kerhetskopior fr\u00e5n dem. St\u00f6der ett stort antal lagringsbackendar, inklusive b\u00e5de lokal lagring och S3. Kr\u00e4ver en separat databas f\u00f6r att lagra hash-tabellen f\u00f6r deduplicering. Nackdelar: skriven i Python, har en n\u00e5got oresponsiv CLI.<\/p>\n
<\/p>\n
Borg Backup<\/a><\/noindex><\/strong> \u2014 en fork Attic<\/a><\/noindex>, en v\u00e4lk\u00e4nd och bepr\u00f6vad l\u00f6sning f\u00f6r s\u00e4kerhetskopiering som kan s\u00e4kerhetskopiera data och utf\u00f6ra bra deduplicering. Kan spara s\u00e4kerhetskopior b\u00e5de lokalt och p\u00e5 en fj\u00e4rrserver via scp. Kan s\u00e4kerhetskopiera blockenheter om den k\u00f6rs med flaggan --special<\/code>, nackdelar: n\u00e4r en s\u00e4kerhetskopiering skapas blockeras hela lagret s\u00e5 det rekommenderas att skapa en separat repository f\u00f6r varje virtuell maskin, vilket inte \u00e4r ett problem eftersom de skapas mycket enkelt.<\/p>\n
<\/p>\n
Restic<\/a><\/noindex><\/strong> \u2014 ett aktivt v\u00e4xande projekt skrivet i go, ganska snabbt och st\u00f6djer ett stort antal lagringsbackends, b\u00e5de lokala lagringsl\u00f6sningar och scp, S3 och mycket mer. Det \u00e4r v\u00e4rt att notera att det finns en speciellt skapad rest-server<\/a><\/noindex> f\u00f6r restic, som m\u00f6jligg\u00f6r snabbaste export av lagret f\u00f6r anv\u00e4ndning p\u00e5 distans. Av allt ovanst\u00e5ende gillade jag detta mest. Kan s\u00e4kerhetskopiera fr\u00e5n stdin. Har n\u00e4stan inga m\u00e4rkbara nackdelar, men det finns n\u00e5gra egenskaper:<\/p>\n
<\/p>\n