{"id":83100,"date":"2020-05-28T13:42:10","date_gmt":"2020-05-28T11:42:10","guid":{"rendered":"https:\/\/prohoster.info\/blog\/administrirovanie\/bekap-hranilishhe-dlya-tysyach-virtualnyh-mashin-svobodnymi-instrumentami"},"modified":"2020-05-28T13:42:10","modified_gmt":"2020-05-28T11:42:10","slug":"bekap-hranilishhe-dlya-tysyach-virtualnyh-mashin-svobodnymi-instrumentami","status":"publish","type":"post","link":"https:\/\/prohoster.info\/et\/blog\/administrirovanie\/bekap-hranilishhe-dlya-tysyach-virtualnyh-mashin-svobodnymi-instrumentami","title":{"rendered":"Varundushoidla tuhandete virtuaalmasinate jaoks tasuta t\u00f6\u00f6riistadega","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

\"Varundushoidla<\/p>\n

<\/p>\n

Tere, hiljuti sattusin huvitava \u00fclesande juurde, et seadistada suure hulga plokkseadmete varundamiseks salvestusruum.<\/p>\n

<\/p>\n

Iga n\u00e4dal teeme varukoopiaid k\u00f5igist meie pilves olevatest virtuaalmasinatest, seega tuleb suuta hallata tuhandeid varukoopiaid ja teha seda v\u00f5imalikult kiiresti ja t\u00f5husalt.<\/p>\n

<\/p>\n

Kahjuks ei sobi standardkonfiguratsioonid RAID5<\/strong>, RAID6<\/strong> selles olukorras meile, kuna taastamisprotsess nii suurte ketaste, nagu meie omad, puhul on kohutavalt pikk ja t\u00f5en\u00e4oliselt ei l\u00f5ppe kunagi.<\/p>\n

<\/p>\n

Vaadakem, millised on alternatiivid:<\/p>\n

<\/p>\n

Erasure Coding<\/a><\/noindex><\/strong> \u2014 RAID5, RAID6 analoog, kuid reguleeritava pariteetasetusega. Samuti tehakse varundamine mitte plokkide kaupa, vaid iga objekti eraldi. Lihtsaim viis erasure codingu proovimiseks on juurutada minio<\/a><\/noindex>.<\/p>\n

<\/p>\n

DRAID<\/a><\/noindex><\/strong> \u2014 see on sel hetkel veel v\u00e4ljaandmata ZFS funktsioon. Erinevalt RAIDZ-st on DRAID-il jaotatud pariteediketta s\u00fcsteem ning taastamisel kasutatakse kohe k\u00f5iki rikka kettaid, mis v\u00f5imaldab tal paremini taluda ketaste t\u00f5rkeid ja kiiremini taastuda peale riket. <\/p>\n

<\/a><\/noindex><\/p>\n

\"Varundushoidla<\/p>\n

<\/p>\n

\"Varundushoidla<\/p>\n

K\u00e4ep\u00e4rast on server Fujitsu Primergy RX300 S7<\/strong> protsessoriga Intel Xeon CPU E5-2650L 0 @ 1.80GHz<\/strong>, \u00fcheksa RAM-moodulit Samsung DDR3-1333 8Gb PC3L-10600R ECC registreeritud (M393B1K70DH0-YH9)<\/strong>, ketasalus Supermicro SuperChassis 847E26-RJBOD1<\/strong>, \u00fchendatud l\u00e4bi Dual LSI SAS2X36 laiendaja<\/strong> ja 45 ketast Seagage ST6000NM0115-1YZ110<\/strong> kohta 6TB<\/strong> igal.<\/p>\n

<\/p>\n

Enne midagi otsustamist peame k\u00f5ik korralikult testima.<\/p>\n

<\/p>\n

Selleks valmistusin ja viisin l\u00e4bi erinevate konfiguratsioonide testimise. Kasutasin minio, mis toimis S3-tagavarana ja jooksin seda erinevates re\u017eiimides erineva ehtem\u00e4rkide arvuga.<\/p>\n

<\/p>\n

Peamiselt testiti minio juhtumit erasure coding vs tarkvararaid sama ketaste ja pariteetketaste arvuga, mis oli: RAID6, RAIDZ2 ja DRAID2.<\/p>\n

<\/p>\n

Teadaanne: kui k\u00e4itate minio \u00fche ehtem\u00e4rgiga, t\u00f6\u00f6tab minio S3-tiivina, edastades teie kohalikku failis\u00fcsteemi S3-salvestusena. Kui aga k\u00e4itate minio mitme ehtem\u00e4rgiga, aktiveeritakse automaatselt Erasure Coding mode, mis jagab andmeid teie tegurite vahel, pakkudes talitlush\u00e4ired.<\/p>\n

Vaikimisi jagab minio sihtm\u00e4rke 16 plaadi r\u00fchmadesse, kus iga r\u00fchma jaoks on 2 pariteeti. See t\u00e4hendab, et korraga v\u00f5ivad v\u00e4ljuda kaks ketast ilma andmete kaotuseta.<\/p><\/blockquote>\n

Soojade testide k\u00e4igus kasutasin 16 plaati, iga\u00fche suurus oli 6TB, ja kirjutasin neile v\u00e4ikseid objekte, mille suurus oli 1MB. See kirjeldas maksimaalselt t\u00e4pselt meie tulevasi koormusi, kuna k\u00f5ik moodsad varundust\u00f6\u00f6riistad jagavad andmeid mitme megabaidi plokkidesse ja kirjutavad neid sellisel kujul.<\/p>\n

<\/p>\n

B\u00e4nkimise l\u00e4biviimiseks kasutati s3bench utiliiti, mis k\u00e4ivitati eemalserveris ja saatis miniosse k\u00fcmneid tuhandeid selliseid objekte sadades voogudes. P\u00e4rast seda prooviti neid samamoodi tagasi k\u00fcsida.<\/p>\n

<\/p>\n

B\u00e4nkimise tulemused on esitatud j\u00e4rgmises tabelis:<\/p>\n

<\/p>\n

\"Varundushoidla<\/p>\n

<\/p>\n

Nagu n\u00e4eme, t\u00f6\u00f6tab minio oma erasure coding re\u017eiimis kirjutamisel oluliselt aeglasemalt kui minio, mis on k\u00e4ivitatud programmse RAID6, RAIDZ2 ja DRAID2 peal samas konfiguratsioonis.<\/p>\n

<\/p>\n

Eraldi paluti mul testida miniot ext4 vs XFS. \u00dcllatav, kuid minu koormuse t\u00fc\u00fcbi jaoks osutus XFS oluliselt aeglasemaks kui ext4.<\/a><\/noindex> Esimeses testide osas n\u00e4itas Mdadm ZFS-i ees \u00fcleolekut, kuid hiljem<\/p>\n

<\/p>\n

gmelikov gmelikov<\/a><\/noindex> soovitas<\/a><\/noindex>, et ZFS-i j\u00f5udlust on v\u00f5imalik parandada, seadistades j\u00e4rgmised valikud:<\/p>\n

<\/p>\n

xattr=sa atime=off recordsize=1M<\/code><\/pre>\n
<\/p>\n
ja p\u00e4rast seda olid ZFS-i testid palju paremad.<\/p>\n
<\/p>\n
Samuti v\u00f5ib m\u00e4rgata, et DRAID ei anna RAIDZ-i ees suurt j\u00f5udluskasvu, kuid teoreetiliselt peaks see olema palju turvalisem.<\/p>\n
<\/p>\n
Viimastes kahes testis proovisin ka eraldada metaandmed (special) ja ZIL (log) SSD-peegelduse peale. Kuid metaandmete eraldamine ei andnud erilist kirjutaspeedi kasvu, ja ZIL-i eraldades minu SSDSC2KI128G8<\/a><\/noindex> sattusid 100% kasutuse piirangusse, seega pean selle testi eba\u00f5nnestunuks. Ma ei v\u00e4lista, et kui mul oleks olnud kiirem SSD, v\u00f5inuks see minu tulemusi m\u00e4rkimisv\u00e4\u00e4rselt parandada, kuid kahjuks polnud mul neid.<\/p>\n
<\/p>\n
Seet\u00f5ttu otsustasin j\u00e4\u00e4da DRAID-i kasutamise juurde ja vaatamata oma beetastaatuses, on see meie puhul k\u00f5ige kiirem ja t\u00f5husam lahendus.<\/p>\n
<\/p>\n
Loomisin lihtsa DRAID2, mille konfiguratsioonis on kolm r\u00fchma ja kaks jaotatud varu:<\/p>\n
<\/p>\n
# zpool status data\n  pool: data\n state: ONLINE\n  scan: none requested\nconfig:\n\n    NAME                 STATE     READ WRITE CKSUM\n    data                 ONLINE       0     0     0\n      draid2:3g:2s-0     ONLINE       0     0     0\n        sdy              ONLINE       0     0     0\n        sdam             ONLINE       0     0     0\n        sdf              ONLINE       0     0     0\n        sdau             ONLINE       0     0     0\n        sdab             ONLINE       0     0     0\n        sdo              ONLINE       0     0     0\n        sdw              ONLINE       0     0     0\n        sdak             ONLINE       0     0     0\n        sdd              ONLINE       0     0     0\n        sdas             ONLINE       0     0     0\n        sdm              ONLINE       0     0     0\n        sdu              ONLINE       0     0     0\n        sdai             ONLINE       0     0     0\n        sdaq             ONLINE       0     0     0\n        sdk              ONLINE       0     0     0\n        sds              ONLINE       0     0     0\n        sdag             ONLINE       0     0     0\n        sdi              ONLINE       0     0     0\n        sdq              ONLINE       0     0     0\n        sdae             ONLINE       0     0     0\n        sdz              ONLINE       0     0     0\n        sdan             ONLINE       0     0     0\n        sdg              ONLINE       0     0     0\n        sdac             ONLINE       0     0     0\n        sdx              ONLINE       0     0     0\n        sdal             ONLINE       0     0     0\n        sde              ONLINE       0     0     0\n        sdat             ONLINE       0     0     0\n        sdaa             ONLINE       0     0     0\n        sdn              ONLINE       0     0     0\n        sdv              ONLINE       0     0     0\n        sdaj             ONLINE       0     0     0\n        sdc              ONLINE       0     0     0\n        sdar             ONLINE       0     0     0\n        sdl              ONLINE       0     0     0\n        sdt              ONLINE       0     0     0\n        sdah             ONLINE       0     0     0\n        sdap             ONLINE       0     0     0\n        sdj              ONLINE       0     0     0\n        sdr              ONLINE       0     0     0\n        sdaf             ONLINE       0     0     0\n        sdao             ONLINE       0     0     0\n        sdh              ONLINE       0     0     0\n        sdp              ONLINE       0     0     0\n        sdad             ONLINE       0     0     0\n    spares\n      s0-draid2:3g:2s-0  AVAIL   \n      s1-draid2:3g:2s-0  AVAIL   \n\nerrors: No known data errors<\/code><\/pre>\n
H\u00e4sti, hoidla on selge, n\u00fc\u00fcd r\u00e4\u00e4gime, millega varundame. Siin tahaksin kohe r\u00e4\u00e4kida kolmest lahendusest, mida sain proovida, nimelt:<\/p>\n
<\/p>\n
Benji Backup<\/a><\/noindex><\/strong> \u2014 fork Backy2<\/a><\/noindex>, spetsialiseeritud lahendus plokkseadmete varundamiseks, millel on tihe integreerimine Cephiga. Suudab hankida differentsiaalid snapshot'ide vahel ja luua neist inkrementaalse varukoopia. Toetab suurt hulka salvestuse tagap\u00f5hjade, sealhulgas nii kohalikku kui ka S3. Vajab eraldi andmebaasi deduplication'i hash-tabeli salvestamiseks. Miinustest: kirjutatud Pythonis, on veidi mittetundlik CLI.<\/p>\n
<\/p>\n
Borg Backup<\/a><\/noindex><\/strong> \u2014 fork Attic<\/a><\/noindex>, pikka aega tuntud ja t\u00f5estatud varundamisvahend, mis oskab andmeid varundada ja h\u00e4sti dedupuleerida. Suudab varundada andmeid nii kohapeal kui ka kaugserveris l\u00e4bi SCP. Suudab varundada plokkseadmeid, kui seda k\u00e4ivitada lipuga --special<\/code>, miinustest: varukoopia loomisel on kogu repo t\u00e4ielikult lukus, seet\u00f5ttu soovitatakse iga virtuaalmasina jaoks luua eraldi repo, mis pole sisuliselt probleem, kuna neid on v\u00e4ga lihtne luua.<\/p>\n
<\/p>\n
Restic<\/a><\/noindex><\/strong> \u2014 kiiresti arenev projekt, kirjutatud go keeles, piisavalt kiire ja toetab paljusid salvestuslahendusi, sealhulgas nii kohalikku salvestust kui ka scp, S3 ja palju muud. Erakordselt tasub m\u00e4rkida, et on olemas spetsiaalselt loodud rest-server<\/a><\/noindex> restic'i jaoks, mis v\u00f5imaldab k\u00f5ige kiiremini eksportida salvestust kaugkasutuseks. K\u00f5igist eeltoodud variantidest meeldis see mulle k\u00f5ige rohkem. Suudab varundada stdin'ist. M\u00e4rkimisv\u00e4\u00e4rseid puudusi on peaaegu puuduvad, kuid m\u00f5ned erip\u00e4rad on olemas:<\/p>\n
<\/p>\n