Hello, waxaan dhawaan la kulmay dhibaato xiiso leh: dejinta kaydinta si ay u taageeraan tiro badan oo qalab block.
Toddobaad kasta waxaan kaydinnaa dhammaan mashiinnada farsamada gacanta ee daruurteena, markaa waxaan u baahanahay inaan awoodno inaan ilaalino kumanaan gurmad ah oo aan u sameyno sida ugu dhaqsaha badan oo waxtarka leh ee suurtogalka ah.
Nasiib darro, habaynta caadiga ah RAID5, RAID6 Xaaladdan oo kale, nalooma oggolaan doono inaan sidaas yeelno, maaddaama habka soo kabashada ee saxanadaha waaweyn ee annaga oo kale ah ay noqon doonto mid xanuun badan oo dheer waxayna u badan tahay inaan waligiis dhammaan doonin.
Aynu eegno waxa beddelka ah ee jira:
- La mid ah RAID5, RAID6, laakiin leh heer siman oo la habeyn karo. Xaaladdan oo kale, boos celinta waxaa loo sameeyaa ma xannibayo block, laakiin shay kasta si gaar ah. Habka ugu fudud ee lagu tijaabin karo kood-qorista tirtiridda waa in la ballaariyo .
waa sifa ZFS aan hadda la sii dayn. Si ka duwan RAIDZ, DRAID waxay leedahay sinnaan qaybsan oo, inta lagu jiro soo kabashada, waxay isticmaashaa dhammaan saxanadaha array-ka hal mar, taas oo ka dhigaysa mid si fiican u awood u leh inay ka badbaado cilladaha diskka oo ay si dhakhso ah u soo kabsato ka dib guuldarada.
Adeegaha la heli karo Fujitsu Primergy RX300 S7 oo leh processor Intel Xeon CPU E5-2650L 0 @ 1.80GHz, sagaal ulood oo RAM ah Samsung DDR3-1333 8Gb PC3L-10600R ECC Diiwaangashan (M393B1K70DH0-YH9), shelf disk Supermicro SuperChassis 847E26-RJBOD1, ku xiran via Dual LSI SAS2X36 Expander iyo 45 saxan Seagage ST6000NM0115-1YZ110 on 6TB mid kasta.
Kahor intaanan wax go'aansan, waxaan marka hore u baahanahay inaan si sax ah wax walba u tijaabino.
Si tan loo sameeyo, waxaan diyaariyey oo tijaabiyey qaabab kala duwan. Si tan loo sameeyo, waxaan isticmaalay minio, kaas oo u dhaqmey sidii S3 dhabarka oo ku bilaabay habab kala duwan oo leh tirooyin kala duwan oo bartilmaameedyo ah.
Asal ahaan, kiiska minio waxaa lagu tijaabiyay koodh-kumbuyuutareedka iyo weerarka software-ka oo leh tiro isku mid ah saxannada iyo saxanadaha, kuwanuna waa: RAID6, RAIDZ2 iyo DRAID2.
Tixraac ahaan: marka aad bilowdo minio oo leh hal bartilmaameed oo keliya, minio wuxuu ku shaqeeyaa qaabka gateway-ga S3, isagoo gaarsiinaya nidaamka faylka deegaankaaga qaab kaydinta S3. Haddii aad bilowdo minio tilmaamaya dhowr bartilmaameed, qaabka Erasure Coding si toos ah ayuu u shidmi doonaa, kaas oo ku faafi doona xogta u dhaxaysa bartilmaameedyadaada iyadoo la siinayo dulqaadka qaladka.
Sida caadiga ah, minio waxay u qaybisaa bartilmaameedyada kooxo 16 saxan ah, oo leh 2 qaybood koox kasta. Kuwaas. Laba saxan ayaa isku mar fashilmi kara iyaga oo aan lumin xogta.
Si aan u tijaabiyo waxqabadka, waxaan isticmaalay 16 saxan oo midkiiba yahay 6TB waxaanan ku qoray walxo yaryar oo cabbirkoodu yahay 1MB, tani waxay si sax ah u qeexday culayskayaga mustaqbalka, maadaama dhammaan agabka kaydinta casriga ahi ay xogta u qaybiyaan blocks dhowr megabytes ah una qoraa sidan.
Si aan u samayno bartilmaameedka, waxaanu isticmaalnay utility s3bench, oo lagu bilaabay server fog waxaana u dirnay tobanaan kun oo walxahan oo kale ah boqollaal xadhig ah. Intaa ka dib waxaan isku dayay inaan sidaas oo kale ka codsado.
Natiijooyinka bar-tilmaameedka waxa lagu muujiyay shaxda soo socota:
Sida aan arki karno, minio qaabkeeda kood u tirtirka ayaa si aad ah uga xun qorista marka loo eego minio ku ordaya dusha software RAID6, RAIDZ2 iyo DRAID2 isla qaabeynta.
Si gooni ah aniga tijaabi minio on ext4 vs XFS. Waxa la yaab leh, nooca culayska shaqadayda, XFS waxa ay isu rogtay in ay aad uga gaabisay ext4.
Dufcaddii ugu horreysay ee imtixaannada, Mdadm waxa ay muujisay in ay ka sarreyso ZFS, laakiin markii dambe inaad hagaajin karto waxqabadka ZFS adiga oo dejinaya xulashooyinka soo socda:
xattr=sa atime=off recordsize=1Mintaas ka dib imtixaanadii ZFS aad ayay u fiicnaadeen.
Waxa kale oo aad ogaan kartaa in DRAID aysan bixin faa'iido badan oo waxqabad ah oo ka badan RAIDZ, laakiin aragti ahaan waa inay ahaataa mid aad u ammaan badan.
Labadii imtixaan ee ugu dambeeyay, waxaan sidoo kale isku dayay inaan ka wareejiyo metadata (gaar ah) iyo ZIL (log) muraayadda SSD-ga. Laakin ka saarida xogta badan ma aysan siin faa'iido badan xawaaraha duubista, iyo marka la saarayo ZIL, my ku dhufo saqafka 100% ka faa'iidaysiga, markaa waxaan u arkaa tijaabadan mid guul daraystay. Kama reebayo in haddii aan haysto darawallada SSDs ee degdega ah, markaa laga yaabee tani inay si weyn u wanaajin karto natiijooyinkayga, laakiin, nasiib darro, ma aanan haysan.
Dhammaadkii, waxaan go'aansaday inaan isticmaalo DRAID iyo in kasta oo ay heerka beta, waa xalka ugu dhaqsaha badan uguna waxtarka badan ee kaydinta kiiskeena.
Waxaan ku abuuray DRAID2 fudud oo qaabayn ah oo leh saddex kooxood iyo laba kayd oo la qaybiyey:
# zpool status data
pool: data
state: ONLINE
scan: none requested
config:
NAME STATE READ WRITE CKSUM
data ONLINE 0 0 0
draid2:3g:2s-0 ONLINE 0 0 0
sdy ONLINE 0 0 0
sdam ONLINE 0 0 0
sdf ONLINE 0 0 0
sdau ONLINE 0 0 0
sdab ONLINE 0 0 0
sdo ONLINE 0 0 0
sdw ONLINE 0 0 0
sdak ONLINE 0 0 0
sdd ONLINE 0 0 0
sdas ONLINE 0 0 0
sdm ONLINE 0 0 0
sdu ONLINE 0 0 0
sdai ONLINE 0 0 0
sdaq ONLINE 0 0 0
sdk ONLINE 0 0 0
sds ONLINE 0 0 0
sdag ONLINE 0 0 0
sdi ONLINE 0 0 0
sdq ONLINE 0 0 0
sdae ONLINE 0 0 0
sdz ONLINE 0 0 0
sdan ONLINE 0 0 0
sdg ONLINE 0 0 0
sdac ONLINE 0 0 0
sdx ONLINE 0 0 0
sdal ONLINE 0 0 0
sde ONLINE 0 0 0
sdat ONLINE 0 0 0
sdaa ONLINE 0 0 0
sdn ONLINE 0 0 0
sdv ONLINE 0 0 0
sdaj ONLINE 0 0 0
sdc ONLINE 0 0 0
sdar ONLINE 0 0 0
sdl ONLINE 0 0 0
sdt ONLINE 0 0 0
sdah ONLINE 0 0 0
sdap ONLINE 0 0 0
sdj ONLINE 0 0 0
sdr ONLINE 0 0 0
sdaf ONLINE 0 0 0
sdao ONLINE 0 0 0
sdh ONLINE 0 0 0
sdp ONLINE 0 0 0
sdad ONLINE 0 0 0
spares
s0-draid2:3g:2s-0 AVAIL
s1-draid2:3g:2s-0 AVAIL
errors: No known data errorsHagaag, waanu hagaajinay kaydinta, hadda aan ka hadalno waxa aanu dib u celinayno. Halkan waxaan jeclaan lahaa in aan isla markiiba ka hadlo saddex xal oo aan ku guuleystay in aan isku dayo, kuwaas oo kala ah.
- fargeeto , Xal gaar ah oo loogu talagalay kaydinta qalabka xannibaadda, ayaa si adag ula dhexgalka Ceph. Waxay qaadan kartaa kala duwanaansho udhaxeysa sawir-qaadista oo ay ka sameysan karaan gurmad dheeraad ah. Waxay taageertaa tiro badan oo dhabarka dambe ee kaydinta, oo ay ku jiraan labadaba gudaha iyo S3. Wuxuu u baahan yahay xog ururin gaar ah si loo kaydiyo miiska xashiishka kala-saarista. Khasaaraha: ku qoran Python, waxa uu leeyahay cli waxyar oo aan jawaabin.
- fargeeto , waa qalab kayd ah oo la yaqaan oo la hubo muddo dheer, waxay kaydin kartaa xogta oo si fiican u soo saari kartaa. Awood u leh inuu kaydiyo kaydinta gudaha iyo server-ka fog labadaba iyadoo loo marayo scp. Kaydinta waxay xannibi kartaa qalabka haddii lagu bilaabo calanka --special, Mid ka mid ah minuses: marka la abuurayo gurmad, kaydka ayaa si buuxda loo xannibay, sidaas darteed waxaa lagula talinayaa in la sameeyo kayd gaar ah oo loogu talagalay mashiinka farsamada, mabda'a tani maaha dhibaato, nasiib wanaag si fudud ayaa loo abuuray.
waa mashruuc si firfircoon u kobcaya, qoraal u qoran, aad u degdeg badan oo taageera tiro badan oo kaydinta dhabarka, oo ay ku jiraan kaydinta maxalliga ah, scp, S3 iyo qaar kaloo badan. Si gooni ah, waxaan jeclaan lahaa in aan ogaado in uu jiro si gaar ah loo abuuray Restic, kaas oo kuu ogolaanaya inaad si dhakhso ah u dhoofiso kaydinta si aad u isticmaasho meel fog. Dhammaan kuwa kor ku xusan, waxaan aad uga helay. Kaaba ka qaadi kara stdin. Ku dhawaad ββma laha faa'iido darrooyin la dareemi karo, laakiin waxaa jira dhowr astaamood:
-
Marka hore, waxaan isku dayay inaan u isticmaalo habka guud ee kaydinta dhammaan mashiinnada farsamada (sida Benji) oo xitaa si fiican ayey u shaqeysay, laakiin hawlgallada soo celinta waxay qaadatay waqti aad u dheer, sababtoo ah ... Mar kasta ka hor inta aan dib loo soo celin, restic waxa uu isku dayaa in uu akhriyo xogta badan ee kaydka. Dhibaatadan si sahlan ayaa loo xaliyay, sida borg, iyada oo la abuurayo kayd gaar ah oo loogu talagalay mashiinka farsamada. Habkani waxa uu caddeeyey in uu aad waxtar ugu leeyahay maaraynta kaydinta sidoo kale. Goobaha kala duwani waxay yeelan karaan furaha sirta ah ee goonida ah si loo galo xogta, sidoo kale ma aha inaan ka cabsano in kaydka caalamiga ahi uu si uun u jabo. Waxaad ku dhali kartaa kayd cusub si la mid ah sida ugu fudud ee borg backup.
Si kastaba ha ahaatee, ka-saarista waxaa la sameeyaa kaliya marka loo eego nuqulkii hore ee kaydka; kaydkii hore waxaa lagu go'aamiyaa dariiqa loogu talagalay kaydinta la cayimay, markaa haddii aad ku celiso walxo kala duwan stdin ilaa kayd caadi ah, ha ilaawin inaad qeexdo doorasho
--stdin-filename, ama si cad u sheeg doorashada mar kasta--parent.
-
Marka labaad, soo kabashada stdout waxay qaadataa wax ka badan ka soo kabashada nidaamka faylka sababtoo ah dabeecadda isbarbardhigga ah. Mustaqbalka, waxaan qorsheyneynaa inaan ku darno taageero dhow oo loogu talagalay kaydinta qalabka xannibaadda.
-
Saddex, hadda waxa lagu talinayaa in la isticmaalo , sababtoo ah nooca 0.9.6 wuxuu leeyahay bug leh soo kabashada dheer ee faylalka waaweyn.
Si loo tijaabiyo waxtarka kaydinta iyo xawaaraha qorista / dib u soo celinta kaydka, waxaan sameeyay kayd gooni ah oo waxaan isku dayay inaan kaydiyo sawir yar oo mashiinka farsamada ah (21 GB). Laba nuqul ayaa la sameeyay iyada oo aan la beddelin asalka, iyada oo la adeegsanayo mid kasta oo ka mid ah xalalka liiska si loo hubiyo sida ugu dhakhsaha badan / gaabis ee xogta la soo koobiyay.
Sida aan arki karno, Borg Backup wuxuu leeyahay saamiga waxtarka kaydinta bilowga ah ee ugu fiican, laakiin wuu ka hooseeyaa marka loo eego qorista iyo soo celinta xawaaraha labadaba.
Restic wuxuu noqday mid ka dhakhso badan Benji Backup, laakiin waxay qaadanaysaa waqti dheer in dib loogu soo celiyo stdout, iyo, nasiib daro, weli ma garanayo sida si toos ah loogu qoro qalabka xannibaadda.
Ka dib markaan miisaamay dhammaan faa'iidooyinka iyo khasaarooyinka, waxaan go'aansaday inaan dejiyo nasasho Ρ nasashada-server sida ugu habboon uguna rajada leh xal gurmad ah.
Shaashadan shaashadda waxaad ku arki kartaa sida kanaalka 10-gigabit ah si buuxda looga faa'iidaysto inta lagu jiro dhawr hawlgal oo gurmad ah oo isku mar wada socda. Waxaa xusid mudan in dib-u-warshadaynta diskooga aysan kor u dhaafin 30%.
Aad ayaan ugu faraxsanahay xalka aan helay!
Source: www.habr.com