Kaabo, Mo ṣẹṣẹ pade iṣoro ti o nifẹ si: ṣeto ibi ipamọ fun ṣiṣe atilẹyin nọmba nla ti awọn ẹrọ idina.
Ni gbogbo ọsẹ a ṣe afẹyinti gbogbo awọn ẹrọ foju inu awọsanma wa, nitorinaa a nilo lati ni anfani lati ṣetọju ẹgbẹẹgbẹrun awọn afẹyinti ati ṣe ni yarayara ati daradara bi o ti ṣee.
Laanu, boṣewa atunto RAID5, RAID6 ninu ọran yii, a ko ni gba wa laaye lati ṣe bẹ, niwọn igba ti ilana imularada lori awọn disiki nla bii tiwa yoo pẹ ni irora ati pe kii yoo pari.
Jẹ ki a wo awọn ọna miiran ti o wa:
- Iru si RAID5, RAID6, ṣugbọn pẹlu atunto ipele ipele. Ni idi eyi, ifiṣura naa ko ṣe dina nipasẹ bulọki, ṣugbọn fun ohun kọọkan lọtọ. Ọna to rọọrun lati gbiyanju ifaminsi erasure ni lati faagun .
jẹ ẹya ZFS ti a ko tu silẹ lọwọlọwọ. Ko dabi RAIDZ, DRAID ni idinamọ pinpin pinpin ati, lakoko imularada, lo gbogbo awọn disiki ti orun ni ẹẹkan, eyiti o jẹ ki o ni anfani lati ye awọn ikuna disiki ati ki o bọsipọ yiyara lẹhin ikuna.
Olupin wa Fujitsu alakoko RX300 S7 pẹlu isise Intel Xeon Sipiyu E5-2650L 0 @ 1.80GHz, mẹsan ọpá ti Ramu Samsung DDR3-1333 8Gb PC3L-10600R ECC Iforukọsilẹ (M393B1K70DH0-YH9), disk selifu Supermicro SuperChassis 847E26-RJBOD1, ti a ti sopọ nipasẹ Meji LSI SAS2X36 Expander ati 45 disiki Seagage ST6000NM0115-1YZ110 on 6TB ọkọọkan.
Ṣaaju ki a to pinnu ohunkohun, a nilo akọkọ lati ṣe idanwo ohun gbogbo daradara.
Lati ṣe eyi, Mo pese ati idanwo orisirisi awọn atunto. Lati ṣe eyi, Mo lo minio, eyiti o ṣe bi ẹhin S3 ati ṣe ifilọlẹ ni awọn ipo oriṣiriṣi pẹlu awọn nọmba oriṣiriṣi ti awọn ibi-afẹde.
Ni ipilẹ, ọran minio naa ni idanwo ni ifaminsi erasure vs igbogun ti sọfitiwia pẹlu nọmba kanna ti awọn disiki ati ibamu ti awọn disiki, ati pe iwọnyi jẹ: RAID6, RAIDZ2 ati DRAID2.
Fun itọkasi: nigbati o ba ṣe ifilọlẹ minio pẹlu ibi-afẹde kan nikan, minio n ṣiṣẹ ni ipo ẹnu-ọna S3, jiṣẹ eto faili agbegbe rẹ ni irisi ibi ipamọ S3. Ti o ba ṣe ifilọlẹ minio ti n ṣalaye awọn ibi-afẹde pupọ, ipo Ifaminsi Erasure yoo tan-an laifọwọyi, eyiti yoo tan data laarin awọn ibi-afẹde rẹ lakoko ti o pese ifarada aṣiṣe.
Nipa aiyipada, minio pin awọn ibi-afẹde si awọn ẹgbẹ ti awọn disiki 16, pẹlu 2 parities fun ẹgbẹ kan. Awon. Awọn disiki meji le kuna ni akoko kanna laisi sisọnu data.
Lati ṣe idanwo iṣẹ ṣiṣe, Mo lo awọn disiki 16 ti 6TB ọkọọkan ati kọ awọn nkan kekere ti 1MB ni iwọn lori wọn, eyi ni a ṣe apejuwe ni deede fifuye iwaju wa, nitori gbogbo awọn irinṣẹ afẹyinti ode oni pin data si awọn bulọọki ti awọn megabytes pupọ ati kọ wọn ni ọna yii.
Lati ṣe ala-ilẹ, a lo ohun elo s3bench, ti a ṣe ifilọlẹ lori olupin latọna jijin ati fifiranṣẹ awọn ẹgbẹẹgbẹrun iru awọn nkan bẹ si minio ni awọn ọgọọgọrun awọn okun. Lẹhin eyi Mo gbiyanju lati beere wọn pada ni ọna kanna.
Awọn abajade ala jẹ afihan ninu tabili atẹle:
Gẹgẹbi a ti le rii, minio ni ipo ifaminsi erasure tirẹ ṣe pataki buru ni kikọ ju minio nṣiṣẹ lori oke sọfitiwia RAID6, RAIDZ2 ati DRAID2 ni iṣeto kanna.
Lọtọ mi idanwo minio on ext4 vs XFS. Iyalenu, fun iru iṣẹ ṣiṣe mi, XFS ti jade lati jẹ o lọra pupọ ju ext4.
Ni ipele akọkọ ti awọn idanwo, Mdadm ṣe afihan didara julọ lori ZFS, ṣugbọn nigbamii pe o le mu ilọsiwaju ZFS ṣiṣẹ nipa tito awọn aṣayan wọnyi:
xattr=sa atime=off recordsize=1Mati lẹhin ti awọn igbeyewo pẹlu ZFS di Elo dara.
O tun le ṣe akiyesi pe DRAID ko pese ere iṣẹ pupọ lori RAIDZ, ṣugbọn ni imọran o yẹ ki o jẹ ailewu pupọ.
Ninu awọn idanwo meji ti o kẹhin, Mo tun gbiyanju lati gbe metadata (pataki) ati ZIL (log) si digi lati SSD. Ṣugbọn yiyọ metadata ko fun Elo ere ni gbigbasilẹ iyara, ati nigbati o ba yọ ZIL, mi lu aja pẹlu 100% iṣamulo, nitorinaa Mo ro pe idanwo yii jẹ ikuna. Emi ko yọkuro pe ti Mo ba ni awọn awakọ SSD yiyara, lẹhinna boya eyi le mu awọn abajade mi dara pupọ, ṣugbọn, laanu, Emi ko ni wọn.
Ni ipari, Mo pinnu lati lo DRAID ati laibikita ipo beta rẹ, o jẹ ojutu ibi ipamọ ti o yara julọ ati lilo daradara julọ ninu ọran wa.
Mo ṣẹda DRAID2 ti o rọrun ni iṣeto ni pẹlu awọn ẹgbẹ mẹta ati awọn ifipaji pinpin meji:
# zpool status data
pool: data
state: ONLINE
scan: none requested
config:
NAME STATE READ WRITE CKSUM
data ONLINE 0 0 0
draid2:3g:2s-0 ONLINE 0 0 0
sdy ONLINE 0 0 0
sdam ONLINE 0 0 0
sdf ONLINE 0 0 0
sdau ONLINE 0 0 0
sdab ONLINE 0 0 0
sdo ONLINE 0 0 0
sdw ONLINE 0 0 0
sdak ONLINE 0 0 0
sdd ONLINE 0 0 0
sdas ONLINE 0 0 0
sdm ONLINE 0 0 0
sdu ONLINE 0 0 0
sdai ONLINE 0 0 0
sdaq ONLINE 0 0 0
sdk ONLINE 0 0 0
sds ONLINE 0 0 0
sdag ONLINE 0 0 0
sdi ONLINE 0 0 0
sdq ONLINE 0 0 0
sdae ONLINE 0 0 0
sdz ONLINE 0 0 0
sdan ONLINE 0 0 0
sdg ONLINE 0 0 0
sdac ONLINE 0 0 0
sdx ONLINE 0 0 0
sdal ONLINE 0 0 0
sde ONLINE 0 0 0
sdat ONLINE 0 0 0
sdaa ONLINE 0 0 0
sdn ONLINE 0 0 0
sdv ONLINE 0 0 0
sdaj ONLINE 0 0 0
sdc ONLINE 0 0 0
sdar ONLINE 0 0 0
sdl ONLINE 0 0 0
sdt ONLINE 0 0 0
sdah ONLINE 0 0 0
sdap ONLINE 0 0 0
sdj ONLINE 0 0 0
sdr ONLINE 0 0 0
sdaf ONLINE 0 0 0
sdao ONLINE 0 0 0
sdh ONLINE 0 0 0
sdp ONLINE 0 0 0
sdad ONLINE 0 0 0
spares
s0-draid2:3g:2s-0 AVAIL
s1-draid2:3g:2s-0 AVAIL
errors: No known data errorsO dara, a ti ṣeto awọn ibi ipamọ, ni bayi jẹ ki a sọrọ nipa ohun ti a yoo ṣe afẹyinti. Nibi Emi yoo fẹ lati sọ lẹsẹkẹsẹ nipa awọn ojutu mẹta ti Mo ṣakoso lati gbiyanju, ati pe iwọnyi jẹ:
- orita , Ojutu amọja fun afẹyinti ohun elo dina, ni iṣọpọ ju pẹlu Ceph. Le ya awọn iyatọ laarin snapshots ati ṣe afẹyinti afikun lati ọdọ wọn. Ṣe atilẹyin nọmba nla ti awọn ẹhin ibi ipamọ, pẹlu mejeeji agbegbe ati S3. Nbeere aaye data lọtọ lati tọju tabili hash idinkukuro. Awọn alailanfani: ti a kọ sinu Python, ni cli ti ko ni idahun diẹ.
- orita , A gun-mọ ati ki o fihan afẹyinti ọpa, le afẹyinti data ki o si deduplicate o daradara. Ni anfani lati fipamọ awọn afẹyinti mejeeji ni agbegbe ati si olupin latọna jijin nipasẹ scp. Le ṣe afẹyinti awọn ẹrọ ti o ba ṣe ifilọlẹ pẹlu asia --special, ọkan ninu awọn minuses: nigbati o ba ṣẹda afẹyinti, ibi ipamọ naa ti dina patapata, nitorina o ṣe iṣeduro lati ṣẹda ibi ipamọ ti o yatọ fun ẹrọ aifọwọyi kọọkan, ni ipilẹ eyi kii ṣe iṣoro, o daa pe wọn ṣẹda ni rọọrun.
jẹ iṣẹ akanṣe idagbasoke ti nṣiṣe lọwọ, ti a kọ ni lilọ, iyara pupọ ati atilẹyin nọmba nla ti awọn ẹhin ibi ipamọ, pẹlu ibi ipamọ agbegbe, scp, S3 ati pupọ diẹ sii. Lọtọ, Emi yoo fẹ lati ṣe akiyesi pe o wa ti a ṣẹda pataki fun restic, eyi ti o faye gba o lati ni kiakia okeere ipamọ fun lilo latọna jijin. Ninu gbogbo awọn ti o wa loke, Mo fẹran rẹ julọ. Le afẹyinti lati stdin. O fẹrẹ ko ni awọn aila-nfani ti o ṣe akiyesi, ṣugbọn awọn ẹya pupọ wa:
-
Ni akọkọ, Mo gbiyanju lati lo ni ipo ibi ipamọ gbogbogbo fun gbogbo awọn ẹrọ foju (bii Benji) ati pe o ṣiṣẹ daradara daradara, ṣugbọn awọn iṣẹ imupadabọ gba akoko pipẹ pupọ, nitori… Ni gbogbo igba ṣaaju mimu-pada sipo, restic gbìyànjú lati ka metadata ti gbogbo awọn afẹyinti. Isoro yii ni irọrun yanju, bi pẹlu borg, nipa ṣiṣẹda ibi ipamọ lọtọ fun ẹrọ foju kọọkan. Ọna yii ti fihan pe o munadoko pupọ fun iṣakoso awọn afẹyinti daradara. Awọn ibi ipamọ lọtọ le ni ọrọ igbaniwọle lọtọ fun iraye si data, ati pe a tun ko ni lati bẹru pe ibi ipamọ agbaye le fọ bakan. O le spawn titun ibi ipamọ kan bi awọn iṣọrọ bi ni borg afẹyinti.
Ni eyikeyi idiyele, iyọkuro jẹ ṣiṣe ni ibatan si ẹya iṣaaju ti afẹyinti; afẹyinti ti tẹlẹ jẹ ipinnu nipasẹ ọna fun afẹyinti pàtó, nitorinaa ti o ba ṣe afẹyinti awọn nkan oriṣiriṣi lati stdin si ibi ipamọ ti o wọpọ, maṣe gbagbe lati pato awọn aṣayan
--stdin-filename, tabi ni pato pato aṣayan ni igba kọọkan--parent.
-
Ni ẹẹkeji, imularada si stdout gba to gun ju imularada lọ si eto faili nitori iseda ti o jọra. Ni ọjọ iwaju, a gbero lati ṣafikun atilẹyin isunmọ fun awọn afẹyinti fun awọn ẹrọ dina.
-
Kẹta, o ti wa ni Lọwọlọwọ niyanju lati lo , nitori version 0.9.6 ni kokoro kan pẹlu igbapada pipẹ ti awọn faili nla.
Lati ṣe idanwo imunadoko ti afẹyinti ati iyara kikọ / mimu-pada sipo lati afẹyinti, Mo ṣẹda ibi ipamọ lọtọ ati gbiyanju lati ṣe afẹyinti aworan kekere ti ẹrọ foju (21 GB). Awọn afẹyinti meji ni a ṣe laisi iyipada atilẹba, ni lilo ọkọọkan awọn ojutu ti a ṣe akojọ lati ṣayẹwo bi o ti ṣe yiyara/iyara ti daakọ data iyasọtọ naa.
Gẹgẹbi a ti le rii, Afẹyinti Borg ni ipin ṣiṣe ṣiṣe afẹyinti akọkọ ti o dara julọ, ṣugbọn o kere si ni awọn ofin ti kikọ mejeeji ati mimu-pada sipo iyara.
Restic yipada lati yara ju Benji Afẹyinti, ṣugbọn o gba to gun lati mu pada si stdout, ati, laanu, ko tii mọ bi o ṣe le kọ taara si ẹrọ idina kan.
Lẹhin ti iwọn gbogbo awọn anfani ati awọn konsi, Mo pinnu lati yanju restic с isinmi-server bi awọn julọ rọrun ati ki o ni ileri afẹyinti ojutu.
Ninu iboju iboju yii o le rii bii ikanni 10-gigabit kan ṣe lo patapata lakoko awọn iṣẹ ṣiṣe afẹyinti pupọ ti n ṣiṣẹ ni nigbakannaa. O tọ lati ṣe akiyesi pe lilo disk ko ga ju 30%.
Inu mi dun diẹ sii pẹlu ojutu ti Mo gba!
orisun: www.habr.com