Ifiwera kukuru ti faaji SDS tabi wa fun ipilẹ ibi ipamọ to dara (GlusterVsCephVsVirtuozzoStorage)

A kọ nkan yii lati ṣe iranlọwọ fun ọ lati yan ojutu ti o tọ fun ararẹ ati loye awọn iyatọ laarin SDS bii Gluster, Ceph ati Vstorage (Virtuozzo).

Ọrọ naa nlo awọn ọna asopọ si awọn nkan pẹlu ifitonileti alaye diẹ sii ti awọn iṣoro kan, nitorinaa awọn apejuwe yoo jẹ kukuru bi o ti ṣee, ni lilo awọn aaye pataki laisi fluff ti ko wulo ati alaye iforo ti o le, ti o ba fẹ, gba ominira lori Intanẹẹti.

Ni otitọ, dajudaju, awọn koko-ọrọ ti o dide nilo awọn ohun orin ti ọrọ naa, ṣugbọn ni agbaye ode oni awọn eniyan diẹ sii ati siwaju sii ko fẹran kika pupọ)))) nitorina o le yara ka ati ṣe yiyan, ati pe ti nkan ba jẹ. ko ko o, tẹle awọn ọna asopọ tabi google koyewa ọrọ))), ati awọn yi article jẹ bi a sihin wrapper fun awọn wọnyi jin ero, fifi awọn nkún - awọn ifilelẹ ti awọn bọtini ojuami ti kọọkan ipinnu.

Iṣupọ

Jẹ ki a bẹrẹ pẹlu Gluster, eyiti o nlo ni agbara nipasẹ awọn olupese ti awọn iru ẹrọ hyperconverged pẹlu SDS ti o da lori orisun ṣiṣi fun awọn agbegbe foju ati pe o le rii lori oju opo wẹẹbu RedHat ni apakan ibi ipamọ, nibiti o le yan lati awọn aṣayan SDS meji: Gluster tabi Ceph.

Gluster ni akopọ ti awọn onitumọ - awọn iṣẹ ti o ṣe gbogbo iṣẹ ti pinpin awọn faili, ati bẹbẹ lọ. Biriki jẹ iṣẹ kan ti o ṣe iṣẹ disk kan, Iwọn didun jẹ iwọn didun kan (pool) ti o ṣopọ awọn biriki wọnyi. Nigbamii ti iṣẹ naa wa fun pinpin awọn faili si awọn ẹgbẹ ni lilo iṣẹ DHT (tabili hash pinpin). A kii yoo pẹlu iṣẹ Sharding ninu apejuwe nitori awọn ọna asopọ ni isalẹ yoo ṣe apejuwe awọn iṣoro ti o ni nkan ṣe pẹlu rẹ.

Ifiwera kukuru ti faaji SDS tabi wa fun ipilẹ ibi ipamọ to dara (GlusterVsCephVsVirtuozzoStorage)

Nigbati o ba nkọwe, gbogbo faili ti wa ni ipamọ ni biriki ati pe ẹda rẹ ni a kọ ni nigbakannaa si biriki lori olupin keji. Nigbamii ti, faili keji yoo kọ si ẹgbẹ keji ti awọn biriki meji (tabi diẹ sii) lori awọn olupin oriṣiriṣi.

Ti awọn faili ba wa ni iwọn kanna ati iwọn didun ni ẹgbẹ kan, lẹhinna ohun gbogbo dara, ṣugbọn labẹ awọn ipo miiran awọn iṣoro wọnyi yoo dide lati awọn apejuwe:

  • aaye ninu awọn ẹgbẹ ti wa ni lilo lainidi, o da lori iwọn awọn faili ati ti aaye ko ba to ninu ẹgbẹ lati kọ faili kan, iwọ yoo gba aṣiṣe kan, faili naa kii yoo kọ ati pe kii yoo tun pin si ẹgbẹ miiran. ;
  • nigba kikọ faili kan, IO lọ si ẹgbẹ kan nikan, awọn iyokù ko ṣiṣẹ;
  • o ko le gba IO ti gbogbo iwọn didun nigba kikọ faili kan;
  • ati awọn Erongba gbogbo wulẹ kere productive nitori awọn aini ti data pinpin si awọn bulọọki, ibi ti o ti jẹ rọrun lati dọgbadọgba ati yanju isoro ti aṣọ ile pinpin, ati ki o ko bi bayi gbogbo faili lọ sinu kan Àkọsílẹ.

Lati awọn osise apejuwe faaji a tun wa lainidii si oye pe gluster ṣiṣẹ bi ibi ipamọ faili lori oke RAID hardware Ayebaye. Awọn igbiyanju idagbasoke ti wa lati ge awọn faili (Sharding) sinu awọn bulọọki, ṣugbọn gbogbo eyi jẹ afikun ti o fa awọn adanu iṣẹ ṣiṣe lori ọna ayaworan ti o wa tẹlẹ, pẹlu lilo iru awọn paati pinpin larọwọto pẹlu awọn idiwọn iṣẹ bi Fuse. Ko si awọn iṣẹ metadata, eyiti o ṣe opin iṣẹ ṣiṣe ati awọn agbara ifarada ẹbi ti ibi ipamọ nigbati o n pin awọn faili sinu awọn bulọọki. Awọn afihan iṣẹ ṣiṣe to dara julọ ni a le ṣe akiyesi pẹlu iṣeto ni “Pinpin Replicated” ati nọmba awọn apa yẹ ki o jẹ o kere ju 6 lati ṣeto ẹda 3 ti o gbẹkẹle pẹlu pinpin fifuye to dara julọ.

Awọn awari wọnyi tun ni ibatan si apejuwe ti iriri olumulo Iṣupọ ati nigbati akawe pẹlu Kef, ati pe apejuwe iriri tun wa ti o yori si oye ti iṣelọpọ diẹ sii ati iṣeto ni igbẹkẹle diẹ sii “Ti pin kaakiri”.
Ifiwera kukuru ti faaji SDS tabi wa fun ipilẹ ibi ipamọ to dara (GlusterVsCephVsVirtuozzoStorage)

Aworan naa ṣe afihan pinpin fifuye nigba kikọ awọn faili meji, nibiti awọn ẹda ti faili akọkọ ti pin kaakiri awọn olupin mẹta akọkọ, eyiti o ni idapo si ẹgbẹ iwọn didun 0, ati awọn ẹda mẹta ti faili keji ni a gbe sori ẹgbẹ keji iwọn1 ti mẹta. apèsè. Olupin kọọkan ni disk kan.

Ipari gbogbogbo ni pe o le lo Gluster, ṣugbọn pẹlu oye pe awọn idiwọn yoo wa ninu iṣẹ ati ifarada ẹbi ti o ṣẹda awọn iṣoro labẹ awọn ipo kan ti ojutu hyperconverged, nibiti awọn orisun tun nilo fun awọn ẹru iširo ti awọn agbegbe foju.

Awọn afihan iṣẹ Gluster kan tun wa ti o le ṣe aṣeyọri labẹ awọn ipo kan, ni opin si ifarada ẹbi.

Kef

Bayi jẹ ki a wo Ceph lati awọn apejuwe faaji ti Mo ni anfani lati ri. Wa ti tun kan lafiwe laarin Glusterfs ati Ceph, nibi ti o ti le loye lẹsẹkẹsẹ pe o ni imọran lati mu Ceph sori awọn olupin lọtọ, nitori awọn iṣẹ rẹ nilo gbogbo awọn orisun ohun elo labẹ fifuye.

faaji Ceph eka diẹ sii ju Gluster ati pe awọn iṣẹ wa gẹgẹbi awọn iṣẹ metadata, ṣugbọn gbogbo akopọ ti awọn paati jẹ eka pupọ ati pe ko rọ pupọ fun lilo rẹ ni ojuutu ipasẹ. Awọn data ti wa ni ipamọ ni awọn bulọọki, eyi ti o dabi diẹ sii ti iṣelọpọ, ṣugbọn ninu awọn ilana ti gbogbo awọn iṣẹ (awọn ẹya ara ẹrọ), awọn adanu ati lairi wa labẹ awọn ẹru kan ati awọn ipo pajawiri, fun apẹẹrẹ atẹle naa. article.

Lati apejuwe ti faaji, ọkan jẹ CRUSH, o ṣeun si eyiti a yan ipo fun titoju data. Nigbamii ti o wa PG - eyi ni abstraction ti o nira julọ (ẹgbẹ ọgbọn) lati ni oye. Awọn PGs nilo lati jẹ ki CRUSH munadoko diẹ sii. Idi akọkọ ti PG ni lati ṣe akojọpọ awọn nkan lati dinku agbara awọn orisun, mu iṣẹ pọ si ati iwọn. Ṣiṣatunṣe awọn nkan taara, lọkọọkan, laisi apapọ wọn sinu PG yoo jẹ gbowolori pupọ. OSD jẹ iṣẹ kan fun disk kọọkan kọọkan.

Ifiwera kukuru ti faaji SDS tabi wa fun ipilẹ ibi ipamọ to dara (GlusterVsCephVsVirtuozzoStorage)

Ifiwera kukuru ti faaji SDS tabi wa fun ipilẹ ibi ipamọ to dara (GlusterVsCephVsVirtuozzoStorage)

Iṣupọ le ni ọkan tabi pupọ awọn adagun data fun awọn idi oriṣiriṣi ati pẹlu awọn eto oriṣiriṣi. Awọn adagun omi ti pin si awọn ẹgbẹ ibi. Awọn ẹgbẹ ibi ipamọ awọn nkan ti awọn alabara wọle si. Eleyi jẹ ibi ti awọn mogbonwa ipele dopin, ati awọn ti ara ipele bẹrẹ, nitori kọọkan placement Ẹgbẹ ti wa ni sọtọ ọkan akọkọ disk ati orisirisi awọn ajọra gbangba (bawo ni pato dale lori awọn pool atunse ifosiwewe). Ni awọn ọrọ miiran, ni ipele ọgbọn ohun naa ti wa ni ipamọ ni ẹgbẹ kan pato, ati ni ipele ti ara - lori awọn disiki ti a yàn si. Ni idi eyi, awọn disiki le wa ni ti ara lori awọn apa oriṣiriṣi tabi paapaa ni awọn ile-iṣẹ data ọtọtọ.

Ninu ero yii, awọn ẹgbẹ gbigbe dabi ipele ti o yẹ fun irọrun ti gbogbo ojutu, ṣugbọn ni akoko kanna, bi ọna asopọ afikun ninu pq yii, eyiti o ni imọran lainidii ipadanu ti iṣelọpọ. Fun apẹẹrẹ, nigba kikọ data, eto naa nilo lati pin si awọn ẹgbẹ wọnyi ati lẹhinna ni ipele ti ara sinu disk akọkọ ati awọn disiki fun awọn ẹda. Iyẹn ni, iṣẹ Hash ṣiṣẹ nigba wiwa ati fifi nkan sii, ṣugbọn ipa ẹgbẹ kan wa - o jẹ awọn idiyele giga pupọ ati awọn ihamọ lori atunṣe hash (nigbati o ba ṣafikun tabi yọ disk kuro). Iṣoro elile miiran ni ipo ti a mọ ni kedere ti data ti ko le yipada. Iyẹn ni, ti disiki bakan naa ba wa labẹ ẹru ti o pọ si, lẹhinna eto naa ko ni aye lati ma kọ si (nipa yiyan disk miiran), iṣẹ hash jẹ dandan data lati wa ni ibamu si ofin, laibikita bi o ti buru. disk naa jẹ, nitorina Ceph njẹ iranti pupọ nigbati o tun ṣe PG ni ọran ti iwosan ara ẹni tabi ibi ipamọ ti o pọ sii. Ipari ni pe Ceph ṣiṣẹ daradara (botilẹjẹpe laiyara), ṣugbọn nikan nigbati ko ba si igbelosoke, awọn ipo pajawiri, tabi awọn imudojuiwọn.

Awọn aṣayan wa, dajudaju, awọn aṣayan fun jijẹ iṣẹ nipasẹ caching ati pinpin kaṣe, ṣugbọn eyi nilo ohun elo ti o dara ati pe awọn adanu yoo tun wa. Ṣugbọn lapapọ, Ceph dabi idanwo diẹ sii ju Gluster fun iṣelọpọ. Paapaa, nigba lilo awọn ọja wọnyi, o jẹ dandan lati ṣe akiyesi ifosiwewe pataki kan - eyi jẹ ipele giga ti ijafafa, iriri ati amọja pẹlu tcnu nla lori Lainos, nitori o ṣe pataki pupọ lati fi ranṣẹ, tunto ati atilẹyin ohun gbogbo ni deede, eyi ti o fa ani diẹ ojuse ati ẹrù lori alakoso.

Ibi ipamọ

Awọn faaji wulẹ ani diẹ awon Ibi ipamọ Virtuozzo(Vstorage), eyi ti o le ṣee lo ni apapo pẹlu hypervisor lori awọn apa kanna, lori kanna ẹṣẹ, ṣugbọn o ṣe pataki pupọ lati tunto ohun gbogbo ni deede lati ṣaṣeyọri iṣẹ to dara. Iyẹn ni, gbigbe iru ọja lati apoti lori eyikeyi iṣeto ni laisi akiyesi awọn iṣeduro ni ibamu pẹlu faaji yoo jẹ irọrun pupọ, ṣugbọn kii ṣe iṣelọpọ.

Kini o le ṣe ibajọpọ fun ibi ipamọ lẹgbẹẹ awọn iṣẹ ti kvm-qemu hypervisor, ati pe iwọnyi jẹ awọn iṣẹ diẹ nibiti a ti rii ipo-ọna ti o dara julọ ti awọn paati: iṣẹ alabara ti a gbe nipasẹ FUSE (atunṣe, kii ṣe orisun ṣiṣi), iṣẹ metadata MDS (Iṣẹ Metadata), awọn bulọọki data iṣẹ Chunk iṣẹ, eyiti o wa ni ipele ti ara jẹ dọgba si disk kan ati pe gbogbo rẹ ni. Ni awọn ofin ti iyara, nitorinaa, o dara julọ lati lo ero ifarada-aṣiṣe pẹlu awọn ẹda meji, ṣugbọn ti o ba lo caching ati awọn akọọlẹ lori awọn awakọ SSD, lẹhinna ifaminsi-ọlọdun aṣiṣe (ifaminsi nu tabi raid6) le jẹ apọju ni deede lori kan arabara eni tabi paapa dara lori gbogbo filasi. Diẹ ninu aila-nfani wa pẹlu EC (awọn ifaminsi nu): nigbati o ba yipada bulọọki data kan, o jẹ dandan lati ṣe atunto awọn iye iwọn. Lati fori awọn adanu ti o ni nkan ṣe pẹlu iṣiṣẹ yii, Ceph kọwe si EC ni ọna idaduro ati awọn iṣoro iṣẹ le waye lakoko ibeere kan, nigbati, fun apẹẹrẹ, gbogbo awọn bulọọki nilo lati ka, ati ninu ọran Ibi ipamọ Virtuozzo, kikọ awọn bulọọki ti o yipada. Ti ṣe ni lilo ọna “eto faili ti iṣeto-iwọle”, eyiti o dinku awọn idiyele iṣiro-ipin. Lati ṣe iṣiro isunmọ awọn aṣayan pẹlu isare ti iṣẹ pẹlu ati laisi EC, o wa isiro. - awọn isiro le jẹ isunmọ ti o da lori iyeye iyege ti olupese ẹrọ, ṣugbọn abajade ti awọn iṣiro jẹ iranlọwọ ti o dara ni siseto iṣeto naa.

Aworan ti o rọrun ti awọn paati ipamọ ko tumọ si pe awọn paati wọnyi ko fa awọn ohun elo irin, ṣugbọn ti o ba ṣe iṣiro gbogbo awọn idiyele ni ilosiwaju, o le gbẹkẹle ifowosowopo lẹgbẹẹ hypervisor.
Eto kan wa fun ifiwera agbara awọn orisun ohun elo nipasẹ Ceph ati awọn iṣẹ ibi ipamọ Virtuozzo.

Ifiwera kukuru ti faaji SDS tabi wa fun ipilẹ ibi ipamọ to dara (GlusterVsCephVsVirtuozzoStorage)

Ti tẹlẹ o ṣee ṣe lati ṣe afiwe Gluster ati Ceph nipa lilo awọn nkan atijọ, lilo awọn laini pataki julọ lati ọdọ wọn, lẹhinna pẹlu Virtuozzo o nira sii. Ko si ọpọlọpọ awọn nkan lori ọja yii ati pe alaye le ṣe ikojọpọ nikan lati inu iwe lori Gẹẹsi tabi ni Russian ti o ba ti a ro Vstorage bi ipamọ ti a lo ni diẹ ninu awọn hyperconverged solusan ni awọn ile ise bi Rosplatforma ati Acronis.

Emi yoo gbiyanju lati ṣe iranlọwọ pẹlu apejuwe ti faaji yii, nitorinaa ọrọ diẹ yoo wa, ṣugbọn o gba akoko pupọ lati ni oye iwe naa funrararẹ, ati pe awọn iwe ti o wa tẹlẹ le ṣee lo bi itọkasi nipasẹ atunṣe tabili ti awọn akoonu tabi wiwa nipasẹ Koko.

Jẹ ki a ṣe akiyesi ilana igbasilẹ ni iṣeto ohun elo arabara pẹlu awọn paati ti a ṣalaye loke: gbigbasilẹ bẹrẹ lati lọ si ipade lati eyiti alabara ti bẹrẹ rẹ (iṣẹ aaye oke FUSE), ṣugbọn paati titunto si Iṣẹ Metadata (MDS) yoo dajudaju. darí awọn ose taara si awọn ti o fẹ chunk iṣẹ (išẹ ipamọ CS ohun amorindun), ti o ni, MDS ko ni kopa ninu awọn gbigbasilẹ ilana, sugbon nìkan tara awọn iṣẹ si awọn chunk ti a beere. Ni gbogbogbo, a le fun ni afiwe si gbigbasilẹ pẹlu sisọ omi sinu awọn agba. Agba kọọkan jẹ bulọọki data 256MB kan.

Ifiwera kukuru ti faaji SDS tabi wa fun ipilẹ ibi ipamọ to dara (GlusterVsCephVsVirtuozzoStorage)

Iyẹn ni, disk kan jẹ nọmba kan ti iru awọn agba, iyẹn ni, iwọn didun disk ti o pin nipasẹ 256MB. Ẹda kọọkan ti pin si oju ipade kan, keji fẹrẹẹ ni afiwe si ipade miiran, bbl log si SSD, ati atunto afiwe lati SSD yoo tẹsiwaju lori HDD, bi ẹnipe ni abẹlẹ. Ninu ọran ti awọn ẹda mẹta, igbasilẹ naa yoo ṣe lẹhin ijẹrisi lati SSD ti ipade kẹta. O le dabi pe apao iyara kikọ ti awọn SSD mẹta le pin si mẹta ati pe a yoo gba iyara kikọ ti ẹda kan, ṣugbọn awọn adakọ ni a kọ ni afiwe ati iyara Latency nẹtiwọọki nigbagbogbo ga ju ti SSD lọ, ati ni otitọ iṣẹ kikọ yoo dale lori nẹtiwọọki naa. Ni iyi yii, lati rii IOPS gidi, o nilo lati ṣajọpọ gbogbo Vstorage ni deede nipasẹ ilana, iyẹn ni, idanwo ẹru gidi, kii ṣe iranti ati kaṣe, nibiti o jẹ dandan lati ṣe akiyesi iwọn idina data to pe, nọmba awọn okun, ati bẹbẹ lọ.

Iwe gbigbasilẹ ti a mẹnuba loke lori SSD ṣiṣẹ ni ọna ti o jẹ pe ni kete ti data ba wọle, iṣẹ naa yoo ka lẹsẹkẹsẹ ati kọ si HDD. Awọn iṣẹ metadata pupọ wa (MDS) fun iṣupọ ati pe nọmba wọn jẹ ipinnu nipasẹ iyewo kan, eyiti o ṣiṣẹ ni ibamu si Paxos algorithm. Lati oju wiwo alabara, aaye oke FUSE jẹ folda ibi ipamọ iṣupọ ti o han nigbakanna si gbogbo awọn apa inu iṣupọ, ipade kọọkan ni alabara ti a gbe ni ibamu si ipilẹ yii, nitorinaa ibi ipamọ yii wa si ipade kọọkan.

Fun iṣẹ ṣiṣe ti eyikeyi awọn ọna ti a ṣalaye loke, o ṣe pataki pupọ, ni igbero ati ipele imuṣiṣẹ, lati tunto nẹtiwọọki ni deede, nibiti iwọntunwọnsi yoo wa nitori iṣakojọpọ ati bandiwidi ikanni nẹtiwọki ti a yan ni deede. Ni akojọpọ, o ṣe pataki lati yan ipo hashing ọtun ati awọn iwọn fireemu. Iyatọ ti o lagbara pupọ tun wa lati SDS ti a ṣalaye loke, eyi jẹ fiusi pẹlu imọ-ẹrọ ọna iyara ni Ibi ipamọ Virtuozzo. Ewo, ni afikun si fiusi ti olaju, ko dabi awọn solusan orisun ṣiṣi miiran, pọ si IOPS ni pataki ati gba ọ laaye lati ma ni opin nipasẹ iwọn petele tabi inaro. Ni gbogbogbo, ni akawe si awọn ayaworan ti a ṣalaye loke, eyi dabi agbara diẹ sii, ṣugbọn fun iru idunnu, dajudaju, o nilo lati ra awọn iwe-aṣẹ, bii Ceph ati Gluster.

Lati ṣe akopọ, a le ṣe afihan oke ti awọn mẹta: Ibi ipamọ Virtuozzo gba ipo akọkọ ni awọn iṣe ti iṣẹ ati igbẹkẹle ti faaji, Ceph gba ipo keji, ati Gluster gba ipo kẹta.

Awọn ibeere nipasẹ eyiti a yan Ibi ipamọ Virtuozzo: o jẹ eto ti aipe ti awọn paati ayaworan, ti olaju fun ọna Fuse yii pẹlu ọna iyara, eto irọrun ti awọn atunto ohun elo, lilo awọn orisun ti o dinku ati agbara lati pin pẹlu iṣiro (iṣiro / foju), ti o jẹ, o jẹ patapata dara fun a hyperconverged ojutu , eyi ti o jẹ apakan ti. Ibi keji jẹ Ceph nitori pe o jẹ faaji ti iṣelọpọ diẹ sii ni akawe si Gluster, nitori iṣiṣẹ rẹ ninu awọn bulọọki, bakanna bi awọn oju iṣẹlẹ ti o rọ diẹ sii ati agbara lati ṣiṣẹ ni awọn iṣupọ nla.

Awọn ero wa lati kọ lafiwe laarin vSAN, Ibi ipamọ taara Space, Vstorage ati Ibi ipamọ Nutanix, idanwo Vstorage lori ohun elo HPE ati Huawei, ati awọn oju iṣẹlẹ fun iṣọpọ Vstorage pẹlu awọn eto ibi ipamọ ohun elo ita, nitorinaa ti o ba nifẹ nkan naa, yoo jẹ. nice lati gba esi lati ọdọ rẹ, eyiti o le mu iwuri pọ si fun awọn nkan tuntun, ni akiyesi awọn asọye ati awọn ifẹ rẹ.

orisun: www.habr.com

Fi ọrọìwòye kun