Hi uile! Leis an artaigil seo, bidh AERODISK a’ fosgladh blog air Habré. Hurray, a chompanaich!
Bheachdaich artaigilean roimhe air Habré air ceistean mu ailtireachd agus rèiteachadh bunaiteach shiostaman stòraidh. Anns an artaigil seo beachdaichidh sinn air ceist nach deach a chòmhdach roimhe, ach a thèid faighneachd gu tric - mu fhulangas locht siostaman stòraidh ENGINE AERODISK. Nì an sgioba againn a h-uile càil gus dèanamh cinnteach gun stad an siostam stòraidh AERODISK ag obair, i.e. briseadh e.
Tha e mar sin a thachair gu bheil artaigilean mu eachdraidh ar companaidh, mu na toraidhean againn, a bharrachd air eisimpleir de bhuileachadh soirbheachail mu thràth crochte air Habré, airson a bheil Mòran taing dha ar com-pàirtichean - companaidhean TS Solution agus Softline.
Mar sin, cha bhith mi a’ trèanadh sgilean riaghlaidh leth-bhreac an seo, ach dìreach bheir mi ceanglaichean gu bun-bheachdan nan artaigilean seo:
Tha mi cuideachd airson deagh naidheachd a roinn. Ach tòisichidh mi, gu dearbh, leis an duilgheadas. Tha sinne, mar neach-reic òg, am measg chosgaisean eile, an-còmhnaidh mu choinneimh na fìrinn gu bheil mòran innleadairean agus luchd-rianachd dìreach nach eil eòlach air mar a dh’ obraicheas sinn an siostam stòraidh againn gu ceart.
Tha e soilleir gu bheil riaghladh a’ mhòr-chuid de shiostaman stòraidh a’ coimhead timcheall air an aon rud bho shealladh rianadair, ach tha na feartan aige fhèin aig gach neach-dèanamh. Agus chan eil sinn mar eisgeachd an seo.
Mar sin, gus an obair trèanadh eòlaichean IT a dhèanamh nas sìmplidhe, chuir sinn romhainn am-bliadhna a chaitheamh air foghlam an-asgaidh. Gus seo a dhèanamh, ann am mòran de bhailtean mòra na Ruis tha sinn a’ fosgladh lìonra de Ionadan Comais AERODISK, anns am faod eòlaiche teignigeach sam bith le ùidh cùrsa a ghabhail gu tur an-asgaidh agus teisteanas fhaighinn ann a bhith a’ rianachd siostaman stòraidh ENGINE AERODISK.
Anns gach Ionad Comais cuiridh sinn a-steach ionad demo làn-chuimseach bhon t-siostam stòraidh AERODISK agus frithealaiche fiosaigeach, air am bi an tidsear againn a’ dèanamh trèanadh aghaidh-ri-aghaidh. Foillsichidh sinn clàr-obrach nan Ionadan Comais nuair a nochdas iad, ach tha sinn mu thràth air ionad fhosgladh ann an Nizhny Novgorod agus tha baile-mòr Krasnodar an ath rud. Faodaidh tu clàradh airson trèanadh a’ cleachdadh na ceanglaichean gu h-ìosal. Seo am fiosrachadh a tha aithnichte an-dràsta mu bhailtean-mòra agus cinn-latha:
- Nizhny Novgorod (FOSGLADH mar-thà - faodaidh tu clàradh an seo );
Gu ruige 16 Giblean, 2019, faodaidh tu tadhal air an ionad aig àm obrach sam bith, agus air 16 Giblean, 2019, thèid cùrsa trèanaidh mòr a chuir air dòigh. - Krasnodar (FOSGLADH A aithghearr - faodaidh tu clàradh an seo );
Bho 9 Giblean gu 25 Giblean, 2019, faodaidh tu tadhal air an ionad aig àm obrach sam bith, agus air 25 Giblean, 2019, thèid cùrsa trèanaidh mòr a chuir air dòigh. - Екатеринбург (FOSGLADH A aithghearr, lean am fiosrachadh air an làrach-lìn againn no air Habré);
Cèitean-Ògmhios 2019. - Новосибирск (lean am fiosrachadh air an làrach-lìn againn no air Habré);
Dàmhair 2019. - Красноярск (lean am fiosrachadh air an làrach-lìn againn no air Habré);
Samhain 2019.
Agus, gu dearbh, mura h-eil Moscow fada bhuat, an uairsin aig àm sam bith faodaidh tu tadhal air an oifis againn ann am Moscow agus trèanadh coltach ris a dhèanamh.
Uile. Tha sinn deiseil le margaidheachd, gluaisidh sinn air adhart gu teicneòlas!
Air Habré bidh sinn gu cunbhalach a’ foillseachadh artaigilean teignigeach mu na toraidhean againn, deuchainnean luchdan, coimeasan, feartan cleachdaidh agus buileachadh inntinneach.
Deuchainnean tubaist de shiostam stòraidh AERODISK ENGINE N2, deuchainn neart
RABHADH! Às deidh dhut an artaigil a leughadh, faodaidh tu a ràdh: uill, gu dearbh, bheir an neach-reic sùil air fhèin gus am bi a h-uile dad ag obair “le brag,” suidheachaidhean taigh-glainne, msaa. Freagraidh mi: chan eil dad mar sin! Eu-coltach ris na farpaisich cèin againn, tha sinn suidhichte an seo, faisg ort, agus faodaidh tu an-còmhnaidh tighinn thugainn (ann am Moscow no Comataidh Meadhan sam bith) agus deuchainn a dhèanamh air an t-siostam stòraidh againn ann an dòigh sam bith. Mar sin, chan eil e a’ dèanamh mòran ciall dhuinn na toraidhean atharrachadh gu deagh dhealbh den t-saoghal, oir Tha sinn gu math furasta sgrùdadh a dhèanamh. Dhaibhsan a tha ro leisg airson a dhol agus aig nach eil ùine, is urrainn dhuinn deuchainnean iomallach a chuir air dòigh. Tha obair-lann sònraichte againn airson seo. Cuir fios thugainn.
ACHUNG-2! Chan e deuchainn luchd a tha san deuchainn seo, oir an seo chan eil dragh againn ach mu fhulangas lochdan. Ann am beagan sheachdainean, ullaichidh sinn seasamh nas cumhachdaiche agus nì sinn deuchainn luchdan air an t-siostam stòraidh, a’ foillseachadh nan toraidhean an seo (co-dhiù, thathas a ’gabhail ri iarrtasan airson deuchainnean).
Mar sin, leig dhuinn a bhriseadh.
seasamh deuchainn
Tha ar seasamh air a dhèanamh suas den bhathar-cruaidh a leanas:
- Siostam stòraidh 1 x Aerodisk Engine N2 (2 rianadair, tasgadan 64GB, puirt 8xFC 8Gb / s, puirt 4xEthernet 10Gb / s SFP +, puirt 4xEthernet 1Gb / s); Tha na diosgan a leanas air an stàladh san t-siostam stòraidh:
- Diosg 4 x SAS SSD 900 GB;
- Diosg 12 x SAS 10k 1,2 TB;
- 1 x Frithealaiche corporra le Windows Server 2016 (2xXeon E5 2667 v3, 96GB RAM, puirt 2xFC 8Gb / s, puirt 2xEthernet 10Gb / s SFP +);
- 2 x SAN 8G suidse;
- 2 x tionndadh LAN 10G;
Cheangail sinn an frithealaiche ris an t-siostam stòraidh tro suidsichean tro gach cuid FC agus 10G Ethernet. Tha an diagram seasamh gu h-ìosal.
Tha na pàirtean a dh’ fheumas sinn, leithid MPIO agus iSCSI initiator, air an stàladh air Windows Server.
Tha sònaichean air an rèiteachadh air na suidsichean FC, tha na VLANan co-fhreagarrach air an rèiteachadh air na suidsichean LAN, agus tha MTU 9000 air a chuir a-steach air na puirt stòraidh, suidsichean, agus aoigheachd (tha mar a nì thu seo uile air a mhìneachadh anns na sgrìobhainnean againn, mar sin cha bhith sinn a’ toirt cunntas air am pròiseas seo an seo).
Dòigh-obrach deuchainn
Tha am plana deuchainn tubaist mar a leanas:
- Dèan sgrùdadh air fàilligeadh puirt FC agus Ethernet.
- Sgrùdadh cumhachd fàilligeadh.
- Sgrùdadh fàilligeadh rianadair.
- A’ sgrùdadh airson fàiligeadh diosc ann am buidheann/amar.
Thèid a h-uile deuchainn a dhèanamh fo chumhachan luchdan synthetigeach, a ghineas sinn leis a’ phrògram IOMETER. Aig an aon àm, nì sinn na h-aon deuchainnean, ach fo chumhachan a bhith a 'dèanamh lethbhreac de fhaidhlichean mòra chun an t-siostam stòraidh.
Tha an rèiteachadh IOmeter mar a leanas:
- Leugh/Sgrìobh - 70/30
- Bloc - 128k (cho-dhùin sinn na siostaman stòraidh a nighe ann am blocaichean mòra)
- Àireamh snàithleanan - 128 (a tha glè choltach ris an luchd toraidh)
- Random slàn
- Àireamh de luchd-obrach - 4 (2 airson FC, 2 airson iSCSI)
Tha na h-amasan a leanas aig an deuchainn:
- Dèan cinnteach nach cuir am pròiseas luchdan is leth-bhreac sin stad air no gun adhbhraich e mearachdan ann an diofar shuidheachaidhean fàiligeadh.
- Dèan cinnteach gu bheil am pròiseas airson puirt atharrachadh, luchd-riaghlaidh, msaa fèin-ghluasadach gu leòr agus nach eil feum air gnìomhan rianadair ma dh’ fhàilligeadh (is e sin, nuair a bhios sinn a’ fàilligeadh, chan eil sinn a’ bruidhinn mu dheidhinn fàilligeadh, gu dearbh).
- Dèan cinnteach gu bheil am fiosrachadh anns na logaichean air a thaisbeanadh gu ceart.
Ag ullachadh an aoigheachd agus siostam stòraidh
Shuidhich sinn ruigsinneachd bloca air an t-siostam stòraidh a’ cleachdadh puirt FC agus Ethernet (FC agus iSCSI, fa leth). Thug na balaich bho TS Solution cunntas mionaideach air mar a nì iad seo ann an artaigil roimhe (). Agus, gu dearbh, cha do chuir duine dheth na leabhraichean-làimhe agus na cùrsaichean.
Stèidhich sinn buidheann tar-chinealach a’ cleachdadh a h-uile draibhear a bh’ againn. Chaidh diosgan 2 SSD a chur ris an tasgadan, chaidh diosgan 2 SSD a chur ris mar shreath stòraidh a bharrachd (Sreath air-loidhne). Chuir sinn còmhla 12 draibhear SAS10k a-steach do RAID-60P (co-ionannachd trì-fhillte) gus sgrùdadh a dhèanamh air fàilligeadh trì draibhearan sa bhuidheann aig an aon àm. Chaidh aon diosc fhàgail airson ath-shuidheachadh fèin-ghluasadach.
Cheangail sinn dà LUN (aon tro FC, aon tro iSCSI).
Is e sealbhadair an dà LUN an rianadair Engine-0
Feuch an tòisich sinn leis an deuchainn
Bheir sinn comas do IOMETER leis an config gu h-àrd.
Bidh sinn a’ clàradh trochur de 1.8 GB/s agus latency de 3 milliseconds. Chan eil mearachdan ann (Total Error Count).
Aig an aon àm, bhon draibhear ionadail “C” den aoigh againn, bidh sinn aig an aon àm a ’tòiseachadh a’ dèanamh leth-bhreac de dhà fhaidhle mòr 100GB gu LUNs stòraidh FC agus iSCSI (a ’draibheadh E agus G ann an Windows), a’ cleachdadh eadar-aghaidh eile.
Gu h-àrd tha am pròiseas copaidh gu LUN FC, gu h-ìosal gu iSCSI.
Deuchainn #1: A’ cur às do phuirt I/O
Bidh sinn a’ tighinn faisg air an t-siostam stòraidh bhon chùl)))) agus le gluasad beag den làmh bidh sinn a’ tarraing a-mach a h-uile càball FC agus Ethernet 10G bhon rianadair Engine-0. Tha e mar gum biodh boireannach glanaidh le mop a’ coiseachd seachad agus cho-dhùin i an làr a nighe dìreach far an robh an snot na laighe agus na càbaill nan laighe (ie tha an rianadair fhathast ag obair, ach tha na puirt I / O marbh).
Bheir sinn sùil air IOMETER agus a’ dèanamh lethbhreac de fhaidhlichean. Thuit trochur gu 0,5 GB / s, ach thill e gu sgiobalta chun ìre roimhe (ann an timcheall air 4-5 diogan). Chan eil mearachdan ann.
Cha do stad a bhith a’ dèanamh lethbhreac de fhaidhlichean, tha astar nas ìsle ann, ach chan eil e idir riatanach (bho 840 MB / s thuit e gu 720 MB / s). Chan eil an lethbhreacadh air stad.
Bidh sinn a’ coimhead air logaichean an t-siostam stòraidh agus a’ faicinn teachdaireachd mu nach eil puirt rim faighinn agus gluasad fèin-ghluasadach na buidhne.
Tha am pannal fiosrachaidh cuideachd ag innse dhuinn nach eil a h-uile dad glè mhath le puirt FC.
Mhair an siostam stòraidh fàilligeadh ann am puirt I/O soirbheachail.
Deuchainn Àir. 2. A 'dì-chomasachadh an rianadair stòraidh
Cha mhòr sa bhad (às deidh dhuinn na càbaill a chuir air ais don t-siostam stòraidh) chuir sinn romhainn crìoch a chuir air an t-siostam stòraidh le bhith a’ tarraing an rianadair a-mach às a ’chassis.
A-rithist bidh sinn a 'tighinn faisg air an t-siostam stòraidh bhon chùl (bha sinn a' còrdadh ris))) agus an turas seo bidh sinn a 'tarraing a-mach an rianadair Engine-1, a tha aig an àm seo le sealbhadair an RDG (ris an do ghluais a' bhuidheann).
Tha an suidheachadh ann an IOmeter mar a leanas. Stad I/O airson timcheall air 5 diogan. Chan eil mearachdan a’ cruinneachadh.
Às deidh 5 diogan, thòisich I / O a-rithist le timcheall air an aon toradh, ach le latencies de 35 milliseconds (latencies air an ceartachadh às deidh timcheall air mionaid no dhà). Mar a chithear bho na dealbhan-sgrìn, is e an luach cunntais iomlan de mhearachdan 0, is e sin, cha robh mearachdan sgrìobhaidh no leughaidh ann.
Bheir sinn sùil air a bhith a’ dèanamh lethbhreac de na faidhlichean againn. Mar a chì thu, cha deach stad a chuir air, bha lùghdachadh beag ann an coileanadh, ach san fharsaingeachd thill a h-uile càil chun an aon rud ~ 800 MB/s.
Bidh sinn a’ dol chun t-siostam stòraidh agus a’ faicinn mallachd anns a’ phannal fiosrachaidh nach eil rianadair Engine-1 ri fhaighinn (gu dearbh, mharbh sinn e).
Chì sinn cuideachd inntrigeadh coltach ris anns na logaichean.
Mhair an rianadair stòraidh fàilligeadh cuideachd soirbheachail.
Deuchainn Àireamh 3: A’ dì-cheangal an t-solair cumhachd.
Dìreach air eagal, thòisich sinn a 'dèanamh lethbhreac de fhaidhlichean a-rithist, ach cha do stad sinn IOMETER.
Bidh sinn a 'tarraing an aonad solar cumhachd.
Chaidh rabhadh eile a chuir ris an t-siostam stòraidh sa phannal fiosrachaidh.
Cuideachd anns a’ chlàr mothachaidhean chì sinn gu bheil na mothachairean co-cheangailte ris an t-solar cumhachd a chaidh a tharraing a-mach air tionndadh dearg.
Tha an siostam stòraidh fhathast ag obair. Chan eil fàilligeadh an aonad solarachaidh cumhachd ann an dòigh sam bith a’ toirt buaidh air obrachadh an t-siostam stòraidh; bho shealladh an aoigh, dh’ fhan astar leth-bhreac agus comharran IOMETER gun atharrachadh.
Chaidh deuchainn fàilligeadh cumhachd seachad soirbheachail.
Ron deuchainn mu dheireadh, chuir sinn romhainn an siostam stòraidh a thoirt air ais beagan, an rianadair agus an aonad solar cumhachd a chuir air ais, agus cuideachd na càbaill a chuir ann an òrdugh, a dh’ innis an siostam stòraidh dhuinn gu toilichte le ìomhaighean uaine anns a ’phannal slàinte aige .
Deuchainn Àir. 4. Fàilligeadh trì diosgan ann am buidheann
Ron deuchainn seo, rinn sinn ceum ullachaidh a bharrachd. Is e an fhìrinn gu bheil siostam stòraidh ENGINE a 'toirt seachad rud gu math feumail - diofar phoileasaidhean ath-thogail. Sgrìobh TS Solution mun fheart seo na bu thràithe, ach cuimhnicheamaid a bhrìgh. Faodaidh rianadair an stòraidh am prìomhachas a shònrachadh airson riarachadh ghoireasan rè ath-thogail. An dàrna cuid a thaobh coileanadh I / O, is e sin, bheir an ath-thogail nas fhaide, ach chan eil tarraing sìos coileanaidh ann. No ann an stiùireadh astar ath-thogail, ach thèid cinneasachd a lughdachadh. No roghainn cothromach. Leis gu bheil coileanadh stòraidh rè ath-thogail buidheann diosc an-còmhnaidh na cheann goirt aig rianaire, nì sinn deuchainn air poileasaidh le claonadh a dh’ ionnsaigh coileanadh I / O agus aig cosgais astar ath-thogail.
A-nis leig dhuinn sùil airson fàilligeadh diosc. Bidh sinn cuideachd a’ comasachadh clàradh gu LUNn (faidhlichean agus IOMETER). Leis gu bheil buidheann againn le co-ionannachd trì-fhillte (RAID-60P), tha seo a 'ciallachadh gum feum an siostam seasamh an aghaidh fàilligeadh trì diosgan, agus an dèidh fàilligeadh, feumaidh ath-shuidheachadh fèin-ghluasadach obrachadh, feumaidh aon diosc a dhol an àite aon den fheadhainn a dh'fhàillig. san RDG, agus feumaidh ath-thogail tòiseachadh air.
Tòisich. An toiseach, tron eadar-aghaidh stòraidh, leig dhuinn cuideam a chuir air na diosgan a tha sinn airson a tharraing a-mach (gus nach caill agus gun tarraing sinn an diosc fèin-atharrachaidh).
Bidh sinn a’ sgrùdadh a’ chomharra air a’ bhathar-cruaidh. Tha a h-uile dad ceart gu leòr, chì sinn trì diosgan comharraichte.
Agus bidh sinn a 'toirt a-mach na trì diosgan sin.
Bheir sinn sùil air na tha air an òstair. Agus an sin... cha do thachair dad sònraichte.
Chan eil na comharran copaidh (tha iad nas àirde na an toiseach, leis gu bheil an tasgadan air blàthachadh) agus IOMETER nach eil ag atharrachadh mòran nuair a bheir thu air falbh na diosgan agus a thòisicheas an ath-thogail (taobh a-staigh 5-10%).
Bheir sinn sùil air na tha air an t-siostam stòraidh.
Ann an inbhe na buidhne, tha sinn a 'faicinn gu bheil am pròiseas ath-structaradh air tòiseachadh agus tha e faisg air a bhith deiseil.
Ann an cnàimhneach RDG chì thu gu bheil 2 diosc ann an inbhe dhearg, agus chaidh aon a chuir na àite mu thràth. Chan eil an diosc ath-chuir fèin-ghluasadach ann tuilleadh; chaidh e an àite an 3mh diosc a dh’ fhàillig. Thug an ath-thogail grunn mhionaidean, cha deach stad a chuir air faidhlichean a sgrìobhadh nuair a dh’ fhàillig 3 diosc, agus cha do dh’ atharraich coileanadh I/O mòran.
Chaidh an deuchainn teip diosc seachad gu cinnteach soirbheachail.
co-dhùnadh
Aig an ìre seo, chuir sinn romhainn stad a chuir air fòirneart an aghaidh siostaman stòraidh. Leig dhuinn geàrr-chunntas:
- Sgrùdadh teip port FC - soirbheachail
- Sgrùdadh fàilligeadh port Ethernet - soirbheachail
- Sgrùdadh teip rianadair - soirbheachail
- Deuchainn fàilligeadh cumhachd - soirbheachail
- Dèan sgrùdadh air fàilligeadh diosg ann an grouppool - soirbheachail
Cha do sguir gin de na fàilligidhean a chlàradh no dh’ adhbhraich iad mearachdan anns an luchd synthetigeach; gu dearbh, bha buille coileanaidh ann (agus tha fios againn mar a gheibh sinn thairis air, rud a nì sinn a dh’ aithghearr), ach leis gur e diogan a tha seo, tha e gu math iomchaidh. Co-dhùnadh: bha fulangas locht a h-uile pàirt den t-siostam stòraidh AERODISK ag obair aig an ìre, cha robh puingean fàilligeadh ann.
Gu dearbh, ann an aon artaigil chan urrainn dhuinn deuchainn a dhèanamh air a h-uile suidheachadh fàiligeadh, ach dh’ fheuch sinn ris an fheadhainn as mòr-chòrdte a chòmhdach. Mar sin, feuch an cuir thu do bheachdan, molaidhean airson foillseachaidhean san àm ri teachd agus, gu dearbh, càineadh iomchaidh. Bidh sinn toilichte bruidhinn (no nas fheàrr fhathast, thig chun trèanadh, bidh mi a’ dùblachadh a’ chlàr gun fhios nach bi)! Gu ruige deuchainnean ùra!
- Nizhny Novgorod (FOSGLADH mar-thà - faodaidh tu clàradh an seo );
Gu ruige 16 Giblean, 2019, faodaidh tu tadhal air an ionad aig àm obrach sam bith, agus air 16 Giblean, 2019, thèid cùrsa trèanaidh mòr a chuir air dòigh. - Krasnodar (FOSGLADH A aithghearr - faodaidh tu clàradh an seo );
Bho 9 Giblean gu 25 Giblean, 2019, faodaidh tu tadhal air an ionad aig àm obrach sam bith, agus air 25 Giblean, 2019, thèid cùrsa trèanaidh mòr a chuir air dòigh. - Екатеринбург (FOSGLADH A aithghearr, lean am fiosrachadh air an làrach-lìn againn no air Habré);
Cèitean-Ògmhios 2019. - Новосибирск (lean am fiosrachadh air an làrach-lìn againn no air Habré);
Dàmhair 2019. - Красноярск (lean am fiosrachadh air an làrach-lìn againn no air Habré);
Samhain 2019.
Source: www.habr.com