Mar a dhealbhaich agus a chuir sinn an gnìomh lìonra ùr air Huawei ann an oifis Moscow, pàirt 1

Mar a dhealbhaich agus a chuir sinn an gnìomh lìonra ùr air Huawei ann an oifis Moscow, pàirt 1

An-diugh innsidh mi dhut mu mar a thàinig am beachd air lìonra ùr a-staigh a chruthachadh don chompanaidh againn agus mar a chaidh a bhuileachadh. Is e suidheachadh an luchd-stiùiridh gum feum thu an aon phròiseact làn-chuimseach a dhèanamh dhut fhèin agus a tha airson an neach-dèiligidh. Ma nì sinn e gu math dhuinn fhìn, is urrainn dhuinn cuireadh a thoirt don neach-ceannach agus sealltainn dè cho math ‘s a tha na tha sinn a’ tabhann dha ag obair agus ag obair. Mar sin, chaidh sinn gu dlùth ri leasachadh bun-bheachd lìonra ùr airson oifis Moscow gu math mionaideach, a’ cleachdadh a’ chearcall toraidh iomlan: mion-sgrùdadh air feumalachdan na roinne → taghadh de fhuasgladh theicnigeach → dealbhadh → buileachadh → deuchainn. Mar sin tòisichidh sinn.

A’ taghadh Fuasgladh Teicnigeach: Comraich Mutant

Tha an dòigh-obrach airson a bhith ag obair air siostam fèin-ghluasadach iom-fhillte an-dràsta air a mhìneachadh ann an GOST 34.601-90 “Siostam fèin-ghluasadach. Ìrean a’ Chruthachaidh”, agus mar sin dh’obraich sinn a rèir sin. Agus mar-thà aig na h-ìrean de chruthachadh riatanasan agus leasachadh bun-bheachd, choinnich sinn ris a 'chiad duilgheadasan. Buidhnean de dhiofar phròifil - bancaichean, companaidhean àrachais, luchd-leasachaidh bathar-bog, msaa - airson an gnìomhan agus inbhean, feumaidh iad seòrsachan sònraichte de lìonraidhean, agus tha na mion-fhiosrachadh aca soilleir agus àbhaisteach. Ach, cha obraich seo leinn.

Почему?

Tha Jet Infosystems na chompanaidh IT mòr eugsamhail. Aig an aon àm, tha an roinn taic taobh a-staigh againn beag (ach moiteil), bidh e a’ dèanamh cinnteach à comas-gnìomh seirbheisean agus siostaman bunaiteach. Tha mòran roinnean anns a 'chompanaidh a bhios a' coileanadh diofar dhleastanasan: is iad sin grunn sgiobaidhean taobh a-muigh cumhachdach, agus luchd-leasachaidh taobh a-staigh siostaman gnìomhachais, agus tèarainteachd fiosrachaidh, agus ailtirean siostaman coimpiutaireachd - san fharsaingeachd, ge bith cò a th 'ann. A rèir sin, tha na gnìomhan, na siostaman agus na poileasaidhean tèarainteachd aca eadar-dhealaichte cuideachd. A chruthaich, mar a bhiodh dùil, duilgheadasan ann am pròiseas mion-sgrùdadh feumalachdan agus cunbhalachadh.

An seo, mar eisimpleir, tha an roinn leasachaidh: bidh an luchd-obrach aige a’ sgrìobhadh agus a’ dèanamh deuchainn air còd airson àireamh mhòr de luchd-ceannach. Gu tric feumar àrainneachdan deuchainn a chuir air dòigh gu sgiobalta, agus gu fìrinneach, chan eil e an-còmhnaidh comasach riatanasan a dhealbhadh airson gach pròiseact, goireasan iarraidh agus àrainneachd deuchainn fa leth a thogail a rèir riaghailtean taobh a-staigh. Tha seo ag adhbhrachadh suidheachaidhean neònach: aon latha choimhead do shearbhanta iriosal a-steach do rùm an luchd-leasachaidh agus lorg e fon bhòrd cruinneachadh Hadoop de 20 deasg a bha ag obair gu ceart, a bha ceangailte gu neo-fhaicsinneach ri lìonra cumanta. Chan eil mi a’ smaoineachadh gum b’ fhiach a shoilleireachadh nach robh fios aig roinn IT na companaidh mu a bhith ann. Bha an suidheachadh seo, mar mòran eile, an urra ris an fhìrinn gun do rugadh an teirm “tèarmann mutant” aig àm leasachadh a ’phròiseict, a’ toirt cunntas air staid bun-structair oifis a bha fada a ’fulang.

No seo eisimpleir eile. Bho àm gu àm, thèid being deuchainn a stèidheachadh taobh a-staigh roinn. Bha seo fìor le Jira agus Confluence, a chaidh a chleachdadh gu ìre bheag leis an Ionad Leasachaidh Bathar-bog ann an cuid de phròiseactan. Às deidh beagan ùine, dh ’ionnsaich roinnean eile mu na goireasan feumail sin, rinn iad measadh orra, agus aig deireadh 2018, ghluais Jira agus Confluence bho inbhe“ dèideag prògramadairean ionadail ”gu inbhe“ goireasan companaidh. ” A-nis feumaidh sealbhadair a bhith air a shònrachadh dha na siostaman sin, feumar SLAn, poileasaidhean tèarainteachd ruigsinneachd / fiosrachaidh, poileasaidhean cùl-taic, sgrùdadh, riaghailtean airson iarrtasan slighe gus duilgheadasan fhuasgladh - san fharsaingeachd, feumaidh feartan siostam fiosrachaidh làn-chuimseach a bhith an làthair. .
Tha gach roinn againn cuideachd na ghoireas a bhios a 'fàs a thoraidhean fhèin. Bidh cuid dhiubh a’ bàsachadh aig ìre leasachaidh, cuid a bhios sinn a’ cleachdadh fhad ‘s a bhios sinn ag obair air pròiseactan, agus cuid eile a’ freumhachadh agus a’ fàs mar fhuasglaidhean ath-chruthaichte a thòisicheas sinn gan cleachdadh fhìn agus gan reic ri teachdaichean. Airson gach siostam mar sin, tha e ion-mhiannaichte an àrainneachd lìonra aige fhèin a bhith aige, far an leasaich e gun a bhith a ’cur bacadh air siostaman eile, agus aig àm air choreigin faodar a thoirt a-steach do bhun-structar na companaidh.

A bharrachd air leasachadh, tha glè mhòr againn Ionad Seirbheis le barrachd air luchd-obrach 500, air an cruthachadh ann an sgiobaidhean airson gach neach-ceannach. Tha iad an sàs ann a bhith a’ cumail suas lìonraidhean agus siostaman eile, a’ cumail sùil air astar, a’ fuasgladh thagraidhean, agus mar sin air adhart. Is e sin, is e bun-structar an SC, gu dearbh, bun-structar an neach-ceannach leis a bheil iad ag obair an-dràsta. Is e cho sònraichte ‘s a tha e a bhith ag obair leis an roinn seo den lìonra gu bheil na h-ionadan-obrach aca airson a’ chompanaidh againn ann am pàirt a-muigh, agus ann am pàirt a-staigh. Mar sin, airson an SC chuir sinn an dòigh-obrach a leanas an gnìomh - tha a 'chompanaidh a' toirt seachad an roinn co-fhreagarrach le lìonra agus goireasan eile, a 'beachdachadh air ionadan-obrach nan roinnean sin mar cheanglaichean taobh a-muigh (co-ionann ri meuran agus luchd-cleachdaidh iomallach).

Dealbhadh rathaid-rathaid: is sinne an gnìomhaiche (iongnadh)

Às deidh dhuinn measadh a dhèanamh air na duilgheadasan uile, thuig sinn gu robh sinn a’ faighinn lìonra gnìomhaiche cian-conaltraidh taobh a-staigh aon oifis, agus thòisich sinn ag obair a rèir sin.

Chruthaich sinn lìonra bunaiteach le cuideachadh bhon taobh a-staigh, agus san àm ri teachd cuideachd taobh a-muigh, an t-seirbheis a tha a dhìth: L2 VPN, L3 VPN no slighe àbhaisteach L3. Feumaidh cuid de roinnean ruigsinneachd tèarainte air an eadar-lìn, agus feumaidh cuid eile ruigsinneachd glan às aonais ballachan teine, ach aig an aon àm a’ dìon ar goireasan corporra agus prìomh lìonra bhon trafaic aca.

Gu neo-fhoirmeil “cho-dhùin sinn SLA” le gach roinn. Ann an co-rèir ris, feumar cuir às do gach tachartas a thig am bàrr taobh a-staigh ùine sònraichte, ro-aontaichte. Bha riatanasan na companaidh airson an lìonra aca teann. B’ e 5 mionaidean an ùine freagairt as àirde do thachartas ma dh’ fhàillig fòn is post-d. Chan eil an ùine airson gnìomhachd lìonra a thoirt air ais tro fhàilligidhean àbhaisteach nas fhaide na mionaid.

Leis gu bheil lìonra ìre giùlain againn, chan urrainn dhut ceangal a dhèanamh ris ach a rèir nan riaghailtean. Bidh aonadan seirbheis a’ suidheachadh phoileasaidhean agus a’ toirt seachad seirbheisean. Chan fheum iad eadhon fiosrachadh mu na ceanglaichean a tha aig luchd-frithealaidh sònraichte, innealan mas-fhìor agus ionadan-obrach. Ach aig an aon àm, tha feum air dòighean dìon, oir cha bu chòir aon cheangal an lìonra a chuir dheth. Ma thèid lùb a chruthachadh gun fhiosta, cha bu chòir do luchd-cleachdaidh eile mothachadh a thoirt air seo, is e sin, tha feum air freagairt iomchaidh bhon lìonra. Bidh gnìomhaiche cian-conaltraidh sam bith an-còmhnaidh a’ fuasgladh dhuilgheadasan coltach ri iom-fhillte taobh a-staigh a phrìomh lìonra. Bidh e a 'toirt seachad seirbheis do dh' iomadh neach-dèiligidh le feumalachdan eadar-dhealaichte agus trafaig. Aig an aon àm, cha bu chòir do luchd-aontachaidh eadar-dhealaichte eòlas fhaighinn air mì-ghoireasachd bho thrafaig dhaoine eile.
Aig an taigh, dh 'fhuasgail sinn an duilgheadas seo anns an dòigh a leanas: thog sinn lìonra L3 cnàimh-droma le làn dhreuchd, a' cleachdadh protocol IS-IS. Chaidh lìonra ath-chòmhdach a thogail a bharrachd air a’ chridhe stèidhichte air teicneòlas EVPN/VXLAN, a’ cleachdadh protocol slighe BP-BGP. Gus co-ghluasad protocols slighe a luathachadh, chaidh teicneòlas BFD a chleachdadh.

Mar a dhealbhaich agus a chuir sinn an gnìomh lìonra ùr air Huawei ann an oifis Moscow, pàirt 1
Structar lìonra

Ann an deuchainnean, sheall an sgeama seo gu robh e sàr-mhath - nuair a tha sianal no suidse sam bith air a dhì-cheangal, chan eil an ùine co-chruinneachaidh nas fhaide na 0.1-0.2 s, thèid co-dhiù pacaidean a chall (gu tric gin), chan eil seiseanan TCP air an reubadh, còmhraidhean fòn nach brisear iad.

Mar a dhealbhaich agus a chuir sinn an gnìomh lìonra ùr air Huawei ann an oifis Moscow, pàirt 1
Sreath Fo-chòmhdach - Routing

Mar a dhealbhaich agus a chuir sinn an gnìomh lìonra ùr air Huawei ann an oifis Moscow, pàirt 1
Sreath Overlay - Routing

Chaidh suidsichean Huawei CE6870 le ceadan VXLAN a chleachdadh mar suidsichean cuairteachaidh. Tha an co-mheas prìs / càileachd as fheàrr aig an inneal seo, a leigeas leat luchd-aontachaidh a cheangal aig astar 10 Gbit / s, agus ceangal ris a’ chnàimh-droma aig astaran 40-100 Gbit / s, a rèir na transceivers a chaidh a chleachdadh.

Mar a dhealbhaich agus a chuir sinn an gnìomh lìonra ùr air Huawei ann an oifis Moscow, pàirt 1
Bidh Huawei CE6870 ag atharrachadh

Chaidh suidsichean Huawei CE8850 a chleachdadh mar phrìomh suidsichean. Is e an t-amas trafaic a ghluasad gu sgiobalta agus gu earbsach. Chan eil innealan ceangailte riutha ach suidsichean cuairteachaidh, chan eil fios aca càil mu VXLAN, agus mar sin chaidh modal le puirt 32 40/100 Gbps a thaghadh, le cead bunaiteach a bheir seachad slighe L3 agus taic don IS-IS agus MP-BGP pròtacalan.

Mar a dhealbhaich agus a chuir sinn an gnìomh lìonra ùr air Huawei ann an oifis Moscow, pàirt 1
Is e am fear as ìsle an tionndadh bunaiteach Huawei CE8850

Aig an ìre dealbhaidh, thòisich deasbad taobh a-staigh na sgioba mu theicneòlasan a dh’ fhaodadh a bhith air an cleachdadh gus ceangal fulangach ri lochdan a chuir an gnìomh ri nodan lìonra bunaiteach. Tha an oifis againn ann am Moscow suidhichte ann an trì togalaichean, tha 7 seòmraichean sgaoilidh againn, anns gach fear dhiubh chaidh dà suidse sgaoilidh Huawei CE6870 a chuir a-steach (cha deach ach suidsichean ruigsinneachd a chuir a-steach ann an grunn sheòmraichean sgaoilidh). Nuair a bhathar a’ leasachadh bun-bheachd an lìonraidh, chaidh beachdachadh air dà roghainn call obrach:

  • Bidh daingneachadh sgaoilidh a’ tionndadh gu stac a tha a’ fulang le lochdan anns gach seòmar tar-cheangail. Nithean matha: sìmplidheachd agus furasta a stèidheachadh. Eas-bhuannachdan: tha coltachd nas àirde ann gum fàillig an stac gu lèir nuair a thig mearachdan ann am firmware innealan lìonra ("cuimhne ag aoidion" agus an leithid).
  • Cuir teicneòlasan geata M-LAG agus Anycast an sàs gus innealan a cheangal ri suidsichean cuairteachaidh.

Aig a 'cheann thall, shocraich sinn air an dàrna roghainn. Tha e beagan nas duilghe a rèiteachadh, ach tha e air sealltainn ann an cleachdadh a choileanadh agus àrd earbsa.
An toiseach smaoinich sinn air innealan crìochnachaidh a cheangal ri suidsichean cuairteachaidh:
Mar a dhealbhaich agus a chuir sinn an gnìomh lìonra ùr air Huawei ann an oifis Moscow, pàirt 1
Crois

Tha suidse ruigsinneachd, frithealaiche, no inneal sam bith eile a dh’ fheumas ceangal a tha fulang le lochdan air a ghabhail a-steach ann an dà suidse cuairteachaidh. Tha teicneòlas M-LAG a’ toirt seachad call obrach aig ìre ceangail dàta. Thathas a’ gabhail ris gu bheil dà suidse cuairteachaidh a’ nochdadh don uidheamachd ceangailte mar aon inneal. Bithear a’ dèanamh call obrach agus cothromachadh luchdan a’ cleachdadh protocol LACP.

Tha teicneòlas geata Anycast a’ toirt seachad call obrach aig ìre lìonra. Tha àireamh meadhanach mòr de VRFn air an rèiteachadh air gach aon de na suidsichean cuairteachaidh (tha gach VRF airson a adhbharan fhèin - fa leth airson luchd-cleachdaidh “cunbhalach", fa leth airson fòn, fa leth airson diofar àrainneachdan deuchainn is leasachaidh, msaa), agus anns gach fear. Tha grunn VLANan aig VRF air an rèiteachadh. Anns an lìonra againn, is e suidsichean cuairteachaidh na geataichean bunaiteach airson a h-uile inneal ceangailte riutha. Tha na seòlaidhean IP a tha co-chosmhail ris an eadar-aghaidh VLAN mar an ceudna airson an dà suidse cuairteachaidh. Tha trafaic air a stiùireadh tron ​​​​ghluasad as fhaisge.

A-nis leig dhuinn sùil a thoirt air suidsichean cuairteachaidh a cheangal ris an kernel:
Tha fulangas sgàinidh air a thoirt seachad aig ìre lìonra a 'cleachdadh protocol IS-IS. Thoir an aire gu bheil loidhne conaltraidh L3 air leth air a thoirt seachad eadar na suidsichean, aig astar 100G. Gu corporra, is e càball Ruigsinneachd Dìreach a th ’anns an loidhne conaltraidh seo; chithear e air an taobh cheart san dealbh de suidsichean Huawei CE6870.

Bhiodh roghainn eile ann topology rionnag dùbailte làn-cheangailte “onarach” a chuir air dòigh, ach, mar a chaidh ainmeachadh gu h-àrd, tha 7 seòmraichean tar-cheangail againn ann an trì togalaichean. A rèir sin, nam biodh sinn air topology “rionnag dhùbailte” a thaghadh, bhiodh feum againn air dìreach a dhà uimhir de transceivers 40G “fada-raon”. Tha na sàbhalaidhean an seo glè chudromach.

Feumar beagan fhaclan a ràdh mu mar a tha teicneòlasan geata VXLAN agus Anycast ag obair còmhla. Tha VXLAN, gun a bhith a’ dol a-steach gu mion-fhiosrachadh, na thunail airson frèamaichean Ethernet a ghiùlan am broinn pacaidean UDP. Thathas a’ cleachdadh an eadar-aghaidh loopback de suidsichean cuairteachaidh mar sheòladh IP ceann-uidhe an tunail VXLAN. Tha dà suidse aig gach crossover leis na h-aon sheòlaidhean eadar-aghaidh loopback, agus mar sin faodaidh pacaid ruighinn air gin dhiubh, agus faodar frèam Ethernet a thoirt a-mach às.

Ma tha fios aig an suidse mu sheòladh MAC ceann-uidhe an fhrèam a chaidh fhaighinn air ais, thèid am frèam a lìbhrigeadh gu ceart chun cheann-uidhe aige. Gus dèanamh cinnteach gu bheil fiosrachadh as ùire aig an dà suidse cuairteachaidh a chaidh a chuir a-steach san aon tar-cheangal mu gach seòladh MAC “a’ tighinn ”bho na suidsichean ruigsinneachd, tha uallach air an inneal M-LAG airson na clàran seòlaidh MAC a shioncronachadh (a bharrachd air ARP bùird) air an dà suidse M-LAG paidhrichean.

Tha cothromachadh trafaic air a choileanadh air sgàth gu bheil grunn shlighean anns an lìonra fo-chòmhdach gu eadar-aghaidh loopback suidsichean cuairteachaidh.

An àite a bhith co-dhùnadh

Mar a chaidh a ràdh gu h-àrd, rè deuchainn agus obrachaidh sheall an lìonra earbsa àrd (chan eil an ùine ath-bheothachaidh airson fàilligeadh àbhaisteach nas fhaide na ceudan de mhilleanan-tomhais) agus coileanadh math - tha gach tar-cheangal ceangailte ris a’ chridhe le dà sheanail 40 Gbit / s. Tha suidsichean ruigsinneachd san lìonra againn air an càrnadh agus ceangailte ri suidsichean cuairteachaidh tro LACP / M-LAG le dà sheanail 10 Gbit / s. Mar as trice bidh 5 suidsichean le 48 puirt gach fear ann an stac, agus tha suas ri 10 stacan ruigsinneachd ceangailte ris an cuairteachadh anns gach tar-cheangal. Mar sin, tha an cnàimh-droma a’ toirt seachad timcheall air 30 Mbit / s gach neach-cleachdaidh eadhon aig an ìre as àirde de theòiridh, a tha aig àm an sgrìobhaidh seo gu leòr airson ar tagraidhean practaigeach.

Leigidh an lìonra leat paidhir innealan ceangailte neo-riaghailteach a chuir air dòigh an dà chuid tro L2 agus L3, a’ toirt seachad iomallachd iomlan de thrafaig (a tha a’ còrdadh ris an t-seirbheis tèarainteachd fiosrachaidh) agus raointean locht (a tha a’ còrdadh ris an sgioba gnìomhachd).

Anns an ath phàirt innsidh sinn dhut mar a rinn sinn imrich gu lìonra ùr. Cùm sùil!

Maxim Klochkov
Àrd-chomhairliche bhon bhuidheann sgrùdaidh lìonra agus pròiseactan iom-fhillte
Ionad Network Solutions
"Jet Infosystems"


Source: www.habr.com

Cuir beachd ann