Sagan af einum rofa

Í staðbundnum netsöfnun okkar vorum við með sex pör af Arista DCS-7050CX3-32S rofum og eitt par af Brocade VDX 6940-36Q rofum. Það er ekki það að við höfum verið of spennt fyrir Brocade rofanum í þessu neti, þeir vinna og sinna hlutverkum sínum, en við vorum að undirbúa fulla sjálfvirkni í sumum aðgerðum og við höfðum ekki þessa möguleika á þessum rofum. Ég vildi líka skipta úr 40GE viðmótum yfir í möguleikann á að nota 100GE til að gera varasjóð fyrir næstu 2-3 árin. Svo við ákváðum að breyta Brocade í Arista.

Þessir rofar eru staðarnetssöfnunarrofar fyrir hverja gagnaver. Dreifingarrofar (annað stig samsöfnunar) eru beintengdir þeim, sem þegar setja saman Top-of-Rack staðarnetsrofa í rekki með netþjónum.

Hver netþjónn er tengdur einum eða tveimur aðgangsrofum. Aðgangsrofar eru tengdir við par af dreifirofa (tveir dreifirofar og tveir efnislegir tenglar frá aðgangsrofa til mismunandi dreifirofa eru notaðir fyrir offramboð).

Hver netþjónn getur verið notaður af sínum eigin viðskiptavini, þannig að viðskiptavinurinn er úthlutað sérstöku VLAN. Sama VLAN er síðan skráð á annan netþjón þessa biðlara í hvaða rekki sem er. Gagnaverið samanstendur af nokkrum slíkum röðum (PODs), hver röð af rekkum hefur sína dreifingarrofa. Síðan eru þessir dreifingarrofar tengdir samanlagsrofum.

Viðskiptavinir geta pantað netþjón í hvaða röð sem er; það er ómögulegt að spá fyrir um fyrirfram að þjóninum verði úthlutað eða settur upp í tiltekinni röð í tilteknu rekki, þannig að það eru um 2500 VLAN á samsöfnunarrofum í hverju gagnaveri.

Búnaður fyrir DCI (Data-Center Interconnect) er tengdur við samsöfnunarrofa. Það getur verið ætlað fyrir L2 tengingu (par af rofum sem mynda VXLAN göng í aðra gagnaver) eða fyrir L3 tengingu (tveir MPLS beinir).

Eins og ég skrifaði þegar, til að sameina ferla sjálfvirkrar stillingar þjónustu á búnaði í einni gagnaver, var nauðsynlegt að skipta um miðlæga samsöfnunarrofa. Við settum nýja rofa við hliðina á þeim sem fyrir voru, sameinuðum þá í MLAG par og fórum að undirbúa vinnu. Þeir voru strax tengdir við núverandi samsöfnunarrofa, þannig að þeir höfðu sameiginlegt L2 lén yfir öll VLAN viðskiptavinarins.

Upplýsingar um hringrás

Fyrir sérstakar upplýsingar skulum við nefna gömlu samsöfnunarrofana A1 и A2, ný - N1 и N2. Við skulum ímynda okkur það í POD 1 и POD 4 netþjónar eins viðskiptavinar eru hýstir С1,VLAN viðskiptavinarins er táknað með bláu. Þessi viðskiptavinur er að nota L2 tengiþjónustu við aðra gagnaver, þannig að VLAN hans er fært í par af VXLAN rofum.

Viðskiptavinur С2 hýsir netþjóna í POD 2 и POD 3,VLAN viðskiptavinarins er táknað með dökkgrænu. Þessi viðskiptavinur notar einnig tengingarþjónustu við aðra gagnaver, en L3, þannig að VLAN hans er borið á par af L3VPN beinum.

Við þurfum VLAN viðskiptavina til að skilja á hvaða stigum endurnýjunarinnar hvað gerist, hvar samskiptatruflun á sér stað og hver lengd hennar getur verið. STP samskiptareglan er ekki notuð í þessu kerfi, þar sem breidd trésins fyrir það í þessu tilfelli er stór, og samleitni samskiptareglunnar vex veldishraða með fjölda tækja og tenglum á milli þeirra.

Öll tæki tengd með tvöföldum hlekkjum mynda stafla, MLAG par eða VCS Ethernet efni. Fyrir par af L3VPN beinum er slík tækni ekki notuð, þar sem engin þörf er á L2 offramboði; það er nóg að þeir séu með L2 tengingu hver við annan í gegnum samsöfnunarrofa.

Framkvæmdarmöguleikar

Við greiningu á möguleikum fyrir frekari viðburði komumst við að því að það eru nokkrar leiðir til að framkvæma þessa vinnu. Allt frá alþjóðlegu hléi á öllu staðarnetinu, til lítilla bókstaflega 1-2 sekúndna hléa á hlutum netsins.

Net, hættu! Rofar, skiptu um þá!

Auðveldasta leiðin er auðvitað að lýsa yfir alþjóðlegu samskiptarofi á öllum POD og allri DCI þjónustu og skipta um alla tengla úr rofanum А til rofa N.

Fyrir utan truflunina, tímann sem við getum ekki sagt áreiðanlega fyrir (já, við vitum fjölda tengla, en við vitum ekki hversu oft eitthvað mun fara úrskeiðis - frá biluðu plástursnúru eða skemmdu tengi til bilaðs tengis eða senditækis ), við getum samt ekki spáð fyrir um það fyrirfram hvort lengd plástursnúranna, DAC, AOC, tengdir gömlu rofanum A, muni nægja til að ná þeim að nýju rofanum N, þó standandi við hliðina á þeim, en samt smá til hlið, og hvort sömu senditæki muni virka /DAC/AOC frá Brocade rofa til Arista rofa.

Og allt þetta undir miklum þrýstingi frá viðskiptavinum og tækniaðstoð („Natasha, farðu upp! Natasha, allt virkar ekki þar! Natasha, við höfum þegar skrifað til tækniaðstoðar, heiðarlega! Natasha, þeir hafa þegar sleppt öllu ! Natasha, hversu marga fleiri höfum við ekki mun það virka? Natasha, hvenær mun það virka?!"). Jafnvel þrátt fyrir fyrirfram tilkynnt hlé og tilkynningar til viðskiptavina, er innstreymi beiðna á slíkum tíma tryggt.

Hættu, 1-2-3-4!

Hvað ef við tilkynnum ekki alþjóðlegt hlé, heldur röð lítilla samskiptatruflana fyrir POD og DCI þjónustu. Í fyrsta hléi skaltu skipta yfir í rofa N aðeins POD 1, í seinni - eftir nokkra daga - POD 2, svo nokkra daga í viðbót POD 3Nánar POD 4…[N], svo VXLAN rofar og svo L3VPN beinar.

Með þessu skipulagi skiptivinnu minnkum við flækjustig einskiptisvinnu og aukum tíma okkar til að leysa vandamál ef eitthvað fer skyndilega úrskeiðis. POD 1 er áfram tengdur öðrum POD og DCI eftir að skipt er um. En verkið sjálft dregst á langinn; meðan á þessari vinnu í gagnaverinu stendur þarf verkfræðingur að framkvæma líkamlega skiptingu og meðan á vinnu stendur (og slík vinna fer að jafnaði fram á nóttunni, frá 2. til 5 á morgnana), er krafist viðveru netverkfræðings á nokkuð háu stigi. En svo fáum við stuttar samskiptatruflanir, að jafnaði er hægt að vinna á hálftíma millibili með allt að 2 mínútna hléi (í reynd oft 20-30 sekúndur með væntanlegri hegðun búnaðarins).

Í dæminu viðskiptavinur С1 eða viðskiptavinur С2 þú verður að vara við vinnu með truflun á samskiptum að minnsta kosti þrisvar sinnum - í fyrra skiptið til að vinna á einum POD, þar sem einn af netþjónum þess er staðsettur, í seinna skiptið - í annað og í þriðja skiptið - þegar skiptibúnaður fyrir DCI þjónustu.

Skipt um samanlagðar samskiptaleiðir

Af hverju erum við að tala um væntanlega hegðun búnaðar og hvernig hægt er að skipta um samanlagðar rásir á meðan truflun á samskiptum er lágmarkað? Ímyndum okkur eftirfarandi mynd:

Á annarri hlið hlekksins eru POD dreifingarrofar - D1 и D2, þeir mynda MLAG par við hvert annað (stafla, VCS verksmiðja, vPC par), á hinn bóginn eru tveir tenglar - Link 1 и Link 2 - innifalið í MLAG parinu af gömlum samsöfnunarrofum А. Á skiptahliðinni D uppsafnað viðmót við nafnið Hafnarrás A, á hlið söfnunarrofa А - samanlagt viðmót við nafnið Port-rás D.

Samanlögð tengi nota LACP í rekstri sínum, það er að segja rofar á báðum hliðum skiptast reglulega á LACPDU pakka á báðum hlekkjum til að tryggja að hlekkirnir:

• verkamenn;
• innifalið í einu pari af tækjum á ytri hliðinni.

Þegar skipt er um pakka ber pakkinn gildið kerfis-auðkenni, sem gefur til kynna tækið þar sem þessir tenglar eru með. Fyrir MLAG par (stafla, verksmiðju osfrv.) er kerfisauðkennisgildið fyrir tækin sem mynda samansafnað viðmótið það sama. Skipta D1 sendir til Link 1 значение kerfiskenni D, og skipta D2 sendir til Link 2 значение kerfiskenni D.

Rofar A1 и A2 greina LACPDU pakka sem berast yfir eitt Po D viðmót og athuga hvort kerfisauðkennið í þeim passi. Ef kerfisauðkennið sem berast í gegnum einhvern hlekk er skyndilega öðruvísi frá núverandi rekstrarvirði, þá er þessi hlekkur fjarlægður úr uppsafnaða viðmótinu þar til ástandið er leiðrétt. Nú á skiptahlið okkar D núverandi kerfisauðkennisgildi frá LACP samstarfsaðilanum - A, og á rofahliðinni А — núverandi kerfisauðkennisgildi frá LACP samstarfsaðilanum — D.

Ef við þurfum að skipta um samansafnað viðmót getum við gert það á tvo mismunandi vegu:

Aðferð 1 - Einföld
Slökktu á báðum hlekkjum frá rofum A. Í þessu tilviki virkar samansafn rás ekki.

Tengdu báða tengla einn í einu við rofana N, þá verður samið aftur um LACP rekstrarbreyturnar og viðmótið myndað PoD á rofum N og miðlun gilda á tenglum kerfiskenni N.

Aðferð 2 - Lágmarka truflun
Aftengdu hlekk 2 frá rofa A2. Á sama tíma er umferð milli А и D verður áfram send einfaldlega yfir einn af hlekkjunum, sem verður áfram hluti af samansafnaða viðmótinu.

Tengdu hlekk 2 til að skipta um N2. Á rofanum N samansafnað viðmót er þegar stillt Po DN, og skipta N2 mun byrja að senda til LACPDU kerfiskenni N. Á þessu stigi getum við nú þegar athugað að rofinn N2 virkar rétt með senditækinu sem notað er fyrir Link 2, að tengigáttin sé komin í ríkið Up, og að engar villur eigi sér stað á tengigáttinni þegar LACPDUs eru sendar.

En sú staðreynd að skipta D2 fyrir samansafnað viðmót Pó A frá hlið Hlekkur 2 fær kerfisauðkenni N gildi sem er annað en núverandi stýrikerfiskenni A gildi, leyfir ekki rofa D að kynna Link 2 hluti af samanteknu viðmóti Pó A. Skipta N kemst ekki inn Link 2 í notkun, þar sem það fær ekki staðfestingu á nothæfi frá LACP samstarfsaðila skipta D2. Umferðin sem af því leiðir er Link 2 kemst ekki í gegn.

Og nú slökkvum við á hlekk 1 frá rofa A1, þar með svipta rofana А и D vinnandi heildarviðmót. Svo á skiptahliðinni D núverandi virka kerfisauðkennisgildi fyrir viðmótið hverfur Pó A.

Þetta gerir rofa kleift D и N samþykkja að skiptast á kerfis-auðkenni AN á viðmótum Pó A и Po DN, þannig að umferð byrjar að berast eftir hlekknum Link 2. Hlé í þessu tilfelli er í reynd allt að 2 sekúndur.

Og nú getum við auðveldlega skipt um hlekk 1 til að skipta um N1, endurheimta getu og stig offramboðs viðmóts Pó A и Po DN. Þar sem þegar þessi hlekkur er tengdur breytist núverandi kerfis-auðkenni ekki hvoru megin, það er engin truflun.

Viðbótartenglar

En skiptin er hægt að framkvæma án þess að verkfræðingur sé viðstaddur þegar skipt er. Til að gera þetta verðum við að leggja viðbótartengingar á milli dreifingarrofa fyrirfram D og nýir samsöfnunarrofar N.

Við erum að leggja nýjar tengingar á milli samsöfnunarrofa N og dreifingarrofa fyrir alla POD. Þetta krefst þess að panta og leggja viðbótarsnúrur fyrir plástra og setja upp viðbótarsenditæki eins og í N, og í D. Við getum gert þetta vegna þess að í rofum okkar D Hver POD hefur ókeypis tengi (eða við forfrjálsum þær). Þess vegna er hver POD líkamlega tengdur með tveimur tenglum við gömlu rofana A og við nýju rofana N.

Á rofanum D tvö samanlögð viðmót hafa verið mynduð - Pó A með tenglum Link 1 и Link 2Og Pó N - með tenglum Tengill N1 и Tengill N2. Á þessu stigi athugum við rétta tengingu viðmóta og tengla, magn ljósmerkja í báðum endum tenglanna (í gegnum DDM upplýsingar frá rofanum), við getum jafnvel athugað frammistöðu hlekksins undir álagi eða fylgst með stöðu sjónmerki og hitastig senditækis í nokkra daga.

Umferð er enn send í gegnum viðmótið Pó A, og viðmótið Pó N kostar enga umferð. Stillingarnar á viðmótunum eru eitthvað á þessa leið:

Interface Port-channel A
Switchport mode trunk
Switchport allowed vlan C1, C2

Interface Port-channel N
Switchport mode trunk
Switchport allowed vlan none

D rofar styðja að jafnaði stillingarbreytingar sem byggja á lotu; rofalíkön sem hafa þessa virkni eru notuð. Þannig að við getum breytt stillingum Po A og Po N tengi í einu skrefi:

Configure session
Interface Port-channel A
Switchport allowed vlan none
Interface Port-channel N
Switchport allowed vlan C1, C2
Commit

Þá mun stillingarbreytingin eiga sér stað nógu fljótt og hléið verður í reynd ekki meira en 5 sekúndur.

Þessi aðferð gerir okkur kleift að klára alla undirbúningsvinnu fyrirfram, framkvæma allar nauðsynlegar athuganir, samræma vinnuna með þátttakendum í ferlinu, spá í smáatriðum fyrir um aðgerðir til framleiðslu verksins, án sköpunarflugs þegar „allt fór úrskeiðis“ ,” og hafa fyrir hendi áætlun um að fara aftur í fyrri uppsetningu. Vinna samkvæmt þessari áætlun er unnin af netverkfræðingi án þess að gagnaversverkfræðingur sé á staðnum sem sér um skiptin líkamlega.

Það sem er líka mikilvægt við þessa aðferð við að skipta er að þegar er fylgst með öllum nýjum hlekkjum fyrirfram. Villur, innkoma tengla í eininguna, hleðsla tengla - allar nauðsynlegar upplýsingar eru þegar í eftirlitskerfinu og þetta er þegar teiknað á kortin.

D-Day

POD

Við völdum minnstu sársaukafulla skiptaleiðina fyrir viðskiptavini og þá sem minnst hætta á að „eitthvað fór úrskeiðis“ með viðbótartengla. Svo við skiptum öllum PODs yfir í nýja samsöfnunarrofa á nokkrum nætur.

En það eina sem er eftir er að skipta um búnað sem veitir DCI þjónustu.

L2

Þegar um er að ræða búnað sem veitir L2 tengingu gátum við ekki framkvæmt svipaða vinnu með viðbótartengingum. Það eru að minnsta kosti tvær ástæður fyrir þessu:

• Skortur á ókeypis höfnum með nauðsynlegum hraða á VXLAN rofum.
• Skortur á setustillingarbreytingarvirkni á VXLAN rofum.

Við skiptum ekki um hlekki „einn í einu“ með hléi aðeins á meðan samið var um nýtt kerfisauðkenni par, þar sem við höfðum ekki 100% trú á að aðgerðin myndi ganga rétt, og próf á rannsóknarstofunni sýndi að í Ef „eitthvað fer úrskeiðis“ fáum við samt truflun á tengingu og það sem er verst er ekki aðeins fyrir viðskiptavini sem hafa L2 tengingu við önnur gagnaver, heldur almennt fyrir alla viðskiptavini þessa gagnaver.

Við unnum áróðursvinnu fyrirfram við umskipti frá L2 rásum, þannig að fjöldi viðskiptavina sem hefur áhrif á vinnu við VXLAN rofa var þegar nokkrum sinnum fyrir minna en ári síðan. Í kjölfarið ákváðum við að rjúfa samskipti um L2 tengiþjónustuna, að því gefnu að við höldum eðlilegum rekstri staðarnetsþjónustu í einni gagnaver. Að auki gerir SLA fyrir þessa þjónustu möguleika á að framkvæma áætlunarvinnu með truflunum.

L3

Af hverju mældum við með því að allir skipta yfir í L3VPN þegar þeir skipuleggja DCI þjónustu? Ein af ástæðunum er möguleikinn á að vinna á einum af beinum sem veita þessa þjónustu, einfaldlega að minnka offramboðið í N+0, án þess að trufla samskipti.

Lítum nánar á þjónustufyrirkomulagið. Í þessari þjónustu fer L2 hluti aðeins frá biðlaraþjónum yfir í L3VPN Selectel beina. Biðlaranetið er lokað á beinum.

Hver biðlaraþjónn, t.d. S2 и S3 á skýringarmyndinni hér að ofan, hafa eigin einka IP tölur - 10.0.0.2/24 á netþjóni S2 и 10.0.0.3/24 á netþjóni S3. Heimilisföng 10.0.0.252/24 и 10.0.0.253/24 úthlutað af Selectel til beina L3VPN-1 и L3VPN-2, í sömu röð. IP tölu 10.0.0.254/24 er VRRP VIP heimilisfang á Selectel beinum.

Þú getur lært meira um L3VPN þjónustuna lesa í blogginu okkar.

Áður en skipt var um leit allt út eins og á skýringarmyndinni:

Tveir beinir L3VPN-1 и L3VPN-2 voru tengdir við gamla safnrofann А. Skipstjórinn fyrir VRRP VIP heimilisfang 10.0.0.254 er beininn L3VPN-1. Það hefur meiri forgang fyrir þetta heimilisfang en beininn L3VPN-2.

unit 1006 {
    description C2;
    vlan-id 1006;
    family inet {       
        address 10.0.0.252/24 {
            vrrp-group 1 {
                priority 200;
                virtual-address 10.100.0.254;
                preempt {
                    hold-time 120;
                }
                accept-data;
            }
        }
    }
}

S2 þjónninn notar gátt 10.0.0.254 til að hafa samskipti við netþjóna á öðrum stöðum. Þannig að aftengja L3VPN-2 beininn frá netinu (auðvitað, ef hann er fyrst aftengdur MPLS léninu) hefur ekki áhrif á tengingu netþjóna viðskiptavinarins. Á þessum tímapunkti er offramboðsstig hringrásarinnar einfaldlega minnkað.

Eftir þetta getum við örugglega tengt beininn aftur L3VPN-2 á par af rofum N. Leggðu tengla, skiptu um senditæki. Rökfræðileg viðmót beinisins, sem rekstur viðskiptavinaþjónustunnar er háður, eru óvirkur þar til staðfest er að allt virki eins og það á að gera.

Eftir að hafa athugað tengla, senditæki, merkjastig og villustig á viðmótunum, er beininn tekinn í notkun, en þegar tengdur við nýtt par af rofum.

Næst lækkum við VRRP forgang L3VPN-1 leiðarinnar og VIP vistfangið 10.0.0.254 er fært í L3VPN-2 beininn. Þessi verk eru einnig unnin án truflunar á samskiptum.

Flytur VIP heimilisfang 10.0.0.254 í beininn L3VPN-2 gerir þér kleift að slökkva á leiðinni L3VPN-1 án truflunar á samskiptum fyrir viðskiptavininn og tengdu hann við nýtt par af samsöfnunarrofum N.

Hvort eigi að skila VRRP VIP í L3VPN-1 beininn eða ekki er önnur spurning, og jafnvel þótt því sé skilað er það gert án þess að trufla tenginguna.

Alls

Eftir öll þessi skref skiptum við í raun um samsöfnunarrofa í einni af gagnaverum okkar, en lágmarkuðum truflun fyrir viðskiptavini okkar.

Það eina sem er eftir er að taka í sundur. Niðurlæging gamalla rofa, afnám gamalla tengla á milli rofa A og D, sundurtaka senditækja frá þessum tenglum, leiðréttingar á vöktun, leiðréttingar á skýringarmyndum nets í skjölum og eftirliti.

Við getum notað rofa, senditæki, plástrasnúrur, AOC, DAC sem eru eftir eftir að skipt hefur verið í önnur verkefni eða fyrir aðra svipaða skiptingu.

"Natasha, við skiptum um allt!"

Heimild: www.habr.com