Bag-ong imprastraktura sa IT alang sa sentro sa datos sa Russian Post

Sigurado ako nga ang tanan nga mga magbabasa sa Habr adunay labing menos kausa nga nag-order sa mga butang gikan sa mga online nga tindahan sa gawas sa nasud ug dayon miadto aron makadawat mga parsela sa usa ka opisina sa Russian Post. Mahanduraw ba nimo ang gidak-on niini nga buluhaton, gikan sa punto sa panglantaw sa pag-organisar sa logistik? I-multiply ang gidaghanon sa mga pumapalit sa gidaghanon sa ilang mga gipamalit, hunahunaa ang usa ka mapa sa atong halapad nga nasud, ug sa ibabaw niini adunay labaw pa sa 40 ka libo nga mga post office... Pinaagi sa dalan, sa 2018, ang Russian Post nagproseso sa 345 ka milyon nga internasyonal nga mga parsela.

Niining artikuloha isulti namo kanimo kung unsa nga mga isyu ang giatubang ni Pochta ug giunsa kini pagsulbad sa LANIT Integration team, paghimo og bag-ong IT infrastructure para sa mga data center.

Bag-ong imprastraktura sa IT alang sa sentro sa datos sa Russian PostUsa sa mga modernong sentro sa logistik sa Russian Post
 

Sa wala pa ang proyekto

Tungod sa kusog nga pagtaas sa gidaghanon sa mga parsela gikan sa mga langyaw nga tindahan sa China, Western Europe ug North America, ang pagkarga sa mga pasilidad sa logistik sa Russian Post nadugangan. Busa, gitukod ang bag-ong henerasyon nga mga sentro sa logistik, nga naggamit sa mga makina sa paghan-ay nga adunay taas nga performance. Nagkinahanglan sila og suporta gikan sa imprastraktura sa kompyuter.

Ang imprastraktura sa data center wala na sa panahon ug wala maghatag sa gikinahanglan nga performance ug kasaligan sa operasyon sa mga sistema sa impormasyon sa negosyo. Usab, ang Russian Post nakasinati og kakulang sa gahum sa pag-compute aron maglunsad og mga bag-ong serbisyo.
 

Mga sentro sa datos sa kustomer ug ang ilang mga problema

Ang mga sentro sa datos sa Russian Post nagsilbi labaw pa sa 40 ka pasilidad ug 000 ka departamento sa teritoryo. Ang mga sentro sa datos naglihok sa daghang mga serbisyo sa negosyo nga 85/XNUMX, lakip ang mga serbisyo sa e-commerce.

Karon, ang mga negosyo naggamit mga sistema alang sa pagtipig, pag-analisar ug pagproseso sa dagkong datos. Alang sa ingon nga mga sistema, ang paggamit sa artipisyal nga paniktik ug mga algorithm sa pagkat-on sa makina adunay hinungdanon nga papel. Karon, usa sa labing hinungdanon nga mga kaso alang sa usa ka negosyo mao ang pag-optimize sa pagdumala sa mga agos sa logistik ug pagpadali sa serbisyo sa kostumer sa mga post office.

Sa wala pa magsugod ang proyekto sa modernisasyon, adunay mga 3000 ka virtual nga makina sa panguna ug backup nga mga sentro sa datos, ang gidaghanon sa gitipig nga kasayuran milapas sa 2 petabytes. Ang mga sentro sa datos adunay usa ka komplikado nga istruktura sa pag-ruta sa trapiko nga adunay kalabotan sa pagbahinbahin sa lainlaing mga bahin sumala sa lebel sa seguridad.

Sa pag-uswag sa mga aplikasyon ug sa pagpaila sa mga bag-ong serbisyo, ang kasamtangan nga bandwidth sa mga kagamitan sa network sa mga sentro sa datos nahimong dili igo. Gikinahanglan ang pagbalhin ngadto sa mga interface nga adunay bag-ong katulin: 10 Gbit/s, imbes nga 1 Gbit/s sa pag-access ug 40 Gbit/s sa kinauyokan nga lebel, nga adunay bug-os nga redundancy sa mga ekipo ug mga channel sa komunikasyon.

Ang departamento sa seguridad sa impormasyon nakadawat usa ka kinahanglanon nga bahinon ang imprastraktura sa mga bahin nga adunay taas nga lebel sa seguridad sa kasayuran sa trapiko ug aplikasyon (PN - Private Network ug DMZ - Demilitarized Zone). Ang trapiko miagi sa mga firewall (FWUs) nga dili kinahanglan nga i-filter. Ang VRF sa mga switch wala gigamit alang niini nga trapiko. Ang mga lagda sa firewall suboptimal (napulo ka libo nga mga lagda sa matag data center).

Ang seamless nga paglalin sa mga virtual machine (VM) tali sa mga sentro sa datos samtang gipadayon ang IP address ug ang labing maayo nga agianan alang sa trapiko tali sa mga bahin, lakip ang corporate data network (CDN), imposible.

Ang MSTP gigamit alang sa pag-backup; pipila ka mga pantalan gibabagan (init nga standby). Ang core ug access switch wala gihiusa sa usa ka failover cluster, ug ang interface aggregation (LAG) wala gigamit.

Sa pag-abot sa ikatulo nga sentro sa datos, gikinahanglan ang usa ka bag-ong arkitektura ug pagsumpo sa kagamitan aron mapalihok ang singsing tali sa mga sentro sa datos (gisugyot ang EVPN).

Wala'y hiniusa nga konsepto alang sa pagpalambo sa mga sentro sa datos, nga gidokumento sa porma sa usa ka proyekto ug giuyonan sa tanan nga mga departamento sa kustomer. Ang kasamtangan nga dokumentasyon sa pag-operate sa network dili kompleto ug wala na sa petsa.
 

Mga gilauman sa kustomer

Ang team sa proyekto nag-atubang sa mosunod nga mga buluhaton:

  • pag-andam sa konsepto sa arkitektura ug pag-uswag alang sa pagtukod sa network ug imprastraktura sa server sa ikatulo nga sentro sa datos;
  • pagpahigayon sa usa ka operational audit sa kasamtangan nga network sa kustomer;
  • pagpalapad sa network core capacity pinaagi sa labaw pa sa 1500 10/40 Gbps Ethernet ports sa matag data center (4500 ports sa kinatibuk-an);
  • pagsiguro nga ang operasyon sa usa ka singsing tali sa tulo ka mga sentro sa datos nga adunay katakus sa pagpausbaw sa katulin hangtod sa 80 Gbit/s sa matag bahin aron mahiusa ang mga kapanguhaan sa pag-compute sa kustomer gikan sa lainlaing mga sentro sa datos sa usa ka sistema sa IT;
  • paghatag og 100% doble nga reserba sa tanang mga elemento sa network aron makab-ot ang target nga Uptime sa lebel sa 99,995%;
  • mamenosan ang mga paglangay sa trapiko tali sa mga virtual machine aron mapadali ang mga aplikasyon sa negosyo;
  • pagkolekta sa mga estadistika, paghimo sa pag-analisar ug paghimo sa sunod-sunod nga pag-optimize sa mga lagda sa pagsala sa trapiko sa mga sentro sa datos (sa sinugdanan adunay mga 80 nga mga lagda);
  • paghimo og usa ka target nga arkitektura aron masiguro ang hapsay nga paglalin sa mga kritikal nga aplikasyon sa negosyo sa kustomer sa bisan asa sa tulo ka mga sentro sa datos.

So naa miy trabahoon.

Kagamitan

Atong tan-awon pag-ayo kung unsa nga kagamitan ang among gigamit sa proyekto.

Firewall (NGWF) USG9560:

  • division pinaagi sa VSYS;
  • hangtod sa 720 Gbps;
  • hangtod sa 720 milyon nga dungan nga mga sesyon;
  • 8 slots.

Bag-ong imprastraktura sa IT alang sa sentro sa datos sa Russian Post 
Router NE40E-X8:

  • hangtod sa 7,08 Tbit/s Switching Capacity;
  • hangtod sa 2,880 Mpps Forwarding Performance;
  • 8 ka slots alang sa line cards (LPU);
  • hangtod sa 10M BGP IPv4 nga mga ruta matag MPU;
  • hangtod sa 1500K OSPF IPv4 nga mga ruta matag MPU;
  • hangtod sa 3000K – IPv4 FIB (depende sa LPU).

Bag-ong imprastraktura sa IT alang sa sentro sa datos sa Russian Post
CE12800 Series Switch:

  • Virtualization sa Device: VS (1:16 virtualization), Cluster Switch System (CSS), Super Virtual Fabric (SVF);
  • Virtualization sa Network: M-LAG, TRILL, VXLAN ug VXLAN bridging, QinQ sa VXLAN, EVN (Ethernet Virtual Network);
  • sugod sa VRP V2, gilakip ang suporta sa EVPN;
  • M-LAG – analogue sa vPC (virtual Port Channel) para sa Cisco Nexus;
  • Virtual Spanning Tree Protocol (VSTP) – Nahiuyon sa Cisco PVST.

CE12804

Bag-ong imprastraktura sa IT alang sa sentro sa datos sa Russian Post
CE12808

Bag-ong imprastraktura sa IT alang sa sentro sa datos sa Russian Post

Software

Sa proyekto nga among gigamit:

  • Pagbalhin sa mga file sa pagsumpo sa firewall gikan sa ubang mga vendor ngadto sa command format alang sa bag-ong kagamitan;
  • proprietary scripts para sa pag-optimize ug pag-convert sa mga configuration sa firewall.

Bag-ong imprastraktura sa IT alang sa sentro sa datos sa Russian PostAng dagway sa converter alang sa pag-convert sa mga file sa pag-configure
 
Bag-ong imprastraktura sa IT alang sa sentro sa datos sa Russian PostAng laraw sa pag-organisar sa komunikasyon tali sa mga sentro sa datos (EVPN VXLAN)
 

Mga nuances sa pag-set up sa mga ekipo

CE12808
 

  • EVPN (standard) imbes nga EVN (Huawei proprietary) para sa komunikasyon tali sa mga sentro sa datos:

    ○ L2 sa L3 gamit ang iBGP sa Control plane;
    ○ MAC training ug ilang advertisement pinaagi sa iBGP EVPN family (MAC route, type 2);
    ○ awtomatik nga paghimo sa VXLAN tunnels para sa broadcast / wala mailhi nga unicast nga trapiko (Inclusive Multicast Routes, type 3).

  • Duha ka division mode sa VS:

    ○ base sa mga pantalan (port-mode port) o base sa ASIC (port-mode group, display device port-map);
    ○ port split dimension interface 40GE nagtrabaho LAMANG sa Admin VS (bisan unsa pa ang port-mode).

USG9560
 

  • posibilidad sa pagbahin sa VSYS,
  • Ang dinamikong ruta ug pagtulo sa ruta dili mahimo tali sa VSYS!

CE12804
 
Tanan nga Aktibo nga GW (VRRP Master / Master / Master) nga adunay pagsala sa MAC VRRP taliwala sa mga sentro sa datos
 
acl number 4000
  rule 5 deny source-mac 0000-5e00-0100 ffff-ffff-ff00
  rule 10 deny destination-mac 0000-5e00-0100 ffff-ffff-ff00
  rule 15 permit
 
interface Eth-Trunk1
  traffic-filter acl 4000 outbound

Bag-ong imprastraktura sa IT alang sa sentro sa datos sa Russian PostScheme sa resource interaction tali sa data centers (VXLAN EVPN ug All Active GW)
 

Mga kalisdanan sa proyekto

Ang nag-unang kalisud mao ang panginahanglan sa pag-back up sa kasamtangan nga mga aplikasyon gamit ang computing infrastructure. Ang kustomer adunay labaw pa sa 100 nga lainlaing mga aplikasyon, nga ang uban gisulat hapit 10 ka tuig ang milabay. Pananglitan, kung alang sa Yandex dali nimo mapalong ang pila ka gatos nga mga virtual nga makina nga wala’y kadaot sa mga end user, nan sa Russian Post ang ingon nga pamaagi magkinahanglan sa pag-uswag sa daghang mga aplikasyon gikan sa wala ug pagbag-o sa arkitektura sa mga sistema sa impormasyon sa negosyo. Nasulbad namon ang mga problema nga mitumaw sa panahon sa proseso sa paglalin ug pag-optimize sa yugto sa usa ka hiniusa nga pag-audit sa imprastraktura sa kompyuter. Ang tanan nga mga teknolohiya sa network nga bag-o sa negosyo (sama sa EVPN) nakaagi sa pasiuna nga pagsulay sa laboratoryo.
 

Mga resulta sa proyekto

Ang grupo sa proyekto naglakip sa mga espesyalista "LANIT-Integration", ang kustomer ug ang mga kauban niini sa operasyon sa imprastraktura sa kompyuter. Naporma usab ang mga dedikadong support team gikan sa mga vendor (Check Point ug Huawei). Ang proyekto milungtad og duha ka tuig. Mao kini ang gihimo niining panahona.

  • Usa ka estratehiya alang sa pagpalambo sa usa ka network sa mga sentro sa datos, usa ka Corporate Data Network (CDTN) ug usa ka singsing tali sa mga sentro sa datos naugmad ug giuyonan sa tanang departamento sa kustomer.
  • Ang pagkaanaa sa mga serbisyo miuswag. Namatikdan kini sa negosyo sa kustomer ug misangpot sa mas dako nga pagtaas sa trapiko tungod sa pagpaila sa mga bag-ong serbisyo.
  • Labaw sa 40 ka mga lagda ang nabalhin ug na-optimize gikan sa FWSM/ASA ngadto sa USG 000. Ang lain-laing konteksto sa ASA sa UGG 9560 gihiusa ngadto sa usa ka polisiya sa seguridad.
  • Ang throughput sa data center ports nadugangan gikan sa 1G ngadto sa 10/40G pinaagi sa paggamit sa CE12800/CE6850. Kini nagpaposible sa pagwagtang sa mga overload sa interface ug pagkawala sa mga pakete.
  • Ang mga carrier-grade router nga NE40E-X8 hingpit nga nagtabon sa mga panginahanglan sa data center ug data transfer center sa kustomer, nga gikonsiderar ang umaabot nga pagpalambo sa negosyo.
  • Walo ka bag-ong Feature Requests ang gihangyo para sa USG 9560. Niini, pito ang napatuman na ug nalakip sa kasamtangang bersyon sa VRP. 1 FR - alang sa pagpatuman sa Huawei R&D. Kini usa ka walo ka chassis cluster nga adunay katakus sa pag-configure sa gikinahanglan nga pag-andar alang sa pag-synchronize sa pag-configure nga wala’y pag-synchronize sa sesyon. Gikinahanglan kini kung ang paglangan sa trapiko sa usa sa mga sentro sa datos labi ka dako (Adler - Moscow 1300 km subay sa panguna nga ruta ug 2800 km ubay sa ruta sa reserba).

Ang proyekto walay mga analogue kon itandi sa ubang mga kompanya sa koreyo sa Russia.

Ang modernisasyon sa imprastraktura sa network sa mga sentro sa datos nagbukas sa bag-ong mga oportunidad alang sa negosyo aron mapalambo ang mga serbisyo sa digital.

  • Paghatag usa ka personal nga account ug aplikasyon sa mobile alang sa mga indibidwal ug ligal nga entidad.
  • Paghiusa sa mga tindahan sa elektroniko aron mahatagan ang mga serbisyo sa paghatud sa mga butang.
  • Katumanan - pagtipig sa mga butang, pagporma ug paghatud sa mga order gikan sa mga tindahan sa elektroniko.
  • Pagpalapad sa mga punto sa pagkuha sa order, lakip ang paggamit sa mga network nga kaakibat.
  • Legal nga hinungdanon nga pag-agos sa dokumento sa mga katugbang. Kini magwagtang sa hinay ug mahal nga pagpadala sa mga dokumento sa papel.
  • Pagdawat sa mga rehistradong sulat sa elektronik nga porma nga adunay paghatud sa elektroniko ug sa papel nga porma (uban ang pag-imprenta sa mga butang nga mas duol kutob sa mahimo sa katapusang nakadawat). Serbisyo sa elektronikong rehistradong mga sulat sa portal sa serbisyo publiko.
  • Platform alang sa paghatag serbisyo sa telemedicine.
  • Gipasayon ​​nga pagdawat ug gipasayon ​​nga paghatod sa rehistradong mail gamit ang yanong electronic signature.
  • Digitalization sa post office network.
  • Pagdesinyo pag-usab sa mga serbisyo sa self-service (terminal ug parcel terminals).
  • Paghimo sa usa ka digital nga plataporma alang sa pagdumala sa serbisyo sa courier ug usa ka bag-ong aplikasyon sa mobile alang sa mga kliyente sa serbisyo sa courier.

Umari ka sa pagtrabaho uban kanamo!

Source: www.habr.com

Idugang sa usa ka comment