
Un conflict corporativ a apărut pe 10.06.2019 iunie XNUMX din cauza creșterii costului de livrare a SMS-urilor către utilizatorii rețelei VimpelCom de către Grupul Mail.RU. Ca răspuns, Mail.RU Group a încetat să „servizeze” canale IP rusești directe către rețeaua VimpelCom.
Mai jos este o scurtă analiză a situației din perspectiva unui inginer de rețea.
Actualizează: 14.06.2019 18:45 - accent pe rutele rusești către rețeaua VimpelCom, concluzii corectate, explicație adăugată Serghei Kubasov (CIO VKontakte).
Actualizează: 14.06.2019 19:48 - a fost adăugată o descriere a unei metode de limitare a răspândirii rutelor de-a lungul rutei „scurte” rusești prin Rostelecom, MTS, RETN.NET..
Introductiv:
VimpelCom are un sistem autonom AS3216, toate celelalte (8402 - Internet de acasă, 16345 - Internet mobil) sunt situate în spatele 3216.
Grupul Mail.RU - sisteme autonome AS47541, AS47542 și AS47764. Principalul generator de conținut este 47542, așa-numitul. CDN VKONTAKTE (filme, muzică). Toate sistemele autonome sunt independente unele de altele (din poziția unui sistem autonom extern).
În primul rând, să ne uităm la situația din rețeaua VimpelCom. Pentru asta ne va ajuta .
Să ne uităm la primul sistem autonom - AS47541.
2914 47541
79.104.32.251 (metric 10500) (79.104.32.251)
Origin IGP, metric 30, localpref 87, valid, internal, best, group-best, import-candidate, import suspect
Received Path ID 0, Local Path ID 1, version 2865394342
Community: 2914:410 2914:1214 2914:2213 2914:3200 3216:3000 3216:3103 47541:1 47541:40000 47541:50078
AS-PATH conține două sisteme autonome - 2914 (NTT) și 47541 (VKONTAKTE-SPB-AS).
Valoarea localpref este setată la 87, care, conform descrierii din RIPE DB pentru obiectul AS3216, corespunde peering-ului internațional.
...
remarci: rutele internaţionale ale colegilor primesc preferinţă locală în
observatii: interval de 81-89.
...
Aceeași informație este confirmată de comunitățile 3216:3000 și 3216:3103 (sursa: ):
...
remarci: 3216:3000 Primit de la un uplink internațional sau de la un peer, în special:
...
observatii: 3216:3103 AMS-IX
...
Adică, VimpelCom vede traseul către VKontakte prin joncțiunea europeană.
Să ne uităm la o altă rețea autonomă VKontakte - 47542 (VKONTAKTE-MSK-CDN-AS).
Totul este la fel.
2914 47541
79.104.32.251 (metric 10500) (79.104.32.251)
Origin IGP, metric 30, localpref 87, valid, internal, best, group-best, import-candidate, import suspect
Received Path ID 0, Local Path ID 1, version 2865394338
Community: 2914:410 2914:1214 2914:2213 2914:3200 3216:3000 3216:3103 47541:1 47541:40000 47541:50078
Dar Mail.ru în sine? Să ne uităm la AS47764 (mailru-as).
3356 47764
194.67.0.215 (metric 10501) (194.67.0.215)
Origin IGP, metric 0, localpref 77, valid, internal, best, group-best, import-candidate
Received Path ID 0, Local Path ID 1, version 2867605667
Community: 3216:3000 3216:3007 3356:2 3356:22 3356:100 3356:123 3356:519 3356:2094 47764:1 47764:40000 47764:50077
VimpelCom vede Mail.ru prin as3356 (uplink Level3, Tier1 operator). Această informație este confirmată de localpref 77:
...
observații: rutele Uplink au preferință locală în intervalul 71-79.
remarci: Ultima actualizare: februarie 2012...
și comunitate (3216:3000 și 3216:3007):
...
remarci: 3216:3000 Primit de la un uplink internațional sau de la un peer, în special:
...
observații: 3216:3007 Nivel 3 Comunicații
...
Din informațiile primite reiese clar că traficul din rețeaua VimpelCom către VKontakte și MailRu este distribuit prin joncțiuni europene conform rutelor primite prin protocolul BGP. Nu există rute alternative prin conexiunile interne rusești în Looking Glass. Nu s-au găsit măsuri de redirecționare artificială a traficului prin rute evident mai proaste.
Cum vede Mail.ru Group rețeaua VimpelCom?
Să profităm .
De la routerele de la AS47764 (mailru-as):
Path #6: Received by speaker 0
Advertised to peers (in unique update groups):
188.93.60.188
1299 1299 1273 3216 3216
217.20.147.250 (metric 100) from 217.20.147.250 (217.20.147.253)
Origin IGP, metric 500, localpref 200, valid, internal, best, group-best
Received Path ID 0, Local Path ID 0, version 1172721494
Community: 1299:20000 47764:701 47764:41100 47764:41108 47764:50077
AS-PATH conține AS1299 (Telia, operator Tier1, uplink Mail.RU) și as1273 (Vodafon, operator Tier1, uplink VimpelCom).
LocalPreference 200 este standardul pentru conexiunile externe ale Mail.ru (https://net.mail.ru/bgp.html), iar MED 500 corespunde tot ceea ce nu este primit de la o conexiune directă, nu de la IX-uri, nu de la peering-uri .
Dar de ce nu există rute locale prin operatorii de telecomunicații ruși???
Ele există, dar prioritatea lor este „non-standard”!
Iată traseul prin Rostelecom (as12389):
Path #1: Received by speaker 0
Not advertised to any peer
12389 3216
46.61.178.149 from 46.61.178.149 (213.59.207.79)
Origin IGP, metric 500, localpref 199, valid, external
Received Path ID 0, Local Path ID 0, version 0
Community: 3216:2001 3216:2999 3216:4100 12389:5 12389:6 12389:1100 12389:1105 12389:1277 47764:701 47764:41100 47764:41104 47764:50077
Origin-AS validity: not-found
Aici prin Megafon (as31133):
Path #2: Received by speaker 0
Not advertised to any peer
31133 3216
78.25.77.41 from 78.25.77.41 (10.222.253.97)
Origin IGP, metric 500, localpref 199, valid, external
Received Path ID 0, Local Path ID 0, version 0
Community: 3216:2001 3216:2999 3216:4100 31133:300 31133:46170 47764:701 47764:41100 47764:41105 47764:50077
Origin-AS validity: not-found
Aici prin RETN.NET:
Path #3: Received by speaker 0
Not advertised to any peer
9002 9002 3216
87.245.253.24 from 87.245.253.24 (87.245.225.1)
Origin IGP, metric 500, localpref 199, valid, external
Received Path ID 0, Local Path ID 0, version 0
Community: 9002:9002 9002:64667 47764:701 47764:41100 47764:41101 47764:50077
Origin-AS validity: not-found
Și chiar și prin MTS!
Path #5: Received by speaker 0
Not advertised to any peer
8359 3216
212.188.61.105 from 212.188.61.105 (195.34.52.77)
Origin IGP, metric 500, localpref 199, valid, external
Received Path ID 0, Local Path ID 0, version 0
Community: 8359:200 8359:609 8359:5012 47764:701 47764:41100 47764:41103 47764:50077
Origin-AS validity: not-found
Metrica localpref pentru aceste rute rusești este subestimată, adică rutele sunt mai proaste în comparație cu cele străine!
Mai mult decât atât, există interdicții din partea Mail.Ru Group distribuirea prefixelor dumneavoastră către VimpelCom prin operatori ruși!
RETN.NET (http://lg.retn.net/):
Anunțurile de la Mail.RU Group arată comunitatea 3216:65535.
Retragere de la LG RETN.NETinet.0: 762737 destinații, 1734826 rute (762708 active, 222780 holddown, 277 ascunse)
94.100.176.0/20 (1 intrare, 1 anunțat)
*Preferință BGP: 170/-201
...
...
Calea AS: 47764 I
Calea AS: Înregistrată
Comunități: 3216:65535 9002:64667 9002:65530
...
VimpelCom nu acceptă rute marcate de o astfel de comunitate în rețeaua sa. Extras din RIPE DB pe AS3216:
...
remarks: Internal comminuties are assigned only internally.
remarks: They are in range 3216:0000-3216:4999 and 3216:6000-3216:65535
remarks: and are always deleted from incoming updates at the border
remarks: routers.
...
În direcția Rostelecom (http://lg.ip.rt.ru), Mail.RU Group oferă rute similare din comunitatea 12389:8350.
Retragere de la LG Rostelecom94.100.176.0/20 prin 217.107.65.1 pe eth0.9 [sr2 2019-06-13] * (100/?) [AS47764i]
Tip: BGP unicast univ
BGP.origine: IGP
BGP.as_path: 47764
BGP.next_hop: 213.59.207.78
BGP.med: 0
BGP.local_pref: 850
BGP.community: (12389,1) (12389,1100) (12389,1105) (12389,1277) (12389,8350) (12389,8380) (47764,1) (47764,40000) (47764,50077)
BGP.originator_id: 213.59.207.78
BGP.listă_cluster: 95.167.88.79 95.167.88.49 95.167.88.17
Conform intrărilor RIPE DB pentru obiectul as12389, această comunitate înseamnă „nu face publicitate în rețeaua as3216”:...
remarks: | 12389:835y When advertising to GoldenTelecom (AS3216) |
...
remarks: | ...y=0 - do not advertise |
...
În mod similar, față de MTS (http://lg.mtu.ru):Retragere de la LG MTSIntrare în tabelul de rutare BGP pentru 94.100.176.0/20, versiunea 161717219
Căi: (2 disponibil, cel mai bun #1, tabel prestabilit)
Căi multiple: eBGP
Anunțat la grupurile de actualizare:
6
47764, (primit și folosit)
195.34.52.77 (metric 16) de la 195.34.52.181 (195.34.52.181)
Origin IGP, metrica 0, localpref 140, valid, intern, cel mai bun
Comunitate: 8359:2120 8359:2150 8359:5500 8359:55277
Creator: 195.34.52.77, Listă cluster: 83.59.83.59
47764, (primit și folosit)
195.34.52.77 (metric 16) de la 195.34.52.182 (195.34.52.182)
IGP de origine, metric 0, localpref 140, valid, intern
Comunitate: 8359:2120 8359:2150 8359:5500 8359:55277
Creator: 195.34.52.77, Listă cluster: 83.59.2.77
Comunitatea 8359:2120 înseamnă:...
remarks: 8359:212x when announcing to Sovam (Beeline)
...
remarks: x=0 - do not announce
...
Nu puteți privi anunțurile Mail.RU Group în direcția Megafon - acesta din urmă nu are Looking Glass.
Să ne uităm la AS47541 (VKONTAKTE-SPB-AS).
Ieșirea este prea mare.
Router: a9922-e-5
Command: show ip bgp 81.211.56.202
Last switch-over Thu Apr 5 04:25:09 2018: 1 year, 10 weeks, 6 hours, 9 minutes ago
Fri Jun 14 10:34:20.791 MSK
BGP routing table entry for 81.211.0.0/17
Versions:
Process bRIB/RIB SendTblVer
Speaker 913059757 913059757
Last Modified: May 21 05:20:38.536 for 1y03w
Paths: (6 available, best #4)
Advertised to update-groups (with more than one peer):
0.2
Advertised to peers (in unique update groups):
188.93.60.188
Path #1: Received by speaker 0
Not advertised to any peer
1299 1273 3216 3216
87.240.191.235 (metric 31) from 87.240.191.235 (87.240.191.235)
Origin IGP, metric 5000, localpref 150, valid, internal
Received Path ID 0, Local Path ID 0, version 0
Community: 1273:12752 1299:431 1299:4000 1299:20000 1299:20002 1299:20200 3216:2001 3216:2999 3216:4100 47541:701 47541:41100 47541:41111 47541:50078
Path #2: Received by speaker 0
Not advertised to any peer
1299 1273 3216 3216
87.240.191.248 (metric 31) from 87.240.191.248 (87.240.191.248)
Origin IGP, metric 5000, localpref 150, valid, internal
Received Path ID 0, Local Path ID 0, version 0
Community: 1273:12752 1299:431 1299:4000 1299:20000 1299:20002 1299:20200 3216:2001 3216:2999 3216:4100 47541:701 47541:41100 47541:41111 47541:50078
Path #3: Received by speaker 0
Not advertised to any peer
174 6762 3216 3216
87.240.191.249 (metric 31) from 87.240.191.249 (87.240.191.249)
Origin IGP, metric 5000, localpref 150, valid, internal
Received Path ID 0, Local Path ID 0, version 0
Community: 174:21100 174:22005 47541:701 47541:41100 47541:41108 47541:50078
Path #4: Received by speaker 0
Advertised to update-groups (with more than one peer):
0.2
Advertised to peers (in unique update groups):
188.93.60.188
174 6762 3216 3216
149.6.169.113 from 149.6.169.113 (38.28.1.236)
Origin IGP, metric 5000, localpref 150, valid, external, best, group-best
Received Path ID 0, Local Path ID 0, version 913059757
Community: 174:21100 174:22005 47541:701 47541:41100 47541:41108 47541:50078
Origin-AS validity: not-found
Path #5: Received by speaker 0
Not advertised to any peer
1273 1273 3216 3216
195.89.114.197 from 195.89.114.197 (195.2.1.107)
Origin IGP, metric 5005, localpref 150, valid, external
Received Path ID 0, Local Path ID 0, version 0
Community: 1273:12752 3216:2001 3216:2999 3216:4100 47541:701 47541:41100 47541:41110 47541:50078
Origin-AS validity: not-found
Path #6: Received by speaker 0
Not advertised to any peer
3356 3356 3216 3216 3216
213.242.69.69 from 213.242.69.69 (4.69.177.130)
Origin IGP, metric 5000, localpref 150, valid, external
Received Path ID 0, Local Path ID 0, version 0
Community: 3216:2001 3216:2999 3216:4100 3356:2 3356:22 3356:100 3356:123 3356:503 3356:2067 47541:701 47541:41100 47541:41107 47541:50078
Origin-AS validity: not-found
AS-PATH indică AS174 - Cogent (link up Mail.RU, Tier1), apoi AS6762 - Telecom Italia (link up VimpelCom). Preferința locală este 150 peste tot, dar aceasta se aplică tuturor articulațiilor externe, indiferent de .
Să ne uităm la AS47542 (VKONTAKTE-MSK-CDN-AS).
Router: mx960-m9-0
Command: op lg-sh-bgp prefix 81.211.56.202
0.0.0.0/0 LP:151 MED: NH:87.240.191.222 AS path: 47541 I
Communities:
Accepted Best
0.0.0.0/0 LP:151 MED: NH:95.142.204.251 AS path: 47541 I
Communities:
Accepted
Inactive-reason: Interior > Exterior > Exterior via Interior
Și de la al doilea router:
Router: mx960-m9-1
Command: op lg-sh-bgp prefix 81.211.56.202
0.0.0.0/0 LP:151 MED: NH:87.240.191.224 AS path: 47541 I
Communities:
Accepted Best
0.0.0.0/0 LP:151 MED: NH:95.142.204.250 AS path: 47541 I
Communities:
Accepted
Inactive-reason: Interior > Exterior > Exterior via Interior
Doar rutele implicite (0.0.0.0/0). Această situație a fost explicată de un angajat al Grupului Mail.RU , pentru care îi mulțumesc. Pe scurt: segmentul Moscova al rețelei VKontakte este stocarea în cache (nu generează), a cărui sarcină este să optimizeze viteza de încărcare a conținutului popular, la cerere. Aveți grijă de utilizatori, da.
Dacă nu există nicio rută către o anumită rețea, atunci această rețea nu este deservită de servere de cache. Aceasta înseamnă că optimizarea vitezei de descărcare nu funcționează, iar utilizatorii suferă. Dar aici trebuie să subliniem că utilizatorii nu sunt doar ai noștri, ci și ai VimpelCom.
Concluzii:
- De la VimpelCom, traficul către Mail.RU Group este distribuit în mod natural. Nu au fost detectate redirecționări artificiale prin manipulări Local Preference
- Grupul Mail.RU observă manipulări cu prefixele VimpelCom. Rutele existente către rețeaua VimpelCom prin operatorii ruși au priorități mai mici în comparație cu rutele prin operatorii străini Tier1.
- Managerii comunității BGP au fost adăugați la rutele transmise operatorilor ruși (MTS, Rostelecom, RETN.NET) de către Grupul Mail.RU pentru a limita răspândirea lor către VimpelCom
De ce Mail.RU Group acordă prioritate rutelor prin Europa? De ce Grupul Mail.RU interzice conexiunile interne scurte din Rusia cu VimpelCom?
Este mai ieftin pentru ei? Conduceți traficul prin canale străine și plătiți țirvanii în valută?
Sau există dorința de a conduce traficul mai departe, astfel încât ridicarea acestuia să nu fie atât de convenabilă, nu?
Acest lucru este necunoscut pentru inginerul de rețea...
Sursa: www.habr.com
