
Konflik korporasi muncul pada 10.06.2019 Juni XNUMX akibat kenaikan biaya pengiriman SMS ke pengguna jaringan VimpelCom oleh Mail.RU Group. Sebagai tanggapan, Grup Mail.RU berhenti “melayani” saluran IP Rusia langsung ke jaringan VimpelCom.
Di bawah ini adalah analisis singkat situasi dari sudut pandang seorang insinyur jaringan.
Memperbarui: 14.06.2019/18/45 XNUMX:XNUMX - penekanan pada rute Rusia ke jaringan VimpelCom, kesimpulan diperbaiki, penjelasan ditambahkan Sergei Kubasov (CIO VKontakte).
Memperbarui: 14.06.2019/19/48 XNUMX:XNUMX - deskripsi telah ditambahkan tentang metode untuk membatasi penyebaran rute di sepanjang rute "pendek" Rusia melalui Rostelecom, MTS, RETN.NET..
pengantar:
VimpelCom memiliki sistem otonom AS3216, yang lainnya (8402 - Internet rumah, 16345 - Internet seluler) terletak di belakang 3216.
Grup Mail.RU - sistem otonom AS47541, AS47542 dan AS47764. Generator konten utama adalah 47542, yang disebut. CDN VKONTAKTE (film, musik). Semua sistem otonom tidak bergantung satu sama lain (dari perspektif sistem otonom eksternal).
Pertama, mari kita lihat situasi dari jaringan VimpelCom. Untuk ini, ini akan membantu kita .
Mari kita lihat sistem otonom pertama - AS47541.
2914 47541
79.104.32.251 (metric 10500) (79.104.32.251)
Origin IGP, metric 30, localpref 87, valid, internal, best, group-best, import-candidate, import suspect
Received Path ID 0, Local Path ID 1, version 2865394342
Community: 2914:410 2914:1214 2914:2213 2914:3200 3216:3000 3216:3103 47541:1 47541:40000 47541:50078 AS-PATH berisi dua sistem otonom - 2914 (NTT) dan 47541 (VKONTAKTE-SPB-AS).
Metrik localpref diatur ke 87, yang menurut deskripsi dalam RIPE DB untuk objek AS3216 sesuai dengan peering internasional.
...
Keterangan: Rute rekanan internasional mendapatkan preferensi lokal di
keterangan: kisaran 81-89.
...
Informasi yang sama juga dikonfirmasi oleh komunitas 3216:3000 dan 3216:3103 (sumber: ):
...
keterangan: 3216:3000 Diterima dari uplink atau peer internasional, khususnya:
...
keterangan : 3216:3103 AMS-IX
...
Artinya, VimpelCom melihat rute ke VKontakte melalui persimpangan Eropa.
Mari kita lihat jaringan otonom VKontakte lainnya - 47542 (VKONTAKTE-MSK-CDN-AS).
Semua sama.
2914 47541
79.104.32.251 (metric 10500) (79.104.32.251)
Origin IGP, metric 30, localpref 87, valid, internal, best, group-best, import-candidate, import suspect
Received Path ID 0, Local Path ID 1, version 2865394338
Community: 2914:410 2914:1214 2914:2213 2914:3200 3216:3000 3216:3103 47541:1 47541:40000 47541:50078Bagaimana dengan Mail.ru itu sendiri? Mari kita lihat AS47764 (mailru-as).
3356 47764
194.67.0.215 (metric 10501) (194.67.0.215)
Origin IGP, metric 0, localpref 77, valid, internal, best, group-best, import-candidate
Received Path ID 0, Local Path ID 1, version 2867605667
Community: 3216:3000 3216:3007 3356:2 3356:22 3356:100 3356:123 3356:519 3356:2094 47764:1 47764:40000 47764:50077 VimpelCom melihat Mail.ru melalui as3356 (uplink Level3, operator Tier1). Informasi ini dikonfirmasi oleh localpref 77:
...
Keterangan: Rute Uplink mendapatkan preferensi lokal pada kisaran 71-79.
keterangan: Pembaruan Terakhir: Februari 2012…
dan komunitas (3216:3000 dan 3216:3007):
...
keterangan: 3216:3000 Diterima dari uplink atau peer internasional, khususnya:
...
keterangan: 3216:3007 Komunikasi Tingkat 3
...
Dari informasi yang diterima terlihat jelas bahwa lalu lintas dari jaringan VimpelCom ke VKontakte dan MailRu didistribusikan melalui persimpangan Eropa sesuai dengan rute yang diterima melalui protokol BGP. Tidak ada rute alternatif melalui koneksi domestik Rusia di Looking Glass. Tidak ada tindakan yang ditemukan untuk mengalihkan lalu lintas secara artifisial melalui rute yang jelas-jelas lebih buruk.
Bagaimana Grup Mail.ru melihat jaringan VimpelCom?
Mari manfaatkan .
Dari router dari AS47764 (mailru-as):
Path #6: Received by speaker 0
Advertised to peers (in unique update groups):
188.93.60.188
1299 1299 1273 3216 3216
217.20.147.250 (metric 100) from 217.20.147.250 (217.20.147.253)
Origin IGP, metric 500, localpref 200, valid, internal, best, group-best
Received Path ID 0, Local Path ID 0, version 1172721494
Community: 1299:20000 47764:701 47764:41100 47764:41108 47764:50077AS-PATH berisi AS1299 (Telia, operator Tier1, uplink Mail.RU) dan as1273 (Vodafon, operator Tier1, uplink VimpelCom).
LocalPreference 200 adalah standar untuk koneksi eksternal Mail.ru (https://net.mail.ru/bgp.html), dan MED 500 sesuai dengan segala sesuatu yang tidak diterima dari koneksi langsung, bukan dari IX, bukan dari peering .
Tapi kenapa tidak ada rute lokal melalui operator telekomunikasi Rusia???
Mereka ada, tetapi prioritasnya adalah “non-standar”!
Berikut rute melalui Rostelecom (as12389):
Path #1: Received by speaker 0
Not advertised to any peer
12389 3216
46.61.178.149 from 46.61.178.149 (213.59.207.79)
Origin IGP, metric 500, localpref 199, valid, external
Received Path ID 0, Local Path ID 0, version 0
Community: 3216:2001 3216:2999 3216:4100 12389:5 12389:6 12389:1100 12389:1105 12389:1277 47764:701 47764:41100 47764:41104 47764:50077
Origin-AS validity: not-foundDi sini melalui Megafon (as31133):
Path #2: Received by speaker 0
Not advertised to any peer
31133 3216
78.25.77.41 from 78.25.77.41 (10.222.253.97)
Origin IGP, metric 500, localpref 199, valid, external
Received Path ID 0, Local Path ID 0, version 0
Community: 3216:2001 3216:2999 3216:4100 31133:300 31133:46170 47764:701 47764:41100 47764:41105 47764:50077
Origin-AS validity: not-foundDi sini melalui RETN.NET:
Path #3: Received by speaker 0
Not advertised to any peer
9002 9002 3216
87.245.253.24 from 87.245.253.24 (87.245.225.1)
Origin IGP, metric 500, localpref 199, valid, external
Received Path ID 0, Local Path ID 0, version 0
Community: 9002:9002 9002:64667 47764:701 47764:41100 47764:41101 47764:50077
Origin-AS validity: not-foundDan bahkan melalui MTS!
Path #5: Received by speaker 0
Not advertised to any peer
8359 3216
212.188.61.105 from 212.188.61.105 (195.34.52.77)
Origin IGP, metric 500, localpref 199, valid, external
Received Path ID 0, Local Path ID 0, version 0
Community: 8359:200 8359:609 8359:5012 47764:701 47764:41100 47764:41103 47764:50077
Origin-AS validity: not-foundMetrik pref lokal untuk rute-rute Rusia ini diremehkan, yaitu rute-rute tersebut lebih buruk dibandingkan dengan rute-rute asing!
Selain itu, ada larangan dari pihak Mail.Ru Group distribusi awalan Anda ke VimpelCom melalui operator Rusia!
RETN.NET (http://lg.retn.net/):
Pengumuman dari Mail.RU Group menunjukkan komunitas 3216:65535.
Penarikan dari LG RETN.NETinet.0: 762737 tujuan, 1734826 rute (762708 aktif, 222780 ditahan, 277 tersembunyi)
94.100.176.0/20 (1 entri, 1 diumumkan)
*Preferensi BGP: 170/-201
...
...
Jalur AS : 47764 I
Jalur AS: Direkam
Komunitas: 3216:65535 9002:64667 9002:65530
...
VimpelCom tidak menerima rute yang ditandai oleh komunitas semacam itu di jaringannya. Kutipan dari RIPE DB di AS3216:
...
remarks: Internal comminuties are assigned only internally.
remarks: They are in range 3216:0000-3216:4999 and 3216:6000-3216:65535
remarks: and are always deleted from incoming updates at the border
remarks: routers.
...
Ke arah Rostelecom (http://lg.ip.rt.ru), Mail.RU Group menyediakan rute serupa dari komunitas 12389:8350.
Kesimpulan dari LG Rostelecom94.100.176.0/20 melalui 217.107.65.1 pada eth0.9 [sr2 2019-06-13] * (100/?) [AS47764i]
Tipe: BGP unicast univ
BGP.asal: IGP
BGP.as_path: 47764
BGP.next_hop: 213.59.207.78
BGP.med: 0
BGP.local_pref: 850
Komunitas BGP: (12389,1) (12389,1100) (12389,1105) (12389,1277) (12389,8350) (12389,8380) (47764,1) (47764,40000) (47764,50077)
BGP.originator_id: 213.59.207.78
BGP.cluster_list: 95.167.88.79 95.167.88.49 95.167.88.17
Menurut entri RIPE DB untuk objek as12389, komunitas ini berarti “jangan beriklan ke jaringan as3216”:...
remarks: | 12389:835y When advertising to GoldenTelecom (AS3216) |
...
remarks: | ...y=0 - do not advertise |
...
Demikian pula terhadap MTS (http://lg.mtu.ru):Penarikan dari LG MTSEntri tabel perutean BGP untuk 94.100.176.0/20, versi 161717219
Jalur: (2 tersedia, terbaik #1, default tabel)
Multijalur: eBGP
Diiklankan ke grup pembaruan:
6
47764, (diterima & digunakan)
195.34.52.77 (metrik 16) dari 195.34.52.181 (195.34.52.181)
IGP asal, metrik 0, localpref 140, valid, internal, terbaik
Komunitas: 8359:2120 8359:2150 8359:5500 8359:55277
Penggagas: 195.34.52.77, Daftar cluster: 83.59.83.59
47764, (diterima & digunakan)
195.34.52.77 (metrik 16) dari 195.34.52.182 (195.34.52.182)
IGP asal, metrik 0, localpref 140, valid, internal
Komunitas: 8359:2120 8359:2150 8359:5500 8359:55277
Penggagas: 195.34.52.77, Daftar cluster: 83.59.2.77
Komunitas 8359:2120 artinya:...
remarks: 8359:212x when announcing to Sovam (Beeline)
...
remarks: x=0 - do not announce
...
Anda tidak dapat melihat pengumuman Mail.RU Group ke arah Megafon - Megafon tidak memiliki Looking Glass.
Mari kita lihat AS47541 (VKONTAKTE-SPB-AS).
Outputnya terlalu besar.
Router: a9922-e-5
Command: show ip bgp 81.211.56.202
Last switch-over Thu Apr 5 04:25:09 2018: 1 year, 10 weeks, 6 hours, 9 minutes ago
Fri Jun 14 10:34:20.791 MSK
BGP routing table entry for 81.211.0.0/17
Versions:
Process bRIB/RIB SendTblVer
Speaker 913059757 913059757
Last Modified: May 21 05:20:38.536 for 1y03w
Paths: (6 available, best #4)
Advertised to update-groups (with more than one peer):
0.2
Advertised to peers (in unique update groups):
188.93.60.188
Path #1: Received by speaker 0
Not advertised to any peer
1299 1273 3216 3216
87.240.191.235 (metric 31) from 87.240.191.235 (87.240.191.235)
Origin IGP, metric 5000, localpref 150, valid, internal
Received Path ID 0, Local Path ID 0, version 0
Community: 1273:12752 1299:431 1299:4000 1299:20000 1299:20002 1299:20200 3216:2001 3216:2999 3216:4100 47541:701 47541:41100 47541:41111 47541:50078
Path #2: Received by speaker 0
Not advertised to any peer
1299 1273 3216 3216
87.240.191.248 (metric 31) from 87.240.191.248 (87.240.191.248)
Origin IGP, metric 5000, localpref 150, valid, internal
Received Path ID 0, Local Path ID 0, version 0
Community: 1273:12752 1299:431 1299:4000 1299:20000 1299:20002 1299:20200 3216:2001 3216:2999 3216:4100 47541:701 47541:41100 47541:41111 47541:50078
Path #3: Received by speaker 0
Not advertised to any peer
174 6762 3216 3216
87.240.191.249 (metric 31) from 87.240.191.249 (87.240.191.249)
Origin IGP, metric 5000, localpref 150, valid, internal
Received Path ID 0, Local Path ID 0, version 0
Community: 174:21100 174:22005 47541:701 47541:41100 47541:41108 47541:50078
Path #4: Received by speaker 0
Advertised to update-groups (with more than one peer):
0.2
Advertised to peers (in unique update groups):
188.93.60.188
174 6762 3216 3216
149.6.169.113 from 149.6.169.113 (38.28.1.236)
Origin IGP, metric 5000, localpref 150, valid, external, best, group-best
Received Path ID 0, Local Path ID 0, version 913059757
Community: 174:21100 174:22005 47541:701 47541:41100 47541:41108 47541:50078
Origin-AS validity: not-found
Path #5: Received by speaker 0
Not advertised to any peer
1273 1273 3216 3216
195.89.114.197 from 195.89.114.197 (195.2.1.107)
Origin IGP, metric 5005, localpref 150, valid, external
Received Path ID 0, Local Path ID 0, version 0
Community: 1273:12752 3216:2001 3216:2999 3216:4100 47541:701 47541:41100 47541:41110 47541:50078
Origin-AS validity: not-found
Path #6: Received by speaker 0
Not advertised to any peer
3356 3356 3216 3216 3216
213.242.69.69 from 213.242.69.69 (4.69.177.130)
Origin IGP, metric 5000, localpref 150, valid, external
Received Path ID 0, Local Path ID 0, version 0
Community: 3216:2001 3216:2999 3216:4100 3356:2 3356:22 3356:100 3356:123 3356:503 3356:2067 47541:701 47541:41100 47541:41107 47541:50078
Origin-AS validity: not-foundAS-PATH menunjuk ke AS174 - Cogent (uplink Mail.RU, Tier1), lalu AS6762 - Telecom Italia (uplink VimpelCom). Preferensi Lokal adalah 150 di semua tempat, tetapi ini berlaku untuk semua sambungan eksternal, apa pun .
Mari kita lihat AS47542 (VKONTAKTE-MSK-CDN-AS).
Router: mx960-m9-0
Command: op lg-sh-bgp prefix 81.211.56.202
0.0.0.0/0 LP:151 MED: NH:87.240.191.222 AS path: 47541 I
Communities:
Accepted Best
0.0.0.0/0 LP:151 MED: NH:95.142.204.251 AS path: 47541 I
Communities:
Accepted
Inactive-reason: Interior > Exterior > Exterior via InteriorDan dari router kedua:
Router: mx960-m9-1
Command: op lg-sh-bgp prefix 81.211.56.202
0.0.0.0/0 LP:151 MED: NH:87.240.191.224 AS path: 47541 I
Communities:
Accepted Best
0.0.0.0/0 LP:151 MED: NH:95.142.204.250 AS path: 47541 I
Communities:
Accepted
Inactive-reason: Interior > Exterior > Exterior via InteriorHanya rute default (0.0.0.0/0). Situasi ini dijelaskan oleh seorang karyawan Mail.RU Group , untuk itu saya berterima kasih padanya. Singkatnya: segmen jaringan VKontakte Moskow adalah segmen caching (dan bukan penghasil), yang tugasnya adalah mengoptimalkan kecepatan memuat konten populer dan banyak diminati. Merawat pengguna, ya.
Jika tidak ada rute ke jaringan tertentu, maka jaringan tersebut tidak dilayani oleh server cache. Ini berarti pengoptimalan kecepatan unduh tidak berfungsi, dan pengguna dirugikan. Namun di sini perlu kami tekankan bahwa penggunanya bukan hanya milik kami sendiri, tetapi juga milik VimpelCom.
Kesimpulan:
- Dari VimpelCom, lalu lintas menuju Mail.RU Group didistribusikan secara alami. Tidak ada pengalihan buatan melalui manipulasi Preferensi Lokal yang terdeteksi
- Grup Mail.RU mengamati manipulasi dengan awalan VimpelCom. Rute yang ada menuju jaringan VimpelCom melalui operator Rusia memiliki prioritas lebih rendah dibandingkan rute melalui operator Tier1 asing.
- Manajer komunitas BGP telah ditambahkan ke rute yang dikirimkan ke operator Rusia (MTS, Rostelecom, RETN.NET) oleh Mail.RU Group untuk membatasi penyebarannya ke VimpelCom
Mengapa Mail.RU Group memprioritaskan rute melalui Eropa? Mengapa Mail.RU Group melarang koneksi pendek domestik Rusia dengan VimpelCom?
Apakah lebih murah bagi mereka? Mendorong lalu lintas melalui saluran asing dan membayar Tirvan dalam mata uang asing?
Atau ada keinginan untuk mengarahkan trafik lebih jauh sehingga mengambilnya jadi kurang nyaman ya?
Ini tidak diketahui oleh insinyur jaringan...
Sumber: www.habr.com
