Бид Хятадын агуу галт ханыг хэрхэн эвдсэн бэ (3-р хэсэг)

Сайн уу!
Бүх сайхан түүхүүд төгсдөг. Хятадын галт ханыг хурдан нэвтрүүлэх шийдлийг хэрхэн олж авсан тухай бидний түүх ч үл хамаарах зүйл биш юм. Тиймээс би та бүхэнтэй сүүлчийнх нь талаар хуваалцахаар яаравчлав. эцсийн хэсэг энэ сэдэв дээр.

Өмнөх хэсэгт бид олон туршилтын вандан сандал гаргаж, ямар үр дүнд хүрсэн талаар ярилцсан. Тэгээд бид юу нэмэхэд таатай байх талаар шийдсэн CDN! наалдамхай байдлын хувьд манай схемд .

Бид Alibaba Cloud CDN, Tencent Cloud CDN болон Akamai-г хэрхэн туршиж үзсэн, мөн бид юу хийснийг танд хэлэх болно. Мэдээжийн хэрэг, нэгтгэн дүгнэж үзье.

Бид Хятадын агуу галт ханыг хэрхэн эвдсэн бэ (3-р хэсэг)

Alibaba Cloud CDN

Бид Alibaba Cloud дээр байрладаг бөгөөд тэдгээрээс IPSEC болон CEN ашигладаг. Эхлээд тэдний шийдлийг туршиж үзэх нь логик юм.

Alibaba Cloud нь бидэнд тохирох хоёр төрлийн бүтээгдэхүүнтэй: CDN и DCDN. Эхний сонголт бол тодорхой домэйны (дэд домайн) сонгодог CDN юм. Хоёр дахь сонголт нь гэсэн үг юм CDN-д зориулсан динамик маршрут (Би үүнийг динамик CDN гэж нэрлэдэг), үүнийг сайтын бүрэн горимд идэвхжүүлэх боломжтой (хоёр тэмдэгт домэйнуудын хувьд), энэ нь статик контентыг кэш болгож, динамик контентыг хурдасгадаг, өөрөөр хэлбэл, хуудасны динамикийг үйлчилгээ үзүүлэгчээр дамжуулан ачаалах болно. хурдан сүлжээнүүд. Энэ нь бидний хувьд чухал, учир нь манай сайт нь үндсэндээ динамик, олон дэд домайн ашигладаг бөгөөд "од" - *.semrushchina.cn-д зориулж CDN-г нэг удаа тохируулах нь илүү тохиромжтой.

Бид энэ бүтээгдэхүүнийг Хятадын төслийн эхний үе шатанд аль хэдийн харж байсан боловч энэ нь хараахан ажиллаагүй байсан бөгөөд бүтээгчид удахгүй бүтээгдэхүүн бүх үйлчлүүлэгчдэд хүрнэ гэж амласан. Тэгээд тэр хийсэн.

DCDN дээр та:

  • SSL цуцлалтыг өөрийн сертификатаар тохируулах,
  • динамик контентыг хурдасгах,
  • статик файлуудын кэшийг уян хатан тохируулах,
  • кэшийг цэвэрлэх,
  • урагшлах вэб залгуурууд,
  • шахалтыг идэвхжүүлж, тэр ч байтугай HTML Beautifier.

Ерөнхийдөө бүх зүйл насанд хүрэгчид болон томоохон CDN үйлчилгээ үзүүлэгчидтэй адил юм.

Гарал үүслийг (CDN захын серверүүд очих газар) зааж өгсний дараа одоор тэмдэглэсэн CNAME үүсгэх л үлдлээ. all.semrushchina.cn.w.kunluncan.com (энэ CNAME-г Alibaba Cloud консол дээр хүлээн авсан) CDN ажиллах болно.

Туршилтын үр дүнд үндэслэн энэ CDN бидэнд маш их тусалсан. Статистикийг доор харуулав.

шийдвэр
Дахин цаг хугацаа
Median
75 хувь
95 хувь

Cloudflare
86.6
18s
30s
60s

IPsec
99.79
18s
21s
30s

CEN
99.75
16s
21s
27s

CEN/IPsec + GLB
99.79
13s
16s
25s

Али CDN + CEN/IPsec + GLB
99.75
10s
12.8s
17.3s

Эдгээр нь маш сайн үр дүн юм, ялангуяа та тэдгээрийг эхэнд байсан тоотой харьцуулах юм бол. Гэхдээ манай www.semrush.com вэб сайтын Америк хувилбарын хөтчийн тест нь АНУ-аас дунджаар 8.3 секундын дотор ажилладаг гэдгийг бид мэдэж байсан (маш ойролцоо утга). Сайжруулах зүйл бий. Түүгээр ч зогсохгүй CDN үйлчилгээ үзүүлэгчдийг турших сонирхолтой байсан.

Тиймээс бид Хятадын зах зээлд өөр нэг аварга том компани руу жигд шилжлээ. Tencent.

Tencent Үүл

Tencent үүлээ дөнгөж хөгжүүлж байна - үүнийг цөөн тооны бүтээгдэхүүнээс харж болно. Үүнийг ашиглах явцад бид зөвхөн CDN-ийг төдийгүй сүлжээний дэд бүтцийг бүхэлд нь туршихыг хүссэн.

  • Тэдэнд CEN-тэй төстэй зүйл бий юу?
  • IPSEC тэдний төлөө хэрхэн ажилладаг вэ? Энэ нь хурдан байна уу, ажиллах хугацаа хэд вэ?
  • тэдэнд Anycast байгаа юу?

Бид Хятадын агуу галт ханыг хэрхэн эвдсэн бэ (3-р хэсэг)

Эдгээр асуултуудыг тусад нь авч үзье.

Аналог CEN

Tencent-д бүтээгдэхүүн бий Cloud Connect Network (CCN), танд өөр өөр бүс нутгаас, тэр дундаа Хятад доторх болон гаднах бүс нутгаас VPC холбох боломжийг олгоно. Бүтээгдэхүүн одоо дотоод бета хувилбарт байгаа бөгөөд та түүнтэй холбогдохыг хүссэн тасалбар үүсгэх хэрэгтэй. Дэлхийн дансууд (бид Хятадын иргэн, хуулийн этгээдийн тухай яриагүй) бета туршилтын хөтөлбөрт оролцох боломжгүй бөгөөд ерөнхийдөө Хятад доторх бүс нутгийг гаднах бүс нутагтай холбох боломжгүй гэдгийг бид дэмжлэгээс олж мэдсэн. 1:0-ээр Али Клауд ашигтай

IPSEC

Тенсентийн хамгийн өмнөд бүс нутаг Гуанжоу. Бид хонгил угсарч, GCP дахь Хонг Конгийн бүстэй холбосон (тэр үед энэ бүс аль хэдийн бэлэн болсон). Шэньжэнээс Хонконг хүртэлх Али Үүлэн дэх хоёр дахь хонгилыг мөн тэр үед босгосон. Tencent сүлжээгээр дамжуулан Хонг Конг руу орох хоцролт нь Шэньжэнээс Хонконг руу Али хүртэл (10 мс - юу вэ?) илүү (120 мс) илүү байдаг нь тогтоогдсон. Гэхдээ энэ нь Tencent болон энэхүү хонгилоор дамжуулан ажиллахад чиглэсэн сайтын ажлыг ямар нэгэн байдлаар хурдасгасангүй, энэ нь өөрөө гайхалтай баримт байсан бөгөөд дараахь зүйлийг дахин нотолсон: хоцролт - Хятадын хувьд энэ нь үнэхээр үнэ цэнэтэй үзүүлэлт биш юм. Хятадын галт ханыг нэвтрүүлэх шийдлийг боловсруулахдаа анхаарах.

Anycast интернет хурдасгах

Anycast IP-ээр дамжуулан ажиллах боломжийг олгодог өөр нэг бүтээгдэхүүн юм AIA. Гэхдээ энэ нь дэлхийн дансанд бас боломжгүй тул би энэ талаар танд хэлэхгүй, гэхдээ ийм бүтээгдэхүүн байдаг гэдгийг мэдэх нь ашигтай байж магадгүй юм.

Гэхдээ CDN тест нь нэлээд сонирхолтой үр дүнг харуулсан. Tencent-ийн CDN-ийг бүрэн сайт дээр идэвхжүүлэх боломжгүй, зөвхөн тодорхой домэйн дээр. Бид домэйн үүсгэж, тэдгээрт траффик илгээсэн:

Бид Хятадын агуу галт ханыг хэрхэн эвдсэн бэ (3-р хэсэг)

Энэ CDN нь дараахь функцтэй болох нь тогтоогдсон. Хил дамнасан хөдөлгөөнийг оновчтой болгох. Энэ функц нь Хятадын галт ханаар дамжин өнгөрөх үед зардлыг бууруулах ёстой. гэх мэт Гарал үүсэл Google GLB (GLB anycast)-ийн IP хаягийг зааж өгсөн. Тиймээс бид төслийн архитектурыг хялбарчлахыг хүссэн.

Үр дүн нь маш сайн байсан - Ali Cloud CDN-ийн түвшинд, зарим газарт бүр илүү сайн байсан. Энэ нь гайхмаар зүйл юм, учир нь хэрэв туршилт амжилттай болвол та дэд бүтэц, хонгил, CEN, виртуал машин гэх мэт чухал хэсгийг орхиж болно.

Асуудал илэрсэн тул бид удаан баярласангүй: интернет үйлчилгээ үзүүлэгч China Mobile-д Catchpoint-ийн туршилт амжилтгүй болсон. Бид аль ч газраас Tencent-ийн CDN-ээр завсарлага авсан. Техникийн дэмжлэгтэй захидал харилцаа нь юу ч хүргэсэнгүй. Бид энэ асуудлыг шийдэх гэж нэг өдөр оролдсон ч үр дүнд хүрсэнгүй.

Би тэр үед Хятадад байсан боловч асуудлыг биечлэн шалгахын тулд энэ үйлчилгээ үзүүлэгчийн сүлжээнээс нийтийн Wi-Fi олж чадсангүй. Үгүй бол бүх зүйл хурдан бөгөөд сайхан харагдаж байв.
Гэсэн хэдий ч China Mobile нь гурван том операторын нэг учраас бид Ali CDN руу урсгалыг буцаахаас өөр аргагүй болсон.
Гэхдээ ерөнхийдөө энэ нь энэ асуудлыг удаан хугацаанд туршиж, алдааг олж засварлах шаардлагатай нэлээд сонирхолтой шийдэл байв.

Акамай

Бидний туршиж үзсэн хамгийн сүүлийн CDN үйлчилгээ үзүүлэгч Акамай. Энэ бол Хятадад сүлжээтэй асар том үйлчилгээ үзүүлэгч юм. Мэдээжийн хэрэг, бид үүнийг даван туулж чадаагүй.

Бид Хятадын агуу галт ханыг хэрхэн эвдсэн бэ (3-р хэсэг)

Бид анхнаасаа л Акамайтай туршилтын хугацаагаар тохиролцсон бөгөөд ингэснээр бид домэйныг сольж, тэдний сүлжээнд хэрхэн ажиллахыг харах боломжтой болсон. Би бүх шалгалтын үр дүнг "Надад таалагдсан зүйл", "Надад таалагдаагүй зүйл" гэсэн хэлбэрээр тайлбарлаж, мөн туршилтын үр дүнг өгөх болно.

Надад таалагдсан зүйл:

  • Акамайгийн залуус бүх асуултанд маш их тусалж, шалгалтын бүх үе шатанд бидэнтэй хамт байсан. Бид өөрсдийн талд ямар нэг зүйлийг сайжруулахыг байнга хичээдэг байсан. Тэд техникийн сайн зөвлөгөө өгсөн.
  • Акамаи Ali Cloud CDN-ээр дамжуулан бидний шийдлээс 10-15% удаан. Гайхалтай нь Origin for Akamai дээр бид GLB-ийн IP хаягийг зааж өгсөн нь бидний шийдлээр траффик дамжаагүй (бид дэд бүтцийн зарим хэсгийг орхиж болзошгүй) гэсэн үг юм. Гэсэн хэдий ч туршилтын үр дүн энэ шийдэл нь бидний одоогийн хувилбараас муу болохыг харуулсан (доорх харьцуулсан үр дүн).
  • Origin GLB болон Origin-ийг Хятадад туршсан. Хоёр сонголт нь ойролцоогоор ижил байна.
  • Байдаг Мэдээж маршрут (автомат чиглүүлэлтийн оновчлол). Та Origin дээр туршилтын объект байршуулах боломжтой бөгөөд Akamai Edge серверүүд үүнийг авахыг оролдох болно (ердийн GET). Эдгээр хүсэлтийн хувьд хурд болон бусад хэмжигдэхүүнүүдийг хэмждэг бөгөөд үүний үндсэн дээр Акамай сүлжээ нь манай сайтын урсгалыг хурдасгах маршрутыг оновчтой болгодог бөгөөд энэ функцийг идэвхжүүлсэн нь сайтын хурдад үнэхээр хүчтэй нөлөө үзүүлсэн нь тодорхой байв.
  • Вэб интерфэйс дэх тохиргооны хувилбарыг өөрчлөх нь гайхалтай юм. Та хувилбаруудыг харьцуулж болно, ялгааг харна уу. Өмнөх хувилбаруудыг үзэх.
  • Та шинэ хувилбарыг эхлээд зөвхөн Akamai Staging сүлжээнд гаргах боломжтой - үйлдвэрлэлтэй ижил сүлжээ, зөвхөн ийм байдлаар л жинхэнэ хэрэглэгчдэд нөлөөлөхгүй. Энэ туршилтыг хийхийн тулд та өөрийн локал машин дээрх DNS бичлэгийг хуурах хэрэгтэй.
  • Том хэмжээний статик файлууд болон бусад файлуудыг сүлжээгээр дамжуулан маш хурдан татаж авах хурд. "Хүйтэн" кэшээс файлыг Али CDN-ийн "хүйтэн" кэшээс ижил файлаас хэд дахин хурдан татаж авдаг. "Халуун" кэшээс хурд нь аль хэдийн ижил, нэмэх эсвэл хасах болно.

Али CDN тест:

root@shenzhen1:~# curl -o /dev/null -w@curl_time https://en.semrushchina.cn/my_reports/build/scripts/simpleInit.js?v=1551879212
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100 5757k    0 5757k    0     0   513k      0 --:--:--  0:00:11 --:--:--  526k
time_namelookup:  0.004286
time_connect:  0.030107
time_appconnect:  0.117525
time_pretransfer:  0.117606
time_redirect:  0.000000
time_starttransfer:  0.840348
----------
time_total:  11.208119
----------
size_download:  5895467 Bytes
speed_download:  525999.000B/s

Акамай тест:

root@shenzhen1:~# curl -o /dev/null -w@curl_time https://www.semrushchina.cn/my_reports/build/scripts/simpleInit.js?v=1551879212
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100 5757k    0 5757k    0     0  1824k      0 --:--:--  0:00:03 --:--:-- 1825k
time_namelookup:  0.509005
time_connect:  0.528261
time_appconnect:  0.577235
time_pretransfer:  0.577324
time_redirect:  0.000000
time_starttransfer:  1.327013
----------
time_total:  3.154850
----------
size_download:  5895467 Bytes
speed_download:  1868699.000B/s

Дээрх жишээн дээрх нөхцөл байдал нь янз бүрийн хүчин зүйлээс хамаардаг болохыг бид анзаарсан. Энэ цэгийг бичиж байх үед би дахин шалгалт өгсөн. Хоёр платформын үр дүн ойролцоогоор ижил байв. Энэ нь Хятад дахь интернет, тэр ч байтугай томоохон операторууд болон үүлэн үйлчилгээ үзүүлэгчдийн хувьд ч гэсэн үе үе өөр өөр байдаг гэдгийг бидэнд хэлж байна.

Өмнөх зүйл дээр би Акамаигийн хувьд нэг том нэмэх зүйл нэмж хэлье: хэрвээ Али өндөр гүйцэтгэлтэй, маш бага гүйцэтгэлтэй ижил төстэй анивчдаг бол (энэ нь Али CDN, Ali CEN, Али IPSEC-д хамаатай), Акамаи хэзээ ч хамаагүй, Би тэдний сүлжээг хэрхэн туршиж үзэх вэ, бүх зүйл тогтвортой ажилладаг.
Акамай нь Хятадад маш олон үйлчилгээ үзүүлдэг бөгөөд олон үйлчилгээ үзүүлэгчээр дамжуулан ажилладаг.

Надад таалагдаагүй зүйл:

  • Би вэб интерфэйс болон түүний ажиллах аргад дургүй - энэ нь маш муу байна. Гэхдээ үндсэндээ та үүнд дасдаг (магадгүй).
  • Туршилтын үр дүн манай сайтаас муу байна.
  • Туршилтын явцад манай сайтаас илүү олон алдаа гардаг (доор ажиллах хугацаа).
  • Бид Хятадад өөрийн DNS сервергүй. Тиймээс DNS шийдвэрлэх хугацаа дууссаны улмаас туршилтанд олон алдаа гардаг.
  • Тэд IP хүрээгээ өгдөггүй -> зөвийг нь бүртгэх арга байхгүй -аас_бодит_ip_тогтоох манай серверүүд дээр.

Метрик (~3626 гүйлт; Ажиллах хугацаанаас бусад бүх хэмжигдэхүүн, мс-ээр; нэг хугацааны статистик):

CDN үйлчилгээ үзүүлэгч
Median
75%
95%
хариу арга хэмжээ
Вэб хуудасны хариу
Дахин цаг хугацаа
DNS
холбоно
түр хүлээнэ үү
Load
SSL

AliCDN
9195
10749
17489
1,715
10,745
99.531
57
17
927
479
200

Акамай
9783
11887
19888
2,352
11,550
98.980
424
91
1408
381
50

Хувиар хуваарилалт (мс-ээр):

Хувь
Акамай
AliCDN

10
7,092
6,942

20
7,775
7,583

30
8,446
8,092

40
9,146
8,596

50
9,783
9,195

60
10,497
9,770

70
11,371
10,383

80
12,670
11,255

90
15,882
13,165

100
91,592
91,596

Дүгнэлт нь: Акамай сонголт нь амьдрах боломжтой боловч Али CDN-тэй хослуулсан бидний шийдэлтэй ижил тогтвортой байдал, хурдыг өгдөггүй.

Жижиг тэмдэглэл

Зарим мөчүүдийг өгүүллэгт оруулаагүй ч би бас тэдний тухай бичмээр байна.

Бээжин + Токио, Хонг Конг

Дээр хэлсэнчлэн бид Хонг Конг (HK) руу IPSEC-ийн туннелийг туршсан. Гэхдээ бид CEN-г HK-д бас туршиж үзсэн. Энэ нь арай бага зардалтай, би ~100 км-ийн зайтай хотуудын хооронд яаж ажиллах бол гэж бодож байсан. Эдгээр хотуудын хоорондох саатал нь манай анхны хувилбараас (Тайван руу) 100 мс илүү байгаа нь сонирхолтой юм. Хурд, тогтвортой байдал нь Тайваньд ч илүү байсан. Үүний үр дүнд бид HK-г нөөц IPSEC бүс болгон орхисон.

Үүнээс гадна бид дараах суулгацыг суулгахыг оролдсон.

  • Бээжин дэх үйлчлүүлэгчдийг цуцлах,
  • IPSEC болон CEN Токио руу,
  • Али CDN-д Бээжин дэх серверийг гарал үүслээр нь зааж өгсөн.

Энэ схем нь тийм ч тогтвортой биш байсан ч хурдны хувьд ерөнхийдөө бидний шийдлээс доогуур биш байв. Хонгилын хувьд би тогтвортой байх ёстой CEN-ийн хувьд ч гэсэн үе үе дуслыг харсан. Тиймээс бид хуучин схем рүүгээ буцаж, энэ тайзыг татан буулгасан.

Өөр өөр сувгуудын өөр өөр бүсүүдийн хоорондох хоцрогдлын талаарх статистикийг доор харуулав. Магадгүй хэн нэгэн үүнийг сонирхож магадгүй юм.

IPsec
Али cn-beijing <—> GCP ази-зүүн хойд1 — 193ms
Али cn-shenzhen <—> GCP ази-зүүн2 — 91ms
Али cn-shenzhen <—> GCP us-east4 — 200ms

CEN
Али cn-beijing <—> Али ап-зүүн хойд-1 — 54ms (!)
Али cn-shenzhen <—> Али cn-honkong — 6ms (!)
Али cn-shenzhen <—> Али ус-зүүн1 — 216ms

Хятад дахь интернетийн талаархи ерөнхий мэдээлэл

Өгүүллийн эхний хэсэгт дурдсан интернеттэй холбоотой асуудлуудаас гадна.

  • Хятадад интернет маш хурдан байдаг.
    • Эдгээр сүлжээг олон тооны хүмүүс ашигладаг янз бүрийн байршилд нийтийн Wi-Fi сүлжээг туршиж үзсэний үндсэн дээр дүгнэлт хийсэн.
    • Хятад доторх серверүүдэд татаж авах, байршуулах хурд нь ойролцоогоор 20 Мбит/с, 5-10 Мбит/с байв.
    • Хятадаас бусад серверүүдийн хурд ердөө л 1 Мбит/с-ээс бага.
  • Хятадад интернет тийм ч тогтвортой биш байна.
    • Тохиргоо өөрчлөгдөөгүй тохиолдолд заримдаа сайтууд хурдан, заримдаа удаан (өөр өөр өдрүүдэд өдрийн ижил цагт) нээгддэг. Бид үүнийг semrushchina.cn-ийн жишээн дээр ажигласан. Үүнийг Али CDN-тэй холбон үзэж болох бөгөөд энэ нь өдрийн цаг, оддын байрлал гэх мэтээс хамаарч ийм байдлаар ажилладаг.
  • Мобайл интернет бараг хаа сайгүй 4G эсвэл 4G+ байдаг. Метро, ​​лифт, товчхондоо хаа сайгүй барьж аваарай.
  • Хятад хэрэглэгчид зөвхөн .cn бүсийн домэйнд итгэдэг гэсэн домог юм. Үүнийг бид шууд хэрэглэгчдээс сурсан.
    • Яаж гэдгийг нь харж болно http://baidu.cn www.baidu.com руу дахин чиглүүлэх (эх газрын Хятадад ч гэсэн).
  • Олон нөөц үнэхээр хаагдсан байна. Анхдагч: google.com, Facebook, Twitter. Гэхдээ Google-ийн олон нөөцүүд ажилладаг (мэдээжийн хэрэг, бүх Wi-Fi болон VPN-д ашиглагддаггүй (чиглүүлэгч талд ч гэсэн энэ нь мэдээжийн хэрэг).
  • Хаагдсан корпорацуудын олон "техникийн" домэйнууд бас ажиллаж байна. Энэ нь та Google болон бусад хаасан мэт санагдах бүх нөөцийг хайхрамжгүй байдлаар хасах ёсгүй гэсэн үг юм. Та хориотой домайнуудын жагсаалтыг хайх хэрэгтэй.
  • Тэд зөвхөн China Unicom, China Telecom, China Mobile гэсэн гурван үндсэн интернет оператортой. Бүр жижиг нь ч байгаа ч зах зээлд эзлэх хувь нь өчүүхэн

Бонус: эцсийн шийдлийн диаграм

Бид Хятадын агуу галт ханыг хэрхэн эвдсэн бэ (3-р хэсэг)

Үр дүн

Төсөл хэрэгжиж эхлээд нэг жил өнгөрчээ. Манай сайт Хятадаас ерөнхийдөө хэвийн ажиллахаас татгалзаж, зүгээр л GET curl 5.5 секунд зарцуулсан гэдгээс бид эхэлсэн.

Дараа нь эхний шийдэлд эдгээр үзүүлэлтүүд (Cloudflare):

шийдвэр
Дахин цаг хугацаа
Median
75 хувь
95 хувь

Cloudflare
86.6
18s
30s
60s

Бид эцэст нь дараах үр дүнд хүрсэн (сүүлийн сарын статистик):

шийдвэр
Дахин цаг хугацаа
Median
75 хувь
95 хувь

Али CDN + CEN/IPsec + GLB
99.86
8.8s
9.5s
13.7s

Таны харж байгаагаар бид 100% ажиллах хугацаатай хараахан хүрч чадаагүй байгаа ч бид ямар нэгэн зүйлийг гаргаж ирэх болно, дараа нь бид үр дүнгийн талаар шинэ нийтлэлээр танд хэлэх болно :)

Гурван хэсгийг дуустал нь уншсан хүмүүст хүндэтгэл үзүүлье. Та энэ бүхнийг миний хийж байх үеийнх шиг сонирхолтой байсан гэж найдаж байна.

PS Өмнөх хэсгүүд

1-ийн хэсэг
2-ийн хэсэг

Эх сурвалж: www.habr.com

сэтгэгдэл нэмэх