Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

TL; DR: Bidh a h-uile CNI ag obair mar a bu chòir dhaibh, ach a-mhàin Kube-Router agus Kube-OVN, is e Calico, ach a-mhàin lorg MTU fèin-ghluasadach, an fheadhainn as fheàrr.

Ùrachadh artaigil de na sgrùdaidhean agam roimhe (2018 и 2019), aig àm an deuchainn tha mi a’ cleachdadh Kubernetes 1.19 air Ubuntu 18.04 le CNIn ùraichte bhon Lùnastal 2020.

Mus tèid sinn a-steach do mheatairean ...

Dè tha ùr bhon Ghiblean 2019?

  • Is urrainn dhut deuchainn a dhèanamh air a’ bhuidheann agad fhèin: Faodaidh tu deuchainnean a ruith air a’ bhuidheann agad fhèin leis an inneal againn Slat-tomhais Lìonra Kubernetes: knb
  • Tha buill ùra air nochdadh
  • Scenarios Ùra: Bidh sgrùdaidhean gnàthach a’ ruith deuchainnean coileanaidh lìonra “Pod-to-Pod”, agus chaidh sgriobt “Pod-to-Service” ùr a chuir ris a bhios a’ ruith dheuchainnean nas fhaisge air suidheachaidhean fìor. Ann an cleachdadh, bidh am Pod agad le API ag obair leis a ’bhunait mar sheirbheis, agus chan ann tron ​​​​t-seòladh ip Pod (gu dearbh bidh sinn a’ sgrùdadh an dà chuid TCP agus UDP airson an dà shuidheachadh).
  • Caitheamh ghoireasan: tha a choimeas stòrais fhèin aig gach deuchainn a-nis
  • A’ toirt air falbh deuchainnean tagraidh: Cha bhith sinn a’ dèanamh deuchainnean HTTP, FTP agus SCP tuilleadh oir tha ar co-obrachadh torrach leis a’ choimhearsnachd agus luchd-gleidhidh CNI air beàrn a nochdadh eadar toraidhean iperf thairis air toraidhean TCP agus curl mar thoradh air dàil ann an tòiseachadh CNI (a’ chiad beagan dhiog de Pod). toiseach tòiseachaidh, nach eil àbhaisteach ann an suidheachaidhean fìor).
  • Stòr fosgailte: tha a h-uile stòr deuchainn (sgriobtaichean, roghainnean yml agus dàta “amh” tùsail) rim faighinn an seo

Pròtacal deuchainn iomraidh

Tha am protocol air a mhìneachadh gu mionaideach an seoThoir an aire gu bheil an artaigil seo mu dheidhinn Ubuntu 18.04 leis an kernel bunaiteach.

A’ taghadh CNI airson Measadh

Tha an deuchainn seo ag amas air coimeas a dhèanamh eadar CNIn air an rèiteachadh le aon fhaidhle yaml (mar sin, tha a h-uile duine a tha air an stàladh le sgriobtaichean, leithid VPP agus feadhainn eile, air an dùnadh a-mach).

Na CNIan taghte againn airson coimeas:

  • Antrea v.0.9.1
  • Calico v3.16
  • Canàl v3.16 (Lìonra flannel + Poileasaidhean Lìonra Calico)
  • Cilium 1.8.2
  • Flannal 0.12.0
  • Kube-router as ùire (2020-08-25)
  • WeaveNet 2.7.0

A’ rèiteachadh MTU airson CNI

An toiseach, bidh sinn a’ sgrùdadh buaidh lorg MTU fèin-ghluasadach air coileanadh TCP:

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

Buaidh MTU air Coileanadh TCP

Lorgar beàrn eadhon nas motha nuair a thathar a’ cleachdadh UDP:

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)
Buaidh MTU air Coileanadh UDP

Leis a’ bhuaidh coileanaidh MÒR a chaidh fhoillseachadh anns na deuchainnean, bu mhath leinn litir dòchais a chuir gu luchd-gleidhidh CNI: feuch an cuir thu lorg MTU fèin-ghluasadach gu CNI. Sàbhailidh tu piseagan, aon-adharcach agus eadhon am fear as grinne: an Devop beag.

Ach, ma dh’ fheumas tu CNI a chleachdadh gun taic airson lorg MTU fèin-ghluasadach, faodaidh tu a rèiteachadh le làimh gus coileanadh fhaighinn. Thoir an aire gu bheil seo a’ buntainn ri Calico, Canal agus WeaveNet.

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)
An t-iarrtas beag agam chun na CNIn a tha na chois...

Deuchainn CNI: Dàta Raw

Anns an earrainn seo, nì sinn coimeas eadar CNI agus an MTU ceart (air a dhearbhadh gu fèin-ghluasadach no air a shuidheachadh le làimh). Is e am prìomh amas an seo an dàta amh a shealltainn ann an grafaichean.

Uirsgeul dath:

  • liath - sampall (i.e. iarann ​​​​lom)
  • uaine - leud-bann os cionn 9500 Mbps
  • buidhe - leud-bann os cionn 9000 Mbps
  • orange - leud-bann os cionn 8000 Mbps
  • dearg - leud-bann nas ìsle na 8000 Mbps
  • gorm - neodrach (gun a bhith co-cheangailte ri leud-bann)

Caitheamh stòrais gun luchd

An toiseach, thoir sùil air caitheamh ghoireasan nuair a tha am buidheann “na chadal”.

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)
Caitheamh stòrais gun luchd

Pod-gu-Pod

Tha an suidheachadh seo a’ gabhail ris gu bheil Pod an neach-dèiligidh a’ ceangal gu dìreach ri Pod an fhrithealaiche a’ cleachdadh a sheòladh IP.

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)
Scenario Pod-to-Pod

TCP

Toraidhean Pod-to-Pod TCP agus caitheamh ghoireasan co-fhreagarrach:

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

UDP

Toraidhean UDP Pod-to-Pod agus caitheamh ghoireasan co-fhreagarrach:

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

Pod-gu-Seirbheis

Tha an roinn seo buntainneach airson cùisean fìor cleachdaidh, bidh Pod an neach-dèiligidh a’ ceangal ri Pod an fhrithealaiche tron ​​​​t-seirbheis ClusterIP.

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)
Sgriobtar Pod-gu-Seirbheis

TCP

Toraidhean TCP Pod-to-Seirbheis agus caitheamh ghoireasan co-fhreagarrach:

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

UDP

Toraidhean UDP Pod-gu-Seirbheis agus caitheamh ghoireasan co-fhreagarrach:

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

Taic poileasaidh lìonra

Am measg na tha gu h-àrd, is e Flannel an aon fhear nach eil a’ toirt taic do phoilitigs. Bidh a h-uile duine eile a’ cur an gnìomh poileasaidhean lìonra gu ceart, a’ gabhail a-steach teachd a-steach is a-mach. Deagh obair!

crioptachadh CNI

Am measg nan CNIn sgrùdaichte tha an fheadhainn as urrainn iomlaid lìonra a chrioptachadh eadar Pods:

  • Antrea a’ cleachdadh IPsec
  • Calico a 'cleachdadh geàrd uèir
  • Cilium a 'cleachdadh IPsec
  • WeaveNet a’ cleachdadh IPsec

Bandwidth

Leis gu bheil nas lugha de CNIn air fhàgail, leig dhuinn na suidheachaidhean gu lèir a chuir ann an aon ghraf:

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

Caitheamh stòrais

Anns an earrainn seo, nì sinn measadh air na goireasan a thathar a’ cleachdadh nuair a thathar a’ làimhseachadh conaltradh Pod-to-Pod ann an TCP agus UDP. Chan eil feum sam bith ann a bhith a’ tarraing graf Pod-to-Service leis nach eil e a’ toirt seachad fiosrachadh a bharrachd.

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

A 'cur a h-uile càil ri chèile

Feuchaidh sinn ris na grafaichean gu lèir ath-aithris, thug sinn a-steach beagan cuspair an seo, a’ cur na faclan “vwry fast”, “low”, msaa an àite nan fìor luachan.

Measadh dèanadais CNI airson Kubernetes thairis air lìonra 10G (Lùnastal 2020)

Co-dhùnadh agus na co-dhùnaidhean agam

Tha seo rud beag cuspaireil, leis gu bheil mi a’ toirt seachad mo mhìneachadh fhèin air na toraidhean.

Tha mi toilichte gun do nochd CNIn ùra, rinn Antrea gu math, chaidh mòran ghnìomhan a chuir an gnìomh eadhon ann an dreachan tràth: lorg MTU fèin-ghluasadach, crioptachadh agus stàladh furasta.

Ma nì sinn coimeas eadar coileanadh, bidh a h-uile CNI ag obair gu math, ach a-mhàin Kube-OVN agus Kube-Router. Cha robh e comasach dha Kube-Router an MTU a lorg cuideachd, cha do lorg mi dòigh air a rèiteachadh an àite sam bith anns na sgrìobhainnean (an seo tha iarrtas air a’ chuspair seo fosgailte).

A thaobh caitheamh ghoireasan, tha Cilium fhathast a’ cleachdadh barrachd RAM na feadhainn eile, ach tha e soilleir gu bheil an neach-dèanamh ag amas air cruinneachaidhean mòra, a tha gu soilleir nach eil an aon rud ri deuchainn air cruinneachadh trì-nód. Bidh Kube-OVN cuideachd ag ithe tòrr ghoireasan CPU agus RAM, ach tha e na CNI òg stèidhichte air Open vSwitch (mar Antrea, bidh e a’ coileanadh nas fheàrr agus ag ithe nas lugha).

Tha poileasaidhean lìonra aig a h-uile duine ach a-mhàin Flannel. Tha e glè choltach nach toir e taic dhaibh gu bràth, oir tha an amas nas sìmplidh na snèapan smùide: mar as aotroime, is ann as fheàrr.

Cuideachd, am measg rudan eile, tha an coileanadh crioptachaidh iongantach. Is e Calico aon de na CNIn as sine, ach cha deach crioptachadh a chuir ris ach o chionn beagan sheachdainean. Thagh iad geàrd-uèir an àite IPsec, agus gu sìmplidh air a chuir, tha e ag obair gu math agus iongantach, gu tur a’ dol thairis air CNIn eile sa phàirt seo den deuchainn. Gu dearbh, tha caitheamh ghoireasan a’ dol am meud mar thoradh air crioptachadh, ach is fhiach an toradh a chaidh a choileanadh (Sheall Calico leasachadh sia uiread anns an deuchainn crioptachaidh an taca ri Cilium, a tha san dàrna àite). A bharrachd air an sin, faodaidh tu geàrd-uèir a chomasachadh aig àm sam bith às deidh dhut Calico a chuir a-steach don bhuidheann, agus faodaidh tu cuideachd a chuir dheth airson ùine ghoirid no gu maireannach ma thogras tu. Tha e air leth goireasach, ge-tà! Tha sinn gad chuimhneachadh nach eil Calico an-dràsta a’ lorg MTU gu fèin-obrachail (tha am feart seo air a phlanadh airson dreachan san àm ri teachd), mar sin bi cinnteach gun cuir thu air dòigh am MTU ma tha an lìonra agad a’ toirt taic do Jumbo Frames (MTU 9000).

Am measg rudan eile, thoir an aire gum faod Cilium trafaic a chrioptachadh eadar nodan cnuasachaidh (agus chan ann a-mhàin eadar Pods), a dh’ fhaodadh a bhith glè chudromach airson nodan brabhsair poblach.

Mar cho-dhùnadh, tha mi a’ moladh na cùisean cleachdaidh a leanas:

  • Feum air CNI airson buidheann glè bheag NO chan eil feum agam air tèarainteachd: obair le Flannel, an CNI as aotrom agus as seasmhaiche (tha e cuideachd mar aon den fheadhainn as sine, a rèir beul-aithris chaidh a chruthachadh le Homo Kubernautus no Homo Contaitorus). Is dòcha gu bheil ùidh agad cuideachd anns a’ phròiseact as innleachdaiche k3s, feuch!
  • Feum air CNI airson cruinneachadh cunbhalach: Calico - do roghainn, ach na dìochuimhnich an MTU a rèiteachadh ma tha feum air. Faodaidh tu cluich gu furasta agus gu nàdarra le poileasaidhean lìonra, cuir crioptachadh air agus dheth, msaa.
  • Feum air CNI airson cruinneachadh (glè mhòr).: Uill, chan eil an deuchainn a’ sealltainn giùlan cruinneachaidhean mòra, bhithinn toilichte deuchainnean a dhèanamh, ach chan eil ceudan de luchd-frithealaidh againn le ceangal 10Gbps. Mar sin is e an roghainn as fheàrr deuchainn atharraichte a ruith air na nodan agad, co-dhiù le Calico agus Cilium.

Source: www.habr.com

Cuir beachd ann