Rach? Bash! Coinnich ris a’ ghnìomhaiche shligean (lèirmheas agus aithisg bhidio bho KubeCon EU’2020)

Am-bliadhna, bha prìomh cho-labhairt Eòrpach Kubernetes - KubeCon + CloudNativeCon Europe 2020 - brìgheil. Ach, cha do chuir atharrachadh mar seo ann an cruth stad oirnn bho bhith a’ lìbhrigeadh ar n-aithisg fad-phlanaichte “Go? Bash! Coinnich ris an Shell-operator” coisrigte don phròiseact Open Source againn slige-ghnìomhaiche.

Tha an artaigil seo, air a bhrosnachadh leis an òraid, a’ taisbeanadh dòigh-obrach airson pròiseas cruthachadh ghnìomhaichean airson Kubernetes a dhèanamh nas sìmplidhe agus a’ sealltainn mar as urrainn dhut do chuid fhèin a dhèanamh le glè bheag de dh’ oidhirp le bhith a’ cleachdadh gnìomhaiche shligean.

A ’toirt a-steach bhidio den aithisg (~23 mionaidean sa Bheurla, gu follaiseach nas fiosrachail na an artaigil) agus am prìomh earrann bhuaithe ann an cruth teacsa. Rach!

Aig Flant bidh sinn an-còmhnaidh ag àrdachadh agus ag fèin-ghluasad a h-uile càil. An-diugh bruidhnidh sinn mu bhun-bheachd inntinneach eile. Coinnich: sgriobtadh shligean dùthchasach sgòthan!

Ach, tòisichidh sinn leis a’ cho-theacsa anns a bheil seo uile a’ tachairt: Kubernetes.

Kubernetes API agus luchd-riaghlaidh

Faodar an API ann an Kubernetes a riochdachadh mar sheòrsa de fhrithealaiche faidhle le clàran airson gach seòrsa nì. Tha nithean (goireasan) air an fhrithealaiche seo air an riochdachadh le faidhlichean YAML. A bharrachd air an sin, tha API bunaiteach aig an fhrithealaiche a leigeas leat trì rudan a dhèanamh:

• faighinn goireas a rèir a sheòrsa agus ainm;
• atharrachadh goireas (anns a’ chùis seo, chan eil am frithealaiche a’ stòradh ach nithean “ceart” - thèid a h-uile gin a chaidh a chruthachadh gu ceàrr no an dùil airson clàran eile a thilgeil air falbh);
• rian airson a’ ghoireas (sa chùis seo, gheibh an neach-cleachdaidh an dreach làithreach/ùrachadh aige sa bhad).

Mar sin, tha Kubernetes ag obair mar sheòrsa de fhrithealaiche faidhle (airson nochdadh YAML) le trì dòighean bunaiteach (tha, gu dearbh tha feadhainn eile ann, ach fàgaidh sinn iad airson a-nis).

Is e an duilgheadas nach urrainn don fhrithealaiche ach fiosrachadh a stòradh. Gus toirt air obrachadh feumaidh tu riaghladair - an dàrna bun-bheachd as cudromaiche agus as bunaitiche ann an saoghal Kubernetes.

Tha dà phrìomh sheòrsa de luchd-riaghlaidh ann. Bidh a’ chiad fhear a’ toirt fiosrachadh bho Kubernetes, ga phròiseasadh a rèir loidsig neadachaidh, agus ga thilleadh gu K8n. Bidh an dàrna fear a 'toirt fiosrachadh bho Kubernetes, ach, eu-coltach ris a' chiad sheòrsa, bidh e ag atharrachadh staid cuid de ghoireasan taobh a-muigh.

Bheir sinn sùil nas mionaidiche air a’ phròiseas airson cleachdadh ann an Kubernetes a chruthachadh:

• Rianadair cleachdadh (air a ghabhail a-steach ann an kube-controller-manager) a’ faighinn fiosrachadh mu chleachdadh agus a’ cruthachadh ReplicaSet.
• Bidh ReplicaSet a’ cruthachadh dà mhac-samhail (dà pod) stèidhichte air an fhiosrachadh seo, ach chan eil na pods sin clàraichte fhathast.
• Bidh an clàr-ama a’ clàradh pods agus a’ cur fiosrachadh nodan ris na YAMLs aca.
• Bidh Kubelets a’ dèanamh atharrachaidhean air goireas a-muigh (can Docker).

An uairsin tha an t-sreath slàn seo air ath-aithris ann an òrdugh cùil: bidh an kubelet a ’sgrùdadh nan soithichean, a’ tomhas inbhe a ’phoit agus ga chuir air ais. Bidh rianadair ReplicaSet a’ faighinn inbhe agus ag ùrachadh staid an t-seata mac-samhail. Bidh an aon rud a’ tachairt leis an Rianadair Cleachdaidh agus mu dheireadh gheibh an neach-cleachdaidh an inbhe ùraichte (gnàthach).

Slige-ghnìomhaiche

Tha e a ’tionndadh a-mach gu bheil Kubernetes stèidhichte air co-obrachadh diofar luchd-riaghlaidh (tha gnìomhaichean Kubernetes cuideachd nan luchd-riaghlaidh). Tha a 'cheist ag èirigh, ciamar a chruthaicheas tu do ghnìomhaiche fhèin le glè bheag oidhirp? Agus an seo thig am fear a leasaich sinn gu teasairginn slige-ghnìomhaiche. Leigidh e le luchd-rianachd an t-siostaim na h-aithrisean aca fhèin a chruthachadh a’ cleachdadh dhòighean air a bheil iad eòlach.

Eisimpleir shìmplidh: a 'dèanamh lethbhreac de dhìomhaireachd

Bheir sinn sùil air eisimpleir shìmplidh.

Canaidh sinn gu bheil cruinneachadh Kubernetes againn. Tha àite-ainm air default le beagan Dìomhair mysecret. A bharrachd air an sin, tha ainmean eile anns a’ bhuidheann. Tha leubail sònraichte aig cuid dhiubh ceangailte riutha. Is e ar n-amas Dìomhaireachd a chopaigeadh gu àiteachan ainmean le leubail.

Tha an obair iom-fhillte leis gum faod àiteachan ainmean ùra nochdadh sa bhuidheann, agus dh’ fhaodadh an leubail seo a bhith aig cuid dhiubh. Air an làimh eile, nuair a thèid an leubail a dhubhadh às, bu chòir Secret a dhubhadh às cuideachd. A bharrachd air an seo, faodaidh an Dìomhaireachd fhèin atharrachadh cuideachd: anns a’ chùis seo, feumaidh an Dìomhaireachd ùr a bhith air a chopaigeadh gu gach àite-ainm le bileagan. Ma thèid Secret a dhubhadh às gun fhiosta ann an àite ainm sam bith, bu chòir don ghnìomhaiche againn a thoirt air ais sa bhad.

A-nis gu bheil an obair air a chuir ri chèile, tha an t-àm ann tòiseachadh air a bhuileachadh le bhith a’ cleachdadh a’ ghnìomhaiche shligean. Ach an toiseach is fhiach beagan fhaclan a ràdh mun neach-obrachaidh shligean fhèin.

Mar a tha slige-ghnìomhaiche ag obair

Coltach ri eallach obrach eile ann an Kubernetes, bidh gnìomhaiche shligean a’ ruith na pod fhèin. Sa pod seo san eòlaire /hooks tha faidhlichean so-ghnìomhaichte air an stòradh. Faodaidh iad seo a bhith nan sgriobtaichean ann am Bash, Python, Ruby, msaa. Canaidh sinn dubhan fhaidhlichean so-ghnìomhaichte mar sin (dubhain).

Bidh Shell-operator a’ gabhail ri tachartasan Kubernetes agus a’ ruith nan dubhan sin mar fhreagairt air na tachartasan sin a dh’ fheumas sinn.

Ciamar a tha fios aig an neach-obrachaidh slige dè an dubhan a bu chòir a ruith agus cuin? Is e a’ phuing gu bheil dà ìre aig gach dubhan. Aig àm tòiseachaidh, bidh an gnìomhaiche sligean a 'ruith a h-uile dubhan le argamaid --config Is e seo an ìre rèiteachaidh. Agus às deidh sin, thèid dubhan a chuir air bhog san dòigh àbhaisteach - mar fhreagairt air na tachartasan ris a bheil iad ceangailte. Anns a 'chùis mu dheireadh, gheibh an dubhan an co-theacsa ceangail (co-theacs ceangailteach) - dàta ann an cruth JSON, air am bi sinn a’ bruidhinn nas mionaidiche gu h-ìosal.

A 'dèanamh gnìomhaiche ann am Bash

A-nis tha sinn deiseil airson a bhuileachadh. Gus seo a dhèanamh, feumaidh sinn dà ghnìomh a sgrìobhadh (co-dhiù, tha sinn a 'moladh an leabharlann slige_lib, a tha gu mòr a’ sìmpleachadh dubhan sgrìobhaidh ann am Bash):

• tha feum air a’ chiad fhear airson an ìre rèiteachaidh - tha e a’ taisbeanadh a’ cho-theacsa ceangail;
• Anns an dàrna fear tha prìomh loidsig an dubhan.

#!/bin/bash

source /shell_lib.sh

function __config__() {
  cat << EOF
    configVersion: v1
    # BINDING CONFIGURATION
EOF
}

function __main__() {
  # THE LOGIC
}

hook::run "$@"

Is e an ath cheum co-dhùnadh dè na stuthan a tha a dhìth oirnn. Anns a 'chùis againn, feumaidh sinn sùil a chumail air:

• dìomhair tùs airson atharrachaidhean;
• a h-uile h-ainm anns a' chnuasach, gus am bi fios agad cò an fheadhainn aig a bheil bileag ceangailte riutha;
• cuimseachadh air dìomhaireachdan gus dèanamh cinnteach gu bheil iad uile ann an co-chòrdadh ri dìomhaireachd an stòr.

Subscribe to the secret source

Tha rèiteachadh ceangail air a shon gu math sìmplidh. Tha sinn a 'comharrachadh gu bheil ùidh againn ann an Dìomhaireachd leis an ainm mysecret ann an ainm-àite default:

function __config__() {
  cat << EOF
    configVersion: v1
    kubernetes:
    - name: src_secret
      apiVersion: v1
      kind: Secret
      nameSelector:
        matchNames:
        - mysecret
      namespace:
        nameSelector:
          matchNames: ["default"]
      group: main
EOF

Mar thoradh air an sin, thèid an dubhan a phiobrachadh nuair a dh’ atharraicheas dìomhaireachd an stòr (src_secret) agus faigh an co-theacsa ceangail a leanas:

Mar a chì thu, tha an t-ainm agus an nì gu lèir ann.

A’ cumail sùil air àiteachan ainmean

A-nis feumaidh tu fo-sgrìobhadh gu ainmean-àite. Gus seo a dhèanamh, sònraichidh sinn an rèiteachadh ceangail a leanas:

- name: namespaces
  group: main
  apiVersion: v1
  kind: Namespace
  jqFilter: |
    {
      namespace: .metadata.name,
      hasLabel: (
       .metadata.labels // {} |  
         contains({"secret": "yes"})
      )
    }
  group: main
  keepFullObjectsInMemory: false

Mar a chì thu, tha raon ùr air nochdadh anns an rèiteachadh leis an ainm jqFilter. Mar a tha an t-ainm ag innse, jqFilter a’ sìoladh a-mach a h-uile fiosrachadh neo-riatanach agus a’ cruthachadh nì JSON ùr leis na raointean anns a bheil ùidh againn. Gheibh dubhan le rèiteachadh coltach ris an co-theacsa ceangail a leanas:

Tha cruinneachadh ann filterResults airson gach ainm-àite anns a’ bhuidheann. Caochladair Boolean hasLabel a’ comharrachadh a bheil leubail ceangailte ri àite ainm ainmichte. Roghnaiche keepFullObjectsInMemory: false a’ nochdadh nach eil feum air nithean iomlan a chumail nad chuimhne.

A’ cumail sùil air dìomhaireachdan targaid

Bidh sinn a’ fo-sgrìobhadh do gach Dìomhaireachd aig a bheil nota air a shònrachadh managed-secret: "yes" (Is iad seo ar n-amas dst_secrets):

- name: dst_secrets
  apiVersion: v1
  kind: Secret
  labelSelector:
    matchLabels:
      managed-secret: "yes"
  jqFilter: |
    {
      "namespace":
        .metadata.namespace,
      "resourceVersion":
        .metadata.annotations.resourceVersion
    }
  group: main
  keepFullObjectsInMemory: false

Anns a ’chùis seo jqFilter a’ sìoladh a-mach a h-uile fiosrachadh ach a-mhàin an t-ainm-àite agus am paramadair resourceVersion. Chaidh am paramadair mu dheireadh a thoirt don nota nuair a chruthaicheas tu an dìomhaireachd: leigidh e leat coimeas a dhèanamh eadar dreachan de dhìomhaireachd agus an cumail suas chun ùr.

Gheibh dubhan a thèid a rèiteachadh san dòigh seo, nuair a thèid a chuir gu bàs, na trì co-theacsan ceangail a tha air am mìneachadh gu h-àrd. Faodar smaoineachadh orra mar sheòrsa de dhealbh (dealbh) cnuasach.

Stèidhichte air an fhiosrachadh seo gu lèir, faodar algorithm bunaiteach a leasachadh. Bidh e ag ath-aithris thairis air a h-uile àite ainm agus:

• если hasLabel cùisean true airson an àrainn ainm làithreach:
  • a’ dèanamh coimeas eadar dìomhaireachd na cruinne agus an tè ionadail:
    • ma tha iad mar an ceudna, cha dean e ni sam bith ;
    • ma tha iad eadar-dhealaichte - a chur an gnìomh kubectl replace no create;
• если hasLabel cùisean false airson an àrainn ainm làithreach:
  • dèan cinnteach nach eil Dìomhaireachd san ainm-àite a chaidh a thoirt seachad:
    • ma tha an Dìomhaireachd ionadail an làthair, cuir às dha le bhith a’ cleachdadh kubectl delete;
    • mura lorgar an Dìomhaireachd ionadail, cha dèan e dad.

Cur an gnìomh an algairim ann am Bash 's urrainn dhut a luchdadh a-nuas ann an ar stòran le eisimpleirean.

Sin mar a bha e comasach dhuinn rianadair Kubernetes sìmplidh a chruthachadh a’ cleachdadh 35 loidhnichean de config YAML agus timcheall air an aon uiread de chòd Bash! 'S e obair a' ghnìomhaiche sligean a bhith gan ceangal ri chèile.

Ach, chan e a bhith a’ dèanamh lethbhreac de dhìomhaireachd an aon raon de chleachdadh a’ ghoireas. Seo beagan eisimpleirean eile gus sealltainn na tha e comasach dha.

Eisimpleir 1: A’ dèanamh atharrachaidhean air ConfigMap

Bheir sinn sùil air cleachdadh anns a bheil trì pods. Bidh pods a’ cleachdadh ConfigMap gus beagan rèiteachaidh a stòradh. Nuair a chaidh na pods a chur air bhog, bha ConfigMap ann an staid shònraichte (canaidh sinn v.1 ris). Mar sin, bidh a h-uile pod a’ cleachdadh an dreach sònraichte seo de ConfigMap.

A-nis gabhamaid ris gu bheil an ConfigMap air atharrachadh (v.2). Ach, cleachdaidh na pods an tionndadh roimhe de ConfigMap (v.1):

Ciamar a gheibh mi orra gluasad chun ConfigMap (v.2) ùr? Tha am freagairt sìmplidh: cleachd teamplaid. Nach cuir sinn nota checksum ris an roinn template rèiteachaidhean cleachdadh:

Mar thoradh air an sin, bidh an sgrùdadh seo clàraichte anns a h-uile pod, agus bidh e an aon rud ri cleachdadh. A-nis chan fheum thu ach an nota ùrachadh nuair a dh’ atharraicheas an ConfigMap. Agus tha an gnìomhaiche sligean feumail sa chùis seo. Chan eil agad ach am prògram a dhèanamh dubhan a bhios fo-sgrìobhadh don ConfigMap agus a bheir ùrachadh air an t-seic.

Ma nì an neach-cleachdaidh atharraichean air an ConfigMap, bheir an gnìomhaiche slige an aire dhaibh agus ath-àireamhaich e an t-seic. Às deidh sin thig draoidheachd Kubernetes a-steach: marbhaidh an orcastra am pod, cruthaichidh e fear ùr, feitheamh ri bhith Ready, agus a 'gluasad air adhart chun an ath fhear. Mar thoradh air an sin, bidh cleachdadh a’ sioncronadh agus ag atharrachadh chun dreach ùr de ConfigMap.

Eisimpleir 2: Ag obair le mìneachaidhean ghoireasan gnàthaichte

Mar a tha fios agad, leigidh Kubernetes leat seòrsaichean àbhaisteach de stuthan a chruthachadh. Mar eisimpleir, faodaidh tu gnè a chruthachadh MysqlDatabase. Canaidh sinn gu bheil dà pharamadair meata-dàta aig an t-seòrsa seo: name и namespace.

apiVersion: example.com/v1alpha1
kind: MysqlDatabase
metadata:
  name: foo
  namespace: bar

Tha cruinneachadh Kubernetes againn le diofar ainmean far an urrainn dhuinn stòran-dàta MySQL a chruthachadh. Anns a 'chùis seo, faodar sligean-obrachaidh a chleachdadh gus goireasan a lorg MysqlDatabase, gan ceangal ris an t-seirbheisiche MySQL agus a’ sioncronadh na stàitean a tha thu ag iarraidh agus a chaidh fhaicinn den bhuidheann.

Eisimpleir 3: Sgrùdadh Lìonra Cluster

Mar a tha fios agad, is e cleachdadh ping an dòigh as sìmplidh air sùil a chumail air lìonra. San eisimpleir seo seallaidh sinn mar a chuireas tu an leithid de sgrùdadh an gnìomh a’ cleachdadh slige-ghnìomhaiche.

An toiseach, feumaidh tu fo-sgrìobhadh gu nodan. Feumaidh gnìomhaiche nan sligean ainm agus seòladh IP gach nód. Le an cuideachadh, bidh e a’ ping nan nodan sin.

configVersion: v1
kubernetes:
- name: nodes
  apiVersion: v1
  kind: Node
  jqFilter: |
    {
      name: .metadata.name,
      ip: (
       .status.addresses[] |  
        select(.type == "InternalIP") |
        .address
      )
    }
  group: main
  keepFullObjectsInMemory: false
  executeHookOnEvent: []
schedule:
- name: every_minute
  group: main
  crontab: "* * * * *"

Parameter executeHookOnEvent: [] a 'cur casg air an dubhan bho bhith a' ruith mar fhreagairt air tachartas sam bith (is e sin, mar fhreagairt air atharrachadh, cur ris, cuir às do nodan). Ge-tà, tha e ruithidh (agus ùraich liosta nan nodan) Clàraichte - a h-uile mionaid, mar a chaidh òrdachadh leis an raon schedule.

A-nis tha a’ cheist ag èirigh, dè dìreach a tha fios againn mu dhuilgheadasan leithid call pacaid? Bheir sinn sùil air a’ chòd:

function __main__() {
  for i in $(seq 0 "$(context::jq -r '(.snapshots.nodes | length) - 1')"); do
    node_name="$(context::jq -r '.snapshots.nodes['"$i"'].filterResult.name')"
    node_ip="$(context::jq -r '.snapshots.nodes['"$i"'].filterResult.ip')"
    packets_lost=0
    if ! ping -c 1 "$node_ip" -t 1 ; then
      packets_lost=1
    fi
    cat >> "$METRICS_PATH" <<END
      {
        "name": "node_packets_lost",
        "add": $packets_lost,
        "labels": {
          "node": "$node_name"
        }
      }
END
  done
}

Bidh sinn ag ath-aithris tron ​​​​liosta nodan, a’ faighinn an ainmean agus na seòlaidhean IP, gan ping agus a’ cur na toraidhean gu Prometheus. Faodaidh gnìomhaiche sligean meatrach às-mhalairt gu Prometheus, gan sàbhaladh gu faidhle a tha suidhichte a rèir an t-slighe a tha air a shònrachadh ann an caochladair na h-àrainneachd $METRICS_PATH.

An seo faodaidh tu gnìomhaiche a dhèanamh airson sgrùdadh lìonra sìmplidh ann am brabhsair.

Uidheam ciudha

Bhiodh an artaigil seo neo-choileanta gun a bhith a’ toirt cunntas air inneal cudromach eile a chaidh a thogail a-steach don ghnìomhaiche shligean. Smaoinich gu bheil e a’ cur an gnìomh dubhan de sheòrsa air choreigin mar fhreagairt do thachartas sa bhuidheann.

• Dè thachras ma thachras, aig an aon àm, rudeigin anns a’ bhuidheann? aon a bharrachd tachartas?
• Am bi gnìomhaiche shligean a’ ruith eisimpleir eile den dubhan?
• Dè ma thachras, can, còig tachartasan sa bhuidheann aig an aon àm?
• Am bi an gnìomhaiche sligean gan làimhseachadh aig an aon àm?
• Dè mu dheidhinn goireasan caithte leithid cuimhne agus CPU?

Gu fortanach, tha inneal ciudha stèidhichte aig gnìomhaiche shligean. Tha a h-uile tachartas air an ciudha agus air an giullachd ann an òrdugh.

Leig dhuinn seo a mhìneachadh le eisimpleirean. Canaidh sinn gu bheil dà dubhan againn. Bidh a 'chiad tachartas a' dol chun chiad dubhan. Aon uair ‘s gu bheil an giullachd deiseil, gluaisidh an ciudha air adhart. Tha na trì tachartasan a tha ri thighinn air an ath-stiùireadh chun dàrna dubhan - thèid an toirt air falbh bhon ciudha agus cuir a-steach e ann am “bundle”. S e sin Bidh hook a’ faighinn grunn thachartasan - no, nas mionaidiche, sreath de cho-theacsan ceangail.

Cuideachd iad seo faodar tachartasan a chur còmhla ann an aon mhòr. Tha am paramadair an urra ri seo group anns an rèiteachadh ceangail.

Faodaidh tu àireamh sam bith de chiudhaichean/dubhan a chruthachadh agus na measgachadh eadar-dhealaichte aca. Mar eisimpleir, faodaidh aon ciudha obrachadh le dà dubhan, no a chaochladh.

Chan eil agad ach an raon a rèiteachadh a rèir sin queue anns an rèiteachadh ceangail. Mura h-eil ainm ciudha air a shònrachadh, ruithidh an dubhan air a’ chiudha bunaiteach (default). Leigidh an inneal ciudha seo dhut fuasgladh fhaighinn air a h-uile duilgheadas riaghlaidh ghoireasan nuair a bhios tu ag obair le dubhan.

co-dhùnadh

Mhìnich sinn dè a th’ ann an gnìomhaiche shligean, sheall sinn mar as urrainnear a chleachdadh gus gnìomhaichean Kubernetes a chruthachadh gu sgiobalta agus gun oidhirp, agus thug sinn grunn eisimpleirean seachad air a chleachdadh.

Tha fiosrachadh mionaideach mun ghnìomhaiche shligean, a bharrachd air oideachadh sgiobalta air mar a chleachdas tu e, ri fhaighinn anns a’ cho-fhreagarrach stòran air GitHub. Na bi leisg fios a chuir thugainn le ceistean: faodaidh tu beachdachadh orra ann an sònraichte Buidheann telegram (ann an Ruisis) no ann an am fòram seo (ann am Beurla).

Agus nam bu toil leat e, tha sinn an-còmhnaidh toilichte cùisean ùra / PR / rionnagan fhaicinn air GitHub, far am faigh thu, co-dhiù, feadhainn eile pròiseactan inntinneach. Nam measg is fhiach a chomharrachadh addon-ghnìomhaiche, a tha na bhràthair mòr aig gnìomhaiche shligean. Bidh an goireas seo a’ cleachdadh clàran Helm gus tuilleadan a chuir a-steach, is urrainn dhaibh ùrachaidhean a lìbhrigeadh agus sùil a chumail air diofar pharaimearan / luachan cairt, smachd a chumail air pròiseas stàlaidh chlàran, agus faodaidh e cuideachd an atharrachadh mar fhreagairt do thachartasan sa bhuidheann.

Bhidiothan agus slides

Bhidio bhon taisbeanadh (~ 23 mionaidean):

Taisbeanadh na h-aithisg:

PS

Leugh cuideachd air ar blog:

• «Cruthachadh furasta de ghnìomhaichean Kubernetes le gnìomhaiche shligean: adhartas pròiseict thar na bliadhna";
• «A’ toirt a-steach gnìomhaiche shligean: bha cruthachadh gnìomhaichean airson Kubernetes dìreach air fàs nas fhasa";
• «A bheil e furasta agus goireasach cruinneachadh Kubernetes ullachadh? Ag ainmeachadh addon-operator";
• «A’ leudachadh agus a’ cur ri Kubernetes” (aithisg lèirmheas is bhidio).

Source: www.habr.com