Kif temigra lejn is-sħab f'sagħtejn grazzi għal Kubernetes u l-awtomazzjoni

Kif temigra lejn is-sħab f'sagħtejn grazzi għal Kubernetes u l-awtomazzjoni

Il-kumpanija URUS ippruvat Kubernetes f'forom differenti: skjerament indipendenti fuq bare metal, fil-Google Cloud, u mbagħad ittrasferiet il-pjattaforma tagħha għall-cloud Mail.ru Cloud Solutions (MCS). Igor Shishkin jirrakkonta kif għażlu fornitur ġdid ta’ cloud u kif irnexxielhom jemigraw lejh f’rekord ta’ sagħtejn (t3ran), amministratur tas-sistema anzjan fl-URUS.

X'jagħmel URUS?

Hemm ħafna modi biex tittejjeb il-kwalità tal-ambjent urban, u wieħed minnhom huwa li jagħmilha favur l-ambjent. Dan huwa eżattament dak li qed taħdem fuqu l-kumpanija URUS - Smart Digital Services. Hawnhekk jimplimentaw soluzzjonijiet li jgħinu lill-intrapriżi jimmonitorjaw indikaturi ambjentali importanti u jnaqqsu l-impatt negattiv tagħhom fuq l-ambjent. Is-sensuri jiġbru data dwar il-kompożizzjoni tal-arja, il-livell tal-ħoss u parametri oħra, u mbagħad jibagħtuhom lill-pjattaforma unifikata URUS-Ekomon għall-analiżi u jagħmlu rakkomandazzjonijiet.

Kif jaħdem URUS minn ġewwa

Klijent tipiku ta 'URUS huwa kumpanija li tinsab f'żona residenzjali jew qrib. Dan jista 'jkun fabbrika, port, depot tal-ferrovija jew kwalunkwe faċilità oħra. Jekk il-klijent tagħna diġà rċieva twissija, ġie mmultat għal tniġġis ambjentali, jew irid jagħmel inqas storbju, inaqqas l-ammont ta 'emissjonijiet ta' ħsara, jiġi għandna, u aħna diġà noffrullu soluzzjoni lesta għall-monitoraġġ ambjentali.

Kif temigra lejn is-sħab f'sagħtejn grazzi għal Kubernetes u l-awtomazzjoni
Il-graff tal-monitoraġġ tal-konċentrazzjoni H2S turi emissjonijiet regolari bil-lejl minn impjant fil-qrib

L-apparati li nużaw fl-URUS fihom diversi sensuri li jiġbru informazzjoni dwar il-kontenut ta 'ċerti gassijiet, livelli ta' storbju u data oħra biex jevalwaw is-sitwazzjoni ambjentali. In-numru eżatt ta 'sensors huwa dejjem determinat mill-kompitu speċifiku.

Kif temigra lejn is-sħab f'sagħtejn grazzi għal Kubernetes u l-awtomazzjoni
Skont l-ispeċifiċitajiet tal-kejl, apparati b'sensors jistgħu jinstabu fuq il-ħitan tal-bini, arbli u postijiet arbitrarji oħra. Kull apparat bħal dan jiġbor informazzjoni, jaggregaha u jibgħatha lill-portal li jirċievi d-dejta. Hemmhekk niffrankaw id-dejta għal ħażna fit-tul u nipproċessawha minn qabel għal analiżi sussegwenti. L-iktar eżempju sempliċi ta’ dak li nġibu bħala riżultat tal-analiżi huwa l-indiċi tal-kwalità tal-arja, magħruf ukoll bħala AQI.

B'mod parallel, ħafna servizzi oħra joperaw fuq il-pjattaforma tagħna, iżda huma prinċipalment ta' natura ta' servizz. Pereżempju, is-servizz ta' notifika jibgħat notifiki lill-klijenti jekk xi wieħed mill-parametri mmonitorjati (pereżempju, il-kontenut tas-CO2) jaqbeż il-valur permissibbli.

Kif naħżnu d-data. L-istorja ta' Kubernetes fuq bare metal

Il-proġett ta 'monitoraġġ ambjentali URUS għandu diversi mħażen tad-dejta. F'wieħed inżommu dejta "mhux maħduma" - dak li rċevejna direttament mill-apparati nfushom. Din il-ħażna hija tejp "manjetiku", bħal fuq tejps tal-cassette qodma, bi storja tal-indikaturi kollha. It-tieni tip ta 'ħażna huwa użat għal dejta pproċessata minn qabel - dejta minn apparati, arrikkita b'metadejta dwar konnessjonijiet bejn is-sensuri u l-qari tal-apparati nfushom, affiljazzjoni ma' organizzazzjonijiet, postijiet, eċċ Din l-informazzjoni tippermettilek tivvaluta b'mod dinamiku kif indikatur partikolari għandu mibdula fuq ċertu perjodu ta 'żmien. Aħna nużaw il-ħażna tad-dejta "prima", fost affarijiet oħra, bħala backup u għar-restawr tad-dejta pproċessata minn qabel, jekk tinħoloq tali ħtieġa.

Meta konna qed infittxu li nsolvu l-problema tal-ħażna tagħna bosta snin ilu, kellna żewġ għażliet ta 'pjattaforma: Kubernetes u OpenStack. Iżda peress li dan tal-aħħar jidher pjuttost mostruż (biss ħares lejn l-arkitettura tiegħu biex tkun konvint minn dan), aħna ssetiljaw fuq Kubernetes. Argument ieħor favur tiegħu kien il-kontroll tas-softwer relattivament sempliċi, il-kapaċità li jinqatgħu b'mod aktar flessibbli anke nodi tal-ħardwer skont ir-riżorsi.

B'mod parallel mal-ħakma ta' Kubernetes innifsu, studjajna wkoll modi kif naħżnu d-dejta, filwaqt li żammejna l-ħażna kollha tagħna f'Kubernetes fuq il-ħardwer tagħna stess, irċevejna għarfien espert eċċellenti. Dak kollu li kellna mbagħad għexu fuq Kubernetes: ħażna statefull, sistema ta 'monitoraġġ, CI/CD. Kubernetes sar pjattaforma all-in-one għalina.

Imma ridna naħdmu ma 'Kubernetes bħala servizz, u mhux nimpenjaw ruħhom fl-appoġġ u l-iżvilupp tiegħu. Barra minn hekk, ma għoġniex kemm swietna li nżommuha fuq metall vojt, u kellna bżonn żvilupp kontinwament! Pereżempju, waħda mill-ewwel kompiti kienet li tintegra l-kontrolluri ta’ Kubernetes Ingress fl-infrastruttura tan-netwerk tal-organizzazzjoni tagħna. Dan huwa kompitu diffiċli, speċjalment meta wieħed iqis li dak iż-żmien xejn ma kien lest għall-ġestjoni tar-riżorsi programmatiċi bħal rekords DNS jew l-allokazzjoni ta 'indirizzi IP. Aktar tard bdejna nesperimentaw bil-ħażna esterna tad-dejta. Qatt ma wasalna biex nimplimentaw il-kontrollur tal-PVC, iżda anke dakinhar deher ċar li dan kien qasam kbir ta 'xogħol li kien jeħtieġ speċjalisti dedikati.

Li taqleb għal Google Cloud Platform hija soluzzjoni temporanja

Indunajna li dan ma setax ikompli, u mċaqlaq id-dejta tagħna minn bare metal għal Google Cloud Platform. Fil-fatt, dak iż-żmien ma kienx hemm ħafna għażliet interessanti għal kumpanija Russa: minbarra l-Google Cloud Platform, Amazon biss offriet servizz simili, iżda xorta konna nilqgħu s-soluzzjoni minn Google. Imbagħad deher lilna aktar ekonomikament profittabbli, eqreb ta 'Upstream, biex ma nsemmux il-fatt li Google innifsu huwa tip ta' PoC Kubernetes fil-Produzzjoni.

L-ewwel problema ewlenija dehret fuq l-orizzont hekk kif il-bażi tal-klijenti tagħna kibret. Meta kellna bżonn naħżnu dejta personali, konna ffaċċjati b'għażla: jew naħdmu ma' Google u niksru l-liġijiet Russi, jew qed infittxu alternattiva fil-Federazzjoni Russa. L-għażla, b'mod ġenerali, kienet prevedibbli. 🙂

Kif rajna s-servizz tal-cloud ideali

Sal-bidu tat-tfittxija, diġà konna nafu dak li ridna niksbu mill-fornitur tal-cloud futur. Liema servizz konna nfittxu:

  • Veloċi u flessibbli. Tali li nistgħu nżidu malajr node ġdid jew niskjeraw xi ħaġa fi kwalunkwe ħin.
  • Irħas. Konna mħassba ħafna dwar il-kwistjoni finanzjarja, peress li konna limitati fir-riżorsi. Diġà konna nafu li ridna naħdmu ma' Kubernetes, u issa l-kompitu kien li nimminimizzaw l-ispiża tagħha sabiex tiżdied jew għall-inqas tinżamm l-effiċjenza tal-użu ta 'din is-soluzzjoni.
  • Awtomatizzat. Ippjanajna li naħdmu mas-servizz permezz tal-API, mingħajr maniġers u telefonati jew sitwazzjonijiet fejn irridu ngħollu manwalment diversi għexieren ta 'nodi fil-mod ta' emerġenza. Peress li ħafna mill-proċessi tagħna huma awtomatizzati, stennejna l-istess mis-servizz tal-cloud.
  • B'servers fil-Federazzjoni Russa. Naturalment, ippjanajna li nikkonformaw mal-leġiżlazzjoni Russa u dak l-istess 152-FZ.

F'dak iż-żmien, kien hemm ftit fornituri ta' Kubernetes aaS fir-Russja, u meta nagħżlu fornitur, kien importanti għalina li ma nikkompromettix il-prijoritajiet tagħna. It-tim ta’ Mail.ru Cloud Solutions, li miegħu bdejna naħdmu u għadna nikkollaboraw, ipprovdilna servizz kompletament awtomatizzat, b’appoġġ tal-API u pannell tal-kontroll konvenjenti li jinkludi l-Orizzont - bih nistgħu ngħollu malajr numru arbitrarju ta’ nodi.

Kif irnexxielna nimmigraw lejn MCS f'sagħtejn

F'movimenti bħal dawn, ħafna kumpaniji jiffaċċjaw diffikultajiet u intoppi, iżda fil-każ tagħna ma kien hemm xejn. Konna xxurtjati: peress li konna diġà naħdmu fuq Kubernetes qabel ma bdiet il-migrazzjoni, sempliċement ikkoreġejna tliet fajls u nedejna s-servizzi tagħna fuq il-pjattaforma l-ġdida tal-cloud, MCS. Ħa nfakkarkom li sa dak iż-żmien fl-aħħar konna ħallejna bare metal u għexu fuq il-Google Cloud Platform. Għalhekk, il-mossa nnifisha ħadet mhux aktar minn sagħtejn, flimkien ma 'ftit aktar ħin (madwar siegħa) intefaq tikkopja dejta mill-apparati tagħna. Dakinhar konna diġà nużaw Spinnaker (servizz ta’ CD b’ħafna sħab biex nipprovdu Kunsinna Kontinwa). Żidna wkoll malajr mal-cluster il-ġdid u komplejna naħdmu bħas-soltu.

Grazzi għall-awtomazzjoni tal-proċessi ta 'żvilupp u CI/CD, Kubernetes f'URUS huwa mmaniġġjat minn speċjalista wieħed (u jien). F'xi stadju, amministratur tas-sistema ieħor ħadem miegħi, iżda mbagħad irriżulta li konna diġà awtomatizzat ir-rutina ewlenija kollha u kien hemm aktar u aktar kompiti min-naħa tal-prodott ewlieni tagħna u kien jagħmel sens li r-riżorsi diretti għal dan.

Irċevejna dak li stennejna mingħand il-fornitur tal-cloud, peress li bdejna kooperazzjoni mingħajr illużjonijiet. Jekk kien hemm xi inċidenti, kienu l-aktar tekniċi u dawk li faċilment setgħu jiġu spjegati mill-freskezza relattiva tas-servizz. Il-ħaġa prinċipali hija li t-tim tal-MCS jelimina malajr in-nuqqasijiet u jirrispondi malajr għall-mistoqsijiet fil-messaġġiera.

Jekk inqabbel l-esperjenza tiegħi mal-Google Cloud Platform, fil-każ tagħhom lanqas kont naf fejn kienet il-buttuna tal-feedback, peress li sempliċement ma kien hemm l-ebda ħtieġa għaliha. U jekk seħħet xi problemi, Google stess bagħtet notifiki unilateralment. Iżda fil-każ ta 'MCS, naħseb li l-vantaġġ kbir huwa li huma qrib kemm jista' jkun ta 'klijenti Russi - kemm ġeografikament kif ukoll mentalment.

Kif naraw li naħdmu mas-sħab fil-futur

Issa x-xogħol tagħna huwa marbut mill-qrib ma 'Kubernetes, u jaqbilna kompletament mil-lat tal-kompiti tal-infrastruttura. Għalhekk, ma nippjanawx li jemigraw minnha mkien, għalkemm qed nintroduċu kontinwament prattiki u servizzi ġodda biex nissimplifikaw il-kompiti ta’ rutina u nawtomatizzaw oħrajn ġodda, inżidu l-istabbiltà u l-affidabbiltà tas-servizzi... Issa qed inniedu s-servizz Chaos Monkey (speċifikament , nużaw chaoskube, iżda dan ma jbiddilx il-kunċett: ), li oriġinarjament inħoloq minn Netflix. Chaos Monkey jagħmel ħaġa waħda sempliċi: iħassar pod Kubernetes każwali fi żmien każwali. Dan huwa meħtieġ biex is-servizz tagħna jgħix b'mod normali bin-numru ta' każijiet n–1, għalhekk aħna nitħarrġu lilna nfusna biex inkunu ppreparati għal kwalunkwe problema.

Issa nara l-użu ta’ soluzzjonijiet ta’ partijiet terzi – l-istess pjattaformi tal-cloud – bħala l-unika ħaġa tajba għall-kumpaniji żgħażagħ. Normalment, fil-bidu tal-vjaġġ tagħhom, huma limitati fir-riżorsi, kemm umani kif ukoll finanzjarji, u l-bini u ż-żamma tal-cloud jew taċ-ċentru tad-dejta tagħhom stess huwa għali wisq u jirrikjedi ħafna xogħol. Il-fornituri tal-cloud jippermettulek timminimizza dawn l-ispejjeż; tista 'malajr tikseb minnhom ir-riżorsi meħtieġa għall-operat tas-servizzi hawn u issa, u tħallas għal dawn ir-riżorsi wara l-fatt. Fir-rigward tal-kumpanija URUS, aħna se nibqgħu fidili lejn Kubernetes fis-sħab għalissa. Imma min jaf, jista 'jkollna nespandu ġeografikament, jew nimplimentaw soluzzjonijiet ibbażati fuq xi tagħmir speċifiku. Jew forsi l-ammont ta 'riżorsi kkunsmati se jiġġustifika Kubernetes stess fuq bare-metal, bħal fl-antik. 🙂

Dak li tgħallimna mill-ħidma mas-servizzi tal-cloud

Bdejna nużaw Kubernetes fuq bare metal, u anke hemmhekk kien tajjeb bil-mod tiegħu. Iżda l-qawwiet tiegħu ġew żvelati preċiżament bħala komponent aaS fis-sħab. Jekk tiffissa mira u awtomat kollox kemm jista 'jkun, tkun tista' tevita l-lock-in tal-bejjiegħ u ċ-ċaqliq bejn il-fornituri tas-sħab jieħu ftit sigħat, u ċ-ċelloli tan-nervituri jibqgħu magħna. Nistgħu nagħtu parir lil kumpaniji oħra: jekk trid tniedi s-servizz (cloud) tiegħek stess, li jkollok riżorsi limitati u veloċità massima għall-iżvilupp, ibda minn issa billi tikri riżorsi tal-cloud, u tibni ċ-ċentru tad-dejta tiegħek wara li Forbes jikteb dwarek.

Sors: www.habr.com

Żid kumment