Bun-structair ùr-nodha: duilgheadasan agus dùilean

Bun-structair ùr-nodha: duilgheadasan agus dùilean

Aig deireadh a 'Chèitein tha sinn chùm iad coinneamh air-loidhne air a’ chuspair “Bun-structar agus soithichean ùr-nodha: duilgheadasan agus dùilean”. Bhruidhinn sinn mu shoithichean, Kubernetes agus orchestration ann am prionnsapal, slatan-tomhais airson bun-structar a thaghadh agus mòran a bharrachd. Roinn com-pàirtichean cùisean bhon chleachdadh aca fhèin.

Na com-pàirtichean:

  • Evgeniy Potapov, Ceannard ITSumma. Tha còrr air leth den luchd-ceannach aca mu thràth a’ gluasad no ag iarraidh gluasad gu Kubernetes.
  • Dmitry Stolyarov, CTO "Flant". Tha 10+ bliadhna de eòlas aige ag obair le siostaman container.
  • Denis Remchukov (aka Eric Oldmann), COO argotech.io, a bha roimhe na RAO UES. Gheall e bruidhinn mu chùisean anns an iomairt “fuilteach”.
  • Andrey Fedorovsky, CTO "News360.com"Às deidh dha a ’chompanaidh a cheannach le cluicheadair eile, tha e an urra ri grunn phròiseactan agus bun-structar ML agus AI.
  • Ivan Kruglov, innleadair siostaman, a bha roimhe na Booking.com.An aon neach a rinn mòran le Kubernetes le a làmhan fhèin.

Cuspairean:

  • Beachdan chom-pàirtichean mu shoithichean agus orcastra (Docker, Kubernetes, msaa); na chaidh fheuchainn ann an cleachdadh no mion-sgrùdadh.
  • Cùis: Tha a’ chompanaidh a’ togail plana leasachaidh bun-structair airson bhliadhnaichean. Ciamar a thèid an co-dhùnadh am bu chòir bun-structar a thogail (no gluasad a-steach) gu soithichean agus Kuber no nach eil?
  • Duilgheadasan anns an t-saoghal dhùthchasach sgòthan, dè a tha a dhìth, smaoinicheamaid dè thachras a-màireach.

Lean deasbad inntinneach, bha beachdan nan com-pàirtichean cho eadar-dhealaichte agus dh’ adhbhraich sin uimhir de bheachdan a tha mi airson an roinn leat. Ith bhidio trì uairean a thìde, agus gu h-ìosal tha geàrr-chunntas den deasbad.

A bheil Kubernetes mar mhargaidheachd àbhaisteach no sgoinneil mu thràth?

“Thàinig sinn thuige (Kubernetes. - Ed.) nuair nach robh fios aig duine mu dheidhinn fhathast. Thàinig sinn thuige eadhon nuair nach robh e ann. Bha sinn ga iarraidh roimhe seo" - Dmitry Stolyarov

Bun-structair ùr-nodha: duilgheadasan agus dùilean
Dealbh bho Reddit.com

O chionn 5-10 bliadhna bha àireamh mhòr de dh'innealan ann, agus cha robh aon ìre ann. A h-uile sia mìosan nochd toradh ùr, no eadhon barrachd air aon. First Vagrant, an uairsin Salt, Chef, Puppet,... “agus bidh thu ag ath-thogail do bhun-structar a h-uile sia mìosan. Tha còignear luchd-rianachd agad a tha an-còmhnaidh trang ag ath-sgrìobhadh configs,” tha cuimhne aig Andrey Fedorovsky. Tha e den bheachd gu bheil Docker agus Kubernetes air an còrr a chuir a-mach. Tha Docker air a thighinn gu bhith na inbhe anns na còig bliadhna a dh ’fhalbh, Kubernetes anns an dà bhliadhna a dh’ fhalbh. Agus tha e math don ghnìomhachas.

Tha gaol aig Dmitry Stolyarov agus an sgioba aige air Kuber. Bha iad ag iarraidh a leithid de inneal mus do nochd e, agus thàinig iad thuige nuair nach robh fios aig duine mu dheidhinn. An-dràsta, airson adhbharan goireasachd, chan eil iad a 'gabhail os làimh neach-dèiligidh ma tha iad a' tuigsinn nach eil iad a 'cur an gnìomh Kubernetes còmhla ris. Aig an aon àm, a rèir Dmitry, tha “mòran sgeulachdan soirbheachais aig a’ chompanaidh mu bhith ag ath-chruthachadh an dìleab uamhasach. ”

Chan e a-mhàin orchestration container a th’ ann an Kubernetes, is e siostam riaghlaidh rèiteachaidh a th’ ann le API leasaichte, pàirt lìonraidh, cothromachadh L3 agus luchd-riaghlaidh Ingress, a tha ga dhèanamh an ìre mhath furasta goireasan, sgèile agus eas-chruthach a riaghladh bho na sreathan as ìsle den bhun-structar.

Gu mì-fhortanach, nar beatha feumaidh sinn pàigheadh ​​​​airson a h-uile càil. Agus tha a 'chìs seo mòr, gu h-àraid ma tha sinn a' bruidhinn mu ghluasad gu Kubernetes de chompanaidh le bun-structair leasaichte, mar a tha Ivan Kruglov a 'creidsinn. B 'urrainn dha a bhith ag obair gu saor an dà chuid ann an companaidh le bun-structar traidiseanta agus le Kuber. Tha a 'phrìomh rud - a' tuigsinn feartan a 'chompanaidh agus a' mhargaidh. Ach, mar eisimpleir, airson Evgeny Potapov, a chuireadh Kubernetes gu inneal orchestration container sam bith, chan eil ceist mar sin ag èirigh.

Tharraing Evgeniy co-chosmhail ris an t-suidheachadh anns na 1990n, nuair a nochd prògramadh a bha ag amas air nithean mar dhòigh air prògraman iom-fhillte a phrògramadh. Aig an àm sin, lean an deasbad agus nochd innealan ùra gus taic a thoirt do OOP. An uairsin nochd microservices mar dhòigh air gluasad air falbh bhon bhun-bheachd monolithic. Dh'adhbhraich seo, an uair sin, gu nochd soithichean agus innealan riaghlaidh soithichean. “Tha mi a’ smaoineachadh gun tig sinn a dh ’aithghearr gu àm nuair nach bi ceist sam bith ann am b’ fhiach e tagradh microservice beag a sgrìobhadh, thèid a sgrìobhadh mar microservice gu bunaiteach, ”tha e a’ creidsinn. Mar an ceudna, bidh Docker agus Kubernetes gu bhith mar am fuasgladh àbhaisteach mu dheireadh gun fheum air roghainn.

An duilgheadas stòr-dàta ann an stateless

Bun-structair ùr-nodha: duilgheadasan agus dùilean
Dealbh le Twitter: @jankolario air Unsplash

An-diugh, tha mòran reasabaidhean ann airson stòran-dàta a ruith ann an Kubernetes. Fiù ‘s mar a nì thu sgaradh air a’ phàirt a tha ag obair leis an diosc I / O bho, gu cumhach, pàirt tagraidh an stòr-dàta. A bheil e comasach gun atharraich stòran-dàta san àm ri teachd cho mòr is gun tèid an lìbhrigeadh ann am bogsa, far an tèid aon phàirt a chuir air dòigh tro Docker agus Kubernetes, agus ann am pàirt eile den bhun-structar, tro bhathar-bog air leth, thèid am pàirt stòraidh a thoirt seachad ? Am bi na bunaitean ag atharrachadh mar thoradh?

Tha an tuairisgeul seo coltach ri stiùireadh ciudha, ach tha na riatanasan airson earbsachd agus sioncronadh fiosrachaidh ann an stòran-dàta traidiseanta mòran nas àirde, tha Andrey a’ creidsinn. Tha co-mheas bualadh tasgadan ann an stòran-dàta àbhaisteach fhathast aig 99%. Ma thèid neach-obrach sìos, thèid fear ùr a chuir air bhog, agus bidh an tasgadan “blàthachadh” bhon fhìor thoiseach. Gus am bi an tasgadan air a bhlàthachadh, bidh an neach-obrach ag obair gu slaodach, a tha a ’ciallachadh nach urrainn a luchdachadh le luchd-cleachdaidh. Ged nach eil luchd-cleachdaidh ann, cha bhith an tasgadan a’ blàthachadh. Is e cearcall borb a th’ ann.

Chan eil Dmitry gu bunaiteach ag aontachadh - tha cuòram agus sharding a 'fuasgladh na duilgheadas. Ach tha Andrey a 'cumail a-mach nach eil am fuasgladh freagarrach airson a h-uile duine. Ann an cuid de shuidheachaidhean, tha cuòram freagarrach, ach tha e a 'cur luchd a bharrachd air an lìonra. Chan eil stòr-dàta NoSQL freagarrach anns a h-uile cùis.

Chaidh com-pàirtichean na coinneimh a roinn ann an dà champa.

Tha Denis agus Andrey ag argamaid gu bheil a h-uile dad a tha sgrìobhte gu diosc - stòran-dàta agus mar sin air adhart - do-dhèanta a dhèanamh ann an eag-shiostam gnàthach Kuber. Tha e do-dhèanta ionracas agus cunbhalachd dàta toraidh a chumail ann an Kubernetes. Tha seo na fheart bunaiteach. Fuasgladh: bun-structar tar-chinealach.

Feumaidh eadhon stòran-dàta dùthchasach sgòthan mar MongoDB agus Cassandra, no ciudhaichean teachdaireachd mar Kafka no RabbitMQ, stòran dàta leantainneach taobh a-muigh Kubernetes.

Tha Evgeniy ag ràdh: “Tha na h-ionadan ann an Kubera nan leòn faisg air an Ruis, no faisg air iomairt, a tha co-cheangailte ris nach eil Cloud Adoption anns an Ruis.” Is e companaidhean beaga no meadhanach san Iar Cloud. Tha stòran-dàta Amazon RDS nas fhasa an cleachdadh na bhith a’ tinkering le Kubernetes thu fhèin. Anns an Ruis bidh iad a’ cleachdadh Kuber “on-premise” agus a’ gluasad bhunaitean thuige nuair a tha iad a’ feuchainn ri faighinn cuidhteas an sù.

Cha robh Dmitry cuideachd ag aontachadh ris an aithris nach urrainnear stòran-dàta sam bith a chumail ann an Kubernetes: “Tha eadar-dhealachadh eadar stòran-dàta. Agus ma phut thu stòr-dàta dàimh mòr, an uairsin ann an suidheachadh sam bith. Ma phut thu rudeigin beag agus dùthchasach sgòthan, a tha air ullachadh gu inntinn airson beatha leth-ùineach, bidh a h-uile dad gu math. ” Thuirt Dmitry cuideachd nach eil innealan stiùireadh stòr-dàta deiseil airson Docker no Kuber, agus mar sin tha duilgheadasan mòra ag èirigh.

Tha Ivan, an uair sin, cinnteach, eadhon ged a bheir sinn air falbh na bun-bheachdan stàiteil agus gun stàit, nach eil an eag-shiostam de fhuasglaidhean iomairt ann an Kubernetes deiseil fhathast. Le Kuber, tha e duilich riatanasan reachdail agus riaghlaidh a chumail suas. Mar eisimpleir, tha e do-dhèanta fuasgladh solar dearbh-aithne a dhèanamh far a bheil feum air barrantasan teann aithneachaidh frithealaiche, dìreach sìos chun bhathar-cruaidh a tha air a chuir a-steach do na frithealaichean. Tha an raon seo a’ leasachadh, ach chan eil fuasgladh ann fhathast.
Cha b’ urrainn do na com-pàirtichean aontachadh, agus mar sin cha tèid co-dhùnaidhean sam bith a tharraing sa phàirt seo. Bheir sinn seachad eisimpleirean practaigeach no dhà.

Cùis 1. Cybersecurity de “mega-regulator” le ionadan taobh a-muigh Kubera

A thaobh siostam cybersecurity leasaichte, tha cleachdadh shoithichean agus orcastra ga dhèanamh comasach sabaid an-aghaidh ionnsaighean agus sàrachadh. Mar eisimpleir, ann an aon mega-riaghladair, chuir Denis agus an sgioba aige an gnìomh measgachadh de orcastra le seirbheis SIEM air a thrèanadh a bhios a’ sgrùdadh logaichean ann an àm fìor agus a’ dearbhadh pròiseas ionnsaigh, slaodadh no fàilligeadh. Ma thachras ionnsaigh, oidhirp air rudeigin a chuir, no ma thig ionnsaigh bhìoras ransomware, bidh e, tron ​​​​orsastra, a’ togail shoithichean le tagraidhean nas luaithe na tha iad air an galar, no nas luaithe na bheir an neach-ionnsaigh ionnsaigh orra.

Cùis 2. Imrich pàirt de stòran-dàta Booking.com gu Kubernetes

Ann an Booking.com, is e MySQL am prìomh stòr-dàta le ath-riochdachadh asyncronach - tha maighstir agus rangachd iomlan de thràillean ann. Mun àm a dh'fhàg Ivan a 'chompanaidh, chaidh pròiseact a chuir air bhog gus tràillean a ghluasad a dh' fhaodadh "losgadh" le milleadh sònraichte.

A bharrachd air a’ phrìomh bhunait, tha stàladh Cassandra ann le orcastra fèin-sgrìobhte, a chaidh a sgrìobhadh eadhon mus deach Kuber a-steach don phrìomh shruth. Chan eil duilgheadasan ann a thaobh seo, ach tha e seasmhach air SSDs ionadail. Chan eil stòradh iomallach, eadhon taobh a-staigh an aon ionad dàta, air a chleachdadh air sgàth duilgheadas latency àrd.

Is e an treas clas de stòran-dàta an t-seirbheis sgrùdaidh Booking.com, far a bheil gach nòta seirbheis na stòr-dàta. Dh’ fhàillig oidhirpean gus an t-seirbheis sgrùdaidh a ghluasad gu Kuber, leis gu bheil gach nód 60-80 GB de stòradh ionadail, a tha duilich a “togail” agus “blàthachadh”.

Mar thoradh air an sin, cha deach an einnsean sgrùdaidh a ghluasad gu Kubernetes, agus chan eil Ivan den bheachd gum bi oidhirpean ùra ann a dh’ aithghearr. Chaidh stòr-dàta MySQL a ghluasad ann an leth: dìreach tràillean, air nach eil eagal a bhith air an “losgadh”. Tha Cassandra air tuineachadh gu foirfe.

Taghadh bun-structair mar ghnìomh gun fhuasgladh coitcheann

Bun-structair ùr-nodha: duilgheadasan agus dùilean
Dealbh le Manuel Geissinger à Pexels

Canaidh sinn gu bheil companaidh ùr againn, neo companaidh far a bheil pàirt den bhun-structair air a thogail san t-seann dòigh. Bidh e a’ togail plana leasachaidh bun-structair airson bhliadhnaichean. Ciamar a thèid an co-dhùnadh am bu chòir bun-structar a thogail air soithichean agus Kuber no nach bu chòir?

Tha companaidhean a tha a’ sabaid airson nanoseconds air an dùnadh a-mach às an deasbad. Bidh glèidhteachas fallain a 'pàigheadh ​​​​dheth a thaobh earbsachd, ach tha companaidhean ann fhathast a bu chòir beachdachadh air dòighean-obrach ùra.

Ivan: “Bhithinn gu cinnteach a’ tòiseachadh companaidh air sgòthan a-nis, dìreach air sgàth gu bheil e nas luaithe, ”ged nach eil e riatanach nas saoire. Le leasachadh calpachas iomairt, chan eil duilgheadasan mòra aig luchd-tòiseachaidh le airgead, agus is e am prìomh obair faighinn thairis air a’ mhargaidh.

Tha Ivan den bheachd gu bheil tha leasachadh a’ bhun-structair làithreach na shlat-tomhais taghaidh. Ma bha fìor thasgadh san àm a dh'fhalbh, agus tha e ag obair, chan eil feum air ath-dhèanamh. Mura tèid am bun-structar a leasachadh, agus gu bheil duilgheadasan ann le innealan, tèarainteachd agus sgrùdadh, tha e ciallach coimhead air bun-structar sgaoilte.

Feumaidh a’ chìs a bhith air a phàigheadh ​​co-dhiù, agus pàighidh Ivan am fear a leigeadh leis nas lugha a phàigheadh ​​san àm ri teachd. "Oir dìreach air sgàth 's gu bheil mi a' rothaireachd air trèana a tha feadhainn eile a' gluasad, bidh mi a' siubhal mòran nas fhaide na bhithinn nam shuidhe air trèana eile, anns am feum mi connadh a chuir orm fhìn." arsa Ivan. Nuair a tha a 'chompanaidh ùr, agus na riatanasan latency nan deichean de mhillean-thrannsaichean, bhiodh Ivan a' coimhead a dh'ionnsaigh nan "luchd-obrachaidh" anns a bheil stòran-dàta clasaigeach "còmhdaichte" an-diugh. Bidh iad a’ togail sèine mac-samhail, a bhios ga tionndadh fhèin gun fhios nach obraich iad, msaa...

Airson companaidh bheag le frithealaiche no dhà, chan eil Kubera a’ dèanamh ciall, ”arsa Andrey. Ach ma tha e an dùil fàs gu ceudan de luchd-frithealaidh no barrachd, feumaidh e fèin-ghluasad agus siostam riaghlaidh ghoireasan. Is fhiach a’ chosgais 90% de chùisean. A bharrachd air an sin, ge bith dè an ìre de luchd agus goireasan. Tha e ciallach don h-uile duine, bho chompanaidhean tòiseachaidh gu companaidhean mòra le luchd-èisteachd de mhilleanan, a bhith a’ coimhead mean air mhean a dh’ ionnsaigh toraidhean orchestration container. “Seadh, is e seo dha-rìribh an àm ri teachd,” tha Andrey cinnteach.

Mhìnich Denis dà phrìomh shlat-tomhais - scalability agus seasmhachd obrachaidh. Taghaidh e na h-innealan as freagarraiche airson na h-obrach. “Dh’ fhaodadh gur e ainm a th’ air a chruinneachadh air do ghlùinean, agus tha Nutanix Community Edition air. Dh’ fhaodadh seo a bhith na dhàrna loidhne ann an cruth tagradh air Kuber le stòr-dàta air an backend, a tha air ath-aithris agus a tha air crìochan RTO agus RPO a shònrachadh" (àm ath-bheothachaidh / amasan puing - mu thuairmeas.).

Chomharraich Evgeniy duilgheadas a dh’ fhaodadh a bhith ann le luchd-obrach. Aig an àm seo, chan eil mòran eòlaichean le teisteanas air a’ mhargaidh a tha a’ tuigsinn na “guts”. Gu dearbh, ma tha an teicneòlas a chaidh a thaghadh sean, tha e duilich neach sam bith fhastadh ach daoine meadhan-aois a tha sgìth agus sgìth de bheatha. Ged a tha com-pàirtichean eile den bheachd gur e cùis trèanaidh luchd-obrach a tha seo.
Ma chuireas sinn a’ cheist mu roghainn: gus companaidh beag a chuir air bhog anns a ’Public Cloud le stòran-dàta ann an Amazon RDS no“ on premise ”le stòran-dàta ann an Kubernetes, an uairsin a dh’ aindeoin cuid de uireasbhaidhean, thàinig Amazon RDS gu bhith na roghainn dha na com-pàirtichean.

Leis nach ann bhon iomairt “fuilteach” a tha a’ mhòr-chuid den luchd-èisteachd coinneimh, mar sin is e fuasglaidhean sgaoilte na bu chòir dhuinn a bhith ag amas. Feumaidh siostaman stòraidh dàta a bhith air an cuairteachadh, earbsach, agus latency a chruthachadh air a thomhas ann an aonadan milliseconds, deichean aig a’ char as motha", Thug Andrey geàrr-chunntas.

A 'measadh Cleachdadh Kubernetes

Chuir an neach-èisteachd Anton Zhbankov ceist ribe air leisgeulan Kubernetes: ciamar a thagh thu agus a rinn thu sgrùdadh ion-dhèantachd? Carson Kubernetes, carson nach eil innealan brìgheil, mar eisimpleir?

Bun-structair ùr-nodha: duilgheadasan agus dùilean
Dealbh le Tatyana Eremina air unsplash saor an asgaidh

Fhreagair Dmitry agus Ivan e. Anns gach cùis, tro dheuchainn agus mearachd, chaidh sreath de cho-dhùnaidhean a dhèanamh, agus mar thoradh air an sin ràinig an dithis chom-pàirtichean Kubernetes. A-nis tha gnìomhachasan a ’tòiseachadh a’ leasachadh bathar-bog gu neo-eisimeileach a tha ciallach gluasad gu Kuber. Chan eil sinn a’ bruidhinn mu dheidhinn siostaman treas-phàrtaidh clasaigeach, leithid 1C. Bidh Kubernetes a’ cuideachadh nuair a dh’ fheumas luchd-leasachaidh fiosan a dhèanamh gu sgiobalta, le Leasachadh Leantainneach gun stad.

Dh’ fheuch sgioba Anndra ri cruinneachadh scalable a chruthachadh stèidhichte air innealan brìgheil. Thuit nodan mar dominoes, a dh’ adhbhraich uaireannan gun do thuit am buidheann. “Gu teòiridheach, faodaidh tu a chrìochnachadh agus taic a thoirt dha le do làmhan, ach tha e tedious. Agus ma tha fuasgladh air a 'mhargaid a leigeas leat obrachadh a-mach às a' bhogsa, tha sinn toilichte a dhol air a shon. Agus thionndaidh sinn mar thoradh air an sin," thuirt Anndra.

Tha inbhean ann airson a leithid de mhion-sgrùdadh agus àireamhachadh, ach chan urrainn dha duine a ràdh dè cho ceart ‘s a tha iad air fìor bhathar-cruaidh ann an gnìomh. Airson àireamhachadh, tha e cuideachd cudromach tuigsinn gach inneal agus eag-shiostam, ach chan eil seo comasach.

Dè tha a 'feitheamh oirnn

Bun-structair ùr-nodha: duilgheadasan agus dùilean
Dealbh le Drew Beamer air Unsplash

Mar a bhios teicneòlas a ’fàs, bidh barrachd is barrachd pìosan eadar-dhealaichte a’ nochdadh, agus an uairsin bidh gluasad ìre a ’tachairt, tha neach-reic a’ nochdadh a mharbh taois gu leòr airson a h-uile càil a thighinn còmhla ann an aon inneal.

A bheil thu a’ smaoineachadh gun tig àm nuair a bhios inneal mar Ubuntu ann airson saoghal Linux? Is dòcha gum bi Kuber ann an aon inneal containerization agus orchestration. Bidh e ga dhèanamh furasta sgòthan a thogail san togalach.

Chaidh am freagairt a thoirt seachad le Ivan: “Tha Google a-nis a’ togail Anthos - is e seo an tairgse pacaichte aca a bhios a ’cleachdadh an sgòth agus a’ toirt a-steach Kuber, Service Mesh, sgrùdadh - a h-uile bathar-cruaidh a tha a dhìth airson meanbh-sheirbheisean san togalach. ” Tha sinn cha mhòr san àm ri teachd."

Thug Denis iomradh cuideachd air Nutanix agus VMWare leis an toradh vRealize Suite, as urrainn dèiligeadh ri gnìomh coltach ris gun container.

Cho-roinn Dmitry a bheachd gur e dà raon far am faod sinn a bhith an dùil ri leasachaidhean a bhith a’ lughdachadh am “pian” agus a’ lughdachadh chìsean.

Gus geàrr-chunntas a dhèanamh air an deasbad, bidh sinn a’ soilleireachadh na duilgheadasan a leanas a thaobh bun-structar an latha an-diugh:

  • Chomharraich triùir chom-pàirtichean sa bhad duilgheadas le stàite.
  • Diofar chùisean taic tèarainteachd, a’ gabhail a-steach comas gum bi iomadh dreach de Python, frithealaichean tagraidh, agus co-phàirtean aig Docker.
    Thar-chosg, a tha nas fheàrr a bhith air a dheasbad ann an coinneamh air leth.
    Tha dùbhlan ionnsachaidh mar orcastra na eag-shiostam iom-fhillte.
    Is e duilgheadas cumanta sa ghnìomhachas mì-chleachdadh innealan.

    Tha an còrr de na co-dhùnaidhean an urra riut fhèin. Tha faireachdainn ann fhathast nach eil e furasta don mheasgachadh Docker + Kubernetes a bhith na phàirt “meadhan” den t-siostam. Mar eisimpleir, tha siostaman obrachaidh air an cur a-steach air bathar-cruaidh an toiseach, nach urrainnear a ràdh mu shoithichean agus orcastra. Is dòcha san àm ri teachd, gun tig siostaman obrachaidh agus soithichean còmhla ri bathar-bog riaghlaidh sgòthan.

    Bun-structair ùr-nodha: duilgheadasan agus dùilean
    Dealbh le Gabriel Santos a’ togail dhealbhan bho Pexels

    Bu mhath leam an cothrom seo a ghabhail hello a ràdh ri mo mhàthair agus do chuimhneachadh gu bheil buidheann Facebook againn "Riaghladh agus leasachadh phròiseactan mòra IT", seanail @feedmeto le foillseachaidhean inntinneach bho dhiofar bhlogan teignigeach. Agus an sianal agam @rybakalexey, far a bheil mi a 'bruidhinn mu bhith a' stiùireadh leasachadh ann an companaidhean toraidh.

Source: www.habr.com

Cuir beachd ann