An t-seachdain sa chaidh chaidh mi gu co-labhairt IT DUMP (https://dump-ekb.ru/) ann an Yekaterinburg agus tha mi airson innse dhut dè a chaidh a dheasbad anns na h-earrannan Backend agus Devops, agus an fhiach aire a thoirt do cho-labhairtean IT roinneil.
Nikolay Sverchkov bho evil Martians mu serverless
Dè bha ann co-dhiù?
Uile gu lèir, bha 8 earrannan aig a’ cho-labhairt: Backend, Frontend, Mobile, Testing and QA, Devops, Design, Science and Management.
Tha na tallachan as motha, co-dhiù, aig Saidheans agus Stiùireadh)) Airson ~ 350 neach gach fear. Chan eil Backend agus Frontend mòran nas lugha. B’ e seòmar Devops an tè a bu lugha, ach gnìomhach.
Dh’èist mi ris na h-aithisgean anns na roinnean Devops and Backend agus bhruidhinn mi beagan ris an luchd-labhairt. Bu mhath leam bruidhinn mu na cuspairean a tha air an còmhdach agus ath-sgrùdadh a dhèanamh air na h-earrannan sin aig a’ cho-labhairt.
Bhruidhinn riochdairean bho SKB-Kontur, DataArt, Evil Martians, Bratach stiùidio lìn Ekaterinburg, Miro (RealTimeBoard) anns na roinnean Devops agus Backend. Bha cuspairean a’ còmhdach CI/CD, ag obair le seirbheisean ciudha, a’ logadh; Bha cuspairean gun seirbheis agus ag obair le PostgreSQL in Go air an deagh chòmhdach.
Bha aithisgean ann cuideachd le Avito, Tinkoff, Yandex, Jetstyle, Megafon, Ak Bars Bank, ach cha robh ùine agam a bhith an làthair gu corporra (chan eil clàraidhean bhidio agus sleamhnagan de na h-aithisgean rim faighinn fhathast, tha iad a ’gealltainn am postadh taobh a-staigh 2 sheachdain air dump-ekb.ru).
Roinn devops
Is e an rud a bha na iongnadh gun deach an earrann a chumail anns an talla as lugha, mu 50 suidheachan. Bha daoine eadhon nan seasamh anns na trannsaichean :) Innsidh mi dhut mu na h-aithisgean a fhuair mi air èisteachd riutha.
Elastic le cuideam petabyte
Thòisich an earrann le aithisg le Vladimir Lil (SKB-Kontur) mu Elasticsearch ann an Kontur. Tha Elastic meadhanach mòr agus luchdaichte aca (~ 800 TB de dhàta, ~ 1.3 petabytes a’ toirt aire do chall obrach). Tha Elasticsearch airson a h-uile seirbheis Kontur singilte, air a dhèanamh suas de 2 chlàr (de luchd-frithealaidh 7 agus 9), agus tha e cho cudromach gu bheil innleadair Elasticsearch sònraichte aig Kontur (gu dearbh, Vladimir fhèin).
Cho-roinn Vladimir cuideachd a bheachdan air na buannachdan bho Elasticsearch agus na duilgheadasan a thig leis.
Buannachd:
- Tha na logaichean uile ann an aon àite, furasta faighinn thuca
- A 'stòradh logaichean airson bliadhna agus a' dèanamh mion-sgrùdadh orra gu furasta
- Àrd-astar a bhith ag obair le logaichean
- Sealladh dàta fionnar a-mach às a’ bhogsa
Duilgheadasan:
- tha feum air broker teachdaireachd (airson Kontur tha a dhreuchd air a chluich le Kafka)
- feartan a bhith ag obair le Neach-gleidhidh Elasticsearch (luchdachadh àrd bho àm gu àm bho ghnìomhan cunbhalach ann an Neach-gleidhidh)
- gun chead togte (dìreach airson airgead air leth, gu math mòr, no mar plugins stòr fosgailte de dhiofar ìrean de dh’ ullachadh airson cinneasachadh)
Cha robh ann ach lèirmheasan adhartach mu Open Distro airson Elasticsearch :) Chaidh an aon chùis ùghdarrais fhuasgladh an sin.
Cò às a tha am petabyte a’ tighinn?Tha na nodan aca a’ toirt a-steach frithealaichean le 12 * 8 Tb SATA + 2 * 2 Tb SSD. Stòradh fuar air SATA, SSD a-mhàin airson tasgadan teth (stòradh teth).
7+9 frithealaichean, (7 + 9) * 12 * 8 = 1536 Tb.
Tha pàirt den àite glèidhte, air a chuir an dàrna taobh airson call dreuchd, msaa.
Thèid logaichean bho timcheall air 90 tagradh a chuir gu Elasticsearch, a’ toirt a-steach a h-uile seirbheis aithris aig Kontur, Elba, msaa.
Feartan leasachaidh air Serverless
An ath rud tha aithisg le Ruslan Serkin bho DataArt mu Serverless.
Bhruidhinn Ruslan air dè an leasachadh leis an dòigh-obrach Serverless san fharsaingeachd, agus dè na feartan a th ’ann.
Tha Serverless na dhòigh leasachaidh anns nach bi luchd-leasachaidh a’ suathadh ris a’ bhun-structair ann an dòigh sam bith. Eisimpleir - AWS Lambda Serverless, Kubeless.io (Gun fhrithealaiche taobh a-staigh Kubernetes), Google Cloud Functions.
Is e dìreach tagradh Serverless air leth freagarrach a chuireas iarrtas gu solaraiche gun fhrithealaiche tro gheata sònraichte API. Microservice air leth freagarrach, fhad ‘s a tha AWS Lambda cuideachd a’ toirt taic do ghrunn chànanan prògramaidh an latha an-diugh. Bidh cosgais cumail suas agus cleachdadh bun-structair gu bhith neoni a thaobh solaraichean sgòthan, bidh taic do thagraidhean beaga cuideachd gu math saor (AWS Lambda - $0.2 / 1 millean iarrtasan sìmplidh).
Tha scalability an leithid de shiostam cha mhòr air leth freagarrach - bidh an solaraiche sgòthan a’ toirt aire dha seo fhèin, bidh lannan Kubeless gu fèin-ghluasadach taobh a-staigh cruinneachadh Kubernetes.
Tha eas-bhuannachdan ann:
- tha e nas duilghe iarrtasan mòra a leasachadh
- tha duilgheadas ann le bhith a’ dèanamh phròifil air tagraidhean (chan eil cothrom agad ach air logaichean, ach gun phròifil a dhèanamh san t-seadh àbhaisteach)
- gun dreach
Gus a bhith onarach, chuala mi mu Serverless beagan bhliadhnaichean air ais, ach fad na bliadhnaichean sin cha robh e soilleir dhomh mar a chleachdas mi e gu ceart. Às deidh aithisg Ruslan, nochd tuigse, agus às deidh aithisg Nikolai Sverchkov (Evil Martians) bhon roinn Backend, chaidh a dhaingneachadh. Cha b' ann gu dìomhain a chaidh mi dhan cho-labhairt :)
Tha CI dha na bochdan, no an fhiach do CI fhèin a sgrìobhadh airson stiùidio lìn?
Bhruidhinn Mikhail Radionov, ceannard stiùidio lìn Flag bho Yekaterinburg, mu CI / CD fèin-sgrìobhte.
Tha an stiùidio aige air a dhol bho “book CI / CD” (log a-steach don t-seirbheisiche tro SSH, dèan tarraing git, ath-aithris 100 uair san latha) gu Jenkins agus gu inneal fèin-sgrìobhte a leigeas leat sùil a chumail air còd agus fiosan a dhèanamh ris an canar Pullkins .
Carson nach robh Jenkins ag obair? Cha tug e seachad sùbailteachd gu leòr a ghnàth agus bha e ro dhoirbh a ghnàthachadh.
Bidh “Bratach” a’ leasachadh ann an Laravel (frèam PHP). Nuair a bha iad a’ leasachadh frithealaiche CI/CD, chleachd Mikhail agus a cho-obraichean innealan togte Laravel ris an canar Telescope and Envoy. Is e an toradh a tha ann am frithealaiche ann am PHP (thoir an aire) a bhios a’ pròiseasadh iarrtasan webook a tha a’ tighinn a-steach, as urrainn an aghaidh agus an deireadh-aghaidh a thogail, a chuir gu diofar luchd-frithealaidh, agus aithris gu Slack.
An uairsin, gus a bhith comasach air cleachdadh gorm / uaine a dhèanamh agus suidheachaidhean èideadh a bhith aca ann an àrainneachdan dev-stage-prod, thionndaidh iad gu Docker. Dh’ fhan na buannachdan mar a bha iad, chaidh na cothroman air an àrainneachd a cho-aonadh agus cleachdadh fuaigheil a chur ris, agus chaidh cur ris an fheum air Docker ionnsachadh a bhith ag obair leis gu ceart.
Mar a lughdaich sinn an àireamh de rollaidhean fuasglaidh frithealaiche 99%
Thàinig an aithisg mu dheireadh ann an roinn Devops bho Viktor Eremchenko, prìomh innleadair devops aig Miro.com (RealTimeBoard roimhe seo).
Tha RealTimeBoard, prìomh thoradh sgioba Miro, stèidhichte air tagradh monolithic Java. Is e obair dhoirbh a th’ ann a bhith ga chruinneachadh, ga dheuchainn agus ga chleachdadh às aonais ùine downt. Anns a 'chùis seo, tha e cudromach a leithid de dhreach den chòd a chleachdadh gus nach fheum e a bhith air a thoirt air ais (is e monolith trom a th' ann).
Air an t-slighe gu bhith a 'togail siostam a leigeas leat seo a dhèanamh, chaidh Miro tro fhrith-rathad a bha a' gabhail a-steach a bhith ag obair air an ailtireachd, na h-innealan a chaidh a chleachdadh (Atlassian Bambù, Ansible, msaa), agus ag obair air structar nan sgiobaidhean (tha iad a-nis air sgioba sònraichte Devops + mòran sgiobaidhean Scrum eadar-dhealaichte bho luchd-leasachaidh de dhiofar phròifil).
Thionndaidh an t-slighe gu bhith duilich agus dòrainneach, agus roinn Victor am pian cruinnichte agus an dòchas nach tàinig gu crìch an sin.
Bhuannaich leabhar airson ceistean fhaighneachd
Earrann cùl-fhiosrachaidh
Chaidh agam air a bhith an làthair aig aithisgean 2 - bho Nikolay Sverchkov (Evil Martians), cuideachd mu Serverless, agus bho Grigory Koshelev (companaidh Kontur) mu dheidhinn telemetry.
Gun seirbheis airson dìreach mortals
Ma bhruidhinn Ruslan Sirkin mu dè a th ’ann an Serverless, sheall Nikolay tagraidhean sìmplidh a’ cleachdadh Serverless, agus bhruidhinn e mu na mion-fhiosrachadh a bheir buaidh air cosgais agus astar thagraidhean ann an AWS Lambda.
Mion-fhiosrachadh inntinneach: is e an eileamaid pàighte as ìsle 128 Mb de chuimhne agus 100 ms CPU, cosgaidh e $0,000000208. A bharrachd air an sin, tha 1 millean iarrtas mar sin gach mìos an-asgaidh.
Bha cuid de ghnìomhan Nikolai gu tric a’ dol thairis air a’ chrìoch 100 ms (chaidh am prìomh thagradh a sgrìobhadh ann an Ruby), agus mar sin thug ath-sgrìobhadh ann an Go sàbhalaidhean sàr-mhath.
Vostok Hercules - dèan telemetry sgoinneil a-rithist!
An aithisg as ùire den earrann Backend bho Grigory Koshelev (companaidh Kontur) mu dheidhinn telemetry. Tha telemetry a’ ciallachadh logaichean, meatrach, lorgan tagraidh.
Airson an adhbhair seo, bidh Contour a’ cleachdadh innealan fèin-sgrìobhte air an postadh air Github. Inneal bhon aithisg - Hercules, , air a chleachdadh gus dàta telemetry a lìbhrigeadh.
Bhruidhinn aithisg Vladimir Lila ann an roinn Devops air stòradh agus giullachd logaichean ann an Elasticsearch, ach tha e fhathast mar dhleastanas logaichean a lìbhrigeadh bho mhìltean de dh ’innealan agus thagraidhean, agus bidh innealan mar Vostok Hercules gam fhuasgladh.
Lean an cuairteachadh slighe a bha aithnichte do mhòran - bho RabbitMQ gu Apache Kafka, ach chan eil a h-uile dad cho sìmplidh)) Bha aca ri Zookeeper, Cassandra agus Graphite a chur ris a’ chuairt. Cha nochd mi gu tur am fiosrachadh air an aithisg seo (chan e mo phròifil), ma tha ùidh agad, faodaidh tu feitheamh airson na sleamhnagan agus na bhideothan air làrach-lìn na co-labhairt.
Ciamar a tha e an coimeas ri co-labhairtean eile?
Chan urrainn dhomh a choimeas ri co-labhairtean ann am Moscow agus St Petersburg, is urrainn dhomh coimeas a dhèanamh eadar e agus tachartasan eile anns na h-Urals agus le 404fest ann an Samara.
Tha DAMP air a chumail ann an 8 earrannan, is e seo clàr airson co-labhairtean Ural. Earrannan Saidheans agus Riaghlaidh glè mhòr, tha seo neo-àbhaisteach cuideachd. Tha an luchd-èisteachd ann an Yekaterinburg gu math structarail - tha roinnean leasachaidh mòr aig a ’bhaile airson Yandex, Kontur, Tinkoff, agus tha seo a’ fàgail a chomharra air na h-aithisgean.
Is e puing inntinneach eile gu bheil luchd-labhairt 3-4 aig mòran chompanaidhean aig a’ cho-labhairt aig an aon àm (b ’e seo a’ chùis le Kontur, Evil Martians, Tinkoff). Bha mòran dhiubh nan luchd-taic, ach tha na h-aithisgean gu math coltach ri feadhainn eile, chan e aithisgean sanasachd a tha seo.
Airson falbh no gun a dhol? Ma tha thu a 'fuireach anns na Urals no faisg air làimh, tha cothrom agad agus tha ùidh agad anns na cuspairean - tha, gu dearbh. Ma tha thu a 'smaoineachadh air turas fada, bhithinn a' coimhead air cuspairean aithisgean agus aithisgean bhidio bho bhliadhnaichean roimhe agus rinn e co-dhùnadh.
Is e buannachd eile de cho-labhairtean anns na roinnean, mar riaghailt, gu bheil e furasta conaltradh leis an neach-labhairt às deidh na h-aithisgean; tha dìreach nas lugha de thagraichean airson a leithid de chonaltradh.
Taing dha Dump agus Ekaterinburg! )
Source: www.habr.com