An tseachtain seo caite chuaigh mé chuig comhdháil IT DUMP (https://dump-ekb.ru/) i Yekaterinburg agus ba mhaith liom a insint duit cad a pléadh sna hailt Backend agus Devops, agus cibé acu is fiú aird a thabhairt ar chomhdhálacha TF réigiúnacha.
Nikolay Sverchkov ó an olc Martians saor in aisce,
Cad a bhí ann ar aon nós?
San iomlán, bhí 8 rannóg ag an gcomhdháil: Inneall, Frontend, Soghluaiste, Tástáil agus QA, Devops, Dearadh, Eolaíocht agus Bainistíocht.
Tá na hallaí is mó, dála an scéil, ag Eolaíocht agus Bainistíocht)) Do ~350 duine an ceann. Níl Inneall agus Frontend i bhfad níos lú. Ba é an seomra Devops an ceann is lú, ach gníomhach.
D’éist mé leis na tuairiscí sna rannóga Devops agus Backend agus labhair mé beagán leis na cainteoirí. Ba mhaith liom labhairt faoi na hábhair a clúdaíodh agus athbhreithniú a dhéanamh ar na hailt seo ag an gcomhdháil.
Labhair ionadaithe SKB-Kontur, DataArt, Evil Martians, Ekaterinburg stiúideo gréasáin Flag, Miro (RealTimeBoard) sna rannóga Devops agus Inneall. Chlúdaigh na topaicí CI/CD, oibriú le seirbhísí scuaine, logáil, topaicí gan freastalaí agus obair le PostgreSQL in Go.
Bhí tuairiscí ann freisin ó Avito, Tinkoff, Yandex, Jetstyle, Megafon, Ak Bars Bank, ach ní raibh am agam freastal orthu go fisiciúil (níl fístaifeadtaí agus sleamhnáin de na tuarascálacha ar fáil fós, geallann siad iad a phostáil laistigh de 2 sheachtain. ar dump-ekb.ru).
Devops alt
An rud a chuir iontas air ná gur sa halla is lú a bhí an rannóg, thart ar 50 suíochán. Bhí daoine fiú ina seasamh sna pasáistí :) Inseoidh mé duit faoi na tuairiscí ar éirigh liom éisteacht leo.
Leaisteacha a mheá le petabyte
Cuireadh tús leis an alt le tuairisc ó Vladimir Lil (SKB-Kontur) faoi Elasticsearch in Kontur. Tá Leaisteacha sách mór agus luchtaithe acu (~800 TB sonraí, ~1.3 peitibít ag cur iomarcaíochta san áireamh). Tá Elasticsearch do gach seirbhís Kontur singil, comhdhéanta de 2 bhraisle (de 7 agus 9 bhfreastalaí), agus tá sé chomh tábhachtach go bhfuil innealtóir Elasticsearch speisialta ag Kontur (go deimhin, Vladimir féin).
Roinn Vladimir a smaointe faoi na buntáistí a bhaineann le Elasticsearch agus na fadhbanna a bhaineann leis.
Sochar:
- Tá gach logs in aon áit amháin, rochtain éasca orthu
- Logs a stóráil ar feadh bliana agus go héasca anailís a dhéanamh orthu
- Luas ard ag obair le logs
- Amharcléiriú sonraí fionnuar as an mbosca
Fadhbanna:
- tá bróicéir teachtaireachtaí riachtanach (do Kontur imríonn Kafka a ról)
- gnéithe a bhaineann le bheith ag obair le Coimeádaí Elasticsearch (cruthaítear ualach ard go tréimhsiúil ó thascanna rialta sa Choimeádaí)
- gan údarú ionsuite (ach amháin le haghaidh airgead ar leithligh atá sách mór, nó mar bhreiseáin foinse oscailte ar leibhéil éagsúla ullmhachta don táirgeadh)
Ní raibh ach léirmheasanna dearfacha faoi Open Distro for Elasticsearch :) Tá an cheist chéanna maidir le húdarú réitithe ansin.
Cad as a dtagann an petabyte?Is éard atá ina nóid ná freastalaithe le 12 * 8 Tb SATA + 2 * 2 Tb SSD. Stóráil fuar ar SATA, SSD amháin le haghaidh taisce te (stóráil te).
7+9 freastalaí, (7 + 9) * 12 * 8 = 1536 Tb.
Tá cuid den spás i gcúlchiste, curtha ar leataobh le haghaidh iomarcaíochta, etc.
Seoltar logaí ó thart ar 90 feidhmchlár chuig Elasticsearch, lena n-áirítear gach seirbhís tuairiscithe de chuid Kontur, Elba, etc.
Gnéithe forbartha ar Serverless
Ar aghaidh tá tuarascáil le Ruslan Serkin ó DataArt faoi Serverless.
Labhair Ruslan faoi cén fhorbairt le cur chuige Serverless i gcoitinne, agus cad iad na gnéithe atá ann.
Is cur chuige forbartha é Serverless nach ndéanann forbróirí teagmháil leis an mbonneagar ar bhealach ar bith. Sampla - AWS Lambda Serverless, Kubeless.io (Freastalaí taobh istigh Kubernetes), Feidhmeanna Google Cloud.
Níl ann ach feidhmchlár idéalach Gan Freastalaí a chuireann iarratas chuig soláthraí gan Freastalaí trí Thairseach API speisialta. Micrsheirbhís iontach, agus tacaíonn AWS Lambda le líon mór teangacha ríomhchlárúcháin freisin. Éiríonn an costas a bhaineann le bonneagar a chothabháil agus a imscaradh náid i gcás soláthraithe néalríomhaireachta, agus beidh sé an-saor freisin tacú le hiarratais bheaga (AWS Lambda - $0.2 / 1 milliún iarratas simplí).
Tá scalability córas den sórt sin beagnach idéalach - tugann an soláthraí scamall aire dó seo féin, scálaí Kubeless go huathoibríoch laistigh de bhraisle Kubernetes.
Tá míbhuntáistí ann:
- tá sé ag éirí níos deacra feidhmchláir mhóra a fhorbairt
- tá deacracht ann le feidhmchláir a phróifíliú (níl ach logaí ar fáil duit, ach níl próifíliú sa ghnáthchiall)
- gan leagan
Le bheith macánta, chuala mé faoi Serverless cúpla bliain ó shin, ach na blianta seo go léir ní raibh sé soiléir dom conas é a úsáid i gceart. Tar éis tuairisc Ruslan, tháinig tuiscint ar an tuiscint, agus tar éis tuairisc Nikolai Sverchkov (Evil Martians) ón rannóg Inneall, comhdhlúthaíodh é. Ní raibh sé in vain go ndeachaigh mé go dtí an chomhdháil :)
Tá CI do na boicht, nó ar fiú do CI féin a scríobh le haghaidh stiúideo gréasáin?
Labhair Mikhail Radionov, ceann stiúideo gréasáin na mBratach ó Yekaterinburg, faoi CI/CD féinscríofa.
Tá a stiúideo imithe ó “lámhleabhar CI/CD” (logáil isteach sa fhreastalaí trí SSH, tarraing git, déan arís 100 uair sa lá) go Jenkins agus go huirlis fhéinscríofa a ligeann duit monatóireacht a dhéanamh ar chód agus eisiúintí ar a dtugtar Pullkins a dhéanamh. .
Cén fáth nach raibh Jenkins ag obair? Níor sholáthair sé go leor solúbthachta de réir réamhshocraithe agus bhí sé ró-dheacair é a shaincheapadh.
Forbraíonn “Bratach” i Laravel (creat PHP). Agus freastalaí CI/CD á fhorbairt, d’úsáid Mikhail agus a chomhghleacaithe meicníochtaí ionsuite Laravel ar a dtugtar Teileascóp agus Toscaire. Is é an toradh atá air ná freastalaí i PHP (tabhair faoi deara le do thoil) a phróiseálann iarratais chuca gréasáin isteach, a fhéadfaidh an t-éadan agus an t-inneall a thógáil, a imscaradh chuig freastalaithe éagsúla, agus tuairisc a thabhairt do Slack.
Ansin, chun go mbeidís in ann imscaradh gorm/glas a dhéanamh agus socruithe aonfhoirmeacha a bheith acu i dtimpeallachtaí dev-stage-prod, d’athraigh siad go Docker. D'fhan na buntáistí mar an gcéanna, cuireadh leis na féidearthachtaí a bhaineann le haonchineálú an chomhshaoil agus imscaradh gan uaim, agus cuireadh leis an ngá atá le Docker a fhoghlaim chun oibriú leis i gceart.
Conas a laghdaigh muid líon na n-eisiúintí seoltaí freastalaí faoi 99%
Ba ó Viktor Eremchenko, innealtóir Lead devops ag Miro.com (RealTimeBoard roimhe seo) a tháinig an tuarascáil dheireanach i rannóg Devops.
Tá RealTimeBoard, príomhtháirge fhoireann Miro, bunaithe ar fheidhmchlár monolithic Java. Is tasc deacair é a bhailiú, a thástáil agus a imscaradh gan aga neamhfhónaimh. Sa chás seo, tá sé tábhachtach leagan den sórt sin den chód a imscaradh ionas nach gá é a rolladh siar (is monolith trom é).
Ar an mbealach chun córas a thógáil a ligeann duit é seo a dhéanamh, chuaigh Miro trí chosán a chuimsigh obair ar an ailtireacht, na huirlisí a úsáideadh (Bambú Atlas, Ansible, srl), agus ag obair ar struchtúr na bhfoirne (tá siad anois. foireann thiomanta Devops + go leor foirne Scrum ar leith ó fhorbróirí próifílí éagsúla).
Bhí an cosán deacair agus deilgneach, agus roinn Victor an pian carntha agus an dóchas nach raibh deireadh leis.
Bhuaigh leabhar le haghaidh ceisteanna a chur
Alt backend
D'éirigh liom freastal ar 2 thuarascáil - ó Nikolay Sverchkov (Evil Martians), freisin faoi Serverless, agus ó Grigory Koshelev (cuideachta Kontur) faoi teiliméadracht.
Gan freastalaí do dhaoine bás
Má labhair Ruslan Sirkin faoi cad é Serverless, léirigh Nikolay feidhmchláir shimplí ag baint úsáide as Serverless, agus labhair sé faoi na sonraí a théann i bhfeidhm ar chostas agus luas na n-iarratas in AWS Lambda.
Sonraí suimiúil: is é 128 Mb de chuimhne an eilimint íosíoctha agus 100 ms LAP, cosnaíonn sé $0,000000208. Ina theannta sin, tá 1 milliún iarratas den sórt sin in aghaidh na míosa saor in aisce.
Is minic a sháraigh cuid d’fheidhmeanna Nikolai an teorainn 100 ms (scríobhadh an príomhfheidhmchlár in Ruby), agus mar sin rinneadh coigilteas den scoth trí iad a athscríobh in Go.
Vostok Earcail - déan teiliméadracht ar fheabhas arís!
An tuarascáil is déanaí den alt Backend ó Grigory Koshelev (cuideachta Kontur) faoi teiliméadracht. Ciallaíonn teiliméadracht logaí, méadracht, rianta feidhmchláir.
Chun na críche sin, úsáideann Contour uirlisí féinscríofa a phostáiltear ar Github. Uirlis ón tuairisc - Hercules, , a úsáidtear chun sonraí teiliméadrachta a sheachadadh.
Phléigh tuarascáil Vladimir Lila sa rannóg Devops stóráil agus próiseáil logaí in Elasticsearch, ach tá an tasc fós ann logaí a sheachadadh ó na mílte gléasanna agus feidhmchláir, agus réitíonn uirlisí mar Vostok Hercules iad.
Lean an ciorcad cosán a raibh aithne ag go leor air - ó RabbitMQ go Apache Kafka, ach níl gach rud chomh simplí)) Bhí orthu Zookeeper, Cassandra agus Graphite a chur leis an gciorcad. Ní nochtfaidh mé an fhaisnéis ar an tuarascáil seo go hiomlán (ní mo phróifíl), má tá suim agat, is féidir leat fanacht ar na sleamhnáin agus na físeáin ar shuíomh Gréasáin na comhdhála.
Conas a chuirtear é i gcomparáid le comhdhálacha eile?
Ní féidir liom é a chur i gcomparáid le comhdhálacha i Moscó agus St Petersburg, is féidir liom é a chur i gcomparáid le himeachtaí eile san Urals agus le 404fest i Samara.
Tá DAMP ar siúl in 8 rannóg, is taifead é seo do chomhdhálacha Ural. Rannóga Eolaíochta agus Bainistíochta an-mhór, tá sé seo neamhghnách freisin. Tá an lucht féachana i Yekaterinburg struchtúrtha go leor - tá ranna forbartha móra ag an gcathair do Yandex, Kontur, Tinkoff, agus fágann sé seo a rian ar na tuarascálacha.
Pointe suimiúil eile ná go bhfuil cainteoirí 3-4 ag go leor cuideachtaí ag an gcomhdháil ag an am céanna (bhí sé seo amhlaidh le Kontur, Evil Martians, Tinkoff). Ba urraitheoirí go leor acu, ach tá na tuarascálacha ar chomhchéim le tuarascálacha eile, ní tuarascálacha fógraíochta iad seo.
Chun dul nó gan dul? Má tá cónaí ort sa Urals nó in aice láimhe, tá an deis agat agus tá suim agat sna hábhair - tá, ar ndóigh. Má tá tú ag smaoineamh ar thuras fada, d’fhéachfainn ar na hábhair a bhaineann le tuarascálacha agus tuairiscí físe ó bhlianta roimhe seo agus rinne sé cinneadh.
Buntáiste eile a bhaineann le comhdhálacha sna réigiúin, go hiondúil, is ea go bhfuil sé éasca cumarsáid a dhéanamh leis an gcainteoir tar éis na dtuairiscí; níl ach níos lú iarratasóirí ar chumarsáid den sórt sin.
Buíochas le Dumpáil agus Ekaterinburg! )
Foinse: will.com