Toddobaadkii hore waxaan tagay shirka DUMP IT (https://dump-ekb.ru/) ee Yekaterinburg waxaana rabaa inaan kuu sheego waxa looga hadlay qaybaha Backend iyo Devops, iyo haddii shirarka IT-ga ee gobolka ay mudan yihiin in fiiro gaar ah loo yeesho.
Nikolay Sverchkov oo ka socda Evil Martians oo ku saabsan Serverless
Maxaa jiray si kastaba?
Guud ahaan, shirku wuxuu lahaa 8 qaybood: Backend, Frontend, Mobile, Testing and QA, Devops, Design, Science and Management.
Hoolalka ugu waaweyn, jidka, waxay ku yaalliin Sayniska iyo Maareynta)) ~ 350 qof kasta. Backend iyo Frontend aad uma yara. Qolka Devops wuxuu ahaa kan ugu yar, laakiin firfircoon.
Waxaan dhageystay warbixinnada qaybaha Devops iyo Backend oo aan la hadlay wax yar. Waxaan jeclaan lahaa inaan ka hadlo mowduucyada laga hadlayo oo aan dib u eego qaybahan shirka.
Wakiilada SKB-Kontur, DataArt, Evil Martians, Ekaterinburg web studio Flag, Miro (RealTimeBoard) ayaa ka hadlay qaybaha Devops iyo Backend. Mawduucyada daboolay CI/CD, la shaqaynta adeegyada safka, gaynta; Mawduucyada aan server-ka lahayn iyo la shaqaynta PostgreSQL ee Go ayaa si fiican loo daboolay.
Waxaa sidoo kale jiray warbixino ay soo saareen Avito, Tinkoff, Yandex, Jetstyle, Megafon, Ak Bars Bank, laakiin ma aanan helin waqti aan jir ahaan uga qeyb galo (cajaladaha fiidiyowga iyo sawirada warbixinnada weli lama hayo, waxay ballan qaadeen inay ku dhejiyaan 2 toddobaad gudahood Dump-ekb.ru).
Qaybta Devops
Waxa la yaab leh in qaybta lagu qabtay hoolka ugu yar, qiyaastii 50 kursi. Dadku xitaa waxay taagnaayeen dariiqyada :) Waxaan kuu sheegi doonaa warbixinnada aan ku guuleystay inaan dhageysto.
Laastikada miisaankeedu yahay petabyte
Qaybta waxay ku bilaabatay warbixin uu qoray Vladimir Lil (SKB-Kontur) oo ku saabsan Elasticsearch ee Kontur. Waxay haystaan Elastic aad u weyn oo raran (~ 800 TB oo xog ah, ~ 1.3 petabytes iyadoo la tixgalinayo dib-u-celinta). Elasticsearch ee dhammaan adeegyada Kontur waa hal, oo ka kooban 2 rucub (oo ka kooban 7 iyo 9 server), aad bay muhiim u tahay in Kontur uu leeyahay injineer Elasticsearch gaar ah (runtii, Vladimir laftiisa).
Vladimir sidoo kale wuxuu la wadaagay fikirkiisa ku saabsan faa'iidooyinka Elasticsearch iyo dhibaatooyinka ay keento.
Faa'iidooyinka:
- Dhammaan qoraallada waxay ku yaalliin hal meel, oo si fudud loo geli karo
- Kaydinta buug-qoryaha muddo sannad ah oo si fudud u falanqeynaya
- Xawaaraha sare ee ku shaqeynta qoryaha
- Aragtida xogta qabow ee ka baxsan sanduuqa
Dhibaatooyinka:
- Dallaaliyaha fariinta waa inuu lahaado (Kontur doorkeeda waxaa ciyaaray Kafka)
- Sifooyinka la shaqaynta Elasticsearch Curator (oo si marmar ah u abuuray culays sare oo ka yimid hawlaha caadiga ah ee Curator)
- ma jiro oggolaansho ku dhex dhisan (kaliya gooni gooni ah, lacag aad u badan, ama ilo furan oo leh heerar kala duwan oo u diyaargarowga wax soo saarka)
Waxaa jiray dib u eegis togan oo keliya oo ku saabsan Open Distro for Elasticsearch :) Isla arrinta oggolaanshaha ayaa lagu xalliyay halkaas.
Xagee ka yimaadaa petabyte?Noodkoodu waxa uu ka kooban yahay adeegayaal leh 12*8 Tb SATA + 2*2 Tb SSD. Kaydinta qabow ee SATA, SSD kaliya kaydinta kulul (kaydinta kulul).
7+9 server, (7 + 9) * 12 * 8 = 1536 Tb.
Qayb ka mid ah booska ayaa kayd ah, loo qoondeeyay shaqo-ka-dhigis, iwm.
Diiwaanada laga soo bilaabo 90 codsi ayaa loo diraa Elasticsearch, oo ay ku jiraan dhammaan adeegyada warbixinta ee Kontur, Elba, iwm.
Tilmaamaha horumarinta ee Serverless
Midda xigta waa warbixin uu qoray Ruslan Serkin oo ka socda DataArt oo ku saabsan Serverless.
Ruslan wuxuu ka hadlay horumarka habka Serverless guud ahaan, iyo waxa ay yihiin.
Serverless waa habka horumarinta kaas oo horumariyayaashu aysan sinaba u taaban kaabayaasha. Tusaale - AWS Lambda Serverless, Kubeless.io (Serverless gudaha Kubernetes), Google Cloud Functions.
Codsiga ku habboon Server-la'aanta waa si fudud hawl u soo dirta codsi adeeg bixiyaha Server-la'aanta iyada oo loo marayo Kadin gaar ah oo API ah. Adeeg yar oo ku habboon, halka AWS Lambda ay sidoo kale taageerto tiro badan oo luuqadaha barnaamijyada casriga ah. Qiimaha dayactirka iyo geynta kaabayaasha ayaa noqda eber marka la eego bixiyeyaasha daruuraha, taageeridda codsiyada yaryar waxay sidoo kale noqon doontaa mid aad u jaban (AWS Lambda - $ 0.2 / 1 milyan codsiyo fudud).
Miisaanka nidaamka noocan oo kale ah ayaa ku dhow inuu ku habboon yahay - bixiyaha daruuraha ayaa daryeelaya tan lafteeda, Kubeless miisaankeedu wuxuu si toos ah ugu dhex jiraa kooxda Kubernetes.
Waxaa jira khasaare:
- samaynta codsiyada waaweyn ayaa noqonaysa mid aad u adag
- waxaa jira dhib ah soo bandhigida codsiyada (loguda kaliya ayaa diyaar kuu ah, laakiin aan sifo caadi ah u muujinayn)
- No versioning
Si daacad ah, waxaan maqlay wax ku saabsan Serverless dhawr sano ka hor, laakiin sannadahan oo dhan iimay caddayn sida saxda ah ee loo isticmaalo. Ka dib warbixinta Ruslan, fahamka ayaa soo muuqday, ka dib warbixinta Nikolai Sverchkov (Evil Martians) ee qaybta Backend, waa la xoojiyay. Wax macno darro ah ma ahayn in aan shirka tagay :)
CI waxaa loogu talagalay dadka saboolka ah, mise waa mudan tahay inaad u qorto CI adiga kuu gaar ah istuudiyaha shabakadda?
Mikhail Radionov, madaxa istuudiyaha webka calanka ee Yekaterinburg, ayaa ka hadlay CI/CD iskiis u qoray.
Istuudiyaha wuxuu ka baxay "buugga CI / CD" (gal serverka adoo isticmaalaya SSH, samee git jiid, ku celi 100 jeer maalintii) Jenkins iyo qalab iskiis u qoray kaas oo kuu ogolaanaya inaad la socoto koodka oo aad sameyso siideynta loo yaqaan Pullkins .
Muxuu Jenkins u shaqayn waayay? Ma aysan bixin dabacsanaan ku filan asal ahaan aad bayna u adkeyd in la habeeyo.
"Calanka" waxa uu ka soo baxaa Laravel (PHP framework). Marka la horumarinayo server-ka CI/CD, Mikhail iyo asxaabtiisu waxay adeegsadeen habab-ku-dhismay Laravel oo loo yaqaan Telescope iyo Ergayga. Natiijadu waa server ku jira PHP (fadlan ogow) kaas oo ka baaraandegaya codsiyada webhook ee soo galaya, dhisi kara hore iyo gadaal, u diri kara adeegayaal kala duwan, una warbixin kara Slack.
Ka dib, si ay u awoodaan in ay sameeyaan geynta buluug/cagaaran oo ay yeeshaan jaangooyo isku mid ah jawiyada wax soo saarka-marxaladda, waxay u wareegeen Docker. Faa'iidooyinka ayaa weli isku mid ah, fursadaha isku mid ah deegaanka iyo geynta aan kala go 'lahayn ayaa lagu daray, iyo baahida loo qabo in la barto Docker si sax ah ula shaqeyso ayaa lagu daray.
Sida aan u dhimnay tirada dib-u-celinta server-ka 99%
Warbixintii ugu dambeysay ee qeybta Devops waxay ka timid Viktor Eremchenko, Injineer ku takhasusay hogaanka Miro.com (oo hore u ahaan jiray RealTimeBoard).
RealTimeBoard, wax soo saarka calanka kooxda Miro, waxay ku salaysan tahay codsiga Java monolithic. Uruurinta, tijaabinta iyo geynta iyada oo aan waqti la dhimin waa hawl adag. Xaaladdan oo kale, waxaa muhiim ah in la geeyo nooca noocan oo kale ah ee koodka si aan dib loogu celin (waa monolith culus).
Jidka lagu dhisayo nidaam kuu ogolaanaya inaad tan sameyso, Miro wuxuu soo maray waddo ay ka mid yihiin ka shaqeynta dhismaha, qalabka loo isticmaalo (Atlassian Bamboo, Ansible, iwm), iyo ka shaqeynta qaab-dhismeedka kooxaha (waxay hadda leeyihiin). koox u go'an Devops + kooxo badan oo Scrum oo kala duwan oo ka socda soosaarayaal astaamo kala duwan).
Waddadu waxay noqotay mid adag oo qodax leh, Victorna wuxuu la wadaagay xanuunka iyo yididiilo urursan oo aan halkaas ku dhammaan.
Ku guuleystey buug su'aalo la weydiiyey
Qaybta dambe
Waxaan ku guuleystey inaan ka qayb galo 2 warbixinno - oo ka yimid Nikolay Sverchkov (Evil Martians), sidoo kale ku saabsan Serverless, iyo Grigory Koshelev (shirkadda Kontur) ee ku saabsan telemetry.
Server-la'aan ee dad keliya
Haddii Ruslan Sirkin uu ka hadlay waxa Serverless yahay, Nikolay wuxuu muujiyay codsiyo fudud oo isticmaalaya Serverless, wuxuuna ka hadlay faahfaahinta saameeya qiimaha iyo xawaaraha codsiyada AWS Lambda.
Faahfaahin xiiso leh: qaybta ugu yar ee la bixiyo waa 128 Mb ee xusuusta iyo 100 ms CPU, qiimaheedu waa $0,000000208. Waxaa intaa dheer, 1 milyan oo codsiyada noocaas ah bishii waa bilaash.
Qaar ka mid ah shaqooyinka Nikolai waxay inta badan dhaafeen xadka 100 ms (codsiga ugu muhiimsan wuxuu ku qornaa Ruby), markaa dib u qoritaankooda Go waxay siisay kayd aad u fiican.
Vostok Hercules - ka dhig telemetry mid aad u wanaagsan mar kale!
Warbixintii ugu dambeysay ee qaybta Backend ee Grigory Koshelev (shirkadda Kontur) ee ku saabsan telemetry. Telemetry macneheedu waa diiwaanka, cabbirada, raadraaca codsiga.
Ujeedadan awgeed, Contour waxay isticmaashaa qalab iskiis u qoran oo lagu dhejiyay Github. Qalabka laga helay warbixinta - Hercules, , waxaa loo isticmaalaa in lagu gudbiyo xogta telemetry.
Warbixinta Vladimir Lila ee qaybta Devops waxay ka wadahadleen kaydinta iyo socodsiinta diiwaannada Elasticsearch, laakiin waxaa weli jira hawsha gudbinta diiwaannada kumanaan qalab iyo codsiyo ah, iyo qalabka sida Vostok Hercules ayaa xalliya.
Wareeggu wuxuu raacay waddo loo yaqaan dad badan - laga bilaabo RabbitMQ ilaa Apache Kafka, laakiin wax walba ma fududa)) Waxay ku qasbanaadeen inay ku daraan Zookeeper, Cassandra iyo Graphite wareegga. Si buuxda uma shaacin doono macluumaadka ku qoran warbixintan (ma aha profile-kayga), haddii aad xiisaynayso, waxaad sugi kartaa sawirada iyo muuqaallada bogga shirka.
Sidee loo barbar dhigaa shirarka kale?
Ma barbar dhigi karo shirarka Moscow iyo St. Petersburg, waxaan la barbar dhigi karaa dhacdooyinka kale ee Ural iyo 404fest ee Samara.
DAMP waxaa lagu qabtaa 8 qaybood, tani waa diiwaanka shirarka Ural. Qaybaha Sayniska iyo Maareynta aadka u weyn, tani sidoo kale waa wax aan caadi ahayn. Dhageystayaasha Yekaterinburg aad bay u qaabaysan yihiin - magaaladu waxay leedahay waaxyo horumarineed oo waaweyn oo loogu talagalay Yandex, Kontur, Tinkoff, tani waxay calaamad u tahay warbixinnada.
Qodob kale oo xiiso leh ayaa ah in shirkado badan ay leeyihiin 3-4 ku hadla shirka hal mar (tani waxay ahayd kiiskii Kontur, Evil Martians, Tinkoff). Qaar badan oo iyaga ka mid ah ayaa kafaala qaaday, laakiin warbixinadu aad ayay ula siman yihiin kuwa kale, kuwani maaha warbixino xayaysiis ah.
Si aad u tagto ama aadan tegin? Haddii aad ku nooshahay Urals ama u dhow, waxaad haysataa fursad oo aad xiisaynayso mawduucyada - haa, dabcan. Haddii aad ka fekereyso safar dheer, waxaan eegi lahaa mawduucyada warbixinnada iyo warbixinnada muuqaalka ee sannadihii hore go’aanna ka qaatay.
Faa'iidada kale ee shirarka gobollada, sida caadiga ah, waa in ay fududahay in lala xiriiro afhayeenka ka dib warbixinnada, waxaa si fudud u yar codsadayaasha isgaarsiintaas.
Waad ku mahadsan tahay Dump iyo Ekaterinburg! )
Source: www.habr.com