{"id":55870,"date":"2020-01-30T00:00:00","date_gmt":"2020-01-29T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/ot-skriptov-k-sobstvennoj-platforme-kak-my-avtomatizirovali-razrabotku-v-tsian"},"modified":"2020-02-18T14:04:02","modified_gmt":"2020-02-18T11:04:02","slug":"ot-skriptov-k-sobstvennoj-platforme-kak-my-avtomatizirovali-razrabotku-v-tsian","status":"publish","type":"post","link":"https:\/\/prohoster.info\/et\/blog\/administrirovanie\/ot-skriptov-k-sobstvennoj-platforme-kak-my-avtomatizirovali-razrabotku-v-tsian","title":{"rendered":"Koodidest oma platvormini: kuidas me automatiseerisime arendust CIAN-is","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

\"Koodidest
\n
\nRIT 2019 toimus meie kolleegi Aleksandr Korotkovi ettekanne ettekanne<\/a><\/noindex> arenduse automatiseerimisest CIANis: elu ja t\u00f6\u00f6 lihtsustamiseks kasutame oma platvormi Integro. See j\u00e4lgib \u00fclesannete eluts\u00fcklit, vabastab arendajad rutiinsetest toimingutest ja v\u00e4hendab oluliselt tootmisvigade arvu. Selles postituses t\u00e4iendame Aleksandri ettekannet ja r\u00e4\u00e4gime, kuidas me liikusime lihtsatest skriptidest open source toodete integreerimise kaudu oma platvormini ning milles meie eraldiseisev automatiseerimise meeskond tegeleb.
\n\u00a0<\/a><\/noindex><\/p>\n

Nulltase<\/h2>\n

\n\u201eNulltaset ei ole, ma ei tea midagi sellisest\u201c<\/b>
\nMeister Shifu filmist \u201eKung Fu Panda\u201c<\/i><\/p>\n

CIANis sai automatiseerimine alguse 14 aastat p\u00e4rast ettev\u00f5tte asutamist. Toona oli arendusmeeskonnas 35 inimest. Raske uskuda, eks? Loomulikult mingil moel automatiseerimine ikkagi eksisteeris, kuid pideva integreerimise ja koodi juurutamise eriline suund hakkas kujunema just 2015. aastal.\u00a0<\/p>\n

Sel ajal oli meil suur monoliit Pythonis, C#-is ja PHP-s, mis t\u00f6\u00f6tas Linuxi\/Windosi serverites. Selle hiiglasliku deploimiseks oli meil k\u00e4sitsi k\u00e4ivitatav skriptide kogum. Samuti oli olemas monoliidi kokkupanek, mis p\u00f5hjustas valu ja kannatusi haru \u00fchinemise konfliktide, defektide parandamise ja \u201eteise \u00fclesannete kogumi koostamisprotsessis\u201c t\u00f5ttu. Lihtsustatult n\u00e4gi protsess v\u00e4lja nii:<\/p>\n

\"Koodidest
\n
\nSee ei rahuldanud meid ning soovisime luua korduvat, automatiseeritud ja hallatavat s\u00fcsteemi kokkupanekuks ja deploimiseks. Selleks vajasime CI\/CD s\u00fcsteemi ja valisime tasuta Teamcity versiooni ja tasuta Jenkins'i vahel, kuna olime nendega varem t\u00f6\u00f6tanud ja m\u00f5lemad sobisid meie funktsioonide komplektiga. Valisime Teamcity, kuna see oli uuem toode. Toona ei kasutanud me veel mikroteenuste arhitektuuri ega lootnud suurele \u00fclesannete ja projektide hulgale.<\/p>\n

Me j\u00f5uame ideeni oma s\u00fcsteemist<\/h2>\n

\nTeamcity k\u00e4ivitamine v\u00e4hendas ainult osa k\u00e4sitsi tehtavast t\u00f6\u00f6st: j\u00e4\u00e4nud on veel Pull Requestide loomine, \u00fclesannete edendamine Jira staatustes ja \u00fclesannete valimine v\u00e4ljaande jaoks. Sellega Teamcity enam toime ei tulnud. Oli vaja valida edasise automatiseerimise tee. Me vaatasime v\u00f5imalusi skriptide kasutamiseks Teamcitys v\u00f5i kolmandate osapoolte automatiseerimiss\u00fcsteemide suunas. Kuid l\u00f5puks otsustasime, et vajame maksimaalset paindlikkust, mida pakub ainult meie enda lahendus. Nii s\u00fcndis esimene versioon sisemisest automatiseerimiss\u00fcsteemist nimega Integro.<\/p>\n

Teamcity tegeleb automatiseerimisega ehitamis- ja paigaldusprotsesside tasemel, samas kui Integro keskendub k\u00f5rgema taseme arendusprotsesside automatiseerimisele. Oli vaja siduda t\u00f6\u00f6 Jira \u00fclesannetega Bitbucketis olevate seotud allika-koodide t\u00f6\u00f6tlemisega. Selle etapi jooksul hakkasid Integro sees tekkima oma t\u00f6\u00f6vood erinevat t\u00fc\u00fcpi \u00fclesannete k\u00e4sitlemiseks.\u00a0<\/p>\n

Automatiseerimise suurenemise t\u00f5ttu \u00e4riprotsessides kasvas projektide ja Teamcity jooksude arv. Nii ilmnes uus probleem: \u00fchest tasuta Teamcity instantsist ei piisanud (3 agenti ja 100 projekti), me lisasime veel \u00fche instantsi (veel 3 agenti ja 100 projekti), siis veel \u00fche. L\u00f5puks saime s\u00fcsteemi, mis koosnes mitmest klastrist ja millega oli raske hallata:<\/p>\n

\"Koodidest
\n
\nKui tekkis k\u00fcsimus neljanda instantsi kohta, m\u00f5istsime, et sellisel kujul ei saa me enam elada, kuna nelja instantsi hooldamise kulud ei mahtunud enam mingitesse raamidesse. Tekkis k\u00fcsimus tasulise Teamcity soetamisest v\u00f5i tasuta Jenkinsile eelmisest. Tegime instantside ja automatiseerimisplaanide osas arvutused ja otsustasime, et elame Jenkinsiga. Paari n\u00e4dala p\u00e4rast kolisime Jenkinsile ja vabanesime osast peavalust, mis oli seotud mitme Teamcity instantsi hooldamisega. Seet\u00f5ttu saime keskenduda Integro arendamisele ja Jenkinssi kohandamisele enda jaoks.<\/p>\n

Baasi automatiseerimise kasvuga (n\u00e4iteks Pull Requestide automaatne loomine, koodi katvuse kogumine ja avaldamine ning muud kontrollid) tekkis p\u00fcsiv soov loobuda k\u00e4sitsi v\u00e4ljaannetest ja usaldada see t\u00f6\u00f6 robotitele. Lisaks alustas ettev\u00f5ttesisene \u00fcleminek mikroteenustele, mis n\u00f5udsid sagedasi v\u00e4ljaandeid, ja need pidid olema omavahel eraldi. Nii j\u00f5udsime j\u00e4rk-j\u00e4rgult oma mikroteenuste automaatseteni (monoliitset j\u00e4tkame praegu k\u00e4sitsi, kuna protsess on keeruline). Kuid nagu see tavaliselt juhtub, tekkis uus keerukus.\u00a0<\/p>\n

Automatiseerime testimise<\/h2>\n

\n\"Koodidest
\n
\nV\u00e4ljaannete automatiseerimise t\u00f5ttu on arendusprotsessid kiirenend, osaliselt isegi katsetamise teatud etappide vahele j\u00e4tmise arvelt. See on aga kaasa toonud ajutise kvaliteedi languse. See n\u00e4eb v\u00e4lja tavaline, kuid koos v\u00e4ljaannete kiirenemisega oli vaja muuta ka arendusmeetodoloogiat. Piisavalt tuli m\u00f5elda testimise automatiseerimise, arendaja isiklike vastutuste loomise (siin on jutt 'idee p\u00e4he omaksmisest', mitte rahalistest karistustest) ja \u00fclesande v\u00e4ljaandmise\/mitte v\u00e4ljaandmise otsuse tegemise \u00fcle automaatse juurutamise kaudu.\u00a0<\/p>\n

Kvaliteediprobleemide lahendamisel j\u00f5udsime kahte olulisse otsusesse: hakkasime viima l\u00e4bi kanaristestimist ja rakendasime automaatse vea j\u00e4lgimise koos automaatse reageerimisega selle \u00fcletamisel. Esimene otsus v\u00f5imaldas leida ilmseid vigu enne koodi t\u00e4ielikku j\u00f5udmist productionisse, teine v\u00e4hendas reageerimise aega productioni probleemidele. Vead ju esinevad, kuid me kulutame suurema osa ajast ja vaevast mitte parandamisele, vaid minimiseerimisele.\u00a0<\/p>\n

Automatiseerimise meeskond<\/h2>\n

\nPraegu on meil 130 arendajat, ja me j\u00e4tkame kasvamist<\/a><\/noindex>. J\u00e4tkuva integreerimise ja koodi kohaletoimetamise meeskond (edaspidi - Deploy and Integration ehk DI meeskond) koosneb 7 inimesest ja t\u00f6\u00f6tab 2 suunas: automatiseerimise platvormi arendamine Integro ja DevOps.\u00a0<\/p>\n

DevOps vastutab CIANi Dev\/Beta keskkondade eest, Integro keskkondade ees, aitab arendajatel probleemide lahendamisel ning t\u00f6\u00f6tatakse v\u00e4lja uusi l\u00e4henemisviise keskkondade suurendamiseks. Integro arendussuund tegeleb nii Integroga kui ka k\u00fclgteenustega, n\u00e4iteks Jenkins, Jira, Confluence pistikprogrammidega, ning arendab t\u00f6\u00f6tajate jaoks abit\u00f6\u00f6riistu ja rakendusi.\u00a0<\/p>\n

DI meeskond t\u00f6\u00f6tab koos Platvormi meeskonnaga, mis tegeleb arhitektuuri, raamatukogude ja arendusuuringute v\u00e4ljat\u00f6\u00f6tamisega ettev\u00f5ttes. Samuti v\u00f5ivad k\u00f5ik arendajad CIANi sees panustada automatiseerimisse, n\u00e4iteks luua meeskonnale mikroautomaatika v\u00f5i jagada \u00e4geda idee, kuidas automatiseerimist veelgi paremaks muuta.<\/p>\n

Automaatimise kihiline kook CIANis<\/h2>\n

\n\"Koodidest
\n
\nK\u00f5iki automatiseerimises osalevaid s\u00fcsteeme saab jagada mitmeks kihiks:<\/p>\n

    \n
  1. V\u00e4lised s\u00fcsteemid (Jira, Bitbucket jne). Nende kallal t\u00f6\u00f6tavad arendusmeeskonnad.\n<\/li>\n
  2. Integro platvorm. Arendajad ei t\u00f6\u00f6ta sellega tavaliselt otse, kuid just see toetab kogu automatiseerimise t\u00f6\u00f6d.\n<\/li>\n
  3. Kohaletoimetamise, orkestreerimise ja avastamise teenused (n\u00e4iteks Jenkins, Consul, Nomad). Nende abil paigaldame koodi serveritesse ja tagame, et teenused omavahel t\u00f6\u00f6taksid.\n<\/li>\n
  4. F\u00fc\u00fcsiline tase (serverid, operatsioonis\u00fcsteem, k\u00f5rvutarkvara). Sellel tasemel t\u00f6\u00f6tab meie kood. See v\u00f5ib olla nii f\u00fc\u00fcsiline server kui ka virtuaalne (LXC, KVM, Docker).\n<\/li>\n<\/ol>\n

    \nV\u00e4ljaspool seda kontseptsiooni jagame DI meeskonna sees vastutuspiirkondi. Kaks esimest taset kuuluvad Integro arendussuuna vastutusele, samas kui kaks viimast taset kuuluvad DevOpsi vastutusele. Selline jaotus v\u00f5imaldab keskenduda \u00fclesannetele, takistamata koost\u00f6\u00f6d, kuna me oleme \u00fcksteisest l\u00e4hedal ja vahetame pidevalt teadmisi ja kogemusi.<\/p>\n

    Integro<\/h2>\n

    \nKeskendume Integrole ja alustame tehnoloogilisest j\u00e4rjestusest:<\/p>\n