Slurm DevOps: Git ते SRE पर्यंत सर्व थांब्यांसह

4-6 सप्टेंबर रोजी सेंट पीटर्सबर्ग येथे, सिलेक्टेल कॉन्फरन्स हॉलमध्ये, तीन दिवसीय Slurm DevOps.

DevOps वरील सैद्धांतिक कार्ये, टूल्ससाठी मॅन्युअल सारखी, प्रत्येकजण स्वतःहून वाचू शकतो या कल्पनेवर आधारित आम्ही प्रोग्राम तयार केला आहे. केवळ अनुभव आणि सराव मनोरंजक आहेत: ते कसे करावे आणि काय करू नये याचे स्पष्टीकरण आणि आपण ते कसे करतो याबद्दल एक कथा.

प्रत्येक कंपनी, प्रत्येक प्रशासक किंवा विकासकाची स्वतःची DevOps पातळी असते. काही लोक Git चुकीच्या पद्धतीने वापरतात, तर काही लोक SRE लागू करतात. अभ्यासक्रम आयोजित केला आहे जेणेकरून प्रत्येकाला काहीतरी संबंधित सापडेल जे येथे आणि आता लागू केले जाऊ शकते.

आम्ही Git ने सुरुवात करतो, नंतर ऍप्लिकेशन डेव्हलपमेंट पाहतो, कोड आणि पायाभूत सुविधांमधील परस्परसंवाद, CI/CD तयार करतो, पायाभूत सुविधांचे कोड (IaC) म्हणून वर्णन करतो, परिणामी समाधानाची चाचणी करतो, मॉनिटरिंग सेट करतो, नोंदी गोळा करतो आणि अभ्यास करतो आणि शेवटी आम्ही येतो. SRE ला: विश्वासार्हतेला मोजता येण्याजोग्या आणि आटोपशीर कथेत बदलणे.

Git

आजकाल, Git वापरणारे एकमेव लोक असे आहेत ज्यांनी काल त्यांचा पहिला लॅपटॉप विकत घेतला. हे एक क्षुल्लक आणि सर्वव्यापी साधन आहे, आणि तरीही आपण अनेकदा त्याचा गैरवापर पाहतो: मास्टरला धक्का देण्यापासून ते Ctrl-C, Ctrl-V द्वारे Git वरून सर्व्हरवर फायली कॉपी करण्यापर्यंत.

तुम्ही ते कसे करू नये, तुम्ही ते कसे करावे, जसे ते साउथब्रिजमध्ये करतात तसे आम्ही तुम्हाला सांगतो.
आम्ही सराव करत आहोत: गीतेची मूलतत्त्वे, टीमवर्क.

विषय #1: Git Basics

• मूलभूत कमांड git init, कमिट, अॅड, डिफ, लॉग, स्टेटस, पुल, पुश
• Git प्रवाह, शाखा आणि टॅग, विलीनीकरण धोरणे
• एकाधिक रिमोट रेपोसह कार्य करणे

विषय #2: Git सह टीमवर्क

• GitHub प्रवाह
• काटा, रिमोट, पुल विनंती
• संघांच्या संबंधात Gitflow आणि इतर प्रवाहांबद्दल पुन्हा एकदा संघर्ष, रिलीझ

साहित्य व्यवस्थापित केले आहे जेणेकरून प्रशासक आणि विकासक त्यांच्या कामात सर्व पद्धती त्वरित लागू करू शकतील.

DevOps दृष्टीकोनातून, Git सोबत योग्य कार्य सुव्यवस्थित करते आणि विकास आणि प्रशासन प्रक्रिया स्वयंचलित करते, अनेक आवर्ती समस्या दूर करते आणि उत्पादकता वाढवते.

DevOps विकसक

आम्ही डेव्हलपरच्या नजरेतून DevOps पाहतो: आम्ही स्थानिक वातावरण लाँच करतो, अनुप्रयोग लिहितो, त्याचे निरीक्षण आणि लॉगिंग सेट करतो, स्थानिक पातळीवर त्याची चाचणी करतो, व्हेरिएबल्स/गुप्ते आणि सेवा शोधांचे संचयन आयोजित करतो, ओपनट्रेसिंग पाहतो.

विषय #3: विकासाच्या दृष्टिकोनातून अनुप्रयोगासह कार्य करणे

• स्थानिक वातावरण सेट करणे: व्यावहारिक शिफारसी
• पायथनमध्ये मायक्रोसर्व्हिस लिहिणे (चाचण्यांसह)
• विकासामध्ये डॉकर-कंपोज वापरणे

विषय #4: कोड आणि पायाभूत सुविधांमधील परस्परसंवाद

• कॉन्फिगन्ससह काम करण्याचा सराव करा

परिणामी, कोडने लॉग कसे पाठवायचे, त्याची चाचणी कशी करायची आणि भविष्यात ते कसे डीबग केले जाईल हे विकसक पाहतील. प्रशासक विकासकांच्या गरजा समजून घेतील: कोडमध्ये कोणत्या त्रुटी आहेत, विकसकांसाठी चाचणी कशी आयोजित करावी, प्रकल्पाची स्वतः चाचणी कशी करावी.

या टप्प्यावर, DevOps चे मुख्य कार्य सोडवले जाते: देव आणि Ops यांच्यातील परस्पर समज आणि संयुक्त कार्य तयार केले जाते. टास्क-शेअरिंगकडून जबाबदार सहकार्याकडे जाण्यासाठी ही एक महत्त्वाची पायरी आहे.

परिणामी, कामाचा वेग आणि गुणवत्ता वाढते.

सीआय / सीडी

आधुनिक ऑटोमेशनमध्ये CI/CD चा समावेश होतो. आम्ही मॅन्युअल ऑटोमेशन बघून सुरुवात करू: मेकफाईल्स, गिथुक, स्क्रिप्ट. ही साधने अजूनही कधी उपयुक्त आहेत आणि ती कधी वापरली जाऊ नयेत ते पाहू या.

मग उदाहरण म्हणून Gitlab वापरून आधुनिक CI च्या सर्वोत्तम पद्धती पाहू.

विषय #5: CI/CD ऑटोमेशनचा परिचय

• ऑटोमेशनचा परिचय
• साधने (बॅश, मेक, ग्रेडल)
• प्रक्रिया स्वयंचलित करण्यासाठी गिट-हुक वापरणे
• फॅक्टरी असेंब्ली लाईन्स आणि आयटी मध्ये त्यांचा अर्ज
• "सामान्य" पाइपलाइन तयार करण्याचे उदाहरण
• CI/CD साठी आधुनिक सॉफ्टवेअर: Drone CI, BitBucket Pipelines, Travis, इ.

विषय #6: CI/CD: Gitlab सह कार्य करणे

• Gitlab CI - सामान्य
• गिटलॅब रनर, त्यांचे प्रकार आणि अनुप्रयोग
• Gitlab CI, कॉन्फिगरेशन वैशिष्ट्ये, सर्वोत्तम पद्धती
• Gitlab CI टप्पे
• Gitlab CI व्हेरिएबल्स
• तयार करा, चाचणी करा, तैनात करा
• अंमलबजावणी नियंत्रण आणि निर्बंध: फक्त, तेव्हा
• कलाकृतींसह काम करणे
• .gitlab-ci.yml मधील टेम्पलेट्स, पाइपलाइनच्या विविध भागांमध्ये क्रियांचा पुनर्वापर करणे
• समाविष्ट करा - विभाग
• gitlab-ci.yml चे केंद्रीकृत व्यवस्थापन (एक फाइल आणि इतर रिपॉझिटरीजमध्ये स्वयंचलित पुश)

प्रशासक आणि विकासक यांच्यातील सहयोग नवीन स्तरावर पोहोचतो: प्रशासक एक CI टेम्पलेट लिहितो आणि विकासक ते संपादित करतात, प्रशासकापासून स्वतंत्रपणे त्यांचे CI तयार करतात.

प्रशासकांवरील विकासकांचे अवलंबित्व कमी झाले आहे, मॅन्युअल कामाचे प्रमाण कमी झाले आहे आणि "मेक फाइलसह कसे कार्य करावे हे माहित असलेल्या एकमेव व्यक्ती" ची समस्या नाहीशी होते. रोलआउट्स विश्वासार्हपणे आणि द्रुतपणे होतात.

आयएसी

सिलेक्टेल क्लाउड ॲडमिनिस्ट्रेटर ॲलेक्सी स्टेपनेंको यांच्याद्वारे टेराफॉर्मचा उदाहरण म्हणून वापर करून कोड म्हणून पायाभूत सुविधा या विषयावर चर्चा केली जाईल. तो तुम्हाला त्वरीत आणि स्वयंचलितपणे सर्व्हर कसा तैनात करायचा आणि स्केल कसा करायचा, प्रतिमा स्वयंचलितपणे पॅकेज कसे करायचे आणि कॉन्फिगर केलेली मशीन त्वरित मिळविण्यासाठी कॉन्फिगरेशन टेम्पलेट कसे वापरायचे ते दाखवेल.

एक व्यक्ती ज्याने हजारो IaC सोल्यूशन्स बनवले आहेत ते तुम्हाला ते कसे करावे आणि काय करू नये हे सांगेल.

सिलेक्टेल क्लाउड सोल्यूशन Google आणि Amazon क्लाउडसाठी कमीतकमी बदलांसह योग्य आहे.

साउथब्रिजचे कर्मचारी निकोलाई मेस्रोप्यान, उदाहरण म्हणून अँसिबल वापरून, डाउनटाइमशिवाय कार्यरत अनुप्रयोग कसा तैनात करायचा आणि त्याचे कार्यप्रदर्शन कसे तपासायचे ते दर्शवेल.

जर तुम्ही इन्फ्रास्ट्रक्चर स्वहस्ते संपादित केले (आवश्यकतेनुसार सर्व्हर सेट करा, लायब्ररी आणि पॅकेजेस स्थापित करा), जेव्हा तुम्ही पर्यावरणाची प्रत वाढवण्याचा प्रयत्न कराल, तेव्हा तुम्हाला तुमच्या सर्व क्रिया लक्षात ठेवाव्या लागतील आणि पुनरुत्पादित कराव्या लागतील. हे कार्य सहजपणे 3-5 दिवस घेते. कोड म्हणून पायाभूत सुविधांसह कार्य करणे हे सुनिश्चित करते की आपल्याकडे आपल्या वातावरणाचे अद्ययावत वर्णन आहे जे काही मिनिटांत तैनात केले जाऊ शकते.

निकोले तुम्हाला प्लेबुक कसे लिहायचे, कोणत्या चुका होतात आणि काही वेळा प्लेबुक्स अपेक्षेप्रमाणे हळू का चालतात किंवा का होत नाहीत हे सांगतील. साउथब्रिज येथे IaC वापरल्याचा हा अनुभव आहे.

विषय #7: संहिता म्हणून पायाभूत सुविधा

• IaC: संहिता म्हणून पायाभूत सुविधांकडे जाणे
• पायाभूत सुविधा पुरवठादार म्हणून क्लाउड प्रदाते
• सिस्टम इनिशिएलायझेशन टूल्स, इमेज बिल्डिंग (पॅकर)
• उदाहरण म्हणून टेराफॉर्म वापरून IaC
• कॉन्फिगरेशन स्टोरेज, सहयोग, ऍप्लिकेशन ऑटोमेशन
• उत्तरदायी प्लेबुक तयार करण्याचा सराव
• आडमुठेपणा, घोषणात्मकता
• उदाहरण म्हणून Ansible वापरून IaC
• कोड / PostgreSQL फॉल्ट टॉलरन्स म्हणून डेटाबेस

पायाभूत सुविधा घोषणात्मक आणि निर्दोष बनते.
प्रशासक जटिल पायाभूत सुविधा व्यवस्थापित करण्यास शिकतो: त्वरीत नवीन वातावरण तयार करा, सर्व वातावरणाची एकता टिकवून ठेवा, बदलांचा इतिहास पहा, जे प्रकल्पावर अनेक कार्यसंघ काम करत असताना गंभीर आहे.
विकासक पायाभूत सुविधांचा अभ्यास करू शकतो आणि स्वतंत्रपणे स्वतःचे वातावरण विकसित करू शकतो.

विभाग बोनस: PostgreSQL डेटाबेसचे फेलओव्हर क्लस्टर तयार करणे आणि कॉन्फिगर करणे. आम्ही साऊथब्रिज येथे वापरत असलेले रेडीमेड प्लेबुक प्रदान करू, तुम्ही प्रशिक्षण स्टँडवर क्लस्टर तैनात कराल आणि तुमच्या कंपनीमध्ये हे समाधान वापरू शकता.

पायाभूत सुविधांची चाचणी आणि देखरेख

ऑटोमेशन तुम्हाला एकाच वेळी हजार सर्व्हरवर एरर आणण्याची परवानगी देते. प्रत्येक बदलासाठी चाचणी आवश्यक असते. दुसरीकडे, मॅन्युअल चाचणीला इतका वेळ लागतो की ते ऑटोमेशनचे फायदे नाकारते.

भूमिका चाचणी कशी लिहायची ते आम्ही तुम्हाला सराव मध्ये दाखवू. परिणामी, तुम्ही तुमच्या कंपनीसाठी चाचण्या लिहिण्यास सक्षम असाल. तुम्हाला यापुढे तुम्ही केलेल्या सेटिंग्ज लक्षात ठेवण्याची गरज नाही; तुम्ही त्यांचे वर्णन चाचण्यांमध्ये केले आहे आणि आपोआप तपासा की मागील सर्व उपाय आणि क्रॅच जागेवर आहेत.

मग आपण सर्व नवीन सर्व्हर स्वयंचलितपणे मॉनिटरिंगमध्ये कसे जोडायचे ते शिकू. इन्फ्रास्ट्रक्चर आणि ऍप्लिकेशन मॉनिटरिंग स्वतंत्रपणे पाहू. आम्ही वाईट आणि चांगल्या पद्धती दाखवू.

विषय #8: पायाभूत सुविधा चाचणी

• Molecule आणि Gitlab CI सह चाचणी आणि सतत एकीकरण
• Vagrant वापरणे

विषय #9: प्रोमिथियससह पायाभूत सुविधांचे निरीक्षण

• निरीक्षण का आवश्यक आहे?
• देखरेखीचे प्रकार
• मॉनिटरिंग सिस्टममधील सूचना
• निरोगी देखरेख प्रणाली कशी तयार करावी
• प्रत्येकासाठी मानवी-वाचनीय सूचना
• आरोग्य तपासणी: आपण कोणत्या गोष्टीकडे लक्ष दिले पाहिजे
• मॉनिटरिंग डेटावर आधारित ऑटोमेशन

नीट काम न करणारे मॉनिटरिंग म्हणजे मॉनिटरिंग नाही. पेमेंट फॉर्ममध्ये त्रुटी आढळल्यास ऑनलाइन स्टोअरचे मुख्य पृष्ठ प्रवेश करण्यायोग्य आहे याची व्यवसायांना काळजी नाही.

विकासक आणि प्रशासक देखरेख आणि समस्यानिवारण सेट करण्यात समान सहभाग घेतात. शिवाय, पारंपारिकपणे, देखरेखीची कामे प्रशासकांवर पडतात. आमचा कोर्स विकासकांना प्रभावी देखरेख तयार करण्यात त्यांची भूमिका दर्शवेल. प्रशासकांना Southbridge सर्वोत्तम पद्धती प्राप्त होतील. परिणामी, वेबसाइट किंवा ऍप्लिकेशनच्या अपयशामुळे आणि मंदीमुळे झालेल्या नुकसानाची संख्या त्वरीत कमी होईल.

विभाग बोनस: मॉनिटरिंगवर आधारित ऑटोमेशन. उदाहरणार्थ, साइटवर लोड आल्याचे निरीक्षण नोंदवते आणि वेब सर्व्हर स्केलिंग स्वयंचलितपणे सुरू होते.

लॉगिंग

लॉगसह कार्य करताना मुख्य चूक म्हणजे प्रशासक आणि विकासक त्यांना थेट सर्व्हरवर पाहतात. तुमच्याकडे एकापेक्षा जास्त सर्व्हर असल्यास, यास बराच वेळ लागतो. हे सुरक्षित नाही: विकसक सर्व्हरमध्ये लॉग इन करतो जेथे तो नसावा.

DevOps ला लॉगचे केंद्रीकृत संकलन, प्रक्रिया आणि विश्लेषण आवश्यक आहे.

विषय #10: ELK सह अनुप्रयोग लॉग करणे

• मूलभूत अनुप्रयोग आणि लवचिक क्षमता (शोध, संचयन, स्केलिंग वैशिष्ट्ये, सानुकूलित लवचिकता)
• किबानाचे विहंगावलोकन (मुख्य वैशिष्ट्ये, क्वेरी भाषा, डॅशबोर्ड व्यवस्थापन, चार्ट तयार करणे)
• लवचिक-आधारित उत्पादने आणि त्यांच्या अनुप्रयोगांचे पुनरावलोकन
• APM मध्ये मेट्रिक्स गोळा करणे (ॲप्लिकेशन ट्रेसिंग)
• याव्यतिरिक्त: नवीन उत्पादन पुनरावलोकन - SIEM

या पद्धतीचा परिचय लॉग हे ऍप्लिकेशन आणि इन्फ्रास्ट्रक्चरचे विश्लेषण, कॉन्फिगर आणि डीबग करण्यासाठी एक साधे आणि समजण्यासारखे साधन बनवेल.

एसआरई

आणि आम्ही या विषयावर पोहोचतो ज्यावर साउथब्रिजचे लक्ष आहे आणि ज्यासाठी इतर स्पीकर्स स्लर्मच्या शेवटच्या दिवसासाठी राहू इच्छितात. Booking.com वरील इवान क्रुग्लोव्हने ते वाचण्यास सहमती दर्शवली याचा आम्हाला आनंद आहे.

प्रकल्प वास्तविक जगात राहतो, जिथे विश्वासार्हता कधीही निरपेक्ष नसते आणि प्रत्येक निर्णयासाठी पैसे खर्च होतात.

जटिल प्रकल्पाच्या संबंधात SLA म्हणजे काय? साइट प्रवेशयोग्य आहे याचे मूल्यांकन कसे करायचे ते सांगू या, परंतु प्रतिमा विलंबाने लोड केल्या आहेत. SLA मेट्रिक्स काय आहेत, ते कुठे घ्यावेत, कसे घ्यावेत?

SLA कसे सेट करावे? त्यांचा सामना कसा करायचा?

विषय #11: SRE
एसएलए, एसएलओ, एरर बजेट आणि एसआरईच्या जगातून इतर भयानक संज्ञांची व्याख्या
SRE: SLI आणि SLO मॉनिटरिंग प्रॅक्टिसेस
SRE: एरर बजेट वापरण्याचा सराव
SRE: इंटरप्ट आणि ऑपरेशनल लोड मॅनेजमेंट (एपिगेटवे, सर्व्हिस मेश, सर्किट ब्रेकर्स)
व्यवसायांना SRE हवा आहे. किमान सोप्या स्तरावर: मी बॅकअप सर्व्हर घ्यावा की बॅकअपमधून उचलावा? सिंगल डेटाबेस किंवा क्लस्टर? तुम्ही DDoS संरक्षण सक्रियपणे स्थापित केले पाहिजे की केवळ हल्ल्याच्या वेळी?

जेव्हा एखादा क्लायंट त्याला कॉल करतो आणि ऑर्डर फॉर्म उघडत नसल्याचा अहवाल देतो तेव्हा दिग्दर्शक “साइट कार्यरत आहे” या कथेवर समाधानी होणार नाही.

त्यामुळे, एखाद्या DevOps अभियंत्याने व्यवसायाशी त्याच्या गरजांबद्दल पुरेसे बोलण्यासाठी SRE ला किमान वरवर समजून घेणे महत्त्वाचे आहे.

परिणाम

दरम्यान Slurm DevOps प्रशासक आणि विकासक शिकतील:
- Git सह योग्यरित्या कार्य करा;
- स्थानिक विकास आयोजित करा;
— कॉन्फिगर करा (प्रशासक) आणि वापरा (विकासक) CI/CD;
- कोडप्रमाणेच पायाभूत सुविधांसह कार्य करा;
- पायाभूत सुविधांची चाचणी घ्या;
- पायाभूत सुविधा आणि अनुप्रयोगाचे निरीक्षण करा;
- लॉगिंग कॉन्फिगर करा;
- समजून घ्या आणि आदर्शपणे, SRE वापरा.

सजग वाचकांसाठी, 15% सवलतीसाठी हॅब्रापोस्ट प्रमोशनल कोड वापरा.

आम्ही सर्व गुणांसाठी सराव आणि साधने तयार करत आहोत. जेणेकरून प्रत्येक सहभागी, स्लर्ममधून परतल्यावर, त्यांच्या कंपनीला DevOps च्या पुढील स्तरावर नेण्यास सक्षम असेल.

व्यवसायासाठी, याचा अर्थ स्वस्त प्रशासन आणि विकास, कमी डाउनटाइम, वाढीव विश्वासार्हता, वैशिष्ट्यांची जलद वितरण आणि दोष दूर करणे.

स्त्रोत: www.habr.com