Pinterest-ൽ ഒരു kubernetes പ്ലാറ്റ്ഫോം സൃഷ്ടിക്കുന്നു

വർഷങ്ങളായി, Pinterest-ന്റെ 300 ദശലക്ഷം ഉപയോക്താക്കൾ 200 ബില്ല്യണിലധികം ബോർഡുകളിൽ 4 ബില്ല്യണിലധികം പിന്നുകൾ സൃഷ്ടിച്ചു. ഉപയോക്താക്കളുടെ ഈ സൈന്യത്തെയും വിശാലമായ ഉള്ളടക്ക അടിത്തറയെയും സേവിക്കുന്നതിനായി, പോർട്ടൽ ആയിരക്കണക്കിന് സേവനങ്ങൾ വികസിപ്പിച്ചെടുത്തിട്ടുണ്ട്, ഏതാനും സിപിയുകൾക്ക് കൈകാര്യം ചെയ്യാൻ കഴിയുന്ന മൈക്രോസർവീസുകൾ മുതൽ വെർച്വൽ മെഷീനുകളുടെ മുഴുവൻ ഫ്ളീറ്റിലും പ്രവർത്തിക്കുന്ന ഭീമൻ മോണോലിത്തുകൾ വരെ. കമ്പനിയുടെ കണ്ണുകൾ k8 കളിൽ പതിഞ്ഞ നിമിഷം വന്നു. എന്തുകൊണ്ടാണ് "ക്യൂബ്" Pinterest-ൽ നന്നായി കാണപ്പെട്ടത്? എന്നതിൽ നിന്നുള്ള സമീപകാല ലേഖനത്തിന്റെ വിവർത്തനത്തിൽ നിന്ന് നിങ്ങൾ ഇതിനെക്കുറിച്ച് പഠിക്കും ബ്ലോഗ് Pinterest എഞ്ചിനീയറിംഗ്.

അതിനാൽ, നൂറുകണക്കിന് ദശലക്ഷക്കണക്കിന് ഉപയോക്താക്കളും നൂറുകണക്കിന് ബില്യൺ പിന്നുകളും. ഉപയോക്താക്കളുടെ ഈ സൈന്യത്തെയും വിശാലമായ ഉള്ളടക്ക അടിത്തറയെയും സേവിക്കുന്നതിനായി, ഏതാനും സിപിയുകൾക്കു കൈകാര്യം ചെയ്യാൻ കഴിയുന്ന മൈക്രോ സർവീസുകൾ മുതൽ വെർച്വൽ മെഷീനുകളുടെ മുഴുവൻ ഫ്ലീറ്റുകളിലും പ്രവർത്തിക്കുന്ന ഭീമൻ മോണോലിത്തുകൾ വരെയുള്ള ആയിരക്കണക്കിന് സേവനങ്ങൾ ഞങ്ങൾ വികസിപ്പിച്ചെടുത്തിട്ടുണ്ട്. കൂടാതെ, CPU, മെമ്മറി അല്ലെങ്കിൽ I/O ആക്‌സസ്സ് ആവശ്യമായി വന്നേക്കാവുന്ന വിവിധ ചട്ടക്കൂടുകൾ ഞങ്ങളുടെ പക്കലുണ്ട്.

ഉപകരണങ്ങളുടെ ഈ മൃഗശാല പരിപാലിക്കുന്നതിൽ, വികസന ടീം നിരവധി വെല്ലുവിളികൾ അഭിമുഖീകരിക്കുന്നു:

• ഒരു ഉൽപ്പാദന അന്തരീക്ഷം പ്രവർത്തിപ്പിക്കാൻ എഞ്ചിനീയർമാർക്ക് ഏകീകൃത മാർഗമില്ല. സ്‌റ്റേറ്റ്‌ലെസ് സേവനങ്ങൾ, സ്റ്റേറ്റ്‌ഫുൾ സേവനങ്ങൾ, സജീവമായി വികസിച്ചുകൊണ്ടിരിക്കുന്ന പ്രോജക്‌റ്റുകൾ എന്നിവ തികച്ചും വ്യത്യസ്തമായ സാങ്കേതിക ശേഖരങ്ങളെ അടിസ്ഥാനമാക്കിയുള്ളതാണ്. ഇത് എഞ്ചിനീയർമാർക്കായി ഒരു മുഴുവൻ പരിശീലന കോഴ്സും സൃഷ്ടിക്കുന്നതിലേക്ക് നയിച്ചു, കൂടാതെ ഞങ്ങളുടെ ഇൻഫ്രാസ്ട്രക്ചർ ടീമിന്റെ പ്രവർത്തനത്തെ ഗുരുതരമായി സങ്കീർണ്ണമാക്കുകയും ചെയ്തു.
• സ്വന്തം വെർച്വൽ മെഷീനുകൾ ഉള്ള ഡവലപ്പർമാർ ആന്തരിക അഡ്മിനിസ്ട്രേറ്റർമാർക്ക് വലിയ ഭാരം സൃഷ്ടിക്കുന്നു. തൽഫലമായി, OS അല്ലെങ്കിൽ AMI അപ്‌ഡേറ്റ് ചെയ്യുന്നത് പോലുള്ള ലളിതമായ പ്രവർത്തനങ്ങൾ ആഴ്ചകളും മാസങ്ങളും എടുക്കും. ഇത് തികച്ചും ദൈനംദിന സാഹചര്യങ്ങളിൽ ജോലിഭാരം വർദ്ധിപ്പിക്കുന്നതിലേക്ക് നയിക്കുന്നു.
• നിലവിലുള്ള പരിഹാരങ്ങൾക്ക് മുകളിൽ ആഗോള ഇൻഫ്രാസ്ട്രക്ചർ മാനേജ്മെന്റ് ടൂളുകൾ സൃഷ്ടിക്കുന്നതിൽ ബുദ്ധിമുട്ടുകൾ. വെർച്വൽ മെഷീനുകളുടെ ഉടമകളെ കണ്ടെത്തുന്നത് എളുപ്പമല്ല എന്ന വസ്തുത സ്ഥിതി കൂടുതൽ സങ്കീർണ്ണമാക്കുന്നു. അതായത്, നമ്മുടെ ഇൻഫ്രാസ്ട്രക്ചറിന്റെ മറ്റ് ഭാഗങ്ങളിൽ പ്രവർത്തിക്കാൻ ഈ ശേഷി സുരക്ഷിതമായി വേർതിരിച്ചെടുക്കാൻ കഴിയുമോ എന്ന് ഞങ്ങൾക്ക് അറിയില്ല.

കണ്ടെയ്നർ ഓർക്കസ്ട്രേഷൻ സംവിധാനങ്ങൾ വർക്ക് ലോഡ് മാനേജ്മെന്റ് ഏകീകരിക്കാനുള്ള ഒരു മാർഗമാണ്. പ്രോജക്റ്റിൽ ഉൾപ്പെട്ടിരിക്കുന്ന എല്ലാ വിഭവങ്ങളും ഒരു കേന്ദ്രീകൃത സംവിധാനത്താൽ നിയന്ത്രിക്കപ്പെടുന്നതിനാൽ, അവർ വികസന വേഗത വർദ്ധിപ്പിക്കുന്നതിനും അടിസ്ഥാന സൗകര്യ മാനേജുമെന്റ് ലളിതമാക്കുന്നതിനും വാതിൽ തുറക്കുന്നു.

ചിത്രം 1: ഇൻഫ്രാസ്ട്രക്ചർ മുൻഗണനകൾ (വിശ്വാസ്യത, ഡെവലപ്പർ ഉൽപ്പാദനക്ഷമത, കാര്യക്ഷമത).

Pinterest-ലെ ക്ലൗഡ് മാനേജ്‌മെന്റ് പ്ലാറ്റ്‌ഫോം ടീം 8-ൽ K2017s കണ്ടെത്തി. 2017-ന്റെ ആദ്യ പകുതിയോടെ, API-യും ഞങ്ങളുടെ എല്ലാ വെബ് സെർവറുകളും ഉൾപ്പെടെ, ഞങ്ങളുടെ മിക്ക ഉൽപ്പാദന ശേഷികളും ഞങ്ങൾ രേഖപ്പെടുത്തി. അതിനുശേഷം, കണ്ടെയ്നർ സൊല്യൂഷനുകൾ ക്രമീകരിക്കുന്നതിനും ക്ലസ്റ്ററുകൾ നിർമ്മിക്കുന്നതിനും അവയുമായി പ്രവർത്തിക്കുന്നതിനുമുള്ള വിവിധ സംവിധാനങ്ങളെക്കുറിച്ച് ഞങ്ങൾ സമഗ്രമായ വിലയിരുത്തൽ നടത്തി. 2017 അവസാനത്തോടെ ഞങ്ങൾ കുബർനെറ്റസ് ഉപയോഗിക്കാൻ തീരുമാനിച്ചു. ഇത് തികച്ചും അയവുള്ളതും ഡെവലപ്പർ കമ്മ്യൂണിറ്റിയിൽ വ്യാപകമായ പിന്തുണയുള്ളതുമായിരുന്നു.

ഇന്നുവരെ, ഞങ്ങൾ Kops-നെ അടിസ്ഥാനമാക്കി ഞങ്ങളുടെ സ്വന്തം ക്ലസ്റ്റർ ബൂട്ട് ടൂളുകൾ നിർമ്മിക്കുകയും നെറ്റ്‌വർക്കിംഗ്, സെക്യൂരിറ്റി, മെട്രിക്‌സ്, ലോഗിംഗ്, ഐഡന്റിറ്റി മാനേജ്‌മെന്റ്, ട്രാഫിക് എന്നിവ പോലുള്ള നിലവിലുള്ള ഇൻഫ്രാസ്ട്രക്ചർ ഘടകങ്ങൾ കുബർനെറ്റിലേക്ക് മൈഗ്രേറ്റ് ചെയ്യുകയും ചെയ്തു. ഞങ്ങളുടെ റിസോഴ്സിനായി ഞങ്ങൾ ഒരു വർക്ക്ലോഡ് മോഡലിംഗ് സംവിധാനവും നടപ്പിലാക്കി, അതിന്റെ സങ്കീർണ്ണത ഡെവലപ്പർമാരിൽ നിന്ന് മറച്ചിരിക്കുന്നു. ഇപ്പോൾ ഞങ്ങൾ ക്ലസ്റ്ററിന്റെ സ്ഥിരത ഉറപ്പുവരുത്തുന്നതിലും അത് സ്കെയിൽ ചെയ്യുന്നതിലും പുതിയ ക്ലയന്റുകളെ ബന്ധിപ്പിക്കുന്നതിലും ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നു.

കുബെർനെറ്റസ്: ദി പിൻറസ്റ്റ് വേ

ഞങ്ങളുടെ എഞ്ചിനീയർമാർ ഇഷ്ടപ്പെടുന്ന ഒരു പ്ലാറ്റ്‌ഫോം എന്ന നിലയിൽ Pinterest എന്ന തോതിൽ Kubernetes-ൽ ആരംഭിക്കുന്നത് ഒരുപാട് വെല്ലുവിളികളോടെയാണ്.

ഒരു വലിയ കമ്പനി എന്ന നിലയിൽ, ഞങ്ങൾ അടിസ്ഥാന സൗകര്യ ഉപകരണങ്ങളിൽ വൻതോതിൽ നിക്ഷേപം നടത്തിയിട്ടുണ്ട്. സർട്ടിഫിക്കറ്റുകളും കീ വിതരണവും കൈകാര്യം ചെയ്യുന്ന സുരക്ഷാ ഉപകരണങ്ങൾ, ട്രാഫിക് നിയന്ത്രണ ഘടകങ്ങൾ, സേവന കണ്ടെത്തൽ സംവിധാനങ്ങൾ, ദൃശ്യപരത ഘടകങ്ങൾ, ലോഗ്, മെട്രിക്സ് ഡിസ്പാച്ച് ഘടകങ്ങൾ എന്നിവ ഉദാഹരണങ്ങളിൽ ഉൾപ്പെടുന്നു. ഇതെല്ലാം ഒരു കാരണത്താലാണ് ശേഖരിച്ചത്: ഞങ്ങൾ പരീക്ഷണത്തിന്റെയും പിശകിന്റെയും സാധാരണ പാതയിലൂടെ കടന്നുപോയി, അതിനാൽ പഴയ ചക്രം ഒരു പുതിയ പ്ലാറ്റ്‌ഫോമിൽ പുനർനിർമ്മിക്കുന്നതിനുപകരം കുബർനെറ്റസിലെ പുതിയ ഇൻഫ്രാസ്ട്രക്ചറിലേക്ക് ഈ ഉപകരണങ്ങളെല്ലാം സംയോജിപ്പിക്കാൻ ഞങ്ങൾ ആഗ്രഹിച്ചു. ഈ സമീപനം മൈഗ്രേഷനെ മൊത്തത്തിൽ ലളിതമാക്കി, കാരണം എല്ലാ ആപ്ലിക്കേഷൻ പിന്തുണയും ഇതിനകം നിലവിലുണ്ട് കൂടാതെ ആദ്യം മുതൽ സൃഷ്ടിക്കേണ്ടതില്ല.

മറുവശത്ത്, കുബർനെറ്റസിലെ തന്നെ ലോഡ് പ്രവചന മോഡലുകൾ (വിന്യാസങ്ങൾ, ജോലികൾ, ഡെമൺ സെറ്റുകൾ എന്നിവ പോലുള്ളവ) ഞങ്ങളുടെ പ്രോജക്റ്റിന് പര്യാപ്തമല്ല. ഈ ഉപയോഗക്ഷമത പ്രശ്നങ്ങൾ Kubernetes-ലേക്ക് മാറുന്നതിന് വലിയ തടസ്സങ്ങളാണ്. ഉദാഹരണത്തിന്, നഷ്‌ടമായ അല്ലെങ്കിൽ തെറ്റായ ലോഗിൻ ക്രമീകരണങ്ങളെക്കുറിച്ച് സേവന ഡെവലപ്പർമാർ പരാതിപ്പെടുന്നത് ഞങ്ങൾ കേട്ടിട്ടുണ്ട്. ഒരേ സ്‌പെസിഫിക്കേഷനും ടാസ്‌ക്കും ഉപയോഗിച്ച് നൂറുകണക്കിന് പകർപ്പുകൾ സൃഷ്‌ടിച്ചപ്പോൾ ടെംപ്ലേറ്റ് എഞ്ചിനുകളുടെ തെറ്റായ ഉപയോഗവും ഞങ്ങൾ നേരിട്ടു, ഇത് പേടിസ്വപ്‌ന ഡീബഗ്ഗിംഗ് പ്രശ്‌നങ്ങൾക്ക് കാരണമായി.

ഒരേ ക്ലസ്റ്ററിൽ വ്യത്യസ്ത പതിപ്പുകൾ പരിപാലിക്കുന്നതും വളരെ ബുദ്ധിമുട്ടായിരുന്നു. ഒരേ റൺടൈം പരിതസ്ഥിതിയുടെ ഒന്നിലധികം പതിപ്പുകളിൽ, അവരുടെ എല്ലാ പ്രശ്‌നങ്ങളും ബഗുകളും അപ്‌ഡേറ്റുകളും ഉപയോഗിച്ച് നിങ്ങൾക്ക് ഒരേസമയം പ്രവർത്തിക്കണമെങ്കിൽ ഉപഭോക്തൃ പിന്തുണയുടെ സങ്കീർണ്ണത സങ്കൽപ്പിക്കുക.

Pinterest ഉപയോക്തൃ ഗുണങ്ങളും കൺട്രോളറുകളും

ഞങ്ങളുടെ എഞ്ചിനീയർമാർക്ക് Kubernetes നടപ്പിലാക്കുന്നത് എളുപ്പമാക്കുന്നതിനും ഞങ്ങളുടെ ഇൻഫ്രാസ്ട്രക്ചർ ലളിതമാക്കുന്നതിനും വേഗത്തിലാക്കുന്നതിനും, ഞങ്ങൾ ഞങ്ങളുടെ സ്വന്തം ഇഷ്‌ടാനുസൃത റിസോഴ്‌സ് നിർവചനങ്ങൾ (CRD-കൾ) വികസിപ്പിച്ചെടുത്തിട്ടുണ്ട്.

CRD-കൾ ഇനിപ്പറയുന്ന പ്രവർത്തനങ്ങൾ നൽകുന്നു:

1. വ്യത്യസ്‌ത നേറ്റീവ് കുബർനെറ്റസ് ഉറവിടങ്ങൾ സംയോജിപ്പിക്കുന്നതിലൂടെ അവ ഒരൊറ്റ ജോലിഭാരമായി പ്രവർത്തിക്കുന്നു. ഉദാഹരണത്തിന്, PinterestService റിസോഴ്സിൽ ഒരു വിന്യാസം, ഒരു ലോഗിൻ സേവനം, ഒരു കോൺഫിഗറേഷൻ മാപ്പ് എന്നിവ ഉൾപ്പെടുന്നു. DNS സജ്ജീകരിക്കുന്നതിനെക്കുറിച്ച് വിഷമിക്കാതിരിക്കാൻ ഇത് ഡവലപ്പർമാരെ അനുവദിക്കുന്നു.
2. ആവശ്യമായ ആപ്ലിക്കേഷൻ പിന്തുണ നടപ്പിലാക്കുക. ഉപയോക്താവ് അവരുടെ ബിസിനസ്സ് ലോജിക്ക് അനുസരിച്ച് കണ്ടെയ്‌നർ സ്പെസിഫിക്കേഷനിൽ മാത്രം ശ്രദ്ധ കേന്ദ്രീകരിക്കേണ്ടതുണ്ട്, അതേസമയം CRD കൺട്രോളർ ആവശ്യമായ എല്ലാ init കണ്ടെയ്‌നറുകളും എൻവയോൺമെന്റ് വേരിയബിളുകളും പോഡ് സ്പെസിഫിക്കേഷനുകളും നടപ്പിലാക്കുന്നു. ഇത് ഡെവലപ്പർമാർക്ക് അടിസ്ഥാനപരമായി വ്യത്യസ്തമായ സൗകര്യങ്ങൾ നൽകുന്നു.
3. സിആർഡി കൺട്രോളറുകൾ നേറ്റീവ് വിഭവങ്ങളുടെ ജീവിതചക്രം നിയന്ത്രിക്കുകയും ഡീബഗ് ലഭ്യത മെച്ചപ്പെടുത്തുകയും ചെയ്യുന്നു. ആവശ്യമുള്ളതും യഥാർത്ഥവുമായ സ്പെസിഫിക്കേഷനുകൾ സമന്വയിപ്പിക്കുക, CRD സ്റ്റാറ്റസ് അപ്ഡേറ്റ് ചെയ്യുക, ഇവന്റ് ലോഗുകൾ പരിപാലിക്കുക എന്നിവയും മറ്റും ഇതിൽ ഉൾപ്പെടുന്നു. CRD ഇല്ലെങ്കിൽ, ഒന്നിലധികം ഉറവിടങ്ങൾ കൈകാര്യം ചെയ്യാൻ ഡവലപ്പർമാർ നിർബന്ധിതരാകും, ഇത് പിശകിന്റെ സാധ്യത വർദ്ധിപ്പിക്കും.

ഞങ്ങളുടെ കൺട്രോളർ നിയന്ത്രിക്കുന്ന ഒരു PinterestService-ന്റെയും ഒരു ആന്തരിക ഉറവിടത്തിന്റെയും ഉദാഹരണം ഇതാ:

നിങ്ങൾക്ക് മുകളിൽ കാണുന്നത് പോലെ, ഒരു ഇഷ്‌ടാനുസൃത കണ്ടെയ്‌നറിനെ പിന്തുണയ്‌ക്കുന്നതിന്, സുരക്ഷ, ദൃശ്യപരത, നെറ്റ്‌വർക്ക് ട്രാഫിക് എന്നിവ നൽകുന്നതിന് ഞങ്ങൾ ഒരു init കണ്ടെയ്‌നറും നിരവധി ആഡ്-ഓണുകളും സംയോജിപ്പിക്കേണ്ടതുണ്ട്. കൂടാതെ, ഞങ്ങൾ കോൺഫിഗറേഷൻ മാപ്പ് ടെംപ്ലേറ്റുകൾ സൃഷ്ടിക്കുകയും ബാച്ച് ജോലികൾക്കായി പിവിസി ടെംപ്ലേറ്റുകൾക്കുള്ള പിന്തുണ നടപ്പിലാക്കുകയും ഐഡന്റിറ്റി, വിഭവ ഉപഭോഗം, മാലിന്യ ശേഖരണം എന്നിവ ട്രാക്കുചെയ്യുന്നതിന് ഒന്നിലധികം പരിസ്ഥിതി വേരിയബിളുകൾ ട്രാക്കുചെയ്യുകയും ചെയ്തു.

CRD പിന്തുണയില്ലാതെ ഡെവലപ്പർമാർ ഈ കോൺഫിഗറേഷൻ ഫയലുകൾ കൈകൊണ്ട് എഴുതാൻ ആഗ്രഹിക്കുന്നുവെന്ന് സങ്കൽപ്പിക്കാൻ പ്രയാസമാണ്, കോൺഫിഗറേഷനുകൾ കൂടുതൽ പരിപാലിക്കാനും ഡീബഗ് ചെയ്യാനും അനുവദിക്കുക.

ആപ്ലിക്കേഷൻ വിന്യാസ വർക്ക്ഫ്ലോ

ഒരു കുബർനെറ്റസ് ക്ലസ്റ്ററിലേക്ക് Pinterest ഇഷ്‌ടാനുസൃത ഉറവിടം എങ്ങനെ വിന്യസിക്കാമെന്ന് മുകളിലുള്ള ചിത്രം കാണിക്കുന്നു:

1. CLI വഴിയും ഉപയോക്തൃ ഇന്റർഫേസിലൂടെയും ഡവലപ്പർമാർ ഞങ്ങളുടെ Kubernetes ക്ലസ്റ്ററുമായി സംവദിക്കുന്നു.
2. CLI/UI ടൂളുകൾ വർക്ക്ഫ്ലോ കോൺഫിഗറേഷൻ YAML ഫയലുകളും മറ്റ് ബിൽഡ് പ്രോപ്പർട്ടികളും (അതേ പതിപ്പ് ഐഡി) ആർട്ടിഫാക്‌ടറിയിൽ നിന്ന് വീണ്ടെടുക്കുകയും തുടർന്ന് അവ ജോബ് സബ്മിഷൻ സേവനത്തിലേക്ക് സമർപ്പിക്കുകയും ചെയ്യുന്നു. ക്ലസ്റ്ററിലേക്ക് പ്രൊഡക്ഷൻ പതിപ്പുകൾ മാത്രമേ ഡെലിവർ ചെയ്യുന്നുള്ളൂ എന്ന് ഈ ഘട്ടം ഉറപ്പാക്കുന്നു.
3. കുബർനെറ്റസ് ഉൾപ്പെടെ വിവിധ പ്ലാറ്റ്‌ഫോമുകൾക്കുള്ള ഒരു ഗേറ്റ്‌വേയാണ് ജെഎസ്എസ്. ഇവിടെ ഉപയോക്താവിനെ ആധികാരികമാക്കുകയും ക്വാട്ടകൾ നൽകുകയും ഞങ്ങളുടെ CRD യുടെ കോൺഫിഗറേഷൻ ഭാഗികമായി പരിശോധിക്കുകയും ചെയ്യുന്നു.
4. JSS വശത്തുള്ള CRD പരിശോധിച്ചതിന് ശേഷം, k8s പ്ലാറ്റ്ഫോം API-ലേക്ക് വിവരങ്ങൾ അയയ്ക്കുന്നു.
5. ഞങ്ങളുടെ CRD കൺട്രോളർ എല്ലാ ഉപയോക്തൃ ഉറവിടങ്ങളിലും ഇവന്റുകൾ നിരീക്ഷിക്കുന്നു. ഇത് CR-കളെ നേറ്റീവ് k8s ഉറവിടങ്ങളാക്കി മാറ്റുന്നു, ആവശ്യമായ മൊഡ്യൂളുകൾ ചേർക്കുന്നു, അനുയോജ്യമായ എൻവയോൺമെന്റ് വേരിയബിളുകൾ സജ്ജീകരിക്കുന്നു, കൂടാതെ കണ്ടെയ്നറൈസ്ഡ് ഉപയോക്തൃ ആപ്ലിക്കേഷനുകൾക്ക് മതിയായ ഇൻഫ്രാസ്ട്രക്ചർ പിന്തുണ ഉണ്ടെന്ന് ഉറപ്പാക്കാൻ മറ്റ് പിന്തുണാ ജോലികൾ ചെയ്യുന്നു.
6. CRD കൺട്രോളർ സ്വീകരിച്ച ഡാറ്റ കുബെർനെറ്റസ് API-യിലേക്ക് കൈമാറുന്നു, അതുവഴി ഷെഡ്യൂളർക്ക് പ്രോസസ്സ് ചെയ്യാനും ഉൽപ്പാദനത്തിൽ ഉൾപ്പെടുത്താനും കഴിയും.

അഭിപായപ്പെടുക: വിന്യാസത്തിന്റെ ഈ പ്രീ-റിലീസ് വർക്ക് ഫ്ലോ പുതിയ k8s പ്ലാറ്റ്‌ഫോമിന്റെ ആദ്യ ഉപയോക്താക്കൾക്കായി സൃഷ്ടിച്ചതാണ്. ഞങ്ങളുടെ പുതിയ CI/CD-യുമായി പൂർണ്ണമായി സംയോജിപ്പിക്കുന്നതിന് ഞങ്ങൾ ഈ പ്രക്രിയ പരിഷ്കരിക്കാനുള്ള പ്രക്രിയയിലാണ്. ഇതിനർത്ഥം കുബർനെറ്റുമായി ബന്ധപ്പെട്ട എല്ലാ കാര്യങ്ങളും ഞങ്ങൾക്ക് നിങ്ങളോട് പറയാൻ കഴിയില്ല എന്നാണ്. ഞങ്ങളുടെ അടുത്ത ബ്ലോഗ് പോസ്റ്റായ “Pinterest-നായി ഒരു CI/CD പ്ലാറ്റ്‌ഫോം നിർമ്മിക്കുന്നു” എന്നതിൽ ഞങ്ങളുടെ അനുഭവവും ഈ ദിശയിലുള്ള ടീമിന്റെ പുരോഗതിയും പങ്കിടാൻ ഞങ്ങൾ ആഗ്രഹിക്കുന്നു.

പ്രത്യേക വിഭവങ്ങളുടെ തരങ്ങൾ

Pinterest-ന്റെ പ്രത്യേക ആവശ്യങ്ങളെ അടിസ്ഥാനമാക്കി, വ്യത്യസ്‌ത വർക്ക്ഫ്ലോകൾക്ക് അനുയോജ്യമായ രീതിയിൽ ഞങ്ങൾ ഇനിപ്പറയുന്ന CRD-കൾ വികസിപ്പിച്ചെടുത്തിട്ടുണ്ട്:

• PinterestService വളരെക്കാലമായി പ്രവർത്തിക്കുന്ന സ്റ്റേറ്റ്ലെസ് സേവനങ്ങളാണ്. ഞങ്ങളുടെ പ്രധാന സിസ്റ്റങ്ങളിൽ പലതും അത്തരം സേവനങ്ങളുടെ ഒരു കൂട്ടത്തെ അടിസ്ഥാനമാക്കിയുള്ളതാണ്.
• PinterestJobSet മോഡൽ ഫുൾ സൈക്കിൾ ബാച്ച് ജോലികൾ. Pinterest-ലെ ഒരു സാധാരണ സാഹചര്യം, മറ്റ് സമാന പ്രക്രിയകൾ പരിഗണിക്കാതെ, ഒന്നിലധികം ജോലികൾ ഒരേ കണ്ടെയ്‌നറുകൾ സമാന്തരമായി പ്രവർത്തിപ്പിക്കുന്നു എന്നതാണ്.
• PinterestCronJob ചെറിയ ആനുകാലിക ലോഡുകളുമായി സംയോജിച്ച് വ്യാപകമായി ഉപയോഗിക്കുന്നു. സുരക്ഷ, ട്രാഫിക്, ലോഗുകൾ, മെട്രിക്‌സ് എന്നിവയ്‌ക്ക് ഉത്തരവാദികളായ Pinterest പിന്തുണാ സംവിധാനങ്ങളുള്ള നേറ്റീവ് ക്രോൺ വർക്കിനുള്ള ഒരു റാപ്പറാണിത്.
• PinterestDaemon ഇൻഫ്രാസ്ട്രക്ചർ ഡെമൺസ് ഉൾപ്പെടുന്നു. ഞങ്ങളുടെ ക്ലസ്റ്ററുകൾക്ക് കൂടുതൽ പിന്തുണ നൽകുമ്പോൾ ഈ കുടുംബം വളരുന്നത് തുടരുന്നു.
• PinterestTrainingJob Tensorflow, Pytorch പ്രോസസുകളിലേക്കും വ്യാപിക്കുന്നു, മറ്റെല്ലാ CRD-കളേയും പോലെ റൺടൈം പിന്തുണ നൽകുന്നു. Pinterest ടെൻസർഫ്ലോയും മറ്റ് മെഷീൻ ലേണിംഗ് സിസ്റ്റങ്ങളും സജീവമായി ഉപയോഗിക്കുന്നതിനാൽ, അവയ്ക്ക് ചുറ്റും ഒരു പ്രത്യേക CRD നിർമ്മിക്കാൻ ഞങ്ങൾക്ക് ഒരു കാരണമുണ്ട്.

ഞങ്ങൾ PinterestStatefulSet-ലും പ്രവർത്തിക്കുന്നു, അത് ഉടൻ തന്നെ ഡാറ്റ വെയർഹൗസുകൾക്കും മറ്റ് സ്റ്റേറ്റ്ഫുൾ സിസ്റ്റങ്ങൾക്കും അനുയോജ്യമാകും.

റൺടൈം പിന്തുണ

Kubernetes-ൽ ഒരു ആപ്ലിക്കേഷൻ പോഡ് പ്രവർത്തിക്കുമ്പോൾ, അത് സ്വയം തിരിച്ചറിയാനുള്ള സർട്ടിഫിക്കറ്റ് സ്വയമേവ സ്വീകരിക്കുന്നു. രഹസ്യ സംഭരണം ആക്‌സസ് ചെയ്യാനോ mTLS വഴി മറ്റ് സേവനങ്ങളുമായി ആശയവിനിമയം നടത്താനോ ഈ സർട്ടിഫിക്കറ്റ് ഉപയോഗിക്കുന്നു. ഇതിനിടയിൽ, കണ്ടെയ്‌നർ ഇനിറ്റ് കോൺഫിഗറേറ്ററും ഡെമണും കണ്ടെയ്‌നറൈസ്ഡ് ആപ്ലിക്കേഷൻ പ്രവർത്തിപ്പിക്കുന്നതിന് മുമ്പ് ആവശ്യമായ എല്ലാ ഡിപൻഡൻസികളും ഡൗൺലോഡ് ചെയ്യും. എല്ലാം തയ്യാറാകുമ്പോൾ, ട്രാഫിക് സൈഡ്കാറും ഡെമണും മൊഡ്യൂളിന്റെ ഐപി വിലാസം ഞങ്ങളുടെ സൂക്കീപ്പറിൽ രജിസ്റ്റർ ചെയ്യും, അതിനാൽ ക്ലയന്റുകൾക്ക് അത് കണ്ടെത്താനാകും. ആപ്ലിക്കേഷൻ സമാരംഭിക്കുന്നതിന് മുമ്പ് നെറ്റ്‌വർക്ക് മൊഡ്യൂൾ കോൺഫിഗർ ചെയ്തതിനാൽ ഇതെല്ലാം പ്രവർത്തിക്കും.

വർക്ക്ലോഡുകൾക്കുള്ള റൺടൈം പിന്തുണയുടെ സാധാരണ ഉദാഹരണങ്ങളാണ് മുകളിൽ പറഞ്ഞിരിക്കുന്നത്. മറ്റ് തരത്തിലുള്ള ജോലിഭാരങ്ങൾക്ക് അല്പം വ്യത്യസ്തമായ പിന്തുണ ആവശ്യമായി വന്നേക്കാം, എന്നാൽ അവയെല്ലാം പോഡ്-ലെവൽ സൈഡ്കാറുകൾ, നോഡ്-ലെവൽ അല്ലെങ്കിൽ വെർച്വൽ മെഷീൻ-ലെവൽ ഡെമൺസ് എന്നിവയുടെ രൂപത്തിലാണ് വരുന്നത്. ഇതെല്ലാം മാനേജ്‌മെന്റ് ഇൻഫ്രാസ്ട്രക്ചറിനുള്ളിൽ വിന്യസിച്ചിട്ടുണ്ടെന്നും ആപ്ലിക്കേഷനുകളിലുടനീളം സ്ഥിരതയുള്ളതാണെന്നും ഞങ്ങൾ ഉറപ്പാക്കുന്നു, ഇത് സാങ്കേതിക പ്രവർത്തനത്തിന്റെയും ഉപഭോക്തൃ പിന്തുണയുടെയും കാര്യത്തിൽ ആത്യന്തികമായി ഭാരം കുറയ്ക്കുന്നു.

ടെസ്റ്റിംഗും ക്യുഎയും

നിലവിലുള്ള കുബർനെറ്റസ് ടെസ്റ്റ് ഇൻഫ്രാസ്ട്രക്ചറിന് മുകളിൽ ഞങ്ങൾ എൻഡ്-ടു-എൻഡ് ടെസ്റ്റ് പൈപ്പ്ലൈൻ നിർമ്മിച്ചു. ഈ ടെസ്റ്റുകൾ ഞങ്ങളുടെ എല്ലാ ക്ലസ്റ്ററുകൾക്കും ബാധകമാണ്. ഉൽപ്പന്ന ക്ലസ്റ്ററിന്റെ ഭാഗമാകുന്നതിന് മുമ്പ് ഞങ്ങളുടെ പൈപ്പ്‌ലൈൻ നിരവധി പുനരവലോകനങ്ങളിലൂടെ കടന്നുപോയി.

ടെസ്റ്റിംഗ് സിസ്റ്റങ്ങൾക്ക് പുറമേ, സിസ്റ്റം ഘടകങ്ങളുടെയും വിഭവ ഉപഭോഗത്തിന്റെയും മറ്റ് പ്രധാന സൂചകങ്ങളുടെയും നില നിരന്തരം നിരീക്ഷിക്കുന്ന മോണിറ്ററിംഗ്, അലേർട്ട് സിസ്റ്റങ്ങൾ ഞങ്ങളുടെ പക്കലുണ്ട്, മനുഷ്യന്റെ ഇടപെടൽ ആവശ്യമുള്ളപ്പോൾ മാത്രം ഞങ്ങളെ അറിയിക്കുന്നു.

ഇതരമാർഗങ്ങൾ

മ്യൂട്ടേഷൻ ആക്‌സസ് കൺട്രോളറുകളും ടെംപ്ലേറ്റ് സിസ്റ്റങ്ങളും പോലുള്ള ഇഷ്‌ടാനുസൃത ഉറവിടങ്ങൾക്കുള്ള ചില ബദലുകൾ ഞങ്ങൾ പരിശോധിച്ചു. എന്നിരുന്നാലും, അവയെല്ലാം കാര്യമായ പ്രവർത്തന വെല്ലുവിളികളുമായി വരുന്നു, അതിനാൽ ഞങ്ങൾ CRD റൂട്ട് തിരഞ്ഞെടുത്തു.

സൈഡ്‌കാറുകൾ, എൻവയോൺമെന്റ് വേരിയബിളുകൾ, മറ്റ് റൺടൈം പിന്തുണ എന്നിവ അവതരിപ്പിക്കാൻ ഒരു മ്യൂട്ടേഷണൽ അഡ്മിഷൻ കൺട്രോളർ ഉപയോഗിച്ചു. എന്നിരുന്നാലും, റിസോഴ്‌സ് ബൈൻഡിംഗ്, ലൈഫ് സൈക്കിൾ മാനേജ്‌മെന്റ് എന്നിങ്ങനെയുള്ള വിവിധ പ്രശ്‌നങ്ങൾ അത് അഭിമുഖീകരിച്ചു, അവിടെ അത്തരം പ്രശ്‌നങ്ങൾ CRD-യിൽ ഉണ്ടാകില്ല.

കുറിപ്പ്: സമാനമായ കോൺഫിഗറേഷനുകളുള്ള ആപ്ലിക്കേഷനുകൾ പ്രവർത്തിപ്പിക്കുന്നതിന് ഹെൽം ചാർട്ടുകൾ പോലുള്ള ടെംപ്ലേറ്റ് സിസ്റ്റങ്ങളും വ്യാപകമായി ഉപയോഗിക്കുന്നു. എന്നിരുന്നാലും, ഞങ്ങളുടെ വർക്ക് ആപ്ലിക്കേഷനുകൾ ടെംപ്ലേറ്റുകൾ ഉപയോഗിച്ച് കൈകാര്യം ചെയ്യാൻ കഴിയുന്നത്ര വൈവിധ്യപൂർണ്ണമാണ്. തുടർച്ചയായ വിന്യാസത്തിനിടയിലും ടെംപ്ലേറ്റുകൾ ഉപയോഗിക്കുമ്പോൾ വളരെയധികം പിശകുകൾ ഉണ്ടാകും.

വരാനിരിക്കുന്ന ജോലി

ഞങ്ങളുടെ എല്ലാ ക്ലസ്റ്ററുകളിലും ഞങ്ങൾ നിലവിൽ ഒരു സമ്മിശ്ര ലോഡാണ് കൈകാര്യം ചെയ്യുന്നത്. വ്യത്യസ്ത തരത്തിലും വലുപ്പത്തിലുമുള്ള അത്തരം പ്രക്രിയകളെ പിന്തുണയ്ക്കുന്നതിന്, ഞങ്ങൾ ഇനിപ്പറയുന്ന മേഖലകളിൽ പ്രവർത്തിക്കുന്നു:

• സ്കേലബിളിറ്റിക്കും സ്ഥിരതയ്ക്കും വേണ്ടി വിവിധ ക്ലസ്റ്ററുകളിലുടനീളം വലിയ ആപ്ലിക്കേഷനുകൾ ക്ലസ്റ്ററുകളുടെ ഒരു ശേഖരം വിതരണം ചെയ്യുന്നു.
• ആപ്ലിക്കേഷൻ കണക്റ്റിവിറ്റിയും SLA-കളും സൃഷ്ടിക്കുന്നതിന് ക്ലസ്റ്റർ സ്ഥിരത, സ്കേലബിളിറ്റി, ദൃശ്യപരത എന്നിവ ഉറപ്പാക്കുന്നു.
• വിഭവങ്ങളും ക്വാട്ടകളും കൈകാര്യം ചെയ്യുന്നതിലൂടെ ആപ്ലിക്കേഷനുകൾ പരസ്പരം വൈരുദ്ധ്യമുണ്ടാകില്ല, കൂടാതെ ക്ലസ്റ്ററിന്റെ സ്കെയിൽ ഞങ്ങളുടെ ഭാഗത്തുനിന്ന് നിയന്ത്രിക്കപ്പെടുന്നു.
• Kubernetes-ൽ ആപ്ലിക്കേഷനുകളെ പിന്തുണയ്ക്കുന്നതിനും വിന്യസിക്കുന്നതിനുമുള്ള ഒരു പുതിയ CI/CD പ്ലാറ്റ്ഫോം.

അവലംബം: www.habr.com