આ વાર્તા અમે ઉત્પાદન વાતાવરણમાં કન્ટેનરનો ઉપયોગ કેવી રીતે કરીએ છીએ તે વિશે છે, ખાસ કરીને કુબરનેટ્સ. લેખ કન્ટેનરમાંથી મેટ્રિક્સ અને લૉગ્સ એકત્રિત કરવા તેમજ છબીઓ બનાવવા માટે સમર્પિત છે.

અમે fintech કંપની Exness તરફથી છીએ, જે B2B અને B2C માટે ઓનલાઈન ટ્રેડિંગ અને fintech ઉત્પાદનો માટે સેવાઓ વિકસાવે છે. અમારી R&D પાસે ઘણી જુદી જુદી ટીમો છે, વિકાસ વિભાગ પાસે 100+ કર્મચારીઓ છે.

અમે તે ટીમનું પ્રતિનિધિત્વ કરીએ છીએ જે અમારા વિકાસકર્તાઓ માટે કોડ એકત્રિત કરવા અને ચલાવવા માટે પ્લેટફોર્મ માટે જવાબદાર છે. ખાસ કરીને, અમે એપ્લિકેશનોમાંથી મેટ્રિક્સ, લૉગ્સ અને ઇવેન્ટ્સને એકત્રિત કરવા, સ્ટોર કરવા અને જાણ કરવા માટે જવાબદાર છીએ. અમે હાલમાં ઉત્પાદન વાતાવરણમાં આશરે ત્રણ હજાર ડોકર કન્ટેનરનું સંચાલન કરીએ છીએ, અમારા 50 TB મોટા ડેટા સ્ટોરેજને જાળવીએ છીએ, અને આર્કિટેક્ચરલ સોલ્યુશન્સ પ્રદાન કરીએ છીએ જે અમારા ઈન્ફ્રાસ્ટ્રક્ચરની આસપાસ બનેલા છે: કુબરનેટ્સ, રેન્ચર અને વિવિધ જાહેર ક્લાઉડ પ્રદાતાઓ. 

અમારી પ્રેરણા

શું બળી રહ્યું છે? કોઈ જવાબ આપી શકતું નથી. હર્થ ક્યાં છે? તે સમજવું મુશ્કેલ છે. તેને ક્યારે આગ લાગી? તમે શોધી શકો છો, પરંતુ તરત જ નહીં. 

શા માટે કેટલાક કન્ટેનર ઉભા છે જ્યારે અન્ય પડી ગયા છે? કયું કન્ટેનર દોષિત હતું? છેવટે, કન્ટેનરની બહાર સમાન છે, પરંતુ દરેકની અંદર તેની પોતાની નીઓ છે.

અમારા વિકાસકર્તાઓ સક્ષમ છોકરાઓ છે. તેઓ સારી સેવાઓ બનાવે છે જે કંપનીને નફો લાવે છે. પરંતુ ત્યાં નિષ્ફળતાઓ છે જ્યારે એપ્લિકેશન સાથેના કન્ટેનર ભટકી જાય છે. એક કન્ટેનર ખૂબ વધારે CPU વાપરે છે, બીજું નેટવર્ક વાપરે છે, ત્રીજું I/O ઑપરેશન વાપરે છે અને ચોથું સંપૂર્ણપણે અસ્પષ્ટ છે કે તે સોકેટ્સ સાથે શું કરે છે. તે બધું પડે છે અને વહાણ ડૂબી જાય છે. 

એજન્ટો

અંદર શું થઈ રહ્યું છે તે સમજવા માટે, અમે એજન્ટોને સીધા કન્ટેનરમાં મૂકવાનું નક્કી કર્યું.

આ એજન્ટો પ્રતિબંધિત કાર્યક્રમો છે જે કન્ટેનરને એવી સ્થિતિમાં રાખે છે કે તેઓ એકબીજાને તોડે નહીં. એજન્ટો પ્રમાણિત છે, અને આ કન્ટેનરની સેવા માટે પ્રમાણિત અભિગમ માટે પરવાનગી આપે છે. 

અમારા કિસ્સામાં, એજન્ટોએ માનક ફોર્મેટમાં, ટૅગ કરેલા અને થ્રોટલમાં લૉગ પ્રદાન કરવા આવશ્યક છે. તેઓએ અમને પ્રમાણિત મેટ્રિક્સ પણ પ્રદાન કરવા જોઈએ જે વ્યવસાય એપ્લિકેશનના પરિપ્રેક્ષ્યમાં એક્સ્ટેન્સિબલ છે.

એજન્ટોનો અર્થ ઓપરેશન અને જાળવણી માટેની ઉપયોગિતાઓ પણ થાય છે જે વિવિધ ઓર્કેસ્ટ્રેશન સિસ્ટમ્સમાં કામ કરી શકે છે જે વિવિધ ઈમેજો (ડેબિયન, આલ્પાઈન, સેન્ટોસ, વગેરે) ને સપોર્ટ કરે છે.

છેવટે, એજન્ટોએ સરળ CI/CDને સમર્થન આપવું આવશ્યક છે જેમાં ડોકર ફાઇલોનો સમાવેશ થાય છે. નહિંતર, વહાણ અલગ પડી જશે, કારણ કે કન્ટેનર "કુટિલ" રેલ્સ સાથે વિતરિત કરવાનું શરૂ કરશે.

બિલ્ડ પ્રક્રિયા અને લક્ષ્ય છબી ઉપકરણ

દરેક વસ્તુને પ્રમાણિત અને વ્યવસ્થિત રાખવા માટે, અમુક પ્રકારની પ્રમાણભૂત બિલ્ડ પ્રક્રિયાને અનુસરવાની જરૂર છે. તેથી, અમે કન્ટેનર દ્વારા કન્ટેનર એકત્રિત કરવાનું નક્કી કર્યું - આ પુનરાવર્તન છે.

અહીં કન્ટેનર નક્કર રૂપરેખા દ્વારા રજૂ થાય છે. તે જ સમયે, તેઓએ તેમનામાં વિતરણ કીટ મૂકવાનું નક્કી કર્યું જેથી "જીવન રાસબેરિઝ જેવું ન લાગે." આ શા માટે કરવામાં આવ્યું હતું, અમે નીચે સમજાવીશું.
 
પરિણામ એ બિલ્ડ ટૂલ છે - એક સંસ્કરણ-વિશિષ્ટ કન્ટેનર જે ચોક્કસ વિતરણ સંસ્કરણો અને વિશિષ્ટ સ્ક્રિપ્ટ સંસ્કરણોનો સંદર્ભ આપે છે.

આપણે તેનો ઉપયોગ કેવી રીતે કરીએ? અમારી પાસે એક ડોકર હબ છે જેમાં કન્ટેનર છે. બાહ્ય અવલંબનથી છુટકારો મેળવવા માટે અમે તેને અમારી સિસ્ટમની અંદર પ્રતિબિંબિત કરીએ છીએ. પરિણામ પીળા રંગમાં ચિહ્નિત થયેલ કન્ટેનર છે. અમે કન્ટેનરમાં જરૂરી તમામ વિતરણો અને સ્ક્રિપ્ટો ઇન્સ્ટોલ કરવા માટે એક ટેમ્પલેટ બનાવીએ છીએ. તે પછી, અમે ઉપયોગમાં લેવા માટે તૈયાર છબી એસેમ્બલ કરીએ છીએ: વિકાસકર્તાઓ તેમાં કોડ અને તેમની પોતાની કેટલીક વિશિષ્ટ નિર્ભરતાઓ મૂકે છે. 

આ અભિગમ વિશે શું સારું છે? 

• પ્રથમ, બિલ્ડ ટૂલ્સનું સંપૂર્ણ સંસ્કરણ નિયંત્રણ - બિલ્ડ કન્ટેનર, સ્ક્રિપ્ટ અને વિતરણ સંસ્કરણ. 
• બીજું, અમે માનકીકરણ હાંસલ કર્યું છે: અમે તે જ રીતે નમૂનાઓ, મધ્યવર્તી અને ઉપયોગ માટે તૈયાર છબી બનાવીએ છીએ. 
• ત્રીજું, કન્ટેનર આપણને પોર્ટેબિલિટી આપે છે. આજે આપણે ગિટલેબનો ઉપયોગ કરીએ છીએ, અને આવતીકાલે આપણે ટીમસિટી અથવા જેનકિન્સ પર સ્વિચ કરીશું અને તે જ રીતે અમે અમારા કન્ટેનર ચલાવી શકીશું. 
• ચોથું, નિર્ભરતા ઘટાડવી. તે કોઈ સંયોગ નહોતો કે અમે કન્ટેનરમાં વિતરણ કીટ મૂકી, કારણ કે આ અમને દર વખતે ઇન્ટરનેટ પરથી ડાઉનલોડ કરવાનું ટાળવા દે છે. 
• પાંચમું, બિલ્ડ ઝડપ વધી છે - છબીઓની સ્થાનિક નકલોની હાજરી તમને ડાઉનલોડ કરવામાં સમય બગાડવાનું ટાળવા દે છે, કારણ કે ત્યાં સ્થાનિક છબી છે. 

બીજા શબ્દોમાં કહીએ તો, અમે નિયંત્રિત અને લવચીક એસેમ્બલી પ્રક્રિયા પ્રાપ્ત કરી છે. અમે કોઈપણ સંપૂર્ણ સંસ્કરણવાળા કન્ટેનર બનાવવા માટે સમાન સાધનોનો ઉપયોગ કરીએ છીએ. 

અમારી બિલ્ડ પ્રક્રિયા કેવી રીતે કાર્ય કરે છે

એસેમ્બલી એક આદેશ સાથે લોંચ કરવામાં આવે છે, પ્રક્રિયા ઇમેજમાં ચલાવવામાં આવે છે (લાલ રંગમાં પ્રકાશિત). વિકાસકર્તા પાસે ડોકર ફાઇલ છે (પીળા રંગમાં પ્રકાશિત), અમે તેને રેન્ડર કરીએ છીએ, ચલોને મૂલ્યો સાથે બદલીને. અને રસ્તામાં અમે હેડર અને ફૂટર્સ ઉમેરીએ છીએ - આ અમારા એજન્ટો છે. 

મથાળું અનુરૂપ છબીઓમાંથી વિતરણ ઉમેરે છે. અને ફૂટર અંદર અમારી સેવાઓને ઇન્સ્ટોલ કરે છે, વર્કલોડ, લોગિંગ અને અન્ય એજન્ટોના લોન્ચને ગોઠવે છે, એન્ટ્રીપોઇન્ટને બદલે છે, વગેરે. 

અમે લાંબા સમયથી વિચાર્યું કે શું સુપરવાઇઝર ઇન્સ્ટોલ કરવું. અંતે, અમે નક્કી કર્યું કે અમને તેની જરૂર છે. અમે S6 પસંદ કર્યું. સુપરવાઇઝર કન્ટેનર મેનેજમેન્ટ પ્રદાન કરે છે: જો મુખ્ય પ્રક્રિયા ક્રેશ થાય છે અને તેને ફરીથી બનાવ્યા વિના કન્ટેનરનું મેન્યુઅલ મેનેજમેન્ટ પ્રદાન કરે છે તો તમને તેની સાથે કનેક્ટ થવાની મંજૂરી આપે છે. લોગ્સ અને મેટ્રિક્સ એ કન્ટેનરની અંદર ચાલતી પ્રક્રિયાઓ છે. તેમને પણ કોઈક રીતે નિયંત્રિત કરવાની જરૂર છે, અને અમે સુપરવાઈઝરની મદદથી આ કરીએ છીએ. છેલ્લે, S6 હાઉસકીપિંગ, સિગ્નલ પ્રોસેસિંગ અને અન્ય કાર્યોનું ધ્યાન રાખે છે.

અમે વિવિધ ઓર્કેસ્ટ્રેશન સિસ્ટમ્સનો ઉપયોગ કરતા હોવાથી, બાંધ્યા અને ચલાવ્યા પછી, કન્ટેનરને સમજવું જોઈએ કે તે કયા વાતાવરણમાં છે અને પરિસ્થિતિ અનુસાર કાર્ય કરવું જોઈએ. દાખ્લા તરીકે:
આ અમને એક ઇમેજ બનાવવા અને તેને વિવિધ ઓર્કેસ્ટ્રેશન સિસ્ટમ્સમાં ચલાવવાની મંજૂરી આપે છે, અને તે આ ઓર્કેસ્ટ્રેશન સિસ્ટમની વિશિષ્ટતાઓને ધ્યાનમાં લઈને લોન્ચ કરવામાં આવશે.

 

સમાન કન્ટેનર માટે અમને ડોકર અને કુબરનેટ્સમાં વિવિધ પ્રક્રિયા વૃક્ષો મળે છે:

પેલોડ S6 ની દેખરેખ હેઠળ ચલાવવામાં આવે છે. કલેક્ટર અને ઇવેન્ટ્સ પર ધ્યાન આપો - આ લોગ અને મેટ્રિક્સ માટે જવાબદાર અમારા એજન્ટો છે. કુબરનેટ્સ પાસે તે નથી, પરંતુ ડોકર પાસે છે. શા માટે? 

જો આપણે “પોડ” (ત્યારબાદ – કુબરનેટેસ પોડ) ના સ્પષ્ટીકરણને જોઈએ, તો આપણે જોઈશું કે ઇવેન્ટ કન્ટેનર પોડમાં એક્ઝિક્યુટ થાય છે, જેમાં એક અલગ કલેક્ટર કન્ટેનર હોય છે જે મેટ્રિક્સ અને લૉગ્સ એકત્રિત કરવાનું કાર્ય કરે છે. અમે કુબરનેટ્સની ક્ષમતાઓનો ઉપયોગ કરી શકીએ છીએ: એક પોડમાં કન્ટેનર ચલાવવું, એક પ્રક્રિયામાં અને/અથવા નેટવર્ક સ્પેસ. ખરેખર તમારા એજન્ટોનો પરિચય આપો અને કેટલાક કાર્યો કરો. અને જો તે જ કન્ટેનર ડોકરમાં લોંચ કરવામાં આવે છે, તો તે આઉટપુટ જેવી બધી જ ક્ષમતાઓ પ્રાપ્ત કરશે, એટલે કે, તે લોગ અને મેટ્રિક્સ પહોંચાડવામાં સક્ષમ હશે, કારણ કે એજન્ટો આંતરિક રીતે લોન્ચ કરવામાં આવશે. 

મેટ્રિક્સ અને લૉગ્સ

મેટ્રિક્સ અને લૉગ્સ પહોંચાડવા એ એક જટિલ કાર્ય છે. તેના નિર્ણયના અનેક પાસાઓ છે.
ઇન્ફ્રાસ્ટ્રક્ચર પેલોડના અમલ માટે બનાવવામાં આવ્યું છે, અને લોગના મોટા પાયે વિતરણ માટે નહીં. એટલે કે, આ પ્રક્રિયા ન્યૂનતમ કન્ટેનર સંસાધન આવશ્યકતાઓ સાથે થવી જોઈએ. અમે અમારા વિકાસકર્તાઓને મદદ કરવાનો પ્રયત્ન કરીએ છીએ: "એક ડોકર હબ કન્ટેનર મેળવો, તેને ચલાવો અને અમે લોગ પહોંચાડી શકીએ." 

બીજું પાસું લોગના વોલ્યુમને મર્યાદિત કરવાનું છે. જો લોગના જથ્થામાં વધારો ઘણા કન્ટેનરમાં થાય છે (એપ્લિકેશન લૂપમાં સ્ટેક-ટ્રેસ આઉટપુટ કરે છે), તો CPU, કમ્યુનિકેશન ચેનલો અને લોગ પ્રોસેસિંગ સિસ્ટમ પરનો ભાર વધે છે, અને આ હોસ્ટની કામગીરીને અસર કરે છે. હોસ્ટ પર સંપૂર્ણ અને અન્ય કન્ટેનર, પછી ક્યારેક આ યજમાનના "પતન" તરફ દોરી જાય છે. 

ત્રીજું પાસું એ છે કે બૉક્સની બહાર શક્ય તેટલી વધુ મેટ્રિક્સ સંગ્રહ પદ્ધતિઓને સમર્થન આપવું જરૂરી છે. ફાઇલો વાંચવા અને મતદાન પ્રોમિથિયસ-એન્ડપોઇન્ટથી લઈને એપ્લિકેશન વિશિષ્ટ પ્રોટોકોલ્સનો ઉપયોગ કરવા સુધી.

અને છેલ્લું પાસું એ છે કે સંસાધનનો વપરાશ ઓછો કરવો.

અમે ટેલિગ્રાફ નામનું ઓપન સોર્સ ગો સોલ્યુશન પસંદ કર્યું છે. આ એક સાર્વત્રિક કનેક્ટર છે જે 140 થી વધુ પ્રકારની ઇનપુટ ચેનલો (ઇનપુટ પ્લગઇન્સ) અને 30 પ્રકારની આઉટપુટ ચેનલો (આઉટપુટ પ્લગઇન્સ) ને સપોર્ટ કરે છે. અમે તેને અંતિમ સ્વરૂપ આપ્યું છે અને હવે અમે તમને જણાવીશું કે કુબરનેટ્સનો ઉપયોગ કરીને અમે તેનો કેવી રીતે ઉપયોગ કરીએ છીએ. 

ચાલો કહીએ કે ડેવલપર વર્કલોડ ગોઠવે છે અને કુબરનેટ્સને પોડ બનાવવાની વિનંતી મળે છે. આ બિંદુએ, કલેક્ટર નામનું કન્ટેનર દરેક પોડ માટે આપમેળે બનાવવામાં આવે છે (અમે મ્યુટેશન વેબહૂકનો ઉપયોગ કરીએ છીએ). કલેક્ટર અમારા એજન્ટ છે. શરૂઆતમાં, આ કન્ટેનર પ્રોમિથિયસ અને લોગ કલેક્શન સિસ્ટમ સાથે કામ કરવા માટે પોતાને ગોઠવે છે.

• આ કરવા માટે, તે પોડ એનોટેશનનો ઉપયોગ કરે છે, અને તેની સામગ્રીના આધારે, પ્રોમિથિયસ એન્ડ પોઈન્ટ બનાવે છે; 
• પોડ સ્પષ્ટીકરણ અને ચોક્કસ કન્ટેનર સેટિંગ્સના આધારે, તે લોગ કેવી રીતે પહોંચાડવા તે નક્કી કરે છે.

અમે ડોકર API દ્વારા લોગ એકત્રિત કરીએ છીએ: વિકાસકર્તાઓએ તેમને ફક્ત stdout અથવા stderr માં મૂકવાની જરૂર છે, અને કલેક્ટર તેને સૉર્ટ કરશે. શક્ય હોસ્ટ ઓવરલોડને રોકવા માટે કેટલાક વિલંબ સાથે લોગ ટુકડાઓમાં એકત્રિત કરવામાં આવે છે. 

કન્ટેનરમાં વર્કલોડ ઇન્સ્ટન્સ (પ્રક્રિયાઓ)માં મેટ્રિક્સ એકત્રિત કરવામાં આવે છે. બધું ટૅગ થયેલ છે: નેમસ્પેસ, નીચે, અને તેથી વધુ, અને પછી પ્રોમિથિયસ ફોર્મેટમાં રૂપાંતરિત થાય છે - અને સંગ્રહ માટે ઉપલબ્ધ બને છે (લોગ સિવાય). અમે કાફકાને લોગ, મેટ્રિક્સ અને ઇવેન્ટ્સ પણ મોકલીએ છીએ અને આગળ:

• લોગ ગ્રેલોગમાં ઉપલબ્ધ છે (દ્રશ્ય વિશ્લેષણ માટે);
• લોગ્સ, મેટ્રિક્સ, ઇવેન્ટ્સ લાંબા ગાળાના સ્ટોરેજ માટે ક્લિકહાઉસને મોકલવામાં આવે છે.

AWS માં બધું બરાબર એ જ રીતે કામ કરે છે, ફક્ત અમે ગ્રેલોગને કાફકા સાથે ક્લાઉડવોચ સાથે બદલીએ છીએ. અમે ત્યાં લૉગ્સ મોકલીએ છીએ, અને બધું ખૂબ અનુકૂળ છે: તે તરત જ સ્પષ્ટ છે કે તેઓ કયા ક્લસ્ટર અને કન્ટેનરના છે. આ જ Google Stackdriver માટે સાચું છે. એટલે કે, અમારી સ્કીમ કાફકા સાથે અને ક્લાઉડમાં બંને રીતે કામ કરે છે. 

જો અમારી પાસે શીંગો સાથે કુબરનેટ્સ ન હોય, તો યોજના થોડી વધુ જટિલ છે, પરંતુ તે સમાન સિદ્ધાંતો પર કાર્ય કરે છે.

સમાન પ્રક્રિયાઓ કન્ટેનરની અંદર ચલાવવામાં આવે છે, તે S6 નો ઉપયોગ કરીને ગોઠવવામાં આવે છે. બધી સમાન પ્રક્રિયાઓ એક જ કન્ટેનરની અંદર ચાલી રહી છે.

અંતે

અમે લોગ્સ અને મેટ્રિક્સને એકત્રિત કરવા અને પહોંચાડવાના વિકલ્પો સાથે, છબીઓ બનાવવા અને લોન્ચ કરવા માટે એક સંપૂર્ણ ઉકેલ બનાવ્યો છે:

• અમે ઇમેજ એસેમ્બલ કરવા માટે પ્રમાણિત અભિગમ વિકસાવ્યો છે, અને તેના આધારે અમે CI ટેમ્પલેટ્સ વિકસાવ્યા છે;
• ડેટા કલેક્શન એજન્ટો અમારા ટેલિગ્રાફ એક્સટેન્શન છે. અમે તેમને ઉત્પાદનમાં સારી રીતે પરીક્ષણ કર્યું;
• અમે પોડ્સમાં એજન્ટો સાથે કન્ટેનરને અમલમાં મૂકવા માટે મ્યુટેશન વેબહૂકનો ઉપયોગ કરીએ છીએ; 
• કુબરનેટ્સ/રેન્ચર ઇકોસિસ્ટમમાં એકીકૃત;
• અમે વિવિધ ઓર્કેસ્ટ્રેશન સિસ્ટમ્સમાં સમાન કન્ટેનર ચલાવી શકીએ છીએ અને અમે અપેક્ષા રાખીએ છીએ તે પરિણામ મેળવી શકીએ છીએ;
• સંપૂર્ણપણે ગતિશીલ કન્ટેનર મેનેજમેન્ટ રૂપરેખાંકન બનાવ્યું. 

સહ-લેખક: ઇલ્યા પ્રુડનીકોવ

સોર્સ: www.habr.com