સેવા તરીકે દેખરેખ: માઇક્રોસર્વિસ આર્કિટેક્ચર માટે મોડ્યુલર સિસ્ટમ

આજે, મોનોલિથિક કોડ ઉપરાંત, અમારા પ્રોજેક્ટમાં ડઝનેક માઇક્રોસર્વિસિસનો સમાવેશ થાય છે. તેમાંના દરેકનું નિરીક્ષણ કરવું જરૂરી છે. DevOps એન્જિનિયરોનો ઉપયોગ કરીને આવા સ્કેલ પર આ કરવું સમસ્યારૂપ છે. અમે એક મોનિટરિંગ સિસ્ટમ વિકસાવી છે જે વિકાસકર્તાઓ માટે સેવા તરીકે કામ કરે છે. તેઓ મોનિટરિંગ સિસ્ટમમાં સ્વતંત્ર રીતે મેટ્રિક્સ લખી શકે છે, તેનો ઉપયોગ કરી શકે છે, તેના આધારે ડેશબોર્ડ બનાવી શકે છે અને તેમની સાથે ચેતવણીઓ જોડી શકે છે જે જ્યારે થ્રેશોલ્ડ મૂલ્યો પર પહોંચી જાય ત્યારે ટ્રિગર થશે. DevOps એન્જિનિયરો માટે, માત્ર ઈન્ફ્રાસ્ટ્રક્ચર અને દસ્તાવેજીકરણ.

આ પોસ્ટ અમારી સાથેના મારા ભાષણની ટ્રાન્સક્રિપ્ટ છે વિભાગો RIT++ પર. ઘણા લોકોએ અમને ત્યાંથી રિપોર્ટના ટેક્સ્ટ વર્ઝન બનાવવાનું કહ્યું. જો તમે કોન્ફરન્સમાં હોવ અથવા વિડિયો જોયો હોય, તો તમને કંઈપણ નવું મળશે નહીં. અને બીજા બધા - બિલાડીમાં આપનું સ્વાગત છે. હું તમને કહીશ કે અમે આવી સિસ્ટમમાં કેવી રીતે આવ્યા, તે કેવી રીતે કાર્ય કરે છે અને અમે તેને કેવી રીતે અપડેટ કરવાની યોજના બનાવીએ છીએ.

ભૂતકાળ: યોજનાઓ અને યોજનાઓ

અમે વર્તમાન મોનિટરિંગ સિસ્ટમ પર કેવી રીતે પહોંચ્યા? આ પ્રશ્નનો જવાબ આપવા માટે, તમારે 2015 પર જવાની જરૂર છે. તે પછી આ જેવું દેખાતું હતું:

અમારી પાસે લગભગ 24 નોડ્સ હતા જે મોનિટરિંગ માટે જવાબદાર હતા. વિવિધ ક્રાઉન્સ, સ્ક્રિપ્ટ્સ, ડિમનનો એક આખો પેક છે જે કોઈક રીતે કોઈ વસ્તુનું નિરીક્ષણ કરે છે, સંદેશા મોકલે છે અને કાર્યો કરે છે. અમે વિચાર્યું કે આપણે જેટલું આગળ જઈશું, આવી સિસ્ટમ ઓછી સધ્ધર હશે. તેને વિકસાવવાનો કોઈ અર્થ નથી: તે ખૂબ બોજારૂપ છે.
અમે તે મોનિટરિંગ એલિમેન્ટ્સ પસંદ કરવાનું નક્કી કર્યું કે જેને અમે રાખીશું અને વિકસિત કરીશું અને જેને છોડીશું. તેમાંના 19 હતા. ડેશબોર્ડ તરીકે માત્ર ગ્રેફાઇટ્સ, એગ્રીગેટર્સ અને ગ્રાફના બાકી હતા. પરંતુ નવી સિસ્ટમ કેવી હશે? આની જેમ:

અમારી પાસે મેટ્રિક્સ સ્ટોરેજ છે: આ ગ્રેફાઇટ્સ છે, જે ઝડપી SSD ડ્રાઇવ પર આધારિત હશે, આ મેટ્રિક્સ માટે ચોક્કસ એગ્રીગેટર્સ છે. આગળ - ડેશબોર્ડ પ્રદર્શિત કરવા માટે ગ્રાફના અને ચેતવણી માટે મોઇરા. અમે વિસંગતતાઓ શોધવા માટેની સિસ્ટમ પણ વિકસાવવા માગીએ છીએ.

ધોરણ: મોનિટરિંગ 2.0

2015 માં યોજનાઓ આના જેવી દેખાતી હતી. પરંતુ અમારે માત્ર ઈન્ફ્રાસ્ટ્રક્ચર અને સેવા જ નહીં, પરંતુ તેના માટે દસ્તાવેજીકરણ પણ તૈયાર કરવાનું હતું. અમે અમારા માટે એક કોર્પોરેટ ધોરણ વિકસાવ્યું છે, જેને અમે મોનિટરિંગ 2.0 કહીએ છીએ. સિસ્ટમ માટેની આવશ્યકતાઓ શું હતી?

• સતત ઉપલબ્ધતા;
• મેટ્રિક્સ સ્ટોરેજ અંતરાલ = 10 સેકન્ડ;
• મેટ્રિક્સ અને ડેશબોર્ડ્સનું સંરચિત સંગ્રહ;
• SLA > 99,99%
• UDP (!) દ્વારા ઇવેન્ટ મેટ્રિક્સનો સંગ્રહ.

અમને UDPની જરૂર હતી કારણ કે અમારી પાસે ટ્રાફિક અને ઇવેન્ટ્સનો મોટો પ્રવાહ છે જે મેટ્રિક્સ જનરેટ કરે છે. જો તમે તે બધાને એક જ સમયે ગ્રેફાઇટમાં લખો છો, તો સ્ટોરેજ તૂટી જશે. અમે તમામ મેટ્રિક્સ માટે પ્રથમ-સ્તરના ઉપસર્ગ પણ પસંદ કર્યા છે.

દરેક ઉપસર્ગમાં અમુક ગુણધર્મ હોય છે. સર્વર્સ, નેટવર્ક્સ, કન્ટેનર, સંસાધનો, એપ્લિકેશન્સ અને તેથી વધુ માટે મેટ્રિક્સ છે. સ્પષ્ટ, કડક, ટાઇપ કરેલ ફિલ્ટરિંગ લાગુ કરવામાં આવ્યું છે, જ્યાં અમે પ્રથમ-સ્તરના મેટ્રિક્સ સ્વીકારીએ છીએ અને બાકીનાને ખાલી છોડી દઈએ છીએ. આ રીતે અમે 2015 માં આ સિસ્ટમનું આયોજન કર્યું હતું. વર્તમાનમાં શું છે?

વર્તમાન: મોનિટરિંગ ઘટકોની ક્રિયાપ્રતિક્રિયાનો આકૃતિ

સૌ પ્રથમ, અમે એપ્લિકેશનોનું નિરીક્ષણ કરીએ છીએ: અમારો PHP કોડ, એપ્લિકેશન્સ અને માઇક્રોસર્વિસિસ - ટૂંકમાં, અમારા વિકાસકર્તાઓ લખે છે તે બધું. બધી એપ્લિકેશનો બ્રુબેક એગ્રીગેટરને UDP દ્વારા મેટ્રિક્સ મોકલે છે (statsd, C માં ફરીથી લખાયેલ). તે કૃત્રિમ પરીક્ષણોમાં સૌથી ઝડપી હોવાનું બહાર આવ્યું છે. અને તે પહેલાથી જ એકીકૃત મેટ્રિક્સને TCP દ્વારા ગ્રેફાઇટને મોકલે છે.

તેમાં ટાઈમર તરીકે ઓળખાતા મેટ્રિક્સનો એક પ્રકાર છે. આ એક ખૂબ જ અનુકૂળ વસ્તુ છે. ઉદાહરણ તરીકે, સેવા સાથેના દરેક વપરાશકર્તા કનેક્શન માટે, તમે બ્રુબેકને પ્રતિભાવ સમય સાથે મેટ્રિક મોકલો છો. એક મિલિયન પ્રતિસાદો આવ્યા, પરંતુ એગ્રીગેટરે માત્ર 10 મેટ્રિક્સ પરત કર્યા. તમારી પાસે આવેલા લોકોની સંખ્યા, મહત્તમ, લઘુત્તમ અને સરેરાશ પ્રતિભાવ સમય, મધ્ય અને 4 પર્સન્ટાઈલ્સ છે. પછી ડેટા ગ્રેફાઇટમાં સ્થાનાંતરિત થાય છે અને આપણે તે બધું જીવંત જોઈએ છીએ.

અમારી પાસે હાર્ડવેર, સૉફ્ટવેર, સિસ્ટમ મેટ્રિક્સ અને અમારી જૂની મુનિન મોનિટરિંગ સિસ્ટમ પર મેટ્રિક્સ માટે એકત્રીકરણ પણ છે (તે 2015 સુધી અમારા માટે કામ કર્યું હતું). અમે આ બધું C ડિમન કલેક્ટડી દ્વારા એકત્રિત કરીએ છીએ (તેમાં વિવિધ પ્લગિન્સનો સંપૂર્ણ સમૂહ છે, તે હોસ્ટ સિસ્ટમના તમામ સંસાધનોને પોલ કરી શકે છે જેના પર તે ઇન્સ્ટોલ કરેલું છે, ફક્ત ડેટા ક્યાં લખવો તે રૂપરેખાંકનમાં સ્પષ્ટ કરો) અને તેના દ્વારા ગ્રેફાઇટ પર ડેટા લખો. તે પાયથોન પ્લગઇન્સ અને શેલ સ્ક્રિપ્ટ્સને પણ સપોર્ટ કરે છે, જેથી તમે તમારા પોતાના કસ્ટમ સોલ્યુશન્સ લખી શકો: CollectD આ ડેટાને સ્થાનિક અથવા રિમોટ હોસ્ટ (કર્લ ધારીને) પાસેથી એકત્રિત કરશે અને તેને ગ્રેફાઇટને મોકલશે.

પછી અમે કાર્બન-સી-રિલેમાં એકત્રિત કરેલ તમામ મેટ્રિક્સ મોકલીએ છીએ. આ ગ્રેફાઇટમાંથી કાર્બન રિલે સોલ્યુશન છે, જે C માં સંશોધિત છે. આ એક રાઉટર છે જે તમામ મેટ્રિક્સને એકત્રિત કરે છે જે અમે અમારા એગ્રીગેટર્સ પાસેથી મોકલીએ છીએ અને તેમને નોડ્સ પર લઈ જઈએ છીએ. રૂટીંગ સ્ટેજ પર પણ, તે મેટ્રિક્સની માન્યતા તપાસે છે. પ્રથમ, તેઓ ઉપસર્ગ યોજનાને અનુરૂપ હોવા જોઈએ જે મેં અગાઉ બતાવ્યું હતું અને બીજું, તે ગ્રેફાઇટ માટે માન્ય છે. નહિંતર તેઓ પડી જશે.

કાર્બન-સી-રિલે પછી મેટ્રિક્સ ગ્રેફાઇટ ક્લસ્ટરને મોકલે છે. અમે મેટ્રિક્સના મુખ્ય સ્ટોરેજ તરીકે, Go માં ફરીથી લખેલા કાર્બન-કેશનો ઉપયોગ કરીએ છીએ. ગો-કાર્બન, તેના મલ્ટિથ્રેડિંગને લીધે, કાર્બન-કેશ કરતાં વધુ પ્રદર્શન કરે છે. તે ડેટા મેળવે છે અને વ્હીસ્પર પેકેજ (સ્ટાન્ડર્ડ, પાયથોનમાં લખાયેલ) નો ઉપયોગ કરીને તેને ડિસ્ક પર લખે છે. અમારા સ્ટોરેજમાંથી ડેટા વાંચવા માટે, અમે Graphite API નો ઉપયોગ કરીએ છીએ. તે પ્રમાણભૂત Graphite WEB કરતાં ઘણું ઝડપી છે. ડેટાનું આગળ શું થશે?

તેઓ ગ્રાફનામાં જાય છે. અમે ડેટાના મુખ્ય સ્ત્રોત તરીકે અમારા ગ્રેફાઇટ ક્લસ્ટરોનો ઉપયોગ કરીએ છીએ, ઉપરાંત અમારી પાસે મેટ્રિક્સ પ્રદર્શિત કરવા અને ડેશબોર્ડ બનાવવા માટે વેબ ઇન્ટરફેસ તરીકે Grafana છે. તેમની દરેક સેવાઓ માટે, વિકાસકર્તાઓ તેમનું પોતાનું ડેશબોર્ડ બનાવે છે. પછી તેઓ તેમના આધારે ગ્રાફ બનાવે છે, જે તેઓ તેમની એપ્લિકેશનમાંથી લખેલા મેટ્રિક્સ દર્શાવે છે. Grafana ઉપરાંત, અમારી પાસે SLAM પણ છે. આ એક અજગર રાક્ષસ છે જે ગ્રેફાઇટના ડેટાના આધારે SLA ની ગણતરી કરે છે. મેં પહેલેથી જ કહ્યું છે તેમ, અમારી પાસે ઘણી ડઝન માઇક્રોસેવાઓ છે, જેમાંથી દરેકની પોતાની જરૂરિયાતો છે. SLAM નો ઉપયોગ કરીને, અમે દસ્તાવેજીકરણ પર જઈએ છીએ અને ગ્રેફાઈટમાં શું છે તેની સાથે સરખામણી કરીએ છીએ અને જરૂરિયાતો અમારી સેવાઓની ઉપલબ્ધતા સાથે કેટલી સારી રીતે મેળ ખાય છે તેની સરખામણી કરીએ છીએ.

ચાલો આગળ જઈએ: ચેતવણી. તે એક મજબૂત સિસ્ટમ - મોઇરાનો ઉપયોગ કરીને ગોઠવવામાં આવે છે. તે સ્વતંત્ર છે કારણ કે તેની હૂડ હેઠળ તેની પોતાની ગ્રેફાઇટ છે. SKB "કોન્ટુર" ના લોકો દ્વારા વિકસિત, પાયથોન અને ગોમાં લખાયેલ, સંપૂર્ણપણે ઓપન સોર્સ. મોઇરા એ જ પ્રવાહ મેળવે છે જે ગ્રેફાઇટ્સમાં જાય છે. જો કોઈ કારણોસર તમારું સ્ટોરેજ મૃત્યુ પામે છે, તો તમારી ચેતવણી હજુ પણ કામ કરશે.

અમે કુબરનેટ્સમાં મોઇરાનો ઉપયોગ કર્યો છે; તે મુખ્ય ડેટાબેઝ તરીકે રેડિસ સર્વર્સના ક્લસ્ટરનો ઉપયોગ કરે છે. પરિણામ એક ખામી-સહિષ્ણુ સિસ્ટમ હતી. તે ટ્રિગર્સની સૂચિ સાથે મેટ્રિક્સના પ્રવાહની તુલના કરે છે: જો તેમાં કોઈ ઉલ્લેખ નથી, તો તે મેટ્રિકને ડ્રોપ કરે છે. તેથી તે પ્રતિ મિનિટ મેટ્રિક્સના ગીગાબાઇટ્સને ડાયજેસ્ટ કરવામાં સક્ષમ છે.

અમે તેની સાથે કોર્પોરેટ LDAP પણ જોડી દીધું છે, જેની મદદથી કોર્પોરેટ સિસ્ટમના દરેક વપરાશકર્તા હાલના (અથવા નવા બનાવેલા) ટ્રિગર્સ પર આધારિત પોતાના માટે સૂચનાઓ બનાવી શકે છે. મોઇરામાં ગ્રેફાઇટ હોવાથી, તે તેની તમામ સુવિધાઓને સપોર્ટ કરે છે. તો તમે પહેલા લાઇન લો અને તેને Grafana માં કોપી કરો. ગ્રાફ પર ડેટા કેવી રીતે પ્રદર્શિત થાય છે તે જુઓ. અને પછી તમે એ જ લાઇન લો અને તેને મોઇરામાં કોપી કરો. તમે તેને મર્યાદા સાથે અટકી દો અને આઉટપુટ પર ચેતવણી મેળવો. આ બધું કરવા માટે, તમારે કોઈ ચોક્કસ જ્ઞાનની જરૂર નથી. મોઇરા એસએમએસ, ઇમેઇલ, જીરા, સ્લેક દ્વારા ચેતવણી આપી શકે છે... તે કસ્ટમ સ્ક્રિપ્ટના અમલને પણ સપોર્ટ કરે છે. જ્યારે તેણીને ટ્રિગર થાય છે, અને તેણીએ કસ્ટમ સ્ક્રિપ્ટ અથવા દ્વિસંગી પર સબ્સ્ક્રાઇબ કર્યું છે, ત્યારે તે તેને ચલાવે છે અને JSON ને આ બાઈનરી માટે stdin પર મોકલે છે. તદનુસાર, તમારા પ્રોગ્રામનું વિશ્લેષણ કરવું આવશ્યક છે. તમે આ JSON સાથે શું કરશો તે તમારા પર નિર્ભર છે. જો તમે ઇચ્છો તો ટેલિગ્રામ પર મોકલો, જો તમે ઇચ્છો તો જીરામાં કાર્યો ખોલો, ગમે તે કરો.

અમે ચેતવણી આપવા માટે અમારા પોતાના વિકાસનો પણ ઉપયોગ કરીએ છીએ - ઈમાગોટેગ. અમે અમારી જરૂરિયાતોને અનુરૂપ પેનલને અનુકૂલિત કરી છે, જેનો ઉપયોગ સામાન્ય રીતે સ્ટોર્સમાં ઇલેક્ટ્રોનિક પ્રાઇસ ટૅગ્સ માટે થાય છે. અમે મોઇરાથી તેમાં ટ્રિગર્સ લાવ્યા. તે સૂચવે છે કે તેઓ કઈ સ્થિતિમાં છે અને ક્યારે આવી હતી. કેટલાક વિકાસકર્તાઓએ આ પેનલની તરફેણમાં સ્લેક અને ઈમેલમાં સૂચનાઓ છોડી દીધી.

સારું, અમે એક પ્રગતિશીલ કંપની હોવાથી, અમે આ સિસ્ટમમાં કુબરનેટ્સનું પણ નિરીક્ષણ કર્યું. અમે તેને હીપસ્ટરનો ઉપયોગ કરીને સિસ્ટમમાં શામેલ કર્યું છે, જે અમે ક્લસ્ટરમાં ઇન્સ્ટોલ કર્યું છે, તે ડેટા એકત્રિત કરે છે અને તેને ગ્રેફાઇટ પર મોકલે છે. પરિણામે, ડાયાગ્રામ આના જેવો દેખાય છે:

મોનીટરીંગ ઘટકો

અમે આ કાર્ય માટે ઉપયોગમાં લીધેલા ઘટકોની લિંક્સની સૂચિ અહીં છે. તે બધા ઓપન સોર્સ છે.

ગ્રેફાઇટ:

• ગો-કાર્બન github.com/lomik/go-carbon
• બબડાટ: github.com/graphite-project/whisper
• ગ્રેફાઇટ-એપીઆઇ: github.com/brutasse/graphite-api

કાર્બન-સી-રિલે:

github.com/grobian/carbon-c-relay

બ્રુબેક:

github.com/github/brubeck

એકત્રિત:

collected.org

મોઇરા:

github.com/moira-alert

ગ્રાફના:

grafana.com

હીપસ્ટર:

github.com/kubernetes/heapster

આંકડા

અને સિસ્ટમ અમારા માટે કેવી રીતે કાર્ય કરે છે તે વિશે અહીં કેટલાક નંબરો છે.

એગ્રીગેટર (બ્રુબેક)

મેટ્રિક્સની સંખ્યા: ~300/સેકન્ડ
ગ્રેફાઇટને મેટ્રિક્સ મોકલવા માટેનું અંતરાલ: 30 સે
સર્વર સંસાધન વપરાશ: ~ 6% CPU (અમે સંપૂર્ણ સર્વરો વિશે વાત કરી રહ્યા છીએ); ~ 1 જીબી રેમ; ~3 Mbps LAN

ગ્રેફાઇટ (ગો-કાર્બન)

મેટ્રિક્સની સંખ્યા: ~ 1 / મિનિટ
મેટ્રિક્સ અપડેટ અંતરાલ: 30 સે
મેટ્રિક્સ સ્ટોરેજ સ્કીમ: 30sec 35d, 5min 90d, 10min 365d (તમને લાંબા સમય સુધી સેવાનું શું થાય છે તેની સમજ આપે છે)
સર્વર સંસાધન વપરાશ: ~10% CPU; ~ 20 જીબી રેમ; ~30 Mbps LAN

સુગમતા

અમે અવિટો ખાતે અમારી મોનિટરિંગ સેવામાં લવચીકતાને ખરેખર મહત્વ આપીએ છીએ. તે ખરેખર આ રીતે કેમ બહાર આવ્યો? સૌપ્રથમ, તેના ઘટકો વિનિમયક્ષમ છે: બંને ઘટકો પોતે અને તેમના સંસ્કરણો. બીજું, સહાયકતા. આખો પ્રોજેક્ટ ઓપન સોર્સ હોવાથી, તમે કોડ જાતે સંપાદિત કરી શકો છો, ફેરફારો કરી શકો છો અને બોક્સની બહાર ઉપલબ્ધ ન હોય તેવા કાર્યોનો અમલ કરી શકો છો. તદ્દન સામાન્ય સ્ટેક્સનો ઉપયોગ થાય છે, મુખ્યત્વે ગો અને પાયથોન, તેથી આ એકદમ સરળ રીતે કરવામાં આવે છે.

અહીં એક વાસ્તવિક સમસ્યાનું ઉદાહરણ છે. ગ્રેફાઇટમાં મેટ્રિક એ ફાઇલ છે. તેનું એક નામ છે. ફાઇલનું નામ = મેટ્રિક નામ. અને ત્યાં જવાનો માર્ગ છે. Linux માં ફાઇલ નામો 255 અક્ષરો સુધી મર્યાદિત છે. અને અમારી પાસે ડેટાબેઝ વિભાગના લોકો ("આંતરિક ગ્રાહકો" તરીકે) છે. તેઓ અમને કહે છે: “અમે અમારી SQL ક્વેરીઝ પર નજર રાખવા માંગીએ છીએ. અને તે 255 અક્ષરો નથી, પરંતુ દરેક 8 MB છે. અમે તેમને ગ્રાફનામાં પ્રદર્શિત કરવા માંગીએ છીએ, આ વિનંતી માટેના પરિમાણો જોવા માંગીએ છીએ, અને વધુ સારી રીતે, અમે આવી વિનંતીઓમાં ટોચ જોવા માંગીએ છીએ. જો તે વાસ્તવિક સમયમાં પ્રદર્શિત થાય તો તે મહાન રહેશે. તેમને એલર્ટમાં મૂકવું ખરેખર સરસ રહેશે.”

ઉદાહરણ SQL ક્વેરીમાંથી ઉદાહરણ તરીકે લેવામાં આવે છે સાઇટ postgrespro.ru

અમે Redis સર્વર સેટઅપ કરીએ છીએ અને અમારા કલેક્ટેડ પ્લગિન્સનો ઉપયોગ કરીએ છીએ, જે Postgres પર જાય છે અને ત્યાંથી તમામ ડેટા લે છે, ગ્રેફાઇટને મેટ્રિક્સ મોકલીને. પરંતુ અમે મેટ્રિક નામને હેશથી બદલીએ છીએ. અમે વારાફરતી તે જ હેશને કી તરીકે રેડિસને અને સમગ્ર SQL ક્વેરી મૂલ્ય તરીકે મોકલીએ છીએ. અમારે માત્ર એ સુનિશ્ચિત કરવાનું છે કે ગ્રાફના રેડિસ પર જઈને આ માહિતી લઈ શકે. અમે Graphite API ખોલી રહ્યા છીએ કારણ કે... ગ્રેફાઇટ સાથેના તમામ મોનિટરિંગ ઘટકોની ક્રિયાપ્રતિક્રિયા માટે આ મુખ્ય ઇન્ટરફેસ છે, અને અમે ત્યાં એક નવું ફંક્શન દાખલ કરીએ છીએ જેને aliasByHash() કહેવાય છે - Grafana થી અમને મેટ્રિકનું નામ મળે છે, અને તેનો ઉપયોગ કી તરીકે Redis ને વિનંતીમાં કરીએ છીએ. પ્રતિભાવથી અમને કીની કિંમત મળે છે, જે અમારી “SQL ક્વેરી” છે આમ, અમે ગ્રાફનામાં એસક્યુએલ ક્વેરીનું પ્રદર્શન પ્રદર્શિત કર્યું, જે સૈદ્ધાંતિક રીતે ત્યાં પ્રદર્શિત કરવું અશક્ય હતું, તેના પર આંકડાઓ સાથે (કોલ્સ, પંક્તિઓ, કુલ_સમય, ...).

પરિણામો

ઉપલબ્ધતા અમારી દેખરેખ સેવા કોઈપણ એપ્લિકેશન અને કોઈપણ કોડથી 24/7 ઉપલબ્ધ છે. જો તમારી પાસે સ્ટોરેજ સુવિધાઓની ઍક્સેસ હોય, તો તમે સેવામાં ડેટા લખી શકો છો. ભાષા મહત્વની નથી, નિર્ણયો મહત્વના નથી. તમારે માત્ર એ જાણવાની જરૂર છે કે સોકેટ કેવી રીતે ખોલવું, ત્યાં મેટ્રિક મૂકવું અને સોકેટ કેવી રીતે બંધ કરવું.

વિશ્વસનીયતા બધા ઘટકો દોષ-સહિષ્ણુ છે અને અમારા ભારને સારી રીતે હેન્ડલ કરે છે.

પ્રવેશ માટે ઓછો અવરોધ. આ સિસ્ટમનો ઉપયોગ કરવા માટે, તમારે ગ્રાફનામાં પ્રોગ્રામિંગ ભાષાઓ અને પ્રશ્નો શીખવાની જરૂર નથી. ફક્ત તમારી એપ્લિકેશન ખોલો, તેમાં એક સોકેટ દાખલ કરો જે ગ્રેફાઇટને મેટ્રિક્સ મોકલશે, તેને બંધ કરશે, Grafana ખોલશે, ત્યાં ડેશબોર્ડ્સ બનાવો અને તમારા મેટ્રિક્સની વર્તણૂક જુઓ, મોઇરા દ્વારા સૂચનાઓ પ્રાપ્ત કરો.

સ્વતંત્રતા. તમે DevOps એન્જિનિયરોની મદદ વિના આ બધું જાતે કરી શકો છો. અને આ એક ફાયદો છે, કારણ કે તમે હમણાં તમારા પ્રોજેક્ટનું નિરીક્ષણ કરી શકો છો, તમારે કોઈને પૂછવાની જરૂર નથી - કાં તો કામ શરૂ કરવા અથવા ફેરફારો કરવા.

આપણે શું લક્ષ્ય રાખીએ છીએ?

નીચે સૂચિબદ્ધ બધું માત્ર અમૂર્ત વિચારો નથી, પરંતુ કંઈક કે જેના તરફ ઓછામાં ઓછા પ્રથમ પગલાં લેવામાં આવ્યા છે.

1. વિસંગતતા ડિટેક્ટર. અમે એવી સેવા બનાવવા માંગીએ છીએ જે અમારા ગ્રેફાઇટ સ્ટોરેજ પર જશે અને વિવિધ અલ્ગોરિધમનો ઉપયોગ કરીને દરેક મેટ્રિકને તપાસશે. ત્યાં પહેલેથી જ અલ્ગોરિધમ્સ છે જે આપણે જોવા માંગીએ છીએ, ત્યાં ડેટા છે, આપણે જાણીએ છીએ કે તેની સાથે કેવી રીતે કામ કરવું.
2. મેટાડેટા. અમારી પાસે ઘણી સેવાઓ છે, તે સમય સાથે બદલાય છે, જેમ કે તેમની સાથે કામ કરતા લોકો. દસ્તાવેજોને મેન્યુઅલી જાળવવું એ કોઈ વિકલ્પ નથી. તેથી જ હવે અમે મેટાડેટાને અમારી માઇક્રોસર્વિસિસમાં એમ્બેડ કરી રહ્યાં છીએ. તે જણાવે છે કે તેને કોણે વિકસાવ્યું છે, તે કઈ ભાષાઓ સાથે સંપર્ક કરે છે, SLA જરૂરિયાતો, ક્યાં અને કોને સૂચનાઓ મોકલવી જોઈએ. સેવાનો ઉપયોગ કરતી વખતે, તમામ એન્ટિટી ડેટા સ્વતંત્ર રીતે બનાવવામાં આવે છે. પરિણામે, તમને બે લિંક્સ મળે છે - એક ટ્રિગર્સ માટે, બીજી Grafana માં ડેશબોર્ડ્સ માટે.
3. દરેક ઘરમાં દેખરેખ. અમે માનીએ છીએ કે તમામ વિકાસકર્તાઓએ આવી સિસ્ટમનો ઉપયોગ કરવો જોઈએ. આ કિસ્સામાં, તમે હંમેશા સમજો છો કે તમારો ટ્રાફિક ક્યાં છે, તેનું શું થાય છે, તે ક્યાં પડે છે, તેની નબળાઈઓ ક્યાં છે. જો, ઉદાહરણ તરીકે, કંઈક આવે છે અને તમારી સેવાને ક્રેશ કરે છે, તો પછી તમે તેના વિશે મેનેજરના કૉલ દરમિયાન નહીં, પરંતુ ચેતવણીથી શીખી શકશો, અને તમે તરત જ નવીનતમ લૉગ્સ ખોલી શકો છો અને ત્યાં શું થયું તે જોઈ શકો છો.
4. સારો પ્રદ્સન. અમારો પ્રોજેક્ટ સતત વધી રહ્યો છે, અને આજે તે લગભગ 2 મેટ્રિક મૂલ્યો પ્રતિ મિનિટ પ્રક્રિયા કરે છે. એક વર્ષ પહેલાં, આ આંકડો 000 હતો. અને વૃદ્ધિ ચાલુ રહે છે, અને આનો અર્થ એ છે કે થોડા સમય પછી ગ્રેફાઇટ (વ્હીસ્પર) ડિસ્ક સબસિસ્ટમને ભારે લોડ કરવાનું શરૂ કરશે. મેં પહેલેથી જ કહ્યું તેમ, ઘટકોની વિનિમયક્ષમતાને કારણે આ મોનિટરિંગ સિસ્ટમ તદ્દન સાર્વત્રિક છે. કોઈ વ્યક્તિ ખાસ કરીને ગ્રેફાઈટ માટે તેમના ઈન્ફ્રાસ્ટ્રક્ચરની જાળવણી કરે છે અને સતત વિસ્તરણ કરે છે, પરંતુ અમે એક અલગ માર્ગ પર જવાનું નક્કી કર્યું: ઉપયોગ ક્લીકહાઉસ અમારા મેટ્રિક્સ માટે ભંડાર તરીકે. આ સંક્રમણ લગભગ પૂર્ણ થઈ ગયું છે, અને ખૂબ જ ટૂંક સમયમાં હું તમને વધુ વિગતવાર કહીશ કે આ કેવી રીતે કરવામાં આવ્યું: ત્યાં કઈ મુશ્કેલીઓ હતી અને તે કેવી રીતે દૂર થઈ, સ્થળાંતર પ્રક્રિયા કેવી રીતે થઈ, હું બંધનકર્તા તરીકે પસંદ કરેલા ઘટકો અને તેમની ગોઠવણીઓનું વર્ણન કરીશ.

તમારા ધ્યાન બદલ આભાર! વિષય પર તમારા પ્રશ્નો પૂછો, હું અહીં અથવા નીચેની પોસ્ટ્સમાં જવાબ આપવાનો પ્રયત્ન કરીશ. કદાચ કોઈને સમાન મોનિટરિંગ સિસ્ટમ બનાવવાનો અથવા સમાન પરિસ્થિતિમાં ક્લિકહાઉસ પર સ્વિચ કરવાનો અનુભવ હોય - તેને ટિપ્પણીઓમાં શેર કરો.

સોર્સ: www.habr.com