விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

விக்டோரியாமெட்ரிக்ஸ் என்பது ஒரு நேரத் தொடரின் வடிவத்தில் தரவைச் சேமிப்பதற்கும் செயலாக்குவதற்கும் ஒரு வேகமான மற்றும் அளவிடக்கூடிய DBMS ஆகும் (ஒரு பதிவு என்பது நேரம் மற்றும் இந்த நேரத்துடன் தொடர்புடைய மதிப்புகளின் தொகுப்பைக் கொண்டுள்ளது, எடுத்துக்காட்டாக, சென்சார்களின் நிலையை அவ்வப்போது வாக்கெடுப்பு மூலம் பெறப்பட்டது அல்லது அளவீடுகளின் தொகுப்பு).


விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

என் பெயர் கொலோபேவ் பாவெல். DevOps, SRE, LeroyMerlin, எல்லாமே குறியீடு போன்றது - இது நம்மைப் பற்றியது: என்னைப் பற்றியும் மற்ற LeroyMerlin ஊழியர்களைப் பற்றியும்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

https://bit.ly/3jf1fIK

OpenStack அடிப்படையில் ஒரு மேகம் உள்ளது. தொழில்நுட்ப ரேடாருக்கு ஒரு சிறிய இணைப்பு உள்ளது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

இது Kubernetes வன்பொருளிலும், OpenStack மற்றும் லாக்கிங்கிற்கான அனைத்து தொடர்புடைய சேவைகளிலும் கட்டமைக்கப்பட்டுள்ளது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

இதுவே நாங்கள் வளர்ச்சியில் இருந்த திட்டம். இதையெல்லாம் நாங்கள் உருவாக்கும் போது, ​​K8s கிளஸ்டருக்குள்ளேயே தரவைச் சேமிக்கும் ஒரு Prometheus ஆபரேட்டர் எங்களிடம் இருந்தது. ஸ்க்ரப் செய்ய வேண்டியதை அவர் தானாகவே கண்டுபிடித்து, தோராயமாகச் சொன்னால், அதைத் தனது காலடியில் வைக்கிறார்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

குபெர்னெட்ஸ் கிளஸ்டருக்கு வெளியே எல்லா தரவையும் நகர்த்த வேண்டும், ஏனென்றால் ஏதாவது நடந்தால், என்ன, எங்கே என்பதை நாம் புரிந்து கொள்ள வேண்டும்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

முதல் தீர்வு என்னவென்றால், எங்களிடம் மூன்றாம் தரப்பு ப்ரோமிதியஸ் இருக்கும்போது, ​​கூட்டமைப்பு பொறிமுறையின் மூலம் குபெர்னெட்டஸ் கிளஸ்டருக்குச் செல்லும்போது கூட்டமைப்பைப் பயன்படுத்துகிறோம்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

ஆனால் இங்கே சில சிறிய பிரச்சனைகள் உள்ளன. எங்கள் விஷயத்தில், எங்களிடம் 250 அளவீடுகள் இருந்தபோது பிரச்சினைகள் தொடங்கின, மேலும் 000 மெட்ரிக்குகள் இருந்தபோது, ​​​​அப்படி வேலை செய்ய முடியாது என்பதை நாங்கள் உணர்ந்தோம். ஸ்க்ரேப்_டைம் அவுட்டை 400 வினாடிகளாக அதிகரித்தோம்.

நாம் ஏன் இதைச் செய்ய வேண்டியிருந்தது? ப்ரோமிதியஸ் வேலியின் தொடக்கத்திலிருந்து காலக்கெடுவை எண்ணத் தொடங்குகிறார். தரவு இன்னும் பாய்கிறது என்பது முக்கியமல்ல. இந்த குறிப்பிட்ட காலப்பகுதியில் தரவு ஒன்றிணைக்கப்படாமலும், http வழியாக அமர்வு மூடப்படாமலும் இருந்தால், அமர்வு தோல்வியுற்றதாகக் கருதப்படுகிறது மற்றும் தரவு ப்ரோமிதியஸுக்குள் வராது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

சில தரவுகள் விடுபட்டால் நாம் பெறும் வரைபடங்கள் அனைவருக்கும் தெரிந்திருக்கும். அட்டவணைகள் கிழிந்துள்ளன, இதனால் நாங்கள் மகிழ்ச்சியடையவில்லை.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

அடுத்த விருப்பம் ஒரே கூட்டமைப்பு பொறிமுறையின் மூலம் இரண்டு வெவ்வேறு ப்ரோமிதியஸை அடிப்படையாகக் கொண்ட ஷார்டிங் ஆகும்.

எடுத்துக்காட்டாக, அவற்றை எடுத்து பெயரால் துண்டிக்கவும். இதையும் பயன்படுத்தலாம், ஆனால் நாங்கள் தொடர முடிவு செய்தோம்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

நாம் இப்போது இந்த துண்டுகளை எப்படியாவது செயலாக்க வேண்டும். நீங்கள் ப்ராம்க்ஸியை எடுக்கலாம், இது ஷார்ட் பகுதிக்குச் சென்று தரவைப் பெருக்கும். இது ஒரு நுழைவு புள்ளியாக இரண்டு துண்டுகளுடன் வேலை செய்கிறது. இதை promxy மூலம் செயல்படுத்தலாம், ஆனால் அது இன்னும் கடினமாக உள்ளது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

கூட்டமைப்பு பொறிமுறையானது மிகவும் மெதுவாக இருப்பதால் அதைக் கைவிட விரும்புகிறோம் என்பது முதல் விருப்பம்.

Prometheus டெவலப்பர்கள், "நண்பர்களே, வேறு TimescaleDB ஐப் பயன்படுத்தவும், ஏனெனில் அளவீடுகளின் நீண்ட கால சேமிப்பை நாங்கள் ஆதரிக்க மாட்டோம்" என்று தெளிவாகச் சொல்கிறார்கள். இது அவர்களின் பணி அல்ல. விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

எல்லாவற்றையும் ஒரே இடத்தில் சேமிக்காமல் இருக்க, இன்னும் வெளியில் இறக்க வேண்டும் என்று ஒரு துண்டு காகிதத்தில் எழுதுகிறோம்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

இரண்டாவது குறைபாடு நினைவக நுகர்வு. ஆம், 2020 இல் இரண்டு ஜிகாபைட் நினைவகத்திற்கு ஒரு பைசா செலவாகும் என்று பலர் கூறுவார்கள் என்பதை நான் புரிந்துகொள்கிறேன், ஆனால் இன்னும்.

இப்போது எங்களிடம் dev மற்றும் prod சூழல் உள்ளது. dev இல் இது 9 மெட்ரிக்குகளுக்கு 350 ஜிகாபைட் ஆகும். தயாரிப்பில் இது 000 ஜிகாபைட்கள் மற்றும் 14 மெட்ரிக்குகளுக்கு சற்று அதிகமாகும். அதே நேரத்தில், எங்கள் தக்கவைப்பு நேரம் 780 நிமிடங்கள் மட்டுமே. இது மோசம். இப்போது நான் ஏன் விளக்குகிறேன்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

நாங்கள் ஒரு கணக்கீடு செய்கிறோம், அதாவது ஒன்றரை மில்லியன் அளவீடுகளுடன், நாங்கள் ஏற்கனவே அவர்களுக்கு நெருக்கமாக இருக்கிறோம், வடிவமைப்பு கட்டத்தில் 35-37 ஜிகாபைட் நினைவகம் கிடைக்கும். ஆனால் ஏற்கனவே 4 மில்லியன் அளவீடுகளுக்கு சுமார் 90 ஜிகாபைட் நினைவகம் தேவைப்படுகிறது. அதாவது, இது ப்ரோமிதியஸ் டெவலப்பர்கள் வழங்கிய சூத்திரத்தைப் பயன்படுத்தி கணக்கிடப்பட்டது. நாங்கள் தொடர்பைப் பார்த்தோம், கண்காணிப்பதற்காக மட்டுமே ஒரு சேவையகத்திற்கு இரண்டு மில்லியன்களை நாங்கள் செலுத்த விரும்பவில்லை என்பதை உணர்ந்தோம்.

இயந்திரங்களின் எண்ணிக்கையை அதிகரிப்பது மட்டுமல்லாமல், மெய்நிகர் இயந்திரங்களையும் நாங்கள் கண்காணித்து வருகிறோம். எனவே, அதிக மெய்நிகர் இயந்திரங்கள், பல்வேறு வகையான அதிக அளவீடுகள் போன்றவை. அளவீடுகளின் அடிப்படையில் எங்கள் கிளஸ்டரின் சிறப்பு வளர்ச்சியைப் பெறுவோம்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

வட்டு இடத்தில், எல்லாம் இங்கே மிகவும் மோசமாக இல்லை, ஆனால் நான் அதை மேம்படுத்த விரும்புகிறேன். 15 நாட்களில் மொத்தம் 120 ஜிகாபைட்களைப் பெற்றுள்ளோம், அதில் 100 சுருக்கப்பட்ட தரவு, 20 சுருக்கப்படாத தரவு, ஆனால் நாங்கள் எப்போதும் குறைவாகவே விரும்புகிறோம்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

அதன்படி, நாங்கள் இன்னும் ஒரு புள்ளியை எழுதுகிறோம் - இது வளங்களின் பெரிய நுகர்வு, நாங்கள் இன்னும் சேமிக்க விரும்புகிறோம், ஏனென்றால் OpenStack ஐ நிர்வகிக்கும் எங்கள் கிளஸ்டரை விட எங்கள் கண்காணிப்பு கிளஸ்டர் அதிக வளங்களை பயன்படுத்த விரும்பவில்லை.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

ப்ரோமிதியஸின் மற்றொரு குறைபாடு உள்ளது, இது நமக்காக அடையாளம் காணப்பட்டுள்ளது, இது குறைந்தபட்சம் ஒருவித நினைவக வரம்பு. ப்ரோமிதியஸுடன், எல்லாமே இங்கே மிகவும் மோசமாக உள்ளது, ஏனென்றால் அது அத்தகைய திருப்பங்களைக் கொண்டிருக்கவில்லை. டோக்கரில் வரம்பைப் பயன்படுத்துவதும் ஒரு விருப்பமல்ல. திடீரென்று உங்கள் RAF விழுந்து 20-30 ஜிகாபைட்கள் இருந்தால், அது உயர நீண்ட நேரம் எடுக்கும்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

ப்ரோமிதியஸ் நமக்குப் பொருந்தாததற்கு இது மற்றொரு காரணம், அதாவது நினைவக நுகர்வுகளை நாம் கட்டுப்படுத்த முடியாது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

அத்தகைய திட்டத்தை கொண்டு வருவது சாத்தியமாகும். HA கிளஸ்டரை ஒழுங்கமைக்க இந்தத் திட்டம் தேவை. இந்த அளவீடுகளைச் சேமிக்கும் சேவையகம் செயலிழந்தாலும், எங்களின் அளவீடுகள் எப்போதும் எல்லா இடங்களிலும் இருக்க வேண்டும் என்று நாங்கள் விரும்புகிறோம். எனவே நாம் அத்தகைய திட்டத்தை உருவாக்க வேண்டும்.

இந்தத் திட்டம் எங்களிடம் துகள்களின் நகல் இருக்கும் என்று கூறுகிறது, அதன்படி, நுகரப்படும் வளங்களின் செலவுகளின் நகல். இது கிட்டத்தட்ட கிடைமட்டமாக அளவிடப்படலாம், இருப்பினும் வள நுகர்வு நரகமாக இருக்கும்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

தீமைகள், அவற்றை நாமே எழுதிக்கொண்ட வடிவத்தில்:

  • வெளிப்புறமாக அளவீடுகளை பதிவேற்றம் செய்ய வேண்டும்.
  • அதிக வள நுகர்வு.
  • நினைவக நுகர்வு குறைக்க வழி இல்லை.
  • HA இன் சிக்கலான மற்றும் வள-தீவிர செயல்படுத்தல்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

நமக்காக, நாங்கள் ஒரு சேமிப்பு வசதியாக ப்ரோமிதியஸிலிருந்து விலகிச் செல்வதாக முடிவு செய்தோம்.

எங்களுக்குத் தேவையான கூடுதல் தேவைகளை நாங்கள் கண்டறிந்துள்ளோம். இது:

  • இது promql ஆதரவு, ஏனென்றால் ப்ரோமிதியஸுக்கு ஏற்கனவே நிறைய விஷயங்கள் எழுதப்பட்டுள்ளன: வினவல்கள், விழிப்பூட்டல்கள்.
  • பின்னர் எங்களிடம் கிராஃபானா உள்ளது, இது ஏற்கனவே ப்ரோமிதியஸுக்கு ஒரு பின்தளமாக அதே வழியில் எழுதப்பட்டுள்ளது. நான் டாஷ்போர்டுகளை மீண்டும் எழுத விரும்பவில்லை.
  • நாங்கள் ஒரு சாதாரண HA கட்டிடக்கலையை உருவாக்க விரும்புகிறோம்.
  • எந்த வளங்களின் நுகர்வையும் குறைக்க விரும்புகிறோம்.
  • மற்றொரு சிறிய நுணுக்கம் உள்ளது. பல்வேறு வகையான கிளவுட் மெட்ரிக்ஸ் சேகரிப்பு அமைப்புகளை எங்களால் பயன்படுத்த முடியாது. இந்த அளவீடுகளில் என்ன வரும் என்பது எங்களுக்கு இன்னும் தெரியவில்லை. மற்றும் அங்கு எதுவும் பறக்க முடியும் என்பதால், நாம் உள்ளூர் வேலை வாய்ப்புக்கு நம்மை கட்டுப்படுத்த வேண்டும்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

சிறிய தேர்வு இருந்தது. எங்களுக்கு அனுபவம் உள்ள அனைத்தையும் சேகரித்தோம். ஒருங்கிணைப்புப் பிரிவில் உள்ள ப்ரோமிதியஸ் பக்கத்தைப் பார்த்தோம், சில கட்டுரைகளைப் படித்தோம், அங்கே என்ன இருக்கிறது என்பதைப் பார்த்தோம். நமக்காக, ப்ரோமிதியஸுக்கு மாற்றாக விக்டோரியாமெட்ரிக்ஸைத் தேர்ந்தெடுத்தோம்.

ஏன்? ஏனெனில்:

  • promql தெரியும்.
  • ஒரு மட்டு கட்டிடக்கலை உள்ளது.
  • கிராஃபனாவில் மாற்றங்கள் தேவையில்லை.
  • மிக முக்கியமாக, எங்கள் நிறுவனத்திற்குள் அளவீடுகள் சேமிப்பகத்தை ஒரு சேவையாக வழங்குவோம், எனவே பல்வேறு வகையான கட்டுப்பாடுகளை நாங்கள் முன்கூட்டியே பார்க்கிறோம், இதனால் பயனர்கள் கிளஸ்டரின் அனைத்து வளங்களையும் சில வரையறுக்கப்பட்ட வழியில் பயன்படுத்த முடியும், ஏனெனில் வாய்ப்பு உள்ளது. அது பல்வகைப்படும்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

முதல் ஒப்பீடு செய்வோம். நாங்கள் அதே ப்ரோமிதியஸை கிளஸ்டருக்குள் எடுத்துக்கொள்கிறோம், வெளிப்புற ப்ரோமிதியஸ் அதற்கு செல்கிறார். ரிமோட் ரைட் விக்டோரியாமெட்ரிக்ஸ் மூலம் சேர்க்கவும்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

VictoriaMetrics இலிருந்து CPU நுகர்வு சற்று அதிகரித்திருப்பதாக நான் உடனடியாக முன்பதிவு செய்வேன். எந்த அளவுருக்கள் சிறந்தவை என்பதை விக்டோரியாமெட்ரிக்ஸ் விக்கி உங்களுக்குக் கூறுகிறது. அவற்றைச் சரிபார்த்தோம். அவர்கள் CPU நுகர்வுகளை நன்றாகக் குறைத்துள்ளனர்.

எங்கள் விஷயத்தில், குபெர்னெட்ஸ் கிளஸ்டரில் அமைந்துள்ள ப்ரோமிதியஸின் நினைவக நுகர்வு கணிசமாக அதிகரிக்கவில்லை.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

ஒரே தரவின் இரண்டு தரவு மூலங்களை ஒப்பிடுகிறோம். Prometheus இல் நாம் அதே விடுபட்ட தரவைப் பார்க்கிறோம். விக்டோரியாமெட்ரிக்ஸில் எல்லாம் நன்றாக இருக்கிறது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

டிஸ்க் ஸ்பேஸ் சோதனை முடிவுகள். ப்ரோமிதியஸில் நாங்கள் மொத்தம் 120 ஜிகாபைட்களைப் பெற்றோம். VictoriaMetrics இல் நாங்கள் ஏற்கனவே ஒரு நாளைக்கு 4 ஜிகாபைட்களைப் பெறுகிறோம். நாம் ப்ரோமிதியஸில் பார்க்கப் பழகியதை விட சற்று வித்தியாசமான பொறிமுறை உள்ளது. அதாவது, தரவு ஏற்கனவே ஒரு நாளில், அரை மணி நேரத்தில் நன்றாக சுருக்கப்பட்டுள்ளது. தரவு பின்னர் இழக்கப்படும் என்ற போதிலும், அவை ஏற்கனவே ஒரு நாளில், அரை மணி நேரத்தில் நன்றாக அறுவடை செய்யப்பட்டுள்ளன. இதன் விளைவாக, நாங்கள் வட்டு இடத்தை சேமித்தோம்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

நினைவக வள நுகர்வையும் நாங்கள் சேமிக்கிறோம். சோதனையின் போது, ​​8 கோர்கள், 24 ஜிகாபைட்கள் - ஒரு மெய்நிகர் கணினியில் ப்ரோமிதியஸை நாங்கள் பயன்படுத்தினோம். ப்ரோமிதியஸ் கிட்டத்தட்ட எல்லாவற்றையும் சாப்பிடுகிறார். அவர் OOM கில்லர் மீது விழுந்தார். அதே நேரத்தில், 900 செயலில் உள்ள அளவீடுகள் மட்டுமே அதில் ஊற்றப்பட்டன. இது ஒரு வினாடிக்கு சுமார் 000-25 மெட்ரிக்குகள்.

8 ஜிகாபைட் ரேம் கொண்ட டூயல் கோர் மெய்நிகர் கணினியில் விக்டோரியாமெட்ரிக்ஸை இயக்கினோம். 8ஜிபி மெஷினில் சில விஷயங்களைப் பயன்படுத்தி விக்டோரியாமெட்ரிக்ஸ் நன்றாக வேலை செய்ய முடிந்தது. இறுதியில், நாங்கள் அதை 7 ஜிகாபைட்களாக வைத்திருந்தோம். அதே நேரத்தில், உள்ளடக்கத்தை வழங்குவதற்கான வேகம், அதாவது அளவீடுகள், ப்ரோமிதியஸை விட அதிகமாக இருந்தது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

ப்ரோமிதியஸுடன் ஒப்பிடும்போது CPU மிகவும் சிறப்பாக உள்ளது. இங்கே ப்ரோமிதியஸ் 2,5 கோர்களைப் பயன்படுத்துகிறார், மேலும் விக்டோரியாமெட்ரிக்ஸ் 0,25 கோர்களை மட்டுமே பயன்படுத்துகிறது. தொடக்கத்தில் - 0,5 கோர்கள். இது ஒன்றிணைக்கும்போது, ​​​​அது ஒரு மையத்தை அடைகிறது, ஆனால் இது மிகவும் அரிதானது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

எங்கள் விஷயத்தில், வெளிப்படையான காரணங்களுக்காக தேர்வு விக்டோரியாமெட்ரிக்ஸில் விழுந்தது; நாங்கள் பணத்தை சேமிக்க விரும்பினோம், நாங்கள் செய்தோம்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

இரண்டு புள்ளிகளை இப்போதே கடப்போம் - அளவீடுகளின் பதிவேற்றம் மற்றும் வளங்களின் அதிக நுகர்வு. நாம் இன்னும் நமக்கு விட்டுச்சென்ற இரண்டு புள்ளிகளை நாம் தீர்மானிக்க வேண்டும்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

இங்கே நான் இப்போதே முன்பதிவு செய்வேன், விக்டோரியாமெட்ரிக்ஸை அளவீடுகளின் சேமிப்பகமாகக் கருதுகிறோம். ஆனால் லெராய் அனைத்திற்கும் சேமிப்பகமாக விக்டோரியாமெட்ரிக்ஸை நாங்கள் வழங்குவோம் என்பதால், இந்தக் கிளஸ்டரைப் பயன்படுத்துபவர்களை அவர்கள் எங்களுக்குக் கொடுக்காமல் இருக்கக் கட்டுப்படுத்த வேண்டும்.

ஒரு அற்புதமான அளவுரு உள்ளது, இது நேரம், தரவு அளவு மற்றும் செயல்படுத்தும் நேரம் ஆகியவற்றைக் கட்டுப்படுத்த உங்களை அனுமதிக்கிறது.

நினைவக நுகர்வு குறைக்க அனுமதிக்கும் ஒரு சிறந்த விருப்பமும் உள்ளது, இதன் மூலம் இயல்பான இயக்க வேகம் மற்றும் போதுமான வள நுகர்வு ஆகியவற்றைப் பெற அனுமதிக்கும் சமநிலையை நாம் காணலாம்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

மைனஸ் இன்னும் ஒரு புள்ளி, அதாவது புள்ளியை கடந்து செல்லுங்கள் - நீங்கள் நினைவக நுகர்வு குறைக்க முடியாது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

முதல் மறு செய்கைகளில், விக்டோரியாமெட்ரிக்ஸ் ஒற்றை முனையை சோதித்தோம். அடுத்து நாம் விக்டோரியாமெட்ரிக்ஸ் கிளஸ்டர் பதிப்பிற்கு செல்கிறோம்.

VictoriaMetrics இன் பல்வேறு சேவைகளை அவர்கள் எதில் இயங்குவார்கள் மற்றும் எந்த ஆதாரங்களைப் பயன்படுத்துவார்கள் என்பதைப் பொறுத்து இங்கு எங்களுக்கு இலவசக் கை உள்ளது. இது மிகவும் நெகிழ்வான மற்றும் வசதியான தீர்வாகும். இதை நாமே பயன்படுத்தினோம்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

விக்டோரியாமெட்ரிக்ஸ் கிளஸ்டர் பதிப்பின் முக்கிய கூறுகள் vmssorage ஆகும். அவற்றில் N எண் இருக்கலாம். எங்கள் விஷயத்தில் இதுவரை 2 உள்ளன.

மற்றும் vminsert உள்ளது. இது எங்களை அனுமதிக்கும் ப்ராக்ஸி சேவையகம்: நாங்கள் சொன்ன எல்லா சேமிப்பகங்களுக்கும் இடையில் ஷார்டிங்கை ஏற்பாடு செய்யுங்கள், மேலும் இது ஒரு பிரதியை அனுமதிக்கிறது, அதாவது உங்களிடம் ஷார்டிங் மற்றும் பிரதி இரண்டும் இருக்கும்.

Vminsert OpenTSDB, Graphite, InfluxDB மற்றும் Prometheus இலிருந்து ரிமோட் ரைட் நெறிமுறைகளை ஆதரிக்கிறது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

vmselect உள்ளது. அதன் முக்கிய பணி, vmstorage க்கு சென்று, அவர்களிடமிருந்து தரவைப் பெற்று, இந்தத் தரவை நகலெடுத்து கிளையண்டிற்கு வழங்குவது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

vmagent என்று ஒரு அற்புதமான விஷயம் உள்ளது. நாங்கள் அவளை மிகவும் விரும்புகிறோம். இது ப்ரோமிதியஸைப் போலவே உள்ளமைக்க உங்களை அனுமதிக்கிறது மற்றும் இன்னும் ப்ரோமிதியஸைப் போலவே எல்லாவற்றையும் செய்கிறது. அதாவது, இது வெவ்வேறு நிறுவனங்கள் மற்றும் சேவைகளிலிருந்து அளவீடுகளைச் சேகரித்து அவற்றை vminsert க்கு அனுப்புகிறது. பின்னர் எல்லாம் உங்களைப் பொறுத்தது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

மற்றொரு சிறந்த சேவை vmalert ஆகும், இது VictoriaMetrics ஐ பின்தளமாகப் பயன்படுத்தவும், vminsert இலிருந்து செயலாக்கப்பட்ட தரவைப் பெறவும் மற்றும் vmselect க்கு அனுப்பவும் உங்களை அனுமதிக்கிறது. இது விழிப்பூட்டல்களையும், விதிகளையும் செயல்படுத்துகிறது. விழிப்பூட்டல்களின் விஷயத்தில், எச்சரிக்கை மேலாளர் மூலம் எச்சரிக்கையைப் பெறுகிறோம்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

ஒரு wmauth கூறு உள்ளது. க்ளஸ்டர்களின் மல்டிடெனன்சி பதிப்பிற்கான அங்கீகார அமைப்பாக இதை நாங்கள் பயன்படுத்தலாம் அல்லது (இதுவரை நாங்கள் முடிவு செய்யவில்லை) பயன்படுத்தலாம். இது Prometheus க்கான remoteWrite ஐ ஆதரிக்கிறது மற்றும் url அல்லது அதன் இரண்டாம் பகுதியின் அடிப்படையில் அங்கீகரிக்க முடியும், அங்கு நீங்கள் எழுதலாம் அல்லது எழுத முடியாது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

vmbackup, vmrestore உள்ளது. இது, சாராம்சத்தில், எல்லா தரவின் மறுசீரமைப்பு மற்றும் காப்புப்பிரதி ஆகும். S3, GCS, file செய்ய முடியும்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

எங்கள் கிளஸ்டரின் முதல் மறு செய்கை தனிமைப்படுத்தலின் போது செய்யப்பட்டது. அந்த நேரத்தில், எந்த பிரதியும் இல்லை, எனவே எங்கள் மறு செய்கை இரண்டு வெவ்வேறு மற்றும் சுயாதீனமான கிளஸ்டர்களைக் கொண்டிருந்தது, அதில் நாங்கள் ரிமோட்ரைட் மூலம் தரவைப் பெற்றோம்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

விக்டோரியாமெட்ரிக்ஸ் சிங்கிள் நோடில் இருந்து விக்டோரியாமெட்ரிக்ஸ் கிளஸ்டர் பதிப்பிற்கு மாறியபோதும், அதே நுகர்வு ஆதாரங்களுடன் நாங்கள் இருந்தோம், அதாவது முக்கியமானது நினைவகம் என்பதை இங்கே முன்பதிவு செய்கிறேன். எங்கள் தரவு, அதாவது வள நுகர்வு, தோராயமாக இப்படித்தான் விநியோகிக்கப்பட்டது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

ஒரு பிரதி ஏற்கனவே இங்கே சேர்க்கப்பட்டுள்ளது. இதையெல்லாம் ஒரு பெரிய கிளஸ்டராக இணைத்தோம். எங்களின் எல்லாத் தரவுகளும் துண்டாக்கப்பட்டவை மற்றும் நகலெடுக்கப்பட்டவை.

முழு கிளஸ்டருக்கும் N நுழைவுப் புள்ளிகள் உள்ளன, அதாவது ப்ரோமிதியஸ் HAPROXY வழியாக தரவைச் சேர்க்க முடியும். இங்கே இந்த நுழைவுப் புள்ளி உள்ளது. இந்த நுழைவு புள்ளியின் மூலம் நீங்கள் கிராஃபானாவிலிருந்து உள்நுழையலாம்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

எங்கள் விஷயத்தில், HAPROXY மட்டுமே இந்த க்ளஸ்டருக்குள் ப்ராக்ஸிகள் தேர்ந்தெடுக்கும், செருகும் மற்றும் பிற சேவைகளை வழங்கும் ஒரே போர்ட் ஆகும். எங்கள் விஷயத்தில், ஒரு முகவரியை உருவாக்குவது சாத்தியமில்லை; நாங்கள் பல நுழைவு புள்ளிகளை உருவாக்க வேண்டியிருந்தது, ஏனென்றால் விக்டோரியாமெட்ரிக்ஸ் கிளஸ்டர் இயங்கும் மெய்நிகர் இயந்திரங்கள் ஒரே கிளவுட் வழங்குநரின் வெவ்வேறு மண்டலங்களில் அமைந்துள்ளன, அதாவது எங்கள் மேகத்திற்குள் அல்ல, ஆனால் வெளியே. .

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

எங்களிடம் எச்சரிக்கை உள்ளது. நாங்கள் அதைப் பயன்படுத்துகிறோம். நாங்கள் Prometheus இலிருந்து எச்சரிக்கை மேலாளரைப் பயன்படுத்துகிறோம். நாங்கள் Opsgenie மற்றும் Telegramஐ எச்சரிக்கை விநியோக சேனலாகப் பயன்படுத்துகிறோம். டெலிகிராமில், டெலிகிராமில் இருந்து, ப்ராடிலிருந்து ஏதாவது இருக்கலாம், ஆனால் பெரும்பாலும் பொறியாளர்களுக்குத் தேவைப்படும் புள்ளி விவரங்கள். மற்றும் Opsgenie முக்கியமானவர். இவை அழைப்புகள், சம்பவ மேலாண்மை.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

நித்திய கேள்வி: "கண்காணிப்பை யார் கண்காணிக்கிறார்கள்?" எங்கள் விஷயத்தில், கண்காணிப்பு மானிட்டர்கள் தன்னைக் கண்காணித்துக் கொள்கின்றன, ஏனெனில் ஒவ்வொரு முனையிலும் நாம் vmagent ஐப் பயன்படுத்துகிறோம். எங்கள் கணுக்கள் ஒரே வழங்குநரின் வெவ்வேறு தரவு மையங்களில் விநியோகிக்கப்படுவதால், ஒவ்வொரு தரவு மையத்திற்கும் அதன் சொந்த சேனல் உள்ளது, அவை சுயாதீனமானவை, மேலும் ஒரு பிளவு மூளை வந்தாலும், நாங்கள் விழிப்பூட்டல்களைப் பெறுவோம். ஆம், அவற்றில் அதிகமானவை இருக்கும், ஆனால் எதுவும் இல்லாததை விட அதிக விழிப்பூட்டல்களைப் பெறுவது நல்லது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

எங்களின் பட்டியலை HA செயல்படுத்தலுடன் முடிக்கிறோம்.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

மேலும் விக்டோரியாமெட்ரிக்ஸ் சமூகத்துடன் தொடர்பு கொண்ட அனுபவத்தை நான் கவனிக்க விரும்புகிறேன். இது மிகவும் நேர்மறையாக மாறியது. தோழர்களே பதிலளிக்கக்கூடியவர்கள். அவர்கள் வழங்கப்படும் ஒவ்வொரு வழக்கையும் ஆராய முயற்சிக்கிறார்கள்.

நான் GitHub இல் சிக்கல்களைத் தொடங்கினேன். அவை மிக விரைவாக தீர்க்கப்பட்டன. இன்னும் இரண்டு சிக்கல்கள் உள்ளன, அவை முழுமையாக மூடப்படவில்லை, ஆனால் இந்த திசையில் செயல்படும் குறியீட்டிலிருந்து நான் ஏற்கனவே பார்க்க முடியும்.

மறு செய்கைகளின் போது எனக்கு ஏற்பட்ட முக்கிய வலி என்னவென்றால், நான் ஒரு முனையை மூடினால், முதல் 30 வினாடிகளுக்கு பின்தளம் இல்லை என்பதை vminsert புரிந்து கொள்ள முடியாது. இது தற்போது முடிவு செய்யப்பட்டுள்ளது. உண்மையில் ஒரு வினாடி அல்லது இரண்டில், மீதமுள்ள அனைத்து முனைகளிலிருந்தும் தரவு எடுக்கப்படுகிறது, மேலும் கோரிக்கை அந்த விடுபட்ட முனைக்காக காத்திருப்பதை நிறுத்துகிறது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

ஒரு கட்டத்தில் VictoriaMetrics ஒரு VictoriaMetrics ஆபரேட்டராக இருக்க வேண்டும் என்று நாங்கள் விரும்பினோம். நாங்கள் அவருக்காக காத்திருந்தோம். ப்ரோமிதியஸ் ஆபரேட்டருடன் வரும் விதிகளை நாங்கள் மிகவும் தீவிரமாகப் பயன்படுத்துவதால், விக்டோரியாமெட்ரிக்ஸ் ஆபரேட்டருக்கு அனைத்து முன்கணிப்பு விதிகள் போன்றவற்றைப் பெறுவதற்கான கட்டமைப்பை இப்போது தீவிரமாக உருவாக்கி வருகிறோம்.

கிளஸ்டர் அமலாக்கத்தை மேம்படுத்துவதற்கான முன்மொழிவுகள் உள்ளன. அவற்றை மேலே கோடிட்டுக் காட்டினேன்.

மற்றும் நான் உண்மையில் குறைக்க விரும்புகிறேன். எங்கள் விஷயத்தில், போக்குகளைப் பார்ப்பதற்கு பிரத்தியேகமாக இறக்கம் தேவை. தோராயமாகச் சொன்னால், பகலில் எனக்கு ஒரு மெட்ரிக் போதும். இந்த போக்குகள் ஒரு வருடம், மூன்று, ஐந்து, பத்து ஆண்டுகளுக்கு தேவை. மேலும் ஒரு மெட்ரிக் மதிப்பு போதுமானது.
விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

  • ப்ரோமிதியஸைப் பயன்படுத்தும் போது, ​​எங்களுடைய சில சக ஊழியர்களைப் போலவே, எங்களுக்கும் வலி தெரியும்.
  • விக்டோரியாமெட்ரிக்ஸை நாங்களே தேர்ந்தெடுத்தோம்.
  • இது செங்குத்தாக மற்றும் கிடைமட்டமாக நன்றாக அளவிடுகிறது.
  • கிளஸ்டரில் உள்ள வெவ்வேறு எண்களின் முனைகளுக்கு வெவ்வேறு கூறுகளை விநியோகிக்கலாம், நினைவகத்தால் கட்டுப்படுத்தலாம், நினைவகத்தைச் சேர்க்கலாம்.

நாங்கள் விக்டோரியாமெட்ரிக்ஸை வீட்டில் பயன்படுத்துவோம், ஏனெனில் நாங்கள் அதை மிகவும் விரும்பினோம். இதுதான் இருந்தது, ஆகிவிட்டது.

விக்டோரியாமெட்ரிக்ஸ் மற்றும் தனியார் கிளவுட் கண்காணிப்பு. பாவெல் கோலோபேவ்

https://t.me/VictoriaMetrics_ru1

VictoriaMetrics அரட்டை, எனது தொடர்புகள், LeroyMerlin தொழில்நுட்ப ரேடருக்கான இரண்டு QR குறியீடுகள்.

ஆதாரம்: www.habr.com

கருத்தைச் சேர்