ಪ್ರೊಮೀತಿಯಸ್ 2 ರಲ್ಲಿನ ಸಮಯ ಸರಣಿ ಡೇಟಾಬೇಸ್ (TSDB) ಎಂಜಿನಿಯರಿಂಗ್ ಪರಿಹಾರದ ಒಂದು ಉತ್ತಮ ಉದಾಹರಣೆಯಾಗಿದ್ದು, ಇದು ಪ್ರೊಮೀತಿಯಸ್ 2 ರಲ್ಲಿನ v1 ಸಂಗ್ರಹಣೆಗಿಂತ ಡೇಟಾ ಸಂಗ್ರಹಣೆ ಮತ್ತು ಪ್ರಶ್ನೆ ಕಾರ್ಯಕ್ಷಮತೆ ಮತ್ತು ಸಂಪನ್ಮೂಲ ದಕ್ಷತೆಯ ವಿಷಯದಲ್ಲಿ ಗಮನಾರ್ಹ ಸುಧಾರಣೆಗಳನ್ನು ನೀಡುತ್ತದೆ. ನಾವು ಪರ್ಕೋನಾ ಮಾನಿಟರಿಂಗ್ ಮತ್ತು ಮ್ಯಾನೇಜ್ಮೆಂಟ್ (PMM) ನಲ್ಲಿ ಪ್ರೊಮೀತಿಯಸ್ 2 ಅನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುತ್ತಿದ್ದೆವು, ಮತ್ತು ಪ್ರೊಮೀತಿಯಸ್ 2 TSDB ಯ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ನನಗೆ ಅವಕಾಶ ಸಿಕ್ಕಿತು. ಈ ಲೇಖನದಲ್ಲಿ, ನಾನು ಈ ಅವಲೋಕನಗಳ ಫಲಿತಾಂಶಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತೇನೆ.
ಪ್ರೊಮೀತಿಯಸ್ ಸರಾಸರಿ ಕೆಲಸದ ಹೊರೆ
ಪ್ರಾಥಮಿಕ ಉದ್ದೇಶದ ಡೇಟಾಬೇಸ್ಗಳೊಂದಿಗೆ ವ್ಯವಹರಿಸಲು ಒಗ್ಗಿಕೊಂಡಿರುವವರಿಗೆ, ವಿಶಿಷ್ಟವಾದ ಪ್ರೊಮೀತಿಯಸ್ ಕೆಲಸದ ಹೊರೆ ಸಾಕಷ್ಟು ಆಸಕ್ತಿದಾಯಕವಾಗಿದೆ. ಡೇಟಾ ಸಂಗ್ರಹಣೆಯ ದರವು ಸ್ಥಿರವಾಗಿರುತ್ತದೆ: ನೀವು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವ ಸೇವೆಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಸರಿಸುಮಾರು ಒಂದೇ ಸಂಖ್ಯೆಯ ಮೆಟ್ರಿಕ್ಗಳನ್ನು ಕಳುಹಿಸುತ್ತವೆ ಮತ್ತು ಮೂಲಸೌಕರ್ಯವು ತುಲನಾತ್ಮಕವಾಗಿ ನಿಧಾನವಾಗಿ ಬದಲಾಗುತ್ತದೆ.
ಮಾಹಿತಿಗಾಗಿ ವಿನಂತಿಗಳು ವಿವಿಧ ಮೂಲಗಳಿಂದ ಬರಬಹುದು. ಕೆಲವು, ಎಚ್ಚರಿಕೆಗಳಂತೆ, ಸ್ಥಿರವಾಗಿರುತ್ತವೆ ಮತ್ತು ಊಹಿಸಬಹುದಾದವುಗಳಾಗಿರುತ್ತವೆ. ಬಳಕೆದಾರರ ವಿನಂತಿಗಳಂತೆ ಇತರವು ಸ್ಪೈಕ್ಗಳಿಗೆ ಕಾರಣವಾಗಬಹುದು, ಆದಾಗ್ಯೂ ಇದು ಹೆಚ್ಚಿನ ಲೋಡ್ಗಳಿಗೆ ವಿಶಿಷ್ಟವಲ್ಲ.
ಲೋಡ್ ಪರೀಕ್ಷೆ
ಪರೀಕ್ಷೆಯ ಸಮಯದಲ್ಲಿ, ನಾನು ಡೇಟಾವನ್ನು ಒಟ್ಟುಗೂಡಿಸುವ ಸಾಮರ್ಥ್ಯದ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸಿದೆ. ನಾನು ಈ ಸ್ಕ್ರಿಪ್ಟ್ ಅನ್ನು ಬಳಸಿಕೊಂಡು ಲಿನೋಡ್ ಸೇವೆಗೆ ಗೋ 2.3.2 (PMM 1.10.1 ರ ಭಾಗವಾಗಿ) ನೊಂದಿಗೆ ಸಂಕಲಿಸಿದ ಪ್ರೊಮೀತಿಯಸ್ 1.14 ಅನ್ನು ನಿಯೋಜಿಸಿದೆ: ಅತ್ಯಂತ ವಾಸ್ತವಿಕ ಲೋಡ್ ಉತ್ಪಾದನೆಗಾಗಿ, ಇದು ನಾನು ಹಲವಾರು MySQL ನೋಡ್ಗಳನ್ನು ನಿಜವಾದ ಲೋಡ್ನೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿದೆ (Sysbench TPC-C ಪರೀಕ್ಷೆ), ಪ್ರತಿಯೊಂದೂ 10 ನೋಡ್ಗಳನ್ನು ಅನುಕರಿಸಿತು. Linux/ನನ್ನQL.
ಈ ಕೆಳಗಿನ ಎಲ್ಲಾ ಪರೀಕ್ಷೆಗಳನ್ನು ಎಂಟು ವರ್ಚುವಲ್ ಕೋರ್ಗಳು ಮತ್ತು 32GB ಮೆಮೊರಿಯೊಂದಿಗೆ ಲಿನೋಡ್ ಸರ್ವರ್ನಲ್ಲಿ ನಡೆಸಲಾಯಿತು, 20 MySQL ನಿದರ್ಶನಗಳನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವ 800 ಲೋಡ್ ಸಿಮ್ಯುಲೇಶನ್ಗಳನ್ನು ನಡೆಸಲಾಯಿತು. ಅಥವಾ, ಪ್ರೊಮೀತಿಯಸ್ ಪರಿಭಾಷೆಯಲ್ಲಿ, 440 ಗುರಿಗಳು, ಪ್ರತಿ ಸೆಕೆಂಡಿಗೆ 380 ಸ್ಕ್ರ್ಯಾಪ್ಗಳು, ಪ್ರತಿ ಸೆಕೆಂಡಿಗೆ 1,7 ಮಾದರಿಗಳು ಮತ್ತು XNUMX ಮಿಲಿಯನ್ ಸಕ್ರಿಯ ಸಮಯ ಸರಣಿಗಳು.
ಡಿಸೈನ್
ಪ್ರೊಮೀತಿಯಸ್ 1.x ನಿಂದ ಬಳಸಲ್ಪಟ್ಟ ಸಾಂಪ್ರದಾಯಿಕ ಡೇಟಾಬೇಸ್ಗಳ ವಿಶಿಷ್ಟ ವಿಧಾನವು . ಲೋಡ್ ಅನ್ನು ನಿರ್ವಹಿಸಲು ಅದು ಸಾಕಾಗದಿದ್ದರೆ, ನೀವು ಹೆಚ್ಚಿನ ಸುಪ್ತತೆಯನ್ನು ಅನುಭವಿಸುವಿರಿ ಮತ್ತು ಕೆಲವು ಪ್ರಶ್ನೆಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಲಾಗುವುದಿಲ್ಲ. ಪ್ರೊಮೀತಿಯಸ್ 2 ರಲ್ಲಿ ಮೆಮೊರಿ ಬಳಕೆಯನ್ನು ಕೀಲಿಯ ಮೂಲಕ ಕಾನ್ಫಿಗರ್ ಮಾಡಲಾಗಿದೆ storage.tsdb.min-block-duration, ಇದು ಡಿಸ್ಕ್ಗೆ ಫ್ಲಶ್ ಮಾಡುವ ಮೊದಲು ದಾಖಲೆಗಳನ್ನು ಎಷ್ಟು ಸಮಯದವರೆಗೆ ಮೆಮೊರಿಯಲ್ಲಿ ಇಡಲಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ನಿರ್ಧರಿಸುತ್ತದೆ (ಡೀಫಾಲ್ಟ್ 2 ಗಂಟೆಗಳು). ಅಗತ್ಯವಿರುವ ಮೆಮೊರಿಯ ಪ್ರಮಾಣವು ನಿವ್ವಳ ಒಳಬರುವ ಹರಿವಿನ ಜೊತೆಗೆ ಸಮಯ ಸರಣಿ, ಲೇಬಲ್ಗಳು ಮತ್ತು ಸ್ಕ್ರ್ಯಾಪ್ಗಳ ಸಂಖ್ಯೆಯನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ. ಡಿಸ್ಕ್ ಸ್ಥಳದ ವಿಷಯದಲ್ಲಿ, ಪ್ರೊಮೀತಿಯಸ್ ಪ್ರತಿ ರೆಕಾರ್ಡ್ಗೆ 3 ಬೈಟ್ಗಳನ್ನು (ಮಾದರಿ) ಬಳಸುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ. ಮತ್ತೊಂದೆಡೆ, ಮೆಮೊರಿ ಅವಶ್ಯಕತೆಗಳು ಹೆಚ್ಚು.
ಬ್ಲಾಕ್ ಗಾತ್ರವನ್ನು ಕಾನ್ಫಿಗರ್ ಮಾಡಲು ಸಾಧ್ಯವಾದರೂ, ಅದನ್ನು ಹಸ್ತಚಾಲಿತವಾಗಿ ಕಾನ್ಫಿಗರ್ ಮಾಡಲು ಶಿಫಾರಸು ಮಾಡುವುದಿಲ್ಲ, ಆದ್ದರಿಂದ ನಿಮ್ಮ ಕೆಲಸದ ಹೊರೆಗೆ ಪ್ರೊಮಿಥಿಯಸ್ ವಿನಂತಿಸುವಷ್ಟು ಮೆಮೊರಿಯನ್ನು ನೀಡುವುದು ಕಡ್ಡಾಯವಾಗಿರುತ್ತದೆ.
ಒಳಬರುವ ಮೆಟ್ರಿಕ್ಸ್ ಸ್ಟ್ರೀಮ್ ಅನ್ನು ಬೆಂಬಲಿಸಲು ಸಾಕಷ್ಟು ಮೆಮೊರಿ ಇಲ್ಲದಿದ್ದರೆ, ಪ್ರೊಮೀತಿಯಸ್ ಮೆಮೊರಿ ಇಲ್ಲದೆ ಕ್ರ್ಯಾಶ್ ಆಗುತ್ತದೆ ಅಥವಾ OOM ಕೊಲೆಗಾರನಿಂದ ಹಿಡಿಯಲ್ಪಡುತ್ತದೆ.
ಪ್ರೊಮೀತಿಯಸ್ ಮೆಮೊರಿ ಖಾಲಿಯಾದಾಗ ಕ್ರ್ಯಾಶ್ ಅನ್ನು ವಿಳಂಬಗೊಳಿಸಲು ಸ್ವಾಪ್ ಅನ್ನು ಸೇರಿಸುವುದರಿಂದ ಹೆಚ್ಚಿನ ಸಹಾಯವಾಗುವುದಿಲ್ಲ ಏಕೆಂದರೆ ಅದನ್ನು ಬಳಸುವುದರಿಂದ ಮೆಮೊರಿ ಬಳಕೆ ಸ್ಫೋಟಗೊಳ್ಳುತ್ತದೆ. ಅದು ಗೋ, ಅದರ ಕಸ ಸಂಗ್ರಾಹಕ ಮತ್ತು ಅದು ಸ್ವಾಪ್ ಅನ್ನು ಹೇಗೆ ನಿರ್ವಹಿಸುತ್ತದೆ ಎಂದು ನಾನು ಭಾವಿಸುತ್ತೇನೆ.
ಮತ್ತೊಂದು ಆಸಕ್ತಿದಾಯಕ ವಿಧಾನವೆಂದರೆ ಪ್ರಕ್ರಿಯೆಯು ಪ್ರಾರಂಭವಾದ ಸಮಯದಿಂದ ಎಣಿಸುವ ಬದಲು, ನಿರ್ದಿಷ್ಟ ಸಮಯದಲ್ಲಿ ಡಿಸ್ಕ್ಗೆ ಫ್ಲಶ್ ಮಾಡಬೇಕಾದ ಹೆಡ್ ಬ್ಲಾಕ್ ಅನ್ನು ಹೊಂದಿಸುವುದು.
ನೀವು ಗ್ರಾಫ್ನಿಂದ ನೋಡಬಹುದಾದಂತೆ, ಪ್ರತಿ ಎರಡು ಗಂಟೆಗಳಿಗೊಮ್ಮೆ ಡಿಸ್ಕ್ಗೆ ಫ್ಲಶ್ಗಳು ಸಂಭವಿಸುತ್ತವೆ. ನೀವು ನಿಮಿಷ-ಬ್ಲಾಕ್-ಅವಧಿಯ ನಿಯತಾಂಕವನ್ನು ಒಂದು ಗಂಟೆಗೆ ಬದಲಾಯಿಸಿದರೆ, ಈ ಫ್ಲಶ್ಗಳು ಅರ್ಧ ಗಂಟೆಯ ನಂತರ ಪ್ರಾರಂಭಿಸಿ ಪ್ರತಿ ಗಂಟೆಗೆ ಸಂಭವಿಸುತ್ತವೆ.
ನಿಮ್ಮ ಪ್ರೊಮೀತಿಯಸ್ ಅನುಸ್ಥಾಪನೆಯಲ್ಲಿ ಇದನ್ನು ಮತ್ತು ಇತರ ಗ್ರಾಫ್ಗಳನ್ನು ಬಳಸಲು ನೀವು ಬಯಸಿದರೆ, ನೀವು ಇದನ್ನು ಬಳಸಬಹುದು . ಇದನ್ನು PMM ಗಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿತ್ತು, ಆದರೆ ಸಣ್ಣ ಮಾರ್ಪಾಡುಗಳೊಂದಿಗೆ ಇದು ಯಾವುದೇ ಪ್ರೊಮೀತಿಯಸ್ ಸ್ಥಾಪನೆಗೆ ಹೊಂದಿಕೊಳ್ಳುತ್ತದೆ.
ನಮ್ಮಲ್ಲಿ ಹೆಡ್ ಬ್ಲಾಕ್ ಎಂಬ ಸಕ್ರಿಯ ಬ್ಲಾಕ್ ಇದೆ, ಅದನ್ನು ಮೆಮೊರಿಯಲ್ಲಿ ಸಂಗ್ರಹಿಸಲಾಗುತ್ತದೆ; ಹಳೆಯ ಡೇಟಾವನ್ನು ಹೊಂದಿರುವ ಬ್ಲಾಕ್ಗಳನ್ನು ಈ ಮೂಲಕ ಪ್ರವೇಶಿಸಬಹುದು mmap()ಇದು ಕ್ಯಾಶ್ ಅನ್ನು ಪ್ರತ್ಯೇಕವಾಗಿ ಕಾನ್ಫಿಗರ್ ಮಾಡುವ ಅಗತ್ಯವನ್ನು ತೆಗೆದುಹಾಕುತ್ತದೆ, ಆದರೆ ಹೆಡ್ ಬ್ಲಾಕ್ ಹಿಡಿದಿಟ್ಟುಕೊಳ್ಳುವುದಕ್ಕಿಂತ ಹಳೆಯ ಡೇಟಾವನ್ನು ನೀವು ಪ್ರಶ್ನಿಸಲು ಬಯಸಿದರೆ ಆಪರೇಟಿಂಗ್ ಸಿಸ್ಟಮ್ ಕ್ಯಾಶ್ಗೆ ಸಾಕಷ್ಟು ಜಾಗವನ್ನು ಬಿಡಬೇಕಾಗುತ್ತದೆ ಎಂದರ್ಥ.
ಇದರರ್ಥ ಪ್ರೊಮಿಥಿಯಸ್ನ ವರ್ಚುವಲ್ ಮೆಮೊರಿ ಬಳಕೆ ಸಾಕಷ್ಟು ಹೆಚ್ಚಾಗಿ ಕಾಣುತ್ತದೆ, ಇದು ಚಿಂತಿಸಬೇಕಾಗಿಲ್ಲ.
ಮತ್ತೊಂದು ಆಸಕ್ತಿದಾಯಕ ವಿನ್ಯಾಸ ಅಂಶವೆಂದರೆ WAL ಬಳಕೆ (ಮುಂದಿನ ಲಾಗ್ ಬರೆಯಿರಿ). ಶೇಖರಣಾ ದಸ್ತಾವೇಜನ್ನು ನೋಡಬಹುದಾದಂತೆ, ಕ್ರ್ಯಾಶ್ಗಳ ಸಮಯದಲ್ಲಿ ನಷ್ಟವನ್ನು ತಪ್ಪಿಸಲು ಪ್ರೊಮೀತಿಯಸ್ WAL ಅನ್ನು ಬಳಸುತ್ತಾನೆ. ದುರದೃಷ್ಟವಶಾತ್, ಡೇಟಾ ಬಾಳಿಕೆಯನ್ನು ಖಾತರಿಪಡಿಸುವ ನಿರ್ದಿಷ್ಟ ಕಾರ್ಯವಿಧಾನಗಳನ್ನು ಕಳಪೆಯಾಗಿ ದಾಖಲಿಸಲಾಗಿದೆ. ಪ್ರೊಮೀತಿಯಸ್ 2.3.2 ಪ್ರತಿ 10 ಸೆಕೆಂಡುಗಳಿಗೊಮ್ಮೆ WAL ಅನ್ನು ಡಿಸ್ಕ್ಗೆ ಫ್ಲಶ್ ಮಾಡುತ್ತದೆ ಮತ್ತು ಈ ನಿಯತಾಂಕವು ಬಳಕೆದಾರ-ಕಾನ್ಫಿಗರ್ ಮಾಡಲಾಗುವುದಿಲ್ಲ.
ಸಂಕುಚಿತಗೊಳಿಸುವಿಕೆಗಳು
ಪ್ರೊಮೀತಿಯಸ್ TSDB ಅನ್ನು ಲಾಗ್ ಸ್ಟ್ರಕ್ಚರ್ಡ್ ಮರ್ಜ್ (LSM) ಸ್ಟೋರ್ನಂತೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ: ಹೆಡ್ ಬ್ಲಾಕ್ ಅನ್ನು ನಿಯತಕಾಲಿಕವಾಗಿ ಡಿಸ್ಕ್ಗೆ ಫ್ಲಶ್ ಮಾಡಲಾಗುತ್ತದೆ, ಆದರೆ ಕಾಂಪ್ಯಾಕ್ಷನ್ ಮೆಕ್ಯಾನಿಸಂ ಬಹು ಬ್ಲಾಕ್ಗಳನ್ನು ಒಟ್ಟಿಗೆ ವಿಲೀನಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ಪ್ರಶ್ನೆಗಳಿಗಾಗಿ ಹಲವಾರು ಬ್ಲಾಕ್ಗಳನ್ನು ಸ್ಕ್ಯಾನ್ ಮಾಡುವುದನ್ನು ತಪ್ಪಿಸುತ್ತದೆ. ಲೋಡ್ ಆದ ಒಂದು ದಿನದ ನಂತರ ಪರೀಕ್ಷಾ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ನಾನು ಗಮನಿಸಿದ ಬ್ಲಾಕ್ಗಳ ಸಂಖ್ಯೆ ಇಲ್ಲಿದೆ.
ನೀವು ರೆಪೊಸಿಟರಿಯ ಬಗ್ಗೆ ಇನ್ನಷ್ಟು ತಿಳಿದುಕೊಳ್ಳಲು ಬಯಸಿದರೆ, ನೀವು meta.json ಫೈಲ್ ಅನ್ನು ನೋಡಬಹುದು, ಇದು ಲಭ್ಯವಿರುವ ಬ್ಲಾಕ್ಗಳು ಮತ್ತು ಅವು ಹೇಗೆ ಬಂದವು ಎಂಬುದರ ಕುರಿತು ಮಾಹಿತಿಯನ್ನು ಒಳಗೊಂಡಿದೆ.
{
"ulid": "01CPZDPD1D9R019JS87TPV5MPE",
"minTime": 1536472800000,
"maxTime": 1536494400000,
"stats": {
"numSamples": 8292128378,
"numSeries": 1673622,
"numChunks": 69528220
},
"compaction": {
"level": 2,
"sources": [
"01CPYRY9MS465Y5ETM3SXFBV7X",
"01CPYZT0WRJ1JB1P0DP80VY5KJ",
"01CPZ6NR4Q3PDP3E57HEH760XS"
],
"parents": [
{
"ulid": "01CPYRY9MS465Y5ETM3SXFBV7X",
"minTime": 1536472800000,
"maxTime": 1536480000000
},
{
"ulid": "01CPYZT0WRJ1JB1P0DP80VY5KJ",
"minTime": 1536480000000,
"maxTime": 1536487200000
},
{
"ulid": "01CPZ6NR4Q3PDP3E57HEH760XS",
"minTime": 1536487200000,
"maxTime": 1536494400000
}
]
},
"version": 1
}ಪ್ರೊಮೀತಿಯಸ್ನಲ್ಲಿನ ಸಂಕೋಚನಗಳು ಹೆಡ್ ಬ್ಲಾಕ್ ಅನ್ನು ಡಿಸ್ಕ್ಗೆ ಫ್ಲಶ್ ಮಾಡುವ ಸಮಯಕ್ಕೆ ಸಂಬಂಧಿಸಿವೆ. ಅಂತಹ ಹಲವಾರು ಕಾರ್ಯಾಚರಣೆಗಳು ಒಂದೇ ಸಮಯದಲ್ಲಿ ಪ್ರಗತಿಯಲ್ಲಿರಬಹುದು.
ಸಂಕೋಚನಗಳು ಯಾವುದೇ ರೀತಿಯಲ್ಲಿ ಸೀಮಿತವಾಗಿಲ್ಲ ಮತ್ತು ಕಾರ್ಯಗತಗೊಳಿಸುವಾಗ ಡಿಸ್ಕ್ I/O ನಲ್ಲಿ ದೊಡ್ಡ ಸ್ಪೈಕ್ಗಳನ್ನು ಉಂಟುಮಾಡಬಹುದು ಎಂದು ತೋರುತ್ತದೆ.
CPU ಲೋಡ್ ಸ್ಪೈಕ್ಗಳು
ಸಹಜವಾಗಿಯೇ, ಇದು ವ್ಯವಸ್ಥೆಯ ಕಾರ್ಯಕ್ಷಮತೆಯ ಮೇಲೆ ಸಾಕಷ್ಟು ನಕಾರಾತ್ಮಕ ಪರಿಣಾಮ ಬೀರುತ್ತದೆ ಮತ್ತು LSM ಸಂಗ್ರಹಣೆಗೆ ಗಂಭೀರ ಸವಾಲಾಗಿದೆ: ಹೆಚ್ಚಿನ ಓವರ್ಹೆಡ್ ಅನ್ನು ಉಂಟುಮಾಡದೆ ಹೆಚ್ಚಿನ ಪ್ರಶ್ನೆ ದರಗಳನ್ನು ಬೆಂಬಲಿಸಲು ಹೇಗೆ ಸಂಕ್ಷೇಪಿಸುವುದು?
ಸಂಕ್ಷೇಪಿಸುವ ಸಮಯದಲ್ಲಿ ಸ್ಮರಣೆಯ ಬಳಕೆಯು ಸಾಕಷ್ಟು ಆಸಕ್ತಿದಾಯಕವಾಗಿ ಕಾಣುತ್ತದೆ.
ಸಂಕ್ಷೇಪಿಸಿದ ನಂತರ ಹೆಚ್ಚಿನ ಮೆಮೊರಿಯು ಕ್ಯಾಶ್ಡ್ನಿಂದ ಫ್ರೀಗೆ ಹೇಗೆ ಬದಲಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ನಾವು ನೋಡಬಹುದು, ಅಂದರೆ ಸಂಭಾವ್ಯವಾಗಿ ಅಮೂಲ್ಯವಾದ ಮಾಹಿತಿಯನ್ನು ಅಲ್ಲಿಂದ ತೆಗೆದುಹಾಕಲಾಗಿದೆ. ಇದನ್ನು ಬಳಸಲಾಗಿದೆಯೇ ಎಂದು ನಾನು ಆಶ್ಚರ್ಯ ಪಡುತ್ತೇನೆ. fadvice() ಅಥವಾ ಬೇರೆ ಯಾವುದಾದರೂ ಕನಿಷ್ಠೀಕರಣ ತಂತ್ರವೇ ಅಥವಾ ಸಂಕ್ಷೇಪಿಸುವ ಸಮಯದಲ್ಲಿ ನಾಶವಾದ ಬ್ಲಾಕ್ಗಳಿಂದ ಸಂಗ್ರಹವು ಮುಕ್ತವಾಗುವುದರಿಂದ ಉಂಟಾಗಿದೆಯೇ?
ವೈಫಲ್ಯದ ನಂತರ ಚೇತರಿಕೆ
ವೈಫಲ್ಯಗಳಿಂದ ಚೇತರಿಸಿಕೊಳ್ಳಲು ಸಮಯ ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ, ಮತ್ತು ಅದಕ್ಕೆ ಒಳ್ಳೆಯ ಕಾರಣವೂ ಇದೆ. ಪ್ರತಿ ಸೆಕೆಂಡಿಗೆ ಒಂದು ಮಿಲಿಯನ್ ದಾಖಲೆಗಳ ಒಳಬರುವ ಹರಿವಿಗಾಗಿ, SSD ನೀಡಿದರೆ ಚೇತರಿಕೆ ಸಂಭವಿಸಲು ನಾನು ಸುಮಾರು 25 ನಿಮಿಷ ಕಾಯಬೇಕಾಯಿತು.
level=info ts=2018-09-13T13:38:14.09650965Z caller=main.go:222 msg="Starting Prometheus" version="(version=2.3.2, branch=v2.3.2, revision=71af5e29e815795e9dd14742ee7725682fa14b7b)"
level=info ts=2018-09-13T13:38:14.096599879Z caller=main.go:223 build_context="(go=go1.10.1, user=Jenkins, date=20180725-08:58:13OURCE)"
level=info ts=2018-09-13T13:38:14.096624109Z caller=main.go:224 host_details="(Linux 4.15.0-32-generic #35-Ubuntu SMP Fri Aug 10 17:58:07 UTC 2018 x86_64 1bee9e9b78cf (none))"
level=info ts=2018-09-13T13:38:14.096641396Z caller=main.go:225 fd_limits="(soft=1048576, hard=1048576)"
level=info ts=2018-09-13T13:38:14.097715256Z caller=web.go:415 component=web msg="Start listening for connections" address=:9090
level=info ts=2018-09-13T13:38:14.097400393Z caller=main.go:533 msg="Starting TSDB ..."
level=info ts=2018-09-13T13:38:14.098718401Z caller=repair.go:39 component=tsdb msg="found healthy block" mint=1536530400000 maxt=1536537600000 ulid=01CQ0FW3ME8Q5W2AN5F9CB7R0R
level=info ts=2018-09-13T13:38:14.100315658Z caller=web.go:467 component=web msg="router prefix" prefix=/prometheus
level=info ts=2018-09-13T13:38:14.101793727Z caller=repair.go:39 component=tsdb msg="found healthy block" mint=1536732000000 maxt=1536753600000 ulid=01CQ78486TNX5QZTBF049PQHSM
level=info ts=2018-09-13T13:38:14.102267346Z caller=repair.go:39 component=tsdb msg="found healthy block" mint=1536537600000 maxt=1536732000000 ulid=01CQ78DE7HSQK0C0F5AZ46YGF0
level=info ts=2018-09-13T13:38:14.102660295Z caller=repair.go:39 component=tsdb msg="found healthy block" mint=1536775200000 maxt=1536782400000 ulid=01CQ7SAT4RM21Y0PT5GNSS146Q
level=info ts=2018-09-13T13:38:14.103075885Z caller=repair.go:39 component=tsdb msg="found healthy block" mint=1536753600000 maxt=1536775200000 ulid=01CQ7SV8WJ3C2W5S3RTAHC2GHB
level=error ts=2018-09-13T14:05:18.208469169Z caller=wal.go:275 component=tsdb msg="WAL corruption detected; truncating" err="unexpected CRC32 checksum d0465484, want 0" file=/opt/prometheus/data/.prom2-data/wal/007357 pos=15504363
level=info ts=2018-09-13T14:05:19.471459777Z caller=main.go:543 msg="TSDB started"
level=info ts=2018-09-13T14:05:19.471604598Z caller=main.go:603 msg="Loading configuration file" filename=/etc/prometheus.yml
level=info ts=2018-09-13T14:05:19.499156711Z caller=main.go:629 msg="Completed loading of configuration file" filename=/etc/prometheus.yml
level=info ts=2018-09-13T14:05:19.499228186Z caller=main.go:502 msg="Server is ready to receive web requests."ಚೇತರಿಕೆ ಪ್ರಕ್ರಿಯೆಯ ಪ್ರಮುಖ ಸಮಸ್ಯೆ ಎಂದರೆ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ಬಳಕೆ. ಸರ್ವರ್ ಸಾಮಾನ್ಯವಾಗಿ ಅದೇ ಪ್ರಮಾಣದ ಮೆಮೊರಿಯೊಂದಿಗೆ ಸ್ಥಿರವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಬಹುದಾದರೂ, ಅದು ಕ್ರ್ಯಾಶ್ ಆದಾಗ OOM ಕಾರಣದಿಂದಾಗಿ ಚೇತರಿಸಿಕೊಳ್ಳಲು ಸಾಧ್ಯವಾಗದಿರಬಹುದು. ನಾನು ಕಂಡುಕೊಂಡ ಏಕೈಕ ಪರಿಹಾರವೆಂದರೆ ಡೇಟಾ ಸಂಗ್ರಹಣೆಯನ್ನು ನಿಷ್ಕ್ರಿಯಗೊಳಿಸುವುದು, ಸರ್ವರ್ ಅನ್ನು ಹೆಚ್ಚಿಸುವುದು, ಅದನ್ನು ಚೇತರಿಸಿಕೊಳ್ಳಲು ಬಿಡುವುದು ಮತ್ತು ಸಂಗ್ರಹಣೆಯನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿ ರೀಬೂಟ್ ಮಾಡುವುದು.
ಬೆಚ್ಚಗಾಗುತ್ತಿದೆ
ವಾರ್ಮ್ ಅಪ್ ಸಮಯದಲ್ಲಿ ತಿಳಿದಿರಬೇಕಾದ ಇನ್ನೊಂದು ನಡವಳಿಕೆಯೆಂದರೆ ಸ್ಟಾರ್ಟ್ಅಪ್ ನಂತರ ಕಡಿಮೆ ಕಾರ್ಯಕ್ಷಮತೆ ಮತ್ತು ಹೆಚ್ಚಿನ ಸಂಪನ್ಮೂಲ ಬಳಕೆಯ ಅನುಪಾತ. ಕೆಲವು ಸ್ಟಾರ್ಟ್ಅಪ್ಗಳಲ್ಲಿ, ಆದರೆ ಎಲ್ಲಾ ಸ್ಟಾರ್ಟ್ಅಪ್ಗಳಲ್ಲಿ ಅಲ್ಲ, ನಾನು ಗಮನಾರ್ಹವಾದ CPU ಮತ್ತು ಮೆಮೊರಿ ಬಳಕೆಯನ್ನು ನೋಡಿದೆ.
ಮೆಮೊರಿ ಬಳಕೆಯ ಕುಸಿತವು ಪ್ರೊಮೆಥಿಯಸ್ಗೆ ಪ್ರಾರಂಭದಿಂದಲೇ ಎಲ್ಲಾ ಸಂಗ್ರಹಗಳನ್ನು ಕಾನ್ಫಿಗರ್ ಮಾಡಲು ಸಾಧ್ಯವಾಗುತ್ತಿಲ್ಲ ಮತ್ತು ಕೆಲವು ಮಾಹಿತಿ ಕಳೆದುಹೋಗಿದೆ ಎಂದು ಸೂಚಿಸುತ್ತದೆ.
ಹೆಚ್ಚಿನ CPU ಮತ್ತು ಮೆಮೊರಿ ಲೋಡ್ಗೆ ನಿಖರವಾದ ಕಾರಣಗಳು ನನಗೆ ತಿಳಿದಿಲ್ಲ. ಇದು ಹೆಚ್ಚಿನ ಆವರ್ತನದಲ್ಲಿ ಹೆಡ್ ಬ್ಲಾಕ್ನಲ್ಲಿ ಹೊಸ ಸಮಯ ಸರಣಿಯ ಸೃಷ್ಟಿಗೆ ಸಂಬಂಧಿಸಿದೆ ಎಂದು ನಾನು ಅನುಮಾನಿಸುತ್ತೇನೆ.
CPU ಲೋಡ್ ಸ್ಪೈಕ್ಗಳು
ಹೆಚ್ಚಿನ I/O ಲೋಡ್ ಅನ್ನು ಸೃಷ್ಟಿಸುವ ಸಂಕೋಚನಗಳ ಜೊತೆಗೆ, ಪ್ರತಿ ಎರಡು ನಿಮಿಷಗಳಿಗೊಮ್ಮೆ CPU ಲೋಡ್ನಲ್ಲಿ ಗಂಭೀರ ಸ್ಪೈಕ್ಗಳನ್ನು ನಾನು ಗಮನಿಸಿದ್ದೇನೆ. ಒಳಬರುವ ಹರಿವು ಹೆಚ್ಚಾದಾಗ ಸ್ಪೈಕ್ಗಳು ಉದ್ದವಾಗಿರುತ್ತವೆ ಮತ್ತು ಅವು ಗೋ ಕಸ ಸಂಗ್ರಾಹಕದಿಂದ ಉಂಟಾಗುತ್ತವೆ ಎಂದು ತೋರುತ್ತದೆ, ಕನಿಷ್ಠ ಕೆಲವು ಕೋರ್ಗಳನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಬಳಸಿಕೊಳ್ಳಲಾಗುತ್ತದೆ.
ಈ ಸ್ಪೈಕ್ಗಳು ಅಷ್ಟೊಂದು ಅತ್ಯಲ್ಪವಲ್ಲ. ಅವು ಸಂಭವಿಸಿದಾಗ, ಆಂತರಿಕ ಪ್ರವೇಶ ಬಿಂದು ಮತ್ತು ಪ್ರೊಮೀತಿಯಸ್ ಮೆಟ್ರಿಕ್ಗಳು ಲಭ್ಯವಿಲ್ಲದಿರಬಹುದು, ಇದರಿಂದಾಗಿ ಈ ಅವಧಿಯಲ್ಲಿ ಡೇಟಾ ಕುಸಿಯುತ್ತದೆ.
ಪ್ರೊಮೀತಿಯಸ್ ರಫ್ತುದಾರನು ಒಂದು ಸೆಕೆಂಡ್ ಸ್ಥಗಿತಗೊಳ್ಳುವುದನ್ನು ನೀವು ಗಮನಿಸಬಹುದು.
ಕಸ ಸಂಗ್ರಹಣೆ (GC) ಯೊಂದಿಗೆ ನಾವು ಪರಸ್ಪರ ಸಂಬಂಧಗಳನ್ನು ನೋಡಬಹುದು.
ತೀರ್ಮಾನಕ್ಕೆ
ಪ್ರೊಮೀತಿಯಸ್ 2 ರಲ್ಲಿರುವ TSDB ವೇಗವಾಗಿದ್ದು, ಲಕ್ಷಾಂತರ ಸಮಯ ಸರಣಿಗಳನ್ನು ನಿರ್ವಹಿಸುವ ಸಾಮರ್ಥ್ಯ ಹೊಂದಿದೆ ಮತ್ತು ಅದೇ ಸಮಯದಲ್ಲಿ ಸಾಧಾರಣ ಹಾರ್ಡ್ವೇರ್ ಬಳಸಿ ಸೆಕೆಂಡಿಗೆ ಸಾವಿರಾರು ಬರವಣಿಗೆಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ. CPU ಮತ್ತು ಡಿಸ್ಕ್ I/O ಬಳಕೆ ಕೂಡ ಪ್ರಭಾವಶಾಲಿಯಾಗಿದೆ. ನನ್ನ ಉದಾಹರಣೆಯು ಬಳಸಿದ ಪ್ರತಿ ಕೋರ್ಗೆ ಸೆಕೆಂಡಿಗೆ 200 ಮೆಟ್ರಿಕ್ಗಳನ್ನು ತೋರಿಸಿದೆ.
ವಿಸ್ತರಣೆಗೆ ಯೋಜಿಸುವಾಗ, ನೀವು ಸಾಕಷ್ಟು ಮೆಮೊರಿಯನ್ನು ಮನಸ್ಸಿನಲ್ಲಿಟ್ಟುಕೊಳ್ಳಬೇಕು ಮತ್ತು ಅದು ನಿಜವಾದ ಮೆಮೊರಿಯಾಗಿರಬೇಕು. ನಾನು ಗಮನಿಸಿದ ಮೆಮೊರಿಯ ಪ್ರಮಾಣವು ಪ್ರತಿ ಸೆಕೆಂಡಿಗೆ ಒಳಬರುವ ಟ್ರಾಫಿಕ್ನ 5 ಬರಹಗಳಿಗೆ ಸುಮಾರು 100 GB ಆಗಿತ್ತು, ಇದು ಆಪರೇಟಿಂಗ್ ಸಿಸ್ಟಮ್ ಕ್ಯಾಶ್ನೊಂದಿಗೆ ಸಂಯೋಜಿಸಿದಾಗ, ಸುಮಾರು 000 GB ಆಕ್ರಮಿತ ಮೆಮೊರಿಯನ್ನು ನೀಡಿತು.
ಖಂಡಿತ, CPU ಮತ್ತು ಡಿಸ್ಕ್ I/O ಸ್ಪೈಕ್ಗಳನ್ನು ಪಳಗಿಸಲು ಇನ್ನೂ ಬಹಳಷ್ಟು ಕೆಲಸಗಳಿವೆ, ಮತ್ತು ಪ್ರೊಮೀತಿಯಸ್ 2 TSDB ಅನ್ನು InnoDB, TokuDB, RocksDB, WiredTiger ಗಳಿಗೆ ಹೋಲಿಸಿದರೆ ಎಷ್ಟು ಚಿಕ್ಕದಾಗಿದೆ ಎಂಬುದನ್ನು ನೋಡಿದರೆ ಇದು ಆಶ್ಚರ್ಯವೇನಿಲ್ಲ, ಆದರೆ ಅವೆಲ್ಲವೂ ತಮ್ಮ ಜೀವನ ಚಕ್ರದ ಆರಂಭದಲ್ಲಿ ಇದೇ ರೀತಿಯ ಸಮಸ್ಯೆಗಳನ್ನು ಹೊಂದಿದ್ದವು.
ಮೂಲ: www.habr.com
