עשה זאת בעצמך: כיצד אנו מייצרים אוטומציה של ניטור מחסנים

X5 מפעילה 43 מרכזי הפצה ו-4 משאיות משלה, מה שמבטיח אספקה ​​רציפה של מוצרים ל-029 חנויות. במאמר זה אשתף את הניסיון שלי ביצירת מערכת אינטראקטיבית לניטור אירועי מחסן מאפס. המידע יהיה שימושי ללוגיסטיקאים של חברות סחר עם כמה עשרות מרכזי הפצה המנהלים מגוון רחב של מוצרים.

ככלל, בניית מערכות ניטור וניהול תהליכים עסקיים מתחילה בעיבוד הודעות ותקלות. יחד עם זאת, מתפספסת נקודה טכנולוגית חשובה הקשורה לאפשרות לאוטומציה של עצם התרחשותם של אירועים עסקיים ורישום אירועים. לרוב המערכות העסקיות כגון WMS, TMS וכו', יש כלים מובנים לניטור תהליכים משלהן. אבל, אם אלו מערכות מיצרנים שונים או שפונקציונליות הניטור אינה מפותחת מספיק, עליך להזמין שינויים יקרים או למשוך יועצים מיוחדים להגדרות נוספות.

הבה נשקול גישה שבה אנו זקוקים רק לחלק קטן מהייעוץ הקשור לזיהוי מקורות (טבלאות) כדי לקבל אינדיקטורים מהמערכת.

הספציפיות של המחסנים שלנו היא שמספר מערכות ניהול מחסנים (WMS Exceed) פועלות במתחם לוגיסטי אחד. מחסנים מחולקים לפי קטגוריות של אחסון סחורות (יבש, אלכוהול, קפוא וכו') לא רק מבחינה לוגית. בתוך מתחם לוגיסטי אחד ישנם מספר בנייני מחסנים נפרדים, שכל אחד מהם מנוהל על ידי WMS משלו.

כדי ליצור תמונה כללית של התהליכים המתרחשים במחסן, מנהלים מנתחים את הדיווח של כל WMS מספר פעמים ביום, מעבדים הודעות ממפעילי המחסנים (קולטים, קוטפים, מערמים) ומסכמים אינדיקטורים תפעוליים בפועל לשיקוף על לוח המידע.

כדי לחסוך זמן למנהלים, החלטנו לפתח מערכת זולה לבקרה תפעולית של אירועי מחסן. המערכת החדשה, בנוסף להצגת אינדיקטורים "חמים" לביצועים התפעוליים של תהליכי מחסן, אמורה לסייע למנהלים גם ברישום אירועים ומעקב אחר יישום המשימות לביטול הגורמים המשפיעים על האינדיקטורים הנתונים. לאחר ביצוע ביקורת כללית של ארכיטקטורת ה-IT של החברה, הבנו שחלקים בודדים של המערכת הנדרשת כבר קיימים בצורה כזו או אחרת בנוף שלנו ועבורם יש גם בדיקה של ההגדרות וגם שירותי התמיכה הדרושים. כל שנותר הוא להביא את כל הקונספט לפתרון אדריכלי אחד ולהעריך את היקף הפיתוח.

לאחר הערכת כמות העבודה הנדרשת לבניית מערכת חדשה, הוחלט לפצל את הפרויקט למספר שלבים:

1. איסוף מדדים לתהליכי מחסן, הדמיה ובקרה על אינדיקטורים וסטיות
2. אוטומציה של תקני תהליכים ורישום יישומים בשירות השירותים העסקיים לחריגות
3. ניטור יזום עם חיזוי עומס ויצירת המלצות למנהלים.

בשלב הראשון, על המערכת לאסוף פרוסות מוכנות של נתונים תפעוליים מכל ה-WMS של המתחם. הקריאה מתרחשת כמעט בזמן אמת (מרווחים של פחות מ-5 דקות). החוכמה היא שיש לקבל נתונים מה-DBMS של כמה עשרות מחסנים בעת פריסת המערכת לכל הרשת. הנתונים התפעוליים שהתקבלו מעובדים על ידי ההיגיון של ליבת המערכת כדי לחשב סטיות מאינדיקטורים מתוכננים ולחישוב סטטיסטיקה. הנתונים המעובדים בדרך זו חייבים להיות מוצגים בטאבלט של המנהל או בלוח המידע של המחסן בצורה של גרפים ודיאגרמות מובנות.

בבחירת מערכת מתאימה ליישום פיילוט של השלב הראשון, בחרנו ב-Zabix. מערכת זו כבר משמשת לניטור ביצועי IT של מערכות מחסנים. באמצעות הוספת התקנה נפרדת לאיסוף מדדים עסקיים של תפעול המחסן, ניתן לקבל תמונה כוללת של תקינות המחסן.

הארכיטקטורה הכללית של המערכת התבררה כמו באיור.

כל מופע של WMS מוגדר כמארח עבור מערכת הניטור. מדדים נאספים על ידי שרת מרכזי ברשת מרכז הנתונים על ידי הפעלת סקריפט עם שאילתת SQL מוכנה. אם אתה צריך לנטר מערכת שאינה ממליצה על גישה ישירה למסד הנתונים (לדוגמה, SAP EWM), אתה יכול להשתמש בקריאות סקריפט לפונקציות API מתועדות כדי להשיג אינדיקטורים או לכתוב תוכנית פשוטה ב-python/vbascript.

מופע פרוקסי של Zabbix נפרס ברשת המחסן כדי להפיץ את העומס מהשרת הראשי. באמצעות Proxy מובטחת עבודה עם כל מופעי ה-WMS המקומיים. בפעם הבאה ששרת Zabbix מבקש פרמטרים, מבוצע על המארח סקריפט עם פרוקסי Zabbix כדי לבקש מדדים ממסד הנתונים של WMS.

כדי להציג גרפים ומחווני מחסנים בשרת Zabbix המרכזי, אנו פורסים את Grafana. בנוסף להצגת לוחות מחוונים מוכנים עם אינפוגרפיקה של תפעול המחסנים, גראפנה ישמש לניטור חריגות באינדיקטורים ושליחת התראות אוטומטיות למערכת שירות המחסן לעבודה עם אירועים עסקיים.

כדוגמה, הבה ניקח בחשבון את יישום בקרת העומס באזור קבלת המחסן. המדדים הבאים נבחרו כאינדיקטורים העיקריים לביצועי התהליך באזור זה של המחסן:

• מספר כלי הרכב באזור הקבלה, תוך התחשבות בסטטוסים (מתוכננים, הגיעו, מסמכים, פריקה, יציאה;
• עומס עבודה של אזורי השמה ומילוי (בהתאם לתנאי האחסון).

הגדרות

התקנה ותצורה של הרכיבים העיקריים של המערכת (SQLcl, Zabbix, Grafana) מתוארת במקורות שונים ולא תחזור כאן. השימוש ב- SQLcl במקום SQLplus נובע מכך ש- SQLcl (ממשק שורת הפקודה של ה-Oracle DBMS, כתוב ב-java) אינו דורש התקנה נוספת של ה-Oracle Client ופועל מחוץ לקופסה.

אתאר את הנקודות העיקריות שיש לשים לב אליהן בעת ​​שימוש ב-Zabix לניטור מדדי תהליכים עסקיים במחסן, ואחת הדרכים האפשריות ליישם אותם. כמו כן, זה לא פוסט על אבטחה. אבטחת החיבורים והשימוש בשיטות המוצגות מחייבות לימוד נוסף בתהליך העברת פתרון הפיילוט לפעולה פרודוקטיבית.

העיקר הוא שכאשר מיישמים מערכת כזו, ניתן לעשות זאת ללא תכנות, באמצעות ההגדרות המסופקות על ידי המערכת.

מערכת הניטור Zabbix מספקת מספר אפשרויות לאיסוף מדדים מהמערכת המנוטרת. ניתן לעשות זאת על ידי סקר ישיר של מארחים מנוטרים, או על ידי שיטה מתקדמת יותר של שליחת נתונים לשרת באמצעות zabbix_sender של המארח, כולל שיטות להגדרת פרמטרי גילוי ברמה נמוכה. כדי לפתור את הבעיה שלנו, השיטה של ​​סקרים ישירים של מארחים על ידי שרת מרכזי מתאימה למדי, מכיוון זה מאפשר לך להשיג שליטה מלאה על רצף רכישת המדדים ומבטיח שאתה משתמש בסט אחד של הגדרות/סקריפטים ללא צורך להפיץ אותם לכל מארח מנוטר.

כ"נושאי מבחן" לניפוי באגים והגדרת המערכת, אנו משתמשים בגיליון עבודה של WMS לניהול קבלה:

1. כלי רכב בקבלה, כל מה שהגיעו: כל הרכבים עם סטטוסים לתקופה "- 72 שעות מהשעה הנוכחית" - מזהה שאילתת SQL: getCars.
2. היסטוריה של כל סטטוסי הרכב: סטטוסים של כל הרכבים המגיעים תוך 72 שעות - מזהה שאילתת SQL: היסטוריה של מכוניות.
3. רכבים מתוכננים לקבלה: סטטוסים של כל הרכבים עם הגעה בסטטוס "מתוכנן", מרווח זמן "- 24 שעות" ו-"+24 שעות" מהשעה הנוכחית - מזהה שאילתת SQL: מכוניות ב.

לכן, לאחר שהחלטנו על קבוצה של מדדי ביצועי מחסן, נכין שאילתות SQL עבור מסד הנתונים של WMS. כדי לבצע שאילתות, מומלץ להשתמש לא במסד הנתונים הראשי, אלא בעותק ה"חם" שלו - המתנה.

אנו מתחברים ל-Oracle DBMS המתנה כדי לקבל נתונים. כתובת IP לחיבור למסד הנתונים של הבדיקה 192.168.1.106. אנו שומרים את פרמטרי החיבור בשרת Zabbix ב- TNSNames.ORA של תיקיית העבודה SQLcl:

# cat  /opt/sqlcl/bin/TNSNames.ORA
WH1_1=
  (DESCRIPTION =
    (ADDRESS = (PROTOCOL = TCP)(HOST = 192.168.1.106)(PORT = 1521))
    (CONNECT_DATA =
      (SERVER = DEDICATED)
      (SERVICE_NAME =  WH1_1)
    )
  )

זה יאפשר לנו להריץ שאילתות SQL לכל מארח באמצעות EZconnect, תוך ציון רק את שם הכניסה/הסיסמה ושם מסד הנתונים:

# sql znew/Zabmon1@WH1_1

אנו שומרים את שאילתות ה-SQL המוכנות בתיקיית העבודה בשרת Zabbix:

/etc/zabbix/sql

ולאפשר גישה למשתמש zabbix של השרת שלנו:

# chown zabbix:zabbix -R /etc/zabbix/sql

קבצים עם בקשות מקבלים שם מזהה ייחודי לגישה משרת Zabbix. כל שאילתת מסד נתונים דרך SQLcl מחזירה לנו מספר פרמטרים. בהתחשב בפרטים הספציפיים של Zabbix, שיכולה לעבד רק מדד אחד לכל בקשה, נשתמש בסקריפטים נוספים כדי לנתח את תוצאות השאילתה למדדים בודדים.

בואו נכין את הסקריפט הראשי, בואו נקרא לו wh_Metrics.sh, כדי לקרוא שאילתת SQL למסד הנתונים, לשמור את התוצאות ולהחזיר מדד טכני עם אינדיקטורים להצלחת אחזור הנתונים:

#!/bin/sh 
## настройка окружения</i>
export ORACLE_HOME=/usr/lib/oracle/11.2/client64
export PATH=$PATH:$ORACLE_HOME/bin
export LD_LIBRARY_PATH=$ORACLE_HOME/lib:/usr/lib64:/usr/lib:$ORACLE_HOME/bin
export TNS_ADMIN=$ORACLE_HOME/network/admin
export JAVA_HOME=/
alias sql="opt/sqlcl/bin/sql"
## задаём путь к файлу с sql-запросом и параметризованное имя файла
scriptLocation=/etc/zabbix/sql
sqlFile=$scriptLocation/sqlScript_"$2".sql
## задаём путь к файлу для хранения результатов
resultFile=/etc/zabbix/sql/mon_"$1"_main.log
## настраиваем строку подключения к БД
username="$3"
password="$4"
tnsname="$1"
## запрашиваем результат из БД
var=$(sql -s $username/$password@$tnsname < $sqlFile)
## форматируем результат запроса и записываем в файл
echo $var | cut -f5-18 -d " " > $resultFile
## проверяем наличие ошибок
if grep -q ora "$resultFile"; then
    echo null > $resultFile
    echo 0
else
    echo 1
fi

אנו מניחים את הקובץ המוגמר עם הסקריפט בתיקייה לאחסון סקריפטים חיצוניים בהתאם להגדרות התצורה של Zabbix-proxy (כברירת מחדל - /usr/local/share/zabbix/externalscripts).

זיהוי מסד הנתונים ממנו יקבל הסקריפט תוצאות יועבר כפרמטר סקריפט. מזהה מסד הנתונים חייב להתאים לשורת ההגדרות בקובץ TNSNames.ORA.

התוצאה של קריאת שאילתת SQL נשמרת בקובץ כמו mon_base_id_main.log שבו base_id = מזהה מסד הנתונים שהתקבל כפרמטר סקריפט. החלוקה של קובץ התוצאות לפי מזהי מסד נתונים מסופקת במקרה של בקשות מהשרת למספר מסדי נתונים בו זמנית. השאילתה מחזירה מערך דו מימדי ממוין של ערכים.

הסקריפט הבא, בואו נקרא לזה getMetrica.sh, נחוץ כדי להשיג מדד מוגדר מקובץ עם תוצאה של בקשה:

#!/bin/sh 
## определяем имя файла с результатом запроса
resultFile=/etc/zabbix/sql/mon_”$1”_main.log
## разбираем массив значений результата средствами скрипта:
## при работе со статусами, запрос возвращает нам двумерный массив (RSLT) в виде 
## {статус1 значение1 статус2 значение2…} разделённых пробелами (значение IFS)
## параметром запроса передаём код статуса и скрипт вернёт значение
IFS=’ ‘
str=$(cat $resultFile)
status_id=null
read –ra RSLT <<< “$str”
for i in “${RSLT[@]}”; do
if [[ “$status_id” == null ]]; then
status_id=”$I"
elif [[ “$status_id” == “$2” ]]; then
echo “$i”
break
else
status_id=null
fi
done

כעת אנו מוכנים להגדיר את Zabbix ולהתחיל לנטר מדדים של תהליכי קבלת מחסנים.

סוכן Zabbix מותקן ומוגדר בכל צומת מסד נתונים.

בשרת הראשי אנו מגדירים את כל השרתים עם פרוקסי Zabbix. להגדרות, עבור לנתיב הבא:

ניהול ← פרוקסי ← צור proxy

אנו מגדירים מארחים מבוקרים:

הגדרות ← מארחים ← צור מארח

שם המארח חייב להתאים לשם המארח שצוין בקובץ התצורה של הסוכן.

אנו מציינים את הקבוצה עבור הצומת, כמו גם את כתובת ה-IP או שם ה-DNS של הצומת עם מסד הנתונים.

אנו יוצרים מדדים ומציינים את המאפיינים שלהם:

הגדרות ← צמתים ← 'שם הצומת' ← פריטי נתונים>צור פריט נתונים

1) צור מדד ראשי לשאילתה של כל הפרמטרים ממסד הנתונים

אנו מגדירים את השם של אלמנט הנתונים, מציינים את הסוג "אימות חיצוני". בשדה "מפתח", אנו מגדירים סקריפט אליו נעביר כפרמטרים את שם מסד הנתונים של Oracle, שם שאילתת ה-sql, הכניסה והסיסמה לחיבור למסד הנתונים. הגדר את מרווח עדכון השאילתה ל-5 דקות (300 שניות).

2) צור את המדדים הנותרים עבור כל מצב רכב. הערכים של מדדים אלה יופקו על סמך התוצאה של בדיקת המדד הראשי.

אנו מגדירים את השם של אלמנט הנתונים, מציינים את הסוג "אימות חיצוני". בשדה "מפתח", אנו מגדירים סקריפט אליו נעביר כפרמטרים את שם מסד הנתונים של אורקל וקוד הסטטוס שעליו אנו רוצים לעקוב. הגדרנו את מרווח עדכון השאילתה ל-10 שניות יותר מהמדד הראשי (310 שניות), כך שלתוצאות יש זמן להיכתב לקובץ.

כדי לקבל מדדים בצורה נכונה, יש חשיבות לסדר הפעלת הצ'קים. על מנת למנוע התנגשויות בעת קבלת נתונים, קודם כל אנו מפעילים את המדד הראשי GetCarsByStatus על ידי קריאה לסקריפט - wh_Metrics.sh.

הגדרות ← צמתים ← 'שם צומת' ← רכיבי נתונים ← מסנן משנה "בדיקות חיצוניות". סמן את הסימון הנדרש ולחץ על "הפעל".

לאחר מכן, אנו מפעילים את המדדים הנותרים בפעולה אחת, ובוחרים את כולם יחד:

כעת Zabbix החלה לאסוף מדדים עסקיים של מחסנים.

במאמרים הבאים נסתכל מקרוב על חיבור Grafana ויצירת לוחות מחוונים של מידע של פעולות מחסן עבור קטגוריות שונות של משתמשים. כמו כן על בסיס גרפנא מיושם מעקב אחר חריגות בפעילות המחסן ובהתאם לגבולות וחזרתיות של חריגות רישום תקלות במערכת מרכז השירות לניהול מחסנים באמצעות API או שליחת הודעות פשוטה למנהל במייל.

מקור: www.habr.com