אנו מאיצים את הפיתוח באמצעות שירותי Azure: אנו יוצרים צ'אטבוטים ושירותים קוגניטיביים באמצעות הפלטפורמה

שלום, הבר! היום נראה לך כיצד להשתמש ב-Azure כדי לפתור בעיות שבדרך כלל דורשות התערבות אנושית. סוכנים מבלים זמן רב במתן מענה לאותן שאלות, טיפול בשיחות טלפון והודעות טקסט. צ'אטבוטים הופכים את התקשורת והזיהוי לאוטומטיים ומפחיתים את העומס על אנשים. בוטים משמשים גם ב-Azure DevOps, שם הם מאפשרים, למשל, לאשר מהדורות, לנהל בנייה - להציג, להתחיל ולעצור - ישירות מ-Slack או Microsoft Teams. במהותו, צ'אט בוט מזכיר קצת CLI, רק אינטראקטיבי, ומאפשר למפתח להישאר בהקשר של הדיון בצ'אט.

במאמר זה נדבר על כלים ליצירת צ'אט בוטים, נראה כיצד ניתן לשפר אותם עם שירותים קוגניטיביים, ונתאר כיצד להאיץ את הפיתוח עם שירותים מוכנים ב-Azure.

צ'טבוטים ושירותים קוגניטיביים: מהם קווי הדמיון ומהם ההבדלים?

כדי ליצור בוטים ב-Microsoft Azure, אתה משתמש ב-Azure Bot Service וב-Bot Framework. יחד הם מייצגים מערכת תוכנה לבנייה, בדיקה, פריסה וניהול של בוטים, המאפשרת ליצור ממודולים מוכנים גם מערכות תקשורת פשוטות וגם מתקדמות עם תמיכה בדיבור, זיהוי שפה טבעית ויכולות נוספות.

נניח שצריך ליישם בוט פשוט המבוסס על שירות שאלות ותשובות ארגוני או להיפך ליצור בוט פונקציונלי עם מערכת תקשורת מורכבת ומסועפת. לשם כך, אתה יכול להשתמש במספר כלים, המחולקים לשלוש קבוצות: 

1. שירותים לפיתוח מהיר של ממשקי דיאלוג (בוטים).
2. שירותי AI קוגניטיביים מוכנים למקרי שימוש שונים (זיהוי דפוסים, זיהוי דיבור, בסיס ידע וחיפוש).
3. שירותים ליצירה והדרכה של מודלים של AI.

בדרך כלל, אנשים מבלבלים באופן אינטואיטיבי בין "בוטים" ו"שירותים קוגניטיביים" מכיוון ששני המושגים מבוססים על עיקרון התקשורת, ומקרה השימוש של בוטים ושירותים כרוך בדיאלוגים. אבל צ'אטבוטים עובדים עם מילות מפתח וטריגרים, ושירותים קוגניטיביים עובדים עם בקשות שרירותיות שבדרך כלל מעובדות על ידי בני אדם: 

שירותים קוגניטיביים הם דרך נוספת לתקשר עם המשתמש, ועוזרת להמיר בקשה שרירותית לפקודה ברורה ולהעביר אותה לבוט. 

לפיכך, צ'אטבוטים הם יישומים לעבודה עם בקשות, ושירותים קוגניטיביים הם כלים לניתוח מושכל של בקשות המופעלות בנפרד, אך שהצ'טבוט יכול לגשת אליהן, והופכים "אינטליגנטים". 

יצירת צ'אטבוטים

דיאגרמת העיצוב המומלצת עבור בוט ב-Azure היא כדלקמן: 

כדי לעצב ולפתח בוטים ב-Azure, השתמש מסגרת בוט. זמין ב-GitHub דוגמאות של בוטים, היכולות של המסגרת משתנות, ולכן יש צורך לקחת בחשבון את גרסת ה-SDK המשמשת את הבוטים.

המסגרת מספקת מספר אפשרויות ליצירת בוטים: שימוש בקוד קלאסי, כלי שורת פקודה או תרשימי זרימה. האפשרות האחרונה מציגה דיאלוגים; לשם כך אתה יכול להשתמש במנהל Bot Framework Composer. הוא נבנה על Bot Framework SDK ככלי פיתוח חזותי שצוותים חוצי תחומיים יכולים להשתמש בו כדי ליצור בוטים.

Bot Framework Composer מאפשר לך להשתמש בלוקים כדי ליצור מבנה דיאלוג איתו הבוט יעבוד. בנוסף, ניתן ליצור טריגרים, כלומר מילות מפתח שהבוט יגיב אליהן במהלך הדיאלוג. לדוגמה, המילים "מפעיל", "גניבה" או "עצור" ו"מספיק".

ב-Bot Framework Composer, אתה יכול ליצור מערכות דיאלוג מורכבות באמצעות דיאלוגים אדפטיביים. דיאלוגים יכולים להשתמש הן בשירותים קוגניטיביים והן בכרטיסי אירועים (כרטיסים אדפטיביים):

לאחר היצירה, ניתן לפרוס את הצ'אט בוט במנוי, וסקריפט שהוכן אוטומטית יצור את כל המשאבים הדרושים: שירותים קוגניטיביים, תוכנית יישומים, תובנות יישומים, מסד נתונים וכן הלאה.

יצרנית QnA

כדי ליצור בוטים פשוטים המבוססים על מסדי נתונים של שאלות ותשובות ארגוניות, אתה יכול להשתמש בשירות הקוגניטיבי QnA Maker. מיושם כאשף אינטרנט פשוט, הוא מאפשר לך להזין קישור למאגר ידע ארגוני (כתובות אתרים נפוצות) או להשתמש במסד נתונים של מסמכים בפורמט *.doc או *.pdf כבסיס. לאחר יצירת האינדקס, הבוט יבחר אוטומטית את התשובות המתאימות ביותר לשאלות המשתמש.

באמצעות QnAMaker, ניתן גם ליצור שרשראות של שאלות הבהרה עם יצירה אוטומטית של כפתורים, להשלים את מאגר הידע במטא נתונים ולהכשיר את השירות עוד במהלך השימוש.

השירות יכול לשמש כצ'אט בוט שמיישם רק פונקציה אחת זו, או כחלק מצ'אט בוט מורכב המשתמש, בהתאם לבקשה, בשירותי AI אחרים או אלמנטים של Bot Framework.

עבודה עם שירותים קוגניטיביים אחרים

ישנם שירותים קוגניטיביים רבים ושונים בפלטפורמת Azure. מבחינה טכנית, מדובר בשירותי אינטרנט עצמאיים שניתן לקרוא להם מקוד. בתגובה, השירות שולח json בפורמט מסוים, שניתן להשתמש בו בצ'אטבוט.

השימושים הנפוצים ביותר בצ'אטבוטים הם:

1. זיהוי טקסט.
2. הכרה בקטגוריות תמונה של Custom Vision Service המוגדרות על ידי מפתח (מקרה הפקה: הכרה האם עובד חובש כובע קשיח, משקפי מגן או מסכה).
3. זיהוי פנים (מקרה שימוש מצוין הוא בדיקה אם האדם הנסקר פרסם את הפנים שלו, או, נניח, תמונה של כלב או תמונה של אדם ממין אחר).
4. זיהוי דיבור.
5. ניתוח תמונה.
6. תרגום (כולנו זוכרים כמה רעש גרם תרגום סימולטני בסקייפ).
7. בדיקת איות והצעות לתיקון שגיאות.

לואיס

כמו כן, כדי ליצור בוטים ייתכן שתצטרך לואיס (שירות חכם בהבנת שפה). מטרות השירות:

• קבע האם ההצהרה של המשתמש הגיונית והאם תגובת הבוט נחוצה.
• צמצם את המאמצים לתמלול דיבור (טקסט) של המשתמש לפקודות המובנות לבוט.
• חזה מטרות/כוונות אמיתיות של המשתמש והפק תובנות מפתח מביטויים בדיאלוג.
• אפשר למפתח להפעיל את הבוט תוך שימוש בכמה דוגמאות בלבד של זיהוי משמעות והדרכה נוספת של הבוט במהלך הפעולה.
• אפשר למפתח להשתמש בהדמיה כדי להעריך את איכות תמלול הפקודה.
• סייע בשיפורים מצטברים בזיהוי מטרות אמיתי.

למעשה, המטרה העיקרית של LUIS היא להבין בהסתברות מסוימת למה התכוון המשתמש ולהמיר בקשה טבעית לפקודה הרמונית. כדי לזהות ערכי שאילתה, LUIS משתמש בקבוצה של כוונות (משמעויות, כוונות) וישויות (או שהוגדרו מראש על ידי מפתחים, או "דומיינים" שנעשו מראש - כמה ספריות מוכנות של ביטויים סטנדרטיים שהוכנו על ידי Microsoft). 

דוגמה פשוטה: יש לך בוט שנותן לך תחזית מזג אוויר. מבחינתו, הכוונה תהיה תרגום של בקשה טבעית ל"פעולה" - בקשה לתחזית מזג אוויר, והישויות יהיו זמן ומקום. להלן תרשים של איך פועלת כוונת CheckWeather עבור בוט כזה.

כוונה
מהות
דוגמה לשאילתה טבעית

CheckWeather
{"type": "location", "entity": "moscow"}
{"type": "builtin.datetimeV2.date", "entity": "future","resolution":"2020-05-30"}
איך מזג האוויר יהיה מחר במוסקבה?

CheckWeather
{ "type": "date_range", "entity": "סוף השבוע הזה" }
תראה לי את התחזית לסוף השבוע הזה

כדי לשלב QnA Maker ו-LUIS אתה יכול להשתמש מוקדנית. 

כאשר אתה עובד עם QnA Maker ומקבל בקשה ממשתמש, המערכת קובעת איזה אחוזי הסתברות התשובה מ-QnA תואמת לבקשה. אם ההסתברות גבוהה, פשוט נותנים למשתמש תשובה ממאגר הידע הארגוני, אם היא נמוכה, ניתן לשלוח את הבקשה ל-LUIS לבירור. השימוש ב-Dispatcher מאפשר לך לא לתכנת את ההיגיון הזה, אלא לקבוע אוטומטית את הקצה הזה של הפרדת הבקשות ולהפיץ אותן במהירות.

בדיקה ופרסום של הבוט

יישום מקומי אחר משמש לבדיקה, אמולטור מסגרת בוט. באמצעות האמולטור תוכלו לתקשר עם הבוט ולבדוק את ההודעות שהוא שולח ומקבל. האמולטור מציג הודעות כפי שהן יופיעו בממשק צ'אט אינטרנט ורושם בקשות ותגובות JSON בעת שליחת הודעות לבוט.

דוגמה לשימוש באמולטור מוצגת בהדגמה זו, המציגה יצירת עוזר וירטואלי עבור BMW. הסרטון מדבר גם על מאיצים חדשים ליצירת צ'אטבוטים - תבניות:

https://youtu.be/u7Gql-ClcVA?t=564

אתה יכול גם להשתמש בתבניות בעת יצירת הצ'אטבוטים שלך. 
תבניות מאפשרות לך לא לכתוב פונקציות בוט סטנדרטיות מחדש, אלא להוסיף קוד מוכן כ"מיומנות". דוגמה יכולה להיות עבודה עם לוח שנה, קביעת פגישות וכו'. קוד של מיומנויות מוכנות פורסם ב-github.

הבדיקה הצליחה, הבוט מוכן ועכשיו צריך לפרסם אותו ולחבר ערוצים. הפרסום מתבצע באמצעות Azure, וערוצים יכולים לשמש שליחים או רשתות חברתיות. אם אין לך את הערוץ הנדרש להזנת נתונים, תוכל לחפש אותו בקהילה המקבילה ב-GitHab. 

כמו כן, כדי ליצור צ'אט בוט מן המניין כממשק לתקשורת עם המשתמש והשירותים הקוגניטיביים, תזדקקו כמובן לשירותי Azure נוספים, כגון מסדי נתונים, ללא שרת (Azure Functions), כמו גם שירותי LogicApp ואולי , רשת אירועים.

הערכה ואנליטיקה

כדי להעריך אינטראקציה עם המשתמש, אתה יכול להשתמש הן בניתוח המובנה של שירות Azure Bot והן בשירות Application Insights המיוחד.

כתוצאה מכך, תוכל לאסוף מידע על סמך הקריטריונים הבאים:

• כמה משתמשים ניגשו לבוט מערוצים שונים במהלך פרק הזמן שנבחר.
• כמה משתמשים ששלחו הודעה אחת חזרו מאוחר יותר ושלחו עוד אחת.
• כמה פעולות נשלחו והתקבלו בכל ערוץ במהלך מרווח הזמן שצוין.

באמצעות Application Insights, אתה יכול לנטר כל יישום ב-Azure, ובפרט, צ'אטבוטים, לקבל נתונים נוספים על התנהגות המשתמש, עומסים ותגובות צ'טבוט. יש לציין שלשירות Application Insights יש ממשק משלו בפורטל Azure.

אתה יכול גם להשתמש בנתונים שנאספו באמצעות שירות זה כדי ליצור הדמיות נוספות ודוחות אנליטיים ב- PowerBI. ניתן לקחת דוגמה לדוח ותבנית כאלה עבור PowerBI כאן.

תודה לכולכם על תשומת הלב! במאמר זה השתמשנו חומר מתוך הסמינר המקוון של אדריכלית Microsoft Azure Anna Fenyushina "כשאין לאנשים זמן. כיצד להשתמש ב-100% בצ'אטבוטים ובשירותים קוגניטיביים לאוטומציה של תהליכים שגרתיים", שם הראינו בבירור מהם צ'אטבוטים ב-Azure ומהם התרחישים לשימוש בהם, וכן הדגמנו כיצד ליצור בוט ב-QnA Maker תוך 15 דקות וכיצד מבנה השאילתה מפוענח ב-LUIS. 

ערכנו את הסמינר המקוון הזה כחלק מהמרתון המקוון למפתחים Dev Bootcamp. זה היה על מוצרים שמאיצים את הפיתוח ומשחררים חלק מעומס העבודה השגרתי מעובדי החברה באמצעות כלי אוטומציה ומודול Azure מוכנים מראש. הקלטות של סמינרים מקוונים אחרים הכלולים במרתון זמינות בקישורים הבאים:

• Azure DevOps כאמצעי לארגון מחזור הפיתוח המלא בכל שפה ולכל פלטפורמה, תוך שימוש בפרקטיקות של DevOps 
  אנחנו מדברים על האבולוציה והיכולות החדשות של שירות Azure DevOps. אנו מנתחים בפירוט את כל חמשת המרכיבים העיקריים שלו וכיצד השירות מסייע לארגון של פיתוח תוכנה תעשייתי. מגיש: ולדימיר גוסארוב MVP של מיקרוסופט.
• ארגון CI/CD באמצעות Azure Pipelines
  אנו שוקלים כיצד ליישם את גישת "הרכבה כקוד" עבור כל שפת תכנות באמצעות צינורות YAML מרובי שלבים. מגיש: ולדימיר גוסארוב MVP של מיקרוסופט.
• שיטות לתמיכה בו-זמנית במספר גרסאות של מוצר בייצור באמצעות Azure Repos
  אנו דנים כיצד לפתח אסטרטגיות לאחסון קוד מקור תוכנה וכיצד להשתמש במערכות אחסון גרסאות באמצעות Azure Repos. מגיש: ולדימיר גוסארוב MVP של מיקרוסופט.
• WhiteSource. ניטור ספריות קוד פתוח מאובטחות 
  אנו מציגים טכניקות ניהול קוד פתוח בפיתוח ויישום מעשי של הכלי WhiteSource. אנחנו מדברים על חיפוש נקודות תורפה ברכיבי קוד פתוח ושמירה על טוהר הרישוי באמצעות WhiteSource. מציגות: דיאנה ליסבארון, מנהלת מכירות WhiteSource, ו-Daria Oreshkina, Web Control, מפיצה רשמית של WhiteSource ברוסיה.

מקור: www.habr.com