איך חזינו נטישה על ידי התקרבות אליה כמו אסון טבע

לפעמים, כדי לפתור בעיה, צריך רק להסתכל עליה מזווית אחרת. גם אם במהלך 10 השנים האחרונות בעיות דומות נפתרו באותו אופן עם השפעות שונות, אין זה עובדה ששיטה זו היא היחידה.

יש נושא כמו נטישת לקוחות. הדבר הוא בלתי נמנע, כי לקוחות של כל חברה יכולים, מסיבות רבות, להפסיק להשתמש במוצרים או בשירותיה. כמובן שעבור חברה, נטישה היא פעולה טבעית, אך לא הרצויה ביותר, ולכן כולם מנסים למזער את הנטישה הזו. יתרה מכך, חזה את ההסתברות לנטישה עבור קטגוריה מסוימת של משתמשים, או משתמש ספציפי, והצע כמה צעדים לשמר אותם.

יש צורך לנתח ולנסות לשמר את הלקוח, במידת האפשר, לפחות מהסיבות הבאות:

• משיכת לקוחות חדשים יקרה יותר מהליכי שימור. כדי למשוך לקוחות חדשים, ככלל, אתה צריך להוציא קצת כסף (פרסום), בעוד לקוחות קיימים יכולים להיות מופעלים עם הצעה מיוחדת עם תנאים מיוחדים;
• הבנת הסיבות מדוע לקוחות עוזבים היא המפתח לשיפור המוצרים והשירותים.

ישנן גישות סטנדרטיות לניבוי נטישה. אבל באחת מאליפויות הבינה המלאכותית, החלטנו לנסות את הפצת Weibull בשביל זה. הוא משמש לרוב לניתוח שרידות, חיזוי מזג אוויר, ניתוח אסונות טבע, הנדסת תעשייה וכדומה. התפלגות Weibull היא פונקציית הפצה מיוחדת המתואמת על ידי שני פרמטרים и .

ויקיפדיה

באופן כללי, זה דבר מעניין, אבל לחיזוי זרמים יוצאים, ובפינטק בכלל, זה לא כל כך בשימוש. מתחת לגזרה נספר לכם איך אנחנו (מעבדת כריית נתונים) עשינו זאת, ובמקביל זכינו בזהב באליפות הבינה המלאכותית בקטגוריית "AI בבנקים".

לגבי נטישה באופן כללי

בואו נבין קצת מהי נטישת לקוחות ומדוע היא כל כך חשובה. בסיס לקוחות חשוב לעסק. לקוחות חדשים מגיעים לבסיס זה, למשל לאחר שלמדו על מוצר או שירות מפרסומת, חיים זמן מה (משתמשים באופן פעיל במוצרים) ולאחר זמן מה מפסיקים להשתמש בו. תקופה זו נקראת "מחזור החיים של הלקוח" - מונח המתאר את השלבים שעובר הלקוח כאשר הוא לומד על מוצר, מקבל החלטת קנייה, משלם, משתמש והופך לצרכן נאמן, ובסופו של דבר מפסיק להשתמש במוצר. מסיבה כזו או אחרת. בהתאם לכך, נטישה היא השלב האחרון במחזור החיים של הלקוח, כאשר הלקוח מפסיק להשתמש בשירותים, ועבור עסק זה אומר שהלקוח הפסיק להביא רווח או תועלת כלשהי.

כל לקוח בנק הוא אדם ספציפי שבוחר כרטיס בנק כזה או אחר במיוחד לצרכיו. אם אתה נוסע לעתים קרובות, כרטיס עם מיילים יהיה שימושי. קונה הרבה - שלום, כרטיס קאשבק. הוא קונה הרבה בחנויות ספציפיות - וכבר יש פלסטיק שותף מיוחד לכך. כמובן שלפעמים כרטיס נבחר על פי קריטריון "השירות הזול ביותר". באופן כללי, יש כאן מספיק משתנים.

ואדם גם בוחר את הבנק עצמו - מה הטעם לבחור כרטיס מבנק שסניפיו נמצאים רק במוסקבה ובאזור, כשאתה מחברובסק? גם אם כרטיס מבנק כזה משתלם לפחות פי 2, נוכחותם של סניפי בנק בקרבת מקום היא עדיין קריטריון חשוב. כן, 2019 כבר כאן והדיגיטל הוא הכל שלנו, אבל מספר בעיות עם כמה בנקים ניתנות לפתרון רק בסניף. בנוסף, שוב, חלק מהאוכלוסייה סומך על בנק פיזי הרבה יותר מאשר אפליקציה בסמארטפון, גם את זה צריך לקחת בחשבון.

כתוצאה מכך, לאדם עשויות להיות סיבות רבות לסרב למוצרי בנק (או לבנק עצמו). החלפתי עבודה, ותעריף הכרטיס השתנה ממשכורת ל"לבני תמותה בלבד", שזה פחות משתלם. עברתי לעיר אחרת שבה אין סניפי בנק. לא אהבתי את האינטראקציה עם המפעיל הבלתי מוסמך בסניף. כלומר, יכולות להיות אפילו יותר סיבות לסגירת חשבון מאשר לשימוש במוצר.

והלקוח לא רק יכול להביע בבירור את כוונתו - לבוא לבנק ולכתוב הצהרה, אלא פשוט להפסיק להשתמש במוצרים מבלי לסיים את החוזה. הוחלט להשתמש בלמידת מכונה ובינה מלאכותית כדי להבין בעיות כאלה.

יתרה מכך, נטישת לקוחות יכולה להתרחש בכל ענף (טלקום, ספקיות אינטרנט, חברות ביטוח, בכלל, בכל מקום בו יש בסיס לקוחות ועסקאות תקופתיות).

מה עשינו

קודם כל, היה צורך לתאר גבול ברור - מאיזו שעה אנחנו מתחילים לראות את הלקוח כמי שעזב. מנקודת מבטו של הבנק שסיפק לנו את הנתונים לעבודתנו, מצב הפעילות של הלקוח היה בינארי - או שהוא פעיל או לא. היה דגל ACTIVE_FLAG בטבלה "פעילות", שערכו יכול להיות "0" או "1" ("לא פעיל" ו"פעיל" בהתאמה). והכל יהיה בסדר, אבל אדם הוא כזה שהוא יכול להשתמש בו באופן פעיל במשך זמן מה, ואז ליפול מהרשימה הפעילה לחודש - הוא חלה, נסע למדינה אחרת לחופשה, או אפילו הלך לבדוק כרטיס מבנק אחר. או אולי לאחר תקופה ארוכה של חוסר פעילות, להתחיל להשתמש שוב בשירותי הבנק

לכן, החלטנו לקרוא לתקופת חוסר פעילות פרק זמן רצוף מסוים שבמהלכו הדגל עבורה נקבע ל-"0".

לקוחות עוברים מחוסר פעילות לפעיל לאחר תקופות של חוסר פעילות באורכים שונים. יש לנו הזדמנות לחשב את מידת הערך האמפירי "מהימנות של תקופות של חוסר פעילות" - כלומר, ההסתברות שאדם יתחיל להשתמש שוב במוצרי הבנק לאחר חוסר פעילות זמנית.

לדוגמה, גרף זה מציג את חידוש הפעילות (ACTIVE_FLAG=1) של לקוחות לאחר מספר חודשים של חוסר פעילות (ACTIVE_FLAG=0).

כאן נבהיר מעט את מערך הנתונים איתו התחלנו לעבוד. אז, הבנק סיפק מידע מצטבר במשך 19 חודשים בטבלאות הבאות:

• "פעילות" - פעולות לקוח חודשיות (בכרטיסים, בבנקאות באינטרנט ובבנקאות סלולרית), לרבות שכר ומידע על מחזור.
• "כרטיסים" - נתונים על כל הכרטיסים שיש ללקוח, עם לוח תעריפים מפורט.
• "הסכמים" - מידע על הסכמי הלקוח (פתוחים וסגורים): הלוואות, פיקדונות וכדומה, תוך ציון הפרמטרים של כל אחד מהם.
• "לקוחות" - קבוצה של נתונים דמוגרפיים (מין וגיל) וזמינות פרטי הקשר.

לעבודה היינו צריכים את כל הטבלאות פרט ל"מפה".

היה כאן קושי נוסף - בנתונים האלה הבנק לא ציין איזו פעילות התרחשה בכרטיסים. כלומר, יכולנו להבין אם יש עסקאות או לא, אבל כבר לא יכולנו לקבוע את סוגן. לפיכך, לא היה ברור אם הלקוח מושך מזומן, מקבל משכורת או מוציא את הכסף על רכישות. גם לא היו לנו נתונים על יתרות החשבון, וזה היה שימושי.

המדגם עצמו היה חסר פניות - במדגם זה, במשך 19 חודשים, הבנק לא עשה כל ניסיונות לשמר לקוחות ולמזער את התזרים.

אז, לגבי תקופות של חוסר פעילות.

כדי לגבש הגדרה של נטישה, יש לבחור תקופה של חוסר פעילות. כדי ליצור תחזית נטישה בנקודת זמן , עליך להיות בעל היסטוריית לקוח של לפחות 3 חודשים במרווח . ההיסטוריה שלנו הוגבלה ל-19 חודשים, אז החלטנו לקחת תקופה של חוסר פעילות של 6 חודשים, אם היא זמינה. ולתקופה המינימלית לתחזית איכותית לקחנו 3 חודשים. לקחנו את הנתונים במשך 3 ו-6 חודשים באופן אמפירי על סמך ניתוח של התנהגות נתוני לקוחות.

את ההגדרה של נטישה ניסחנו באופן הבא: חודש של נטישה של לקוחות זהו החודש הראשון עם ACTIVE_FLAG=0, כאשר מחודש זה יש לפחות שישה אפסים רצופים בשדה ACTIVE_FLAG, במילים אחרות, החודש שממנו הלקוח לא היה פעיל במשך 6 חודשים.

מספר לקוחות שעזבו

מספר הלקוחות שנותרו

כיצד מחושב הנטישה?

בתחרויות כאלה, ובפועל בכלל, מנבאים זרימה בדרך זו לרוב. הלקוח משתמש במוצרים ובשירותים בפרקי זמן שונים, נתוני האינטראקציה עמו מיוצגים כווקטור של תכונות באורך קבוע n. לרוב מידע זה כולל:

• נתונים המאפיינים את המשתמש (נתונים דמוגרפיים, פלח שיווקי).
• היסטוריה של השימוש במוצרים ובשירותים בנקאיים (אלה פעולות של לקוחות שקשורות תמיד לזמן או פרק זמן ספציפי של המרווח שאנו צריכים).
• נתונים חיצוניים, אם אפשר היה להשיג אותם - למשל, ביקורות מרשתות חברתיות.

ואחרי זה, הם גוזרים הגדרה של נטישה, שונה עבור כל משימה. לאחר מכן הם משתמשים באלגוריתם למידת מכונה, אשר חוזה את הסבירות שלקוח יעזוב מבוסס על וקטור של גורמים . כדי לאמן את האלגוריתם, נעשה שימוש באחת המסגרות הידועות לבניית אנסמבלים של עצי החלטה, XGBoost, LightGBM, CatBoost או שינויים בהם.

האלגוריתם עצמו לא רע, אבל יש לו כמה חסרונות רציניים בכל הנוגע לניבוי נטישה.

• אין לו מה שנקרא "זיכרון". הקלט של המודל הוא מספר מוגדר של תכונות התואמות את נקודת הזמן הנוכחית. על מנת לאחסן מידע על היסטוריית השינויים בפרמטרים, יש צורך לחשב תכונות מיוחדות המאפיינות שינויים בפרמטרים לאורך זמן, למשל, מספר או כמות העסקאות הבנקאיות במהלך 1,2,3, XNUMX, XNUMX החודשים האחרונים. גישה זו יכולה לשקף רק באופן חלקי את אופי השינויים הזמניים.
• אופק חיזוי קבוע. המודל מסוגל לחזות נטישה של לקוחות רק לפרק זמן מוגדר מראש, למשל, תחזית חודש מראש. אם נדרשת תחזית לפרק זמן אחר, למשל, שלושה חודשים, אז אתה צריך לבנות מחדש את מערך האימונים ולהכשיר מחדש מודל חדש.

גישתנו

החלטנו מיד שלא נשתמש בגישות סטנדרטיות. בנוסף אלינו נרשמו לאליפות עוד 497 אנשים, שלכל אחד מהם ניסיון לא מבוטל מאחוריו. אז לנסות לעשות משהו לפי סכמה סטנדרטית בתנאים כאלה זה לא רעיון טוב.

והתחלנו לפתור את הבעיות העומדות בפני מודל הסיווג הבינארי על ידי חיזוי התפלגות ההסתברות של זמני הנטישה של לקוחות. ניתן לראות גישה דומה כאן, זה מאפשר לך לחזות נטישה בצורה גמישה יותר ולבדוק השערות מורכבות יותר מאשר בגישה הקלאסית. כמשפחה של הפצות המדגימות את זמן היציאה, בחרנו בהפצה וויבול על השימוש הנרחב שלו בניתוח הישרדות. ניתן לראות בהתנהגותו של הלקוח סוג של הישרדות.

להלן דוגמאות להתפלגות צפיפות ההסתברות של Weibull בהתאם לפרמטרים и :

זוהי פונקציית צפיפות ההסתברות של שלושה לקוחות שונים שנעשים לאורך זמן. הזמן מוצג בחודשים. במילים אחרות, גרף זה מראה מתי סביר להניח שלקוח יפרוש בחודשיים הקרובים. כפי שניתן לראות, ללקוח עם הפצה יש פוטנציאל גדול יותר לעזוב מוקדם יותר מאשר לקוחות עם Weibull(2, 0.5) ו- Weibull (3,1) הפצות.

התוצאה היא מודל שלכל לקוח, לכל
חודש מנבא את הפרמטרים של התפלגות Weibull, המשקפת בצורה הטובה ביותר את התרחשות ההסתברות ליציאה לאורך זמן. ביתר פירוט:

• מאפייני היעד במערך האימונים הם הזמן שנותר עד לנטישה בחודש מסוים עבור לקוח ספציפי.
• אם אין שיעור נטישה ללקוח, אנו מניחים שזמן הנטישה גדול ממספר החודשים מהחודש הנוכחי ועד סוף ההיסטוריה שיש לנו.
• דגם בשימוש: רשת עצבית חוזרת עם שכבת LSTM.
• כפונקציית הפסד, אנו משתמשים בפונקציית סבירות היומן השלילי עבור התפלגות Weibull.

להלן היתרונות של שיטה זו:

• התפלגות ההסתברות, בנוסף לאפשרות הברורה של סיווג בינארי, מאפשרת חיזוי גמיש של אירועים שונים, למשל האם לקוח יפסיק להשתמש בשירותי הבנק תוך 3 חודשים. כמו כן, במידת הצורך, ניתן לבצע ממוצע של מדדים שונים על פני התפלגות זו.
• לרשת העצבית החוזרת LSTM יש זיכרון והיא משתמשת ביעילות בכל ההיסטוריה הזמינה. ככל שהסיפור מתרחב או מעודן, הדיוק עולה.
• ניתן להתאים את הגישה בקלות כאשר מחלקים פרקי זמן לקטנים יותר (לדוגמה, כאשר מחלקים חודשים לשבועות).

אבל זה לא מספיק כדי ליצור מודל טוב; אתה צריך גם להעריך כראוי את איכותו.

איך העריכו את האיכות?

בחרנו ב-Lift Curve כמדד. זה משמש בעסקים למקרים כאלה בגלל הפרשנות הברורה שלו, זה מתואר היטב כאן и כאן. אם אתה מתאר את המשמעות של מדד זה במשפט אחד, זה יהיה "כמה פעמים האלגוריתם עושה את החיזוי הטוב ביותר בהתחלה % מאשר באופן אקראי."

מודלים לאימון

תנאי התחרות לא קבעו מדד איכות ספציפי שלפיו ניתן להשוות מודלים וגישות שונות. יתרה מכך, ההגדרה של נטישה יכולה להיות שונה ועשויה להיות תלויה בהצהרת הבעיה, אשר, בתורה, נקבעת על ידי יעדים עסקיים. לכן, כדי להבין איזו שיטה עדיפה, הכשרנו שני מודלים:

1. גישת סיווג בינארי נפוץ באמצעות אלגוריתם למידת מכונה של עץ החלטות אנסמבל (LightGBM);
2. דגם Weibull-LSTM

מערך המבחנים כלל 500 לקוחות שנבחרו מראש שלא היו במערך ההדרכה. היפר-פרמטרים נבחרו עבור המודל באמצעות אימות צולב, בחלוקה לפי לקוח. אותם סטים של תכונות שימשו להכשרת כל דגם.

בשל העובדה שאין לדגם זיכרון, נלקחו עבורו מאפיינים מיוחדים המציגים את היחס בין השינויים בפרמטרים לחודש אחד לבין הערך הממוצע לפרמטרים בשלושת החודשים האחרונים. מה אפיין את קצב השינוי בערכים בתקופה האחרונה של שלושה חודשים. בלי זה, המודל המבוסס על יער רנדום יהיה בנחיתות ביחס ל-Weibull-LSTM.

מדוע LSTM עם הפצת Weibull עדיפה על גישת עץ החלטות אנסמבל

הכל ברור כאן בכמה תמונות בלבד.

השוואה של Lift Curve עבור האלגוריתם הקלאסי ו- Weibull-LSTM

השוואה של המדד Lift Curve לפי חודש עבור האלגוריתם הקלאסי ו- Weibull-LSTM

באופן כללי, LSTM עדיף על האלגוריתם הקלאסי כמעט בכל המקרים.

תחזית נטישה

מודל המבוסס על רשת עצבית חוזרת עם תאי LSTM עם הפצת Weibull יכול לחזות נטישה מראש, למשל, לחזות נטישה של לקוחות במהלך n החודשים הבאים. שקול את המקרה עבור n = 3. במקרה זה, עבור כל חודש, הרשת העצבית חייבת לקבוע נכון אם הלקוח יעזוב, החל מהחודש הבא ועד החודש ה-n. במילים אחרות, עליו לקבוע נכון אם הלקוח יישאר לאחר n חודשים. זה יכול להיחשב כתחזית מראש: חיזוי הרגע שבו הלקוח רק התחיל לחשוב על עזיבה.

הבה נשווה את עקומת העלייה עבור Weibull-LSTM 1, 2 ו-3 חודשים לפני היציאה:

כבר כתבנו למעלה שגם התחזיות שנעשו ללקוחות שכבר לא פעילים מזה זמן חשובות. לכן, כאן נוסיף למדגם מקרים כאלה כשהלקוח שעזב כבר לא היה פעיל במשך חודש או חודשיים, ונבדוק ש-Weibull-LSTM מסווג נכון מקרים כאלה כ-churn. מכיוון שהיו מקרים כאלה במדגם, אנו מצפים שהרשת תטפל בהם היטב:

שימור לקוחות

למעשה, זה הדבר העיקרי שאפשר לעשות, כשיש ביד מידע שלקוחות כאלה ואחרים מתכוננים להפסיק להשתמש במוצר. אם כבר מדברים על בניית מודל שיכול להציע משהו שימושי ללקוחות כדי לשמור עליהם, זה לא יכול להיעשות אם אין לך היסטוריה של ניסיונות דומים שיסתיימו בטוב.

לא היה לנו סיפור כזה, אז החלטנו את זה ככה.

1. אנו בונים מודל שמזהה מוצרים מעניינים עבור כל לקוח.
2. מדי חודש אנו מפעילים את המסווגן ומזהים לקוחות פוטנציאליים שעוזבים.
3. אנו מציעים לחלק מהלקוחות את המוצר, לפי המודל מנקודה 1, וזוכרים את הפעולות שלנו.
4. לאחר מספר חודשים, אנו בוחנים אילו מהלקוחות הפוטנציאליים הללו עזבו ואילו נשארו. לפיכך, אנו יוצרים מדגם הדרכה.
5. אנו מאמנים את המודל באמצעות ההיסטוריה שהתקבלה בשלב 4.
6. לחלופין, אנו חוזרים על ההליך, ומחליפים את המודל משלב 1 במודל שהתקבל בשלב 5.

בדיקת איכות שימור כזו יכולה להיעשות על ידי בדיקות A/B רגילות - אנו מחלקים לקוחות שפוטנציאל עוזבים לשתי קבוצות. אנו מציעים מוצרים לאחד על בסיס מודל השימור שלנו, ולשני אנו לא מציעים דבר. החלטנו להכשיר מודל שיכול להיות שימושי כבר בנקודה 1 של הדוגמה שלנו.

רצינו להפוך את הפילוח לפרשנות ככל האפשר. לשם כך, בחרנו מספר תכונות שניתן לפרש בקלות: המספר הכולל של העסקאות, שכר העבודה, מחזור החשבונות הכולל, גיל, מין. תכונות מטבלת "מפות" לא נלקחו בחשבון כלא אינפורמטיביות, ותכונות מטבלה 3 "חוזים" לא נלקחו בחשבון עקב מורכבות העיבוד על מנת למנוע דליפת נתונים בין מערך האימות למערך ההדרכה.

מקבץ בוצע באמצעות מודלים של תערובת גאוסית. קריטריון המידע של Akaike אפשר לנו לקבוע 2 אופטימיות. האופטימום הראשון מתאים לאשכול אחד. האופטימום השני, פחות בולט, מתאים ל-1 אשכולות. בהתבסס על תוצאה זו, אנו יכולים להסיק את המסקנה הבאה: קשה ביותר לחלק נתונים לאשכולות ללא מידע נתון אפריורי. לאשכול טוב יותר, אתה צריך נתונים שמתארים כל לקוח בפירוט.

לכן נבחנה בעיית הלמידה בפיקוח על מנת להציע לכל לקוח מוצר אחר. המוצרים הבאים נחשבו: "פיקדון לתקופה", "כרטיס אשראי", "משיכת יתר", "הלוואת צריכה", "הלוואה לרכב", "משכנתא".

הנתונים כללו סוג נוסף של מוצר: "חשבון שוטף". אבל לא שקלנו את זה בגלל תכולת המידע הנמוכה שלו. עבור משתמשים שהם לקוחות בנק, כלומר. לא הפסיקה להשתמש במוצרים שלה, נבנה מודל כדי לחזות איזה מוצר עשוי לעניין אותם. רגרסיה לוגיסטית נבחרה כמודל, וערך ה-Lift עבור 10 האחוזונים הראשונים שימש כמדד הערכת האיכות.

ניתן להעריך את איכות המודל באיור.

תוצאות מודל המלצת מוצרים ללקוחות

סך הכל

גישה זו הביאה לנו את המקום הראשון בקטגוריית "AI in Banks" באליפות ה-AI RAIF-Challenge 2017.

ככל הנראה, העיקר היה לגשת לבעיה מזווית לא שגרתית ולהשתמש בשיטה שבדרך כלל משתמשים במצבים אחרים.

למרות שזרימה מאסיבית של משתמשים עשויה בהחלט להיות אסון טבע לשירותים.

שיטה זו יכולה להילקח בחשבון עבור כל תחום אחר שבו חשוב לקחת בחשבון תזרים, לא רק בנקים. לדוגמה, השתמשנו בו כדי לחשב את התזרים שלנו - בסניפי סיביר וסנט פטרסבורג של Rostelecom.

חברת "מעבדת כריית נתונים" "פורטל חיפוש "ספוטניק"

מקור: www.habr.com