Како го предвидовме раздвижувањето со тоа што ќе му пристапиме како на природна катастрофа

Понекогаш, за да решите некој проблем, само треба да го погледнете од друг агол. Дури и ако во изминатите 10 години слични проблеми биле решени на ист начин со различни ефекти, не е факт дека овој метод е единствениот.

Постои таква тема како отфрлање на клиентите. Работата е неизбежна, бидејќи клиентите на секоја компанија можат, од многу причини, да престанат да ги користат нејзините производи или услуги. Се разбира, за една компанија, раздвижувањето е природно, но не и најпосакуваното дејство, така што секој се обидува да го минимизира ова раздвојување. Уште подобро, предвидете ја веројатноста за превртување за одредена категорија корисници или одреден корисник и предложете некои чекори за нивно задржување.

Неопходно е да се анализира и да се обиде да го задржи клиентот, ако е можно, барем од следниве причини:

• привлекувањето нови клиенти е поскапо од процедурите за задржување. За да привлечете нови клиенти, по правило, треба да потрошите малку пари (рекламирање), додека постоечките клиенти може да се активираат со специјална понуда со посебни услови;
• Разбирањето на причините зошто клиентите заминуваат е клучот за подобрување на производите и услугите.

Постојат стандардни пристапи за предвидување на раздвојување. Но, на едно од првенствата за вештачка интелигенција, решивме да ја испробаме дистрибуцијата на Веибул за ова. Најчесто се користи за анализа на опстанок, временска прогноза, анализа на природни катастрофи, индустриско инженерство и слично. Вајбуловата распределба е специјална дистрибутивна функција параметриизирана со два параметри и .

Википедија

Општо земено, тоа е интересна работа, но за прогнозирање на одливи, и воопшто во финтек, не се користи толку често. Подолу ќе ви кажеме како ние (лабораторија за рударство податоци) го направивме тоа, истовремено освојувајќи злато на шампионатот за вештачка интелигенција во категоријата „ВИ во банките“.

Општо за раздвижувањето

Ајде да разбереме малку за тоа што е отфрлање на клиентите и зошто е толку важно. Базата на клиенти е важна за бизнисот. Нови клиенти доаѓаат во оваа база, на пример, откако дознале за некој производ или услуга од реклама, живеат некое време (активно ги користат производите) и по некое време престануваат да ги користат. Овој период се нарекува „животен циклус на клиенти“ - термин кој ги опишува фазите низ кои поминува клиентот кога дознава за некој производ, донесува одлука за купување, плаќа, користи и станува лојален потрошувач и на крајот престанува да го користи производот. производи поради една или друга причина. Соодветно на тоа, раздвојувањето е последната фаза од животниот циклус на клиентот, кога клиентот престанува да ги користи услугите, а за бизнис тоа значи дека клиентот престанал да носи профит или каква било корист.

Секој клиент на банка е специфично лице кое избира една или друга банкарска картичка специјално за неговите потреби. Ако често патувате, добро ќе ви дојде картичка со километри. Купува многу - здраво, картичка за враќање на готовина. Тој купува многу во одредени продавници - и веќе има специјална партнерска пластика за ова. Се разбира, понекогаш картичката се избира врз основа на критериумот „Најевтина услуга“. Во принцип, тука има доволно променливи.

И едно лице ја избира и самата банка - дали има смисла да се избере картичка од банка чии филијали се само во Москва и регионот, кога сте од Хабаровск? Дури и ако картичката од таква банка е најмалку 2 пати попрофитабилна, присуството на банкарски филијали во близина е сè уште важен критериум. Да, 2019 година е веќе тука и дигиталната е наше сè, но голем број прашања со некои банки може да се решат само во филијала. Плус, повторно, дел од населението многу повеќе и верува на физичка банка отколку на апликација на паметен телефон, ова исто така треба да се земе предвид.

Како резултат на тоа, едно лице може да има многу причини за одбивање на банкарски производи (или самата банка). Сменив работа, а тарифата за картички се смени од плата во „За обични смртници“, што е помалку профитабилно. Се преселив во друг град каде што нема филијали на банка. Не ми се допадна интеракцијата со неквалификуваниот оператор во филијалата. Односно, може да има уште повеќе причини за затворање сметка отколку за користење на производот.

И клиентот не само што може јасно да ја изрази својата намера - да дојде во банката и да напише изјава, туку едноставно да престане да ги користи производите без да го раскине договорот. Одлучено е да се користат машинско учење и вештачка интелигенција за да се разберат ваквите проблеми.

Згора на тоа, раздвојувањето на клиентите може да се случи во која било индустрија (телеком, интернет провајдери, осигурителни компании, воопшто, секаде каде што има база на клиенти и периодични трансакции).

Што направивме

Пред сè, беше неопходно да се опише јасна граница - од кое време почнуваме да сметаме дека клиентот си заминал. Од гледна точка на банката која ни ги достави податоците за нашата работа, статусот на активност на клиентот беше бинарен - тој е или активен или не. Имаше знаменце ACTIVE_FLAG во табелата „Активност“, чија вредност може да биде или „0“ или „1“ („Неактивно“ и „Активно“ соодветно). И сè би било добро, но човекот е таков што може активно да го користи некое време, а потоа да испадне од активната листа еден месец - се разболел, отишол во друга земја на одмор, па дури и отишол да тестира картичка од друга банка. Или можеби по долг период на неактивност, повторно почнете да ги користите услугите на банката

Затоа, решивме период на неактивност да го наречеме одреден континуиран временски период во кој знамето за него беше поставено на „0“.

Клиентите се префрлаат од неактивни во активни по периоди на неактивност со различна должина. Имаме можност да го пресметаме степенот на емпириска вредност „сигурност на периоди на неактивност“ - односно, веројатноста лицето повторно да почне да користи банкарски производи по привремена неактивност.

На пример, овој графикон го прикажува продолжувањето на активноста (ACTIVE_FLAG=1) на клиентите по неколку месеци неактивност (ACTIVE_FLAG=0).

Овде малку ќе го разјасниме збирот на податоци со кој почнавме да работиме. Така, банката обезбеди збирни информации за 19 месеци во следните табели:

• „Активност“ - месечни трансакции со клиенти (со картички, во Интернет банкарство и мобилно банкарство), вклучително и платен список и информации за прометот.
• „Картички“ - податоци за сите картички што ги има клиентот, со детален тарифен распоред.
• „Договори“ - информации за договорите на клиентот (и отворени и затворени): заеми, депозити итн., Укажувајќи ги параметрите на секој од нив.
• „Клиенти“ - збир на демографски податоци (пол и возраст) и достапност на информации за контакт.

За работа ни требаа сите табели освен „Мапата“.

Тука имаше уште една тешкотија - во овие податоци банката не посочи каква активност се одвивала на картичките. Односно, можевме да разбереме дали има трансакции или не, но веќе не можевме да го одредиме нивниот тип. Затоа, не беше јасно дали клиентот вадел готовина, земал плата или ги трошел парите за купување. Исто така, немавме податоци за состојбата на сметките, кои би биле корисни.

Самиот примерок беше непристрасен - во овој примерок, во текот на 19 месеци, банката не направи никакви обиди да ги задржи клиентите и да го минимизира одливот.

Значи, за периоди на неактивност.

За да се формулира дефиниција за испуштање, мора да се избере период на неактивност. За да креирате прогноза за пречка во одреден момент во времето , мора да имате историја на клиенти од најмалку 3 месеци во интервал . Нашата историја беше ограничена на 19 месеци, па решивме да земеме период на неактивност од 6 месеци, доколку е достапен. И за минималниот период за висококвалитетна прогноза, ни беа потребни 3 месеци. Ги земавме бројките за 3 и 6 месеци емпириски врз основа на анализа на однесувањето на податоците на клиентите.

Ние ја формулиравме дефиницијата за испуштање на следниов начин: месец на испуштање на клиентите ова е првиот месец со ACTIVE_FLAG=0, каде од овој месец има најмалку шест последователни нули во полето ACTIVE_FLAG, со други зборови, месецот од кој клиентот бил неактивен 6 месеци.

Број на клиенти кои заминале

Број на преостанати клиенти

Како се пресметува испуштањето?

На вакви натпревари, а и воопшто во пракса, често на овој начин се предвидува одлив. Клиентот користи производи и услуги во различни временски периоди, податоците за интеракцијата со него се претставени како вектор на карактеристики со фиксна должина n. Најчесто овие информации вклучуваат:

• Податоци кои го карактеризираат корисникот (демографски податоци, маркетинг сегмент).
• Историја на користење на банкарски производи и услуги (ова се активности на клиентите кои секогаш се врзани за одредено време или период од интервалот што ни е потребен).
• Надворешни податоци, ако е можно да се добијат - на пример, прегледи од социјалните мрежи.

И после тоа, тие изведуваат дефиниција за раздвижување, различна за секоја задача. Потоа користат алгоритам за машинско учење, кој ја предвидува веројатноста за заминување на клиентот врз основа на вектор фактори . За да се обучи алгоритмот, се користи една од добро познатите рамки за конструирање ансамбли на дрва за одлучување, XGBoost, LightGBM, CatBoost или нивни модификации.

Самиот алгоритам не е лош, но има неколку сериозни недостатоци кога станува збор за предвидување на пречка.

• Тој нема таканаречена „меморија“. Влезот на моделот е одреден број карактеристики што одговараат на моменталната временска точка. За да се складираат информации за историјата на промените во параметрите, неопходно е да се пресметаат посебни карактеристики што ги карактеризираат промените во параметрите со текот на времето, на пример, бројот или износот на банкарските трансакции во последните 1,2,3, XNUMX, XNUMX месеци. Овој пристап може само делумно да ја одрази природата на привремените промени.
• Фиксен хоризонт на прогнозирање. Моделот може да го предвиди раздвојувањето на клиентите само за однапред дефиниран временски период, на пример, прогноза еден месец однапред. Ако е потребна прогноза за различен временски период, на пример, три месеци, тогаш треба повторно да го изградите комплетот за обука и да обучите нов модел.

Нашиот пристап

Веднаш решивме дека нема да користиме стандардни пристапи. Покрај нас, на првенството се пријавија уште 497 лица, од кои секој зад себе имаше значително искуство. Значи, обидот да се направи нешто според стандардна шема во такви услови не е добра идеја.

И почнавме да ги решаваме проблемите со кои се соочува моделот на бинарна класификација со предвидување на распределбата на веројатноста на времињата на испуштање на клиентите. Сличен пристап може да се забележи тука, ви овозможува пофлексибилно да го предвидите раздвижувањето и да тестирате посложени хипотези отколку во класичниот пристап. Како семејство на дистрибуции кои го моделираат времето на одлив, ја избравме дистрибуцијата Веибул за неговата широка употреба во анализата на преживување. Однесувањето на клиентот може да се гледа како еден вид преживување.

Еве примери на Веибуловата распределба на густината на веројатноста во зависност од параметрите и :

Ова е функцијата за густина на веројатност на три различни клиенти кои се раздвојуваат со текот на времето. Времето е претставено во месеци. Со други зборови, овој графикон покажува кога е најверојатно клиентот да се раздвои во следните два месеци.Како што можете да видите, клиентот со дистрибуција има поголем потенцијал да замине порано од клиентите со Weibull(2, 0.5) и Weibull (3,1) дистрибуции.

Резултатот е модел кој, за секој клиент, за секого
месец ги предвидува параметрите на распределбата на Веибул, што најдобро ја одразува појавата на веројатноста за одлив со текот на времето. Подетално:

• Целните карактеристики на комплетот за обука се преостанатото време до испуштање во одреден месец за одреден клиент.
• Ако нема стапка на отпуштање за клиент, претпоставуваме дека времето на испуштање е поголемо од бројот на месеци од тековниот месец до крајот на историјата што ја имаме.
• Користен модел: рекурентна невронска мрежа со LSTM слој.
• Како функција на загуба, ја користиме функцијата на негативна лог-веројатност за распределбата на Веибул.

Еве ги предностите на овој метод:

• Распределбата на веројатноста, покрај очигледната можност за бинарна класификација, овозможува флексибилно предвидување на различни настани, на пример, дали клиентот ќе престане да ги користи услугите на банката во рок од 3 месеци. Исто така, доколку е потребно, различни метрики може да се просекуваат преку оваа дистрибуција.
• Рекурентната невронска мрежа LSTM има меморија и ефикасно ја користи целата достапна историја. Како што приказната се проширува или рафинира, точноста се зголемува.
• Пристапот може лесно да се скалира кога временските периоди се делат на помали (на пример, кога се делат месеците на недели).

Но, не е доволно да се создаде добар модел; исто така треба правилно да го оцените неговиот квалитет.

Како се оценуваше квалитетот?

Ја избравме кривата на подигнување како метрика. Се користи во бизнисот за такви случаи поради неговото јасно толкување, добро е опишано тука и тука. Ако го опишете значењето на оваа метрика во една реченица, тоа би било „Колку пати алгоритмот го прави најдоброто предвидување во првото % отколку по случаен избор."

Модели за обука

Условите за конкуренција не воспоставија специфична метрика за квалитет со која може да се споредат различни модели и пристапи. Згора на тоа, дефиницијата за раздвижување може да биде различна и може да зависи од изјавата за проблемот, која, пак, е одредена од деловните цели. Затоа, за да разбереме кој метод е подобар, обучивме два модели:

1. Најчесто користен пристап за бинарна класификација со користење алгоритам за машинско учење на дрво за одлуки на ансамблот (LightGBM);
2. Weibull-LSTM модел

Тест сетот се состоеше од 500 однапред избрани клиенти кои не беа во сетот за обука. Хипер-параметрите беа избрани за моделот со помош на вкрстена валидација, поделена по клиент. За обука на секој модел беа користени истите групи на функции.

Поради фактот што моделот нема меморија, за него беа земени посебни карактеристики, покажувајќи го односот на промените на параметрите за еден месец до просечната вредност за параметрите во последните три месеци. Што ја карактеризираше стапката на промена на вредностите во последниот период од три месеци. Без ова, моделот базиран на Random Forest би бил во неповолна положба во однос на Weibull-LSTM.

Зошто LSTM со Weibull дистрибуција е подобар од пристапот на дрвото за одлуки на ансамблот

Сè е јасно овде на само неколку слики.

Споредба на лифт кривата за класичниот алгоритам и Weibull-LSTM

Споредба на метриката на кривата на подигнување по месеци за класичниот алгоритам и Weibull-LSTM

Генерално, LSTM е супериорен во однос на класичниот алгоритам во скоро сите случаи.

Предвидување на исклучување

Модел базиран на рекурентна невронска мрежа со LSTM ќелии со Weibull дистрибуција може однапред да го предвиди раздвојувањето, на пример, да го предвиди раздвојувањето на клиентите во следните n месеци. Размислете за случајот за n = 3. Во овој случај, за секој месец, невронската мрежа мора правилно да утврди дали клиентот ќе замине, почнувајќи од следниот месец и до n-тиот месец. Со други зборови, мора правилно да утврди дали клиентот ќе остане по n месеци. Ова може однапред да се смета за прогноза: предвидување на моментот кога клиентот само што почнал да размислува за заминување.

Ајде да ја споредиме кривата на лифт за Weibull-LSTM 1, 2 и 3 месеци пред одливот:

Погоре веќе напишавме дека се важни и прогнозите направени за клиенти кои веќе некое време не се активни. Затоа, овде ќе додадеме на примерокот такви случаи кога заминатиот клиент веќе е неактивен еден или два месеци и ќе провериме дали Weibull-LSTM правилно ги класифицира таквите случаи како раздвојување. Бидејќи таквите случаи беа присутни во примерокот, очекуваме мрежата добро да се справи со нив:

Задржување на клиенти

Всушност, ова е главната работа што може да се направи, имајќи при рака информација дека таквите клиенти се подготвуваат да престанат да го користат производот. Зборувајќи за изградба на модел кој би можел да им понуди нешто корисно на клиентите со цел да ги задржат, тоа не може да се направи ако немате историја на слични обиди кои би завршиле добро.

Немавме таква приказна, па решивме вака.

1. Градиме модел кој идентификува интересни производи за секој клиент.
2. Секој месец го извршуваме класификаторот и идентификуваме клиенти кои потенцијално заминуваат.
3. На некои клиенти им го нудиме производот, според моделот од точка 1, и запомнете ги нашите постапки.
4. По неколку месеци, гледаме кој од овие потенцијално заминување клиенти замина, а кој остана. Така, формираме примерок за обука.
5. Го обучуваме моделот користејќи ја историјата добиена во чекор 4.
6. По желба, ја повторуваме постапката, заменувајќи го моделот од чекор 1 со моделот добиен во чекор 5.

Тест за квалитетот на таквото задржување може да се направи со редовно A/B тестирање - ги делиме клиентите кои потенцијално заминуваат во две групи. Ние нудиме производи на едниот врз основа на нашиот модел на задржување, а на другиот не нудиме ништо. Решивме да обучиме модел кој може да биде корисен веќе во точка 1 од нашиот пример.

Сакавме да ја направиме сегментацијата што е можно поинтерпретабилна. За да го направите ова, избравме неколку карактеристики што може лесно да се толкуваат: вкупниот број на трансакции, платите, вкупниот промет на сметката, возраста, полот. Карактеристиките од табелата „Карти“ не беа земени предвид како неинформативни, а карактеристиките од табелата 3 „Договори“ не беа земени предвид поради сложеноста на обработката со цел да се избегне истекување на податоци помеѓу комплетот за валидација и комплетот за обука.

Кластерирањето беше спроведено со користење на модели на гаусови мешавини. Информацискиот критериум на Акаике ни овозможи да одредиме 2 оптима. Првиот оптимум одговара на 1 кластер. Вториот оптимум, помалку изразен, одговара на 80 кластери. Врз основа на овој резултат, можеме да го извлечеме следниот заклучок: исклучително е тешко да се поделат податоците во кластери без априори дадени информации. За подобро кластерирање, потребни ви се податоци кои детално го опишуваат секој клиент.

Затоа, проблемот на надгледувано учење беше разгледан со цел на секој поединечен клиент да му се понуди различен производ. Беа земени предвид следните производи: „Орочен депозит“, „Кредитна картичка“, „Пречекорување“, „Потрошувачки заем“, „Кредит за автомобили“, „Хипотека“.

Податоците вклучуваа уште еден вид производ: „Тековна сметка“. Но, не го разгледавме поради неговата ниска информативна содржина. За корисници кои се клиенти на банка, т.е. не престана да ги користи своите производи, беше изграден модел за да се предвиди кој производ може да биде од интерес за нив. Како модел беше избрана логистичка регресија, а вредноста на Lift за првите 10 перцентили беше искористена како метрика за оценување на квалитетот.

Квалитетот на моделот може да се оцени на сликата.

Резултати од моделот за препораки за производи за клиентите

Вкупно

Овој пристап ни го донесе првото место во категоријата „ВИ во банки“ на шампионатот за вештачка интелигенција RAIF-Challenge 2017 година.

Очигледно, главната работа беше да се пристапи кон проблемот од неконвенционален агол и да се користи метод што обично се користи за други ситуации.

Иако масовниот одлив на корисници може да биде природна катастрофа за услугите.

Овој метод може да се земе предвид за која било друга област каде што е важно да се земе предвид одливот, а не само банките. На пример, го користевме за да го пресметаме сопствениот одлив - во филијалите на Ростелеком во Сибир и Санкт Петербург.

Компанијата „Data Mining Laboratory“ „Пребарај портал „Спутник“

Извор: www.habr.com