Pafwa, yo nan lòd yo rezoud yon pwoblèm, ou jis bezwen gade nan li nan yon ang diferan. Menm si sou 10 ane ki sot pase yo pwoblèm ki sanble yo te rezoud nan menm fason an ak efè diferan, se pa yon reyalite ke metòd sa a se youn nan sèlman.
Gen yon sijè tankou kliyan désabonnement. Bagay la se inevitab, paske kliyan nan nenpòt konpayi ka, pou plizyè rezon, sispann sèvi ak pwodwi li yo oswa sèvis yo. Natirèlman, pou yon konpayi, désabonnement se yon aksyon natirèl, men se pa aksyon ki pi dezirab, kidonk tout moun eseye minimize sa a désabonnement. Pi bon toujou, predi pwobabilite pou désabonnement pou yon kategori patikilye itilizatè yo, oswa yon itilizatè espesifik, epi sijere kèk etap pou kenbe yo.
Li nesesè analize epi eseye kenbe kliyan an, si sa posib, pou omwen rezon sa yo:
- atire nouvo kliyan pi chè pase pwosedi retansyon yo. Pou atire nouvo kliyan, kòm yon règ, ou bezwen depanse kèk lajan (piblisite), pandan y ap kliyan ki deja egziste yo ka aktive ak yon òf espesyal ak kondisyon espesyal;
- Konprann rezon ki fè kliyan yo kite se kle pou amelyore pwodwi ak sèvis yo.
Gen apwòch estanda pou predi désabonnement. Men, nan youn nan chanpyona AI yo, nou deside eseye distribisyon Weibull pou sa. Li pi souvan itilize pou analiz sivivabilite, previzyon tan, analiz dezas natirèl, jeni endistriyèl ak renmen an. Distribisyon Weibull se yon fonksyon distribisyon espesyal paramèt pa de paramèt 
и .
Wikipedya
An jeneral, li se yon bagay enteresan, men pou previzyon ekoulman pwodiksyon, ak nan fintech an jeneral, li pa itilize sa souvan. Anba koupe a nou pral di w ki jan nou (Data Mining Laboratory) te fè sa, ansanm genyen lò nan chanpyona entèlijans atifisyèl la nan kategori "AI nan Banks".
Konsènan désabonnement an jeneral
Ann konprann yon ti kras sou sa kliyan désabonnement se ak poukisa li tèlman enpòtan. Yon baz kliyan enpòtan pou yon biznis. Nouvo kliyan vin nan baz sa a, pou egzanp, yo te aprann sou yon pwodwi oswa sèvis nan yon reklam, ap viv pou kèk tan (aktivman sèvi ak pwodwi yo) epi apre kèk tan sispann sèvi ak li. Peryòd sa a rele "Sik lavi kliyan" - yon tèm ki dekri etap ke yon kliyan ale nan lè li aprann sou yon pwodwi, pran yon desizyon achte, peye, itilize ak vin yon konsomatè fidèl, epi finalman sispann sèvi ak pwodwi yo. pou yon rezon oswa yon lòt. An konsekans, désabonnement se etap final la nan sik lavi kliyan an, lè kliyan an sispann sèvi ak sèvis yo, ak pou yon biznis sa vle di ke kliyan an te sispann pote pwofi oswa nenpòt benefis nan tout.
Chak kliyan bank se yon moun espesifik ki chwazi youn oswa yon lòt kat labank espesyalman pou bezwen li. Si ou vwayaje souvan, yon kat ki gen mil ap vin an sou la men. Achte anpil - alo, kat kachbak. Li achte anpil nan magazen espesifik - e deja gen yon plastik patnè espesyal pou sa. Natirèlman, pafwa yo chwazi yon kat ki baze sou kritè "Pi bon mache sèvis la". An jeneral, gen ase varyab isit la.
Ak yon moun tou chwazi bank nan tèt li - èske gen nenpòt pwen nan chwazi yon kat nan yon bank ki gen branch yo sèlman nan Moskou ak rejyon an, lè ou soti nan Khabarovsk? Menm si yon kat ki soti nan yon bank konsa se omwen 2 fwa plis pwofitab, prezans nan branch bank ki tou pre se toujou yon kritè enpòtan. Wi, 2019 deja isit la ak dijital se tout bagay nou yo, men yon kantite pwoblèm ak kèk bank ka rezoud sèlman nan yon branch. Anplis de sa, ankò, kèk pati nan popilasyon an fè konfyans yon bank fizik pi plis pase yon aplikasyon sou yon smartphone, sa a tou bezwen pran an kont.
Kòm yon rezilta, yon moun ka gen anpil rezon pou refize pwodwi labank (oswa bank nan tèt li). Mwen te chanje djòb, epi tarif kat la te chanje soti nan salè pou vin "Pou mòtèl sèlman," ki se mwens pwofitab. Mwen demenaje ale rete nan yon lòt vil kote pa gen okenn branch labank. Mwen pa t 'renmen entèraksyon an ak operatè a ki pa kalifye nan branch lan. Sa vle di, ka gen menm plis rezon pou fèmen yon kont pase pou itilize pwodwi a.
Ak kliyan an pa ka sèlman klèman eksprime entansyon li - vini nan bank la epi ekri yon deklarasyon, men tou senpleman sispann sèvi ak pwodwi yo san yo pa mete fen nan kontra a. Li te deside sèvi ak aprantisaj machin ak AI pou konprann pwoblèm sa yo.
Anplis, kliyan désabonnement ka rive nan nenpòt endistri (telecom, founisè entènèt, konpayi asirans, an jeneral, tout kote gen yon baz kliyan ak tranzaksyon peryodik).
Kisa nou fè
Premye a tout, li te nesesè yo dekri yon fwontyè klè - soti nan ki lè nou kòmanse konsidere kliyan an te kite. Soti nan pwen de vi nan bank la ki te bay nou ak done yo pou travay nou an, sitiyasyon aktivite kliyan an te binè - li se swa aktif oswa ou pa. Te gen yon drapo ACTIVE_FLAG nan tablo "Aktivite" a, valè ki te kapab swa "0" oswa "1" ("Inaktif" ak "Aktif" respektivman). Ak tout bagay ta bon, men yon moun se konsa ke li ka aktivman sèvi ak li pou kèk tan, ak Lè sa a, tonbe soti nan lis la aktif pou yon mwa - li te vin malad, te ale nan yon lòt peyi an vakans, oswa menm te ale nan tès yon. kat ki soti nan yon lòt bank. Oswa petèt apre yon peryòd tan inaktivite, kòmanse sèvi ak sèvis bank la ankò
Se poutèt sa, nou deside rele yon peryòd inaktivite yon sèten peryòd tan kontinyèl pandan ki drapo a pou li te mete nan "0".
Kliyan yo deplase soti nan inaktif nan aktif apre peryòd inaktivite ki varye longè. Nou gen opòtinite pou kalkile degre nan valè anpirik "fyab nan peryòd inaktivite" - se sa ki, pwobabilite ke yon moun ap kòmanse sèvi ak pwodwi labank ankò apre inaktivite tanporè.
Pa egzanp, graf sa a montre rekòmanse aktivite (ACTIVE_FLAG=1) kliyan apre plizyè mwa inaktivite (ACTIVE_FLAG=0).
Isit la nou pral klarifye yon ti kras seri done ak ki nou te kòmanse travay. Se konsa, bank la te bay enfòmasyon total pou 19 mwa nan tablo sa yo:
- "Aktivite" - tranzaksyon kliyan chak mwa (pa kat, nan bank entènèt ak bank mobil), ki gen ladan pewòl ak enfòmasyon sou woulman.
- "Kat" - done sou tout kat ke kliyan an genyen, ak yon orè tarif detaye.
- "Akò" - enfòmasyon sou akò kliyan an (tou de louvri ak fèmen): prè, depo, elatriye, ki endike paramèt yo nan chak.
- "Kliyan" - yon seri done demografik (sèks ak laj) ak disponiblite enfòmasyon kontak.
Pou travay nou te bezwen tout tab yo eksepte pou "Map".
Te gen yon lòt difikilte isit la - nan done sa a bank la pa t 'endike ki kalite aktivite ki te fèt sou kat yo. Sa vle di, nou te kapab konprann si te gen tranzaksyon oswa ou pa, men nou pa t 'kapab detèmine kalite yo ankò. Se poutèt sa, li te klè si kliyan an te retire lajan kach, resevwa yon salè, oswa depanse lajan an sou acha. Nou pa t gen tou done sou balans kont yo, ki ta itil.
Echantiyon an li menm te san patipri - nan echantiyon sa a, plis pase 19 mwa, bank la pa t fè okenn tantativ pou kenbe kliyan yo ak minimize ekoulman pwodiksyon an.
Se konsa, sou peryòd inaktivite.
Pou fòmile yon definisyon désabonnement, yo dwe chwazi yon peryòd inaktivite. Pou kreye yon prévision désabonnement nan yon pwen nan tan , ou dwe gen yon istwa kliyan nan omwen 3 mwa nan yon entèval . Istwa nou an te limite a 19 mwa, kidonk nou te deside pran yon peryòd inaktivite 6 mwa, si sa disponib. Ak pou peryòd minimòm pou yon bon jan kalite pwevwa, nou te pran 3 mwa. Nou te pran figi yo pou 3 ak 6 mwa anpirik ki baze sou yon analiz de konpòtman done kliyan.
Nou formul definisyon churn jan sa a: mwa désabonnement kliyan sa a se premye mwa a ak ACTIVE_FLAG=0, kote apati mwa sa a gen omwen sis zewo youn apre lòt nan jaden ACTIVE_FLAG, sa vle di, mwa kote kliyan an te inaktif pandan 6 mwa.
Kantite kliyan ki kite
Kantite kliyan ki rete yo
Ki jan yo kalkile désabonnement?
Nan konpetisyon sa yo, ak nan pratik an jeneral, ekoulman pwodiksyon souvan prevwa nan fason sa a. Kliyan an sèvi ak pwodwi ak sèvis nan diferan peryòd tan, done sou entèraksyon avè l 'se reprezante kòm yon vektè nan karakteristik nan yon longè fiks n. Pi souvan enfòmasyon sa yo enkli:
- Done ki karakterize itilizatè a (done demografik, segman maketing).
- Istwa nan itilizasyon pwodwi ak sèvis bankè (sa yo se aksyon kliyan ki toujou mare nan yon tan espesifik oswa peryòd nan entèval nou bezwen an).
- Done ekstèn, si li te posib jwenn li - pou egzanp, revize soti nan rezo sosyal.
Apre sa, yo tire yon definisyon désabonnement, diferan pou chak travay. Lè sa a, yo sèvi ak yon algorithm aprantisaj machin, ki predi chans pou yon kliyan kite baze sou yon vektè faktè . Pou fòme algorithm la, yo itilize youn nan kad yo byen koni pou konstwi ansanbl pyebwa desizyon, , , oswa modifikasyon ladan l.
Algorithm nan tèt li se pa move, men li gen plizyè dezavantaj grav lè li rive predi désabonnement.
- Li pa gen sa yo rele "memwa". D 'an nan modèl la se yon kantite espesifik nan karakteristik ki koresponn ak pwen aktyèl la nan tan. Yo nan lòd yo estoke enfòmasyon sou istwa a nan chanjman nan paramèt, li nesesè yo kalkile karakteristik espesyal ki karakterize chanjman nan paramèt sou tan, pou egzanp, kantite oswa kantite tranzaksyon labank sou dènye 1,2,3, XNUMX, XNUMX mwa yo. Apwòch sa a ka sèlman pasyèlman reflete nati chanjman tanporè yo.
- Orizon previzyon fiks. Modèl la sèlman kapab predi kliyan désabonnement pou yon peryòd de tan predefini, pou egzanp, yon pwevwa yon mwa davans. Si yo mande yon previzyon pou yon peryòd tan diferan, pou egzanp, twa mwa, Lè sa a, ou bezwen rekonstwi seri fòmasyon an ak refòme yon nouvo modèl.
Apwòch nou an
Nou te deside touswit ke nou pa ta sèvi ak apwòch estanda. Anplis de nou, 497 plis moun te anrejistre nan chanpyona a, chak nan yo te gen anpil eksperyans dèyè yo. Se konsa, eseye fè yon bagay dapre yon konplo estanda nan kondisyon sa yo se pa yon bon lide.
Apre sa, nou te kòmanse rezoud pwoblèm yo fè fas a modèl la klasifikasyon binè pa predi distribisyon an pwobabilite nan kliyan désabonnement fwa. Yon apwòch menm jan an ka wè , li pèmèt ou predi désabonnement plis fleksib epi teste ipotèz ki pi konplèks pase nan apwòch klasik la. Kòm yon fanmi distribisyon modèl tan ekoulman pwodiksyon an, nou te chwazi distribisyon an pou itilize toupatou nan analiz siviv. Konpòtman kliyan an ka konsidere kòm yon kalite siviv.
Men kèk egzanp distribisyon dansite pwobabilite Weibull ki depann de paramèt yo и :
Sa a se fonksyon dansite pwobabilite twa kliyan diferan désabonnement sou tan. Tan yo prezante an mwa. Nan lòt mo, graf sa a montre ki lè yon kliyan gen plis chans pou désabonnement nan de mwa kap vini yo.Kòm ou ka wè, yon kliyan ki gen yon distribisyon gen yon pi gwo potansyèl pou yo kite pi bonè pase kliyan ki gen Weibull(2, 0.5) ak Weibull. (3,1) distribisyon.
Rezilta a se yon modèl ki, pou chak kliyan, pou chak
mwa predi paramèt yo nan distribisyon an Weibull, ki pi byen reflete ensidan an nan pwobabilite pou ekoulman pwodiksyon sou tan. Nan plis detay:
- Karakteristik yo sib sou seri fòmasyon an se tan ki rete jiskaske désabonnement nan yon mwa espesifik pou yon kliyan espesifik.
- Si pa gen okenn pousantaj de désabonnement pou yon kliyan, nou sipoze ke tan an désabonnement pi gran pase kantite mwa ki soti nan mwa aktyèl la rive nan fen istwa nou genyen an.
- Modèl itilize: rezo neral frekan ak kouch LSTM.
- Kòm yon fonksyon pèt, nou itilize fonksyon negatif log-probabilite pou distribisyon Weibull la.
Men avantaj ki genyen nan metòd sa a:
- Distribisyon pwobabilite, anplis posiblite evidan nan klasifikasyon binè, pèmèt prediksyon fleksib nan divès evènman, pou egzanp, si yon kliyan ap sispann sèvi ak sèvis bank la nan 3 mwa. Epitou, si sa nesesè, divès kalite mezi yo ka fè mwayèn sou distribisyon sa a.
- Rezo neral renouvlab LSTM la gen memwa epi li efikasman itilize tout istwa ki disponib. Kòm istwa a ap elaji oswa rafine, presizyon ogmante.
- Apwòch la ka fasilman echèl lè divize peryòd tan an pi piti (pa egzanp, lè divize mwa an semèn).
Men, li pa ase yo kreye yon bon modèl; ou bezwen tou byen evalye kalite li yo.
Ki jan yo te evalye kalite?
Nou te chwazi Lift Curve kòm metrik la. Li se itilize nan biznis pou ka sa yo paske nan entèpretasyon klè li yo, li se byen dekri и . Si ou dekri siyifikasyon metrik sa a nan yon fraz, li ta "Konbyen fwa algorithm la fè pi bon prediksyon an nan premye % pase owaza."
Modèl fòmasyon
Kondisyon konpetisyon yo pa t etabli yon metrik kalite espesifik kote diferan modèl ak apwòch yo ka konpare. Anplis, definisyon désabonnement ka diferan e li ka depann sou deklarasyon pwoblèm lan, ki, nan vire, detèmine pa objektif biznis. Se poutèt sa, yo nan lòd yo konprann ki metòd ki pi bon, nou fòme de modèl:
- Yon apwòch klasifikasyon binè souvan itilize lè l sèvi avèk yon algorithm aprantisaj machin pye bwa desizyon ansanbl ();
- Weibull-LSTM modèl
Ansanm tès la te gen 500 kliyan pre-seleksyon ki pa t nan seri fòmasyon an. Hyper-paramèt yo te chwazi pou modèl la lè l sèvi avèk kwa-validasyon, dekonpoze pa kliyan. Yo te itilize menm seri karakteristik yo pou fòme chak modèl.
Akòz lefèt ke modèl la pa gen memwa, karakteristik espesyal yo te pran pou li, ki montre rapò a nan chanjman nan paramèt pou yon mwa ak valè an mwayèn pou paramèt sou twa dènye mwa yo. Ki sa ki karakterize pousantaj chanjman nan valè sou dènye peryòd twa mwa. San sa, modèl Random Forest ki baze sou ta dwe nan yon dezavantaj parapò ak Weibull-LSTM.
Poukisa LSTM ak distribisyon Weibull pi bon pase yon apwòch pye bwa desizyon ansanbl
Tout bagay klè isit la nan jis yon koup nan foto.
Konparezon Lift Curve pou algorithm klasik la ak Weibull-LSTM
Konparezon metrik Lift Curve pa mwa pou algorithm klasik la ak Weibull-LSTM
An jeneral, LSTM siperyè algorithm klasik la nan prèske tout ka yo.
Churn prediksyon
Yon modèl ki baze sou yon rezo neral frekan ak selil LSTM ak distribisyon Weibull ka predi désabonnement davans, pou egzanp, predi désabonnement kliyan nan pwochen n mwa yo. Konsidere ka a pou n = 3. Nan ka sa a, pou chak mwa, rezo neral la dwe kòrèkteman detèmine si kliyan an pral kite, kòmanse soti nan pwochen mwa a ak jiska mwa a nyèm. Nan lòt mo, li dwe kòrèkteman detèmine si kliyan an ap rete apre n mwa. Sa a ka konsidere kòm yon pwevwa davans: predi moman sa a lè kliyan an te jis kòmanse panse sou kite.
Ann konpare koub leve pou Weibull-LSTM 1, 2 ak 3 mwa anvan koule a:
Nou te deja ekri pi wo a ke prévisions yo te fè pou kliyan ki pa aktif ankò pou kèk tan yo enpòtan tou. Se poutèt sa, isit la nou pral ajoute nan echantiyon an ka sa yo lè kliyan an te deja te inaktif pou youn oswa de mwa, epi tcheke ke Weibull-LSTM kòrèkteman klase ka sa yo kòm désabonnement. Depi ka sa yo te prezan nan echantiyon an, nou espere rezo a byen jere yo:
Retansyon kliyan
Aktyèlman, sa a se bagay prensipal ki ka fè, ki gen nan men enfòmasyon ke kliyan sa yo ak sa yo ap prepare yo sispann sèvi ak pwodwi a. Pale de bati yon modèl ki ta ka ofri yon bagay itil nan kliyan yo nan lòd yo kenbe yo, sa a pa ka fè si ou pa gen yon istwa nan tantativ menm jan an ki ta fini byen.
Nou pa t 'gen yon istwa konsa, se konsa nou deside li nan fason sa a.
- Nou ap konstwi yon modèl ki idantifye pwodwi enteresan pou chak kliyan.
- Chak mwa nou kouri klasifikasyon an ak idantifye potansyèl kite kliyan yo.
- Nou ofri kèk kliyan pwodwi a, dapre modèl ki soti nan pwen 1, epi sonje aksyon nou yo.
- Apre kèk mwa, nou gade nan kilès nan sa yo potansyèl kite kliyan kite ak ki rete. Kidonk, nou fòme yon echantiyon fòmasyon.
- Nou antrene modèl la lè l sèvi avèk istwa yo jwenn nan etap 4 la.
- Opsyonèlman, nou repete pwosedi a, ranplase modèl la soti nan etap 1 ak modèl la jwenn nan etap 5.
Yon tès sou kalite retansyon sa yo ka fè pa tès regilye A/B - nou divize kliyan ki potansyèlman kite an de gwoup. Nou ofri pwodwi nan youn ki baze sou modèl retansyon nou an, ak lòt la nou pa ofri anyen. Nou deside fòme yon modèl ki ta ka itil deja nan pwen 1 nan egzanp nou an.
Nou te vle fè segmentasyon an entèpretab ke posib. Pou fè sa, nou te chwazi plizyè karakteristik ki ta ka fasil entèprete: kantite total tranzaksyon yo, salè, woulman total kont, laj, sèks. Karakteristik nan tablo "Kat" yo pa te pran an konsiderasyon kòm san enfòmasyon, ak karakteristik ki nan tablo 3 "Kontra" yo pa te pran an kont akòz konpleksite nan pwosesis yo nan lòd pou fè pou evite flit done ant seri a validation ak seri fòmasyon an.
Clustering te fèt lè l sèvi avèk modèl melanj Gaussian. Kritè enfòmasyon Akaike te pèmèt nou detèmine 2 optima. Premye pi gwo a koresponn ak 1 grap. Dezyèm pi gwo a, mwens pwononse, koresponn ak 80 grap. Dapre rezilta sa a, nou ka tire konklizyon sa a: li trè difisil pou divize done an gwoup san yo pa bay enfòmasyon a priori. Pou pi bon gwoupman, ou bezwen done ki dekri chak kliyan an detay.
Se poutèt sa, yo te konsidere pwoblèm nan aprantisaj sipèvize yo nan lòd yo ofri chak kliyan endividyèl yon pwodwi diferan. Yo te konsidere pwodwi sa yo: "Depo tèm", "Kat kredi", "Dekouvè", "Prè konsomatè", "Prè machin", "Ipotèk".
Done yo enkli yon lòt kalite pwodwi: "Kont aktyèl". Men, nou pa t 'konsidere li akòz kontni enfòmasyon ki ba li yo. Pou itilizatè ki se kliyan labank, i.e. pa t 'sispann sèvi ak pwodwi li yo, yo te bati yon modèl pou predi ki pwodwi ki ta ka enterese yo. Yo te chwazi regresyon lojistik kòm modèl, epi valè Lift pou premye 10 percentiles yo te itilize kòm mezi evalyasyon kalite.
Bon jan kalite a nan modèl la ka evalye nan figi a.
Rezilta modèl rekòmandasyon pwodwi pou kliyan yo
Total
Apwòch sa a te pote nou premye plas nan kategori "AI nan Banks" nan RAIF-Challenge 2017 AI Championship.
Aparamman, bagay prensipal la se te apwoche pwoblèm nan nan yon ang ki pa konvansyonèl epi sèvi ak yon metòd ki anjeneral yo itilize pou lòt sitiyasyon.
Malgre ke yon ekoulman masiv itilizatè yo ka byen yon dezas natirèl pou sèvis yo.
Metòd sa a ka pran an kont pou nenpòt lòt zòn kote li enpòtan pou pran an kont ekoulman pwodiksyon, pa sèlman bank yo. Pou egzanp, nou te itilize li pou kalkile pwòp ekoulman pwodiksyon nou an - nan branch Siberian ak St Petersburg Rostelecom.
"Data Mining Laboratory" konpayi "Search Portal "Sputnik"
Sous: www.habr.com