Stundum, til að leysa vandamál, þarftu bara að líta á það frá öðru sjónarhorni. Jafnvel þótt á undanförnum 10 árum hafi svipuð vandamál verið leyst á sama hátt með mismunandi áhrifum, þá er það ekki staðreynd að þessi aðferð sé sú eina.
Það er til umræðuefni eins og viðskiptavinur. Málið er óumflýjanlegt, því viðskiptavinir hvers fyrirtækis geta af mörgum ástæðum hætt að nota vörur þess eða þjónustu. Auðvitað, fyrir fyrirtæki, er missi eðlilegt, en ekki æskilegasta aðgerðin, svo allir reyna að lágmarka þessa missi. Enn betra, spáðu fyrir um líkur á fráfalli fyrir tiltekinn flokk notenda, eða tiltekinn notanda, og leggðu til nokkur skref til að halda þeim.
Nauðsynlegt er að greina og reyna að halda í viðskiptavininn, ef mögulegt er, að minnsta kosti af eftirfarandi ástæðum:
- að laða að nýja viðskiptavini er dýrara en varðveisluferli. Til að laða að nýja viðskiptavini þarftu að jafnaði að eyða peningum (auglýsingum), en núverandi viðskiptavini er hægt að virkja með sérstöku tilboði með sérstökum skilyrðum;
- Að skilja ástæðurnar fyrir því að viðskiptavinir fara er lykillinn að því að bæta vörur og þjónustu.
Það eru staðlaðar aðferðir til að spá fyrir um straumhvörf. En á einu af AI meistaramótunum ákváðum við að prófa Weibull dreifinguna fyrir þetta. Hann er oftast notaður við greiningu á lifun, veðurspá, náttúruhamfaragreiningu, iðnaðarverkfræði og þess háttar. Weibull dreifing er sérstakt dreifingarfall sem er stillt með tveimur breytum 
и .
Wikipedia
Almennt séð er það áhugaverður hlutur, en til að spá fyrir um útstreymi, og í fintech almennt, er það ekki notað svo oft. Fyrir neðan klippuna munum við segja þér hvernig við (Data Mining Laboratory) gerðum þetta og unnum samtímis gull á gervigreindarmeistaramótinu í flokknum „AI in Banks“.
Um tunnu almennt
Við skulum skilja aðeins um hvað viðskiptavinur er og hvers vegna það er svo mikilvægt. Viðskiptavinahópur er mikilvægur fyrir fyrirtæki. Nýir viðskiptavinir koma á þennan bæ, til dæmis eftir að hafa lært um vöru eða þjónustu af auglýsingu, lifa í einhvern tíma (nota vörurnar virkan) og hætta að nota hana eftir nokkurn tíma. Þetta tímabil er kallað „lífsferill viðskiptavina“ - hugtak sem lýsir þeim stigum sem viðskiptavinur fer í gegnum þegar hann lærir um vöru, tekur kaupákvörðun, borgar, notar og verður tryggur neytandi og hættir að lokum að nota vöruna. af einni eða annarri ástæðu. Í samræmi við það er tjónaskipti lokastig lífsferils viðskiptavinarins, þegar viðskiptavinurinn hættir að nota þjónustuna, og fyrir fyrirtæki þýðir þetta að viðskiptavinurinn er hættur að skila hagnaði eða ávinningi yfirleitt.
Hver viðskiptavinur banka er ákveðinn einstaklingur sem velur sér eitt eða annað bankakort sérstaklega eftir þörfum sínum. Ef þú ferðast oft mun kort með mílum koma sér vel. Kaupir mikið - halló, cashback kort. Hann kaupir mikið í sérstökum verslunum - og það er nú þegar sérstakt samstarfsplast fyrir þetta. Auðvitað er kort stundum valið á grundvelli „Ódýrasta þjónusta“ viðmiðunarinnar. Almennt séð eru nægar breytur hér.
Og einstaklingur velur líka bankann sjálfan - hvað er tilgangurinn með því að velja kort frá banka þar sem útibú eru aðeins í Moskvu og á svæðinu, þegar þú ert frá Khabarovsk? Jafnvel þótt kort frá slíkum banka sé að minnsta kosti 2 sinnum arðbærara, er tilvist bankaútibúa í nágrenninu samt mikilvæg viðmiðun. Já, árið 2019 er þegar komið og stafrænt er allt okkar, en fjöldi mála hjá sumum bönkum er aðeins hægt að leysa í útibúi. Auk þess, aftur, einhver hluti íbúa treystir líkamlegum banka miklu meira en forriti í snjallsíma, þetta þarf líka að taka með í reikninginn.
Þess vegna getur einstaklingur haft margar ástæður fyrir því að neita bankavörum (eða bankanum sjálfum). Ég skipti um vinnu og kortagjaldskráin breyttist úr launum í „Fyrir aðeins dauðlega,“ sem er minna arðbært. Ég flutti til annarrar borgar þar sem engin bankaútibú eru til. Mér líkaði ekki samskiptin við óhæfan rekstraraðila útibúsins. Það er að segja að það geta verið enn fleiri ástæður fyrir því að loka reikningi heldur en að nota vöruna.
Og viðskiptavinurinn getur ekki aðeins skýrt tjáð fyrirætlun sína - komið í bankann og skrifað yfirlýsingu, heldur einfaldlega hætt að nota vörurnar án þess að segja upp samningnum. Ákveðið var að nota vélanám og gervigreind til að skilja slík vandamál.
Þar að auki getur viðskiptavinur átt sér stað í hvaða atvinnugrein sem er (fjarskiptafyrirtæki, netveitur, tryggingafélög, almennt, hvar sem það er viðskiptavinahópur og reglubundin viðskipti).
Hvað höfum við gert
Í fyrsta lagi var nauðsynlegt að lýsa skýrum mörkum - frá hvaða tíma við förum að telja skjólstæðinginn vera farinn. Frá sjónarhóli bankans sem útvegaði okkur gögnin fyrir vinnu okkar var athafnastaða viðskiptavinarins tvískipt - hann er annað hvort virkur eða ekki. Það var ACTIVE_FLAG fáni í „Activity“ töflunni, gildi sem gæti verið annað hvort „0“ eða „1“ („Óvirkt“ og „virkt“ í sömu röð). Og allt væri í lagi, en maður er þannig að hann getur notað það virkan í nokkurn tíma og fallið síðan út af virka listanum í mánuð - hann veiktist, fór til annars lands í fríi eða fór jafnvel til að prófa kort frá öðrum banka. Eða kannski eftir langan tíma af aðgerðaleysi, byrjaðu að nota þjónustu bankans aftur
Þess vegna ákváðum við að kalla óvirknitímabil ákveðið samfellt tímabil þar sem fáninn fyrir það var stilltur á „0“.
Viðskiptavinir fara úr óvirkum í virka eftir mislanga óvirkni. Við höfum tækifæri til að reikna út hversu mikið reynslugildi er „áreiðanleiki tímabila óvirkni“ - það er líkurnar á því að einstaklingur byrji að nota bankavörur aftur eftir tímabundið óvirkni.
Til dæmis sýnir þetta línurit endurupptöku virkni (ACTIVE_FLAG=1) viðskiptavina eftir nokkurra mánaða óvirkni (ACTIVE_FLAG=0).
Hér munum við skýra aðeins gagnasettið sem við byrjuðum að vinna með. Þannig að bankinn lagði fram samanlagðar upplýsingar í 19 mánuði í eftirfarandi töflum:
- „Virkni“ - mánaðarleg viðskipti viðskiptavina (með kortum, í netbanka og farsímabanka), þar á meðal launaskrá og upplýsingar um veltu.
- „Kort“ - gögn um öll kort sem viðskiptavinurinn hefur, með ítarlegri gjaldskrá.
- „Samningar“ - upplýsingar um samninga viðskiptavinar (bæði opnir og lokaðir): útlán, innlán o.s.frv., þar sem tilgreind eru breytur hvers og eins.
- „Viðskiptavinir“ - safn lýðfræðilegra gagna (kyn og aldur) og aðgengi að tengiliðaupplýsingum.
Fyrir vinnu þurftum við öll töflurnar nema „kortið“.
Það var annar vandi hér - í þessum gögnum gaf bankinn ekki til kynna hvers konar starfsemi átti sér stað á kortunum. Það er að segja, við gátum skilið hvort um viðskipti voru eða ekki, en við gátum ekki lengur ákvarðað tegund þeirra. Því var óljóst hvort viðskiptavinurinn væri að taka út reiðufé, þiggja laun eða eyða peningunum í kaup. Við höfðum heldur ekki gögn um innstæður reikninga, sem hefðu verið gagnlegar.
Úrtakið sjálft var óhlutdrægt - í þessum hluta, yfir 19 mánuði, gerði bankinn engar tilraunir til að halda viðskiptavinum og lágmarka útflæði.
Svo, um tímabil óvirkni.
Til að móta skilgreiningu á fráfalli þarf að velja tímabil óvirkni. Til að búa til affallsspá á tímapunkti , þú verður að hafa viðskiptamannasögu sem er að minnsta kosti 3 mánuðir á millibili . Saga okkar var takmörkuð við 19 mánuði, svo við ákváðum að taka 6 mánaða aðgerðaleysistímabil, ef það væri hægt. Og fyrir lágmarkstímabil fyrir hágæða spá tókum við 3 mánuði. Við tókum tölurnar fyrir 3 og 6 mánuði með reynslu út frá greiningu á hegðun viðskiptavina.
Við mótuðum skilgreininguna á uppsögn sem hér segir: mánuður viðskiptavins þetta er fyrsti mánuðurinn með ACTIVE_FLAG=0, þar sem frá þessum mánuði eru að minnsta kosti sex núll í röð í ACTIVE_FLAG reitnum, með öðrum orðum, mánuðurinn sem viðskiptavinurinn var óvirkur í 6 mánuði.
Fjöldi viðskiptavina sem fóru
Fjöldi viðskiptavina sem eftir eru
Hvernig er affall reiknað?
Í slíkum keppnum, og í reynd almennt, er oft spáð útflæði á þennan hátt. Viðskiptavinurinn notar vörur og þjónustu á mismunandi tímabilum, gögn um samskipti við hann eru sýnd sem vektor af eiginleikum með fastri lengd n. Oftast innihalda þessar upplýsingar:
- Gögn sem einkenna notandann (lýðfræðileg gögn, markaðshluti).
- Saga um notkun bankavara og -þjónustu (þetta eru aðgerðir viðskiptavina sem eru alltaf bundnar ákveðnum tíma eða tímabili á því tímabili sem við þurfum).
- Ytri gögn, ef hægt var að fá þau - til dæmis umsagnir frá samfélagsnetum.
Og eftir það draga þeir fram skilgreiningu á straumi, mismunandi fyrir hvert verkefni. Síðan nota þeir vélrænt reiknirit sem spáir fyrir um líkur á að viðskiptavinur fari byggt á vektor af þáttum . Til að þjálfa reikniritið er notað eitt af vel þekktu rammanum til að smíða samstæður ákvörðunartrjáa, , , eða breytingar á því.
Reikniritið sjálft er ekki slæmt, en það hefur nokkra alvarlega ókosti þegar kemur að því að spá fyrir um hrun.
- Hann hefur ekki svokallað „minni“. Inntak líkansins er tiltekinn fjöldi eiginleika sem samsvara núverandi tímapunkti. Til þess að geyma upplýsingar um sögu breytinga á breytum er nauðsynlegt að reikna út sérstaka eiginleika sem einkenna breytingar á færibreytum yfir tíma, til dæmis fjölda eða magn bankaviðskipta síðustu 1,2,3, XNUMX, XNUMX mánuði. Þessi nálgun getur aðeins að hluta endurspeglað eðli tímabundinna breytinga.
- Fastur spátími. Líkanið er aðeins hægt að spá fyrir um afföll viðskiptavina í fyrirfram skilgreindan tíma, til dæmis spá með einum mánuði fram í tímann. Ef spá er krafist fyrir annan tíma, til dæmis þrjá mánuði, þá þarftu að endurbyggja þjálfunarsettið og endurþjálfa nýtt líkan.
Nálgun okkar
Við ákváðum strax að við myndum ekki nota staðlaðar aðferðir. Auk okkar skráðu sig 497 fleiri á meistaramótið sem hver um sig hafði talsverða reynslu að baki. Svo að reyna að gera eitthvað samkvæmt stöðluðu kerfi við slíkar aðstæður er ekki góð hugmynd.
Og við byrjuðum að leysa vandamálin sem tvöfalda flokkunarlíkanið stendur frammi fyrir með því að spá fyrir um líkindadreifingu á tímum viðskiptavina. Svipaða nálgun má sjá , það gerir þér kleift að spá fyrir um hrun á sveigjanlegri hátt og prófa flóknari tilgátur en í klassískri nálgun. Við völdum dreifinguna sem fjölskylda dreifinga sem líkja eftir útflæðistímanum fyrir útbreidda notkun þess við lifunargreiningu. Líta má á hegðun skjólstæðings sem einskonar að lifa af.
Hér eru dæmi um Weibull líkindaþéttleikadreifingu eftir breytum и :
Þetta er líkindaþéttleikafall þriggja mismunandi viðskiptavina sem falla frá með tímanum. Tími er sýndur í mánuðum. Með öðrum orðum, þetta graf sýnir hvenær viðskiptavinur er líklegastur til að hætta á næstu tveimur mánuðum. Eins og þú sérð hefur viðskiptavinur með dreifingu meiri möguleika á að fara fyrr en viðskiptavinir með Weibull(2, 0.5) og Weibull (3,1) dreifingar.
Niðurstaðan er líkan sem, fyrir hvern viðskiptavin, fyrir hvern
mánuður spáir fyrir um færibreytur Weibull dreifingarinnar, sem endurspeglar best tilvik líkur á útflæði með tímanum. Nánar:
- Markeiginleikarnir á þjálfunarsettinu eru sá tími sem eftir er þar til sleppt er í tilteknum mánuði fyrir tiltekinn viðskiptavin.
- Ef það er ekkert tjónahlutfall fyrir viðskiptavin, gerum við ráð fyrir að tíminn sé meiri en fjöldi mánaða frá núverandi mánuði til loka sögunnar sem við höfum.
- Líkan notað: endurtekið tauganet með LSTM lagi.
- Sem tapfall notum við neikvæða log-líkindafallið fyrir Weibull dreifinguna.
Hér eru kostir þessarar aðferðar:
- Líkindadreifing, auk augljóss möguleika á tvíundarflokkun, gerir kleift að spá fyrir um ýmsa atburði, til dæmis hvort viðskiptavinur hætti að nota þjónustu bankans innan 3 mánaða. Einnig, ef nauðsyn krefur, er hægt að miða ýmsa mælikvarða yfir þessa dreifingu.
- LSTM endurtekið taugakerfi hefur minni og notar í raun alla tiltæka sögu. Eftir því sem sagan er stækkuð eða betrumbætt eykst nákvæmnin.
- Auðvelt er að stækka nálgunina þegar skipt er tímabilum í smærri (til dæmis þegar mánuðum er skipt í vikur).
En það er ekki nóg að búa til gott líkan; þú þarft líka að meta gæði þess rétt.
Hvernig voru gæði metin?
Við völdum Lift Curve sem mæligildi. Það er notað í viðskiptum fyrir slík mál vegna skýrrar túlkunar, það er vel lýst и . Ef þú lýsir merkingu þessa mælikvarða í einni setningu, þá væri það „Hversu oft spáir reikniritið best í fyrstu % en af handahófi."
Þjálfunarlíkön
Samkeppnisskilyrðin settu ekki ákveðna gæðamælikvarða sem hægt er að bera saman mismunandi líkön og aðferðir með. Þar að auki getur skilgreiningin á straumhvörfum verið mismunandi og getur verið háð vandamálayfirlýsingunni, sem aftur á móti ræðst af viðskiptamarkmiðum. Þess vegna, til að skilja hvaða aðferð er betri, þjálfuðum við tvær gerðir:
- Algengt notuð tvöfaldur flokkunaraðferð sem notar ensemble ákvörðunartré vélnáms reiknirit ();
- Weibull-LSTM módel
Prófasettið samanstóð af 500 fyrirfram völdum skjólstæðingum sem voru ekki í þjálfunarsettinu. Ofur-færibreytur voru valdar fyrir líkanið með því að nota krossfullgildingu, sundurliðað eftir viðskiptavinum. Sömu sett af eiginleikum voru notuð til að þjálfa hverja gerð.
Vegna þess að líkanið er ekki með minni voru sérstakir eiginleikar teknir fyrir það, sem sýna hlutfall breytinga á breytum í einn mánuð og meðalgildi breytu síðustu þrjá mánuði. Hvað einkenndi hraða breytinga á gildum á síðasta tímabili þriggja mánaða. Án þessa myndi Random Forest-undirstaða líkanið vera í óhag miðað við Weibull-LSTM.
Hvers vegna LSTM með Weibull dreifingu er betri en ensemble ákvarðanatré nálgun
Allt er skýrt hér í aðeins nokkrum myndum.
Samanburður á lyftukerfu fyrir klassíska algrímið og Weibull-LSTM
Samanburður á mælikvarða lyftukúrfunnar eftir mánuði fyrir klassíska reikniritið og Weibull-LSTM
Almennt séð er LSTM æðri klassíska reikniritinu í næstum öllum tilfellum.
Churn spá
Líkan sem byggir á endurteknu tauganeti með LSTM frumum með Weibull dreifingu getur spáð fyrir um losun fyrirfram, til dæmis spáð fyrir um fráfall viðskiptavina á næstu n mánuðum. Íhugaðu málið fyrir n = 3. Í þessu tilviki, fyrir hvern mánuð, verður tauganetið rétt að ákvarða hvort viðskiptavinurinn mun fara, frá og með næsta mánuði og fram í n. mánuði. Með öðrum orðum, það verður að ákvarða rétt hvort viðskiptavinurinn verði eftir n mánuði. Þetta getur talist fyrirfram spá: að spá fyrir um augnablikið þegar viðskiptavinurinn var rétt að byrja að hugsa um að fara.
Berum saman lyftukerfu fyrir Weibull-LSTM 1, 2 og 3 mánuði fyrir útflæði:
Við höfum þegar skrifað hér að ofan að spárnar sem gerðar eru fyrir viðskiptavini sem eru ekki lengur virkir í nokkurn tíma eru einnig mikilvægar. Þess vegna munum við bæta við sýnishornið slíkum tilfellum þegar viðskiptavinurinn sem fór frá okkur hefur þegar verið óvirkur í einn eða tvo mánuði og athugað hvort Weibull-LSTM flokki slík tilvik rétt sem missi. Þar sem slík tilvik voru til staðar í úrtakinu, gerum við ráð fyrir að netið taki vel á þeim:
Varðveisla viðskiptavina
Í raun er þetta það helsta sem hægt er að gera, að hafa í höndunum upplýsingar um að slíkir og slíkir viðskiptavinir séu að búa sig undir að hætta að nota vöruna. Talandi um að smíða líkan sem gæti boðið viðskiptavinum eitthvað gagnlegt til að halda þeim, þetta er ekki hægt að gera ef þú hefur ekki sögu um svipaðar tilraunir sem myndu enda vel.
Við áttum ekki slíka sögu, svo við ákváðum þetta með þessum hætti.
- Við erum að byggja upp líkan sem skilgreinir áhugaverðar vörur fyrir hvern viðskiptavin.
- Í hverjum mánuði keyrum við flokkunartækið og greinum hugsanlega yfirgefa viðskiptavini.
- Við bjóðum sumum viðskiptavinum vöruna, í samræmi við líkanið frá lið 1, og munum aðgerðir okkar.
- Eftir nokkra mánuði skoðum við hverjir af þessum hugsanlega yfirgefa viðskiptavinum fóru og hverjir voru eftir. Þannig myndum við þjálfunarsýni.
- Við þjálfum líkanið með því að nota söguna sem fékkst í skrefi 4.
- Valfrjálst endurtökum við málsmeðferðina og skiptum líkaninu frá skrefi 1 út fyrir líkanið sem fékkst í skrefi 5.
Próf á gæðum slíkrar varðveislu er hægt að gera með reglulegri A/B prófun - við skiptum viðskiptavinum sem hugsanlega fara í tvo hópa. Við bjóðum öðrum vörur út frá varðveislulíkaninu okkar og hinum bjóðum við ekkert. Við ákváðum að þjálfa líkan sem gæti verið gagnlegt þegar í 1. lið í dæminu okkar.
Við vildum gera skiptinguna eins túlkanlega og hægt var. Til að gera þetta völdum við nokkra eiginleika sem auðvelt var að túlka: heildarfjölda viðskipta, laun, heildarvelta reikninga, aldur, kyn. Eiginleikar úr „Kortum“ töflunni voru ekki teknir með í reikninginn sem óupplýsandi og eiginleikar úr töflu 3 „Samningar“ voru ekki teknir með í reikninginn vegna flókinnar vinnslu til að koma í veg fyrir gagnaleka á milli löggildingarsettsins og þjálfunarsettsins.
Klustun var framkvæmd með því að nota Gauss blöndunarlíkön. Akaike upplýsingaviðmiðunin gerði okkur kleift að ákvarða 2 optima. Fyrsta kjörið samsvarar 1 klasa. Annað kjörið, minna áberandi, samsvarar 80 þyrpingum. Út frá þessari niðurstöðu getum við dregið eftirfarandi ályktun: það er afar erfitt að skipta gögnum í klasa án fyrirfram gefna upplýsinga. Fyrir betri þyrping þarftu gögn sem lýsa hverjum viðskiptavini í smáatriðum.
Þess vegna var vandamálið við nám undir eftirliti skoðað til að bjóða hverjum viðskiptavinum upp á mismunandi vöru. Eftirfarandi vörur voru teknar til greina: „Tímabundin innborgun“, „Kreditkort“, „Yfirdráttur“, „Neyslulán“, „Bílalán“, „Veðlán“.
Gögnin innihéldu eina vörutegund í viðbót: „Viðskiptareikningur“. En við tókum það ekki til greina vegna lítils upplýsingainnihalds. Fyrir notendur sem eru viðskiptavinir banka, þ.e. hætti ekki að nota vörur sínar, var smíðað líkan til að spá fyrir um hvaða vara gæti verið áhugaverð fyrir þá. Logistic regression var valið sem líkan og lyftigildi fyrir fyrstu 10 hundraðshlutana var notað sem gæðamatsmælikvarði.
Hægt er að meta gæði líkansins á myndinni.
Niðurstöður vörumælingalíkans fyrir viðskiptavini
Samtals
Þessi nálgun færði okkur fyrsta sætið í flokknum „AI in Banks“ á RAIF-Challenge 2017 AI Championship.
Aðalatriðið var greinilega að nálgast vandamálið frá óhefðbundnu sjónarhorni og nota aðferð sem venjulega er notuð við aðrar aðstæður.
Þó að mikið útflæði notenda gæti vel verið náttúruhamfarir fyrir þjónustu.
Þessa aðferð má taka með í reikninginn á öllum öðrum sviðum þar sem mikilvægt er að taka tillit til útflæðis, ekki bara banka. Til dæmis notuðum við það til að reikna út okkar eigið útflæði - í útibúum Rostelecom í Síberíu og St. Pétursborg.
"Data Mining Laboratory" fyrirtæki "Leitagátt "Sputnik"
Heimild: www.habr.com