Si si parashikoi largimin, duke e trajtuar atë si një katastrofë natyrore

Ndonjëherë, për të zgjidhur një problem, ndihmon të shohim situatën nga një këndvështrim tjetër. Edhe nëse gjatë 10 viteve të fundit probleme të ngjashme janë zgjidhur me të njëjtën qasje me rezultate të ndryshme, nuk është e sigurt që kjo qasje është e vetmja.

Ekziston një temë, e njohur si shkarkimi i klientëve. Kjo është një dukuri e pashmangshme, sepse klientët e çdo kompanie mund të vendosin për shumë arsye të ndalojnë përdorimin e produkteve ose shërbimeve të saj. Natyrisht, për kompaninë, shkarkimi është një veprim i natyrshëm, por jo gjithmonë i dëshiruar, ndaj të gjithë përpiqen ta minimizojnë atë. Më mirë akoma, është të parashikohet probabiliteti i shkarkimit të një kategorie të caktuar përdoruesish, ose klientit të veçantë, dhe të ofrohen disa hapa për mbajtjen e tyre.

Është thelbësore të analizoni dhe të përpiqeni të mbani klientin, nëse është e mundur, për arsyet e mëposhtme:

• të tërheqësh klientë të rinj është më e shtrenjtë se procedurat për mbajtjen e tyre. Për të tërhequr klientë të rinj, zakonisht duhet të shpenzohen disa para (reklamim), ndërsa klientët ekzistues mund të aktivizohen me një ofertë speciale me kushte të veçanta;
• kuptimi i arsyeve të largimit të klientëve është çelësi për përmirësimin e produkteve dhe shërbimeve.

Ekzistojnë qasje standart që parashikojnë ikjen e klientëve. Por në njërin nga kampionatet e IA-së vendosëm të provojmë shpërndarjen Weibull për këtë. Në përgjithësi, ajo përdoret për analizën e mbijetesës, parashikimin e kushteve meteorologjike, analizën e fatkeqësive natyrore, inxhinierinë industriale dhe të ngjashme. Shpërndarja Weibull është një funksion i veçantë shpërndarjeje, i parametrizuar me dy parametra. dhe .

Wikipedia

Në përgjithësi, është një gjë interesante, por për parashikimin e ikjes së klientëve, madje edhe në fintech, nuk përdoret aq shpesh. Më poshtë do flasim për mënyrën se si ne (Laboratori i Analizës Inteligjente të Të Dhënave) e bëmë këtë, duke fituar për njëkohësisht medaljen e artë në Kampionatin e Inteligjencës Artificiale në kategorinë 'IA në banka'.

Rreth ikjes në përgjithësi

Le të shohim pak se çfarë është largimi i klientit dhe pse është kaq i rëndësishëm. Baza e klientëve është e rëndësishme për çdo biznes. Në këtë bazë hyjnë klientë të rinj, për shembull, duke mësuar për produktin ose shërbimin përmes reklamave, jetojnë për një periudhë (përdorin aktivisht produktet) dhe pas një kohë ndalojnë përdorimin. Kjo periudhë quhet "Cikli i jetës së klientit" — një term që përshkruan fazat që kalon një klient kur mëson për produktin, merr vendimin për blerje, paguan, përdor dhe bëhet një konsumator i besnik, dhe në fund ndalon përdorimin për arsye të ndryshme. Prandaj, largimi është shkalla e fundit e ciklit të jetës së klientit, kur klienti ndalon përdorimin e shërbimeve, dhe për biznesin këtë do të thotë që klienti ka ndaluar së sjelluri fitim dhe ndonjë dobi.

Çdo klient banke është një person konkret që zgjedh një kartelë bankare të caktuar sipas nevojave të tij ose të saj. Udhëton shpesh — do të jetë e dobishme një kartelë me milje. Bën shumë blerje — përshëndetje, kartela me keshbek. Bën shumë blerje në dyqane specifike — dhe për këtë ka plastikë partnere të veçantë. Natyrisht, ndonjëherë kartela zgjidhet edhe sipas kriterit "Shërbimi më i lirë". Në përgjithësi, ka mjaft variabla këtu.

Dhe njëherësh, personi zgjedh vetë bankën — çfarë ka kuptim të zgjidhni kartelën e një banke, përfaqësitë e së cilës janë vetëm në Moskë dhe rajon, kur jeni nga Habarovsku? Pavarësisht nëse kartela e tillë është dyfish më e favorshme, prania e degëve të bankës afër mbetet një kriter i rëndësishëm. Po, 2019 është këtu dhe digital — është gjithçka për ne, por disa çështje me disa banka mund të zgjidhen vetëm në degë. Gjithashtu, një pjesë e popullsisë i beson shumë më tepër bankave fizike sesa aplikacioneve në smartfon, dhe kjo gjithashtu duhet të merret parasysh.

Si pasojë, arsyet për të anuluar produktet e bankës (apo vetë bankën) mund të jenë të shumta. Këmbova punën, dhe tarifa e kartës kaloi nga "Kartë pagese" në "Për të zakonshmit", e cila është më pak e favorshme. U transferova në një qytet tjetër, ku nuk ka degë të bankës. Nuk më pëlqeu komunikimi me një operator të pavërtetë në degë. Pra, arsyet për mbylljen e llogarisë mund të jenë madje shumë më tepër se ato për përdorimin e produktit.

Po ashtu, klienti mund të mos shprehë thjesht qartë qëllimin e tij — të shkojë në bankë dhe të shkruajë një kërkesë, por vetëm të ndalojë së përdoruri produktet, pa e çaktivizuar kontratën. Kjo është për të kuptuar këto lloj situatash që u vendos të përdoret mësimi me makinë dhe AI.

Për më tepër, humbja e klientëve mund të ndodhë në çdo sektor (telekomunikacion, ofrues interneti, kompani sigurimesh, në përgjithësi, kudo ku ka një bazë klientësh dhe transaksione periodike).

Çfarë bëmë

Së pari, duhej të përshkruhej një kufi i qartë — nga cila kohë fillojmë ta konsiderojmë klientin si të larguar. Nga këndvështrimi i bankës, që na ofroi të dhënat për punë, gjendja e aktivit të klientit ishte binare — ai është ose aktiv, ose jo. Në tabelën 'Aktiviteti' kishte një flamur ACTIVE_FLAG, vlera e të cilit mund të ishte ose '0' ose '1' (përkatësisht, 'Jo Aktiv' dhe 'Aktiv'). Dhe gjithçka do të ishte mirë, por njeriu është i tillë që mund të përdorë aktivisht një periudhë dhe pastaj të bie jashtë numrit të aktivëve për një muaj — mund të jetë i sëmurë, është larguar në një vend tjetër për pushime, ose madje është duke testuar kartën e një banke tjetër. Dhe ndoshta pas një periudhe të gjatë pasiviteti, do të fillojë përsëri të përdorë shërbimet e bankës.

Prandaj vendosëm ta quajmë një periudhë pasiviteti një interval të vazhdueshëm kohor, gjatë të cilit flamuri për të ishte përcaktuar si '0'.

Klientët kalojnë nga inaktiv në aktiv pas periudhash inaktiviteti të ndryshme. Kështu, ne kemi mundësinë të llogarisim gradën empirike të "besueshmërisë së periudhave inaktiviteti" — domethënë probabilitetin që një person do të rinisë përdorimin e produkteve të bankës pas një periudhe inaktiviteti.

Për shembull, në këtë grafik ilustrohet rinovimi i aktivizmit (ACTIVE_FLAG=1) të klientëve pas disa muajsh inaktiviteti (ACTIVE_FLAG=0).

Këtu do të sqarojmë pak datat me të cilat kemi filluar të punojmë. Pra, banka ka ofruar informacion të agreguar për 19 muaj në tabelat e mëposhtme:

• "Aktiviteti" — transaksionet mujore të klientëve (për kartat, në internet bankë dhe bankë mobile), duke përfshirë pagesat e pagave dhe informacionin rreth xhirove.
• "Kartat" — të dhënat për të gjitha kartat që ka klienti, me një strukturë të detajuar tarifore.
• "Marrëveshjet" — informacioni mbi marrëveshjet e klientit (si të hapura ashtu edhe të mbyllura): kredi, depozita dhe të tjera, duke treguar parametrat e secilës.
• "Klientët" — një set të dhënash demografike (gjinia dhe mosha) dhe disponueshmëria e të dhënave për kontakt.

Për punë na nevojiteshin të gjitha tabelat, përveç "Hartës".

Vështirësia këtu ishte edhe në faktin se, në këto të dhëna, banka nuk kishte treguar se cila aktivitet konkret niste nga kartat. Pra, mund të kuptonim nëse kishte transaksione, por të përcaktonim llojin e tyre — nuk mundëm. Prandaj, nuk ishte e qartë nëse klienti po tërheqte para, po merrte pagën, apo po shpenzonte para për blerje. Dhe nuk kishim të dhëna për saldo të llogarive, që do të kishte qenë e dobishme.

Pika e vetë është se mostra ishte e paanshme — në këtë prerje për 19 muaj banka nuk kishte bërë asnjë përpjekje për të mbajtur klientët dhe për të minimizuar ikjen e tyre.

Pra, për periudhat e pasivitetit.

Për formulimin e përcaktimit të ikjes duhet të zgjidhet një periudhë pasiviteti. Për të krijuar një parashikim të ikjes në një moment të caktuar , duhet të kemi histori klientësh për të paktën 3 muaj në intervalin e . Historia jonë ishte e kufizuar në 19 muaj, prandaj vendosëm të marrim periudhën e pasivitetit prej 6 muajsh, nëse ekziston. Dhe për periudhën minimale për një parashikim cilësor, morëm 3 muaj. Numrat në 3 dhe 6 muaj i morëm empirikisht mbi bazën e analizës së sjelljes së këtyre klientëve.

Ne e formuluar kështu: muaji i shkëputjes së klientit ky është muaji i parë me ACTIVE_FLAG=0, ku nga ky muaj ndodhin të paktën gjashtë zero rresht në fushën ACTIVE_FLAG, në fuqi, muaji, nga i cili klienti ka qenë joaktiv për 6 muaj.

Numri i klientëve që kanë ikur

Numri i klientëve të mbetur

Si zakonisht konsiderohet shkëputja

Në konkurse të tilla, dhe në përgjithësi në praktikë, shkëputja shpesh parashikohet në këtë mënyrë. Klienti përdor produkte dhe shërbime në intervale të ndryshme kohore, të dhënat për ndërveprimin me të paraqiten si një vektor tiparësh me gjatësi fikse n. Më së shpeshti, kjo informacion përfshin:

• Të dhëna që karakterizojnë përdoruesin (të dhëna demografike, segmenti i marketingut).
• Historia e përdorimit të produkteve dhe shërbimeve bankare (këto janë veprimet e klientëve, të cilat gjithmonë lidhen me një kohë ose periudhë të caktuar të intervalit që na nevojitet).
• Të dhëna të jashtme, nëse është e mundur të merren — për shembull, komente nga mediat sociale.

Dhe pas kësaj ata japin një definim të shkarkimit, të tyren për çdo detyrë. Pastaj përdorin një algoritëm të mësimit të makinave që parashikon probabilitetin e largimit të klientit. sipas vektorit të faktorëve. Për të stërvitur algoritmin, ata përdorin një nga çadrat e njohura për ndërtimin e ansambleve të pemëve vendimmarrëse, XGBoost, LightGBM, CatBoost apo modifikimet e tyre.

Algoritmi vetë është i mirë, por në lidhje me parashikimin e shkarkimit ka disa disavantazhe të rëndësishme.

• Ai nuk ka atë që quhet "memorie".Në hyrje të modelit, jepet një sasi e caktuar faktorësh që përputhen me momentin aktual. Për të inkorporuar informacionin në lidhje me historinë e ndryshimeve të parameterëve, është e nevojshme të llogariten faktorë të veçantë që karakterizojnë ndryshimet e parameterëve në kohë, si p.sh., numri ose shuma e transaksioneve bankare për tre muajt e fundit. Ky qasje mund të pasqyrojë vetëm pjesërisht karakterin e ndryshimeve temporale.
• Horizonti fiks i parashikimit. Modeli është në gjendje të parashikojë humbjen e klientëve vetëm për një periudhë të paracaktuar, për shembull, parashikimi për një muaj në të ardhmen. Nëse kërkohet një parashikim për një periudhë tjetër, për shembull, për tre muaj, atëherë duhet të ristrukturohet grupi i mësimit dhe të ri-ndarë një model të ri.

Qasja jonë

Ne e vendosëm qartë që nuk do ta përdorim qasjen standarde. Në garën regjistruan edhe 497 individë të tjerë, çdo njëri prej të cilëve kishte një përvojë të konsiderueshme. Pra, të përpiqesh të bësh diçka sipas skemës standarde në këto kushte — nuk është ideja më e mirë.

Dhe ne filluam të zgjidhim problemet që i ndikojnë modelit të klasifikimit binar, duke përdorur parashikimin e shpërndarjes probabiliste të kohës së humbjes së klientëve. Një qasje e tillë mund të shihet këtu, ajo lejon parashikimin më fleksibël të humbjes dhe verifikimin e hipotezave më të komplikuara se sa në qasjen klasike. Si grup shpërndarjesh që modelon kohën e humbjes, ne zgjodhëm shpërndarjen Weibull për aplikimin e saj të gjerë në analizën e mbijetesës. Shtyrja e klientëve mund të konsiderohet si një lloj mbijetesë.

Ja janë shembuj të shpërndarjeve të densiteteve të probabilitetit Weibull në varësi të parametrave dhe :

Kjo është densiteti i shpërndarjes së probabilitetit të ikjes së klientëve të tre klientëve të ndryshëm me kalimin e kohës. Koha paraqitet në muaj. Në fjalë të tjera, ky grafikon tregon se kur është më e mundshme që ikja e klientit të ndodhë në dy muajt në vazhdim. Siç duket, klienti me shpërndarjen, ka një potencial më të madh për t'u larguar më herët se klientët me shpërndarjet Weibull(2, 0.5) dhe Weibull(3,1).

Si rezultat, krijohet një model që për çdo klient në çdo
muaj parashikon parametrat e shpërndarjes Weibull, që pasqyrojnë më së miri ndodhinë e probabilitetit të ikjes me kalimin e kohës. Nëse flasim më shumë:

• Karakteristikat e synuara në mostrat e trajnimit — koha e mbetur deri në ikje në një muaj të caktuar për një klient të caktuar.
• Nëse nuk ka të dhëna për ikjen e klientit, supozojmë se koha e ikjes është më e madhe se numri i muajve nga aktuali deri në fund të historisë që kemi.
• Modeli i përdorur: një rrjet nervor rekurent me një nivel LSTM.
• Si në funksion humbjeje përdorim funksionin e logaritmit negativ të të dhënave të distribucionit Weibull.

Ja përfitimet e këtij metodi:

• Distribucioni probabilistik, përveç mundësive të dukshme për klasifikim binar, lejon parashikimin fleksibël të ngjarjeve të ndryshme, për shembull, a do të ndalojë një klient së përdoruri shërbimet e bankës brenda 3 muajve. Gjithashtu, nëse është e nevojshme, mund të mesaturohen metrika të ndryshme sipas këtij distribucioni.
• Rrjeti nervor rekurent LSTM ka kujtesë dhe përdor në mënyrë efektive gjithë historinë e disponueshme. Me zgjerimin ose saktësimin e historisë, saktësia rritet.
• Qasja mund të shkallëzohet lehtësisht duke ndarë intervalet e kohës në pjesë më të vogla (për shembull, duke ndarë muajt në javë).

Por është e pamjaftueshme të krijosh një model të mirë, duhet gjithashtu ta vlerësosh atë siç duhet.

Si e vlerësuam cilësinë

Si metrikë ne zgjodhëm Lift Curve. Ajo përdoret në biznes për raste të ngjashme për shkak të interpretimit të qartë, është përshkruar mirë këtu dhe këtu. Nëse e përshkruani kuptimin e kësaj metrike në një frazë, rezulton "Sa herë algoritmi bën një parashikim më të mirë në fillim %, se për rastësorin.

Stërvitim modelesh

Kushtet e garës nuk përcaktuan një metrik të caktuar cilësie për të krahasuar modelet dhe qasjet e ndryshme. Për më tepër, përcaktimi i konceptit të shkallës mund të jetë i ndryshëm dhe mund të varet nga formimi i detyrës, i cila përcaktohet nga objektivat e biznesit. Prandaj, për të kuptuar se cili metodë është më e mirë, ne stërvitëm dy modele:

1. Qasja e përdorur shpesh e klasifikimit binar duke përdorur algoritmin e mësimit të makinerive me ansambël të pemëve vendimmarrëse (LightGBM);
2. Modeli Weibull-LSTM

Grupi testues përbëhej nga 500 klientë të zgjedhur paraprakisht, të cilët nuk ishin në grupin e stërvitjes. Për modelin u bë zgjedhja e hiper-parametrave duke përdorur validimin e kryqëzuar me ndarje sipas klientëve. Për stërvitjen e çdo modeli u përdorën të njëjtat grupe veçorash.

Duke modeli nuk ka memorie, u morën veçori të veçanta që tregojnë lidhjen mes ndryshimeve të parametrave të një muaji në krahasim me mesataren e parametrave për tre muajt e fundit. Kjo karakterizonte shpejtësinë e ndryshimit të vlerave për periudhën e fundit prej tre muajsh. Pa këtë, modeli bazuar në Random Forest do të ishte në një pozicion të dobët në krahasim me Weibull-LSTM.

Si është më i mirë LSTM me shpërndarje Weibull se qasja e bazuar në një ansambël pemësh vendimi?

Këtu është gjithçka e qartë, përmes disa figurave.

Krahasimi i Lift Curve për algoritmin klasik dhe Weibull-LSTM.

Krahasimi i metrikës Lift Curve për muajt për algoritmin klasik dhe Weibull-LSTM.

Në përgjithësi, LSTM e tejkalon algoritmin klasik në pothuajse të gjitha rastet.

Parashikimi i humbjes së klientëve.

Modeli i bazuar në rrjetin neuronik rekurent me qelizat LSTM dhe shpërndarjen Weibull mund të parashikojë braktisjen në mënyrë të avancuar, për shembull, të parashikojë largimin e klientit brenda muajve të ardhshëm n. Let's consider the case for n = 3. Në këtë rast, për çdo muaj, rrjeti nervor duhet të identifikojë saktësisht nëse klienti do të largohet duke filluar nga muaji i ardhshëm deri në muajin n. Në terma të tjerë, ai duhet të identifikojë saktësisht nëse klienti do të qëndrojë pas n muajve. Kjo mund të konsiderohet si një parashikim i avancuar: parashikimi i momentit kur klienti fillon të mendojë për t'u larguar.

Le të krahasojmë Lift Curve për Weibull-LSTM në 1, 2 dhe 3 muaj më herët nga largimi:

Kemi shkruar më lart se parashikimet për klientët që bien nga aktivët për një kohë të caktuar janë gjithashtu të rëndësishme. Prandaj, këtu do të shtojmë në mostër raste kur klienti i larguar tashmë ka qenë jo-aktiv për një ose dy muaj dhe do të kontrollojmë që Weibull-LSTM të klasifikojë saktësisht këto raste si braktisje. Duke qenë se këto raste ishin të pranishme në mostër, ne presim që rrjeti të përballojë mirë me to:

Retentimi i klientëve

Kjo është pikërisht ajo që mund të bëni, duke pasur informacionin se disa klientë po përgatiten të ndalin përdorimin e produktit. Kur flasim për ndërtimin e një modeli që mund të ofrojë diçka të dobishme për klientët për t'i mbajtur ata — kjo nuk do të bëhet nëse nuk keni histori të përpjekjeve të tilla që kanë përfunduar mirë.

Ne nuk kemi pasur një histori të tillë, prandaj vendosëm kështu.

1. Ndërtojmë një model që përcakton produkte interesante për çdo klient.
2. Çdo muaj ekzekutojmë klasifikuesin dhe përcaktojmë klientët potencialisht në ikje.
3. Disa klientëve u ofrojmë produkte, sipas modelit nga pika 1, dhe mbajmë mend veprimet tona.
4. Pas disa muajsh shohim se kush nga këta klientë potencialisht në ikje ka ikur dhe kush ka mbetur. Kështu formojmë një grup mësimor.
5. E trajnojmë modelin në histori, të marrë nga pika 4.
6. Opcionalisht, përsërisim procedurën, duke zëvendësuar modelin nga pika 1 me modelin e marrë nga pika 5.

Një testim i zakonshëm A/B mund të shërbejë si një kontroll i cilësisë për këtë lloj mbajtjeje — ndajnë klientët që potencialisht po largohen në dy grupe. Një grupi i ofrojmë produkte bazuar në modelin tonë të mbajtjes, kurse grupit tjetër nuk u ofrojmë asgjë. Ne vendosëm të trajnojmë një model që mund të sjellë dobi që në pikën 1 të shembullit tonë.

Donim ta bënim segmentimin sa më interpretuese. Për këtë, zgjodhëm disa karakteristika që mund të ishin lehtësisht interpretuese: numri total i transaksioneve, paga, volumi i përgjithshëm i llogarisë, mosha, gjinia. Karakteristikat nga tabela 'Kartat' nuk u morën parasysh si të pakrerë informative, ndërsa karakteristikat nga tabela 3 'Marrëveshjet' — për shkak të kompleksitetit në përpunim për të parandaluar këtë rrjedhje të të dhënave midis grupeve të verifikimit dhe atyre për trajnim.

Klastrimi u krye me modelet e përzierjes Gaussian. Kriteri informativ i Akaikes ndihmoi në përcaktimin e 2 optimumeve. Optimumi i parë korrespondon me 1 klaster. Optimumi i dytë, më pak i shprehur, korrespondon me 80 klastere. Nga ky rezultat mund të nxirret përfundimi se të dhënat janë shumë të vështira për t'u ndarë në klastere pa informacion të dhënë paraprakisht. Për një klastrim më cilësor, nevojiten të dhëna që përshkruajnë në detaje secilin klient.

Prandaj, u shqyrtua detyra e mësimit me mësues, për të proponuar një produkt të veçantë për çdo klient të veçantë. Produktet e shqyrtuara përfshinin: "Depositi afatgjatë", "Karta e kreditit", "Ovedrafi", "Kredi Konsumi", "Kredia e automjetit", "Hipoteka".

Në të dhëna ekzistonte një lloj produkti tjetër: "Llogaria Aktualle". Por ne nuk e shqyrtuam atë për shkak të informativitetit të ulët. Modeli ishte ndërtuar mbi përdoruesit që janë klientë të bankës, pra ata që nuk kanë ndërprerë përdorimin e produkteve të saj, për të parashikuar se cili produkt mund të jetë i interesit të tyre. Për këtë model u zgjodh regresioni logjistik, dhe si metrikë për vlerësimin e cilësisë u përdor vlera e Lift për percentilet e para 10.

Cilësia e modelit mund të vlerësohet në figurë.

Rezultatet e modelit të rekomandimit të produkteve për klientët

Përfundimi

Ky qasje na çoi në vendin e parë në kategorinë "AI në banka" në Kampionatin e AI RAIF-Challenge 2017.

Duket se e rëndësishmja ishte të afrohemi me problemin nga një këndvështrim jo shumë të zakonshëm dhe të përdorim një metodë që zakonisht përdoret për situata të tjera.

Megjithatë, largimi masiv i përdoruesve mund të jetë një katastrofë natyrore për shërbimet.

Ky metod mund të merret parasysh edhe për çdo fushë tjetër ku është e rëndësishme të merren parasysh largimet, jo vetëm nga bankat. Për shembull, ne e kemi përdorur atë për të llogaritur largimin tonë - në degët e Siberisë dhe Shën Petersburgut të Rostelecom.

«Laboratori i analizës intelektuale të të dhënave» kompania «Portali kërkues «Sputnik»

Burimi: habr.com