Tere kõigile! Minu nimi on Sasha, ma olen CTO ja kaasasutaja LoyaltyLabis. Kaks aastat tagasi käisin koos sõpradega, nagu kõik vaesed üliõpilased, õhtuti õlut lähimast poest ostmas. Meid häiris, et jaemüüja, teades, et tuleme õlle järele, ei pakkunud kätte krõpsude ega snäkkide allahindlust, kuigi see oleks olnud nii loogiline! Me ei saanud aru, miks selline olukord eksisteerib ja otsustasime asutada oma ettevõtte. Ja lisaks kirjutada endale igal reedel allahindlusi nende samade krõpsude peale.

Asi jõudis sinna maale, et esitatud tehnilise materjali põhjal esitan ma NVIDIA GTC. Meil on hea meel kogemusi kogukonnaga jagada, seetõttu jagan oma ettekannet artikli vormis.

Sissejuhatus

Nagu kõigil alguses, alustasime sellest, kuidas soovitussüsteemid toimivad. Kõige populaarsem oli järgmise tüübi arhitektuur:

See koosneb kahest osast:

1. Kandidaatide soovituste valimine lihtsa ja kiire mudeli abil, tavaliselt koostöömudeli baasil.
2. Kandidaatide järjestamine keerukama ja aeglasema sisu mudeli abil, arvestades kõiki andmetes olevaid tunnuseid.

Edasi kasutan järgmisi termineid:

• candidate/kandidaat soovituste jaoks — user-product paar, mis potentsiaalselt võib tootmisprotsessis soovitustesse sattuda.
• candidates extraction/extractor/kandidaatide väljavõtmise meetod — kandidaatide soovituste väljavõtmise protsess või meetod olemasolevate andmete põhjal.

Esimeses etapis kasutatakse tavaliselt erinevaid koostöfiltreerimise variatsioone. Kõige populaarsem on ALS. Üllatav on see, et enamik artikleid soovitussüsteemide kohta käsitleb vaid erinevaid koostöömudelite täiustusi esimeses etapis, kuid teiste proovivõtmise meetodite kohta ei räägi peaaegu keegi. Meie lähenemine, mis kasutab ainult koostöömudeleid ja nende erinevaid optimeerimisi, ei andnud soovitud kvaliteeti, seetõttu sukeldusime uuringutesse just selle osa kohta. Artikli lõpuks näitan, kui palju suutsime ALS-i, mis oli meie baasmudel, täiustada.

Enne kui liikuda meie lähenemise kirjeldamise juurde, on oluline märkida, et reaalajas soovituste puhul, kui on oluline arvestada andmetega, mis on kogunenud 30 minuti jooksul, on tõepoolest vaid vähe lähenemisi, mis suudavad vajalikul ajal töötada. Kuid meie puhul tuleb soovitusi genereerida mitte tihemini kui kord päevas, enamasti kord nädalas, mis annab meile võimaluse kasutada keerukaid mudeleid ja oluliselt tõsta kvaliteeti.

Võtame baasiks selle, milline on ainult ALS-i näitaja kandidaatide väljavõtmisel. Peamised mõõdikud, millele tähelepanu pöörame, on järgmised:

• Precision — õigesti valitud kandidaatide osakaal valitud kandidaatide seas.
• Recall — esinenud kandidaatide osakaal nendest, mis olid tõeliselt sihtintervallis.
• F1-score — F-meetod, mis arvutatakse eelmainitud kahe punkti põhjal.

Samuti vaatame õpetatud gradientide tõstmiseks lisanduvat sisu kasutades lõpptulemuste mõõdikuid. Siin on samuti 3 peamist mõõdikut:

• precision@5 — keskmine tooteosakaal viie kõige tõenäolisema toote seas iga ostja jaoks.
• response-rate@5 — ostjate konversioon kauplusesse minekust vähemalt ühe isikliku pakkumise ostmiseks (ühes pakkumises 5 toodet).
• avg roc-auc per user — keskmine roc-auc iga ostja kohta.

Oluline on märkida, et kõik nimetatud mõõdikud mõõdetakse ajalis-kristallilise valideerimise, see tähendab, et õppimine toimub esimestel k nädalal ning testandmetena kasutatakse k+1 nädalat. Nii et hooajalised tõusud/kadumised peegelduvad minimaalsetel määral mudelite kvaliteedi tõlgendamisel. Edasi kõigil graafikutel tähistab horisontaalne telg nädalate numbrit valideerimisprotsessis ja vertikaalne telg — nimetatud mõõdiku väärtust. Kõik graafikud on koostatud ühe kliendi tehinguandmete põhjal, et omavaheline võrdlus oleks korrektne.

Enne kui hakata kirjeldama meie lähenemist, vaatame esmalt baasmudelit, mis esindab õpetatud ALS mudelit.
Mõõdikud kandidaadi väljavõtmiseks:

Lõppmõõdikud:

Suhtun kõigisse algoritmide rakendustesse kui mingisse ärilisesse hüpoteesi. Seega, väga üldiselt, võib igasuguseid koostöömudeleid käsitleda kui hüpoteesi, et "inimesed on kalduvad ostma seda, mida ostavad nende sarnased inimesed." Nagu ütlesin, ei piirdunud me ainult sellise semantikaga ja siin on veel hüpoteese, mis töötavad andmetes offline jaemüügis:

1. Mida on varem ostetud.
2. Sarnane sellele, mida on varem ostetud.
3. Aega tagasiostetud ostu tegemiseni.
4. Populaarsed kategooriate/brändide lõikes.
5. Erinevate toodete korduvad ostud nädalast nädalasse (Markovi ahelad).
6. Sarnased tooted ostjatele, mis põhinevad erinevate mudelite (Word2Vec, DSSM jne) omadustel.

Mida osteti varem

Ilmselge heuristika, mis töötab väga hästi toidupoodides. Siin võtame kõik tooted, mida lojaalsuskaardi omanik on viimase K päeva jooksul (tavaliselt 1-3 nädalat) ostnud, või K päeva jooksul aasta tagasi. Kasutades ainult sellist meetodit, saame järgmised näitajad:

Siin on selgelt näha, et mida pikemat perioodi me võtame, seda rohkem on meil kõlapinda ja vähem täpsust ning vastupidi. Parimad tulemused keskmiselt klientide kaupa annavad "viimased 2 nädalat".

Sarnane sellele, mida osteti varem

Pole üllatav, et toidupoodides töötab "mida osteti varem" hästi, kuid kandidaatide valimine ainult sellest, mida kasutaja juba ostis, ei ole teabestari sisuliselt väga huvitav, sest uute toodete soovitamiseks on see küsitav. Seega aitame natuke täiustada seda heuristikat sama koostöömudelite abil. ALS-i koolitusel saadud vektorite abil saame leida sarnaseid tooteid sellele, mida kasutaja juba ostis. See idee sarnaneb "sarnaste videote" otsimisega videoteenustes, kuid kuna me ei tea, mida kasutaja konkreetselt praegu sööb/ostab, peame otsima ainult sarnaseid tooteid sellele, mida ta juba ostis, eriti kuna me teame, kui hästi see töötab. Rakendades sellist meetodit kasutajate tehingute põhjal viimase 2 nädala jooksul, saame järgmised näitajad:

Siit k — sarnaste toodete arv, mis leitakse iga ostetud toote kohta viimase 14 päeva jooksul.
See lähenemine töötas meil eriti hästi kliendi puhul, kelle jaoks oli kriitiline mitte soovitada seda, mida juba kasutaja ostetud ajaloos oli.

Pikaajalise ostu periood

Nagu oleme juba välja selgitanud, töötab esimene lähenemine hästi meie eripära tõttu toote sageli ostmise tõttu. Aga kuidas olla toodetega, nagu pesupulber/šampoon/jne? See tähendab, et selliste toodetega, mis ilmselt ei ole vajalikud iga nädala-kaks jooksul ja mille eelnevad meetodid ei saa välja tuua. Seega tuleb järgmine idee — arvutada iga toote ostu periood keskmiselt klientide põhjal, kes on toodet rohkem kui k korda ostnud. Seejärel saame välja tuua tooted, mis tõenäoliselt on ostjal juba otsas. Arvutatud perioodid tooteid saab visuaalselt kontrollida adekvaatsuse osas:

Seejärel vaatame, kas toote perioodi lõpp jääb ajavahemikku, mil soovitused tehakse ja kogume selle, mis sinna mahtus. Seda lähenemist saab illustreerida järgmiselt:

Siin on meil kaks peamist juhtumit, mida kaaluda:

1. Kas tuleb soovitada tooteid klientidele, kes on toodet ostnud vähem kui K korda.
2. Kas tuleb soovitada toodet, kui selle perioodi lõpp jääb enne sihitud ajavahemikku.

Järgmises graafikus on näha, milliseid tulemusi see meetod saavutab erinevate hüperparameetritega:

ft — Vaatame ainult kliente, kes on toodet ostnud vähemalt K korda (siin K=5)
tm — Vaatame ainult kandidaate, kes jäävad sihitud ajavahemikku

Pole üllatav, et sellises seisundis on (0, 0) kõige suurem kõlapind ja kõige väiksem täpsus, kuna selles tingimuses toimub kandidaate kõige rohkem. Kuid parimaid tulemusi saavutatakse olukorras, kus me ei soovita tooteid neile klientidele, kes on kindlat toodet ostnud vähem kui k korda ja valime hulka ka tooteid, mille perioodi lõpp jääb enne sihitud ajavahemikku.

Populaarne kategooriate lõikes

Veel üks üsna ilmne idee — soovitada populaarseid tooteid erinevates kategooriates või kaubamärkides. Siin arvutame iga kliendi jaoks top-k "lemmik" kategooriad/kaubamärgid ja valime "populaarse" selle kategooria/kaubamärgi hulgast. Meie puhul määratleme "lemmik" ja "populaarne" põhjal tooteidostude arvu. Selle lähenemise täiendav eelis on rakendatavust külma stardi olukordades. See tähendab kliente, kes on teinud kas väga vähe oste, õige pea ei ole poodi külastanud või on hoopis alles registreerinud lojaalsuskaardi. Nende jaoks on lihtsam ja parem soovitada tooteid ostjatelt, kellel on juba ostuajalugu. Saadud näitajad on järgmised:

Siin numbrid sõna "category" järel tähistavad kategooria hiilgemust.

Üldiselt pole üllatav, et parimaid tulemusi annavad kitsamad kategooriad, kuna nad toovad välja täpsemaid "lemmik" tooteid klientide jaoks.

Erinevate toodete järkjärgulised ostud nädalast nädalasse

Huvitav lähenemine, mida ma pole näinud soovitusüsteemide artiklites — suhteliselt lihtne ja samas töötav Markovi ahelate statistiline meetod. Siin võtame 2 erinevat nädalat, seejärel koostame iga kliendi jaoks toodete paare. [ostetud nädalal i]-[ostetud nädalal j], kus j > i, ja siit arvutame iga toote järgneva nädala ülemineku tõenäosuse teisele tootearvule. See tähendab, et iga toote paari producti-productj arvutame nende arvu leitud paarides ja jagame selle paaride arvuga, kus producti oli esimesel nädalal. Kandidaatide väljavõtmiseks võtame kliendi viimase arve ja otsime top-k tõenäoliselt järgmised tooted üleminekute maatriksist, mille oleme saanud. Üleminekute maatriksi koostamise protsess näeb välja järgmine:

Reaalsetest näidetest ülemineku tõenäosuste maatriksis näeme järgmisi huvitavaid nähtusi:

Siin võib märgata huvitavaid seoseid, mis ilmnevad tarbijakäitumises: näiteks tsitrusviljade armastajad või piimatootemargee, millelt tõenäoliselt üle lähevad. Samuti pole üllatav, et tooted, mida ostetakse sageli uuesti, nagu või, on siin samuti olemas.

Markovi ahelate meetodi mõõdikud on järgmised:

k — tooted, mida tuuakse esile iga viimases tehingus ostetud toote kohta.
Kuidas näeme, et parim tulemus ilmub konfiguratsiooniga k=4. Neljanda nädala tippaeg on seletatav hooajalise käitumisega pühade ajal. 

Sarnased tooted klientide jaoks, erinevate mudelite põhjal koostatud omadustega

Nüüd oleme jõudnud kõige keerulisemasse ja huvitavasse ossa — lähimate naabrite otsing kliendi ja toodete vektorite põhjal, mis on koostatud erinevate mudelitega. Oma töös kasutame selliseid mudeleid 3:

• ALS
• Word2Vec (Item2Vec selliste ülesannete jaoks)
• DSSM

ALS-iga oleme juba tutvunud, selle õppimise kohta saab lugeda siit. Word2Veci puhul kasutame kõigile tuntud mudeli teostust, mille ees gensim. Sarnaselt tekstidega määratleme lause, kui ostuarve. Seega, toote vektori koostamisel õpib mudel ennustama toote "kontrolli" (ülejäänud tooted arves). E-kaubanduse andmete puhul on parem kasutada arve asemel kliendi sessiooni, mille kohta on hästi kirjutanud inimesed Ozon. DSSM-i analüüs on huvitavam. Esmalt kirjutati see Microsofti teadlaste poolt mudeliks otsinguks, siit saab lugeda algset uurimistööd. Mudeli arhitektuur näeb välja järgmiselt:

Siit K — päring, kasutaja sisestatud otsingupäring, D[i] — dokument, veebileht. Mudelile antakse sisendiks päringu ja lehtede omadused vastavalt. Iga sisendkihiga järgneb talle teatav arv täielikult seotud kihtide (multilayer perceptron). Edasiõppe käigus õpib mudel minimaaliseerima kosinust viimaste kihtide vektorite vahel.
Soovituste juhtumites kasutatakse just sama arhitektuuri, ainult päringu asemel on kasutaja ja lehtede asemel tooted. Ja meie puhul muudetakse selline arhitektuur järgnevaks:

Nüüd tulemuste kontrollimiseks jääb üle katsetada viimane moment — kui ALS-i ja DSSM-i puhul on kasutajate vektorid selgelt määratletud, siis Word2Veci puhul on meil ainult toodete vektorid. Siin kasutame kasutajate vektori koostamiseks kolme peamist lähenemist:

1. Lihtsalt liita vektorid, siis kosinuse kauguse jaoks saame, et oleme lihtsalt keskmistanud tooteid ostuajaloos.
2. Vektorite summeerimine mingi aegade kaalumisega.
3. Toodete kaalumine TF-IDF koefitsiendiga.

Lineaarse kaalumise puhul meie ostja vektoris lähtume hüpoteesist, et toode, mille kasutaja ostis eile, mõjutab tema käitumist rohkem kui toode, mille ta ostis kuue kuu eest. Seega arvutame eelneva nädala ostja koos koefitsiendiga 1, ja see, mis toimus kauem siis koefitsiendiga ½, ⅓ jne:

TF-IDF koefitsiendid puhul teeme täpselt sama, mis tekstide TF-IDF puhul, ainult et ostjat peame dokumendiks ja arvet lauseks, see tähendab, et sõna — toode. Nii kaldub kasutaja vektor rohkem haruldaste toodete poole, samas kui sagedased ja harjumuspärased tooted ei muuda seda eriti. Lähenemist on võimalik illustreerida järgmiselt:

Nüüd vaatame mõõdikuid. Sellised on ALS-i tulemused:

Mõõdikud Item2Veci puhul erinevates ostja vektori koostamise variatsioonides:

Selles olukorras kasutatakse täpselt samat mudelit, nagu meie aluseks. Erinevus seisneb vaid selles, millist k-d me kasutame. Ainult koostöömudeleid kasutades tuleb võtta umbes 50-70 lähimat toodet iga kliendi jaoks.

Ja metrikad DSSM-i jaoks:

Kuidas kõik meetodid ühendada?

See on küll tore, aga mis teha nii suure tööriistade komplektiga kandidaatide leidmiseks? Kuidas leida oma andmete jaoks optimaalne konfiguratsioon? Siit kerkivad esile mitmed ülesanded:

1. Peame kuidagi piirama hüperparameetrite otsinguruumi igas meetodis. See on muidugi igal pool diskreetne, kuid võimalike punktide arv on väga suur.
2. Kuidas valida väikesest piiratud valimist konkreetsete meetoditega ja konkreetsete hüperparameetritega parim konfiguratsioon oma metoodika jaoks?

Ühtset vastust esimesele küsimusele me hetkel ei ole leidnud, seega lähtume järgmistest eeldustest: igale meetodile on kirjutatud hüperparameetrite otsinguruumi piiraja sõltuvalt meie käsutuses olevatest andmete statistikatest. Niisiis, teadaoleva keskmise ostupeatumise ajaga saame oletada, millise ajaga kasutada meetodit “mida on juba ostetud” ja “kaupade ostmise aeg, mis on möödas”.

Ja kui oleme läbi katsetanud mõistlikus koguses erinevaid meetodite variatsioone, märkame järgmist: iga rakendus kaevandab teatud arvu kandidaate ja omab meie jaoks olulist metoodika väärtust (recall). Soovime, et kokku oleks meil teatud arv kandidaate, sõltuvalt meie lubatud arvutusvõimsusest, maksimaalse võimaliku metoodika väärtusega. Siin muutub ülesanne ilusti knapsack probleemiks.

Siin on kandidaatide arv — selle kaalu väärtus, ja meetodi recall — selle väärtus. Siiski on veel kaks punkti, mida tasub algoritmi rakendamisel silmas pidada:

• Meetoditel võib olla kattuvust kandidaatides, mida nad välja toovad.
• Mõnel juhul on õigustatud võtta üks meetod kaks korda erinevate parameetritega, ja esimesest tulemusest kandidaatide kogum ei ole teise alamhulk.

Näiteks, kui võtta meetodi „mida on juba ostetud” rakendus erinevate intervallidega kaevandamiseks, siis nende kandidaatide kogum on üksteise sees. Samas, erinevad parameetrid „perioodilistes ostudes” ei anna täielikku kattuvust. Seega jagame proovimise meetodid erinevate parameetritega plokkideks nii, et igast plokist soovime võtta mitte rohkem kui üks kandidaat kindlate hüperparameetritega. Selleks on vaja veidi nutikust knapsack probleemi rakendamisel, kuid asümptoatika ja tulemus ei muutu.

Selline nutikas kombinatsioon võimaldab meil saada järgmised metoodikad võrreldes lihtsalt koosteiliste mudelitega:

Lõpptulemuste metoodikates näeme järgmist pilti:

Kuid siin võib tähele panna, et üks soovitus, mis on kasulik äri jaoks, on käimata. Nüüd oleme lihtsalt õppinud suurepäraselt ennustama, mida kasutaja ostab, näiteks järgmisel nädalal. Kuid lihtsalt allahindluse andmine sellele, mida ta niikuinii ostab, ei ole väga huvitav. Aga oleks suurepärane maksimeerida oodatavas väärtuses järgmiste metoodikate osas:

1. Marginaal / kaupade müügimaht personaalses soovitustes.
2. Keskne ostusumma klientide seas.
3. Külastuste sagedus.

Niisiis, me korrutame saadud tõenäosused erinevate koefitsientidega ja järjestame need ümber nii, et tippu jõuavad tooted, mis mõjutavad kõrgemaid metoodikaid. Siin ei ole valmis lahendust, kuidas läheneda. Isegi me katsetame selliste koefitsientidega otse tootmises. Kuid mõned huvitavad nipid, mis annavad meil sageli paremaid tulemusi, on:

1. Korrutada toote hinna/marginaali järgi.
2. Korrutada keskmise ostusumma, milles see toode esineb. Nii ilmuvad üles tooted, millega tavaliselt ostetakse midagi veel.
3. Korrutada toote külastuste keskmise sageduse järgi, lähtudes hüpoteesist, et see toode kutsub esile tihedama tagasituleku.

Katsed koefitsientide osas andsid meile järgmised metoodikad tootmises:

Siit overall products conversion — ostetud kaupade osakaal kõikidest soovitatud kaupadest, mille me genereerisime.

Tähelepanelik lugeja märkab olulist erinevust offline ja online metoodikate vahel. Selline käitumine on seletatav sellega, et kaugeltki mitte kõik dünaamilised toote filtrid, mida soovitatakse, ei ole mudeleid treenimisel arvestatavad. Meie jaoks on normaalne, kui pool välja kaevandatud kandidaatidest võib olla filtreeritud, see on meie tööstusele iseloomulik eripära.

Tulude osas on järgmine lugu, on näha, et soovituste käivitamisel kasvab testgrupi tulud olulisel määral, praegu on meie soovitustega keskmine tulu kasv 3-4%:

Kokkuvõttes tahan öelda, et kui teil ei ole vaja reaalajas soovitusi, siis on katsetamine kandidaatide valimisega soovituste jaoks suur kvaliteedi tõus. Suur osa ajast nende genereerimisel võimaldab kombineerida palju häid meetodeid, mis kokkuvõttes toovad äri jaoks suurepäraseid tulemusi.

Olen hea meelega valmis arutama kommentaarides kõigiga, kellele see materjal huvitav tundub. Küsimusi saab mulle esitada isiklikult telegram. Samuti jagan ma oma mõtteid AI/dir startups oma telegrami kanalisse — welcome 🙂

Allikas: habr.com