Saluton al ĉiuj! Mia nomo estas Sasha, mi estas CTO & Kunfondinto ĉe LoyaltyLab. Antaŭ du jaroj, miaj amikoj kaj mi, kiel ĉiuj malriĉaj studentoj, iris vespere por biero al la plej proksima vendejo apud la domo. Ni tre ĉagrenis, ke la komercisto, sciante, ke ni venos por biero, ne ofertis rabaton pri fritoj aŭ biskvitoj, kvankam tio estas tiel logika! Ni ne komprenis kial ĉi tiu situacio okazas kaj decidis krei nian propran kompanion. Nu, kiel gratifiko, skribu rabatojn por vi mem ĉiun vendredon por tiuj samaj blatoj.

Kaj ĉio alvenis al la punkto, ke mi parolas kun materialo pri la teknika flanko de la produkto ĉe NVIDIA GTC. Ni ĝojas dividi nian laboron kun la komunumo, do mi afiŝas mian raporton en formo de artikolo.

Enkonduko

Kiel ĉiuj komence de la vojaĝo, ni komencis kun superrigardo pri kiel fariĝas rekomendaj sistemoj. Kaj la arkitekturo de la sekva tipo rezultis esti la plej populara:

Ĝi konsistas el du partoj:

Specimenado de kandidatoj por rekomendoj per simpla kaj rapida modelo, kutime kunlabora.
Rango de kandidatoj laŭ pli kompleksa kaj pli malrapida enhavmodelo, konsiderante ĉiujn eblajn funkciojn en la datumoj.

Ĉi tie kaj sube mi uzos la jenajn terminojn:

kandidato / kandidato por rekomendoj - paro da uzantproduktoj, kiuj eble povas eniri rekomendojn en produktado.
kandidatoj eltiro/ekstraktilo/kandidata eltira metodo — procezo aŭ metodo por ĉerpi "kandidatojn por rekomendoj" el disponeblaj datumoj.

Ĉe la unua paŝo, malsamaj varioj de kunlabora filtrado estas kutime uzitaj. La plej populara - ALS. Surprize, la plej multaj artikoloj pri rekomendaj sistemoj nur malkaŝas diversajn plibonigojn al kunlaboraj modeloj ĉe la unua etapo, sed neniu parolas pri aliaj specimenaj metodoj. Por ni, la aliro uzi nur kunlaborajn modelojn kaj diversajn optimumojn kun ili ne funkciis kun la kvalito, kiun ni atendis, do ni fosis en la esplorado specife pri ĉi tiu parto. Kaj fine de la artikolo mi montros kiom ni povis plibonigi ALS, kiu estis nia bazlinio.

Antaŭ ol mi priskribas nian aliron, estas grave rimarki, ke kun realtempaj rekomendoj, kiam gravas por ni konsideri datumojn, kiuj okazis antaŭ 30 minutoj, vere ne ekzistas multaj aliroj, kiuj povas funkcii en la ĝusta tempo. Sed, en nia kazo, ni devas kolekti rekomendojn ne pli ol unufoje tage, kaj plejofte - unufoje semajne, kio donas al ni la ŝancon uzi kompleksajn modelojn kaj multobligi la kvaliton.

Ni prenu kiel bazlinion, kiajn metrikojn nur ALS montras pri la tasko ĉerpi kandidatojn. La ŝlosilaj mezuroj, kiujn ni kontrolas, estas:

Precizeco - la proporcio de ĝuste elektitaj kandidatoj el la provitaj.
Memoru - la proporcio de kandidatoj kiuj okazis el tiuj, kiuj efektive estis en la celintervalo.
F1-poentaro - F-poentaro kalkulita sur la antaŭaj du poentoj.

Ni ankaŭ rigardos la metrikojn de la fina modelo post trejnado de gradiento-plifortigo kun pliaj enhavaj funkcioj. Ekzistas ankaŭ 3 ĉefaj metrikoj:

precizeco@5 — averaĝa procento de sukcesoj de la supraj 5 laŭ probablo por ĉiu kliento.
response-rate@5 — konvertiĝo de aĉetantoj de vizito al la vendejo en la aĉeton de almenaŭ unu persona oferto (unu oferto enhavas 5 produktojn).
avg roc-auc per uzanto - meza roc-auc por ĉiu aĉetanto.

Gravas noti, ke ĉiuj ĉi tiuj metrikoj estas mezuritaj tempo-serio krucvalidado, tio estas, trejnado okazas en la unuaj k semajnoj, kaj k + 1 semajnoj estas prenitaj kiel testaj datumoj. Tiel, laŭsezonaj pliiĝoj/malsuprenoj havis minimuman efikon al la interpreto de la kvalito de la modeloj. Plue, sur ĉiuj leteroj, la abscisa akso indikos la semajnan nombron en krucvalidado, kaj la ordinata akso indikos la valoron de la specifita metriko. Ĉiuj grafikaĵoj baziĝas sur la transakciaj datumoj de unu kliento, tiel ke la komparo inter ili estas ĝusta.

Antaŭ ol ni komencu priskribi nian aliron, ni unue rigardu la bazlinion, kiu estas la trejnita modelo de ALS.
Kandidataj Ekstraktaj Metrikoj:

Finaj metrikoj:

Mi traktas ĉiujn efektivigojn de algoritmoj kiel ian komercan hipotezon. Tiel, tre proksimume, iuj kunlaboraj modeloj povas esti konsiderataj kiel hipotezo, ke "homoj emas aĉeti tion, kion homoj kiel ili aĉetas". Kiel mi diris, ni ne limigis nin al tia semantiko, kaj jen kelkaj hipotezoj, kiuj ankoraŭ funkcias bone pri datumoj en eksterreta podetala komerco:

Kion vi aĉetis antaŭe.
Simile al tio, kion mi aĉetis antaŭe.
La periodo de longa pasinta aĉeto.
Populara laŭ kategorio/marko.
Alternaj aĉetoj de malsamaj varoj de semajno al semajno (Markov-ĉenoj).
Similaj produktoj al aĉetantoj, laŭ la karakterizaĵoj konstruitaj de malsamaj modeloj (Word2Vec, DSSM, ktp.).

Kion vi aĉetis antaŭe

La plej evidenta heŭristiko kiu funkcias tre bone en nutraĵvendejo. Ĉi tie ni prenas ĉiujn varojn, kiujn la lojaleckartposedanto aĉetis en la lastaj K tagoj (kutime 1-3 semajnoj), aŭ K tagojn antaŭ jaro. Aplikante nur ĉi tiun metodon, ni ricevas la sekvajn metrikojn:

Estas sufiĉe evidente ĉi tie, ke ju pli ni prenas la periodon, des pli da memoro kaj malpli da precizeco ni havas kaj inverse. Pli bonaj rezultoj averaĝe por klientoj donas la "lastajn 2 semajnojn".

Simile al tio, kion mi aĉetis antaŭe

Ne surprize, "kio antaŭe aĉetis" bone funkcias por nutraĵvendejo, sed ĉerpi kandidatojn nur el tio, kion la uzanto jam aĉetis, ne estas tre mojosa, ĉar estas neverŝajne, ke eblos surprizi la aĉetanton per iu nova produkto. Tial ni proponas iomete plibonigi ĉi tiun heŭristiko uzante la samajn kunlaborajn modelojn. El la vektoroj, kiujn ni ricevis dum la trejnado de ALS, vi povas akiri similajn produktojn al tio, kion la uzanto jam aĉetis. Ĉi tiu ideo tre similas al "similaj filmetoj" en videoenhavaj spektadservoj, sed ĉar ni ne scias, kion la uzanto manĝas/aĉetas en aparta momento, ni povas nur serĉi ion similan nur al tio, kion li jam aĉetis, precipe ĉar ni jam scias kiom bone ĝi funkcias. Aplikante ĉi tiun metodon al uzanttransakcioj dum la pasintaj 2 semajnoj, ni ricevas la jenajn metrikojn:

estas k - la nombro da similaj produktoj, kiuj estas prenitaj por ĉiu produkto aĉetita de la aĉetanto en la lastaj 14 tagoj.
Ĉi tiu aliro funkciis precipe bone por ni ĉe kliento, kiu estis kritika tute ne rekomendi tion, kio jam estis en la aĉethistorio de la uzanto.

Longe pasinta aĉetperiodo

Kiel ni jam eksciis, pro la alta ofteco de aĉetado de varoj, la unua aliro funkcias bone por niaj specifaĵoj. Sed kio pri varoj kiel lavpulvoro/ŝampuo/ktp. Tio estas, kun produktoj kiuj verŝajne ne estos bezonataj ĉiusemajne aŭ du kaj kiujn antaŭaj metodoj ne povas ĉerpi. Ĉi tio implicas la sekvan ideon - oni proponas kalkuli la periodon de aĉeto de ĉiu produkto averaĝe por aĉetantoj, kiuj aĉetis la produkton pli. k unufoje. Kaj poste ĉerpi tion, kio plej verŝajne la aĉetanto jam elĉerpiĝis. La kalkulitaj periodoj por varoj povas esti kontrolitaj per viaj okuloj por taŭgeco:

Kaj tiam ni vidos, ĉu la fino de la produkta periodo falas en la tempa intervalo, kiam la rekomendoj estos en produktado kaj specimeno tion, kio falas. La aliro povas esti ilustrita jene:

Ĉi tie ni havas 2 ĉefajn kazojn, kiujn oni povas konsideri:

Ĉu provi produktojn por klientoj, kiuj aĉetis la produkton malpli ol K fojojn.
Ĉu provi la produkton se la fino de ĝia periodo falas antaŭ la komenco de la celintervalo.

La sekva grafiko montras kiajn rezultojn tia metodo atingas kun malsamaj hiperparametroj:

ft - Prenu nur aĉetantojn, kiuj aĉetis la produkton almenaŭ K (ĉi tie K = 5) fojojn
tm — Prenu nur kandidatojn, kiuj falas en la celintervalon

Ne mirinde, kapabla (0, 0) la plej granda memoras kaj la plej malgranda precizeco, ĉar sub ĉi tiu kondiĉo oni ĉerpas la plej multajn kandidatojn. Tamen, la plej bonaj rezultoj estas akiritaj kiam ni ne provas produktojn por klientoj, kiuj aĉetis apartan produkton malpli ol k fojojn kaj ĉerpi, interalie, varojn, kies periodo fino falas antaŭ la celintervalo.

Populara laŭ Kategorio

Alia sufiĉe evidenta ideo estas provi popularajn produktojn tra malsamaj kategorioj aŭ markoj. Ĉi tie ni kalkulas por ĉiu kliento supro-k "favorataj" kategorioj/markoj kaj ĉerpi "popularan" el tiu kategorio/marko. En nia kazo, ni difinas "ŝatata" kaj "populara" laŭ la nombro da aĉetoj de produktoj. Plia avantaĝo de ĉi tiu aliro estas ĝia aplikebleco en malvarma startkazo. Tio estas, por klientoj kiuj faris aŭ tre malmultajn aĉetojn, aŭ ne estis en la vendejo dum longa tempo, aŭ ĝenerale nur eldonis lojalecan karton. Por ili, estas pli facile kaj plej bone enĵeti varojn de popularaj ĉe aĉetantoj kun ekzistanta historio. La metrikoj estas kiel sekvas:

Ĉi tie, la nombro post la vorto "kategorio" signifas la nestannivelon de la kategorio.

Ĝenerale, ankaŭ ne estas surprize, ke pli mallarĝaj kategorioj atingas pli bonajn rezultojn, ĉar ili ĉerpas pli precizajn "ŝatatajn" produktojn por aĉetantoj.

Alterna aĉetoj de malsamaj varoj de semajno al semajno

Interesa aliro, kiun mi ne vidis en artikoloj pri rekomendaj sistemoj, estas sufiĉe simpla kaj samtempe laboranta statistika metodo de Markov-ĉenoj. Ĉi tie ni prenas 2 malsamajn semajnojn, tiam por ĉiu kliento ni konstruas parojn da produktoj [aĉetita en semajno i]-[aĉetita en semajno j], kie j > i, kaj de ĉi tie ni kalkulas por ĉiu produkto la probablon ŝanĝi al alia produkto venontsemajne. Tio estas, por ĉiu paro da varoj producti-productj kalkulu ilian nombron en la trovitaj paroj kaj dividu per la nombro da paroj, kie produktaĵoj estis en la unua semajno. Por ĉerpi kandidatojn, ni prenas la lastan ĉekon de la aĉetanto kaj ricevas supro-k la plej verŝajnaj sekvaj produktoj de la transira matrico, kiujn ni ricevis. La procezo de konstruado de transira matrico aspektas jene:

De realaj ekzemploj en la matrico de transirprobabloj, ni vidas la sekvajn interesajn fenomenojn:

Ĉi tie vi povas rimarki interesajn dependecojn, kiuj estas malkaŝitaj en konsumanta konduto: ekzemple, citrusamantoj aŭ marko de lakto, de kiu ili plej verŝajne ŝanĝas al alia. Ankaŭ ne estas surprize, ke aĵoj kun altaj ripetaj aĉetoj, kiel butero, ankaŭ finiĝas ĉi tie.

La metriko en la metodo kun Markov-ĉenoj estas kiel sekvas:

k - la nombro da produktoj kiuj estas prenitaj por ĉiu objekto aĉetita de la lasta transakcio de la aĉetanto.
Kiel ni povas vidi, la agordo kun k=4 montras la plej bonan rezulton. La piko je la 4-a semajno povas esti klarigita per laŭsezona konduto ĉirkaŭ ferioj.

Similaj produktoj al aĉetantoj, laŭ karakterizaĵoj konstruitaj de malsamaj modeloj

Do ni venas al la plej malfacila kaj interesa parto - la serĉo de la plej proksimaj najbaroj en la vektoroj de aĉetantoj kaj produktoj konstruitaj laŭ diversaj modeloj. En nia laboro, ni uzas 3 tiajn modelojn:

ALS
Word2Vec (Item2Vec por tiaj taskoj)
DSSM

Ni jam traktis ALS, vi povas legi pri kiel ĝi lernas tie. En la kazo de Word2Vec, ni uzas la konatan efektivigon de la modelo de gensim. Analogie kun la tekstoj, ni difinas la oferton kiel aĉetkvitancon. Tiel, dum konstruado de la produktovektoro, la modelo lernas antaŭdiri sian "kuntekston" por la produkto en la kvitanco (la resto de la varoj en la kvitanco). En elektronikaj datumoj, estas pli bone uzi la sesion de la aĉetanto anstataŭ ĉeko, la infanoj de Ozon. Kaj DSSM estas pli interese malmunti. Ĝi estis origine skribita de la uloj de Microsoft kiel serĉmodelo, vi povas legi la originalan esploran paperon ĉi tie. La arkitekturo de la modelo aspektas jene:

estas Q - demando, serĉdemando de uzanto, D[i] - dokumento, retpaĝo. La enigo de la modelo ricevas la signojn de la peto kaj paĝoj, respektive. Ĉiu enirtavolo estas sekvita per kelkaj plene ligitaj tavoloj ( plurtavola perceptron). Poste, la modelo lernas minimumigi la kosinuson inter la vektoroj akiritaj en la lastaj tavoloj de la modelo.
La rekomendaj taskoj uzas ĝuste la saman arkitekturon, sed anstataŭ peto estas uzanto, kaj anstataŭ paĝoj estas produktoj. Kaj en nia kazo, ĉi tiu arkitekturo estas transformita en la jenon:

Nun, por kontroli la rezultojn, restas kovri la lastan punkton - se en la kazo de ALS kaj DSSM ni havas eksplicite difinitajn uzantvektorojn, tiam en la kazo de Word2Vec ni havas nur produktajn vektorojn. Ĉi tie, por konstrui uzantan vektoron, ni identigis 3 ĉefajn alirojn:

Nur aldonu la vektorojn, tiam por la kosinusa distanco rezultas, ke ni ĵus averaĝis la produktojn en la butikumada historio.
Sumado de vektoroj kun iom da tempopezo.
Pesante varojn kun TF-IDF-koeficiento.

En la kazo de lineara pezo de la aĉetanto-vektoro, ni procedas de la hipotezo, ke la produkto, kiun la uzanto aĉetis hieraŭ, havas pli grandan influon sur sia konduto ol la produkto, kiun li aĉetis antaŭ ses monatoj. Do ni konsideras la antaŭan semajnon de la aĉetanto kun koeficiento de 1, kaj kio okazis poste kun koeficientoj de ½, ⅓, ktp.:

Por TF-IDF-koeficientoj, ni faras ĝuste la samon kiel en TF-IDF por tekstoj, nur ni konsideras la aĉetanton kiel dokumenton, kaj la ĉekon kiel oferton, respektive, la vorto estas produkto. Do la uzantvektoro ŝanĝiĝos pli al maloftaj varoj, kaj varoj kiuj estas oftaj kaj konataj al la aĉetanto ne multe ŝanĝos ĝin. La aliro povas esti ilustrita jene:

Nun ni rigardu la metrikojn. Jen kiel aspektas ALS-rezultoj:

Metriko de Item2Vec kun malsamaj varioj de konstruado de la aĉetanto-vektoro:

En ĉi tiu kazo, ĝuste la sama modelo estas uzata kiel en nia bazlinio. La nura diferenco estas kiun k ni uzos. Por uzi nur kunlaborajn modelojn, vi devas preni ĉirkaŭ 50-70 plej proksimajn produktojn por ĉiu kliento.

Kaj DSSM-metrikoj:

Kiel kombini ĉiujn metodojn?

Bonege, vi diras, sed kion fari kun tia granda aro de kandidatoj eltiraj iloj? Kiel elekti la optimuman agordon por viaj datumoj? Ĉi tie ni havas plurajn problemojn:

Necesas iel limigi la serĉspacon por hiperparametroj en ĉiu metodo. Ĝi estas, kompreneble, diskreta ĉie, sed la nombro da eblaj punktoj estas tre granda.
Kiel elekti la plej bonan agordon por via metriko uzante malgrandan limigitan specimenon de specifaj metodoj kun specifaj hiperparametroj?

Ni ankoraŭ ne trovis sendube ĝustan respondon al la unua demando, do ni procedas de la jena: por ĉiu metodo, hiperparametra serĉspaclimigilo estas skribita, depende de iuj statistikoj pri la datumoj kiujn ni havas. Tiel, sciante la averaĝan periodon inter aĉetoj de homoj, ni povas diveni kun kiu periodo uzi la metodon "kio jam aĉetis" kaj "la periodo de longa pasinta aĉeto".

Kaj post kiam ni ekzamenis iun adekvatan nombron da varioj de malsamaj metodoj, ni notas la jenon: ĉiu efektivigo ĉerpas certan nombron da kandidatoj kaj havas certan valoron de la metriko (revoko), kiu estas ŝlosilo por ni. Ni volas akiri certan nombron da kandidatoj entute, depende de nia alleblas komputika potenco, kun la plej alta ebla metriko. Ĉi tie la problemo bele kolapsas en la tornistproblemon.

Ĉi tie la nombro da kandidatoj estas la pezo de la ingoto, kaj la metodo revoko estas ĝia valoro. Tamen, estas 2 pliaj punktoj, kiuj devus esti konsiderataj dum efektivigo de la algoritmo:

Metodoj povas havi interkovron en la kandidatoj, kiujn ili eltiras.
En iuj kazoj, estos ĝuste preni unu metodon dufoje kun malsamaj parametroj, kaj la kandidatoj ĉe la eligo de la unua ne estos subaro de la dua.

Ekzemple, se ni prenas la efektivigon de la "kio jam aĉetis" metodo kun malsamaj intervaloj por eltiro, tiam iliaj aroj de kandidatoj estos nestitaj unu en la alian. Samtempe, malsamaj parametroj en la "periodaj aĉetoj" ĉe la elirejo ne donas kompletan intersekciĝon. Tial ni dividas specimenajn metodojn kun malsamaj parametroj en blokojn tiel ke de ĉiu bloko ni volas preni maksimume unu eltiran aliron kun specifaj hiperparametroj. Por fari tion, vi devas trompi iomete en la efektivigo de la tornistra problemo, sed la asimptotikoj kaj la rezulto ne ŝanĝiĝos de ĉi tio.

Tia saĝa kombinaĵo permesas al ni akiri la sekvajn metrikojn kompare kun simple kunlaboraj modeloj:

Sur la finaj metrikoj ni vidas la sekvan bildon:

Tamen ĉi tie vi povas vidi, ke estas unu malkovrita punkto por rekomendoj utilaj por komerco. Nun ni ĵus lernis kiel malvarmete antaŭdiri, kion la uzanto aĉetos, ekzemple, venontsemajne. Sed nur doni rabaton pri tio, ke li ĉiuokaze aĉetos, ne estas tre mojosa. Sed estas bone maksimumigi la atendon, ekzemple, de la sekvaj metrikoj:

Marĝeno/spezo surbaze de personaj rekomendoj.
Meza kontrolo de aĉetantoj.
frekvenco de vizitoj.

Do ni multobligas la akiritajn probablojn per malsamaj koeficientoj kaj re-rangas ilin tiel ke la supro inkluzivas produktojn, kiuj influas la metrikojn supre. Ne estas preta solvo ĉi tie, kiu aliro estas pli bone uzi. Eĉ ni eksperimentas kun tiaj koeficientoj rekte en produktado. Sed jen kelkaj interesaj lertaĵoj, kiuj plej ofte donas al ni la plej bonajn rezultojn:

Multipliku per la prezo/marĝeno de la objekto.
Multipliku per la averaĝa kontrolo en kiu la produkto okazas. Do eliros la varoj, kun kiuj ili kutime prenas ion alian.
Multipliku per la averaĝa ofteco de vizitoj de aĉetantoj de ĉi tiu produkto, surbaze de la hipotezo, ke ĉi tiu produkto provokas pli oftajn revenojn por ĝi.

Post eksperimentado kun koeficientoj, ni ricevis la sekvajn metrikojn en produktado:

estas totala produkta konvertiĝo - la parto de aĉetitaj produktoj de ĉiuj produktoj en la rekomendoj, kiujn ni generis.

Atenta leganto rimarkos gravan diferencon inter eksterreta kaj interreta metriko. Ĉi tiu konduto estas klarigita per la fakto, ke ne ĉiuj dinamikaj filtriloj por produktoj rekomendindaj povas esti konsiderataj dum trejnado de la modelo. Estas normala rakonto por ni, kiam duono de la ĉerpitaj kandidatoj povas esti filtrita, tia specifeco estas tipa en nia industrio.

Koncerne enspezon, la sekva rakonto estas akirita, estas klare, ke post la lanĉo de la rekomendoj, la enspezo de la testa grupo forte kreskas, nun la averaĝa kresko de enspezo kun niaj rekomendoj estas 3-4%:

Konklude, mi volas diri, ke se vi bezonas ne-realtempajn rekomendojn, tiam tre granda kresko de kvalito troviĝas en eksperimentoj kun ĉerpi kandidatojn por rekomendoj. Granda tempo por generi ilin ebligas kombini multajn bonajn metodojn, kiuj entute donos bonegajn rezultojn por la komerco.

Mi ĝojos babili en la komentoj kun ĉiuj, kiuj trovas la materialon interesa. Vi povas demandi min persone telegramo. Mi ankaŭ dividas miajn pensojn pri AI/startupoj en mia telegrama kanalo — bonvenon 🙂

fonto: www.habr.com

Kiel ni draste plibonigis la kvaliton de rekomendoj en eksterreta podetala komerco