Halo sadayana! Nami abdi Sasha, abdi CTO & Co-Founder di LoyaltyLab. Dua taun ka tukang, kuring jeung babaturan, kawas sakabeh murid miskin, indit peuting meuli bir di toko pangcaketna deukeut imah urang. Kami pisan kesel nu pangecér, nyaho yén urang bakal datangna pikeun bir, teu nawiskeun diskon on chip atawa Crackers, sanajan ieu jadi logis! Kami henteu ngartos naha kaayaan ieu kajantenan sareng mutuskeun pikeun ngamimitian perusahaan urang sorangan. Nya, salaku bonus, masihan anjeun diskon unggal dinten Jumaah dina chip anu sami.

Sareng sadayana dugi ka titik dimana kuring nampilkeun bahan dina sisi téknis produk NVIDIA GTC. Kami bagja pikeun ngabagi karya urang sareng masarakat, janten kuring nyebarkeun laporan kuring dina bentuk tulisan.

perkenalan

Kawas dulur sejenna dina awal perjalanan, urang mimitian ku tinjauan kumaha sistem recommender dijieun. Sareng arsitéktur anu paling populér tétéla janten jinis ieu:

Ieu diwangun ku dua bagian:

1. Sampling calon pikeun rekomendasi ngagunakeun modél basajan tur gancang, biasana hiji kolaborasi.
2. Ranking calon kalawan modél eusi leuwih kompleks jeung slow, nyokot kana akun sagala fitur mungkin dina data.

Salajengna, kuring bakal nganggo istilah-istilah ieu:

• calon / calon pikeun rekomendasi - pasangan produk-pamaké anu berpotensi kaasup kana saran dina produksi.
• ékstraksi calon / extractor / métode ékstraksi calon - prosés atawa métode pikeun extracting "calon rekomendasi" tina data sadia.

Léngkah munggaran biasana ngalibatkeun ngagunakeun variasi panyaring kolaborasi anu béda. Nu pang populerna - Hawking. Éta héran yén kalolobaan tulisan ngeunaan sistem anu nyarankeun ngan ngungkabkeun sababaraha perbaikan pikeun modél kolaborasi dina tahap kahiji, tapi teu aya anu nyarioskeun seueur ngeunaan metode sampling anu sanés. Pikeun kami, pendekatan ngan ukur nganggo model kolaborasi sareng sagala rupa optimasi sareng aranjeunna henteu tiasa dianggo sareng kualitas anu kami ngarepkeun, ku kituna kami ngali panalungtikan khusus dina bagian ieu. Sareng dina ahir tulisan kuring bakal nunjukkeun sabaraha urang tiasa ningkatkeun ALS, anu mangrupikeun dasar urang.

Sateuacan kuring ngaléngkah ka ngajéntrékeun pendekatan urang, hal anu penting pikeun dicatet yén dina saran realtime, nalika hal anu penting pikeun urang tumut kana akun data anu lumangsung 30 menit ka tukang, aya bener teu loba pendekatan anu bisa dianggo dina waktu diperlukeun. Tapi, dina hal urang, urang kudu ngumpulkeun saran teu leuwih ti sakali sapoé, sarta di hal nu ilahar - saminggu sakali, nu masihan urang kasempetan pikeun ngagunakeun model kompléks jeung ningkatkeun kualitas sababaraha kali.

Hayu urang nyandak salaku garis dasar naon metrics ngan ALS nembongkeun on tugas extracting calon. Metrik konci anu urang monitor nyaéta:

• Precision - proporsi calon dipilih bener ti leuwih sampel.
• Pangeling-eling nyaéta proporsi calon anu kajantenan tina anu saleresna aya dina interval target.
• F1-skor - F-ukuran diitung dina dua titik saméméhna.

Urang ogé bakal ningali métrik modél ahir saatos latihan ningkatkeun gradién kalayan fitur eusi tambahan. Aya ogé 3 métrik utama di dieu:

• precision @ 5 - persentase rata-rata produk ti luhur 5 dina watesan probabiliti pikeun tiap meuli.
• response-rate@5 - konvérsi konsumén tina kunjungan ka toko pikeun ngagaleuh sahenteuna hiji tawaran pribadi (5 produk dina hiji tawaran).
• avg roc-auc per pamaké - rata roc-auc pikeun tiap meuli.

Kadé dicatet yén sakabéh métrik ieu diukur dina validasi cross-runtuyan waktos, nyaeta, latihan lumangsung dina k minggu munggaran, sarta k + 1 minggu dicokot salaku data test. Ku kituna, up na Downs musiman miboga dampak minimal dina interpretasi kualitas model. Salajengna dina sakabéh grafik, sumbu abscissa bakal nunjukkeun jumlah minggu di cross-validasi, sarta sumbu ordinate bakal nunjukkeun nilai métrik dieusian. Sadaya grafik dumasar kana data transaksi ti hiji klien supados babandingan antara anu sanés leres.

Sateuacan urang ngawitan ngajelaskeun pendekatan urang, urang mimiti kasampak di baseline, nu model ALS-dilatih.
Métrik dimeunangkeun calon:

Métrik ahir:

Kuring ngubaran sagala palaksanaan algoritma salaku sababaraha jenis hipotesa bisnis. Ku kituna, kasarna pisan, sagala model kolaborasi bisa dianggap salaku hipotesa yén "jalma condong meuli naon jalma sarupa aranjeunna meuli". Sakumaha anu parantos nyarios, kami henteu ngawatesan diri kana semantik sapertos kitu, sareng ieu sababaraha hipotesis anu tiasa dianggo saé dina data dina ritel offline:

1. Anu kuring parantos ngagaleuh sateuacanna.
2. Sarua sareng anu kuring mésér sateuacanna.
3. Periode beuli kaliwat lila.
4. Populér dumasar kategori / merek.
5. Pembelian alternatif barang-barang anu béda ti minggu ka minggu (ranté Markov).
6. produk sarupa pembeli, nurutkeun ciri diwangun ku model béda (Word2Vec, DSSM, jsb).

Naon anu anjeun mésér sateuacanna?

Heuristik anu paling atra anu tiasa dianggo saé dina ritel grosir. Di dieu urang nyandak sakabeh barang nu boga kartu kasatiaan dibeuli dina K poé panungtungan (biasana 1-3 minggu), atawa K poé sataun katukang. Ngalarapkeun ukur metode ieu, urang kéngingkeun métrik ieu:

Di dieu éta rada atra yén lila urang nyandak periode, beuki ngelingan kami boga sarta kirang precision kami boga sarta sabalikna. Rata-rata, "2 minggu panungtungan" méré hasil hadé pikeun klien.

Sarua sareng anu kuring mésér sateuacanna

Henteu heran yén pikeun ritel grosir "naon anu kuring mésér sateuacanna" tiasa dianggo saé, tapi ékstrak calon ngan ukur tina anu parantos dipésér ku pangguna henteu saé pisan, sabab sigana moal kaget pembeli ku sababaraha produk anyar. Ku alatan éta, urang ngajukeun rada ningkatkeun heuristik ieu ngagunakeun model kolaborasi sarua. Tina vektor anu kami tampi salami latihan ALS, kami tiasa nampi produk anu sami sareng anu parantos dipésér ku pangguna. Gagasan ieu mirip pisan sareng "video anu sami" dina jasa pikeun ningali eusi pidéo, tapi kumargi urang henteu terang naon anu didahar/dibeuli ku pangguna dina waktos anu khusus, urang ngan ukur tiasa milarian anu sami sareng anu parantos anjeunna mésér, khususna. saprak urang Urang geus nyaho kumaha ogé gawéna. Nerapkeun metodeu ieu dina transaksi pangguna salami 2 minggu kamari, kami kéngingkeun métrik ieu:

Ieu téh k — Jumlah produk anu sami anu dicandak pikeun unggal produk anu dibeli ku anu mésér salami 14 dinten ka pengker.
Pendekatan ieu dianggo khususna pikeun klien kami, anu penting pikeun henteu nyarankeun naon waé anu parantos aya dina sajarah pameseran pangguna.

jaman beuli telat

Sakumaha anu parantos kami terangkeun, kusabab frékuénsi luhur mésér barang, pendekatan anu munggaran tiasa dianggo pikeun kabutuhan khusus urang. Tapi kumaha upami barang sapertos bubuk cuci / sampo / jsb. Nyaéta, sareng produk anu henteu mungkin diperyogikeun unggal minggu atanapi dua minggu sareng metode anu saacanna henteu tiasa nimba. Ieu ngakibatkeun ideu di handap ieu - diusulkeun pikeun ngitung période pameseran unggal produk rata-rata pikeun konsumén anu mésér produk langkung seueur. k sakali. Teras nimba naon anu paling dipikaresep ku pembeli parantos béak. Periode anu diitung pikeun barang tiasa dipariksa ku panon anjeun pikeun kacukupan:

Teras urang bakal ningali naha ahir jaman produk ragrag dina interval waktos nalika rekomendasi bakal aya dina produksi sareng conto naon anu kajantenan. pendekatan bisa digambarkeun saperti kieu:

Di dieu urang gaduh 2 kasus utama anu tiasa dianggap:

1. Naha perlu sampel produk ti nasabah anu geus dibeuli produk kirang ti K kali.
2. Naha perlu sampel produk lamun ahir periode na ragrag saméméh awal interval target.

Grafik di handap ieu nunjukkeun hasil naon anu dihontal ku metode ieu sareng hyperparameter anu béda:

ft — Candak ngan konsumén anu geus dibeuli produk sahenteuna K (di dieu K=5) kali
tm - Candak ngan calon anu digolongkeun dina interval target

Teu heran anjeunna sanggup (0, 0) nu pangbadagna ngelingan jeung pangleutikna katalitian, Kusabab dina kaayaan ieu paling calon anu dicandak. Sanajan kitu, hasil pangalusna kahontal lamun urang teu sampel produk pikeun konsumén anu meuli produk tinangtu kirang ti k kali jeung ekstrak, kaasup barang, ahir periode nu ragrag saméméh interval target.

Populér dumasar kategori

Gagasan anu sanés anu atra nyaéta pikeun sampel produk populér dina sababaraha kategori atanapi merek. Di dieu urang ngitung pikeun tiap pembeli luhur-k kategori "favorit" / merek jeung ekstrak "populér" tina kategori / merek ieu. Dina hal urang, urang bakal nangtukeun "favorit" jeung "populér" ku Jumlah purchases produk. Kauntungan tambahan tina pendekatan ieu nyaéta aplikasina dina kasus mimiti tiis. Nyaéta, pikeun palanggan anu parantos ngagaleuh sakedik, atanapi parantos lami henteu ka toko, atanapi nembé ngaluarkeun kartu kasatiaan. Pikeun aranjeunna, éta langkung gampang sareng langkung saé pikeun nyimpen barang-barang anu populer sareng para nasabah sareng gaduh sajarah. Metrik anu dihasilkeun nyaéta:

Di dieu angka sanggeus kecap "kategori" hartina tingkat nyarang kategori.

Gemblengna, éta ogé teu heran kategori narrower ngahontal hasil hadé, sabab nimba leuwih akurat "favorit" produk pikeun shoppers.

Ngagaleuh barang anu béda ti minggu ka minggu

Pendekatan anu pikaresepeun anu kuring henteu acan ningali dina tulisan ngeunaan sistem rekomendasi mangrupikeun cara anu saderhana sareng dina waktos anu sami damel metode statistik tina ranté Markov. Di dieu urang butuh 2 minggu anu béda, teras pikeun unggal palanggan urang ngawangun pasangan produk [meuli dina minggu i]-[meuli dina minggu j], dimana j > i, sarta ti dieu urang ngitung pikeun tiap produk kamungkinan pindah ka produk sejen minggu hareup. Hartina, pikeun sapasang barang produk-produkj Urang cacah jumlah maranéhanana dina pasangan kapanggih jeung ngabagi ku jumlah pasangan, dimana produk éta dina minggu kahiji. Pikeun nimba calon, urang nyandak resi panungtungan meuli urang jeung ekstrak luhur-k paling dipikaresep produk salajengna ti matrix transisi kami nampi. Prosés ngawangun matriks transisi kasampak kawas kieu:

Tina conto nyata dina matriks probabiliti transisi urang ningali fénoména anu pikaresepeun ieu:

Di dieu anjeun tiasa perhatikeun katergantungan anu pikaresepeun anu diungkabkeun dina paripolah konsumen: contona, anu resep buah jeruk atanapi merek susu anu aranjeunna kamungkinan ngalih ka anu sanés. Éta ogé teu heran produk kalawan frékuénsi luhur purchases ulang, kawas mentega, ogé nepi ka dieu.

Métrik dina métode sareng ranté Markov nyaéta kieu:

k - jumlah produk anu dicandak pikeun tiap produk dibeuli ti urus panungtungan meuli urang.
Salaku bisa urang tingali, hasil pangalusna ditémbongkeun ku konfigurasi kalawan k = 4. The spike dina minggu 4 bisa dipedar ku kabiasaan musiman sabudeureun libur. 

produk sarupa pembeli, nurutkeun ciri diwangun ku model béda

Ayeuna kami parantos sumping ka bagian anu paling hese sareng pikaresepeun - milarian tatangga anu pangdeukeutna dumasar kana vektor konsumén sareng produk anu diwangun dumasar kana sababaraha modél. Dina karya urang kami nganggo 3 model sapertos:

• Hawking
• Word2Vec (Item2Vec pikeun tugas sapertos kitu)
• DSSM

Kami parantos ngurus ALS, anjeun tiasa maca ngeunaan kumaha diajarna di dieu. Dina kasus Word2Vec, urang ngagunakeun palaksanaan well-dipikawanoh model ti gensim. Ku analogi sareng téks, urang ngartikeun tawaran salaku resi pameseran. Ku kituna, nalika ngawangun véktor produk, modél diajar ngaduga pikeun produk dina resi "konteks" na (produk sésana dina resi). Dina data e-commerce, langkung saé ngagunakeun sési pembeli tinimbang kuitansi; jalma-jalma ti Ozon. Jeung DSSM leuwih metot pikeun parse. Mimitina, éta ditulis ku budak ti Microsoft salaku modél pikeun milarian, Anjeun tiasa maca makalah panalungtikan asli di dieu. Arsitéktur model kasampak kawas kieu:

Ieu téh Q - pamundut, pamundut pilarian pamaké, D[i] — dokumén, kaca internét. Input kana modél nyaéta atribut pamundut sareng halaman masing-masing. Sanggeus unggal lapisan input aya sababaraha lapisan disambungkeun pinuh (multilayer perceptron). Salajengna, modél diajar pikeun ngaleutikan kosinus antara véktor anu dicandak dina lapisan terakhir modél.
tugas rekomendasi ngagunakeun persis arsitéktur sarua, ngan tinimbang hiji pamundut aya pamaké, sarta tinimbang kaca aya produk. Sareng dina hal urang, arsitéktur ieu dirobih janten:

Ayeuna, pikeun mariksa hasil, éta tetep nutupan titik panungtungan - lamun dina kasus ALS na DSSM kami geus jelas nangtukeun vektor pamaké, lajeng dina kasus Word2Vec urang ngan boga vektor produk. Di dieu, pikeun ngawangun véktor pangguna, kami parantos netepkeun 3 pendekatan utama:

1. Ngan tambahkeun vektor, teras pikeun jarak kosinus tétéla urang ngan saukur rata-rata produk dina sajarah pameseran.
2. Penjumlahan véktor sareng sababaraha waktos timbangan.
3. Timbangan barang kalawan koefisien TF-IDF.

Dina kasus timbangan linier vektor pembeli, urang teraskeun tina hipotesa yén produk anu dibeli ku pangguna kamari gaduh pangaruh anu langkung ageung kana paripolahna tibatan produk anu anjeunna mésér genep bulan kapengker. Janten urang nganggap minggu sateuacana pembeli kalayan odds 1, sareng naon anu kajantenan salajengna kalayan odds ½, ⅓, jsb.:

Pikeun koefisien TF-IDF, urang ngalakukeun persis sarua jeung dina TF-IDF pikeun téks, ngan urang nganggap nu meuli salaku dokumen a, jeung cék salaku tawaran masing-masing kecap mangrupa produk. Ku cara ieu, véktor pangguna bakal langkung ngalih ka barang-barang langka, sedengkeun barang-barang anu sering sareng akrab pikeun anu mésér moal seueur ngarobih. pendekatan bisa digambarkeun saperti kieu:

Ayeuna hayu urang tingali metrics. Ieu mangrupikeun hasil ALS:

Métrik pikeun Item2Vec kalayan variasi anu béda pikeun ngawangun vektor pembeli:

Dina hal ieu, persis model sarua dipaké dina dasar urang. Hijina bédana nyaéta nu k kami bakal ngagunakeun. Pikeun ngan ukur nganggo modél kolaborasi, anjeun kedah nyandak kira-kira 50-70 produk pangdeukeutna pikeun unggal palanggan.

Sareng métrik numutkeun DSSM:

Kumaha ngagabungkeun sakabeh métode?

Keren, anjeun nyarios, tapi naon anu kudu dilakukeun ku set alat ékstraksi calon anu ageung? Kumaha carana milih konfigurasi optimal pikeun data anjeun? Di dieu urang gaduh sababaraha masalah:

1. Perlu kumaha bae ngawatesan spasi pilarian pikeun hyperparameters dina unggal metoda. Éta, tangtosna, diskrit di mana waé, tapi jumlah kamungkinan titik anu ageung pisan.
2. Ngagunakeun sampel kawates leutik métode husus kalawan hyperparameters husus, kumaha anjeun tiasa milih konfigurasi pangalusna pikeun métrik anjeun?

Kami henteu acan mendakan jawaban anu pasti leres pikeun patarosan anu munggaran, ku kituna urang teraskeun tina ieu: pikeun unggal metode, pangwatesan rohangan milarian hyperparameter ditulis, gumantung kana sababaraha statistik dina data anu urang gaduh. Ku kituna, nyaho période rata antara purchases ti jalma, urang bisa nebak jeung naon periode ngagunakeun métode "naon geus dibeuli" jeung "periode meuli lila kaliwat".

Sarta sanggeus kami geus Isro ngaliwatan jumlah nyukupan tangtu variasi métode béda, urang catetan handap: unggal palaksanaan extracts jumlah nu tangtu calon sarta ngabogaan nilai nu tangtu métrik konci pikeun urang (ngelingan). Kami hoyong kéngingkeun jumlah calon anu tangtu, gumantung kana kakuatan komputasi anu diidinan, kalayan métrik anu paling luhur. Di dieu masalah beautifully collapses kana masalah ransel.

Di dieu jumlah calon beurat ingot, sarta metoda ngelingan nyaeta nilai na. Nanging, aya 2 deui titik anu kedah dipertimbangkeun nalika ngalaksanakeun algoritma:

• Métode mungkin gaduh tumpang tindihna dina calon anu aranjeunna dicandak.
• Dina sababaraha kasus, éta bakal bener nyandak hiji metoda dua kali kalayan parameter béda, sarta kaluaran calon ti mimiti moal sawaréh ti kadua.

Contona, upami urang nyandak palaksanaan sahiji metodeu "naon Kuring geus meuli" kalawan interval béda pikeun dimeunangkeun, lajeng susunan calon maranéhanana bakal nested dina unggal lianna. Dina waktos anu sami, parameter anu béda dina "pembelian périodik" di jalan kaluar henteu nyayogikeun simpang lengkep. Ku alatan éta, urang ngabagi pendekatan sampling kalawan parameter béda kana blok saperti ti unggal blok urang hoyong nyandak paling hiji pendekatan ékstraksi kalawan hyperparameters husus. Jang ngalampahkeun ieu, anjeun kudu meunang saeutik pinter dina ngalaksanakeun masalah knapsack, tapi asimtotik jeung hasilna moal robah.

Kombinasi pinter ieu ngamungkinkeun urang kéngingkeun métrik ieu dibandingkeun sareng modél kolaboratif:

Dina métrik ahir urang ningali gambar ieu:

Nanging, di dieu anjeun tiasa perhatikeun yén aya hiji titik anu teu katutup pikeun rekomendasi anu mangpaat pikeun bisnis. Ayeuna urang nembé diajar kumaha ngalakukeun padamelan anu saé pikeun ngaramalkeun naon anu bakal dibeli ku pangguna, contona, minggu payun. Tapi ngan saukur masihan diskon dina hal anu anjeunna bakal mésér henteu saé pisan. Tapi éta saé pikeun maksimalkeun harepan, contona, tina métrik ieu:

1. Margin / elehan dumasar kana saran pribadi.
2. Cék customer rata.
3. Frékuénsi kunjungan.

Ku kituna urang kalikeun probabiliti diala ku koefisien béda jeung rerank aranjeunna ambéh produk nu mangaruhan métrik di luhur meunang ka luhur. Henteu aya solusi anu siap-siap pikeun pendekatan mana anu paling hadé dianggo. Kami malah ékspérimén sareng koefisien sapertos langsung dina produksi. Tapi ieu mangrupikeun téknik anu pikaresepeun anu paling sering masihan hasil anu pangsaéna:

1. Kalikeun ku harga / margin produk.
2. Kalikeun ku resi rata-rata dimana produk muncul. Janten barang-barang bakal muncul, dimana aranjeunna biasana nyandak anu sanés.
3. Kalikeun ku frékuénsi rata-rata kunjungan ku pembeli produk ieu, dumasar kana hipotesa yén produk ieu provokes jalma pikeun balik deui ka eta leuwih sering.

Saatos ngalaksanakeun ékspérimén sareng koefisien, kami kéngingkeun métrik di handap ieu dina produksi:

Ieu téh konvérsi produk sakabéh - pangsa produk anu dibeli tina sadaya produk dina rekomendasi anu kami hasilkeun.

Pamaca anu ati-ati bakal perhatikeun bédana anu signifikan antara métrik offline sareng online. Paripolah ieu dijelaskeun ku kanyataan yén henteu sadayana saringan dinamis pikeun produk anu tiasa disarankeun tiasa dipertimbangkeun nalika ngalatih modél. Pikeun kami, éta mangrupikeun carita normal nalika satengah tina calon anu dicandak tiasa disaring; spésifisitas ieu khas dina industri urang.

Dina hal pendapatan, carita di handap ieu dicandak, écés yén saatos ngaluncurkeun rekomendasi, pendapatan kelompok uji ningkat kuat, ayeuna paningkatan rata-rata pendapatan kalayan rekomendasi kami nyaéta 3-4%:

Dina kacindekan, abdi hoyong disebutkeun yen lamun perlu rekomendasi non-realtime, ngaronjatna kacida gedéna dina kualitas bisa kapanggih dina percobaan kalawan extracting calon rekomendasi. A jumlah badag waktu pikeun generasi maranéhanana ngamungkinkeun pikeun ngagabungkeun loba métode alus, nu dina total bakal méré hasil gede pikeun usaha.

Kuring bakal bungah ngobrol dina koméntar sareng saha waé anu mendakan bahan anu pikaresepeun. Anjeun tiasa naroskeun patarosan kuring pribadi di telegram. Kuring ogé babagi pikiran kuring ngeunaan AI / startups di abdi saluran telegram - wilujeng sumping :)

sumber: www.habr.com