Kaixo guztioi! Nire izena Sasha da, LoyaltyLab-eko CTO eta sortzailekidea naiz. Duela bi urte, nire lagunak eta biok, ikasle txiro guztiak bezala, arratsaldean joan ginen garagardoa erostera gure etxetik gertuen dagoen dendara. Asko haserretu ginen dendariak, garagardo bila etorriko ginela jakinda, ez zuelako deskonturik egin patata frijituetan edo crackeretan, hau hain logikoa zen arren! Ez genuen ulertzen zergatik gertatzen zen egoera hau eta gure enpresa sortzea erabaki genuen. Beno, bonus gisa, eman deskontuak ostiralero txip horietan.

Eta dena produktuaren alde teknikoari buruzko materiala aurkezten ari naizen puntura iritsi zen NVIDIA GTC. Pozik gaude gure lana komunitatearekin partekatzeaz, beraz, nire txostena artikulu moduan argitaratzen dut.

Sarrera

Bidaiaren hasieran beste guztiek bezala, gomendio sistemak nola egiten diren ikusi genuen. Eta arkitektura ezagunena honako mota hau izan zen:

Bi zati ditu:

1. Gomendioetarako hautagaien laginketa eredu sinple eta azkarra erabiliz, normalean lankidetzakoa.
2. Eduki eredu konplexuago eta motelagoa duten hautagaien sailkapena, datuetan posible diren ezaugarri guztiak kontuan hartuta.

Aurrerantzean honako termino hauek erabiliko ditut:

• gomendioetarako hautagai/hautagai — Produkzioan gomendioetan sar litekeen erabiltzaile-produktu bikotea.
• hautagaiak erauzteko/erauzgailu/hautagaiak ateratzeko metodoa — Eskura dauden datuetatik «gomendio-hautagaiak» ateratzeko prozesu edo metodo bat.

Lehen urratsa, normalean, iragazketa kolaboratiboaren aldaera desberdinak erabiltzea dakar. Ezagunena - ELA. Harrigarria da gomendio-sistemei buruzko artikulu gehienek lankidetza-ereduen hainbat hobekuntza soilik agertzea lehen fasean, baina inork ez du hitz egiten beste laginketa-metodoei buruz. Guretzat, lankidetza-ereduak eta haiekin hainbat optimizazio soilik erabiltzearen planteamenduak ez zuen espero genuen kalitatearekin funtzionatu, beraz, ikerketan sakondu genuen bereziki atal honetan. Eta artikuluaren amaieran erakutsiko dut zenbat hobetu genuen ALS, gure oinarria zena.

Gure ikuspegia deskribatzen hasi baino lehen, kontuan izan behar da denbora errealeko gomendioetan, duela 30 minutu gertatutako datuak kontuan hartzea garrantzitsua denean, benetan ez dagoela behar den denboran funtziona dezaketen planteamendu asko. Baina, gure kasuan, egunean behin baino gehiagotan bildu behar ditugu gomendioak, eta kasu gehienetan astean behin, eta horrek eredu konplexuak erabiltzeko eta kalitatea hainbat aldiz hobetzeko aukera ematen digu.

Har dezagun oinarritzat ALS-k soilik hautagaiak ateratzeko zereginean erakusten dituen neurketak. Jarraitzen ditugun neurgailu nagusiak hauek dira:

• Zehaztasuna - lagindakoen artean behar bezala hautatutako hautagaien proportzioa.
• Gogoratzea helburu-tartean benetan zeudenen artean gertatutako hautagaien proportzioa da.
• F1 puntuazioa - Aurreko bi puntuetan kalkulatutako F-neurria.

Era berean, azken ereduaren neurketak ere aztertuko ditugu edukien ezaugarri osagarriekin gradientea areagotu ondoren. Hemen ere 3 neurri nagusi daude:

• zehaztasuna@5 - 5 nagusien produktuen batez besteko ehunekoa erosle bakoitzaren probabilitateari dagokionez.
• erantzun-tasa@5 - bezeroak dendara bisitatik gutxienez eskaintza pertsonal bat erostera (5 produktu eskaintza batean) bihurtzea.
• bataz besteko roc-auc erabiltzaile bakoitzeko - batez bestekoa roc-auc erosle bakoitzarentzat.

Garrantzitsua da neurri horiek guztiak neurtzen direla denbora-serieen gurutza-balioztapena, hau da, entrenamendua lehenengo k asteetan gertatzen da, eta k+1 aste hartzen da probaren datu gisa. Horrela, sasoiko gorabeherek eragin txikia izan zuten ereduen kalitatearen interpretazioan. Aurrerago grafiko guztietan, abszisa-ardatzak asteko zenbakia adieraziko du baliozkotze gurutzatuan, eta ordenatuen ardatzak zehaztutako metrikaren balioa adieraziko du. Grafiko guztiak bezero baten transakzio datuetan oinarritzen dira, elkarren arteko konparaketak zuzenak izan daitezen.

Gure ikuspegia deskribatzen hasi baino lehen, lehenik eta behin oinarri-lerroa aztertuko dugu, hau da, ALS-en trebatutako eredua.
Hautagaien berreskurapen-neurriak:

Azken neurriak:

Algoritmoen inplementazio guztiak negozio hipotesi moduko bat bezala tratatzen ditut. Beraz, oso gutxi gorabehera, edozein lankidetza-eredu hipotesi gisa har daiteke: "Jendeak bere antzeko jendeak erosten duena erosteko joera du". Lehen esan dudan bezala, ez ginen halako semantikara mugatu, eta hona hemen lineaz kanpoko txikizkako datuekin ondo funtzionatzen duten hipotesi batzuk:

1. Aurretik erosi dudana.
2. Lehen erosi nuenaren antzekoa.
3. Iragan luzeko erosketaren aldia.
4. Kategoria/markaren arabera ezaguna.
5. Ondasun ezberdinen erosketak txandakatu aste batetik bestera (Markov kateak).
6. Erosleen antzeko produktuak, eredu ezberdinek eraikitako ezaugarrien arabera (Word2Vec, DSSM, etab.).

Zer erosi zenuen aurretik?

Janari txikizkako merkataritzan oso ondo funtzionatzen duen heuristikorik nabarmenena. Hemen fideltasun txartelaren titularrak azken K egunetan (normalean 1-3 aste) edo K egun duela urtebete erosi zituen ondasun guztiak hartzen ditugu. Metodo hau bakarrik aplikatuz, honako metrika hauek lortuko ditugu:

Hemen agerikoa da zenbat eta denbora luzeagoa hartu, orduan eta gehiago gogoratzen dugula eta zehaztasun gutxiago dugula eta alderantziz. Batez beste, "azken 2 asteak" emaitza hobeak ematen dizkie bezeroei.

Lehen erosi nuenaren antzekoa

Ez da harritzekoa elikagaien txikizkako salmentarako "lehen erosi nuena" ondo funtzionatzea, baina erabiltzaileak dagoeneko erositakotik soilik hautagaiak ateratzea ez da oso polita, litekeena baita eroslea produktu berri batekin harritzea. Hori dela eta, heuristiko hori apur bat hobetzea proposatzen dugu lankidetza-eredu berdinak erabiliz. ALS prestakuntzan jaso ditugun bektoreetatik, erabiltzaileak erositakoaren antzeko produktuak lor ditzakegu. Ideia hau bideo-edukiak ikusteko zerbitzuetako “antzeko bideoen” oso antzekoa da, baina erabiltzaileak momentu jakin batean zer jaten/erosten duen ez dakigunez, erositakoaren antzekoak baino ezin ditugu bilatu, batez ere. guk Dagoeneko badakigu zein ondo funtzionatzen duen. Metodo hau azken 2 asteetako erabiltzaileen transakzioetan aplikatuz gero, neurketa hauek lortzen ditugu:

Hemen k — erosleak azken 14 egunetan erositako produktu bakoitzeko berreskuratzen diren antzeko produktuen kopurua.
Ikuspegi honek bereziki ondo funtzionatu zuen gure bezeroarentzat, zeinentzat ezinbestekoa zen erabiltzailearen erosketa-historian zegoen ezer ez gomendatzea.

Berandu erosteko epea

Dagoeneko jakin dugunez, ondasunak erosteko maiztasun handia dela eta, lehen hurbilketak ondo funtzionatzen du gure behar zehatzetarako. Baina zer gertatzen da garbigailu-hautsa/xanpua/eta abar bezalako ondasunekin. Hau da, astero edo bitan behar ez diren eta aurreko metodoek atera ezin dituzten produktuekin. Honek ideia hau dakar: produktu bakoitzaren erosketa-epea batez beste kalkulatzea proposatzen da produktua gehiago erosi duten bezeroentzat. k behin. Eta gero atera erosleak ziurrenik dagoeneko agortuta dagoena. Ondasunen kalkulatutako epeak zure begiekin egiaztatu daitezke egokitasuna:

Eta, ondoren, produktuaren epearen amaiera gomendioak produkzioan egongo diren denbora-tartearen barruan dagoen aztertuko dugu eta gertatzen dena probatuko dugu. Planteamendua honela ilustratu daiteke:

Hona hemen kontuan izan daitezkeen 2 kasu nagusi:

1. Beharrezkoa al da produktua K aldiz baino gutxiago erosi duten bezeroen produktuak probatzea.
2. Beharrezkoa al da produktu bat lagintzea bere epearen amaiera xede-tartearen hasiera baino lehenago gertatzen bada.

Hurrengo grafikoan metodo honek hiperparametro ezberdinekin zer emaitza lortzen dituen erakusten du:

ft — Hartu produktua gutxienez K (hemen K=5) aldiz erosi duten bezeroak bakarrik
tm — Hartu xede-tartean sartzen diren hautagaiak soilik

Ez da harritzekoa gai izatea (0, 0) luzeena abisuaren eta txikiena doitasun, baldintza horretan hautagai gehien berreskuratzen baitira. Hala ere, emaitzarik onenak produktu jakin bat baino gutxiago erosi duten bezeroentzako produktuak lagintzen ez ditugunean lortzen dira k aldiz eta atera, ondasunak barne, zeinaren epearen amaiera xede-tartearen aurretik dagoen.

Kategoriaren arabera ezaguna

Beste ideia nahiko argi bat kategoria edo marka ezberdinetako produktu ezagunak dastatzea da. Hemen erosle bakoitzarentzat kalkulatzen dugu goi-k "gogoko" kategoria/markak eta atera kategoria/marka honetatik "herrikoia". Gure kasuan, produktuaren erosketa kopuruaren arabera "gogokoena" eta "popularra" zehaztuko dugu. Ikuspegi honen abantaila gehigarri bat hotz abiarazteko kasuan aplikatzea da. Hau da, oso erosketa gutxi egin dituzten, edo dendan denbora luzez joan ez diren edo fideltasun txartela atera berri duten bezeroentzat. Haientzat, errazagoa eta hobea da bezeroen artean ezagunak diren eta lehendik dagoen historia duten produktuak botatzea. Hona hemen lortzen diren neurriak:

Hemen "kategoria" hitzaren ondorengo zenbakiak kategoriaren habiatze-maila esan nahi du.

Orokorrean, ez da harritzekoa kategoria estuagoek emaitza hobeak lortzea, erosleentzako produktu "gogoko" zehatzagoak ateratzen baitituzte.

Ondasun ezberdinen erosketak txandakatu aste batetik bestera

Gomendatzaile-sistemei buruzko artikuluetan ikusi ez dudan ikuspegi interesgarri bat Markov kateen metodo estatistiko nahiko sinplea eta aldi berean funtzionala da. Hemen 2 aste ezberdin hartzen ditugu, gero bezero bakoitzarentzat produktu pareak eraikitzen ditugu [i astean erosi]-[j astean erosi], non j > i, eta hemendik aurrera produktu bakoitzeko hurrengo astean beste produktu batera aldatzeko probabilitatea kalkulatzen dugu. Hau da, ondasun-pare bakoitzeko produktu-produktuj Aurkitutako bikoteetan haien kopurua zenbatu eta bikote kopuruarekin zatitzen dugu, non produktuak lehen astean izan zen. Hautagaiak ateratzeko, eroslearen azken ordainagiria hartu eta ateratzen dugu goi-k jaso dugun trantsizio-matrizearen hurrengo produktuak. Trantsizio-matrize bat eraikitzeko prozesua honelakoa da:

Trantsizio probabilitate matrizeko adibide errealetatik honako fenomeno interesgarri hauek ikusiko ditugu:

Hemen kontsumitzaileen jokabidean agerian dauden menpekotasun interesgarriak antzeman ditzakezu: adibidez, zitrikoen zaleak edo esne-marka bat, bertatik beste batera aldatzea posible da. Ez da harritzekoa ere erosketa errepikakorrak maiztasun handiko produktuak, gurina adibidez, hemen amaitzea.

Markov kateekin metodoaren neurketak honako hauek dira:

k — eroslearen azken transakziotik erositako produktu bakoitzerako lortzen den produktu kopurua.
Ikus dezakegunez, emaitzarik onena k=4 duen konfigurazioak erakusten du. 4. astean izandako gorakada oporretako sasoiko jokaeraren arabera azal daiteke. 

Erosleen antzeko produktuak, modelo ezberdinek eraikitako ezaugarrien arabera

Orain zatirik zailena eta interesgarrienera heldu gara: hainbat ereduren arabera eraikitako bezeroen eta produktuen bektoreetan oinarritutako hurbilen dauden bizilagunak bilatzea. Gure lanean horrelako 3 eredu erabiltzen ditugu:

• ELA
• Word2Vec (Item2Vec horrelako zereginetarako)
• DSSM

Dagoeneko ELA jorratu dugu, nola ikasten den irakur dezakezu Hemen. Word2Vec-en kasuan, ereduaren inplementazio ezaguna erabiltzen dugu gensim. Testuekin analogia eginez, eskaintza erosketa-ordainagiri gisa definitzen dugu. Horrela, produktu-bektore bat eraikitzean, ereduak ordainagirian produktuarentzat bere “testuingurua” (ordainagirian dauden gainerako produktuak) iragartzen ikasten du. Merkataritza elektronikoko datuetan, hobe da eroslearen saioa erabiltzea ordainagiria baino; ozono. Eta DSSM interesgarriagoa da analizatzeko. Hasieran, Microsoft-eko mutilek idatzi zuten bilaketa-eredu gisa, Jatorrizko ikerketa-lana hemen irakur dezakezu. Ereduaren arkitektura honelakoa da:

Hemen Q — kontsulta, erabiltzaileen bilaketa kontsulta, D[i] — dokumentua, Interneteko orrialdea. Ereduaren sarrera eskaeraren eta orrien atributuak dira, hurrenez hurren. Sarrerako geruza bakoitzaren ondoren guztiz konektatutako geruza batzuk daude (geruza anitzeko perceptron). Ondoren, ereduak ereduaren azken geruzetan lortutako bektoreen arteko kosinua minimizatzen ikasten du.
Gomendio-zereginek zehazki arkitektura bera erabiltzen dute, soilik eskaera baten ordez erabiltzaile bat dago, eta orrialdeen ordez produktuak daude. Eta gure kasuan, arkitektura hau honela bihurtzen da:

Orain, emaitzak egiaztatzeko, azken puntua estaltzea geratzen da - ALS eta DSSM-en kasuan erabiltzaile-bektoreak esplizituki definitu baditugu, orduan Word2Vec-en kasuan produktu-bektoreak baino ez ditugu. Hemen, erabiltzaile-bektorea eraikitzeko, 3 ikuspegi nagusi definitu ditugu:

1. Gehitu besterik ez dago bektoreak, gero kosinu-distantziarako, erosketa-historian produktuen batez bestekoa besterik ez dugu egin.
2. Batuketa bektoriala denbora ponderazioarekin.
3. TF-IDF koefizientea duten salgaiak pisatzea.

Eroslearen bektorearen ponderazio linealaren kasuan, erabiltzaileak atzo erosi zuen produktuak duela sei hilabete erosi zuen produktuak baino eragin handiagoa duela bere portaeran duen hipotesitik abiatuko gara. Beraz, eroslearen aurreko astea 1eko probabilitatearekin eta hurrengoa ½, ⅓ eta abarrekin gertatu zena kontuan hartzen dugu:

TF-IDF koefizienteetarako, testuetarako TF-IDFn bezalaxe egiten dugu, soilik eroslea dokumentutzat hartzen dugu eta txekea eskaintza gisa, hurrenez hurren, hitza produktu bat da. Modu honetan, erabiltzailearen bektorea gehiago mugituko da ondasun arraroetara, eta eroslearentzat maiz eta ezagunak diren ondasunek ez dute asko aldatuko. Planteamendua honela ilustratu daiteke:

Orain ikus ditzagun neurriak. Hau da ALS emaitzen itxura:

Item2Vec-en neurketak erosle-bektorea eraikitzeko aldaera ezberdinekin:

Kasu honetan, gure oinarri-lerroan dagoen eredu bera erabiltzen da. Desberdintasun bakarra zein k erabiliko dugun da. Elkarlaneko ereduak soilik erabiltzeko, bezero bakoitzeko hurbilen dauden 50-70 produktu inguru hartu behar dituzu.

Eta DSSMren araberako neurketak:

Nola konbinatu metodo guztiak?

Ederra, diozu, baina zer egin hautagaiak erauzteko tresna multzo handi batekin? Nola aukeratu zure datuetarako konfigurazio optimoa? Hemen hainbat arazo ditugu:

1. Metodo bakoitzean hiperparametroen bilaketa-espazioa nolabait mugatzea beharrezkoa da. Nonahi diskretua da, baina puntu posibleen kopurua oso handia da.
2. Hiperparametro zehatzak dituzten metodo zehatzen lagin txiki bat erabiliz, nola hauta dezakezu zure metrikarako konfigurazio onena?

Oraindik ez dugu lehen galderari behin betiko erantzun zuzena aurkitu, beraz, hurrengotik abiatuko gara: metodo bakoitzerako, hiperparametroen bilaketa-espazio-mugatzaile bat idazten da, ditugun datuen estatistika batzuen arabera. Horrela, jendearen erosketen arteko batez besteko epea ezagututa, zein eperekin erabili asma dezakegu “dagoeneko erositakoa” eta “iragan luzeko erosketa aldia” metodoa.

Eta metodo ezberdinen aldaera kopuru egoki jakin bat igaro ondoren, honako hau ohartzen dugu: inplementazio bakoitzak hautagai kopuru jakin bat ateratzen du eta gako-metrikoaren balio jakin bat du guretzat (gogoratu). Guztira hautagai-kopuru jakin bat lortu nahi dugu, gure konputazio ahalmen onargarriaren arabera, ahalik eta metrika handienarekin. Hemen arazoa ederki kolapsatzen da motxila arazoan.

Hemen hautagaien kopurua lingotearen pisua da, eta gogoratzeko metodoa bere balioa da. Hala ere, algoritmoa ezartzerakoan kontuan hartu beharreko beste 2 puntu daude:

• Baliteke metodoak gainjarri izatea berreskuratzen dituzten hautagaietan.
• Zenbait kasutan, zuzena izango da metodo bat bi aldiz hartzea parametro ezberdinekin, eta lehenengoaren irteera hautagaia ez da bigarrenaren azpimultzo bat izango.

Esaterako, "Dagoeneko erosi dudana" metodoaren ezarpena berreskuratzeko tarte ezberdinekin hartzen badugu, haien hautagaien multzoak bata bestearen barruan habiaratuko dira. Aldi berean, irteerako "aldizkako erosketetan" parametro ezberdinek ez dute elkargune osoa ematen. Hori dela eta, parametro desberdinak dituzten laginketa-ikuspegiak blokeetan banatzen ditugu, bloke bakoitzetik gehienez hiperparametro zehatzekin ateratze-ikuspegi bat hartu nahi dugularik. Horretarako, motxila-arazoa ezartzeko apur bat argia izan behar duzu, baina asintotikoak eta emaitza ez dira aldatuko.

Konbinazio adimendun honek neurketa hauek lortzeko aukera ematen digu lankidetza-eredu soilekin alderatuta:

Azken neurketetan hurrengo irudia ikusten dugu:

Hala ere, hemen nabarituko duzu negozioetarako erabilgarriak diren gomendioetarako puntu bat estali gabe dagoela. Orain, erabiltzaileak zer erosiko duen aurreikusteko lan bikaina egiten ikasi berri dugu, adibidez, datorren astean. Baina dagoeneko erosiko duen zerbaitetan deskontua ematea besterik ez da ez oso polita. Baina polita da itxaropena maximizatzea, adibidez, hurrengo neurketa:

1. Marjina/bolumena gomendio pertsonaletan oinarrituta.
2. Bezeroen batez besteko egiaztapena.
3. Bisiten maiztasuna.

Beraz, lortutako probabilitateak koefiziente ezberdinez biderkatu eta berriro sailkatuko ditugu, goiko metriketan eragina duten produktuak gorenera iristeko. Ez dago prestatutako irtenbiderik zein den onena erabili. Horrelako koefizienteekin ere esperimentatzen dugu produkzioan zuzenean. Baina hona hemen gehienetan emaitza onenak ematen dizkiguten teknika interesgarriak:

1. Biderkatu produktuaren prezio/marjinaz.
2. Biderkatu produktua agertzen den batez besteko ordainagiria. Beraz, ondasunak aterako dira, eta normalean beste zerbait hartzen dute.
3. Biderkatu produktu honen erosleen batez besteko bisiten maiztasunaz, produktu honek jendea maizago itzultzera bultzatzen duelako hipotesiaren arabera.

Koefizienteekin esperimentuak egin ondoren, honako metrika hauek lortu ditugu ekoizpenean:

Hemen produktuen bihurketa orokorra — Guk sortutako gomendioetan produktu guztien artean erositako produktuen zatia.

Irakurle adi batek lineaz kanpoko eta lineako neurketen arteko alde nabarmena nabarituko du. Jokabide hori gomenda daitezkeen produktuen iragazki dinamiko guztiak ezin direla kontuan hartu eredua entrenatzerakoan azaltzen da. Guretzat, istorio normala da berreskuratutako hautagaien erdia iragazi ahal izatea; berezitasun hori ohikoa da gure industrian.

Diru-sarrerei dagokienez, honako istorio hau lortzen da, argi dago gomendioak abian jarri ondoren, proba taldearen diru-sarrerak biziki hazten ari direla, orain gure gomendioen batez besteko diru-sarreren hazkundea % 3-4koa da:

Bukatzeko, esan nahi dut denbora errealean ez diren gomendioak behar badituzu, kalitatearen igoera oso handia aurki daitekeela gomendioetarako hautagaiak ateratzeko esperimentuetan. Beraien belaunaldirako denbora kopuru handi batek metodo on asko konbinatzea ahalbidetzen du, eta horrek, guztira, emaitza bikainak emango dizkio negozioari.

Pozik egongo naiz iruzkinetan txateatzen materiala interesgarria iruditzen zaion edonorekin. Pertsonalki galderak egin dizkidazu helbide honetan telegrama. AI/startups-ei buruzko gogoetak ere partekatzen ditut nire Telegram kanala - Ongi etorri :)

Iturria: www.habr.com