Kia ora katoa! Ko Sasha toku ingoa, Ko ahau te CTO & Co-Founder i LoyaltyLab. E rua tau ki muri, i haere matou ko aku hoa, pera i nga tauira rawakore katoa, i te ahiahi ki te hoko pia ki te toa tata tata ki to matou whare. I tino pouri matou i te mohio o te kaihokohoko ka haere mai matou ki te hoko pia, kaore i tuku utu mo nga maramara, pihikete ranei, ahakoa he tino arorau tenei! Kaore matou i te mohio he aha te take i puta ai tenei ahuatanga me te whakatau ki te timata i ta matou ake kamupene. Ana, hei painga, hoatu he utu mo koe ia Paraire mo aua maramara ano.

Na kua tae katoa ki te waahi e whakaatu ana ahau i nga korero mo te taha hangarau o te hua NVIDIA GTC. E harikoa ana matou ki te whakapuaki i a matou mahi ki te hapori, no reira kei te whakaputa au i taku ripoata ki te ahua o te tuhinga.

Whakataki

Pērā i ērā atu i te tīmatanga o te haerenga, i tīmata mātou me te tirohanga whānui o te hanga i ngā pūnaha tūtohu. Na ko te hoahoanga tino rongonui ko te momo e whai ake nei:

E rua nga wahanga:

1. Te whakatauira i nga kaitono mo nga taunakitanga ma te whakamahi i te tauira ngawari me te tere, ko te tikanga he mahi tahi.
2. Te whakatauranga o nga kaitono me te tauira ihirangi uaua me te puhoi, me te whai whakaaro ki nga ahuatanga katoa kei roto i nga raraunga.

I muri nei ka whakamahia e au nga kupu e whai ake nei:

• kaitono / kaitono mo nga taunakitanga — he takirua hua-kaiwhakamahi ka taea pea te whakauru ki roto i nga taunakitanga mo te hanga.
• tikanga tango kaitono/kaiunu/kaitono — he tukanga, he tikanga ranei mo te tango i nga "kaitono taunaki" mai i nga raraunga e waatea ana.

Ko te mahi tuatahi ko te whakamahi i nga rereketanga rereke o te tātari mahi tahi. Ko te tino rongonui - ALS. He mea miharo ko te nuinga o nga tuhinga mo nga punaha kaiwhakatakoto whakaaro ka whakaatu noa i nga momo whakapainga ki nga tauira mahi tahi i te waahi tuatahi, engari kaore tetahi e korero nui mo etahi atu tikanga tauira. Ki a matou, ko te huarahi ki te whakamahi i nga tauira mahitahi me nga momo arotautanga ki a raatau kaore i pai ki te kounga i tumanakohia e matou, na reira i keri taatau ki te rangahau mo tenei waahanga. A, i te mutunga o te tuhinga ka whakaatu ahau i te nui o te kaha ki te whakapai ake i te ALS, ko ta matou turanga.

I mua i taku anga whakamua ki te whakamaarama i ta maatau huarahi, he mea nui kia mohiohia i roto i nga taunakitanga o te waa tonu, ina he mea nui kia whai whakaaro tatou ki nga raraunga i puta i te 30 meneti ki muri, kaore he maha o nga huarahi ka taea te mahi i roto i te waa e hiahiatia ana. Engari, i roto i ta maatau, me kohikohi nga taunakitanga kia kaua e neke atu i te kotahi i te ra, a i te nuinga o nga wa - kotahi i te wiki, ka whai waahi ki te whakamahi i nga tauira uaua me te whakapai ake i te kounga.

Me tango he aha nga inenga anake e whakaatuhia ana e te ALS mo te mahi tango kaitono. Ko nga inenga matua ka tirohia e matou ko:

• Tika - te owehenga o nga kaitono kua tohua tika mai i nga tauira kua tohua.
• Ko te maumahara ko te owehenga o nga kaitono i puta mai i te hunga i noho tonu i roto i te waa whaainga.
• Uka-F1 - Ine-F kua tatauhia i runga i nga tohu e rua o mua.

Ka titiro ano tatou ki nga inenga o te tauira whakamutunga i muri i nga whakangungu whakanui i te rōnaki me etahi atu waahanga ihirangi. E toru ano nga inenga matua i konei:

• precision@5 - te ōrau toharite o ngā hua mai i te 5 runga i runga i te tūponotanga mō ia kaihoko.
• whakautu-rate@5 - te hurihanga o nga kaihoko mai i te haerenga ki te toa ki te hoko mai i te iti rawa kia kotahi te tuku whaiaro (e 5 nga hua i roto i te tuku kotahi).
• toharite roc-auc mo ia kaiwhakamahi - toharite roc-auc mo ia kaihoko.

He mea nui kia inehia enei inenga katoa whakamana-whakawhitinga-waahi, ara, ko nga whakangungu ka puta i nga k wiki tuatahi, ko te k+1 wiki ka tangohia hei raraunga whakamatautau. No reira, ko nga piki me nga heke o te kaupeka he iti noa te paanga ki te whakamaoritanga o te kounga o nga tauira. I tua atu i nga kauwhata katoa, ka tohu te tuaka abscissa i te tau wiki i roto i te whakamana-whakawhitinga, me te tuaka ordinate e tohu te uara o te ine kua tohua. Ko nga kauwhata katoa i ahu mai i nga raraunga tauwhitinga mai i tetahi kaihoko kia tika ai te whakataurite i waenga i a raatau.

I mua i te tiimata ki te whakaahua i to maatau huarahi, ka titiro tuatahi ki te raarangi, he tauira kua whakangunguhia e te ALS.
Inenga tiki kaitono:

Inenga whakamutunga:

Ka whakaarohia e ahau nga whakatinanatanga katoa o nga algorithms he ahua o te whakapae pakihi. No reira, tino taikaha, ko nga tauira mahi tahi ka taea te whakaaro he whakapae "ka kaha te tangata ki te hoko i nga mea e rite ana ki a raatau." Ka rite ki taku korero kua korero ake nei, kaore matou i whakawhäitihia i a maatau ki nga tikanga penei, a koinei etahi o nga whakapae e mahi pai ana i runga i nga raraunga i roto i te hokohoko tuimotu:

1. Kua hokona e ahau i mua.
2. He rite ki nga mea i hokona e au i mua.
3. Te wa o te hokonga kua roa.
4. He rongonui na te waahanga/tohu.
5. Nga hoko rereke o nga taonga rereke mai i ia wiki ki ia wiki (Markov mekameka).
6. He rite nga hua ki nga kaihoko, i runga i nga ahuatanga i hangaia e nga tauira rereke (Word2Vec, DSSM, etc.).

He aha i hokona e koe i mua?

Ko te heuristic tino kitea e mahi pai ana i roto i nga toa hoko kai. I konei ka mauhia e matou nga taonga katoa i hokona e te kaipupuri kaari pono i nga ra K kua hipa (ko te tikanga 1-3 wiki), K ra ranei i te tau ki muri. Ma te whakamahi i tenei tikanga anake, ka whiwhi tatou i nga waahanga e whai ake nei:

I konei e tino kitea ana ko te roa o te waa, ka nui ake te mahara ki a tatou me te iti ake o te tika me te rereke. I te toharite, ko nga "wiki 2 whakamutunga" ka pai ake nga hua mo nga kaihoko.

He rite ki nga mea i hokona e au i mua

Ehara i te mea miharo mo te hokohoko hokohoko "he mea i hokona e ahau i mua" he pai te mahi, engari ko te tango i nga kaitono mai i nga mea kua hokona e te kaiwhakamahi kaore i te tino pai, na te mea kaore pea e miharo te kaihoko me etahi hua hou. No reira, e whakaaro ana matou ki te whakapai paku i tenei heuristic ma te whakamahi i nga tauira mahi tahi. Mai i nga vectors i whakawhiwhia ki a maatau i te whakangungu ALS, ka taea e taatau te tiki hua rite ki nga mea kua hokona e te kaiwhakamahi. He tino rite tenei whakaaro ki nga "ataata rite" i roto i nga ratonga mo te maataki i nga ihirangi ataata, engari na te mea kaore matou i te mohio he aha te kai / hoko a te kaiwhakamahi i tetahi waa, ka taea e taatau te rapu i nga mea rite ki nga mea kua hokona e ia, ina koa i te mea kua mohio tatou kua mohio tatou ki te pai o te mahi. Ma te whakamahi i tenei tikanga mo nga tauwhitinga a nga kaiwhakamahi i roto i nga wiki e 2 kua pahure ake nei, ka whiwhi matou i nga waahanga e whai ake nei:

ko te reira k — te maha o nga hua rite ka tangohia mo ia hua i hokona e te kaihoko mai i nga ra 14 kua hipa.
I tino pai tenei huarahi mo to taatau kaihoko, he mea nui kia kaua e taunaki i nga mea katoa i roto i te hitori hoko a te kaiwhakamahi.

Te wa hoko tomuri

Kua kitea e matou, na te nui o te hoko taonga, ka pai te huarahi tuatahi mo o maatau hiahia. Engari me pehea nga taonga penei i te paura horoi / shampoo / etc. Arā, me nga hua kaore pea e hiahiatia ia wiki, e rua ranei, kaore e taea e nga tikanga o mua te tango. Ko tenei ka arahi ki te whakaaro e whai ake nei - ka whakaarohia kia tatauhia te wa o te hoko o ia hua i runga i te toharite mo nga kaihoko i hoko atu i te hua k kotahi. Na ka tango i nga mea kua pau ke te kaihoko. Ko nga wa tatau mo nga taonga ka taea te tirotiro ki o kanohi mo te tika:

Na ka titiro tatou mehemea ka taka te mutunga o te wa hua i roto i te waa ka puta nga taunakitanga ki te whakaputa me te whakatauira i nga mea ka tupu. Ko te huarahi ka taea te whakaatu penei:

Anei e rua nga keehi matua ka taea te whakaaro:

1. He mea tika ki te whakatauira i nga hua mai i nga kaihoko kua hokona te hua iti ake i nga wa K.
2. He mea tika ki te whakatauira i tetahi hua mena ka taka te mutunga o tona waa i mua i te tiimata o te waahi whaainga.

Ko te kauwhata e whai ake nei e whakaatu ana he aha nga hua ka taea e tenei tikanga me nga tawhā rereke rereke:

ft — Tangohia nga kaihoko kua hokona te hua i te iti rawa K (i konei K=5) nga wa
tm — Tangohia nga kaitono anake ka taka ki roto i te waa kua whakaritea

Ehara i te mea miharo ka taea e ia (0, 0) te nui mahara me te iti rawa Tuhinga, mai i raro i tenei ahuatanga ka tangohia te nuinga o nga kaitono. Heoi, ko nga hua pai ka tutuki ina kaore matou e whakatauira i nga hua mo nga kaihoko i hoko i tetahi hua iti iho i te k nga wa me te tangohanga, tae atu ki nga taonga, ko te mutunga o te waa ka taka i mua i te waahi whaainga.

He rongonui ma te waahanga

Ko tetahi atu whakaaro e tino kitea ana ko te whakatauira i nga hua rongonui puta noa i nga waahanga rereke ranei. I konei ka tatau taatau mo ia kaihoko runga-k Ko nga waahanga / waitohu me te tango i te "rongonui" mai i tenei waahanga / waitohu. I roto i to maatau, ka whakatauhia e matou te "pai" me te "rongonui" na te maha o nga hoko o te hua. Ko tetahi atu painga o tenei huarahi ko tona whakamahinga i roto i te keehi timatanga makariri. Arā, mo nga kaihoko kua iti noa nga hoko, kua roa ranei kaore i tae ki te toa, katahi ano ka tukuna he kaari piripono. Mo ratou, he maamaa ake, he pai ake te penapena i nga taonga e paingia ana e nga kaihoko me te hitori. Ko nga inenga ka puta ko:

I konei ko te tau i muri i te kupu "waahanga" ko te taumata o te kohanga o te waahanga.

I te katoa, ehara i te mea miharo ko nga waahanga whaiti ka pai ake nga hua, i te mea ka tangohia e ratou nga hua "paipai" tika ake mo nga kaihoko.

Nga hoko rereke o nga taonga rereke mai i ia wiki ki ia wiki

Ko tetahi huarahi whakamere kaore au i kite i roto i nga tuhinga mo nga punaha kaiwhakatakoto whakaaro he tino ngawari, i te wa ano e mahi ana i nga tikanga tatauranga o nga mekameka Markov. I konei ka 2 wiki rereke, katahi ka hanga takirua hua mo ia kaihoko [hoko i te wiki i]-[hoko i te wiki j], kei hea j > i, mai i konei ka tatauhia mo ia hua te tupono ka huri ki tetahi atu hua a tera wiki. Arā, mo ia takirua taonga hua-huaj Ka tatauhia to raatau nama ki nga takirua kua kitea, ka wehewehea ki te maha o nga takirua, kei hea hua i te wiki tuatahi. Hei tango i nga kaitono, ka tangohia e matou te riiriiti whakamutunga a te kaihoko me te tango runga-k ko nga hua e whai ake nei mai i te matrix whakawhiti i riro mai i a maatau. He penei te ahua o te hanga i te matrix whakawhiti:

Mai i nga tauira pono i roto i te matrix tūponotanga whakawhiti ka kite tatou i nga ahuatanga whakamere e whai ake nei:

I konei ka taea e koe te kite i nga whakawhirinakitanga whakamere e kitea ana i roto i te whanonga kaihoko: hei tauira, te hunga e aroha ana ki nga hua citrus, he momo miraka ranei ka huri ki tetahi atu. Ehara hoki i te mea miharo ko nga hua me te maha o nga hoko tukurua, penei i te pata, ka mutu ano ki konei.

Ko nga ine i roto i te tikanga me nga mekameka Markov e whai ake nei:

k — te maha o nga hua ka tangohia mo ia hua kua hokona mai i te tauwhitinga whakamutunga a te kaihoko.
Ka kite tatou, ko te hua pai ka whakaatuhia e te whirihoranga me te k=4. Ko te pikinga o te wiki 4 ka taea te whakamarama e te whanonga kaupeka huri noa i nga hararei. 

He rite nga hua ki nga kaihoko, i runga i nga ahuatanga i hangaia e nga tauira rereke

Inaianei kua tae mai matou ki te waahanga tino uaua me te whakaihiihi - te rapu i nga hoa tata e pa ana ki nga vectors o nga kaihoko me nga hua i hangaia i runga i nga momo tauira. I roto i ta maatau mahi ka whakamahia e matou nga tauira e toru:

• ALS
• Word2Vec (Item2Vec mo enei mahi)
• DSSM

Kua mahi matou ki te ALS, ka taea e koe te panui me pehea te ako konei. I roto i te take o Word2Vec, ka whakamahia e matou te whakatinanatanga rongonui o te tauira mai i gensim. Ma te whakataurite ki nga tuhinga, ka tautuhia e matou te tuku hei rihīti hoko. No reira, i te wa e hanga ana i tetahi vector hua, ka ako te tauira ki te matapae mo te hua i roto i te rihīti tona "horopaki" (nga toenga hua kei roto i te rihīti). I roto i nga raraunga ecommerce, he pai ake te whakamahi i te huihuinga a te kaihoko hei utu mo te rihīti; ko nga taangata mai i Ozon. A ko te DSSM he pai ake te whakamaarama. I te timatanga, i tuhia e nga taangata mai i a Microsoft hei tauira mo te rapu, Ka taea e koe te panui i te pepa rangahau taketake i konei. Ko te ahua o te hoahoanga o te tauira penei:

ko te reira Q — patai, patai rapu kaiwhakamahi, D[i] — tuhinga, wharangi ipurangi. Ko te whakauru ki te tauira ko nga huanga o te tono me nga wharangi. Whai muri i ia paparanga whakauru he maha nga paparanga hono katoa (perceptron multilayer). Whai muri, ka ako te tauira ki te whakaiti i te cosine i waenga i nga vectors i whiwhi i nga paparanga whakamutunga o te tauira.
He rite tonu te hoahoanga o nga mahi e taunaki ana, engari ko te tono he kaiwhakamahi, engari ko nga wharangi he hua. Na i roto i to maatau, ka hurihia tenei hoahoanga ki nga mea e whai ake nei:

Inaianei, ki te tirotiro i nga hua, ka noho tonu ki te kapi i te waahi whakamutunga - mena i roto i te take o ALS me DSSM kua tino tautuhia e matou nga vectors kaiwhakamahi, na i roto i te keehi o Word2Vec kei a matou anake nga vectors hua. I konei, hei hanga i te vector kaiwhakamahi, kua tautuhia e matou nga huarahi matua e toru:

1. Taapirihia noa nga vectors, katahi mo te tawhiti o te cosine ka puta ko taatau noa nga hua i roto i te hitori hoko.
2. Whakarāpopototanga Vector me etahi wa taumahatanga.
3. Te pauna i nga taonga me te whakarea TF-IDF.

Mo te taumahatanga raina o te vector kaihoko, ka puta mai i te whakapae ko te hua i hokona e te kaiwhakamahi inanahi he nui ake te awe ki tana whanonga i te hua i hokona e ia e ono marama ki muri. Na ka whakaarohia e matou te kaihoko o te wiki o mua me nga waahanga o te 1, a he aha te mea i tupu i muri mai me nga waahanga o te ½, ⅓, me etahi atu:

Mo nga whakarea TF-IDF, he rite tonu ta matou mahi pera i roto i te TF-IDF mo nga tuhinga, ka whakaarohia e matou te kaihoko hei tuhinga, me te haki hei tuku, ko te kupu he hua. Ma tenei ara, ka neke ake te tohu a te kaiwhakamahi ki nga taonga onge, engari ko nga taonga maha me te mohio mo te kaihoko ka kore e rereke. Ko te huarahi ka taea te whakaatu penei:

Inaianei ka titiro tatou ki nga inenga. Koinei te ahua o nga hua ALS:

Inenga mo Item2Vec me nga rereke rereke o te hanga i te vector kaihoko:

I roto i tenei take, he rite tonu te tauira e whakamahia ana i roto i to maatau turanga. Ko te rereke anake ko tehea k ka whakamahia e matou. Hei whakamahi i nga tauira mahitahi, me tango e koe te 50-70 nga hua tata mo ia kaihoko.

Me nga inenga e ai ki te DSSM:

Me pehea te whakakotahi i nga tikanga katoa?

He pai, e kii ana koe, engari he aha te mahi me te tini o nga taputapu tango kaitono? Me pehea te whiriwhiri i te whirihoranga tino pai mo o raraunga? He maha nga raruraru i konei:

1. He mea tika kia whakawhāitihia te waahi rapunga mo nga taaraitua i ia tikanga. Ko te tikanga, he wehewehe i nga waahi katoa, engari he tino nui te maha o nga tohu ka taea.
2. Ma te whakamahi i tetahi tauira iti iti o nga tikanga motuhake me nga tawhāitua motuhake, me pehea e taea ai e koe te whiriwhiri i te whirihoranga pai mo to ine?

Kare ano kia kitea he whakautu tino tika mo te patai tuatahi, no reira ka ahu mai i enei e whai ake nei: mo ia tikanga, ka tuhia he riipene mokowā rapunga tohutoro, i runga i etahi tatauranga o nga raraunga kei a matou. No reira, ma te mohio ki te waa toharite i waenga i nga hoko mai i nga taangata, ka taea e taatau te whakaaro me pehea te waa ki te whakamahi i te tikanga "he mea kua hokona kee" me te "waa o te hokonga kua roa".

A, i muri mai i te maha o nga rereketanga o nga tikanga rereke, ka kite tatou i enei e whai ake nei: ka tangohia e ia whakatinanatanga he maha o nga kaitono me tetahi uara o te ine matua mo tatou (maumahara). Kei te pirangi matou ki te whiwhi i te maha o nga kaitono, i runga i to maatau mana rorohiko e whakaaetia ana, me te ine teitei rawa atu. I konei ka taka te raru ki roto i te raru peketua.

I konei ko te maha o nga kaitono ko te taumaha o te ingot, ko te tikanga maumahara ko tona uara. Heoi ano, e 2 ano nga waahanga me whai whakaaro ki te whakatinana i te algorithm:

• He inaki pea nga tikanga i roto i nga kaitono ka tikina e ratou.
• I etahi wa, ka tika ki te tango i tetahi tikanga kia rua nga wa me nga tawhā rereke, a ko te putanga kaitono mai i te tuatahi kaore he waahanga o te tuarua.

Hei tauira, ki te tango tatou i te whakatinanatanga o te tikanga "kua hokona e au" me nga waahi rereke mo te tiki mai, katahi ka noho o ratou huinga kaitono ki roto i a raatau. I te wa ano, ko nga tawhā rereke i roto i nga "hoko mai i nga wa" i te putanga kaore e whakarato i te whakawhitinga katoa. Na reira, ka wehewehea e matou nga huarahi tangohanga me nga tawhā rereke ki roto i nga poraka, mai ia poraka e hiahia ana matou ki te tango i te nuinga o te huarahi tangohanga me nga tawhā nui. Ki te mahi i tenei, me tino mohio koe ki te whakatinana i te raruraru knapsack, engari ko nga asymptotics me te hua kaore e rereke.

Ma tenei huinga mohio ka taea e maatau te tiki i nga inenga e whai ake nei ki te whakataurite ki nga tauira mahitahi noa:

I nga inenga whakamutunga ka kite tatou i te pikitia e whai ake nei:

Heoi, i konei ka taea e koe te kite he waahi kore e kitea mo nga taunakitanga e whai hua ana mo te pakihi. Inaianei kua ako matou me pehea te mahi nui ki te matapae i nga mea ka hokona e te kaiwhakamahi, hei tauira, i tera wiki. Engari ko te tuku utu mo tetahi mea ka hokona e ia ehara i te mea tino pai. Engari he pai ki te whakanui i te tumanako, hei tauira, o nga inenga e whai ake nei:

1. Tawhē/huringa i runga i nga taunakitanga whaiaro.
2. Tirohanga kaihoko toharite.
3. Te auau o nga haerenga.

No reira ka whakareatia e matou nga tuponotanga kua riro mai ki nga tauwehenga rereke ka whakatauhia ano kia eke nga hua e pa ana ki nga inenga o runga ake nei. Karekau he otinga kua rite mo te huarahi pai hei whakamahi. Ka whakamatauria e matou enei momo whakarea tika i roto i te whakaputanga. Engari koinei nga tikanga whakamere i te nuinga o nga wa ka puta nga hua pai:

1. Whakareatia ki te utu/tapa o te hua.
2. Whakareatia ki te rīhiti toharite ka puta te hua. Na ka puta mai nga taonga, ka tangohia e ratou etahi atu mea.
3. Whakareatia ki te auau toharite o nga haerenga a nga kaihoko o tenei hua, i runga i te whakapae ka whakapataritari tenei hua i nga tangata ki te hoki mai ki a ia.

I muri i te whakahaere i nga whakamatautau me nga taurangi, i whiwhi matou i nga waahanga e whai ake nei i roto i te hanga:

ko te reira hurihanga hua whānui — te wahanga o nga hua kua hokona mai i nga hua katoa i roto i nga taunakitanga i hangaia e matou.

Ka kitea e te kaipanui aro nui te rereketanga i waenga i nga inenga tuimotu me te ipurangi. Ko tenei whanonga e whakamaramahia ana e te meka kaore nga whiriwhiringa hihiri katoa mo nga hua ka taea te whakaaro ka taea te whai whakaaro ki te whakangungu i te tauira. Ki a matou, he korero noa ka taea te taraihia te haurua o nga kaitono kua tangohia; he mea noa tenei ahuatanga i roto i ta maatau umanga.

I runga i nga moni whiwhi, ko nga korero e whai ake nei ka puta, he maamaa i muri i te whakarewatanga o nga taunakitanga, kei te kaha te tipu o nga moni o te roopu whakamatautau, inaianei ko te pikinga toharite o nga moni me o maatau taunakitanga ko te 3-4%:

Hei mutunga, e hiahia ana ahau ki te kii mena ka hiahia koe ki nga taunakitanga kore-waahi, ka kitea he pikinga tino nui o te kounga i roto i nga whakamatautau me te tango i nga kaitono mo nga taunakitanga. Ko te nui o te wa mo o raatau whakatipuranga ka taea te whakakotahi i nga tikanga pai maha, ka nui nga hua mo te umanga.

Ka koa ahau ki te korerorero ki nga korero me nga tangata e pai ana ki nga korero. Ka taea e koe te patai ake ki ahau i nga patai waea. Ka tohatoha ano ahau i aku whakaaro mo AI/whakaoho i roto i taku hongere waea - nau mai :)

Source: will.com