I te Hui-tanguru-Maehe 2019, i tu he whakataetae ki te whakarangatira i te whangai whatunga hapori , i tu ai ta matou kapa i te tuunga tuatahi. I roto i te tuhinga ka korero ahau mo te whakaritenga o te whakataetae, nga tikanga i whakamatauhia e matou, me nga tautuhinga catboost mo te whakangungu i runga i nga raraunga nui.
SNA Hackathon
Koinei te tuatoru o nga wa i whakahaerehia he hackathon i raro i tenei ingoa. Kei te whakariteritehia e te whatunga hapori ok.ru, ko te mahi me nga raraunga e hono tika ana ki tenei whatunga hapori.
Ko te SNA (te tātari whatunga hapori) i tenei keehi ka tino marama ake ehara i te tātaritanga o te kauwhata pāpori, engari he tātaritanga o te whatunga hapori.
- I te tau 2014, ko te mahi he matapae i te maha o nga pai ka riro i tetahi panui.
- I te tau 2016 - te mahi VVZ (kei te mohio koe), tata ki te tātaritanga o te kauwhata pāpori.
- I te tau 2019, ka whakatauhia te kai a te kaiwhakamahi i runga i te tupono ka pai te kaiwhakamahi ki te pou.
Kaore e taea e au te korero mo te 2014, engari i te tau 2016 me te 2019, i tua atu i nga kaha o te tātari raraunga, me whai pukenga ki te mahi me nga raraunga nui. Ki taku whakaaro ko te whakakotahitanga o te ako miihini me nga raru tukatuka raraunga nui i kukume i ahau ki enei whakataetae, a ko taku wheako ki enei waahi i awhina i ahau ki te wikitoria.
mlbootcamp
I te tau 2019, i whakaritea te whakataetae i runga i te papa .
I timata te whakataetae i runga ipurangi i te 7 o Huitanguru, e 3 nga mahi. Ka taea e te tangata te rehita i runga i te pae, tango ka utaina to waka mo etahi haora. I te mutunga o te atamira ipurangi i te Maehe 15, ko te tekau ma rima o runga o ia huihuinga pekepeke whakaaturanga i powhirihia ki te tari Mail.ru mo te atamira tuimotu, i tu mai i te 15 o Maehe ki te 30 o Paenga-whawha.
Whāinga
Ko nga raraunga puna e whakarato ana i nga ID kaiwhakamahi (userId) me nga ID whakairi (objectId). Mena i whakaatuhia he panui ki te kaiwhakamahi, kei roto i nga raraunga he raina kei roto i te userId, objectId, nga urupare a te kaiwhakamahi ki tenei pou (whakauru) me te huinga o nga momo ahuatanga, hononga ranei ki nga pikitia me nga tuhinga.
| id kaiwhakamahi | objectId | rangatiraId | urupare | whakapakoko |
|---|---|---|---|---|
| 3555 | 22 | 5677 | [pai, pawhiria] | [hash1] |
| 12842 | 55 | 32144 | [kaore i pai] | [hash2, hash3] |
| 13145 | 35 | 5677 | [pawhiria, tiritahi] | [hash2] |
He rite tonu te hanganga o te huinga raraunga whakamatautau, engari kei te ngaro te mara urupare. Ko te mahi he matapae i te aroaro o te tauhohenga 'pai' ki te mara urupare.
E whai ake nei te hanganga o te konae tuku:
| id kaiwhakamahi | Rarangi Rarangi[objectId] |
|---|---|
| 123 | 78,13,54,22 |
| 128 | 35,61,55 |
| 131 | 35,68,129,11 |
Ko te metric te toharite ROC AUC mo nga kaiwhakamahi.
Ka kitea he whakamaarama taipitopito mo nga raraunga i. Ka taea hoki e koe te tango raraunga ki reira, tae atu ki nga whakamatautau me nga pikitia.
Ataata ipurangi
I te wahanga ipurangi, i wehewehea te mahi kia 3 nga wahanga
- — kei roto katoa nga ahuatanga engari ko nga whakaahua me nga tuhinga;
- — kei roto anake nga korero mo nga whakaahua;
- — kei roto i nga korero mo nga tuhinga anake.
atamira tuimotu
I te waahi tuimotu, kei roto i nga raraunga nga ahuatanga katoa, engari he iti noa nga tuhinga me nga whakaahua. He 1,5 nga wa ka nui ake nga rarangi i roto i te huingararaunga, he maha kee.
Te otinga o te raruraru
Mai i taku mahi CV i te mahi, i timata ahau i taku haerenga i tenei whakataetae me te mahi "Whakaahua". Ko nga raraunga i tukuna ko te userId, objectId, ownerId (te roopu i whakaputahia te pou), nga tohu wa mo te hanga me te whakaatu i te pou, me te tikanga, te ahua mo tenei pou.
Whai muri i te whakaputa i nga ahuatanga maha i runga i nga tohu wa, ko te whakaaro i muri mai ko te tango i te paparanga penultimate o te neuron i whakangungua i mua i te imagenet me te tuku i enei whakaurunga ki te whakanui.
Ko nga hua kaore i tino miharo. Ko nga whakaurunga mai i te neuron imagenet he mea kore, i whakaaro ahau, me hanga e au taku ake autoencoder.
He roa te wa, kaore i pai ake te hua.
Whakatupuranga āhuatanga
Ko te mahi me nga whakaahua he nui te wa, no reira ka whakatau ahau ki te mahi i tetahi mea ngawari ake.
Kei te kite tonu koe, he maha nga waahanga o roto i te huingararaunga, a kia kore ai e whakararuraru rawa, ka tango ahau i te catboost. He pai te otinga, kaore he tautuhinga ka tae tonu ahau ki te rarangi tuatahi o te papaarahi.
He maha nga raraunga ka whakatakotoria ki roto i te whakatakotoranga parquet, no reira me te kore whakaaro rua, ka mau ahau ki te scala ka tiimata te tuhi i nga mea katoa ki te korakora.
Ko nga ahuatanga ngawari i nui ake te tipu i nga taapiri whakaahua:
- e hia nga wa i puta mai ai te objectId, userId me ownerId ki te raraunga (me hono ki te rongonui);
- e hia nga whakairinga kua kitea e te userId mai i te ownerId (me hono ki te hiahia o te kaiwhakamahi ki te roopu);
- e hia nga kaiwhakamahiId ahurei i tirohia nga pou mai i te ownerId (e whakaatu ana i te rahi o te hunga whakarongo a te roopu).
Mai i nga tohu wa i taea te tiki i te wa o te ra i maataki ai te kaiwhakamahi i te whangai (ata/ahiahi/ ahiahi/po). Ma te whakakotahi i enei waahanga, ka taea e koe te whakaputa tonu i nga ahuatanga:
- e hia nga wa i takiuru ai te kaiwhakamahiId i te ahiahi;
- i te wa e whakaatuhia ana tenei panui (objectId) me etahi atu.
Ko enei mea katoa i pai ake nga inenga. Engari ko te rahi o te huinga raraunga whakangungu e tata ana ki te 20M rekoata, no reira ko te taapiri i nga ahuatanga ka tino whakaroa te whakangungu.
Kua whakaaro ano ahau ki taku huarahi ki te whakamahi raraunga. Ahakoa ko nga raraunga e ti'aturi ana ki te wa, kaore au i kite i nga korero e paheke ana "i te wa kei te heke mai", engari, i te wa ano, ka pakaruhia e au penei:
Ko te huinga whakangungu i whakawhiwhia ki a matou (Pepuere me te 2 wiki o Maehe) i wehea kia 2 nga wahanga.
I whakangungua te tauira ki nga raraunga mai i nga ra N whakamutunga. Ko nga whakahiatotanga i whakaahuatia i runga ake nei i hangaia i runga i nga raraunga katoa, tae atu ki te whakamatautau. I te wa ano, kua puta nga raraunga e taea ai te hanga momo whakawaehere o te taurangi kua whakaritea. Ko te huarahi tino ngawari ko te whakamahi ano i te waehere kei te hanga ahuatanga hou, me te whangai noa i nga raraunga e kore e whakangunguhia me te whaainga = 1.
No reira, i whiwhi tatou i nga ahuatanga rite:
- E hia nga wa kua kite a userId i tetahi whakairinga i roto i te roopu ownerId;
- E hia nga wa i pai ai a userId ki te whakairinga i roto i te group ownerId;
- Ko te paheketanga o nga whakairinga i pai ki a userId mai i ownerId.
Arā, ka puta tikanga whakawaehere ūnga i runga i tetahi waahanga o te huingararaunga mo nga huinga maha o nga waahanga waahanga. Ko te tikanga, ka hangaia e te catboost te whakawaehere whaainga mai i tenei tirohanga kaore he painga, engari, hei tauira, ka taea te tatau i te maha o nga kaiwhakamahi ahurei e pai ana ki nga pou o tenei roopu. I taua wa ano, i tutuki te whainga matua - he maha nga wa i whakahekehia taku huinga raraunga, a ka taea te whakaputa tonu i nga ahuatanga.
Ahakoa ka taea e catboost te hanga whakawaehere i runga i te tauhohenga e pai ana, he whakahoki ano etahi atu tauhohenga: tiritiri ano, kare i pai, kare i pai, ka paatohia, ka warewarehia, ka taea te mahi a-ringa. I tatauria ano e ahau nga momo whakahiato katoa me te whakakore i nga ahuatanga me te iti te hiranga kia kore ai e pupuhi te huingararaunga.
I tera wa kua eke ahau ki te waahi tuatahi ma te whanui whanui. Ko te mea anake i rangirua ko te ahua karekau he tipu. I puta mai te whakaaro ki te tuku i nga mea katoa ki te catboost. Ka whakarōpū matou i nga whakaahua Kmeans ka whiwhi i tetahi ahua ahua hou.
Anei etahi o nga karaehe whai muri i te tātari a-ringa me te whakakotahitanga o nga tautau i riro mai i KMeans.
I runga i te imageCat ka hangaia e matou:
- Ngā āhuatanga kāwai hou:
- Ko tehea imageCat i tino tirohia e te userId;
- Ko tehea imageCat te nuinga o nga wa e whakaatu ana i te ID rangatira;
- Ko tehea imageCat i paingia e te kaiwhakamahiId;
- Nga momo porotiti:
- E hia nga imageCat ahurei i titiro ki te userId;
- Tata ki te 15 nga ahuatanga rite me te whakawaehere whaainga pera i whakaahuahia i runga ake nei.
Nga Kupu
Ko nga hua o te whakataetae whakaahua i pai ki ahau, ka whakatau ahau ki te whakamatau i taku ringa ki nga tuhinga. Kaore au i mahi nui ki nga tuhinga i mua, a, ma te kuware, i mate ahau i te ra i runga i te tf-idf me te svd. Na ka kite ahau i te rarangi turanga me te doc2vec, e mahi ana i nga mea e hiahiatia ana e au. Na te paku whakatika i nga tawhā doc2vec, ka whiwhi au i nga taapiri tuhinga.
Na ka whakamahi noa ahau i te waehere mo nga whakaahua, i whakakapia e au nga taapiri whakaahua me nga taapiri tuhinga. Ko te mutunga mai, ka eke ahau ki te turanga tuarua o te whakataetae tuhinga.
Pūnaha mahi tahi
Kotahi te whakataetae e toe ana kare ano au i "poka" ki te rakau, a, ki te whakatau a te AUC i runga i te kaiarataki, ko nga hua o tenei whakataetae i tino pa ki te atamira tuimotu.
I tangohia e ahau nga ahuatanga katoa kei roto i nga raraunga puna, nga waahanga kua tohua me te tatau i nga kohinga rite mo nga whakaahua, engari mo nga ahuatanga e pa ana ki nga whakaahua. Ko te tuku noa i tenei ki te catboost ka eke ahau ki te waahi tuarua.
Nga taahiraa tuatahi o te arotautanga catboost
Ko tetahi waahi tuatahi me te rua tuarua i pai ki ahau, engari he maarama kaore au i mahi i tetahi mea motuhake, ko te tikanga ka ngaro au i nga tuunga.
Ko te whainga o te whakataetae ko te whakarangatira i nga pou i roto i te kaiwhakamahi, a i enei wa katoa e whakaoti ana ahau i te raru whakarōpūtanga, ara, te arotau i te inenga he.
Ka hoatu e ahau he tauira ngawari:
| id kaiwhakamahi | objectId | matapae | pono whenua |
|---|---|---|---|
| 1 | 10 | 0.9 | 1 |
| 1 | 11 | 0.8 | 1 |
| 1 | 12 | 0.7 | 1 |
| 1 | 13 | 0.6 | 1 |
| 1 | 14 | 0.5 | 0 |
| 2 | 15 | 0.4 | 0 |
| 2 | 16 | 0.3 | 1 |
Me hanga he whakatikatika iti
| id kaiwhakamahi | objectId | matapae | pono whenua |
|---|---|---|---|
| 1 | 10 | 0.9 | 1 |
| 1 | 11 | 0.8 | 1 |
| 1 | 12 | 0.7 | 1 |
| 1 | 13 | 0.6 | 0 |
| 2 | 16 | 0.5 | 1 |
| 2 | 15 | 0.4 | 0 |
| 1 | 14 | 0.3 | 1 |
Ka whiwhi tatou i nga hua e whai ake nei:
| Ko te tauira | AUC | Kaiwhakamahi1 AUC | Kaiwhakamahi2 AUC | tikanga AUC |
|---|---|---|---|---|
| Kōwhiringa 1 | 0,8 | 1,0 | 0,0 | 0,5 |
| Kōwhiringa 2 | 0,7 | 0,75 | 1,0 | 0,875 |
Ka kite koe, ko te whakapai ake i te inenga AUC katoa ehara i te mea ko te whakapai ake i te inenga AUC toharite i roto i te kaiwhakamahi.
Catboosting mai i te pouaka. I panui ahau mo nga inenga rangatira, i te wa e whakamahi ana i te catboost me te whakanoho i a YetiRankPairwise ki te whakangungu mo te po. Ko te hua kaore i tino miharo. I te whakatau kua whakangunguhia ahau, ka hurihia e ahau te mahi hapa ki te QueryRMSE, ka tere ake te huri i nga tuhinga catboost. I te mutunga, he rite tonu nga hua ki a au i te wa e whakangungu ana mo te whakarōpūtanga, engari ko nga huinga o enei tauira e rua i pai te pikinga, i eke ahau ki te tuunga tuatahi i nga whakataetae e toru.
5 meneti i mua i te katinga o te atamira ipurangi o te whakataetae "Pūnaha Mahi tahi", i nekehia ahau e Sergey Shalnov ki te turanga tuarua. I hikoi tahi maua i te ara atu.
Te whakarite mo te atamira tuimotu
I whakamanahia e matou te wikitoria i te waahi ipurangi me te kaari ataata RTX 2080 TI, engari ko te utu nui o te 300 rubles, a, ko te mea pea, ko te waahi tuatahi ka akiakihia matou ki te mahi mo enei wiki e 000.
I te mea i puta, i whakamahia ano e Sergey te catboost. I whakawhitiwhiti whakaaro me nga ahuatanga, ka ako ahau tei roto te mau pahonoraa i te rahiraa o ta’u mau uiraa, e tae noa’tu i te mau uiraa ta’u i ore â i noaa i taua taime ra.
Ma te tiro i te purongo i ara ake ahau ki te whakaaro me whakahoki nga tawhā katoa ki te uara taunoa, me te ata mahi i nga tautuhinga a muri noa i te whakatika i te huinga o nga ahuatanga. Inaianei he 15 haora te roa o te whakangungu, engari ko tetahi tauira i pai ake te tere atu i tera i whiwhi i te roopu me te rangatira.
Whakatupuranga āhuatanga
I roto i te whakataetae Pūnaha Mahi tahi, he maha nga ahuatanga ka aromatawaihia he mea nui mo te tauira. Hei tauira, arotake taumaha_spark_svd - te tohu tino nui, engari kaore he korero mo te tikanga. I whakaaro ahau he pai ki te tatau i nga momo whakahiato i runga i nga ahuatanga nui. Hei tauira, te taumahatanga kaute_spark_svd ma te kaiwhakamahi, ma te roopu, ma te ahanoa. Ka taea ano te tatau ma te whakamahi i nga raraunga karekau he mahi whakangungu me te whaainga = 1, ara, toharite arotake taumaha_spark_svd na te kaiwhakamahi ma nga taonga i pai ki a ia. Ko nga tohu nui i tua atu arotake taumaha_spark_svd, i reira e rave rahi. Anei etahi o ratou:
- taumahatanga kauteCtrIra
- taumahatanga kauteCtrHigh
- kaiwhakamahiOwnerCounterCreateLikes
Hei tauira, te toharite taumahatanga kauteCtrIra e ai ki te userId ka puta he ahuatanga nui, penei i te uara toharite kaiwhakamahiOwnerCounterCreateLikes na userId+ownerId. Ma tenei kua whakaaro koe me mohio koe ki te tikanga o nga mara.
Ko nga ahuatanga nui ano Kaute Kaute и arotake taumahaShowsCount. Ma te wehewehe tetahi ki tetahi, ka riro mai he waahanga nui ake.
Nga turuturu raraunga
Ko te whakataetae me te whakatauira whakaputa he tino mahi rereke. I te wa e whakarite ana i nga raraunga, he tino uaua ki te whai whakaaro ki nga korero katoa me te kore e kawe i etahi korero kore-iti mo te taurangi whaainga i roto i te whakamatautau. Mena kei te hangahia e matou he otinga whakangao, ka ngana matou ki te karo i te whakamahi i nga rerenga raraunga i te wa e whakangungu ana i te tauira. Engari mena kei te pirangi tatou ki te wikitoria i te whakataetae, na ko nga rerenga raraunga nga ahuatanga pai rawa atu.
I te ako i nga raraunga, ka kite koe i runga i nga uara objectId Kaute Kaute и arotake taumahaShowsCount huringa, ko te tikanga ko te ōwehenga o nga uara teitei o enei ahuatanga ka whakaata i te huringa o muri ka pai ake i te tauwehenga i te wa o te whakaaturanga.
Ko te rerenga tuatahi i kitea e matou ko taumahatangaKauteKauteMax/auditweightsShowsCountMax.
Engari he aha mena ka ata tirohia nga raraunga? Me whakariterite ma te ra whakaatu ka whiwhi:
| objectId | id kaiwhakamahi | arotake taumahaShowsCount | Kaute Kaute | whainga (e paingia ana) |
|---|---|---|---|---|
| 1 | 1 | 12 | 3 | kaore pea |
| 1 | 2 | 15 | 3 | pea ae |
| 1 | 3 | 16 | 4 |
He mea miharo i taku kitenga i te tauira tuatahi penei ka puta ko taku matapae karekau i tutuki. Engari, ma te whakaaro ko nga uara teitei o enei ahuatanga i roto i te taonga i piki ake, kaore matou i mangere ka whakatau ki te rapu arotake taumahaShowsCountNext и arotake taumahaKateKauteNext, ara, ko nga uara i nga wa e whai ake nei. Ma te taapiri i tetahi waahanga
(auditweightsShowsCountNext-auditweightsShowsCount)/(auditweightsLikesCount-auditweightsLikesCountNext) ka tere te peke koi.
Ka taea te whakamahi i nga rerenga rite ma te rapu i nga uara e whai ake nei mo kaiwhakamahiOwnerCounterCreateLikes i roto i te userId+ownerId me, hei tauira, taumahatanga kauteCtrIra i roto i te objectId+userGender. I kitea e matou e 6 nga waahi rite me nga pakaru me te tango i nga korero ka taea mai i a raatau.
I taua wa, kua kohia e matou te maha o nga korero mai i nga waahanga mahi tahi, engari kaore i hoki ki nga whakataetae whakaahua me nga tuhinga. He pai taku whakaaro ki te tirotiro: e hia nga ahuatanga e tika ana i runga i nga whakaahua, i nga tuhinga ranei e homai ana i nga whakataetae e tika ana?
Karekau he riihi i roto i te ahua me nga whakataetae tuhinga, engari i tera wa kua whakahokia e ahau nga tawhā catboost taunoa, kua horoia te waehere me te taapiri i etahi waahanga. Ko te tapeke ko:
| whakatau | tata nei |
|---|---|
| Mōrahi me ngā whakaahua | 0.6411 |
| Morahi kore whakaahua | 0.6297 |
| Hua tuarua | 0.6295 |
| whakatau | tata nei |
|---|---|
| Mōrahi me ngā tuhinga | 0.666 |
| Mōrahi kore tuhinga | 0.660 |
| Hua tuarua | 0.656 |
| whakatau | tata nei |
|---|---|
| Mōrahi i roto i te mahi tahi | 0.745 |
| Hua tuarua | 0.723 |
I kitea e kore e taea e matou te kohi nui i roto i nga tuhinga me nga whakaahua, a, i muri i te whakamatau i nga whakaaro tino pai e rua, ka mutu ta matou mahi ki a raatau.
Ko etahi atu reanga o nga ahuatanga i roto i nga punaha mahi tahi kaore i piki ake, ka timata taatau ki te whakatau. I te atamira ipurangi, ko te whakarōpūtanga me te roopu whakarangatira i iti ake te piki ake, na te mea i tino whakangungu ahau i te whakarōpūtanga. Kaore tetahi o nga mahi hapa, tae atu ki a YetiRanlPairwise, i whakaputa i nga waahi tata ki te hua i mahia e LogLoss (0,745 vs. 0,725). He tumanako tonu mo QueryCrossEntropy, kaore i taea te whakarewa.
atamira tuimotu
I te waahi tuimotu, he rite tonu te hanganga raraunga, engari he iti noa nga huringa:
- Id userId, objectId, ownerId i whakararangitia;
- he maha nga tohu i tangohia, he maha ano i whakaingoatia;
- kua piki ake nga raraunga tata ki te 1,5 nga wa.
I tua atu i nga raru kua whakarārangihia, he taapiri nui ano: i whakawhiwhia te roopu ki tetahi tūmau nui me te RTX 2080TI. Kua roa ahau e pai ana ki te htop.
Kotahi noa te whakaaro - ki te whakaputa noa i nga mea o mua. Whai muri i nga haora e rua ki te whakarite i te taiao i runga i te tuumau, ka tiimata tonu matou ki te manatoko i taea te whakaputa ano nga hua. Ko te raru nui e pa ana ki a maatau ko te pikinga o te rahinga raraunga. I whakatau matou ki te whakaiti i te kawenga me te tautuhi i te tawhā catboost ctr_complexity=1. He iti nei te whakaheke i te tere, engari i timata taku tauira ki te mahi, he pai te hua - 0,733. Ko Sergey, kaore i rite ki ahau, kaore i wehewehea nga raraunga ki nga waahanga 2 me te whakangungu i nga raraunga katoa, ahakoa i puta nga hua pai i te waahi ipurangi, i te waahi tuimotu he maha nga raruraru. Mena ka tangohia e matou nga ahuatanga katoa i mahia e matou ka ngana ki te pana ki roto i te catboost, katahi ka kore e mahi i te atamira ipurangi. I mahi a Sergey i te arotautanga momo, hei tauira, te huri i nga momo float64 ki float32. Ka kitea e koe nga korero mo te arotautanga mahara i roto i nga pandas. Ko te mutunga, i whakangungu a Sergey i runga i te PTM ma te whakamahi i nga raraunga katoa me te whiwhi mo te 0,735.
He ranea enei hua ki te wikitoria, engari i huna e matou to matou tere pono, kaore i tino mohio kaore etahi atu kapa e mahi pera ano.
Whawhai ki te mutunga
Whakataki Catboost
I tino whakaputahia to maatau otinga, i taapirihia e matou nga ahuatanga o te raraunga kuputuhi me nga whakaahua, na ko te mea i toe ko te whakatika i nga tawhā catboost. I whakangungua a Sergey ki te PTM me te iti o nga huringa, a ka whakangungu ahau ki te ctr_complexity=1. Kotahi te ra i toe, a mena ka taapirihia e koe nga taapiri, kua piki ake ranei te ctr_complexity, hei te ata ka pai ake to tere me te hikoi i te ra katoa.
I te atamira tuimotu, ka taea te huna i nga tere ma te kowhiri noa i te otinga pai i runga i te papanga. I tumanako matou kia nui nga huringa i te papaarahi i nga meneti whakamutunga i mua i te katinga o nga tukunga ka whakatauhia kia kaua e mutu.
Mai i te ataata a Anna, i ako ahau ki te whakapai ake i te kounga o te tauira, he pai ake te kowhiri i nga waahanga e whai ake nei:
- reiti_ako — Ka tatauhia te uara taunoa i runga i te rahi o te huingararaunga. Ko te whakanui ake i te reeti_ako me whakanui ake te maha o nga whitiwhitinga.
- l2_rau_reg — Te whakarea whakarite, te uara taunoa 3, pai ake te whiriwhiri mai i te 2 ki te 30. Ko te whakaheke i te uara ka piki ake te taapiri.
- te pawera_puke — ka taapiri matapōkeretia ki nga taumahatanga o nga mea kei roto i te tauira. Ko te uara taunoa ko te 1, kei reira nga taumahatanga ka tangohia mai i te tohatoha taupūtanga. Ko te whakaheke i te uara ka piki ake te whakakaha.
- kaha_matapōkere — Ka pa ki te kowhiringa o nga wehenga i te whitiwhitinga motuhake. Ko te teitei ake o te kaha_matapōkere, ka nui ake te tupono ka tohua he wehenga hiranga iti. I ia whitiwhitinga ka whai ake, ka heke te matapōkeretia. Ko te whakaheke i te uara ka piki ake te whakakaha.
Ko etahi atu taapiri he iti ake te paanga ki te hua whakamutunga, na reira kaore au i ngana ki te kowhiri. He 1 meneti te roa o te whakangungu i runga i taku huinga raraunga GPU me te ctr_complexity=20, a ko nga tawhā kua tohua i runga i te huingararaunga kua iti he rerekee mai i nga mea tino pai o te huingararaunga katoa. I te mutunga, i mahia e ahau mo te 30 nga taapiri i runga i te 10% o nga raraunga, katahi ka tata ki te 10 nga taapiri mo nga raraunga katoa. I puta mai he penei:
- reiti_ako I piki ake ahau ma te 40% mai i te taunoa;
- l2_rau_reg waiho tonu iho;
- te pawera_puke и kaha_matapōkere kua heke ki te 0,8.
Ka taea e tatou te whakatau ko te tauira i whakangunguhia me nga tawhā taunoa.
I tino miharo ahau i taku kitenga i te hua i runga i te papatohu:
| Ko te tauira | tauira 1 | tauira 2 | tauira 3 | huinga |
|---|---|---|---|---|
| Te kore oro | 0.7403 | 0.7404 | 0.7404 | 0.7407 |
| Ma te tangi | 0.7406 | 0.7405 | 0.7406 | 0.7408 |
I whakatau ahau mo au ake mena kaore e hiahiatia te tono tere o te tauira, he pai ake te whakakapi i te kowhiringa o nga tawhā me te huinga o nga tauira maha ma te whakamahi i nga taapiri kore-pai.
Kei te arotau a Sergey i te rahi o te huingararaunga hei whakahaere i runga i te GPU. Ko te huarahi ngawari ko te tapahi i tetahi waahanga o nga raraunga, engari ka taea tenei ma nga huarahi maha:
- āta tango i nga raraunga tawhito rawa (te timatanga o Hui-tanguru) kia timata ra ano te urunga o te huingararaunga ki te mahara;
- tango i nga ahuatanga me te iti rawa te hiranga;
- tango id kaiwhakamahi kotahi noa te urunga;
- waiho noa nga kaiwhakamahi ID kei roto i te whakamatautau.
A, i te mutunga, hanga he huinga mai i nga whiringa katoa.
Ko te huinga whakamutunga
I te ahiahi o te ra whakamutunga, kua whakatakotohia e matou he huinga o a matou tauira i puta te 0,742. I te po ka whakarewahia e au taku tauira me te ctr_complexity=2, engari mo te 30 meneti ka whakangungua mo te 5 haora. I te 4 karaka noa ka tatauhia, ka mahia e au te roopu whakamutunga, i hoatu te 0,7433 ki runga i te papaarahi o te iwi.
Na te rereke o nga huarahi ki te whakaoti rapanga, kaore i tino honoa o maatau matapae, i pai ai te pikinga o te roopu. Ki te whiwhi i te roopu pai, he pai ake te whakamahi i nga matapae tauira matapae (prediction_type='RawFormulaVal') me te tautuhi i te scale_pos_weight=neg_count/pos_count.
I runga i te paetukutuku ka kite koe .
Ētahi atu rongoā
He maha nga kapa i whai i nga kaona o nga punaha algorithms. Ko ahau, ehara i te mea tohunga mo tenei mara, kaore e taea te arotake i a raatau, engari ka maumahara ahau ki nga otinga pai e 2.
- . Ko Nikolay, he kaimahi o Mail.ru, kaore i tono mo nga taonga, no reira ko tana whainga kia kaua e eke ki te tere tere, engari kia whiwhi i tetahi otinga ngawari.
- Ko te whakatau a te roopu i toa i te Tohu Huuri i runga i , whakaaetia mo te kohinga whakaahua tino pai kaore he mahi a-ringa.
mutunga
He aha te mea i mau ki taku maharatanga:
- Mēnā he āhuatanga kāwai kei roto i te raraunga, ka mohio koe ki te mahi tika i te whakawaehere whaainga, he pai ake te whakamatau i te catboost.
- Mena kei te whai waahi koe ki tetahi whakataetae, kaua e moumou taima ki te kowhiri i nga tawhā atu i te ako_tere me nga whitiwhitinga. Ko te otinga tere ake ko te hanga huinga o nga tauira maha.
- Ka taea e Boostings te ako i runga i te GPU. Ka taea e Catboost te ako tere i runga i te GPU, engari ka pau te mahara.
- I te wa o te whakawhanaketanga me te whakamatautau i nga whakaaro, he pai ake te whakatakoto i te iti rsm~=0.2 (CPU anake) me te ctr_complexity=1.
- Kaore i rite ki etahi atu kapa, ko te roopu o a maatau tauira i nui te pikinga. I whakawhiti whakaaro noa matou me te tuhi ki nga reo rereke. He rereke ta matou huarahi ki te wehewehe i nga raraunga, a, ki taku whakaaro, kei a ia ano ona ake pepeha.
- Kaore i te maarama he aha i kino ake ai te arotautanga o nga rangatira i te arotautanga whakarōpūtanga.
- I whai wheako ahau ki te mahi me nga tuhinga me te maarama ki te hanga i nga punaha tūtohu.
Nga mihi ki nga kaiwhakarite mo nga kare-a-roto, nga matauranga me nga taonga i whakawhiwhia.
Source: will.com