Te kowhiringa waahanga i roto i te ako miihini

Hei Habr!

I whakamaoritia e matou i Reksoft te tuhinga ki te reo Ruhia Kōwhiringa Āhuahira i te Ako Miihini. Ko te tumanako ka whai hua ki te hunga katoa e aro ana ki te kaupapa.

I roto i te ao tuuturu, ko nga raraunga kaore i te maemaa i nga wa katoa e whakaarohia ana e nga kaihoko pakihi. Koinei te take e hiahiatia ana te keri raraunga me te tautohetohe raraunga. Ka awhina i te tautuhi i nga uara me nga tauira kua ngaro i roto i nga raraunga-hanganga uiui kaore e taea e te tangata te tautuhi. Hei kimi me te whakamahi i enei tauira ki te matapae i nga hua ma te whakamahi i nga hononga kua kitea i roto i nga raraunga, ka whai hua te ako miihini.

Kia mohio ai koe ki tetahi algorithm, me titiro koe ki nga taurangi katoa o te raraunga me te whakaaro he aha te tohu o aua taurangi. He mea nui tenei na te mea ko te take kei muri i nga hua ka ahu mai i te maarama ki nga raraunga. Mena he 5, 50 ranei nga taurangi kei roto i nga raraunga, ka taea e koe te tirotiro katoa. He aha mehemea e 200 o ratou? Katahi ka kore e nui te wa ki te ako i ia taurangi kotahi. I tua atu, kaore etahi o nga algorithm e mahi mo nga raraunga waahanga, katahi ka huri koe i nga pou waahanga katoa ki nga taurangi ine (kei te ahua ine, engari ka whakaatuhia e nga ine he waahanga) hei taapiri atu ki te tauira. No reira, ka piki ake te maha o nga taurangi, ka tata ki te 500. Me aha inaianei? Ka whakaaro pea tetahi ko te whakautu ko te whakaiti i te rahi. Ka whakaitihia te maha o nga tawhā engari ka pa kino ki te whakamaoritanga. Ka pehea mena he tikanga kee ka whakakore i nga ahuatanga ka ngawari te maarama me te whakamaori i nga toenga?

I runga i te ahuatanga o te tātaritanga i runga i te regression, i te whakarōpūtanga ranei, ka rereke pea nga waahanga whiriwhiringa algorithms, engari ko te whakaaro matua o to raatau whakatinanatanga kei te noho tonu.

Taurangi Tino Tikanga

Ko nga taurangi e tino hono ana tetahi ki tetahi ka whakarato i nga korero rite ki te tauira, na reira kaore he take ki te whakamahi i enei katoa mo te tātari. Hei tauira, ki te mea kei roto i tetahi huingararaunga nga ahuatanga "Wai Ipurangi" me te "Whakamahia Hurihuri", ka taea e tatou te whakaaro he ahua rite tonu, a ka kite tatou i te hononga kaha ahakoa ka tohua e tatou he tauira raraunga kore. I tenei take, kotahi anake o enei taurangi e hiahiatia ana i roto i te tauira. Mena ka whakamahia e koe nga mea e rua, ka whakakiia te tauira ki tetahi waahanga motuhake.

P-uara

I roto i nga algorithms penei i te regression linear, he pai tonu te tauira tatauranga tuatahi. Ka awhina ki te whakaatu i te hiranga o nga ahuatanga ma o raatau uara-p i riro mai i tenei tauira. Ka whakatauhia te taumata hiranga, ka tirohia nga uara-p ka puta, a, ki te mea he uara kei raro iho i te taumata hiranga kua tohua, katahi ka kiia tenei ahuatanga he mea nui, ara, ko te huringa o tona uara ka puta he huringa o te uara o te whainga.

Whiriwhiringa tika

Ko te kowhiringa whakamua he tikanga e uru ana ki te whakamahi i te whakahekenga takahanga. Ka timata te hanga tauira ki te kore oti, ara, he tauira kau, katahi ka taapirihia e ia whitiwhitinga he taurangi hei whakapai ake i te tauira e hangaia ana. Ko tehea taurangi ka taapirihia ki te tauira ka whakatauhia e tona hiranga. Ka taea te tatau ma te whakamahi i nga momo inenga. Ko te huarahi tino noa ko te whakamahi i nga uara-p kua riro mai i te tauira tauanga taketake ma te whakamahi i nga taurangi katoa. I etahi wa ka taea e te kowhiringa whakamua ki te whakakii i tetahi tauira na te mea he taurangi tino hono i roto i te tauira, ahakoa he rite nga korero ki te tauira (engari kei te whakaatu tonu te tauira i te whakapai ake).

Kōwhiringa whakamuri

Ko te kowhiringa whakamuri ka uru ki te whakakore i nga ahuatanga, engari i te huarahi rereke ka whakatauritea ki te kowhiringa whakamua. I tenei take, kei roto i te tauira tuatahi nga taurangi motuhake katoa. Ka whakakorehia nga taurangi (kotahi mo ia whitiwhitinga) ki te kore e whai uara ki te tauira whakahekenga hou i ia whitiwhitinga. Ko te whakakore i nga waahanga kei runga i nga uara-p o te tauira tuatahi. He rangirua ano tenei tikanga ina tango ana i nga taurangi tino honohono.

Te Whakakorea Ahuahira Recursive

Ko te RFE he tikanga/tikanga e whakamahia nuitia ana mo te kowhiri i te maha tonu o nga ahuatanga whakahirahira. I etahi wa ka whakamahia te tikanga hei whakamarama i te maha o nga ahuatanga "tino nui" e awe ana i nga hua; a, i etahi wa ki te whakaiti i te maha rawa o nga taurangi (mo te 200-400), a ko nga mea e whai koha ana ki te tauira ka mau tonu, ko etahi atu ka kapea. Ka whakamahi te RFE i te punaha rangatira. Ko nga ahuatanga kei roto i te huinga raraunga kua tohua nga rarangi. Ka whakamahia enei rarangi ki te whakakore i nga ahuatanga i runga i te hononga i waenga i a raatau me te hiranga o aua ahuatanga o te tauira. I tua atu i nga ahuatanga whakarangatira, ka taea e te RFE te whakaatu he mea nui ranei enei ahuatanga mo te maha o nga ahuatanga kua whakaritea (na te mea ko te ahua o te maha o nga ahuatanga kaore i te tino pai, a ka nui ake pea te maha o nga ahuatanga. iti iho ranei i te tau kua tohua).

Whakaatu Hiranga Hiranga

I te wa e korero ana mo te whakamaaramatanga o nga miihini ako algorithms, ko te tikanga ka korerohia e matou nga whakahekenga raina (e taea ai e koe te tātari i te hiranga o nga ahuatanga ma te whakamahi i nga uara-p) me nga rakau whakatau (e whakaatu ana i te hiranga o nga ahuatanga i te ahua o te rakau, me te i taua wa ano to ratou hierarchy). I tetahi atu taha, he maha nga wa e whakamahi ana nga algorithms penei i te Random Forest, LightGBM me te XG Boost i tetahi hoahoa hiranga, ara, he hoahoa taurangi me te "tau hiranga" ka whakatakotohia. He mea tino whai hua tenei ina hiahia koe ki te whakarato i tetahi take kua whakaritea mo te hiranga o nga huanga e pa ana ki o raatau paanga ki te pakihi.

Whakariteritenga

Ka mahia te whakariterite hei whakahaere i te taurite i waenga i te paanui me te rerekee. E whakaatu ana a Bias i te nui o te whakaurunga o te tauira ki te huinga raraunga whakangungu. Ko te rerekee e whakaatu ana i te rerekee o nga matapae i waenga i te whakangungu me nga huingararaunga whakamatautau. Ko te mea pai, me iti te rītaha me te rerekētanga. Koinei te waahi ka tae mai te whakaritenga ki te whakaora! E rua nga tikanga matua:

L1 Whakariterite - Lasso: Ka whiua e Lasso nga taumahatanga tauira hei whakarereke i to raatau hiranga ki te tauira, ka taea hoki te whakakore i a raatau (ara, te tango i aua taurangi mai i te tauira whakamutunga). Ko te tikanga, ka whakamahia a Lasso ina he maha nga taurangi kei roto i tetahi huingararaunga ka hiahia koe ki te whakakore i etahi o aua mea kia pai ake ai te maarama ki te paanga o nga ahuatanga nui ki te tauira (ara, ko nga ahuatanga kua tohua e Lasso kua tohua he hiranga).

L2 Whakariterite - Tikanga Ridge: Ko te mahi a Ridge he penapena i nga taurangi katoa, i te wa ano ka tautapa te hiranga ki a raatau i runga i to raatau takoha ki te mahi a te tauira. He pai te whiriwhiri a Ridge mena he iti te maha o nga taurangi kei roto i te huingararaunga me te tika katoa hei whakamaori i nga kitenga me nga hua ka puta.

I te mea kei te pupuri a Ridge i nga taurangi katoa, a he pai ake te mahi a Lasso ki te whakatu i to raatau hiranga, i hangaia he algorithm hei whakakotahi i nga ahuatanga pai o nga whakaritenga e rua, e kiia nei ko Elastic-Net.

He maha atu nga huarahi hei whiriwhiri i nga ahuatanga mo te ako miihini, engari he rite tonu te whakaaro matua: whakaatu i te hiranga o nga taurangi katahi ka whakakore i etahi i runga i te hiranga ka puta. Ko te hiranga he kupu tino kaupapa, i te mea ehara i te mea kotahi anake, engari he huinga katoa o nga inenga me nga tūtohi ka taea te whakamahi ki te rapu huanga matua.

Mauruuru koe mo te panui! Harikoa te ako!

Source: will.com

Tāpiri i te kōrero