Hlo Habr! Peb caw cov kws tshaj lij cov ntaub ntawv thiab cov kws tshaj lij kev kawm tshuab rau kev kawm Demo dawb . Peb kuj tau tshaj tawm ib tsab xov xwm los ntawm Luca Monno - Tus Thawj Saib Xyuas Nyiaj Txiag ntawm CDP SpA.
Ib txoj hauv kev zoo tshaj plaws thiab yooj yim kawm tshuab yog Ensemble Learning. Ensemble Learning yog cov txheej txheem hauv qab rau XGBoost, Hnab, Random Forest, thiab ntau lwm cov txheej txheem.
Muaj ntau ntau cov ntawv zoo ntawm Towards Data Science, tab sis kuv xaiv ob zaj dab neeg ( ΠΈ ) uas kuv nyiam tshaj plaws. Yog li vim li cas thiaj sau lwm tsab xov xwm txog EL? Vim kuv xav qhia koj yuav ua li cas nws ua haujlwm ntawm ib qho piv txwv yooj yim, uas ua rau kuv nkag siab tias tsis muaj khawv koob nyob ntawm no.
Thaum kuv thawj zaug pom EL hauv kev nqis tes ua (ua haujlwm nrog qee cov qauv regression yooj yim heev) Kuv tsis ntseeg kuv ob lub qhov muag, thiab kuv tseem nco txog tus xibfwb uas qhia kuv txoj kev no.
Kuv muaj ob tus qauv sib txawv (ob qhov kev kawm tsis muaj zog algorithms) nrog exponents tawm ntawm tus qauv RΒ² sib npaug zos rau 0,90 thiab 0,93 feem. Ua ntej saib qhov tshwm sim, kuv xav tias kuv yuav tau txais RΒ² qhov chaw nruab nrab ntawm ob tus nqi pib. Hauv lwm lo lus, kuv xav tias EL tuaj yeem siv los ua tus qauv tsis zoo li tus qauv tsis zoo, tab sis tsis zoo li tus qauv zoo tshaj plaws.
Ua rau kuv xav tsis thoob, cov txiaj ntsig ntawm qhov nruab nrab yooj yim ntawm qhov kwv yees tau muab RΒ² ntawm 0,95.
Thaum xub thawj kuv pib nrhiav qhov yuam kev, tab sis tom qab ntawd kuv xav tias tej zaum yuav muaj qee qhov khawv koob zais ntawm no!
Ensemble Learning yog dab tsi
Nrog EL, koj tuaj yeem ua ke qhov kev kwv yees ntawm ob lossis ntau tus qauv kom tau txais tus qauv txhim khu kev qha thiab ua tau zoo. Muaj ntau txoj hauv kev rau kev ua haujlwm nrog cov khoom siv ntawm cov qauv. Ntawm no kuv yuav kov ob qhov tseem ceeb tshaj plaws los muab tswv yim rau koj.
Nrog kev pab los ntawm regression koj tuaj yeem nruab nrab qhov kev ua tau zoo ntawm cov qauv muaj.
Nrog kev pab los ntawm kev faib tawm koj tuaj yeem cia cov qauv xaiv cov ntawv. Daim ntawv lo uas tau xaiv feem ntau yog ib qho uas yuav raug xaiv los ntawm tus qauv tshiab.
Vim li cas EL ua haujlwm zoo dua
Qhov laj thawj tseem ceeb vim li cas EL ua haujlwm zoo dua yog vim tias txhua qhov kev twv ua ntej muaj qhov yuam kev (peb paub qhov no los ntawm qhov yuav tshwm sim txoj kev xav), kev sib txuas ob qhov kev kwv yees tuaj yeem pab txo qhov yuam kev, thiab yog li txhim kho cov ntsuas kev ua tau zoo (RMSE, RΒ², thiab lwm yam). d.).
Cov duab hauv qab no qhia tau hais tias ob lub algorithms tsis muaj zog ua haujlwm li cas ntawm cov ntaub ntawv. Thawj algorithm muaj txoj kab nqes loj dua li qhov tsim nyog, thaum lub thib ob muaj yuav luag xoom (tejzaum nws yog vim kev ua haujlwm ntau dhau). Tab sis khaub ncaws ntau qhia tau zoo dua.
Yog tias koj saib ntawm RΒ², thawj thiab thib ob kev cob qhia algorithm yuav muaj nws sib npaug rau -0.01ΒΉ, 0.22, raws li, thaum lub koom txoos nws yuav sib npaug rau 0.73.
Muaj ntau yam laj thawj uas vim li cas ib qho algorithm tuaj yeem ua tus qauv tsis zoo txawm tias qhov piv txwv yooj yim zoo li no: tej zaum koj tau txiav txim siab siv kev ua kom tsis tu ncua, lossis koj txiav txim siab tsis tshem tawm qee qhov tsis zoo, lossis tej zaum koj siv polynomial regression thiab xaiv qhov tsis ncaj ncees lawm degree. (piv txwv li, siv polynomial ntawm qhov thib ob degree, thiab cov ntaub ntawv xeem qhia tau hais tias qhov asymmetry meej, uas qhov thib peb degree yuav zoo dua).
Thaum EL Ua Haujlwm Zoo Tshaj Plaws
Cia peb saib ob qho kev kawm algorithms uas ua haujlwm ntawm tib cov ntaub ntawv.
Ntawm no koj tuaj yeem pom tias kev sib txuas ntawm ob tus qauv tsis txhim kho kev ua haujlwm ntau. Thaum xub thawj, rau ob qhov kev cob qhia algorithms, RΒ² qhov tseem ceeb yog -0,37 thiab 0,22, raws li, thiab rau lub koom haum nws tig tawm mus rau -0,04. Ntawd yog, tus qauv EL tau txais qhov nruab nrab tus nqi ntawm cov ntsuas.
Txawm li cas los xij, muaj qhov sib txawv loj ntawm ob qho piv txwv no: hauv thawj qhov piv txwv, qhov yuam kev ntawm cov qauv raug cuam tshuam tsis zoo, thiab hauv qhov thib ob - zoo (cov coefficients ntawm peb tus qauv tsis tau kwv yees, tab sis tsuas yog xaiv los ntawm tus sau. ua piv txwv.)
Yog li ntawd, Ensemble Learning tuaj yeem siv los txhim kho qhov kev tsis ncaj ncees / kev sib npaug ntawm txhua qhov xwm txheej, tab sis thaum twg Cov qauv yuam kev tsis zoo sib xws, siv EL tuaj yeem ua rau kev ua haujlwm zoo dua.
Homogeneous thiab heterogeneous qauv
Feem ntau EL yog siv rau homogeneous qauv (raws li hauv qhov piv txwv no los yog random hav zoov), tab sis qhov tseeb koj tuaj yeem ua ke cov qauv sib txawv (linear regression + neural network + XGBoost) nrog ntau pawg ntawm kev piav qhia sib txawv. Qhov no yuav ua rau muaj kev cuam tshuam tsis raug thiab txhim kho kev ua haujlwm.
Sib piv nrog portfolio diversification
EL ua haujlwm zoo ib yam rau kev sib txawv hauv cov kev xav tau, tab sis ntau qhov zoo dua rau peb.
Thaum koj sib txawv, koj sim txo qhov sib txawv ntawm koj qhov kev ua tau zoo los ntawm kev nqis peev hauv cov khoom lag luam tsis sib xws. Ib qho kev sib txawv ntawm cov khoom lag luam zoo yuav ua tau zoo dua li cov khoom lag luam phem tshaj plaws, tab sis yeej tsis zoo tshaj qhov zoo tshaj plaws.
Quotes Warren Buffett:
"Kev sib txawv yog kev tiv thaiv kev tsis paub, rau ib tus neeg uas tsis paub nws ua dab tsi, nws [kev sib txawv] ua rau muaj kev nkag siab me ntsis."
Hauv kev kawm tshuab, EL pab txo qis qhov sib txawv ntawm koj tus qauv, tab sis qhov no tuaj yeem ua rau tus qauv nrog kev ua tau zoo tag nrho dua li tus qauv pib zoo tshaj.
Cia li muab cov ntsiab lus los sib piv
Kev sib xyaw ua ke ntau tus qauv rau hauv ib qho yog cov txheej txheem yooj yim uas tuaj yeem ua rau muaj kev daws teeb meem rau qhov sib txawv ntawm qhov tsis ncaj ncees lawm thiab kev ua haujlwm tau zoo.
Yog tias koj muaj ob lossis ntau tus qauv uas ua haujlwm zoo, tsis txhob xaiv ntawm lawv: siv tag nrho (tab sis ceev faj)!
Koj puas txaus siab rau kev txhim kho hauv cov lus qhia no? Sau npe rau ib qho kev qhia dawb demo thiab koom nrog - Tshuab Kawm Engineer ntawm Mail.ru Group.
Tau qhov twg los: www.hab.com