Hey Habr! A pe Awọn Enginners Data ati awọn alamọja Ẹkọ Ẹrọ si ẹkọ Ririnkiri ọfẹ kan . A tun ṣe atẹjade nkan naa Luca Monno - Ori ti Awọn atupale Owo ni CDP SpA.
Ọkan ninu awọn ọna ikẹkọ ẹrọ ti o wulo julọ ati irọrun jẹ Ẹkọ Esemble. Ẹkọ akojọpọ jẹ ọna ti o wa lẹhin XGBoost, Bagging, Igbo ID ati ọpọlọpọ awọn algoridimu miiran.
Ọpọlọpọ awọn nkan nla lo wa lori Si ọna Imọ-jinlẹ data, ṣugbọn Mo yan awọn itan meji ( и ) eyiti mo fẹran julọ. Nitorina kilode ti o kọ nkan miiran nipa EL? Nitori Mo fẹ lati fihan ọ bi o ṣe n ṣiṣẹ pẹlu apẹẹrẹ ti o rọrun, eyi ti o jẹ ki oye mi pe ko si idan nibi.
Nigbati mo kọkọ ri EL ni iṣe (nṣiṣẹ pẹlu diẹ ninu awọn awoṣe atunṣe ti o rọrun pupọ) Emi ko le gbagbọ oju mi, ati pe Mo tun ranti ọjọgbọn ti o kọ mi ni ọna yii.
Mo ni awọn awoṣe oriṣiriṣi meji (awọn algoridimu ikẹkọ alailagbara meji) pẹlu awọn metiriki jade-ti-ayẹwo R² dọgba si 0,90 ati 0,93, lẹsẹsẹ. Ṣaaju wiwo abajade, Mo ro pe Emi yoo gba R² ibikan laarin awọn iye atilẹba meji. Ni awọn ọrọ miiran, Mo gbagbọ pe EL le ṣee lo lati jẹ ki awoṣe ṣe ko dara bi awoṣe ti o buru julọ, ṣugbọn kii ṣe daradara bi awoṣe ti o dara julọ le ṣe.
Si iyalenu nla mi, aropin aropin awọn asọtẹlẹ ti so R² kan ti 0,95.
Ni akọkọ Mo bẹrẹ si wa aṣiṣe naa, ṣugbọn lẹhinna Mo ro pe o le wa diẹ ninu idan ti o farapamọ nibi!
Kini Ẹkọ Ensemble
Pẹlu EL, o le darapọ awọn asọtẹlẹ ti awọn awoṣe meji tabi diẹ sii lati ṣe agbejade awoṣe ti o lagbara ati iṣẹ ṣiṣe. Awọn ilana pupọ wa fun ṣiṣẹ pẹlu awọn akojọpọ awoṣe. Nibi Emi yoo fi ọwọ kan awọn meji ti o wulo julọ lati fun ni awotẹlẹ.
Nipasẹ ifaseyin o ṣee ṣe lati ṣe iwọn iṣẹ ṣiṣe ti awọn awoṣe ti o wa.
Nipasẹ ipin O le fun awọn awoṣe ni aye lati yan awọn aami. Aami ti o yan julọ nigbagbogbo jẹ eyiti yoo yan nipasẹ awoṣe tuntun.
Kini idi ti EL ṣiṣẹ dara julọ
Idi akọkọ ti EL ṣe dara julọ ni pe gbogbo asọtẹlẹ ni aṣiṣe (a mọ eyi lati ilana iṣeeṣe), apapọ awọn asọtẹlẹ meji le ṣe iranlọwọ lati dinku aṣiṣe naa, nitorinaa mu awọn metiriki iṣẹ dara (RMSE, R², bbl) d.).
Aworan ti o tẹle yii fihan bi awọn algoridimu alailagbara meji ṣe n ṣiṣẹ lori ṣeto data kan. Algoridimu akọkọ ni ite ti o tobi ju ti o nilo lọ, lakoko ti ekeji ni o fẹrẹ jẹ odo (o ṣee ṣe nitori isọdọtun-lori). Sugbon okorin fihan Elo dara esi.
Ti o ba wo Atọka R², lẹhinna fun algoridimu ikẹkọ akọkọ ati keji yoo jẹ dogba si -0.01¹, 0.22, ni atele, lakoko fun akojọpọ yoo jẹ dogba si 0.73.
Awọn idi pupọ lo wa ti algorithm kan le jẹ awoṣe buburu paapaa lori apẹẹrẹ ipilẹ bii eyi: boya o pinnu lati lo isọdọtun lati yago fun apọju, tabi o pinnu lati ma ṣe akoso diẹ ninu awọn asemase, tabi boya o lo ifasilẹ awọn ilopọ pupọ ati pe o ni aṣiṣe. alefa (fun apẹẹrẹ, a lo iloyepo ti iwọn keji, ati data idanwo fihan asymmetry ko o fun eyiti ipele kẹta yoo dara julọ).
Nigbati EL ṣiṣẹ dara julọ
Jẹ ki a wo awọn algoridimu ikẹkọ meji ti n ṣiṣẹ pẹlu data kanna.
Nibi o le rii pe apapọ awọn awoṣe meji ko ni ilọsiwaju iṣẹ ṣiṣe pupọ. Ni ibẹrẹ, fun awọn algoridimu ikẹkọ meji, awọn olufihan R² jẹ dogba si -0,37 ati 0,22, ni atele, ati fun akojọpọ o yipada lati jẹ -0,04. Iyẹn ni, awoṣe EL gba iye apapọ ti awọn olufihan.
Bibẹẹkọ, iyatọ nla wa laarin awọn apẹẹrẹ meji wọnyi: ni apẹẹrẹ akọkọ, awọn aṣiṣe awoṣe ti ni ibamu ni odi, ati ni keji, wọn ni ibamu pẹlu daadaa (awọn iṣiro ti awọn awoṣe mẹta ko ni iṣiro, ṣugbọn ni yiyan ni yiyan nipasẹ onkọwe bi apẹẹrẹ.)
Nitorinaa, Ẹkọ Ensemble le ṣee lo lati mu iwọntunwọnsi aiṣedeede / iyatọ ni eyikeyi ọran, ṣugbọn nigbawo Awọn aṣiṣe awoṣe ko ni ibamu daadaa, lilo EL le ja si ilọsiwaju iṣẹ.
Isokan ati orisirisi awọn awoṣe
Nigbagbogbo EL ni a lo lori awọn awoṣe isokan (bii ninu apẹẹrẹ yii tabi igbo laileto), ṣugbọn ni otitọ o le ṣajọpọ awọn awoṣe oriṣiriṣi (ipadasẹhin laini + nẹtiwọọki nkankikan + XGBoost) pẹlu awọn eto oriṣiriṣi ti awọn oniyipada alaye. Eyi yoo ṣee ja si awọn aṣiṣe ti ko ni ibatan ati ilọsiwaju iṣẹ.
Afiwera pẹlu portfolio diversification
EL ṣiṣẹ bakannaa si isọdi-ọrọ ni imọ-ọrọ portfolio, ṣugbọn pupọ dara julọ fun wa.
Nigbati o ba n ṣe iyatọ, o gbiyanju lati dinku iyatọ ti iṣẹ rẹ nipasẹ idoko-owo ni awọn ọja ti ko ni ibamu. Apoti ti o yatọ daradara ti awọn ọja yoo ṣe dara julọ ju ọja kọọkan ti o buru ju, ṣugbọn kii ṣe dara julọ ju ti o dara julọ lọ.
Lati sọ Warren Buffett:
“Iyatọ jẹ aabo lodi si aimọkan; si ẹnikan ti ko mọ ohun ti o n ṣe, [iyipada] jẹ oye diẹ.”
Ninu ẹkọ ẹrọ, EL ṣe iranlọwọ lati dinku iyatọ ti awoṣe rẹ, ṣugbọn o le ja si awoṣe pẹlu iṣẹ ṣiṣe gbogbogbo dara julọ ju awoṣe atilẹba ti o dara julọ.
Jẹ ki a ṣe idajọ awọn esi
Apapọ awọn awoṣe pupọ sinu ọkan jẹ ilana ti o rọrun ti o rọrun ti o le ja si lohun iṣoro ti irẹwẹsi iyatọ ati ilọsiwaju iṣẹ.
Ti o ba ni awọn awoṣe meji tabi diẹ sii ti o ṣiṣẹ daradara, maṣe yan laarin wọn: lo gbogbo wọn (ṣugbọn pẹlu iṣọra)!
Ṣe o nifẹ si idagbasoke ni itọsọna yii? Wole soke fun a free Ririnkiri ẹkọ ati ki o kopa ninu - Ẹrọ Ẹkọ ẹrọ ni Ẹgbẹ Mail.ru.
orisun: www.habr.com