Ei Habr! Matou te vala'aulia Fa'amatalaga Inisinia ma Masini Fa'apitoa e a'oa'oina i se lesona Fa'ata'ita'i fua . Matou te faʻasalalau foʻi le tala Luca Monno - Ulu o Faʻamatalaga Tau Tupe i CDP SpA.
O se tasi o auala sili ona aoga ma faigofie e aʻoaʻo ai masini ole Ensemble Learning. Ensemble Learning o le auala lea i tua XGBoost, Bagging, Random Forest ma le tele o isi algorithms.
E tele tala lelei ile Towards Data Science, ae na ou filifilia ni tala se lua ( и ) lea na sili ona ou fiafia i ai. Aisea la e tusi ai se isi tala e uiga i le EL? Aua ou te fia faaali atu ia te oe pe faapefea ona galue i se faʻataʻitaʻiga faigofie, lea na ou malamalama ai e leai se togafiti faataulaitu iinei.
Ina ua ou vaai muamua i le EL i le gaioiga (galue ma ni faʻataʻitaʻiga faʻasolosolo faigofie) sa le mafai ona ou talitonu i oʻu mata, ma ou te manatua pea le polofesa na aʻoaʻoina aʻu i lenei metotia.
E lua aʻu faʻataʻitaʻiga eseese (lua vaivai aʻoaʻoga algorithms) faʻatasi ma metrics fafo-o-fa'ata'ita'iga R² tutusa ma le 0,90 ma le 0,93, fa'asologa. Aʻo leʻi vaʻavaʻai i le iʻuga, na ou manatu o le a ou mauaina se R² i se mea i le va o tau muamua e lua. I se isi faaupuga, sa ou talitonu e mafai ona faʻaogaina le EL e fai ai se faʻataʻitaʻiga e le lelei e pei o le sili ona leaga faʻataʻitaʻiga, ae e le o se faʻataʻitaʻiga sili ona lelei e mafai ona faatino.
I loʻu ofo tele, na o le averesi o valoʻaga na maua ai le R² o le 0,95.
I le taimi muamua na amata ona ou suʻeina le mea sese, ae na ou manatu atonu e iai se togafiti faʻataulāitu o loʻo natia iinei!
O le a le Ensemble Learning
Faatasi ai ma le EL, e mafai ona e tuʻufaʻatasia faʻamatalaga o ni faʻataʻitaʻiga se lua pe sili atu e maua ai se faʻataʻitaʻiga sili atu ona malosi ma faʻatino. E tele metotia mo le galue ma faʻataʻitaʻiga ensembles. O iinei o le a ou pa'i atu ai i mea e lua e sili ona aoga e avatu ai se aotelega.
Faatasi ai ma le fesoasoani a solomuli e mafai ona averesi le faatinoga o faʻataʻitaʻiga avanoa.
Faatasi ai ma le fesoasoani a faʻavasegaga E mafai ona e tuʻuina atu faʻataʻitaʻiga le avanoa e filifili ai igoa. O le faʻailoga e sili ona filifilia o le mea lea o le a filifilia e le faʻataʻitaʻiga fou.
Aisea e sili atu ai le lelei o le EL
O le mafuaaga autu e sili atu ai le lelei o le EL ona o valoʻaga uma e iai se mea sese (matou te iloa lenei mea mai le faʻalavelave faʻafuaseʻi), o le tuʻufaʻatasia o faʻamatalaga e lua e mafai ona fesoasoani e faʻaitiitia le mea sese, ma faʻaleleia ai fua faʻatinoga (RMSE, R², ma isi). d.).
O le ata o loʻo i lalo o loʻo faʻaalia ai le faʻaogaina o algorithms vaivai e lua i luga o se seti faʻamaumauga. O le algorithm muamua o loʻo i ai se lapoʻa sili atu nai lo le manaʻomia, ae o le lona lua e toetoe lava leai se mea (atonu ona o le soona faʻatonuina). Ae ensemble fa'aalia i'uga sili atu.
Afai e te vaʻavaʻai i le faʻailoga R², ona mo le muamua ma le lona lua aʻoaʻoga algorithm o le a tutusa ma -0.01¹, 0.22, i le faasologa, ae mo le ensemble o le a tutusa ma le 0.73.
E tele mafuaʻaga e mafai ai e se algorithm ona avea ma faʻataʻitaʻiga leaga e oʻo lava i luga o se faʻataʻitaʻiga masani e pei o lenei: masalo na e filifili e faʻaaoga le faʻatonuina e aloese ai mai le faʻaogaina, pe na e filifili e le faʻasalaina nisi faʻalavelave, pe atonu na e faʻaaogaina le polynomial regression ma maua ai le sese tikeri (mo se faʻataʻitaʻiga, matou te faʻaaogaina se polynomial o le tikeri lona lua, ma o faʻamaumauga o suʻega o loʻo faʻaalia ai se faʻaogaina manino lea e sili atu ona fetaui le tikeri lona tolu).
Pe a lelei le galue EL
Se'i o tatou va'ava'ai i ni a'oa'oga algorithms se lua o lo'o galulue fa'atasi ma fa'amaumauga tutusa.
O iinei e mafai ona e vaʻaia ai o le tuʻufaʻatasia o faʻataʻitaʻiga e lua e leʻi faʻaleleia atili ai le faʻatinoga. I le taimi muamua, mo le lua aʻoaʻoga algorithms, o le R² faʻailoga e tutusa ma le -0,37 ma le 0,22, i le faasologa, ma mo le ensemble na faʻaalia -0,04. O lona uiga, na maua e le faʻataʻitaʻiga EL le tau averesi o faʻailoga.
Ae ui i lea, o loʻo i ai se eseesega tele i le va o nei faʻataʻitaʻiga e lua: i le faʻataʻitaʻiga muamua, o mea sese faʻataʻitaʻiga na faʻamaopoopo le lelei, ma i le lona lua, na faʻamaopoopo lelei (o le faʻatusatusaina o faʻataʻitaʻiga e tolu e leʻi fuafuaina, ae na filifilia e le tusitala e fai ma faʻataʻitaʻiga.)
O le mea lea, Ensemble Learning e mafai ona faʻaogaina e faʻaleleia ai le paleni / faʻaituau paleni i soʻo se tulaga, ae a Fa'ata'ita'iga sese e le o fa'amaopoopo lelei, o le fa'aaogaina o le EL e mafai ona fa'aleleia atili ai le fa'atinoga.
Faʻataʻitaʻiga tutusa ma faʻataʻitaʻiga
E masani ona faʻaaogaina le EL i luga o faʻataʻitaʻiga tutusa (pei o lenei faʻataʻitaʻiga poʻo le vaomatua faʻafuaseʻi), ae o le mea moni e mafai ona e tuʻufaʻatasia faʻataʻitaʻiga eseese (linear regression + neural network + XGBoost) faʻatasi ai ma seti eseese o fesuiaiga faʻamalamalama. E ono i'u ai i mea sese e le'i fa'amaopoopoina ma fa'aleleia atili le fa'atinoga.
Fa'atusatusaga ma le fa'avasegaina o faila
E tutusa lelei le galue o le EL ma le fa'avasegaina o le fa'aupuga, ae sili atu le lelei mo i tatou.
A fa'avasegaina, e te taumafai e fa'aitiitia le eseesega o lau fa'atinoga e ala i le teu fa'afaigaluegaina o fa'asoa e le fa'atasi. O se fa'asoa fa'avasega lelei o fa'asoa o le a sili atu le fa'atinoga nai lo fa'atauga ta'ito'atasi e sili ona leaga, ae e le sili atu nai lo le sili.
Ina ia sii mai Warren Buffett:
"O le faʻavasegaina o se puipuiga mai le valea; i se tasi e le iloa le mea o loʻo ia faia, o le [faʻavasegaina] e leai se uiga."
I le a'oa'oina o masini, e fesoasoani le EL e fa'aitiitia le eseesega o lau fa'ata'ita'iga, ae e ono i'u ai i se fa'ata'ita'iga e sili atu lona fa'atinoga nai lo le fa'ata'ita'iga sili ona lelei.
Sei o tatou faʻasalaga iuga
O le tuʻufaʻatasia o le tele o faʻataʻitaʻiga i le tasi o se auala faigofie e mafai ona oʻo atu ai i le foia o le faʻafitauli o le faʻaituau o le eseesega ma le faʻaleleia o le faʻatinoga.
Afai e lua pe sili atu au faʻataʻitaʻiga e aoga lelei, aua le filifili i latou: faʻaoga uma (ae faʻaeteete)!
E fiafia e atia'e i lea itu? Saini mo se lesona Fa'ata'ita'i fua ma auai i - Inisinia aʻoaʻoga masini ile Mail.ru Group.
puna: www.habr.com