Xyoo no lub rooj sib tham tau coj ntau dua 13500 tus neeg los ntawm 80 lub teb chaws hauv Vancouver, Canada. Qhov no tsis yog thawj xyoo uas Sberbank tau sawv cev rau Russia ntawm lub rooj sib tham - pab pawg DS tau hais txog kev siv ML hauv cov txheej txheem hauv tuam txhab nyiaj, hais txog kev sib tw ML thiab txog lub peev xwm ntawm Sberbank DS platform. Dab tsi yog qhov tseem ceeb ntawm 2019 hauv ML zej zog? Cov neeg koom nrog lub rooj sab laj hais tias: Andrey Chertok и Tatyana Shavrina.
Xyoo no, NeurIPS tau txais ntau dua 1400 cov ntawv-algorithms, cov qauv tshiab, thiab cov ntawv thov tshiab rau cov ntaub ntawv tshiab. Txuas rau txhua yam ntaub ntawv
Ib hnub cais ntawm lub rooj sib tham tau mob siab rau rau lub rooj cob qhia RL, ntawm qhov kev ua yeeb yam zoo tshaj plaws rau tus neeg ua yeeb yam Critic Model architecture tau nthuav tawm, zoo dua rau txhua tus dhau los, tshwj xeeb yog Tus Neeg Ua Yeeb Yam Zoo Tshaj Plaws.
Niaj hnub no, tag nrho kev lag luam tau mob siab rau cov ntaub ntawv kev ruaj ntseg, sib sau ua ke, thiab rov ua dua ntawm cov txiaj ntsig kev kawm ntawm cov khoom siv hauv zos.
Federated kev kawm - ib qho kev taw qhia ntawm ML nyob rau hauv uas ib tus qauv kawm ntawm nws tus kheej ntawm ib leeg thiab tom qab ntawd muab tso rau hauv ib qho qauv (tsis muaj cov ntaub ntawv hauv nruab nrab), hloov kho rau cov xwm txheej tsis tshua muaj, tsis zoo, tus kheej, thiab lwm yam. Tag nrho cov khoom siv hauv Android yog qhov tseem ceeb ib qho kev suav supercomputer rau Google.
Cov qauv tsim qauv raws li kev kawm hauv tsoomfwv yog qhov kev cog lus rau yav tom ntej raws li Google, uas yog "thaum ntxov ntawm kev loj hlob exponential." GANs, raws li tus kws qhia ntawv, muaj peev xwm kawm los tsim cov cwj pwm loj ntawm cov neeg nyob hauv cov kab mob thiab kev xav algorithms.
Siv cov piv txwv ntawm ob qho yooj yim GAN architectures, nws tau qhia tias nyob rau hauv lawv cov kev tshawb fawb rau ib qho optimization txoj kev wanders nyob rau hauv ib lub voj voog, uas txhais tau hais tias optimization xws li tsis tshwm sim. Nyob rau tib lub sijhawm, cov qauv no muaj kev vam meej hauv kev simulating cov kev sim uas cov kws tshawb fawb biologists ua rau cov kab mob, yuam kom lawv kawm cov tswv yim coj cwj pwm tshiab hauv kev tshawb nrhiav zaub mov. Peb tuaj yeem xaus tias lub neej ua haujlwm txawv dua li kev ua kom zoo dua qub.
Nws muaj cov lus qhia ntawm qhov kev loj hlob ntawm instinctive (lub siab xav kawm lus ntawm tus me nyuam mos, taug kev ncaj)
Kev cob qhia ib tus neeg lub hlwb yog ib txoj haujlwm qis; tej zaum peb yuav tsum xav txog "cov cheeb tsam" ntawm cov tib neeg hloov pauv sai sai rau kev paub txog ib leeg los tsim cov txheej txheem ntawm pawg evolution.
Dab tsi peb tuaj yeem siv rau hauv ML algorithms tam sim no:
Siv cov qauv ntawm tes uas ua kom muaj kev kawm ntawm cov pej xeem, tab sis lub neej luv luv ntawm tus kheej ("ib leeg hlwb")
Ob peb-steev kawm siv ib tug me me piv txwv
Ntau cov txheej txheem neuron, sib txawv me ntsis kev ua haujlwm
Hloov cov "genome" mus rau tiam tom ntej - backpropagation algorithm
Thaum peb txuas neurophysiology thiab neural tes hauj lwm, peb yuav kawm los tsim ib lub hlwb multifunctional los ntawm ntau yam.
Los ntawm qhov kev xav no, kev coj ua ntawm SOTA cov kev daws teeb meem tsis zoo thiab yuav tsum tau kho dua tshiab rau kev tsim cov dej num sib xws (cov qauv ntsuas).
"Veridical Data Science", Bin Yu (Berkeley)
Yeeb yaj duab thiab slides
Daim ntawv tshaj tawm tau mob siab rau qhov teeb meem ntawm kev txhais cov qauv kev kawm tshuab thiab cov txheej txheem rau lawv qhov kev ntsuam xyuas ncaj qha thiab pov thawj. Txhua tus qauv ML tau txais kev cob qhia tuaj yeem pom tau tias yog qhov kev paub uas yuav tsum tau muab rho tawm los ntawm nws.
Peb lub hauv paus ntsiab lus no tsim lub hauv paus ntawm cov txheej txheem tshiab. Cov qauv ML tuaj yeem kuaj tau li cas los ntawm cov qauv no? Txoj kev yooj yim tshaj plaws yog tsim cov qauv kev txhais tau sai (regressions, txiav ntoo). Txawm li cas los xij, peb kuj xav tau cov txiaj ntsig tam sim ntawm kev kawm tob.
Muaj ntau txoj hauv kev los ua haujlwm nrog qhov teeb meem:
Kev ua qauv tsis raug yog kim rau txhua tus neeg: qhov piv txwv tseem ceeb yog kev ua haujlwm ntawm Reinhart thiab Rogov. "Kev loj hlob nyob rau hauv ib lub sij hawm ntawm cov nuj nqis" cuam tshuam rau txoj cai tswjfwm kev lag luam ntawm ntau lub tebchaws nyob sab Europe thiab yuam kom lawv ua raws li txoj cai tswjfwm, tab sis ua tib zoo rov xyuas cov ntaub ntawv thiab lawv cov kev ua haujlwm xyoo tom qab tau pom qhov txawv txav!
Txhua lub tshuab ML muaj nws lub neej voj voog ntawm kev siv mus rau kev siv. Lub hom phiaj ntawm txoj kev tshiab yog los xyuas peb lub hauv paus ntsiab lus ntawm txhua theem ntawm tus qauv lub neej.
Cov txiaj ntsig:
Ntau qhov haujlwm tau tsim los uas yuav pab tau tus qauv ML kom ntseeg tau ntau dua. Qhov no yog, piv txwv li, deeptune (txuas mus rau: github.com/ChrisCummins/paper-end2end-dl);
Txog tam sim no tus qauv phem tshaj plaws yog vim cov ntaub ntawv tsis txaus. Raws li qhov piv txwv, ua haujlwm los ntawm 2018 - 2019 tau qhia. ntawm kaum ob tus neeg X kaum ob ntawm cov yeeb yaj kiab (cf. 100k++ duab datasets). Txhawm rau ua qauv zoo tshaj plaws rau txoj haujlwm no, cov ntaub ntawv multimodal yog xav tau, nyiam dua los ntawm cov sensors ntawm lub cev qhov ntsuas, ntsuas kub, ntsuas microphone, thiab lwm yam.
Kev coj cwj pwm loj
Qhov chaw tsim kho tshaj plaws, txij li cov neeg siv khoom yog UN thiab ntau lub xeev. Lub koob yees duab saib sab nraum zoov, cov ntaub ntawv los ntawm xov tooj yees - kev them nqi, SMS, hu, cov ntaub ntawv ntawm kev txav mus los ntawm lub xeev ciam teb - tag nrho cov no muab cov duab zoo heev ntawm kev txav ntawm tib neeg thiab kev tsis sib haum xeeb. Muaj peev xwm siv thev naus laus zis: kev ua kom zoo ntawm kev ua haujlwm cawm, kev pab thiab kev khiav tawm raws sijhawm ntawm cov pej xeem thaum muaj xwm txheej ceev. Cov qauv siv feem ntau tseem txhais tau tsis zoo - cov no yog ntau yam LSTMs thiab kev sib txuas lus sib txuas. Muaj lus hais luv luv tias UN tab tom tos txais txoj cai tshiab uas yuav yuam kom cov lag luam nyob sab Europe qhia cov ntaub ntawv tsis qhia npe tsim nyog rau kev tshawb fawb.
“Los ntawm System 1 txog System 2 Deep Learning”, Yoshua Bengio
Cov swb
Hauv Joshua Bengio cov lus qhuab qhia, kev kawm tob ua tau raws li kev tshawb fawb txog neuroscience ntawm theem ntawm lub hom phiaj.
Bengio txheeb xyuas ob hom teeb meem loj raws li cov txheej txheem ntawm Nobel laureate Daniel Kahneman (phau ntawv "Xav qeeb, txiav txim siab sai")
hom 1 - System 1, kev tsis nco qab uas peb ua "automatically" (lub hlwb qub): tsav tsheb hauv qhov chaw paub, taug kev, pom lub ntsej muag.
hom 2 - Qhov System 2, kev ua siab zoo (cerebral cortex), lub hom phiaj, kev tsom xam, kev xav, kev ua haujlwm sib xyaw.
Txog tam sim no AI tau mus txog qhov siab txaus nkaus xwb hauv cov haujlwm ntawm thawj hom, thaum peb txoj haujlwm yog coj mus rau qhov thib ob, qhia nws ua haujlwm ntau yam kev qhuab qhia thiab ua haujlwm nrog kev xav thiab kev paub txog qib siab.
Yuav kom ua tiav lub hom phiaj no nws tau npaj tseg:
hauv NLP cov dej num, siv kev mloog raws li lub hauv paus ntsiab lus rau kev xav ua qauv