I tukuna tata nei , e whakaatu ana i te ahua pai o te ako miihini i nga tau tata nei. Hei poto: kua heke te maha o nga tiimata ako miihini i nga tau e rua kua hipa.
Kaati. Ka titiro tatou ki te "kua pakaru te mirumiru", "me pehea te noho tonu" me te korero mo te wahi i puta mai ai tenei pupuhi i te tuatahi.
Tuatahi, me korero tatou he aha te mea i whakanui i tenei pihi. No hea ia? Ka mahara pea ratou ki nga mea katoa ako miihini i te tau 2012 i te whakataetae ImageNet. Ina hoki, koinei te huihuinga tuatahi o te ao! Engari i roto i te mooni ehara tenei i te ahua. Na ka timata te tipu o te pihi i mua tata ake. Ka wehewehea e ahau kia maha nga waahanga.
- I kite a 2008 i te putanga o te kupu "raraunga nui". I timata nga hua tuturu mai i te tau 2010. Ko nga raraunga nui e pa ana ki te ako miihini. Ki te kore he raraunga nui, kaore e taea te mahi tuturu o nga algorithms i tera wa. A ehara enei i nga whatunga neural. Tae noa ki te tau 2012, ko nga whatunga neural te tiaki o te hunga tokoiti. Engari katahi ka tiimata nga mahi rereke rereke, kua roa nga tau, i nga tau tekau ranei: (1963,1993), (1995), (2003),... Ko nga timatanga o aua tau e hono ana ki te tukatuka aunoa o nga raraunga hanganga: rehita moni, kaiwhakamahi, panui, nui atu.
Ko te hua o tenei ngaru tuatahi he huinga anga penei i te XGBoost, CatBoost, LightGBM, etc.
- I te tau 2011-2012 i toa i te maha o nga whakataetae tohu whakaahua. He ahua whakaroa to ratou whakamahinga. Ka kii ahau i timata nga whakaoho me nga otinga tino nui i te tau 2014. E rua tau te roa ki te keri i te mahi tonu o nga neurons, ki te hanga anga watea ka taea te whakauru me te whakarewa i roto i te wa tika, ki te whakawhanake tikanga e whakapumau ai, e tere ake ai te wa whakakotahi.
Ko nga whatunga convolutional i taea ki te whakaoti rapanga tirohanga rorohiko: te whakarōpūtanga o nga whakaahua me nga taonga i roto i te ahua, te kitenga ahanoa, te mohio ki nga taonga me nga tangata, te whakapai ake i te ahua, me era atu, aha atu.
- 2015-2017. Te pupuhi o nga algorithms me nga kaupapa e pa ana ki nga whatunga recurrent me o raatau taapiri (LSTM, GRU, TransformerNet, me etahi atu). Kua puta te pai o te mahi a te kupu-ki-kupu algorithm me nga punaha whakamaori miihini. Ko tetahi waahanga kei runga i nga hononga honohono hei tango i nga ahuatanga taketake. Ko tetahi waahanga na te mea i ako matou ki te kohikohi i nga huingararaunga nui me te pai.
“Kua pakaru te mirumiru? Kei te wera rawa te panui? I mate ratou hei poraka?
Kore! Apopo ka mutu te mahi a Siri i runga i to waea, a hei te ra i muri apopo kare a Tesla e mohio ki te rereketanga o te huri me te kangaroo.
Kei te mahi tonu nga whatunga neural. Kei roto ratou i te maha o nga taputapu. Ka tino whakaaetia koe ki te whiwhi moni, huri i te maakete me te ao huri noa i a koe. He rereke te ahua o te Hype:
Ko nga whatunga neural ehara i te mea hou. Ae, he nui nga tumanako a te tini o nga tangata. Engari he maha nga kamupene kua ako ki te whakamahi i nga neuron me te hanga hua i runga i a raatau. Ko nga Neurons he mahi hou, ka taea e koe te tapahi mahi, me te whakaheke i te utu o nga ratonga:
- Ko nga kamupene hangahanga kei te whakauru i nga algorithms ki te tarai i nga hapa o te raina whakaputa.
- Ka hokona e nga paamu kararehe nga punaha hei whakahaere i nga kau.
- Ka hono aunoa.
- Pokapū Waea Aunoa.
- Tātari i SnapChat. (Ae, he mea whai hua!)
Engari ko te mea nui, ehara i te mea tino kitea: "Karekau he whakaaro hou, karekau ranei e kawe mai i te whakapaipai tere." He maha nga raru kua whakatauhia e nga whatunga neural. A ka nui ake ta ratou whakatau. Ko nga whakaaro mohio katoa i puta mai he maha nga tiimata. Engari ko nga mea katoa i runga i te mata kua oti te kohikohi. I roto i nga tau e rua kua pahure ake nei, kaore au i kite i tetahi whakaaro hou mo te whakamahi i nga whatunga neural. Karekau he huarahi hou (he pai, he pai, he iti noa nga raru ki nga GAN).
A ko ia whakaoho i muri mai ka nui ake te uaua. Kaore e hiahiatia kia rua nga taangata e whakangungu ana i te neuron ma te whakamahi i nga raraunga tuwhera. Ka hiahiatia he kaiwhakaputa, he tūmau, he roopu tohu, he tautoko uaua, aha atu.
Ko te mutunga, he iti ake nga tiimata. Engari he nui ake te whakaputa. Me taapiri te tohu tohu raihana? He rau nga tohunga whai wheako e tika ana i runga i te maakete. Ka taea e koe te utu i tetahi, a i roto i nga marama e rua ka mahia e to kaimahi te punaha. Hokona ranei kua rite. Engari kei te mahi he whakaoho hou?.. Haurangi!
Me hanga e koe he punaha aroturuki manuhiri - he aha te utu mo te maha o nga raihana ka taea e koe te hanga i a koe ake i roto i te 3-4 marama, whakakoi mo to pakihi.
Inaianei kei te haere nga whatunga neural i te huarahi ano i mahia e te tini o etahi atu hangarau.
Kei te mahara koe he pehea te rereke o te kaupapa "kaiwhakawhanake paetukutuku" mai i te 1995? Ko te maakete kaore ano kia makona ki nga tohunga. He iti noa nga tohunga ngaio. Engari ka taea e au te kii i roto i nga tau 5-10 karekau he rerekee i waenga i te kaiwhakaputa Java me te kaiwhakawhanake whatunga neural. Ka nui nga tohunga e rua i runga i te maakete.
Ka puta noa he momo raruraru ka taea e nga neurons te whakatau. Kua ara ake he mahi - utu he tohunga.
"He aha to muri mai? Kei hea te matauranga hangai i whakaaria mai?”
Engari i konei he pohehe iti engari whakamere :)
Ko te kohinga hangarau e noho nei i tenei ra, ko te ahua, kaore e arahi i a tatou ki te maarama mohio. Ko nga whakaaro me o raatau mea hou kua tino ngenge. Me korero tatou mo nga mea e mau ana i te taumata o te whanaketanga o naianei.
Whakataunga
Me timata tatou ki nga waka taraiwa whaiaro. Ko te ahua marama ka taea te hanga motuka motuhake me nga hangarau o enei ra. Engari e hia nga tau ka puta tenei kaore i te marama. E whakapono ana a Tesla ka tupu tenei i roto i nga tau e rua -
He maha atu ano , ko wai e whakatau ana ki te 5-10 tau.
Ko te mea pea, ki taku whakaaro, i roto i nga tau 15 ka huri ano nga hanganga o nga taone nui kia kore e taea te puta mai o nga motuka motuhake ka noho tonu. Engari kaore e taea te kiia he matauranga. Ko Tesla hou he paipa tino uaua mo te tātari raraunga, te rapu me te whakangungu ano. He ture-ture-ture, kohinga raraunga me nga whiriwhiringa ki runga i a raatau (i konei I tuhia e au etahi atu korero mo tenei, maataki mai ranei tohu).
Tuatahi raru
A koinei te wahi e kite ai tatou raruraru taketake tuatahi. Raraunga nui. Koinei tonu te mea i whanau ai te ngaru o naianei o nga whatunga neural me te ako miihini. I enei wa, ki te mahi i tetahi mea uaua me te aunoa, me nui nga raraunga. Ehara i te mea he nui noa, engari he tino nui. Kei te hiahia matou i nga huringa aunoa mo o raatau kohinga, tohu me te whakamahi. Kei te pirangi matou kia kite te motuka i nga taraka e anga atu ana ki te ra - me kohi i te rahi o aua taraka i te tuatahi. Kei te pirangi matou kia kaua te motoka e porangi me te paihikara kua tutakina ki te katua - he tauira ano.
I tua atu, kaore e ranea tetahi tauira. rau? He mano?
Raru tuarua
Raru tuarua — whakakitenga i nga mea i maarama ai to maatau whatunga neural. He mahi tino kore noa tenei. Tae noa ki tenei wa, he iti noa nga tangata e mohio ana me pehea te whakaata i tenei. No tata nei enei tuhinga, he tauira noa enei, ahakoa he tawhiti:
te aro ki nga kakano. E whakaatu pai ana he aha te ahua o te neuron ki te whakatika i runga i nga mea e kiia ana he korero timata.
Te aro ki . Inaa, he maha nga wa ka taea te whakamahi i te kukume ki te whakaatu he aha te take o taua tauhohenga whatunga. Kua kite ahau i nga mea penei mo te patuiro me nga otinga hua. He maha nga tuhinga mo tenei kaupapa. Engari ko te uaua ake o nga raraunga, he uaua ake te maarama me pehea te whakatutuki i te tirohanga tino pakari.
Ae, ae, ko te huinga tawhito pai "tirohia he aha kei roto i te mata " Ko enei pikitia he mea rongonui 3-4 tau ki muri, engari ka mohio te katoa he ataahua nga pikitia, engari kaore i te nui te tikanga.
Kaore au i whakahua i etahi atu taputapu, tikanga, hacks, rangahau me pehea te whakaatu i nga roto o te whatunga. Kei te mahi enei taputapu? Ka awhina koe ki te mohio wawe he aha te raru me te patuiro i te whatunga?.. Tikina te ōrau whakamutunga? Ae, he rite tonu:
Ka taea e koe te matakitaki i tetahi whakataetae i runga i a Kaggle. Me te whakamaarama me pehea te whakatau a te tangata. 100-500-800 nga waahanga tauira i whakahiatohia e matou, a ka pai!
Kei te whakanui ahau, o te akoranga. Engari karekau enei huarahi e tuku whakautu tere me te tika.
He nui nga wheako, kua huri i nga whiringa rereke, ka taea e koe te whakatau he aha i whakatau ai to punaha. Engari ka uaua ki te whakatika i te whanonga o te punaha. Tāutahia he korukoru, nekehia te paepae, taapirihia he huingararaunga, tangohia tetahi atu whatunga tuara.
raruraru tuatoru
Raruraru Taketake Tuatoru — Ko nga matiti e whakaako ana i nga tatauranga, ehara i te arorau. Tatauranga tenei :
Ma te arorau, kaore i te tino rite. Ko nga whatunga neural e kore e ako i tetahi mea uaua mena ka akiakihia. Ka ako tonu ratou i nga tohu ngawari rawa atu. He kanohi, he ihu, he upoko? Na ko te kanohi tenei! Homai he tauira karekau he kanohi he kanohi. Na ano - miriona tauira.
He nui te ruma kei Raro
Ka kii ahau ko enei raru e toru o te ao e whakatiki ana i te whanaketanga o nga whatunga neural me te ako miihini. A, ki te kore enei raruraru i whakawhäitihia, kua kaha te whakamahi.
Ko te mutunga tenei? Kua eke nga whatunga neural?
Kaore i te mohiotia. Engari, ko te tikanga, kaore nga tangata katoa e tumanako.
He maha nga huarahi me nga tohutohu ki te whakaoti i nga rapanga taketake kua tohua e au i runga ake nei. Engari i tenei wa, kaore tetahi o enei huarahi i taea te mahi i tetahi mea hou, ki te whakaoti i tetahi mea kaore ano kia whakatauhia. I tenei wa, kei te mahia nga kaupapa matua katoa i runga i nga huarahi pumau (Tesla), kei te noho tonu ranei nga kaupapa whakamatautau o nga whare wananga me nga umanga (Google Brain, OpenAI).
Ko te korero, ko te huarahi matua ko te hanga i etahi whakaaturanga taumata teitei o nga raraunga whakauru. I roto i te tikanga, "mahara". Ko te tauira tino ngawari o te mahara he momo "Whakamau" - he whakaahua whakaahua. Ana, hei tauira, nga punaha tohu kanohi katoa. Ka ako te whatunga ki te tiki mai i tetahi kanohi etahi tohu pumau kaore e whakawhirinaki ki te hurihanga, rama, whakatau ranei. Ko te tikanga, ka whakaitihia e te whatunga te inenga "he matara nga kanohi rereke" me "he tata nga kanohi rite."
Mo enei whakangungu, tekau me rau mano nga tauira e hiahiatia ana. Engari ko te hua ka mau i etahi o nga kaupapa o te "Akoranga Kotahi". Inaianei kaore e hiahiatia he rau kanohi hei maumahara ki tetahi tangata. Kotahi noa te kanohi, ko tatou anake !
Kotahi noa te raru... Ka taea e te matiti te ako i nga mea ngawari noa. I te wa e ngana ana ki te wehewehe i nga kanohi, engari, hei tauira, "nga tangata ma te kakahu" (mahi ) - ka heke te kounga ma te maha o nga tikanga o te rahi. A kaore e taea e te whatunga te ako i nga huringa tino kitea i roto i nga koki.
A ko te ako mai i nga miriona tauira he ahua ngahau.
He mahi ki te whakaiti nui i nga pooti. Hei tauira, ka taea e tetahi te maumahara tonu tetahi o nga mahi tuatahi Ako OneShot :
He maha nga mahi pera, hei tauira ranei ranei .
Kotahi te iti - he pai te mahi whakangungu i runga i etahi tauira ngawari, "MNIST". A, i te wa e neke atu ana ki nga mahi uaua, ka hiahia koe ki tetahi papaarangi nui, he tauira o nga taonga, etahi momo makutu ranei.
I te nuinga o te waa, ko te mahi whakangungu Kotahi-Shot he kaupapa tino pai. Ka kitea e koe he maha o nga whakaaro. Engari mo te nuinga, ko nga raru e rua kua whakarārangihia e au (te whakangungu i runga i te huinga huingararaunga nui / te kore pumau i runga i nga raraunga matatini) ka raru te ako.
I tetahi atu taha, ko nga GANs—whatunga whakawhanaunga whakaputa—e whakatata ana ki te kaupapa o te Whakamau. Kua panuihia pea e koe etahi tuhinga mo Habré mo tenei kaupapa. (, ,)
Ko tetahi ahuatanga o te GAN ko te hanganga o etahi waahi o roto (he rite tonu te Whakamau), ka taea e koe te tuhi whakaahua. Ka taea , ka taea .
Ko te raruraru ki te GAN ko te uaua ake o te ahanoa i hangaia, ko te uaua ake ki te whakaahua i roto i te arorau "generator-discriminator". Ko te mutunga, ko nga tono pono o te GAN e rongohia ana ko DeepFake, ano, e whakahaere ana i nga tohu kanohi (he turanga nui tera).
He iti noa atu nga whakamahinga whaihua kua kitea e au. I te nuinga o te wa ko etahi momo mahi tinihanga e pa ana ki te whakaoti i nga tuhi pikitia.
A ano. Kaore he tangata e mohio me pehea e taea ai e tatou te neke ki te ao marama. He pai te whakaatu i te arorau/mokowā i roto i te whatunga neural. Engari e hiahia ana matou ki te maha o nga tauira, kaore matou e mohio me pehea te tohu o te neuron i roto i a ia ano, kaore matou e mohio me pehea te mahara o te neuron ki etahi whakaaro tino uaua.
Te ako whakaū - he huarahi tenei mai i te huarahi rereke. He pono ka mahara koe ki te whiu a Google i nga tangata katoa i roto i a Go. Nga wikitoria tata nei i Starcraft me Dota. Engari i konei ko nga mea katoa kei tawhiti atu i te maamaa me te pai. He pai tana korero mo RL me ona uauatanga .
Hei whakapoto poto i ta te kaituhi i tuhi:
- Ko nga tauira o waho o te pouaka kaore e pai / mahi kino i te nuinga o nga keehi
- He ngawari ake te whakaoti rapanga mahi ma etahi atu huarahi. Karekau a Boston Dynamics e whakamahi i te RL na te uauatanga/te kore matapae/te uaua o te rorohiko
- Mo te mahi a RL, me whai mahi uaua. He uaua ki te hanga/tuhi
- He uaua ki te whakangungu tauira. Me whakapau koe i te wa roa ki te pupuhi me te puta atu i te tino pai o te rohe
- Ko te mutunga, he uaua ki te whakahoki ano i te tauira, karekau te tauira me nga huringa paku
- I te nuinga o nga wa ka uru ki etahi tauira matapōkere, ara he kaihanga tau matapōkere
Ko te mea nui ko te RL kaore ano kia mahi i roto i nga mahi whakaputa. He whakamatautau a Google ( , ). Engari kaore au i kite i tetahi punaha hua kotahi.
Pūmahara. Ko te kino o nga mea katoa i whakaahuahia i runga ake nei ko te kore o te hanganga. Ko tetahi o nga huarahi ki te ngana ki te whakapai i enei mea katoa ko te whakarato i te whatunga neural ki te uru ki te mahara motuhake. Kia taea e ia te tuhi me te tuhi ano i nga hua o ana hikoi ki reira. Na ka taea te whakatau i te whatunga neural e te ahua mahara o naianei. He tino rite tenei ki nga tukatuka matarohia me nga rorohiko.
Ko te tino rongonui me te rongonui — mai i DeepMind:
Te ahua nei koinei te matua ki te mohio ki te matauranga? Engari kaore pea. Kei te hiahia tonu te punaha i te nui o nga raraunga mo te whakangungu. A ko te nuinga o te mahi me nga raraunga ripanga hanganga. Ano, ka Facebook he raruraru rite, katahi ka whai ratou i te huarahi "ka huri i te mahara, kia uaua ake te neuron, me te maha atu o nga tauira - a ka ako i a ia ano."
Wehenga. Ko tetahi atu huarahi ki te hanga mahara whai kiko ko te tango i nga whakaurunga ano, engari i te wa e whakangungu ana, whakaurua etahi atu paearu e taea ai e koe te whakaatu "tikanga" ki roto. Hei tauira, e hiahia ana matou ki te whakangungu i te whatunga neural ki te wehewehe i nga ahuatanga o te tangata i roto i te toa. Mena ka whai tatou i te huarahi paerewa, me hanga he tatini whatunga. Ko tetahi kei te rapu tangata, ko te tuarua ko te whakatau he aha tana mahi, ko te tuatoru ko ona tau, ko te tuawha ko tana ira tangata. Ko te arorau motuhake ka titiro ki te wahanga o te toa kei reira/kua whakangungua ki te mahi i tenei. Ko te tuatoru ka whakatau i tana huarahi, etc.
Mena he nui rawa nga raraunga, katahi ka taea te whakangungu i tetahi whatunga mo nga hua katoa ka taea (mehemea, kaore e taea te kohi i enei momo raraunga).
E kii ana te huarahi wetewete - me whakangungu tatou i te whatunga kia taea ai e ia te wehewehe i nga kaupapa. Na ka hanga he whakauru i runga i te ataata, ka whakatauhia e tetahi waahi te mahi, ka whakatau tetahi i te waahi i runga i te papa i te wa, ka whakatauhia e tetahi te teitei o te tangata, ka whakatauhia e tetahi te ira tangata. I te wa ano, i te wa e whakangungu ana, e hiahia ana ahau kia kaua e akiaki i te whatunga me nga kaupapa matua penei, engari mo te whakanui me te whakarōpū i nga waahanga. He iti noa nga tuhinga penei (etahi o ratou , , ) a, i te nuinga o te waa he tino whakaaro.
Engari ko tenei ahunga, i te iti rawa o te whakaaro, me hipoki nga raruraru kua tuhia i te timatanga.
Te whakapohehetanga o te ahua i runga i nga tawhā "tae pakitara/tae papa/ahua mea/tae ahanoa/etc."
Te pirau o te kanohi i runga i nga tawhā "rahi, tukemata, takotoranga, tae kiri, aha atu."
Ētahi atu
He maha atu, ehara i te ao, nga waahi ka taea e koe te whakaiti i te paataka raraunga, te mahi me nga raraunga rerekee, aha atu.
web. Kaore pea he tikanga ki te wehe i tenei hei tikanga motuhake. He huarahi e whakanui ana i etahi atu. He maha nga tuhinga kua whakatapua ki a ia (,,). Ko te kaupapa o te aro ko te whakarei ake i te urupare a te whatunga ki nga mea nui i te wa whakangungu. I te nuinga o nga wa na etahi momo tohu tohu o waho, he whatunga iti o waho ranei.
whaihanga 3D. Mena ka hangaia e koe he miihini 3D pai, ka taea e koe te hipoki i te 90% o nga raraunga whakangungu ki a ia (I kite ano ahau i tetahi tauira e tata ana ki te 99% o nga raraunga i hipokina e te miihini pai). He maha nga whakaaro me nga hacks mo te hanga i tetahi whatunga whakangungu i runga i te miihini 3D e mahi ana ma te whakamahi i nga raraunga tuuturu (Te whakatikatika pai, te whakawhiti ahua, me etahi atu). Engari i te nuinga o te wa ko te hanga miihini pai he maha nga ota nui ake te uaua atu i te kohi raraunga. He tauira i te wa i hangaia ai nga miihini:
Whakangungu karetao (, )
Ngā hui whakangungu nga taonga i roto i te toa (engari i roto i nga kaupapa e rua i mahia e matou, ka taea e matou te mahi me te kore).
Whakangungu i Tesla (ano, te ataata i runga).
kitenga
Ko te tuhinga katoa, i roto i te tikanga, whakatau. Akene ko te korero nui i hiahia ahau ki te whakaputa ko "kua mutu nga utu kore utu, kaore nga neurons e whakarato otinga ngawari." Inaianei me whakapau kaha tatou ki te whakatau whakatau uaua. Me whakapau kaha ranei ki te mahi rangahau pūtaiao matatini.
I te nuinga o te waa, ka tautohetohe te kaupapa. He tauira pai ake pea nga kaipanui?
Source: will.com