Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

Tsis ntev los no tso tawm ib tsab xov xwm, uas qhia tau hais tias muaj kev sib raug zoo hauv kev kawm tshuab hauv xyoo tas los no. Hauv luv luv: tus naj npawb ntawm kev pib kawm tshuab tau poob qis hauv ob xyoos dhau los.

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?
Zoo. Cia peb saib "txawm hais tias npuas tau tawg", "yuav ua li cas txuas ntxiv mus" thiab tham txog qhov twg qhov squiggle los ntawm thawj qhov chaw.

Ua ntej, cia peb tham txog dab tsi yog qhov txhawb nqa ntawm qhov nkhaus no. Nws tuaj qhov twg? Tej zaum lawv yuav nco ntsoov txhua yam yeej Kev kawm tshuab hauv 2012 ntawm kev sib tw ImageNet. Tom qab tag nrho, qhov no yog thawj qhov kev tshwm sim thoob ntiaj teb! Tab sis qhov tseeb no tsis yog li ntawd. Thiab txoj kev loj hlob ntawm qhov nkhaus pib me ntsis ua ntej. Kuv yuav rhuav nws mus rau ntau lub ntsiab lus.

  1. 2008 pom qhov tshwm sim ntawm lo lus "cov ntaub ntawv loj". Cov khoom tiag pib tshwm sim txij li xyoo 2010. Cov ntaub ntawv loj yog ncaj qha ntsig txog kev kawm tshuab. Yog tsis muaj cov ntaub ntawv loj, kev ua haujlwm ruaj khov ntawm cov algorithms uas muaj nyob rau lub sijhawm ntawd yog tsis yooj yim sua. Thiab cov no tsis yog neural networks. Txog rau xyoo 2012, neural networks tau khaws cia ntawm cov neeg tsawg tsawg. Tab sis tom qab ntawd cov algorithms sib txawv kiag li pib ua haujlwm, uas tau muaj nyob rau xyoo, lossis ntau xyoo lawm: SVM(1963,1993, XNUMX), Random Hav zoov (1995), AdaBoost (2003), ... Startups ntawm cov xyoo no feem ntau yog txuam nrog kev tsis siv neeg ua cov ntaub ntawv tsim: nyiaj ntsuab sau npe, cov neeg siv, tshaj tawm, ntau ntxiv.

    Ib qho derivative ntawm thawj nthwv dej no yog cov txheej txheem xws li XGBoost, CatBoost, LightGBM, thiab lwm yam.

  2. Xyoo 2011-2012 convolutional neural networks yeej ib tug xov tooj ntawm cov duab kev sib tw. Lawv qhov kev siv tiag tiag tau qeeb me ntsis. Kuv xav hais tias kev pib ua lag luam thiab kev daws teeb meem loj heev pib tshwm sim hauv 2014. Nws siv sijhawm ob xyoos los zom cov neurons tseem ua haujlwm, tsim cov txheej txheem yooj yim uas tuaj yeem nruab thiab tsim tawm hauv lub sijhawm tsim nyog, los tsim cov txheej txheem uas yuav ruaj khov thiab ua kom lub sijhawm sib koom ua ke.

    Convolutional tes hauj lwm tau ua kom daws tau cov teeb meem hauv computer tsis pom kev: kev faib cov duab thiab cov khoom hauv cov duab, nrhiav pom cov khoom, paub txog cov khoom thiab cov neeg, kev txhim kho duab, thiab lwm yam.

  3. 2015-2017. Lub boom ntawm algorithms thiab tej yaam num raws li recurrent networks los yog lawv analogues (LSTM, GRU, TransformerNet, thiab lwm yam). Kev ua haujlwm zoo hais lus-rau-ntawv algorithms thiab tshuab txhais lus tau tshwm sim. Lawv yog ib feem raws li convolutional tes hauj lwm los rho tawm cov yam ntxwv yooj yim. Ib nrab vim tias peb tau kawm los sau cov ntaub ntawv loj thiab zoo heev.

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

β€œPuas muaj npuas tawg? Puas yog hype overheated? Puas yog lawv tuag raws li blockchain?
Lwm yam! Tag kis Siri yuav tsis ua haujlwm ntawm koj lub xov tooj, thiab hnub tom qab tag kis Tesla yuav tsis paub qhov txawv ntawm qhov tig thiab lub kangaroo.

Neural networks twb ua haujlwm lawm. Lawv nyob hauv kaum ob ntawm cov khoom siv. Lawv yeej tso cai rau koj mus khwv tau nyiaj, hloov lub lag luam thiab lub ntiaj teb nyob ib ncig ntawm koj. Hype zoo li txawv me ntsis:

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

Nws tsuas yog hais tias neural networks tsis yog ib yam tshiab lawm. Yog, ntau tus neeg muaj kev cia siab siab. Tab sis ntau lub tuam txhab tau kawm siv cov neurons thiab ua cov khoom raws li lawv. Neurons muab kev ua haujlwm tshiab, tso cai rau koj txiav cov haujlwm, thiab txo tus nqi ntawm cov kev pabcuam:

  • Cov tuam txhab tsim khoom tau koom ua ke algorithms los txheeb xyuas qhov tsis xws ntawm cov kab ntau lawm.
  • Cov tsiaj ua liaj ua teb yuav cov txheej txheem los tswj cov nyuj.
  • Tsis siv neeg ua ke.
  • Automated Call Centers.
  • Cov lim dej hauv SnapChat. (zoo, yam tsawg kawg ib yam dab tsi pab tau!)

Tab sis qhov tseem ceeb, thiab tsis yog qhov tseeb tshaj plaws: "Tsis muaj cov tswv yim tshiab ntxiv, lossis lawv yuav tsis nqa peev tam sim." Neural tes hauj lwm tau daws teeb meem ntau ntau. Thiab lawv yuav txiav txim siab ntau dua. Tag nrho cov tswv yim pom tseeb uas muaj tshwm sim ua rau muaj ntau yam pib. Tab sis txhua yam uas nyob rau saum npoo twb tau sau. Ob xyoos dhau los, kuv tsis tau pom ib lub tswv yim tshiab rau kev siv neural networks. Tsis yog ib txoj hauv kev tshiab (zoo, ok, muaj ob peb teeb meem nrog GANs).

Thiab txhua qhov kev pib ua haujlwm tom ntej yog ntau thiab ntau dua. Nws tsis xav tau ob tug txiv neej uas cob qhia neuron siv cov ntaub ntawv qhib. Nws xav tau programmers, server, pab pawg neeg cim, kev txhawb nqa nyuaj, thiab lwm yam.

Yog li ntawd, muaj tsawg dua pib. Tab sis muaj ntau lawm. Xav tau ntxiv daim ntawv tso cai lees paub? Muaj ntau pua tus kws tshaj lij nrog kev paub txog kev ua lag luam. Koj tuaj yeem ntiav ib tus neeg thiab ob peb lub hlis koj tus neeg ua haujlwm yuav ua qhov system. Los yog yuav npaj txhij. Tab sis ua qhov pib tshiab?.. vwm!

Koj yuav tsum tsim kom muaj cov neeg tuaj saib xyuas - yog vim li cas them rau ib pawg ntawm cov ntawv tso cai thaum koj tuaj yeem ua koj tus kheej hauv 3-4 lub hlis, ua kom zoo rau koj lub lag luam.

Tam sim no neural tes hauj lwm tau dhau los ntawm tib txoj kev uas kaum ob ntawm lwm cov thev naus laus zis tau dhau mus.

Koj puas nco qab tias lub tswv yim ntawm "tus tsim lub vev xaib" tau hloov pauv li cas txij li xyoo 1995? Kev ua lag luam tseem tsis tau saturated nrog cov kws tshaj lij. Muaj tsawg tus kws tshaj lij. Tab sis kuv tuaj yeem twv tau tias hauv 5-10 xyoo yuav tsis muaj qhov sib txawv ntawm Java programmer thiab tus tsim tawm neural network. Yuav muaj txaus ntawm ob tus kws tshaj lij ntawm kev ua lag luam.

Yuav tsuas muaj ib chav kawm ntawm cov teeb meem uas yuav daws tau los ntawm neurons. Ib txoj haujlwm tau tshwm sim - ntiav ib tus kws tshaj lij.

"Dab tsi ntxiv? Qhov kev cog lus dag dag nyob qhov twg?”

Tab sis ntawm no muaj me me tab sis nthuav kev nkag siab yuam kev :)

Cov txheej txheem thev naus laus zis uas muaj nyob niaj hnub no, pom tseeb, yuav tsis coj peb mus rau kev txawj ntse. Cov tswv yim thiab lawv qhov tshiab tau dhau los ua rau lawv tus kheej. Cia peb tham txog dab tsi tuav cov theem ntawm kev loj hlob tam sim no.

Kev txwv

Cia peb pib nrog lub tsheb tsav tus kheej. Nws zoo nkaus li pom tseeb tias nws muaj peev xwm ua kom muaj kev tswj hwm lub tsheb nrog cov cuab yeej siv niaj hnub no. Tab sis nyob rau hauv pes tsawg xyoo qhov no yuav tshwm sim tsis meej. Tesla ntseeg tias qhov no yuav tshwm sim hauv ob peb xyoos -


Muaj ntau lwm tus cov kws tshaj lij, leej twg kwv yees nws yog 5-10 xyoo.

Feem ntau, hauv kuv lub tswv yim, hauv 15 xyoo kev tsim kho vaj tse hauv nroog yuav nws tus kheej hloov mus rau hauv txoj hauv kev uas qhov kev tshwm sim ntawm kev tswj hwm tsheb yuav dhau los ua qhov kev zam thiab yuav dhau los ua nws txuas ntxiv. Tab sis qhov no tsis tuaj yeem suav tias yog kev txawj ntse. Niaj hnub nimno Tesla yog ib qho kev sib txuas ua ke rau cov ntaub ntawv lim dej, tshawb nrhiav thiab rov ua dua. Cov no yog cov cai-txoj cai-txoj cai, sau cov ntaub ntawv thiab cov ntxaij lim dej rau lawv (ntawm no S, SΡ“S, Kuv sau me ntsis ntxiv txog qhov no, lossis saib los ntawm qhov no cov cim).

Thawj qhov teeb meem

Thiab qhov no yog qhov peb pom thawj qhov teeb meem. Cov ntaub ntawv loj. Qhov no yog qhov uas tau yug los rau tam sim no nthwv dej ntawm neural networks thiab kev kawm tshuab. Niaj hnub no, ua ib yam dab tsi nyuaj thiab tsis siv neeg, koj xav tau ntau cov ntaub ntawv. Tsis yog ntau, tab sis heev, heev. Peb xav tau automated algorithms rau lawv sau, cim, thiab siv. Peb xav ua kom lub tsheb pom cov tsheb thauj khoom ntsib lub hnub - peb yuav tsum xub sau cov lej txaus. Peb xav kom lub tsheb tsis mus vwm nrog lub tsheb kauj vab bolted rau lub cev - ntau cov qauv.

Ntxiv mus, ib qho piv txwv tsis txaus. Pua pua? Ntau txhiab?

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

Qhov teeb meem thib ob

Qhov teeb meem thib ob - Kev pom ntawm qhov peb lub network neural tau nkag siab. Qhov no yog ib txoj haujlwm tsis tseem ceeb heev. Txog tam sim no, ob peb tus neeg nkag siab yuav ua li cas pom qhov no. Cov kab lus no tsis ntev los no, cov no tsuas yog qee qhov piv txwv, txawm tias nyob deb:
Kev Pom Kev obsession nrog textures. Nws qhia tau hais tias zoo li cas cov neuron nyhav rau fixate ntawm + dab tsi nws perceives raws li cov ntaub ntawv pib.

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?
Kev Pom Kev Attension ntawm txhais lus. Qhov tseeb, kev nyiam tuaj yeem siv tau los ua kom pom tseeb tias yog vim li cas thiaj li muaj kev cuam tshuam hauv network. Kuv twb pom tej yam no rau ob qho tib si debugging thiab cov khoom daws teeb meem. Muaj ntau cov lus hais txog lub ncauj lus no. Tab sis qhov nyuaj ntawm cov ntaub ntawv, qhov nyuaj dua nws yog kom nkag siab yuav ua li cas kom ua tiav qhov pom kev zoo.

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

Zoo, yog, zoo qub txheej ntawm "saib dab tsi hauv lub mesh hauv lim" Cov duab no tau nrov 3-4 xyoo dhau los, tab sis txhua tus neeg pom sai sai tias cov duab zoo nkauj, tab sis lawv tsis muaj lub ntsiab lus ntau.

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

Kuv tsis tau hais txog kaum ob ntawm lwm yam khoom siv, txoj hauv kev, hacks, kev tshawb fawb txog yuav ua li cas tso saib sab hauv ntawm lub network. Cov cuab yeej no puas ua haujlwm? Lawv puas pab koj nkag siab sai sai tias qhov teeb meem yog dab tsi thiab debug lub network? Zoo, nws yog hais txog tib yam:

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

Koj tuaj yeem saib txhua qhov kev sib tw ntawm Kaggle. Thiab piav qhia txog yuav ua li cas tib neeg txiav txim siab zaum kawg. Peb stacked 100-500-800 units ntawm cov qauv thiab nws ua haujlwm!

Kuv yog exaggerating, tau kawg. Tab sis cov txheej txheem no tsis muab cov lus teb sai thiab ncaj qha.

Muaj kev paub txaus, muaj qhov sib txawv ntawm cov kev xaiv sib txawv, koj tuaj yeem muab kev txiav txim siab vim li cas koj lub kaw lus txiav txim siab zoo li no. Tab sis nws yuav nyuaj rau kho tus cwj pwm ntawm qhov system. Nruab ib lub ru tsev, txav qhov chaw pib, ntxiv cov ntaub ntawv, coj lwm lub network backend.

Qhov teeb meem thib peb

Qhov teeb meem thib peb - daim phiaj qhia kev txheeb cais, tsis yog logic. Txheeb cais qhov no lub ntsej muag:

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

Logically, nws tsis zoo sib xws. Neural networks tsis kawm dab tsi nyuaj tshwj tsis yog lawv raug yuam kom ua. Lawv ib txwm qhia tej yam yooj yim tshaj plaws ua tau. Koj puas muaj qhov muag, qhov ntswg, lub taub hau? Yog li no yog lub ntsej muag! Los yog muab piv txwv qhov qhov muag tsis txhais hais tias lub ntsej muag. Thiab dua - lab tus piv txwv.

Muaj ntau chav nyob hauv qab

Kuv xav hais tias nws yog peb qhov teeb meem thoob ntiaj teb uas tam sim no txwv txoj kev loj hlob ntawm neural networks thiab kev kawm tshuab. Thiab qhov twg cov teeb meem no tsis txwv nws, nws twb tau siv.

Qhov no yog qhov kawg? Puas muaj neural networks?

Tsis paub. Tab sis, ntawm chav kawm, txhua leej txhua tus cia siab tsis.

Muaj ntau txoj hauv kev thiab cov lus qhia los daws cov teeb meem tseem ceeb uas kuv tau hais saum toj no. Tab sis txog tam sim no, tsis muaj ib txoj hauv kev no tau ua kom muaj peev xwm ua tau ib yam dab tsi hauv paus tshiab, los daws qee yam uas tseem tsis tau daws. Txog tam sim no, tag nrho cov phiaj xwm tseem ceeb tau ua tiav raws li cov txheej txheem ruaj khov (Tesla), lossis tseem nyob hauv cov haujlwm sim ntawm cov koom haum lossis cov koom haum (Google Brain, OpenAI).

Hais lus ntxhib, lub ntsiab lus tseem ceeb yog los tsim qee qhov kev sawv cev siab ntawm cov ntaub ntawv nkag. Hauv kev nkag siab, "nco". Cov piv txwv yooj yooj yim ntawm kev nco yog ntau yam "Embedding" - cov duab sawv cev. Zoo, piv txwv li, tag nrho cov ntsej muag paub tshuab. Lub network kawm kom tau txais los ntawm lub ntsej muag qee qhov sawv cev ruaj khov uas tsis nyob ntawm kev sib hloov, teeb pom kev zoo, lossis kev daws teeb meem. Qhov tseem ceeb, lub network txo qis qhov kev ntsuas "cov ntsej muag sib txawv nyob deb" thiab "zoo tib yam ntsej muag nyob ze."

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

Rau kev cob qhia zoo li no, kaum thiab ntau pua txhiab tus qauv xav tau. Tab sis qhov tshwm sim tau dais qee qhov ntawm "Kev Kawm Ib Leeg". Tam sim no peb tsis xav tau ntau pua lub ntsej muag kom nco txog ib tus neeg. Tsuas yog ib lub ntsej muag thiab qhov ntawd yog txhua yam peb yog cia peb nrhiav!
Tsuas muaj ib qho teeb meem xwb... Daim phiaj tsuas kawm tau cov khoom yooj yim xwb. Thaum sim paub qhov txawv tsis yog ntsej muag, tab sis, piv txwv li, "cov neeg los ntawm khaub ncaws" (ua haujlwm Kev txheeb xyuas dua) - zoo poob los ntawm ntau qhov kev txiav txim ntawm qhov loj. Thiab lub network tsis tuaj yeem kawm tau cov kev hloov pauv hauv cov ces kaum.

Thiab kev kawm los ntawm ntau lab tus qauv kuj yog kev lom zem.

Muaj kev ua haujlwm kom txo qis kev xaiv tsa. Piv txwv li, ib tus tuaj yeem rov qab tam sim ntawd ib qho ntawm thawj zaug ua haujlwm OneShot Kev Kawm los ntawm Google:

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

Muaj ntau yam haujlwm zoo li no, piv txwv li 1 los yog 2 los yog 3.

Tsuas muaj ib qho kev rho tawm xwb - feem ntau kev cob qhia ua haujlwm tau zoo ntawm qee qhov yooj yim, "MNIST" piv txwv. Thiab thaum tsiv mus rau cov haujlwm nyuaj, koj xav tau cov ntaub ntawv loj, cov qauv ntawm cov khoom, lossis qee yam kev ua khawv koob.
Feem ntau, kev ua haujlwm ntawm One-Shot Training yog ib lub ntsiab lus nthuav dav heev. Koj pom ntau lub tswv yim. Tab sis rau feem ntau, ob qhov teeb meem uas kuv tau teev tseg (pretraining ntawm ib tug loj dataset / instability ntawm complex cov ntaub ntawv) heev cuam tshuam rau kev kawm.

Ntawm qhov tod tes, GANs-kev sib koom ua yeeb yam sib txawv-txog lub ntsiab lus ntawm Embedding. Tej zaum koj twb tau nyeem ib pawg ntawm cov lus ntawm HabrΓ© ntawm lub ncauj lus no. (1, 2,3)
Ib qho tshwj xeeb ntawm GAN yog tsim ntawm qee qhov chaw hauv lub xeev (tseem ceeb yog tib yam Embedding), uas tso cai rau koj kos duab. Nws tuaj yeem yog ntsej muag, tau kev ua.

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

Qhov teeb meem nrog GAN yog qhov nyuaj ntawm cov khoom tsim tawm, qhov nyuaj dua nws yog los piav nws hauv "generator-discriminator" logic. Raws li qhov tshwm sim, tsuas yog daim ntawv thov tiag tiag ntawm GAN uas tau hnov ​​​​txog yog DeepFake, uas, dua, hloov pauv lub ntsej muag sawv cev (rau qhov muaj lub hauv paus loj).

Kuv tau pom tsawg heev lwm yam siv tau. Feem ntau qee yam kev dag ntxias suav nrog kev ua tiav cov duab kos duab.

Thiab dua. Tsis muaj leej twg muaj lub tswv yim yuav ua li cas qhov no yuav cia peb txav mus rau hauv lub neej yav tom ntej. Sawv cev logic / qhov chaw hauv lub neural network yog qhov zoo. Tab sis peb xav tau ntau tus piv txwv, peb tsis to taub yuav ua li cas cov neuron sawv cev rau qhov no nyob rau hauv nws tus kheej, peb tsis to taub yuav ua li cas kom cov neuron nco ntsoov ib co complex tswv yim.

Qhov cuab lub zog kawm - qhov no yog ib txoj hauv kev los ntawm kev sib txawv kiag li. Muaj tseeb koj nco ntsoov li cas Google yeej txhua tus hauv Go. Tsis ntev los no yeej hauv Starcraft thiab Dota. Tab sis ntawm no txhua yam yog deb ntawm rosy thiab cog lus. Nws hais lus zoo tshaj plaws txog RL thiab nws qhov nyuaj Zaj lus no.

Qhia luv luv txog qhov uas tus sau sau:

  • Cov qauv tawm ntawm lub thawv tsis haum / ua haujlwm tsis zoo nyob rau hauv feem ntau
  • Cov teeb meem siv tau yooj yim dua los daws hauv lwm txoj hauv kev. Boston Dynamics tsis siv RL vim nws cov complexity / unpredictability / computational complexity
  • Rau RL ua haujlwm, koj xav tau txoj haujlwm nyuaj. Nws feem ntau nyuaj rau tsim / sau
  • Yooj yim rau kev cob qhia cov qauv. Koj yuav tsum tau siv sijhawm ntau los rub tawm thiab tawm ntawm lub zos optima
  • Yog li ntawd, nws yog qhov nyuaj rau rov ua dua tus qauv, tus qauv tsis ruaj khov nrog kev hloov me ntsis
  • Feem ntau overfits ib co random qauv, txawm ib tug random tooj generator

Lub ntsiab lus tseem ceeb yog tias RL tseem tsis tau ua haujlwm hauv kev tsim khoom. Google muaj qee qhov kev sim ( 1, 2 ). Tab sis kuv tsis tau pom ib qho khoom lag luam.

Memory. Lub downside ntawm txhua yam uas tau piav saum toj no yog tsis muaj qauv. Ib qho ntawm txoj hauv kev los sim ua kom huv si tag nrho qhov no yog muab cov neural network nrog kev nkag mus rau kev nco cais. Yog li ntawd nws thiaj tuaj yeem sau thiab sau dua cov txiaj ntsig ntawm nws cov kauj ruam nyob ntawd. Tom qab ntawd lub neural network tuaj yeem txiav txim siab los ntawm lub xeev nco tam sim no. Qhov no zoo ib yam li classic processors thiab computers.

Qhov nrov tshaj plaws thiab nrov ib tsab xov xwm - los ntawm DeepMind:

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

Zoo li qhov no yog tus yuam sij rau kev nkag siab kev txawj ntse? Tab sis tej zaum tsis yog. Lub kaw lus tseem xav tau ntau cov ntaub ntawv rau kev cob qhia. Thiab nws ua haujlwm feem ntau nrog cov ntaub ntawv tabular. Tsis tas li ntawd, thaum Facebook txiav txim siab ib qho teeb meem zoo sib xws, tom qab ntawd lawv tau coj txoj hauv kev "ntse taub hau, tsuas yog ua rau cov neuron nyuaj, thiab muaj ntau yam piv txwv - thiab nws yuav kawm ntawm nws tus kheej."

Kev tsis txaus siab. Lwm txoj hauv kev los tsim lub cim xeeb muaj txiaj ntsig yog coj tib lub embeddings, tab sis thaum lub sij hawm kev cob qhia, qhia ntxiv cov txheej txheem uas yuav tso cai rau koj los qhia txog "lub ntsiab lus" hauv lawv. Piv txwv li, peb xav cob qhia ib lub neural network kom paub qhov txawv ntawm tib neeg tus cwj pwm hauv khw. Yog tias peb ua raws li tus txheej txheem, peb yuav tau ua ib lub kaum os. Ib tug tab tom nrhiav rau tus neeg, qhov thib ob yog txiav txim siab seb nws ua dab tsi, qhov thib peb yog nws hnub nyoog, plaub yog nws poj niam txiv neej. Sib cais logic saib ntawm ib feem ntawm lub khw uas nws ua / raug cob qhia ua qhov no. Qhov thib peb txiav txim siab nws txoj kev sib tw, thiab lwm yam.

Los yog, yog tias muaj cov ntaub ntawv tsis kawg, ces nws yuav tuaj yeem cob qhia ib lub network rau txhua qhov tshwm sim tau (pom tseeb, xws li cov ntaub ntawv tsis tuaj yeem sau tau).

Txoj kev tsis sib haum xeeb qhia peb - ​​cia peb cob qhia lub network kom nws tus kheej tuaj yeem paub qhov txawv ntawm cov tswv yim. Yog li ntawd nws yuav tsim ib qho embedding raws li vis dis aus, qhov twg ib cheeb tsam yuav txiav txim siab qhov kev txiav txim, ib tus yuav txiav txim siab txoj hauj lwm hauv pem teb nyob rau hauv lub sij hawm, ib tug yuav txiav txim siab tus neeg qhov siab, thiab ib tug yuav txiav txim seb tus neeg ntawm poj niam los txiv neej. Nyob rau tib lub sijhawm, thaum kev cob qhia, kuv xav yuav luag tsis ua rau lub network nrog cov ntsiab lus tseem ceeb, tab sis rau nws kom nthuav dav thiab pab pawg. Muaj ob peb cov ntawv zoo li no (ib txhia ntawm lawv 1, 2, 3) thiab feem ntau lawv yog theoretical heev.

Tab sis qhov kev taw qhia no, yam tsawg kawg nkaus theoretical, yuav tsum npog cov teeb meem uas tau teev tseg thaum pib.

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

Duab decomposition raws li qhov tsis "phab ntsa xim / pem teb xim / khoom duab / khoom xim / thiab lwm yam."

Puas yog lub tshuab kawm npuas tawg, lossis nws puas yog qhov pib ntawm kev kaj ntug tshiab?

Decomposition ntawm lub ntsej muag raws li tsis "loj, pob muag, orientation, tawv nqaij xim, thiab lwm yam."

Lwm yam

Muaj ntau lwm yam, tsis yog thoob ntiaj teb, thaj chaw uas tso cai rau koj los txo qis cov ntaub ntawv, ua haujlwm nrog ntau cov ntaub ntawv heterogeneous, thiab lwm yam.

xim. Tej zaum nws tsis tsim nyog los cais qhov no los ua ib txoj kev cais. Tsuas yog ib txoj hauv kev uas txhim kho lwm tus. Muaj ntau cov ntawv tau mob siab rau nws (1,2,3). Lub ntsiab lus ntawm Kev Cuam Tshuam yog txhawm rau txhim kho lub network cov lus teb tshwj xeeb rau cov khoom tseem ceeb hauv kev cob qhia. Feem ntau los ntawm qee hom kev xaiv sab nraud, lossis ib lub network me me.

3D simulation. Yog tias koj ua lub cav 3D zoo, feem ntau koj tuaj yeem npog 90% ntawm cov ntaub ntawv kev cob qhia nrog nws (Kuv txawm pom ib qho piv txwv uas yuav luag 99% ntawm cov ntaub ntawv tau them los ntawm lub cav zoo). Muaj ntau ntau lub tswv yim thiab hacks yuav ua li cas los tsim ib lub network kawm ntawm 3D lub cav ua haujlwm siv cov ntaub ntawv tiag tiag (Zoo tuning, hloov pauv style, thiab lwm yam). Tab sis feem ntau ua rau lub cav zoo yog ob peb qhov kev txiav txim ntawm qhov loj dua qhov nyuaj tshaj li kev sau cov ntaub ntawv. Piv txwv li thaum lub cav tau ua:
Kev cob qhia neeg hlau (google, lub paj hlwb)
Kev cob qhia kev cob qhia kev paub cov khoom hauv khw (tab sis hauv ob txoj haujlwm peb tau ua, peb tau yooj yim ua yam tsis muaj nws).
Kev cob qhia ntawm Tesla (dua, video saum toj no).

tshawb pom

Tag nrho tsab xov xwm yog, nyob rau hauv ib qho kev txiav txim, xaus. Tej zaum cov lus tseem ceeb uas kuv xav ua yog "kev pub dawb dhau lawm, cov neurons tsis muab cov kev daws teeb meem yooj yim ntxiv lawm." Tam sim no peb yuav tsum tau ua haujlwm hnyav los txiav txim siab nyuaj. Los yog ua haujlwm nyuaj ua kev tshawb fawb txog kev tshawb fawb.

Feem ntau, lub ntsiab lus yog debatable. Tej zaum cov nyeem muaj cov piv txwv nthuav ntxiv?

Tau qhov twg los: www.hab.com

Ntxiv ib saib