A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

Rhyddhawyd yn ddiweddar erthygl, sy'n dangos tuedd dda mewn dysgu peiriannau yn y blynyddoedd diwethaf. Yn fyr: mae nifer y cychwyniadau dysgu peirianyddol wedi plymio yn ystod y ddwy flynedd ddiwethaf.

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?
Wel. Gadewch i ni edrych ar “a yw'r swigen wedi byrstio”, “sut i barhau i fyw” a siarad am o ble mae'r sgwiglen hon yn dod yn y lle cyntaf.

Yn gyntaf, gadewch i ni siarad am beth oedd atgyfnerthiad y gromlin hon. O ble daeth hi? Mae'n debyg y byddan nhw'n cofio popeth buddugoliaeth dysgu peirianyddol yn 2012 yng nghystadleuaeth ImageNet. Wedi'r cyfan, dyma'r digwyddiad byd-eang cyntaf! Ond mewn gwirionedd nid yw hyn yn wir. Ac mae twf y gromlin yn dechrau ychydig yn gynharach. Byddwn yn ei dorri i lawr yn sawl pwynt.

  1. Gwelodd 2008 ymddangosiad y term “data mawr”. Dechreuodd cynhyrchion go iawn ymddangos ers 2010. Mae data mawr yn uniongyrchol gysylltiedig â dysgu peiriannau. Heb ddata mawr, mae gweithrediad sefydlog yr algorithmau a oedd yn bodoli ar y pryd yn amhosibl. Ac nid rhwydweithiau niwral mo'r rhain. Hyd at 2012, lleiafrif ymylol oedd rhwydweithiau niwral. Ond yna dechreuodd algorithmau cwbl wahanol weithio, a oedd wedi bodoli ers blynyddoedd, neu hyd yn oed ddegawdau: SVM(1963,1993, XNUMX), Coedwig ar Hap (1995), AdaBoost (2003),... Mae cychwyniadau'r blynyddoedd hynny yn ymwneud yn bennaf â phrosesu awtomatig o ddata strwythuredig: cofrestrau arian parod, defnyddwyr, hysbysebu, llawer mwy.

    Deilliad o'r don gyntaf hon yw set o fframweithiau fel XGBoost, CatBoost, LightGBM, ac ati.

  2. Yn 2011-2012 rhwydweithiau niwral argyhoeddiadol ennill nifer o gystadlaethau adnabod delweddau. Roedd eu defnydd gwirioneddol wedi'i ohirio rhywfaint. Byddwn yn dweud bod cychwyniadau ac atebion hynod ystyrlon wedi dechrau ymddangos yn 2014. Cymerodd ddwy flynedd i ddeall bod niwronau'n dal i weithio, i greu fframweithiau cyfleus y gellid eu gosod a'u lansio mewn amser rhesymol, i ddatblygu dulliau a fyddai'n sefydlogi ac yn cyflymu'r amser cydgyfeirio.

    Roedd rhwydweithiau dyfeisgar yn ei gwneud hi'n bosibl datrys problemau golwg cyfrifiadurol: dosbarthiad delweddau a gwrthrychau yn y ddelwedd, canfod gwrthrychau, adnabod gwrthrychau a phobl, gwella delwedd, ac ati, ac ati.

  3. 2015-2017. Cynnydd mewn algorithmau a phrosiectau yn seiliedig ar rwydweithiau rheolaidd neu eu analogau (LSTM, GRU, TransformerNet, ac ati). Mae algorithmau lleferydd-i-destun sy'n gweithio'n dda a systemau cyfieithu peirianyddol wedi ymddangos. Maent yn rhannol seiliedig ar rwydweithiau convolutional i echdynnu nodweddion sylfaenol. Yn rhannol oherwydd ein bod wedi dysgu casglu setiau data mawr a da iawn.

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

“Ydy'r swigen wedi byrstio? Ydy'r hype wedi'i orboethi? Oedden nhw wedi marw fel blockchain?”
Fel arall! Yfory bydd Siri yn rhoi'r gorau i weithio ar eich ffôn, a'r diwrnod ar ôl yfory ni fydd Tesla yn gwybod y gwahaniaeth rhwng tro a changarŵ.

Mae rhwydweithiau nerfol eisoes yn gweithio. Maent mewn dwsinau o ddyfeisiau. Maen nhw wir yn caniatáu ichi ennill arian, newid y farchnad a'r byd o'ch cwmpas. Mae Hype yn edrych ychydig yn wahanol:

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

Dim ond nad yw rhwydweithiau niwral bellach yn rhywbeth newydd. Oes, mae gan lawer o bobl ddisgwyliadau uchel. Ond mae nifer fawr o gwmnïau wedi dysgu defnyddio niwronau a gwneud cynhyrchion yn seiliedig arnynt. Mae niwronau yn darparu swyddogaethau newydd, yn caniatáu ichi dorri swyddi, a lleihau pris gwasanaethau:

  • Mae cwmnïau gweithgynhyrchu yn integreiddio algorithmau i ddadansoddi diffygion ar y llinell gynhyrchu.
  • Mae ffermydd da byw yn prynu systemau i reoli buchod.
  • Cyfuno awtomatig.
  • Canolfannau Galw Awtomataidd.
  • Hidlau yn SnapChat. (wel, o leiaf rhywbeth defnyddiol!)

Ond y prif beth, ac nid y mwyaf amlwg: “Nid oes mwy o syniadau newydd, neu ni fyddant yn dod â chyfalaf ar unwaith.” Mae rhwydweithiau niwral wedi datrys dwsinau o broblemau. A byddant yn penderfynu hyd yn oed yn fwy. Arweiniodd yr holl syniadau amlwg a oedd yn bodoli at lawer o fusnesau newydd. Ond roedd popeth oedd ar yr wyneb eisoes wedi'i gasglu. Dros y ddwy flynedd ddiwethaf, nid wyf wedi dod ar draws un syniad newydd ar gyfer defnyddio rhwydweithiau niwral. Nid un dull newydd unigol (wel, iawn, mae rhai problemau gyda GANs).

Ac mae pob cychwyn dilynol yn fwy a mwy cymhleth. Nid oes angen dau ddyn arno bellach sy'n hyfforddi niwron gan ddefnyddio data agored. Mae angen rhaglenwyr, gweinydd, tîm o farcwyr, cefnogaeth gymhleth, ac ati.

O ganlyniad, mae llai o gychwyniadau. Ond mae mwy o gynhyrchu. Angen ychwanegu cydnabyddiaeth plât trwydded? Mae cannoedd o arbenigwyr â phrofiad perthnasol ar y farchnad. Gallwch logi rhywun ac mewn ychydig fisoedd bydd eich gweithiwr yn gwneud y system. Neu prynwch barod. Ond gwneud startup newydd?.. Crazy!

Mae angen i chi greu system olrhain ymwelwyr - pam talu am griw o drwyddedau pan allwch chi wneud rhai eich hun mewn 3-4 mis, ei hogi ar gyfer eich busnes.

Nawr mae rhwydweithiau niwral yn mynd trwy'r un llwybr ag y mae dwsinau o dechnolegau eraill wedi mynd drwyddo.

Ydych chi'n cofio sut mae'r cysyniad o “ddatblygwr gwefan” wedi newid ers 1995? Nid yw'r farchnad yn ddirlawn eto gydag arbenigwyr. Ychydig iawn o weithwyr proffesiynol sydd. Ond gallaf fetio na fydd llawer o wahaniaeth mewn 5-10 mlynedd rhwng rhaglennydd Java a datblygwr rhwydwaith niwral. Bydd digon o'r ddau arbenigwr ar y farchnad.

Yn syml, bydd dosbarth o broblemau y gellir eu datrys gan niwronau. Mae tasg wedi codi - llogi arbenigwr.

"Beth sydd nesaf? Ble mae'r deallusrwydd artiffisial a addawyd?"

Ond yma mae camddealltwriaeth bach ond diddorol :)

Mae'n debyg na fydd y stac technoleg sy'n bodoli heddiw yn ein harwain at ddeallusrwydd artiffisial. Mae syniadau a'u newydd-deb i raddau helaeth wedi dihysbyddu eu hunain. Gadewch i ni siarad am yr hyn sy'n dal y lefel bresennol o ddatblygiad.

Cyfyngiadau

Gadewch i ni ddechrau gyda cheir hunan-yrru. Mae'n amlwg ei bod hi'n bosibl gwneud ceir cwbl ymreolaethol gyda thechnoleg heddiw. Ond mewn sawl blwyddyn nid yw hyn yn digwydd yn glir. Mae Tesla yn credu y bydd hyn yn digwydd mewn cwpl o flynyddoedd -


Mae llawer o rai eraill arbenigwyr, sy'n amcangyfrif ei fod yn 5-10 mlynedd.

Yn fwyaf tebygol, yn fy marn i, mewn 15 mlynedd bydd seilwaith dinasoedd ei hun yn newid yn y fath fodd fel y bydd ymddangosiad ceir ymreolaethol yn dod yn anochel ac yn dod yn barhad. Ond ni ellir ystyried hyn yn ddeallusrwydd. Mae Tesla modern yn biblinell gymhleth iawn ar gyfer hidlo data, chwilio ac ailhyfforddi. Mae'r rhain yn rheolau-rheolau-rheolau, casglu data a hidlwyr drostynt (yma yma Ysgrifennais ychydig mwy am hyn, neu wylio o hwn marciau).

Problem gyntaf

A dyma lle rydyn ni'n gweld broblem sylfaenol gyntaf. Data mawr. Dyma'n union a roddodd enedigaeth i'r don bresennol o rwydweithiau niwral a dysgu peirianyddol. Y dyddiau hyn, i wneud rhywbeth cymhleth ac awtomatig, mae angen llawer o ddata. Nid dim ond llawer, ond llawer iawn, iawn. Mae angen algorithmau awtomataidd arnom ar gyfer eu casglu, eu marcio a'u defnyddio. Rydyn ni eisiau gwneud i'r car weld y tryciau sy'n wynebu'r haul - yn gyntaf rhaid i ni gasglu nifer digonol ohonyn nhw. Rydyn ni am i'r car beidio â mynd yn wallgof gyda beic wedi'i folltio i'r boncyff - mwy o samplau.

Ar ben hynny, nid yw un enghraifft yn ddigon. Cannoedd? miloedd?

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

Ail broblem

Ail broblem — delweddu'r hyn y mae ein rhwydwaith niwral wedi'i ddeall. Nid yw hon yn dasg ddibwys iawn. Hyd yn hyn, ychydig o bobl sy'n deall sut i ddelweddu hyn. Mae'r erthyglau hyn yn ddiweddar iawn, dim ond ychydig o enghreifftiau yw'r rhain, hyd yn oed os ydynt yn bell:
Delweddu obsesiwn gyda gweadau. Mae'n dangos yn dda yr hyn y mae'r niwron yn tueddu i'w bennu + yr hyn y mae'n ei weld fel gwybodaeth gychwynnol.

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?
Delweddu Sylw at cyfieithiadau. Mewn gwirionedd, yn aml gellir defnyddio atyniad yn union i ddangos beth achosodd adwaith rhwydwaith o'r fath. Rwyf wedi gweld pethau o'r fath ar gyfer dadfygio a datrysiadau cynnyrch. Mae yna lawer o erthyglau ar y pwnc hwn. Ond po fwyaf cymhleth yw'r data, y mwyaf anodd yw deall sut i gyflawni delweddu cadarn.

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

Wel, ie, yr hen set dda o “edrychwch beth sydd y tu mewn i'r rhwyll i mewn ffilterau" Roedd y lluniau hyn yn boblogaidd 3-4 blynedd yn ôl, ond sylweddolodd pawb yn gyflym fod y lluniau'n brydferth, ond nid oedd ganddynt lawer o ystyr.

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

Wnes i ddim sôn am ddwsinau o declynnau eraill, dulliau, haciau, ymchwil ar sut i arddangos y tu mewn i'r rhwydwaith. Ydy'r offer hyn yn gweithio? Ydyn nhw'n eich helpu chi i ddeall yn gyflym beth yw'r broblem a dadfygio'r rhwydwaith?.. Cael y cant olaf? Wel, mae tua'r un peth:

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

Gallwch wylio unrhyw gystadleuaeth ar Kaggle. A disgrifiad o sut mae pobl yn gwneud penderfyniadau terfynol. Fe wnaethon ni bentyrru 100-500-800 o unedau o fodelau ac fe weithiodd!

Rwy'n gor-ddweud, wrth gwrs. Ond nid yw'r dulliau hyn yn rhoi atebion cyflym ac uniongyrchol.

Gyda digon o brofiad, ar ôl procio o amgylch gwahanol opsiynau, gallwch roi dyfarniad ynghylch pam y gwnaeth eich system benderfyniad o'r fath. Ond bydd yn anodd cywiro ymddygiad y system. Gosod baglau, symud y trothwy, ychwanegu set ddata, cymryd rhwydwaith backend arall.

Trydydd broblem

Trydydd Problem Sylfaenol — mae gridiau'n dysgu ystadegau, nid rhesymeg. Yn ystadegol hyn yr wyneb:

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

Yn rhesymegol, nid yw'n debyg iawn. Nid yw rhwydweithiau niwral yn dysgu unrhyw beth cymhleth oni bai eu bod yn cael eu gorfodi i wneud hynny. Maent bob amser yn dysgu'r arwyddion symlaf posibl. Oes gennych chi lygaid, trwyn, pen? Felly dyma'r wyneb! Neu rhowch enghraifft lle nad yw llygaid yn golygu wyneb. Ac eto - miliynau o enghreifftiau.

Mae Digon o Le yn y Gwaelod

Byddwn yn dweud mai’r tair problem fyd-eang hyn sy’n cyfyngu ar ddatblygiad rhwydweithiau niwral a dysgu peirianyddol ar hyn o bryd. A lle nad oedd y problemau hyn yn ei gyfyngu, mae eisoes yn cael ei ddefnyddio'n weithredol.

Dyma'r diwedd? A yw rhwydweithiau niwral i fyny?

Anhysbys. Ond, wrth gwrs, nid yw pawb yn gobeithio.

Mae yna lawer o ddulliau a chyfarwyddiadau ar gyfer datrys y problemau sylfaenol a amlygais uchod. Ond hyd yn hyn, nid yw'r un o'r dulliau hyn wedi ei gwneud hi'n bosibl gwneud rhywbeth sylfaenol newydd, i ddatrys rhywbeth nad yw wedi'i ddatrys eto. Hyd yn hyn, mae pob prosiect sylfaenol yn cael ei wneud ar sail dulliau sefydlog (Tesla), neu'n parhau i fod yn brosiectau prawf sefydliadau neu gorfforaethau (Google Brain, OpenAI).

Yn fras, y prif gyfeiriad yw creu rhywfaint o gynrychiolaeth lefel uchel o'r data mewnbwn. Ar un ystyr, “cof”. Yr enghraifft symlaf o gof yw "Mewnblannu" amrywiol - cynrychioliadau delwedd. Wel, er enghraifft, pob system adnabod wynebau. Mae'r rhwydwaith yn dysgu cael cynrychiolaeth sefydlog o wyneb nad yw'n dibynnu ar gylchdroi, goleuo na datrysiad. Yn y bôn, mae'r rhwydwaith yn lleihau'r metrig “mae gwahanol wynebau yn bell” ac “mae wynebau unfath yn agos.”

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

Ar gyfer hyfforddiant o'r fath, mae angen degau a channoedd o filoedd o enghreifftiau. Ond mae'r canlyniad yn dwyn rhai o elfennau sylfaenol “Dysgu Un Ergyd”. Nawr nid oes angen cannoedd o wynebau arnom i gofio person. Dim ond un wyneb a dyna i gyd ydyn ni gadewch i ni gael gwybod!
Dim ond un broblem sydd... Dim ond gwrthrychau gweddol syml y gall y grid eu dysgu. Wrth geisio gwahaniaethu nid wynebau, ond, er enghraifft, “pobl wrth ddillad” (tasg Ail-adnabod) - mae ansawdd yn disgyn yn ôl llawer o orchmynion maint. Ac ni all y rhwydwaith bellach ddysgu newidiadau gweddol amlwg mewn onglau.

Ac mae dysgu o filiynau o enghreifftiau hefyd yn fath o hwyl.

Mae yna waith i leihau etholiadau yn sylweddol. Er enghraifft, gellir cofio un o'r gweithiau cyntaf ar unwaith Dysgu OneShot oddi wrth Google:

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

Mae yna lawer o weithiau o'r fath, er enghraifft 1 neu 2 neu 3.

Dim ond un minws sydd - fel arfer mae hyfforddiant yn gweithio'n dda ar rai enghreifftiau syml, “MNIST”. Ac wrth symud ymlaen i dasgau cymhleth, mae angen cronfa ddata fawr, model o wrthrychau, neu ryw fath o hud.
Yn gyffredinol, mae gwaith ar hyfforddiant Un Ergyd yn bwnc diddorol iawn. Rydych chi'n dod o hyd i lawer o syniadau. Ond ar y cyfan, mae'r ddwy broblem a restrais (pretraining ar set ddata enfawr / ansefydlogrwydd ar ddata cymhleth) yn amharu'n fawr ar ddysgu.

Ar y llaw arall, mae GANs—rhwydweithiau gwrthwynebol cynhyrchiol—yn ymdrin â phwnc Ymgorffori. Mae'n debyg eich bod wedi darllen criw o erthyglau ar Habré ar y pwnc hwn. (1, 2,3)
Nodwedd o GAN yw ffurfio rhywfaint o ofod cyflwr mewnol (yn y bôn yr un Mewnosod), sy'n eich galluogi i dynnu delwedd. Gall fod yn wynebau, gallu bod gweithredoedd.

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

Y broblem gyda GAN yw po fwyaf cymhleth yw’r gwrthrych a gynhyrchir, y mwyaf anodd yw ei ddisgrifio mewn rhesymeg “generadur-gwahaniaethwr”. O ganlyniad, yr unig gymwysiadau gwirioneddol o GAN y clywir amdanynt yw DeepFake, sydd, unwaith eto, yn trin cynrychioliadau wyneb (y mae sylfaen enfawr ar eu cyfer).

Ychydig iawn o ddefnyddiau defnyddiol eraill a welais. Fel arfer rhyw fath o ddichellwaith sy'n cynnwys gorffen lluniadau o luniau.

Ac eto. Nid oes gan neb unrhyw syniad sut y bydd hyn yn caniatáu inni symud i ddyfodol mwy disglair. Mae cynrychioli rhesymeg/gofod mewn rhwydwaith niwral yn dda. Ond mae angen nifer enfawr o enghreifftiau, nid ydym yn deall sut mae'r niwron yn cynrychioli hyn ynddo'i hun, nid ydym yn deall sut i wneud i'r niwron gofio rhyw syniad gwirioneddol gymhleth.

Dysgu atgyfnerthu - mae hwn yn ymagwedd o gyfeiriad cwbl wahanol. Siawns nad ydych chi'n cofio sut mae Google wedi curo pawb yn Go. Buddugoliaethau diweddar yn Starcraft a Dota. Ond yma mae popeth ymhell o fod mor rosy ac addawol. Mae'n siarad orau am RL a'i gymhlethdodau yr erthygl hon.

I grynhoi’n fyr yr hyn a ysgrifennodd yr awdur:

  • Nid yw modelau allan o'r bocs yn ffitio / gweithio'n wael yn y rhan fwyaf o achosion
  • Mae problemau ymarferol yn haws i'w datrys mewn ffyrdd eraill. Nid yw Boston Dynamics yn defnyddio RL oherwydd ei gymhlethdod / anrhagweladwyedd / cymhlethdod cyfrifiannol
  • Er mwyn i RL weithio, mae angen swyddogaeth gymhleth arnoch chi. Yn aml mae'n anodd creu/ysgrifennu
  • Anodd hyfforddi modelau. Mae'n rhaid i chi dreulio llawer o amser i bwmpio i fyny a mynd allan o optima lleol
  • O ganlyniad, mae'n anodd ailadrodd y model, mae'r model yn ansefydlog gyda'r newidiadau lleiaf
  • Yn aml yn gorffitio rhai patrymau ar hap, hyd yn oed generadur haprifau

Y pwynt allweddol yw nad yw RL yn gweithio ym maes cynhyrchu eto. Mae gan Google rai arbrofion ( 1, 2 ). Ond nid wyf wedi gweld system un cynnyrch.

cof. Anfantais popeth a ddisgrifir uchod yw diffyg strwythur. Un o'r dulliau i geisio tacluso hyn i gyd yw darparu'r rhwydwaith niwral â mynediad at gof ar wahân. Er mwyn iddi allu cofnodi ac ailysgrifennu canlyniadau ei chamau yno. Yna gall y rhwydwaith niwral gael ei bennu gan y cyflwr cof cyfredol. Mae hyn yn debyg iawn i broseswyr a chyfrifiaduron clasurol.

Y mwyaf enwog a phoblogaidd erthygl — gan DeepMind:

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

Mae'n ymddangos mai dyma'r allwedd i ddeall deallusrwydd? Ond mae'n debyg na. Mae'r system yn dal i fod angen llawer iawn o ddata ar gyfer hyfforddiant. Ac mae'n gweithio'n bennaf gyda data tablau strwythuredig. Ar ben hynny, pan Facebook penderfynodd broblem debyg, yna fe wnaethon nhw gymryd y llwybr “sgriwio cof, dim ond gwneud y niwron yn fwy cymhleth, a chael mwy o enghreifftiau - a bydd yn dysgu ar ei ben ei hun.”

Datgysylltiad. Ffordd arall o greu cof ystyrlon yw cymryd yr un mewnosodiadau, ond yn ystod yr hyfforddiant, cyflwynwch feini prawf ychwanegol a fyddai'n caniatáu ichi dynnu sylw at “ystyron” ynddynt. Er enghraifft, rydym am hyfforddi rhwydwaith niwral i wahaniaethu rhwng ymddygiad dynol mewn storfa. Pe baem yn dilyn y llwybr safonol, byddai'n rhaid inni wneud dwsin o rwydweithiau. Mae un yn chwilio am berson, mae'r ail yn penderfynu beth mae'n ei wneud, y trydydd yw ei oedran, y pedwerydd yw ei ryw. Mae rhesymeg ar wahân yn edrych ar y rhan o'r storfa lle mae'n hyfforddi i wneud hyn. Mae'r trydydd yn pennu ei lwybr, etc.

Neu, pe bai swm diddiwedd o ddata, yna byddai'n bosibl hyfforddi un rhwydwaith ar gyfer pob canlyniad posibl (yn amlwg, ni ellir casglu amrywiaeth o ddata o'r fath).

Mae'r dull datgysylltiad yn dweud wrthym - gadewch i ni hyfforddi'r rhwydwaith fel y gall ynddo'i hun wahaniaethu rhwng cysyniadau. Fel y byddai'n ffurfio gwreiddio yn seiliedig ar y fideo, lle byddai un maes yn pennu'r weithred, byddai un yn pennu'r safle ar y llawr mewn pryd, byddai un yn pennu uchder y person, a byddai un yn pennu rhyw y person. Ar yr un pryd, wrth hyfforddi, hoffwn bron i beidio ag annog y rhwydwaith gyda chysyniadau allweddol o'r fath, ond yn hytrach iddo amlygu a grwpio meysydd. Mae yna dipyn o erthyglau o'r fath (rhai ohonyn nhw 1, 2, 3) ac yn gyffredinol maent yn eithaf damcaniaethol.

Ond dylai'r cyfeiriad hwn, yn ddamcaniaethol o leiaf, gwmpasu'r problemau a restrir ar y dechrau.

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

Dadelfeniad delwedd yn ôl y paramedrau "lliw wal / lliw llawr / siâp gwrthrych / lliw gwrthrych / ac ati."

A yw'r swigen dysgu peiriant wedi byrstio, neu a yw'n ddechrau gwawr newydd?

Dadelfeniad wyneb yn ôl y paramedrau "maint, aeliau, cyfeiriadedd, lliw croen, ac ati."

Arall

Mae yna lawer o feysydd eraill, nad ydynt mor fyd-eang, sy'n caniatáu ichi leihau'r gronfa ddata, gweithio gyda data mwy heterogenaidd, ac ati.

Sylw. Mae'n debyg nad yw'n gwneud synnwyr i wahanu hwn fel dull ar wahân. Dim ond ymagwedd sy'n cyfoethogi eraill. Cysegrwyd llawer o erthyglau iddo (1,2,3). Y Pwynt Sylw yw gwella ymateb y rhwydwaith yn benodol i wrthrychau arwyddocaol yn ystod hyfforddiant. Yn aml gan ryw fath o ddynodiad targed allanol, neu rwydwaith allanol bach.

efelychiad 3D. Os gwnewch injan 3D dda, yn aml gallwch chi orchuddio 90% o'r data hyfforddi ag ef (gwelais enghraifft hyd yn oed lle roedd bron i 99% o'r data wedi'i orchuddio gan injan dda). Mae yna lawer o syniadau a haciau ar sut i wneud i rwydwaith sydd wedi'i hyfforddi ar injan 3D weithio gan ddefnyddio data go iawn (Tiwnio manwl, trosglwyddo arddull, ac ati). Ond yn aml mae gwneud injan dda yn llawer mwy anodd na chasglu data. Enghreifftiau pan gafodd injans eu gwneud:
Hyfforddiant robotiaid (google, gardd ymennydd)
Hyfforddiant cydnabyddiaeth nwyddau yn y siop (ond yn y ddau brosiect a wnaethom, gallem yn hawdd wneud hebddo).
Hyfforddiant yn Tesla (eto, y fideo uchod).

Canfyddiadau

Mae'r erthygl gyfan, mewn ffordd, yn gasgliadau. Mae’n debyg mai’r brif neges roeddwn i eisiau ei gwneud oedd “mae’r nwyddau am ddim drosodd, nid yw niwronau bellach yn darparu atebion syml.” Nawr mae angen i ni weithio'n galed i wneud penderfyniadau cymhleth. Neu gweithio'n galed yn gwneud ymchwil wyddonol gymhleth.

Yn gyffredinol, mae'r pwnc yn destun dadl. Efallai bod gan ddarllenwyr enghreifftiau mwy diddorol?

Ffynhonnell: hab.com

Ychwanegu sylw