Dan it-test mhuwiex ir-riżultat ta 'riċerka xjentifika, iżda waħda minn ħafna opinjonijiet dwar l-iżvilupp teknoloġiku immedjat tagħna. U fl-istess ħin stedina għad-diskussjoni.
Gary Marcus, professur fl-Università ta' New York, jemmen li t-tagħlim fil-fond għandu rwol importanti fl-iżvilupp tal-IA. Iżda jemmen ukoll li l-entużjażmu eċċessiv għal din it-teknika jista 'jwassal għad-diskredita tagħha.
Fil-ktieb tiegħu Rebooting AI: Nibnu intelliġenza artifiċjali li nistgħu nafdaw Marcus, newroxjenzat bit-taħriġ li bena karriera fuq riċerka avvanzata fl-AI, jindirizza l-aspetti tekniċi u etiċi. Mill-perspettiva tat-teknoloġija, it-tagħlim fil-fond jista 'jimita b'suċċess il-kompiti perċettivi li l-imħuħ tagħna jwettqu, bħall-immaġni jew ir-rikonoxximent tad-diskors. Iżda għal kompiti oħra, bħall-fehim ta 'konversazzjonijiet jew id-determinazzjoni ta' relazzjonijiet ta 'kawża u effett, it-tagħlim fil-fond mhuwiex adattat. Biex jinħolqu magni intelliġenti aktar avvanzati li jistgħu jsolvu firxa usa 'ta' problemi—spiss imsejħa intelliġenza ġenerali artifiċjali—jeħtieġ li t-tagħlim fil-fond jiġi kkombinat ma 'tekniki oħra.
Jekk sistema AI ma tifhimx tassew il-kompiti tagħha jew id-dinja ta 'madwarha, dan jista' jwassal għal konsegwenzi perikolużi. Anke l-iċken bidliet mhux mistennija fl-ambjent tas-sistema jistgħu jwasslu għal imġieba żbaljata. Diġà kien hemm ħafna eżempji bħal dawn: determinanti ta’ espressjonijiet mhux xierqa li huma faċli biex tqarraq; sistemi ta’ tfittxija tax-xogħol li jiddiskriminaw b’mod konsistenti; karozzi bla sewwieq li jiġġarrfu u kultant joqtlu lis-sewwieq jew lil min ikun miexi. Il-ħolqien ta 'intelliġenza ġenerali artifiċjali mhix biss problema ta' riċerka interessanti, għandha ħafna applikazzjonijiet kompletament prattiċi.
Fil-ktieb tagħhom, Marcus u l-ko-awtur tiegħu Ernest Davis jargumentaw għal triq differenti. Huma jemmnu li għadna 'l bogħod milli noħolqu AI ġenerali, iżda huma kunfidenti li llum jew għada se jkun possibbli li tinħoloqha.
Għaliex għandna bżonn AI ġenerali? Verżjonijiet speċjalizzati diġà nħolqu u jġibu ħafna benefiċċji.
Hekk hu, u se jkun hemm saħansitra aktar benefiċċji. Iżda hemm ħafna problemi li l-AI speċjalizzata sempliċement ma tistax issolvi. Per eżempju, fehim ta 'diskors ordinarju, jew assistenza ġenerali fid-dinja virtwali, jew robot li jgħin fit-tindif u t-tisjir. Ħidmiet bħal dawn huma lil hinn mill-kapaċitajiet tal-IA speċjalizzata. Mistoqsija prattika oħra interessanti: huwa possibbli li tinħoloq karozza sikura li taħdem għal rasha billi tuża AI speċjalizzata? L-esperjenza turi li tali AI għad għandha ħafna problemi bl-imġieba f'sitwazzjonijiet anormali, anke waqt is-sewqan, li tikkomplika ħafna s-sitwazzjoni.
Naħseb li lkoll nixtiequ li jkollna AI li tista' tgħinna nagħmlu skoperti ġodda kbar fil-mediċina. Mhux ċar jekk it-teknoloġiji attwali humiex adattati għal dan, peress li l-bijoloġija hija qasam kumpless. Trid tkun ippreparat biex taqra ħafna kotba. Ix-xjentisti jifhmu relazzjonijiet ta 'kawża u effett fl-interazzjoni ta' netwerks u molekuli, jistgħu jiżviluppaw teoriji dwar pjaneti, eċċ. Madankollu, b'AI speċjalizzata, ma nistgħux noħolqu magni kapaċi għal skoperti bħal dawn. U bl-AI ġenerali, nistgħu nirrivoluzzjonaw ix-xjenza, it-teknoloġija u l-mediċina. Fl-opinjoni tiegħi, huwa importanti ħafna li nkomplu naħdmu lejn il-ħolqien ta' AI ġenerali.
Jidher li b'"ġenerali" qed tfisser AI b'saħħitha?
Bi "ġenerali" ngħid li l-AI se tkun kapaċi taħseb dwar u ssolvi problemi ġodda fuq il-fly. B'differenza, ngħidu aħna, Mur, fejn il-problema ma nbidlitx għal dawn l-aħħar 2000 sena.
L-IA ġenerali għandha tkun kapaċi tieħu deċiżjonijiet kemm fil-politika kif ukoll fil-mediċina. Dan huwa analogu għall-kapaċità tal-bniedem; kull persuna sane tista 'tagħmel ħafna. Tiħu studenti mingħajr esperjenza u fi żmien ftit jiem iġorrhom jaħdmu fuq kważi kull ħaġa, minn problema legali għal problema medika. Dan għaliex għandhom fehim ġenerali tad-dinja u jafu jaqraw, u għalhekk jistgħu jikkontribwixxu għal firxa wiesgħa ħafna ta’ attivitajiet.
Ir-relazzjoni bejn tali intelliġenza u intelliġenza qawwija hija li intelliġenza mhux b'saħħitha probabbilment ma tkunx kapaċi ssolvi problemi ġenerali. Biex toħloq xi ħaġa robusta biżżejjed biex tittratta dinja li dejjem tinbidel, jista 'jkollok bżonn tal-inqas tavviċina l-intelliġenza ġenerali.
Imma issa ninsabu 'l bogħod ħafna minn dan. AlphaGo jista 'jilgħab perfettament tajjeb fuq bord 19x19, iżda jeħtieġ li jiġi mħarreġ mill-ġdid biex jilgħab fuq bord rettangolari. Jew ħu s-sistema medja ta 'tagħlim fil-fond: jista' jagħraf iljunfant jekk ikun imdawwal sew u n-nisġa tal-ġilda tiegħu tkun viżibbli. U jekk is-siluwett ta 'iljunfant biss tkun viżibbli, is-sistema probabbilment ma tkunx tista' tagħrafha.
Fil-ktieb tiegħek, inti ssemmi li t-tagħlim fil-fond ma jistax jikseb il-kapaċitajiet tal-AI ġenerali għaliex mhuwiex kapaċi jifhem fil-fond.
Fix-xjenza konjittiva jitkellmu dwar il-formazzjoni ta 'diversi mudelli konjittivi. Qiegħed bilqiegħda f’kamra ta’ lukanda u nifhem li hemm closet, hemm sodda, hemm TV li huwa mdendel b’mod mhux tas-soltu. Naf dawn l-oġġetti kollha, mhux biss nidentifikahom. Nifhem ukoll kif huma interkonnessi ma’ xulxin. Għandi ideat dwar il-funzjonament tad-dinja ta’ madwari. Mhumiex perfetti. Jistgħu jkunu żbaljati, iżda huma pjuttost tajbin. U abbażi tagħhom, nagħmel ħafna konklużjonijiet li jsiru linji gwida għall-azzjonijiet tiegħi ta’ kuljum.
L-estrem l-ieħor kien xi ħaġa bħas-sistema tal-logħob Atari mibnija minn DeepMind, li fiha ftakar dak li kellu bżonn jagħmel meta rat pixels f'ċerti postijiet fuq l-iskrin. Jekk ikollok biżżejjed dejta, tista 'taħseb li għandek fehim, iżda fir-realtà hija superfiċjali ħafna. Prova ta 'dan hija li jekk tiċċaqlaq oġġetti bi tliet pixels, l-AI tilgħab ħafna agħar. Il-bidliet ifixkluh. Dan huwa l-oppost ta 'fehim profond.
Biex issolvi din il-problema, tipproponi li tirritorna għall-AI klassika. Liema vantaġġi għandna nippruvaw nużaw?
Hemm diversi vantaġġi.
L-ewwel, l-AI klassika hija fil-fatt qafas għall-ħolqien ta 'mudelli konjittivi tad-dinja, ibbażat fuq liema konklużjonijiet jistgħu mbagħad jittieħdu.
It-tieni nett, l-AI klassika hija perfettament kompatibbli mar-regoli. Hemm xejra stramba fit-tagħlim profond bħalissa fejn l-esperti qed jippruvaw jevitaw ir-regoli. Iridu jagħmlu kollox fuq netwerks newrali u ma jagħmlu xejn li jidher bħal programmar klassiku. Iżda hemm problemi li ġew solvuti bil-kalma b'dan il-mod, u ħadd ma ta attenzjoni għaliha. Per eżempju, bini ta 'rotot fil-Google Maps.
Fil-fatt, għandna bżonn iż-żewġ approċċi. It-tagħlim bil-magni huwa tajjeb biex jitgħallem mid-dejta, iżda fqir ħafna biex jirrappreżenta l-astrazzjoni li hija programm tal-kompjuter. L-AI klassika taħdem tajjeb mal-astrazzjonijiet, iżda trid tiġi pprogrammata kompletament bl-idejn, u hemm wisq għarfien fid-dinja biex jiġu pprogrammati kollha. Jidher ċar li rridu ngħaqqdu ż-żewġ approċċi.
Dan jorbot mal-kapitlu li fih titkellem dwar dak li nistgħu nitgħallmu mill-moħħ tal-bniedem. U l-ewwel nett, dwar il-kunċett ibbażat fuq l-idea msemmija hawn fuq li l-kuxjenza tagħna tikkonsisti f'ħafna sistemi differenti li jaħdmu b'modi differenti.
Naħseb mod ieħor biex nispjega dan huwa li kull sistema konjittiva li għandna verament issolvi problema differenti. Partijiet simili tal-IA għandhom ikunu ddisinjati biex isolvu problemi differenti li għandhom karatteristiċi differenti.
Issa qed nippruvaw nużaw xi teknoloġiji all-in-one biex insolvu problemi li huma radikalment differenti minn xulxin. Li tifhem sentenza xejn mhu l-istess bħal li tagħraf oġġett. Iżda n-nies qed jippruvaw jużaw it-tagħlim fil-fond fiż-żewġ każijiet. Mil-lat konjittiv, dawn huma kompiti kwalitattivament differenti. Jien sempliċiment mistagħġeb kemm hemm ftit apprezzament għall-IA klassika fil-komunità tat-tagħlim profond. Għaliex tistenna li tidher balla tal-fidda? Ma jistax jintlaħaq, u t-tfittxijiet bla frott ma jippermettux li nifhmu l-kumplessità sħiħa tal-kompitu tal-ħolqien tal-AI.
Issemmi wkoll li s-sistemi AI huma meħtieġa biex jifhmu r-relazzjonijiet kawża u effett. Taħseb li t-tagħlim fil-fond, l-AI klassika, jew xi ħaġa kompletament ġdida se tgħinna f'dan?
Dan huwa qasam ieħor fejn it-tagħlim fil-fond mhuwiex adattat tajjeb. Ma tispjegax il-kawżi ta 'ċerti avvenimenti, iżda tikkalkula l-probabbiltà ta' avveniment taħt kundizzjonijiet partikolari.
Fuq xiex qed nitkellmu? Inti tara ċerti xenarji, u tifhem għaliex jiġri dan u x'jista' jiġri jekk xi ċirkostanzi jinbidlu. Nista’ nħares lejn l-istand li fuqu jpoġġi t-TV u nimmaġina li jekk naqta’ waħda minn riġlejh, l-istand jinqaleb u t-TV jaqa’. Din hija relazzjoni ta' kawża u effett.
Classic AI tagħtina xi għodod għal dan. Jista’ jimmaġina, pereżempju, x’inhu l-appoġġ u x’inhi waqgħa. Imma mhux se nfaħħar iżżejjed. Il-problema hija li l-AI klassika tiddependi ħafna fuq informazzjoni kompluta dwar dak li qed jiġri, u wasalt għal konklużjoni biss billi nħares lejn l-istand. Nista' b'xi mod niġġeneralizza, nimmaġina partijiet tal-istand li mhumiex viżibbli għalija. Għadna m'għandniex l-għodda biex nimplimentaw din il-proprjetà.
Tgħid ukoll li n-nies għandhom għarfien intrinsiku. Kif jista' jiġi implimentat dan fl-AI?
Fil-mument tat-twelid, il-moħħ tagħna huwa diġà sistema elaborata ħafna. Mhuwiex fiss in-natura maħluqa l-ewwel, abbozz mhux maħdum. U mbagħad it-tagħlim jgħinna nirrevedu dak l-abbozz tul ħajjitna.
Abbozz approssimattiv tal-moħħ diġà għandu ċerti kapaċitajiet. Mogħoż tal-muntanji tat-twelid huwa kapaċi jinżel bla dubju l-muntanji fi ftit sigħat. Huwa ovvju li hu diġà jifhem l-ispazju tridimensjonali, il-ġisem tiegħu u r-relazzjoni bejniethom. Sistema kumplessa ħafna.
Dan huwa parzjalment għaliex nemmen li għandna bżonn ibridi. Huwa diffiċli li wieħed jimmaġina kif wieħed jista 'joħloq robot li jiffunzjona tajjeb f'dinja mingħajr għarfien simili ta' fejn tibda, aktar milli tibda b'lavanja vojta u titgħallem minn esperjenza twila u vasta.
Fir-rigward tal-bnedmin, l-għarfien intrinsiku tagħna ġej mill-ġenoma tagħna, li evolva fuq żmien twil. Iżda bis-sistemi AI se jkollna nimxu rotta differenti. Parti minn dan jistgħu jkunu r-regoli għall-kostruzzjoni tal-algoritmi tagħna. Parti minn dan jistgħu jkunu r-regoli għall-ħolqien tal-istrutturi tad-dejta li jimmanipulaw dawn l-algoritmi. U parti minn dan jista 'jkun għarfien li se ninvestu direttament fil-magni.
Huwa interessanti li fil-ktieb tqajjem l-idea ta 'fiduċja u l-ħolqien ta' sistemi ta 'fiduċja. Għaliex għażilt dan il-kriterju partikolari?
Nemmen li llum dan kollu huwa logħba tal-ballun. Jidhirli li qed ngħixu mument stramb fl-istorja, nafdaw ħafna softwer li mhux ta’ min jafdah. Naħseb li l-inkwiet li għandna llum mhux se jdum għal dejjem. F'mitt sena, l-AI se tiġġustifika l-fiduċja tagħna, u forsi qabel.
Imma llum l-AI hija perikoluża. Mhux fis-sens li Elon Musk jibża’, iżda fis-sens li s-sistemi ta’ intervisti tax-xogħol jiddiskriminaw kontra n-nisa, irrispettivament minn dak li jagħmlu l-programmaturi, għax l-għodod tagħhom huma sempliċi wisq.
Nixtieq li jkollna AI aħjar. Ma rridx nara "xitwa AI" fejn in-nies jirrealizzaw li l-AI ma taħdimx u hija sempliċiment perikoluża u ma jridux jirranġawha.
F'ċerti modi, il-ktieb tiegħek jidher ottimist ħafna. Inti tassumi li huwa possibbli li tibni AI affidabbli. Għandna bżonn biss li nħarsu f'direzzjoni differenti.
Hekk hu, il-ktieb huwa pessimist ħafna fuq żmien qasir u ottimista ħafna fit-tul. Aħna nemmnu li l-problemi kollha li ddeskrivejna jistgħu jiġu solvuti billi tagħti ħarsa usa’ lejn x’għandhom ikunu t-tweġibiet korretti. U naħsbu li jekk jiġri dan, id-dinja tkun post aħjar.
Sors: www.habr.com