Ang tekstong ito ay hindi resulta ng siyentipikong pananaliksik, ngunit isa sa maraming opinyon tungkol sa aming agarang pag-unlad ng teknolohiya. At kasabay nito ay isang imbitasyon sa talakayan.
Si Gary Marcus, isang propesor sa New York University, ay naniniwala na ang malalim na pag-aaral ay may mahalagang papel sa pagbuo ng AI. Ngunit naniniwala rin siya na ang labis na sigasig para sa pamamaraang ito ay maaaring humantong sa kasiraan nito.
Sa kanyang libro Pag-reboot ng AI: Pagbuo ng artificial intelligence na mapagkakatiwalaan natin Si Marcus, isang neuroscientist sa pamamagitan ng pagsasanay na nakagawa ng karera sa makabagong pananaliksik sa AI, ay tumutugon sa mga teknikal at etikal na aspeto. Mula sa pananaw ng teknolohiya, matagumpay na matutularan ng malalim na pag-aaral ang mga perceptual na gawain na ginagawa ng ating utak, gaya ng pagkilala sa imahe o pagsasalita. Ngunit para sa iba pang mga gawain, tulad ng pag-unawa sa mga pag-uusap o pagtukoy ng sanhi-at-epekto na mga relasyon, hindi angkop ang malalim na pag-aaral. Upang lumikha ng mas advanced na mga makinang intelligent na maaaring malutas ang isang mas malawak na hanay ng mga problema-kadalasang tinatawag na artificial general intelligence-ang malalim na pag-aaral ay kailangang isama sa iba pang mga diskarte.
Kung hindi tunay na nauunawaan ng isang AI system ang mga gawain nito o ang mundo sa paligid nito, maaari itong humantong sa mga mapanganib na kahihinatnan. Kahit na ang pinakamaliit na hindi inaasahang pagbabago sa kapaligiran ng system ay maaaring humantong sa maling pag-uugali. Nagkaroon na ng maraming tulad na mga halimbawa: mga determinant ng mga hindi naaangkop na expression na madaling linlangin; mga sistema ng paghahanap ng trabaho na patuloy na nagdidiskrimina; mga sasakyang walang driver na bumabagsak at kung minsan ay pumapatay sa driver o pedestrian. Ang paglikha ng artipisyal na pangkalahatang katalinuhan ay hindi lamang isang kawili-wiling problema sa pananaliksik, mayroon itong maraming ganap na praktikal na mga aplikasyon.
Sa kanilang aklat, si Marcus at ang kanyang co-author na si Ernest Davis ay nagtalo para sa ibang landas. Naniniwala sila na malayo pa tayo sa paglikha ng pangkalahatang AI, ngunit kumpiyansa sila na sa malao't madali ay posible itong likhain.
Bakit kailangan natin ng pangkalahatang AI? Nagawa na ang mga espesyal na bersyon at nagdadala ng maraming benepisyo.
Iyan ay tama, at magkakaroon ng higit pang mga benepisyo. Ngunit maraming problema na hindi kayang lutasin ng dalubhasang AI. Halimbawa, ang pag-unawa sa ordinaryong pananalita, o pangkalahatang tulong sa virtual na mundo, o isang robot na tumutulong sa paglilinis at pagluluto. Ang mga naturang gawain ay lampas sa mga kakayahan ng dalubhasang AI. Isa pang kawili-wiling praktikal na tanong: posible bang lumikha ng isang ligtas na self-driving na kotse gamit ang dalubhasang AI? Ipinapakita ng karanasan na ang naturang AI ay mayroon pa ring maraming problema sa pag-uugali sa mga abnormal na sitwasyon, kahit na kapag nagmamaneho, na lubos na nagpapalubha sa sitwasyon.
Sa tingin ko gusto nating lahat na magkaroon ng AI na makakatulong sa atin na gumawa ng malalaking bagong pagtuklas sa medisina. Ito ay hindi malinaw kung ang mga kasalukuyang teknolohiya ay angkop para dito, dahil ang biology ay isang kumplikadong larangan. Kailangan mong maging handa sa pagbabasa ng maraming libro. Naiintindihan ng mga siyentipiko ang mga ugnayang sanhi-at-epekto sa pakikipag-ugnayan ng mga network at molekula, maaaring bumuo ng mga teorya tungkol sa mga planeta, at iba pa. Gayunpaman, sa dalubhasang AI, hindi kami makakalikha ng mga makina na may kakayahan sa gayong mga pagtuklas. At sa pangkalahatang AI, maaari nating baguhin ang agham, teknolohiya, at medisina. Sa palagay ko, napakahalagang magpatuloy sa paggawa tungo sa paglikha ng pangkalahatang AI.
Parang sa pamamagitan ng "pangkalahatan" ang ibig mong sabihin ay malakas na AI?
Sa pamamagitan ng "pangkalahatan" ang ibig kong sabihin ay magagawa ng AI na mag-isip at malutas ang mga bagong problema sa mabilisang. Hindi tulad ng, sabihin nating, Go, kung saan ang problema ay hindi nagbago sa nakalipas na 2000 taon.
Ang General AI ay dapat na makapagpasya sa parehong pulitika at medisina. Ito ay kahalintulad sa kakayahan ng tao; kahit sinong matinong tao ay maraming magagawa. Kumuha ka ng mga walang karanasan na mga mag-aaral at sa loob ng ilang araw ay gagawa sila ng halos anumang bagay, mula sa isang legal na problema hanggang sa isang medikal na problema. Ito ay dahil mayroon silang pangkalahatang pag-unawa sa mundo at nakakapagbasa, at samakatuwid ay maaaring mag-ambag sa isang napakalawak na hanay ng mga aktibidad.
Ang kaugnayan sa pagitan ng gayong katalinuhan at malakas na katalinuhan ay ang isang hindi malakas na katalinuhan ay malamang na hindi malulutas ang mga pangkalahatang problema. Upang lumikha ng isang bagay na sapat na matatag upang harapin ang isang pabago-bagong mundo, maaaring kailanganin mong lapitan man lang ang pangkalahatang katalinuhan.
Ngunit ngayon ay napakalayo na natin dito. Ang AlphaGo ay maaaring maglaro nang mahusay sa isang 19x19 board, ngunit kailangan itong muling sanayin upang maglaro sa isang parihabang board. O kunin ang average na deep learning system: makikilala nito ang isang elepante kung ito ay mahusay na naiilawan at nakikita ang texture ng balat nito. At kung ang silhouette lang ng isang elepante ang makikita, malamang na hindi ito makikilala ng system.
Sa iyong aklat, binanggit mo na hindi makakamit ng malalim na pag-aaral ang mga kakayahan ng pangkalahatang AI dahil hindi ito kaya ng malalim na pag-unawa.
Sa cognitive science pinag-uusapan nila ang pagbuo ng iba't ibang mga cognitive model. Nakaupo ako sa isang silid ng hotel at naiintindihan ko na mayroong isang aparador, mayroong isang kama, mayroong isang TV na nakabitin sa isang hindi pangkaraniwang paraan. Alam ko ang lahat ng mga bagay na ito, hindi ko lang sila kinikilala. Naiintindihan ko rin kung paano sila magkakaugnay sa isa't isa. Mayroon akong mga ideya tungkol sa paggana ng mundo sa paligid ko. Hindi sila perpekto. Maaaring sila ay mali, ngunit sila ay medyo mahusay. At batay sa mga ito, gumawa ako ng maraming mga konklusyon na nagiging mga patnubay para sa aking pang-araw-araw na mga aksyon.
Ang iba pang sukdulan ay isang bagay tulad ng sistema ng laro ng Atari na binuo ng DeepMind, kung saan naalala nito kung ano ang kailangan nitong gawin kapag nakakita ito ng mga pixel sa ilang partikular na lugar sa screen. Kung nakakuha ka ng sapat na data, maaari mong isipin na mayroon kang pang-unawa, ngunit sa katotohanan ito ay napakababaw. Ang patunay nito ay kung ililipat mo ang mga bagay sa pamamagitan ng tatlong pixel, mas malala ang paglalaro ng AI. Ang mga pagbabago ay naguguluhan sa kanya. Ito ang kabaligtaran ng malalim na pag-unawa.
Upang malutas ang problemang ito, iminumungkahi mong bumalik sa klasikal na AI. Anong mga pakinabang ang dapat nating subukang gamitin?
Mayroong ilang mga pakinabang.
Una, ang klasikal na AI ay talagang isang balangkas para sa paglikha ng mga cognitive na modelo ng mundo, batay sa kung aling mga konklusyon ang maaaring iguguhit.
Pangalawa, ang classical na AI ay ganap na tugma sa mga panuntunan. May kakaibang trend sa malalim na pag-aaral ngayon kung saan sinusubukan ng mga eksperto na iwasan ang mga panuntunan. Gusto nilang gawin ang lahat sa mga neural network at huwag gumawa ng anumang bagay na mukhang klasikal na programming. Ngunit may mga problema na mahinahon na nalutas sa ganitong paraan, at walang nagbigay pansin dito. Halimbawa, ang pagbuo ng mga ruta sa Google Maps.
Sa katunayan, kailangan natin ang parehong mga diskarte. Ang pag-aaral ng makina ay mahusay sa pag-aaral mula sa data, ngunit napakahirap sa pagkatawan ng abstraction na isang computer program. Ang classic na AI ay gumagana nang maayos sa mga abstraction, ngunit dapat itong ganap na na-program sa pamamagitan ng kamay, at may napakaraming kaalaman sa mundo upang i-program ang lahat ng ito. Malinaw na kailangan nating pagsamahin ang parehong mga diskarte.
Ito ay nauugnay sa kabanata kung saan pinag-uusapan mo kung ano ang matututuhan natin mula sa isip ng tao. At una sa lahat, tungkol sa konsepto batay sa ideya na nabanggit sa itaas na ang ating kamalayan ay binubuo ng maraming iba't ibang mga sistema na gumagana sa iba't ibang paraan.
Sa tingin ko ang isa pang paraan upang ipaliwanag ito ay ang bawat sistemang nagbibigay-malay na mayroon tayo ay talagang malulutas ang ibang problema. Ang mga katulad na bahagi ng AI ay dapat na idinisenyo upang malutas ang iba't ibang mga problema na may iba't ibang mga katangian.
Ngayon ay sinusubukan naming gumamit ng ilang mga all-in-one na teknolohiya upang malutas ang mga problema na lubhang naiiba sa bawat isa. Ang pag-unawa sa isang pangungusap ay hindi katulad ng pagkilala sa isang bagay. Ngunit sinusubukan ng mga tao na gumamit ng malalim na pag-aaral sa parehong mga kaso. Mula sa isang nagbibigay-malay na pananaw, ang mga ito ay may magkakaibang mga gawain. Namangha lang ako sa kakaunting pagpapahalaga para sa classical na AI sa deep learning community. Bakit hintayin na lumitaw ang isang pilak na bala? Ito ay hindi maabot, at ang mga walang bungang paghahanap ay hindi nagpapahintulot sa amin na maunawaan ang buong pagiging kumplikado ng gawain ng paglikha ng AI.
Binanggit mo rin na ang mga AI system ay kailangan para maunawaan ang sanhi-at-epekto na mga relasyon. Sa tingin mo, makakatulong ba sa atin ang malalim na pag-aaral, classical AI, o isang bagay na ganap na bago dito?
Ito ay isa pang lugar kung saan hindi angkop ang malalim na pag-aaral. Hindi nito ipinapaliwanag ang mga sanhi ng ilang partikular na kaganapan, ngunit kinakalkula ang posibilidad ng isang kaganapan sa ilalim ng mga ibinigay na kundisyon.
Ano ang ating Pinag-uusapan? Nanonood ka ng ilang partikular na sitwasyon, at nauunawaan mo kung bakit ito nangyayari at kung ano ang maaaring mangyari kung magbago ang ilang sitwasyon. Napapatingin ako sa stand na kinauupuan ng TV at naiisip ko na kapag putulin ko ang isang paa nito, matutumba ang stand at mahuhulog ang TV. Ito ay isang sanhi at epekto na relasyon.
Ang Classic AI ay nagbibigay sa amin ng ilang tool para dito. Maaari niyang isipin, halimbawa, kung ano ang suporta at kung ano ang pagkahulog. Pero hindi ako magpupuri ng sobra. Ang problema ay ang klasikal na AI ay higit na nakasalalay sa kumpletong impormasyon tungkol sa kung ano ang nangyayari, at ako ay nakarating sa isang konklusyon sa pamamagitan lamang ng pagtingin sa stand. I can somehow generalize, imagine parts of the stand na hindi ko nakikita. Wala pa kaming mga tool para ipatupad ang property na ito.
Sinasabi mo rin na ang mga tao ay may likas na kaalaman. Paano ito maipapatupad sa AI?
Sa sandali ng kapanganakan, ang ating utak ay isa nang napakahusay na sistema. Ito ay hindi naayos; nilikha ng kalikasan ang una, magaspang na draft. At pagkatapos ay tinutulungan tayo ng pag-aaral na baguhin ang draft na iyon sa buong buhay natin.
Ang isang magaspang na draft ng utak ay mayroon nang ilang mga kakayahan. Ang isang bagong panganak na kambing sa bundok ay hindi nagkakamali na bumababa sa gilid ng bundok sa loob ng ilang oras. Halata na mayroon na siyang pang-unawa sa three-dimensional space, sa katawan niya at sa relasyon nila. Isang napakakomplikadong sistema.
Ito ang bahagyang dahilan kung bakit naniniwala ako na kailangan natin ng mga hybrid. Mahirap isipin kung paano makakalikha ng robot na gumagana nang maayos sa isang mundo na walang katulad na kaalaman kung saan magsisimula, sa halip na magsimula sa isang blangko na slate at matuto mula sa mahaba, malawak na karanasan.
Para sa mga tao, ang ating likas na kaalaman ay nagmumula sa ating genome, na umusbong sa mahabang panahon. Ngunit sa mga AI system kailangan nating pumunta sa ibang ruta. Bahagi nito ay maaaring ang mga panuntunan para sa pagbuo ng aming mga algorithm. Bahagi nito ay maaaring ang mga panuntunan para sa paglikha ng mga istruktura ng data na minamanipula ng mga algorithm na ito. At bahagi nito ay maaaring kaalaman na direktang mamumuhunan tayo sa mga makina.
Ito ay kagiliw-giliw na sa aklat na ilalabas mo ang ideya ng pagtitiwala at ang paglikha ng mga sistema ng pagtitiwala. Bakit mo pinili ang partikular na pamantayang ito?
Naniniwala ako na ang lahat ng ito ngayon ay isang larong bola. Para sa akin, nabubuhay tayo sa isang kakaibang sandali sa kasaysayan, nagtitiwala sa maraming software na hindi mapagkakatiwalaan. Sa tingin ko ang mga alalahanin natin ngayon ay hindi magtatagal. Sa isang daang taon, bibigyang-katwiran ng AI ang aming tiwala, at maaaring mas maaga.
Ngunit ngayon ang AI ay mapanganib. Hindi sa diwa na ikinatatakot ni Elon Musk, ngunit sa diwa na ang mga sistema ng pakikipanayam sa trabaho ay may diskriminasyon laban sa mga kababaihan, anuman ang ginagawa ng mga programmer, dahil ang kanilang mga tool ay masyadong simple.
Nais kong magkaroon tayo ng mas mahusay na AI. Ayokong makakita ng "AI winter" kung saan napagtanto ng mga tao na ang AI ay hindi gumagana at sadyang mapanganib at ayaw itong ayusin.
Sa ilang mga paraan, ang iyong libro ay mukhang napaka-optimistiko. Ipinapalagay mo na posibleng bumuo ng mapagkakatiwalaang AI. Kailangan lang nating tumingin sa ibang direksyon.
Tama, napaka pessimistic ng libro in the short term and very optimistic in the long term. Naniniwala kami na lahat ng mga problemang inilarawan namin ay malulutas sa pamamagitan ng mas malawak na pagtingin sa kung ano ang dapat na mga tamang sagot. At iniisip namin na kung mangyayari ito, ang mundo ay magiging isang mas mahusay na lugar.
Pinagmulan: www.habr.com