Tèks sa a se pa rezilta rechèch syantifik, men se youn nan anpil opinyon konsènan devlopman teknolojik imedya nou an. E an menm tan yon envitasyon pou diskisyon.
Gary Marcus, yon pwofesè nan New York University, kwè ke aprantisaj pwofon jwe yon wòl enpòtan nan devlopman AI. Men, li tou kwè ke twòp antouzyasm pou teknik sa a ka mennen nan diskredite li yo.
Nan liv li a Redemaraj AI: Bati entèlijans atifisyèl nou ka fè konfyans Marcus, yon neuroscientist pa fòmasyon ki te bati yon karyè sou dènye kri rechèch AI, adrese aspè teknik ak etik yo. Soti nan yon pèspektiv teknoloji, aprantisaj pwofon ka imite travay pèsepsyon sèvo nou yo fè, tankou imaj oswa rekonesans lapawòl. Men, pou lòt travay, tankou konprann konvèsasyon oswa detèmine relasyon kòz ak efè, aprantisaj pwofon pa apwopriye. Pou kreye machin entèlijan ki pi avanse ki ka rezoud yon seri pi laj de pwoblèm-souvan yo rele entèlijans jeneral atifisyèl-aprantisaj pwofon bezwen konbine avèk lòt teknik.
Si yon sistèm AI pa vrèman konprann travay li yo oswa mond lan alantou li, sa ka mennen nan konsekans danjere. Menm chanjman yo mwendr inatandi nan anviwònman sistèm nan ka mennen nan konpòtman inègza. Gen anpil egzanp sa yo deja: detèminan ekspresyon ki pa apwopriye ki fasil pou twonpe; sistèm rechèch travay ki toujou fè diskriminasyon; machin san chofè ki fè aksidan epi pafwa touye chofè a oswa pyeton an. Kreye entèlijans jeneral atifisyèl se pa sèlman yon pwoblèm rechèch enteresan, li gen anpil aplikasyon konplètman pratik.
Nan liv yo a, Marcus ak ko-otè li Ernest Davis diskite pou yon chemen diferan. Yo kwè ke nou toujou lwen kreye AI jeneral, men yo gen konfyans ke pi bonè oswa pita li pral posib yo kreye li.
Poukisa nou bezwen AI jeneral? Vèsyon espesyalize yo te deja kreye epi yo pote anpil benefis.
Sa a dwat, epi pral gen menm plis benefis. Men, gen anpil pwoblèm ke AI espesyalize tou senpleman pa ka rezoud. Pou egzanp, konprann lapawòl òdinè, oswa asistans jeneral nan mond lan vityèl, oswa yon robo ki ede ak netwaye ak kwit manje. Travay sa yo depase kapasite AI espesyalize yo. Yon lòt kesyon pratik ki enteresan: èske li posib pou kreye yon machin ki an sekirite pou pwòp tèt ou lè l sèvi avèk AI espesyalize? Eksperyans montre ke AI sa yo toujou gen anpil pwoblèm ak konpòtman nan sitiyasyon nòmal, menm lè w ap kondwi, ki konplike sitiyasyon an anpil.
Mwen panse ke nou tout ta renmen genyen AI ki ka ede nou fè gwo nouvo dekouvèt nan medikaman. Li pa klè si wi ou non teknoloji aktyèl yo apwopriye pou sa, paske byoloji se yon domèn konplèks. Ou bezwen prepare pou li anpil liv. Syantis yo konprann relasyon kòz ak efè nan entèraksyon rezo ak molekil, yo ka devlope teyori sou planèt yo, ak sou sa. Sepandan, ak AI espesyalize, nou pa ka kreye machin ki kapab fè dekouvèt sa yo. Ak AI jeneral, nou ta ka revolusyone syans, teknoloji ak medikaman. Dapre mwen, li trè enpòtan pou kontinye travay pou kreye AI jeneral.
Li son tankou pa "jeneral" ou vle di fò AI?
Pa "jeneral" mwen vle di ke AI pral kapab panse ak rezoud nouvo pwoblèm sou vole. Kontrèman ak, di, Ale, kote pwoblèm nan pa te chanje pou dènye 2000 ane yo.
Jeneral AI ta dwe kapab pran desizyon nan tou de politik ak medikaman. Sa a se analogue ak kapasite imen; nenpòt moun ki lisid ka fè anpil. Ou pran elèv ki pa gen eksperyans epi nan kèk jou fè yo travay sou prèske nenpòt bagay, soti nan yon pwoblèm legal nan yon pwoblèm medikal. Sa a se paske yo gen yon konpreyansyon jeneral sou mond lan epi yo ka li, epi yo ka Se poutèt sa kontribye nan yon seri trè laj nan aktivite.
Relasyon ki genyen ant entèlijans sa yo ak entèlijans fò se ke yon entèlijans ki pa fò pwobableman pa pral kapab rezoud pwoblèm jeneral. Pou kreye yon bagay ki solid ase pou fè fas ak yon mond k ap chanje tout tan, ou ka bezwen omwen apwòch entèlijans jeneral.
Men koulye a, nou trè lwen sa a. AlphaGo ka jwe parfe byen sou yon tablo 19x19, men li bezwen yo dwe antrene yo jwe sou yon tablo rektangilè. Oswa pran sistèm aprantisaj fon an mwayèn: li ka rekonèt yon elefan si li byen limen ak teksti po li vizib. Men, si sèlman silwèt nan yon elefan se vizib, sistèm nan pral pwobableman pa kapab rekonèt li.
Nan liv ou a, ou mansyone ke aprantisaj pwofon pa ka reyalize kapasite AI jeneral paske li pa kapab konpreyansyon pwofon.
Nan syans mantal yo pale sou fòmasyon divès modèl mantal. Mwen chita nan yon chanm otèl epi mwen konprann ke gen yon klozèt, gen yon kabann, gen yon televizyon ki pandye nan yon fason etranj. Mwen konnen tout bagay sa yo, mwen pa jis idantifye yo. Mwen konprann tou ki jan yo konekte youn ak lòt. Mwen gen lide sou fonksyone mond lan bò kote m '. Yo pa pafè. Yo ka mal, men yo byen bon. E baze sou yo, mwen fè anpil konklizyon ki vin gid pou aksyon mwen chak jou.
Lòt ekstrèm la te yon bagay tankou sistèm nan jwèt Atari ki te konstwi pa DeepMind, nan ki li te sonje sa li te bezwen fè lè li te wè piksèl nan sèten kote sou ekran an. Si ou jwenn ase done, ou ka panse ou gen yon konpreyansyon, men an reyalite li trè supèrfisyèl. Prèv sa a se ke si ou deplase objè pa twa piksèl, AI a jwe pi mal. Chanjman deranje l. Sa a se opoze a nan konpreyansyon pwofon.
Pou rezoud pwoblèm sa a, ou pwopoze retounen nan AI klasik. Ki avantaj nou ta dwe eseye itilize?
Gen plizyè avantaj.
Premyèman, AI klasik se aktyèlman yon fondasyon pou kreye modèl mantal nan mond lan, ki baze sou ki konklizyon yo ka Lè sa a, dwe trase.
Dezyèmman, AI klasik parfe konpatib ak règ yo. Gen yon tandans etranj nan aprantisaj pwofon kounye a kote ekspè yo ap eseye evite règ. Yo vle fè tout bagay sou rezo neral epi yo pa fè anyen ki sanble ak pwogramasyon klasik. Men, gen pwoblèm ki te rezoud avèk kalm nan fason sa a, e pa gen moun ki te peye atansyon sou li. Pou egzanp, bati wout nan Google Maps.
An reyalite, nou bezwen tou de apwòch. Aprantisaj machin bon nan aprann nan done, men trè pòv nan reprezante abstraksyon an ki se yon pwogram òdinatè. Klasik AI travay byen ak abstraksyon, men li dwe pwograme antyèman alamen, epi gen twòp konesans nan mond lan pou pwograme yo tout. Klèman nou bezwen konbine tou de apwòch.
Sa a lye nan chapit kote w ap pale de sa nou ka aprann nan lespri imen an. Ak premye a tout bagay, sou konsèp la ki baze sou lide ki mansyone pi wo a ke konsyans nou an konsiste de anpil sistèm diferan ki travay nan diferan fason.
Mwen panse ke yon lòt fason yo eksplike sa a se ke chak sistèm mantal nou genyen reyèlman rezoud yon pwoblèm diferan. Pati ki sanble nan AI dwe fèt pou rezoud pwoblèm diferan ki gen karakteristik diferan.
Koulye a, nou ap eseye sèvi ak kèk teknoloji tout-an-yon pou rezoud pwoblèm ki radikalman diferan youn ak lòt. Konprann yon fraz pa ditou menm jan ak rekonèt yon objè. Men, moun yo ap eseye sèvi ak aprantisaj pwofon nan tou de ka yo. Soti nan yon pwen de vi mantal, sa yo se travay kalitatif diferan. Mwen tou senpleman sezi wè ki jan ti apresyasyon gen pou AI klasik nan kominote a aprantisaj pwofon. Poukisa tann yon bal an ajan parèt? Li pa ka atenn, e rechèch san rezilta pa pèmèt nou konprann tout konpleksite travay la pou kreye AI.
Ou mansyone tou ke sistèm AI yo nesesè pou konprann relasyon kòz ak efè. Èske w panse aprantisaj pwofon, AI klasik, oswa yon bagay konplètman nouvo pral ede nou ak sa a?
Sa a se yon lòt zòn kote aprantisaj pwofon pa byen adapte. Li pa eksplike kòz sèten evènman, men kalkile pwobabilite pou yon evènman nan kondisyon yo bay yo.
De kisa nap pale? Ou gade sèten senaryo, epi ou konprann poukisa sa rive ak sa ki ka rive si kèk sikonstans chanje. Mwen ka gade sou sipò televizyon an chita sou epi imajine ke si mwen koupe youn nan janm li yo, sipò a pral panche epi televizyon an pral tonbe. Sa a se yon relasyon kòz ak efè.
AI klasik ban nou kèk zouti pou sa. Li ka imajine, pou egzanp, ki sa ki sipò ak ki sa yon tonbe. Men, mwen pa pral fè lwanj twòp. Pwoblèm lan se ke AI klasik lajman depann sou enfòmasyon konplè sou sa k ap pase, epi mwen te rive nan yon konklizyon jis nan gade nan kanpe la. Mwen ka yon jan kanmenm jeneralize, imajine pati nan kanpe la ki pa vizib pou mwen. Nou poko gen zouti pou aplike pwopriyete sa a.
Ou di tou ke moun gen konesans natirèl. Ki jan sa ka aplike nan AI?
Nan moman nesans la, sèvo nou an se deja yon sistèm trè elabore. Li pa fiks nati te kreye premye, ki graj bouyon an. Apre sa, aprann ede nou revize bouyon sa a pandan tout lavi nou.
Yon bouyon ki graj nan sèvo a deja gen sèten kapasite. Yon bouk kabrit ki fèk fèt kapab desann sou mòn lan san erè nan kèk èdtan. Li evidan ke li deja gen yon konpreyansyon sou espas ki genyen twa dimansyon, kò l 'ak relasyon ki genyen ant yo. Yon sistèm trè konplèks.
Sa a se an pati poukisa mwen kwè ke nou bezwen ibrid. Li difisil pou imajine ki jan yon moun ta ka kreye yon robo ki fonksyone byen nan yon mond san konesans menm jan an sou ki kote yo kòmanse, olye ke kòmanse ak yon adwaz vid ak aprann nan eksperyans long, vas.
Kòm pou moun, konesans natirèl nou an soti nan genomic nou an, ki te evolye sou yon tan long. Men, ak sistèm AI nou pral oblije ale nan yon wout diferan. Yon pati nan sa a ka règ yo pou konstwi algoritm nou yo. Yon pati nan sa a ka règ yo pou kreye estrikti done yo ke algoritm sa yo manipile. Ak yon pati nan sa a ka konnen ke nou pral dirèkteman envesti nan machin.
Li enteresan ke nan liv la ou pote lide a nan konfyans ak kreyasyon an nan sistèm konfyans. Poukisa ou te chwazi kritè patikilye sa a?
Mwen kwè ke jodi a tout bagay sa yo se yon jwèt boul. Li sanble ke nou ap viv nan yon moman etranj nan listwa, fè konfyans yon anpil nan lojisyèl ki pa fè konfyans. Mwen panse ke enkyetid nou genyen jodi a pap dire pou tout tan. Nan yon santèn ane, AI pral jistifye konfyans nou an, e petèt pi bonè.
Men jodi a AI se danjere. Pa nan sans ke Elon Musk pè, men nan sans ke sistèm entèvyou travay fè diskriminasyon kont fanm, kèlkeswa sa pwogramè yo fè, paske zouti yo twò senp.
Mwen swete nou gen pi bon AI. Mwen pa vle wè yon "ivè AI" kote moun reyalize ke AI pa travay epi li se jis plenn danjere epi yo pa vle ranje li.
Nan kèk fason, liv ou a sanble trè optimis. Ou sipoze ke li posib pou konstwi yon AI ki fè konfyans. Nou jis bezwen gade nan yon lòt direksyon.
Se vre, liv la trè pesimis nan kout tèm ak trè optimis nan tèm long la. Nou kwè ke tout pwoblèm nou te dekri yo ka rezoud lè w pran yon gade pi laj nan ki repons kòrèk yo ta dwe. Epi nou panse ke si sa rive, mond lan pral yon pi bon kote.
Sous: www.habr.com