Ovaj tekst nije rezultat znanstvenog istraživanja, već jedno od mnogih mišljenja o našem neposrednom tehnološkom razvoju. A ujedno i poziv na raspravu.
Gary Marcus, profesor na Sveučilištu New York, smatra da duboko učenje igra važnu ulogu u razvoju umjetne inteligencije. Ali također smatra da pretjerano oduševljenje ovom tehnikom može dovesti do njezine diskreditacije.
U svojoj knjizi Ponovno pokretanje AI: Izgradnja umjetne inteligencije kojoj možemo vjerovati Marcus, po obrazovanju neuroznanstvenik koji je karijeru izgradio na vrhunskom istraživanju umjetne inteligencije, bavi se tehničkim i etičkim aspektima. Iz tehnološke perspektive, duboko učenje može uspješno oponašati perceptivne zadatke koje naš mozak obavlja, kao što je prepoznavanje slike ili govora. Ali za druge zadatke, poput razumijevanja razgovora ili utvrđivanja uzročno-posljedičnih veza, duboko učenje nije prikladno. Za stvaranje naprednijih inteligentnih strojeva koji mogu riješiti širi raspon problema—koji se često nazivaju umjetnom općom inteligencijom—dubinsko učenje treba kombinirati s drugim tehnikama.
Ako sustav umjetne inteligencije uistinu ne razumije svoje zadatke ili svijet oko sebe, to može dovesti do opasnih posljedica. Čak i najmanje neočekivane promjene u okruženju sustava mogu dovesti do pogrešnog ponašanja. Takvih je primjera već bilo mnogo: odrednice neprikladnih izraza koje je lako zavarati; sustavi traženja posla koji dosljedno diskriminiraju; automobili bez vozača koji se sudare i ponekad ubiju vozača ili pješaka. Stvaranje opće umjetne inteligencije nije samo zanimljiv istraživački problem, on ima mnogo posve praktičnih primjena.
U svojoj knjizi Marcus i njegov koautor Ernest Davis zalažu se za drugačiji put. Vjeruju da smo još daleko od stvaranja opće umjetne inteligencije, ali su uvjereni da će je prije ili kasnije biti moguće stvoriti.
Zašto nam je potrebna opća umjetna inteligencija? Specijalizirane verzije već su stvorene i donose mnogo prednosti.
Tako je, i bit će još više koristi. Ali postoje mnogi problemi koje specijalizirana umjetna inteligencija jednostavno ne može riješiti. Na primjer, razumijevanje običnog govora, ili opća pomoć u virtualnom svijetu, ili robot koji pomaže pri čišćenju i kuhanju. Takvi zadaci nadilaze mogućnosti specijalizirane umjetne inteligencije. Još jedno zanimljivo praktično pitanje: je li moguće stvoriti siguran samovozeći automobil pomoću specijalizirane umjetne inteligencije? Iskustvo pokazuje da takva AI još uvijek ima mnogo problema s ponašanjem u nenormalnim situacijama, čak i tijekom vožnje, što uvelike komplicira situaciju.
Mislim da bismo svi željeli imati umjetnu inteligenciju koja nam može pomoći da dođemo do velikih novih otkrića u medicini. Nejasno je jesu li trenutne tehnologije prikladne za to, budući da je biologija složeno područje. Morate biti spremni čitati puno knjiga. Znanstvenici razumiju uzročno-posljedične odnose u interakciji mreža i molekula, mogu razviti teorije o planetima i tako dalje. Međutim, sa specijaliziranom umjetnom inteligencijom ne možemo stvoriti strojeve sposobne za takva otkrića. A s općom umjetnom inteligencijom mogli bismo revolucionirati znanost, tehnologiju i medicinu. Po mom mišljenju, vrlo je važno nastaviti raditi na stvaranju opće umjetne inteligencije.
Zvuči kao da pod "općenito" mislite na jaku umjetnu inteligenciju?
Pod "općenitim" mislim da će AI moći razmišljati o novim problemima i rješavati ih u hodu. Za razliku od, recimo, Goa, gdje se problem nije promijenio zadnjih 2000 godina.
Opća umjetna inteligencija trebala bi moći donositi odluke i u politici i u medicini. Ovo je analogno ljudskoj sposobnosti; svaka zdrava osoba može učiniti puno. Uzimate neiskusne studente i u roku od nekoliko dana radite na gotovo bilo čemu, od pravnog do medicinskog problema. To je zato što imaju opće razumijevanje svijeta i znaju čitati, te stoga mogu pridonijeti vrlo širokom rasponu aktivnosti.
Odnos između takve inteligencije i jake inteligencije je da slaba inteligencija vjerojatno neće moći riješiti opće probleme. Da biste stvorili nešto dovoljno robusno da se nosite sa svijetom koji se neprestano mijenja, možda ćete morati pristupiti barem općoj inteligenciji.
Ali sada smo jako daleko od ovoga. AlphaGo može savršeno dobro igrati na ploči 19x19, ali ga treba ponovno uvježbati za igranje na pravokutnoj ploči. Ili uzmimo prosječni sustav dubokog učenja: on može prepoznati slona ako je dobro osvijetljen i ako se vidi tekstura njegove kože. A ako se vidi samo silueta slona, sustav ga vjerojatno neće moći prepoznati.
U svojoj knjizi spominjete da duboko učenje ne može postići sposobnosti opće umjetne inteligencije jer nije sposobno za duboko razumijevanje.
U kognitivnoj znanosti govori se o formiranju različitih kognitivnih modela. Sjedim u hotelskoj sobi i shvaćam da postoji ormar, postoji krevet, postoji televizor koji je obješen na neobičan način. Poznajem sve te predmete, ne samo da ih identificiram. Također razumijem kako su oni međusobno povezani. Imam ideje o funkcioniranju svijeta oko sebe. Nisu savršeni. Možda griješe, ali su prilično dobri. I na temelju njih donosim mnoštvo zaključaka koji postaju smjernice za moje svakodnevno djelovanje.
Druga krajnost bilo je nešto poput sustava igre Atari koji je izgradio DeepMind, u kojem je pamtio što treba učiniti kada vidi piksele na određenim mjestima na ekranu. Ako dobijete dovoljno podataka, možda mislite da imate razumijevanja, ali u stvarnosti je to vrlo površno. Dokaz za to je da ako pomaknete objekte za tri piksela, AI igra mnogo lošije. Promjene ga zbunjuju. Ovo je suprotno od dubokog razumijevanja.
Kako biste riješili ovaj problem, predlažete povratak na klasičnu umjetnu inteligenciju. Koje bismo prednosti trebali pokušati iskoristiti?
Ima nekoliko prednosti.
Prvo, klasična umjetna inteligencija zapravo je okvir za kreiranje kognitivnih modela svijeta na temelju kojih se potom mogu donositi zaključci.
Drugo, klasični AI je savršeno kompatibilan s pravilima. Trenutačno postoji čudan trend dubokog učenja gdje stručnjaci pokušavaju izbjeći pravila. Žele raditi sve na neuronskim mrežama i ne raditi ništa što izgleda kao klasično programiranje. Ali postoje problemi koji su se mirno rješavali na taj način, a nitko se na to nije obazirao. Na primjer, izgradnja ruta u Google kartama.
Zapravo, potrebna su nam oba pristupa. Strojno učenje dobro je u učenju iz podataka, ali je vrlo loše u predstavljanju apstrakcije koja je računalni program. Klasična umjetna inteligencija dobro radi s apstrakcijama, ali mora se u potpunosti programirati ručno, a na svijetu ima previše znanja da bi se sve programiralo. Jasno je da moramo kombinirati oba pristupa.
Ovo je povezano s poglavljem u kojem govorite o tome što možemo naučiti od ljudskog uma. I prije svega, o konceptu koji se temelji na gore spomenutoj ideji da se naša svijest sastoji od mnogo različitih sustava koji rade na različite načine.
Mislim da je drugi način da se ovo objasni taj da svaki kognitivni sustav koji imamo stvarno rješava drugačiji problem. Slični dijelovi umjetne inteligencije moraju biti dizajnirani za rješavanje različitih problema koji imaju različite karakteristike.
Sada pokušavamo koristiti neke sve-u-jednom tehnologije za rješavanje problema koji su radikalno različiti jedni od drugih. Razumijevanje rečenice uopće nije isto što i prepoznavanje predmeta. Ali ljudi pokušavaju koristiti duboko učenje u oba slučaja. S kognitivnog gledišta, to su kvalitativno različiti zadaci. Jednostavno sam zapanjen koliko se malo cijeni klasična umjetna inteligencija u zajednici dubokog učenja. Zašto čekati da se pojavi srebrni metak? To je nedostižno, a besplodna traženja ne dopuštaju nam da shvatimo svu složenost zadatka stvaranja umjetne inteligencije.
Također spominjete da su AI sustavi potrebni za razumijevanje uzročno-posljedičnih odnosa. Mislite li da će nam u tome pomoći duboko učenje, klasična umjetna inteligencija ili nešto sasvim novo?
Ovo je još jedno područje u kojem duboko učenje nije dobro prilagođeno. Ne objašnjava uzroke određenih događaja, već izračunava vjerojatnost događaja u danim uvjetima.
O čemu pričamo? Gledate određene scenarije i shvaćate zašto se to događa i što bi se moglo dogoditi ako se neke okolnosti promijene. Mogu gledati postolje na kojem stoji televizor i zamisliti da će se postolje prevrnuti, a televizor pasti, ako mu odrežem jednu nogu. Ovo je odnos uzroka i posljedice.
Klasična umjetna inteligencija daje nam neke alate za to. Može zamisliti, na primjer, što je oslonac, a što pad. Ali neću pretjerano hvaliti. Problem je što klasična umjetna inteligencija uvelike ovisi o potpunoj informaciji o tome što se događa, a do toga sam došao sam gledajući štand. Mogu nekako generalizirati, zamisliti dijelove štanda koji mi nisu vidljivi. Još nemamo alate za implementaciju ovog svojstva.
Također kažete da ljudi imaju urođeno znanje. Kako se to može implementirati u AI?
U trenutku rođenja naš je mozak već vrlo razrađen sustav. Nije fiksno, priroda je stvorila prvi, grubi nacrt. A onda nam učenje pomaže da revidiramo taj nacrt tijekom života.
Grubi nacrt mozga već ima određene mogućnosti. Novorođena planinska koza može se nepogrešivo spustiti niz planinu u roku od nekoliko sati. Očito je da već ima razumijevanja za trodimenzionalni prostor, svoje tijelo i odnos među njima. Vrlo složen sustav.
To je dijelom razlog zašto vjerujem da su nam potrebni hibridi. Teško je zamisliti kako bi netko mogao stvoriti robota koji dobro funkcionira u svijetu bez sličnog znanja o tome odakle početi, umjesto da počne s praznom pločom i uči iz dugog, golemog iskustva.
Što se tiče ljudi, naše urođeno znanje dolazi iz našeg genoma koji je evoluirao tijekom dugog vremena. Ali sa sustavima umjetne inteligencije morat ćemo ići drugim putem. Dio toga mogu biti pravila za konstruiranje naših algoritama. Dio toga mogu biti pravila za stvaranje struktura podataka kojima ti algoritmi manipuliraju. Dio toga može biti i znanje koje ćemo izravno ulagati u strojeve.
Zanimljivo je da u knjizi iznosite ideju povjerenja i stvaranja sustava povjerenja. Zašto ste odabrali baš ovaj kriterij?
Vjerujem da je danas sve ovo igra loptom. Čini mi se da živimo kroz čudan trenutak u povijesti, vjerujući puno softvera koji nije vrijedan povjerenja. Mislim da brige koje imamo danas neće trajati zauvijek. Za sto godina AI će opravdati naše povjerenje, a možda i prije.
Ali danas je umjetna inteligencija opasna. Ne u smislu kako se boji Elon Musk, već u smislu da sustavi razgovora za posao diskriminiraju žene, bez obzira što rade programeri, jer su im alati prejednostavni.
Volio bih da imamo bolju AI. Ne želim vidjeti "zimu umjetne inteligencije" u kojoj ljudi shvaćaju da umjetna inteligencija ne radi i da je jednostavno opasna i ne žele to popraviti.
Na neki način, vaša knjiga djeluje vrlo optimistično. Pretpostavljate da je moguće izgraditi pouzdanu AI. Samo trebamo pogledati u drugom smjeru.
Tako je, knjiga je kratkoročno vrlo pesimistična, a dugoročno vrlo optimistična. Vjerujemo da se svi problemi koje smo opisali mogu riješiti širim sagledavanjem točnih odgovora. I mislimo da će svijet, ako se to dogodi, biti bolje mjesto.
Izvor: www.habr.com