Ovaj tekst nije rezultat znanstvenog istraživanja, već jedno od mnogih mišljenja o našem najbližem tehnološkom razvoju. Također, to je poziv na raspravu.
Gary Marcus, profesor na Sveučilištu New York, uvjeren je da duboko učenje igra važnu ulogu u razvoju AI-a. No smatra i da prekomjerno zalaganje za ovu metodu može dovesti do njezine diskreditacije.
U svojoj knjizi Rebooting AI: Building artificial intelligence we can trust Marcus, po struci neurolog koji je izgradio karijeru na naprednim istraživanjima u području AI-a, bavi se tehničkim i etičkim aspektima. Z s aspekta tehnologije, duboko učenje može uspješno imitirati rješavanje perceptivnih zadataka koje obavlja naš mozak: na primjer, prepoznavanje slika ili govora. No za rješavanje drugih zadataka, poput razumijevanja razgovora ili određivanja uzročno-posljedičnih odnosa, duboko učenje nije prikladno. Kako bismo stvorili naprednije inteligentne uređaje sposobne rješavati širi spektar zadataka — često nazivane općim umjetnim intelektom — duboko učenje potrebno je kombinirati s drugim metodama.
Ako AI sustav zapravo ne razumije svoje zadatke ili okolni svijet, to može dovesti do opasnih posljedica. Čak i najmanje neočekivane promjene u okruženju sustava mogu uzrokovati njegovo pogrešno ponašanje. Takvih primjera već je bilo mnogo: sustavi za prepoznavanje neprikladnih izraza koji se lako varaju; sustavi za traženje posla koji konstantno diskriminiraju; autonomna vozila koja sudjeluju u nezgodama i ponekad ubijaju vozača ili pješaka. Stvaranje općeg umjetnog intelekta nije samo zanimljiv istraživački problem, već ima mnoge potpuno praktične primjene.
U svojoj knjizi, Marcus i njegov koautor Ernest Davis zagovaraju drugi put. Smatraju da smo još daleko od stvaranja općeg AI-a, ali su uvjereni da će ga prije ili kasnije uspjeti stvoriti.
Zašto nam treba opći AI? Specijalizirane verzije su već stvorene i donose niz koristi.
Točno, a koristi će biti još više. No, postoje mnogi zadaci koje specijalizirani AI jednostavno ne može riješiti. Na primjer, razumijevanje svakodnevnog govora, opća pomoć u virtualnom svijetu ili robot koji pomaže u čišćenju i pripremi hrane. Takvi zadaci su izvan mogućnosti specijaliziranog AI-a. Još jedno zanimljivo praktično pitanje: može li specijalizirani AI stvoriti siguran samovozeći automobil? Iskustvo pokazuje da takav AI i dalje ima mnogo problema ponašanja u nenormalnim situacijama, čak i prilikom vožnje, što dodatno komplicira situaciju.
Mislim da bismo svi voljeli imati AI koji može pomoći u postizanju novih velikih otkrića u medicini. Nejasno je hoće li trenutne tehnologije biti prikladne za to, jer je biologija složena sfera. Treba biti spreman pročitati mnoštvo knjiga. Znanstvenici razumiju uzročno-posljedične veze u interakciji mreža i molekula, mogu razvijati teorije o planetima i tako dalje. Međutim, s specijaliziranim AI-em ne možemo stvoriti strojeve sposobne za takva otkrića. S općim AI-em, mogli bismo revolucionirati znanost, tehnologiju i medicinu. Po mom mišljenju, vrlo je važno nastaviti raditi na razvoju općeg AI-a.
Izgleda da pod "općim" razumijete snažni AI?
Govoreći "opći", mislim na to da će AI moći u stvarnom vremenu razmatrati i samostalno rješavati nove zadatke. Za razliku od, recimo, igre Go, u kojoj se problem nije mijenjao posljednjih 2000 godina.
Opći AI mora biti sposoban donositi odluke i u politici i u medicini. To je analog humanih sposobnosti; svaka razborita osoba može raditi na vrlo mnogo toga. Uzmete neiskusne studente i nakon nekoliko dana ih natjerate da rade gotovo na bilo čemu, počevši od pravnog zadatka do medicinskog. To je zbog toga što imaju opće razumijevanje svijeta i sposobni su čitati, pa tako mogu doprinijeti širokom spektru aktivnosti.
Veza između takvog intelekta i snažnog je u tome što vjerojatno slabiji intelekt neće moći rješavati opće zadatke. Da biste stvorili nešto dovoljno pouzdano, sposobno raditi s neprestano promjenjivim svijetom, možda će biti potrebno barem približiti se općem intelektu.
Ali sada smo od toga jako daleko. AlphaGo može odlično igrati na ploči 19×19, ali ga je potrebno ponovo obučiti za igru na pravokutnoj ploči. Ili uzmite prosječni sustav dubokog učenja: sposoban je prepoznati slona ako je dobro osvijetljen i oblik njegove kože je vidljiv. A ako je vidljiv samo siluet slona, sustav sigurno neće moći prepoznati.
U svojoj knjizi spominjete da duboko učenje ne može postići mogućnosti općeg AI-a, jer ne može postići duboko razumijevanje.
U kognitivistici se govori o oblikovanju različitih kognitivnih modela. Sjedim u hotelskoj sobi i shvaćam da tamo je ormar, tamo je krevet, tamo je televizor koji je neobično postavljen. Znam sve te predmete, ne identificiram ih samo. Također razumijem kako su međusobno povezani. Imam ideje o funkcioniranju okruženja. Nisu savršene. Mogu biti pogrešne, ali su vrlo dobre. Na temelju njih donosim mnoge zaključke koji postaju vodič za moje svakodnevne akcije.
Druga krajnost je nešto poput igraće konzole Atari, koju je stvorio DeepMind, gdje je zapamtila što treba raditi kada vidi piksele na određenim mjestima na ekranu. Ako prikupite dovoljno podataka, može se činiti da imate razumijevanje, ali u stvarnosti je to vrlo površno. Dokaz tome je što, ako pomaknete objekte za tri piksela, AI igra mnogo lošije. Promjene ga zbunjuju. To je suprotno dubokom razumijevanju.
Da biste riješili ovaj problem, predlažete da se vratite klasičnom AI-u. Koje njegove prednosti trebamo nastojati iskoristiti?
Postoji nekoliko prednosti.
Prvo, klasični AI uistinu je okvir za stvaranje kognitivnih modela svijeta, na temelju kojih se kasnije mogu donositi zaključci.
Drugo, klasični AI je savršeno usklađen s pravilima. Trenutno u području dubokog učenja postoji čudna tendencija, gdje stručnjaci pokušavaju izbjeći pravila. Žele sve raditi na neuronskim mrežama i ne raditi ništa što izgleda kao klasično programiranje. No, postoje zadaci koji su se mirno riješili na taj način, a nitko na to nije obraćao pažnju. Na primjer, izračunavanje ruta u Google Maps.
Zapravo, potrebna su nam oba pristupa. Strojno učenje dobro uči iz podataka, ali jako loše pomaže u prikazivanju apstrakcije koju predstavlja računalni program. Klasična umjetna inteligencija dobro funkcionira s apstrakcijama, ali je potpuno potrebno ručno programirati, a u svijetu je akumulirano previše znanja da bi se sve moglo programirati. Očigledno je da trebamo spojiti oba pristupa.
To se odnosi na poglavlje u kojem govorite o tome što možemo naučiti od ljudskog uma. A prvenstveno o konceptu koji se temelji na prethodno spomenutoj ideji da se naša svijest sastoji od mnogih različitih sustava koji rade na različite načine.
Mislim da postoji drugi način da se to objasni: svaki kognitivni sustav koji imamo zapravo rješava različite zadatke. Slični dijelovi AI trebaju biti dizajnirani za rješavanje različitih zadataka koji imaju različite karakteristike.
Trenutno pokušavamo koristiti neke sve-u-jednom tehnologije za rješavanje zadataka koji se radikalno razlikuju jedni od drugih. Razumjeti rečenicu nije isto što i prepoznati objekt. No, ljudi pokušavaju u oba slučaja koristiti duboko učenje. S kognitivnog stajališta, to su kvalitativno različiti zadaci. Jednostavno sam zaprepašten koliko malo u zajednici stručnjaka za duboko učenje cijene klasičnu umjetnu inteligenciju. Zašto čekati na pojavu srebrne metak? Ona je nedostižna, a besplodne potrage ne omogućuju razumijevanje cijele složenosti zadatka stvaranja AI.
Također spominjete da su AI sustavi potrebni za razumijevanje uzročno-posljedičnih veza. Smatrate li da će nam tu pomoći duboko učenje, klasična umjetna inteligencija ili nešto potpuno novo?
To je još jedno područje za koje duboko učenje nije previše prikladno. Ono ne objašnjava uzroke nekih događaja, već izračunava vjerojatnost događaja u određenim uvjetima.
O čemu razgovaramo? Gledate određene scenarije i razumijete zašto se to događa i što se može dogoditi ako se neki uvjeti promijene. Mogu pogledati na stalak na kojem stoji televizor i zamisliti da ako odrežem jednu nogu, stalak će se prevrnuti i televizor pasti. To je uzročno-posljedična veza.
Klasična AI nam za to daje određene alate. Može zamisliti, na primjer, što je podrška i što je pad. Ali neću pretjerivati. Problem je u tome što klasična AI većinom ovisi o potpunosti informacija o onome što se događa, a do tog zaključka sam došao samo gledajući na stalak. Na neki način mogu generalizirati, predstavljajući dijelove stalka koje ne vidim. Trenutno nemamo alate za ostvarenje te osobine.
Također govorite o tome da ljudi imaju urođeno znanje. Kako to možemo implementirati u AI?
U trenutku rođenja naš mozak već predstavlja vrlo pažljivo osmišljen sustav. Nije fiksiran, priroda je stvorila prvi, grubi nacrt. A zatim nas učenje pomaže da tijekom cijelog života revidiramo taj nacrt.
Grubi nacrt mozga već ima određene sposobnosti. Novorođeni planinski koza već nakon nekoliko sati može bez greške silaziti niz planinu. Očito je da on već ima razumijevanje trodimenzionalnog prostora, svog tijela i međusobnih odnosa. Veoma složen sustav.
Djelomično zato smatram da su nam potrebni hibridi. Teško je zamisliti kako stvoriti robota koji dobro funkcionira u svijetu bez sličnog znanja, s čim da počne, umjesto da počne s praznog lista i uči iz dugog, ogromnog iskustva.
Što se tiče ljudi, naše urođeno znanje dolazi iz našeg genoma, koji se evoluirao kroz dugo razdoblje. A s AI sustavima morat ćemo ići drugim putem. Djelomično to mogu biti pravila za izgradnju naših algoritama. Djelomično to mogu biti pravila za kreiranje struktura podataka kojima ovi algoritmi manipuliraju. I djelomično to mogu biti znanja koja ćemo izravno unositi u strojeve.
Zanimljivo je da u knjizi dovodite do ideje povjerenja i izgradnje povjerljivih sustava. Zašto ste odabrali upravo ovaj kriterij?
Smatram da danas sve to predstavlja igru u loptu. Čini mi se da prolazimo kroz čudan trenutak u povijesti, velikim dijelom vjerujući softveru koji ne zaslužuje povjerenje. Mislim da će naša današnja zabrinutost biti prolazna. Za sto godina AI će opravdati naše povjerenje, a možda i ranije.
No danas je AI opasan. Ne u smislu kako se Elon Musk boji, već u smislu da sustavi za zapošljavanje diskriminiraju žene, bez obzira na to što rade programeri, jer su njihovi alati previše jednostavni.
Volio bih da imamo kvalitetniji AI. Ne želim da započne "zima umjetne inteligencije" kada ljudi shvate da AI ne funkcionira i da je jednostavno opasan, te da ne žele to ispraviti.
Na neki način vaša knjiga doista izgleda vrlo optimistički. Pretpostavljate da se može izgraditi pouzdana AI. Samo se trebamo usmjeriti u drugom pravcu.
Tačno, knjiga je vrlo pesimistična u kratkoročnoj perspektivi i vrlo optimistična u dugoročnoj. Smatramo da se svi problemi koje smo opisali mogu riješiti ako šire pogledamo na to kakvi bi trebali biti pravi odgovori. I mislimo da će, ako se to dogodi, svijet postati bolji.
Izvor: habr.com
