Ovaj tekst nije rezultat naučnog istraživanja, već jedno od mnogih mišljenja o našem neposrednom tehnološkom razvoju. A ujedno i poziv na diskusiju.
Gary Marcus, profesor na Univerzitetu New York, vjeruje da duboko učenje igra važnu ulogu u razvoju AI. Ali on također vjeruje da pretjerani entuzijazam za ovu tehniku može dovesti do njene diskreditacije.
U svojoj knjizi Ponovno pokretanje AI: Izgradnja umjetne inteligencije kojoj možemo vjerovati Marcus, neuroznanstvenik po obrazovanju koji je izgradio karijeru na najnovijim istraživanjima AI, bavi se tehničkim i etičkim aspektima. Iz perspektive tehnologije, duboko učenje može uspješno oponašati perceptivne zadatke koje naš mozak obavlja, kao što je prepoznavanje slike ili govora. Ali za druge zadatke, poput razumijevanja razgovora ili utvrđivanja uzročno-posljedičnih veza, duboko učenje nije prikladno. Da bi se stvorile naprednije inteligentne mašine koje mogu da reše širi spektar problema – koji se često nazivaju veštačka opšta inteligencija – duboko učenje treba da se kombinuje sa drugim tehnikama.
Ako AI sistem zaista ne razumije svoje zadatke ili svijet oko sebe, to može dovesti do opasnih posljedica. Čak i najmanje neočekivane promjene u okruženju sistema mogu dovesti do pogrešnog ponašanja. Takvih primjera je već bilo mnogo: odrednice neprikladnih izraza koje je lako prevariti; sistemi traženja posla koji dosljedno diskriminiraju; automobili bez vozača koji se sudare i ponekad ubiju vozača ili pješaka. Stvaranje umjetne opće inteligencije nije samo zanimljiv istraživački problem, već ima mnogo potpuno praktičnih primjena.
U svojoj knjizi, Marcus i njegov koautor Ernest Davis zalažu se za drugačiji put. Oni vjeruju da smo još daleko od stvaranja opće umjetne inteligencije, ali su uvjereni da će prije ili kasnije biti moguće stvoriti je.
Zašto nam je potrebna opšta AI? Specijalizirane verzije su već kreirane i donose mnogo prednosti.
Tako je, a koristi će biti još više. Ali postoje mnogi problemi koje specijalizovana AI jednostavno ne može da reši. Na primjer, razumijevanje običnog govora, ili opća pomoć u virtualnom svijetu, ili robot koji pomaže u čišćenju i kuhanju. Takvi zadaci su izvan mogućnosti specijalizovane AI. Još jedno zanimljivo praktično pitanje: da li je moguće stvoriti siguran automobil koji se samostalno vozi korištenjem specijalizirane umjetne inteligencije? Iskustvo pokazuje da takva AI i dalje ima mnogo problema s ponašanjem u nenormalnim situacijama, čak i u vožnji, što uvelike komplikuje situaciju.
Mislim da bismo svi željeli imati umjetnu inteligenciju koja nam može pomoći da dođemo do velikih novih otkrića u medicini. Nejasno je da li su sadašnje tehnologije prikladne za to, budući da je biologija složena oblast. Morate biti spremni da pročitate mnogo knjiga. Naučnici razumiju uzročno-posljedične veze u interakciji mreža i molekula, mogu razviti teorije o planetama itd. Međutim, sa specijalizovanom veštačkom inteligencijom, ne možemo stvoriti mašine sposobne za takva otkrića. A sa općom umjetnom inteligencijom, mogli bismo revolucionirati nauku, tehnologiju i medicinu. Po mom mišljenju, veoma je važno nastaviti raditi na stvaranju opšte umjetne inteligencije.
Zvuči kao da pod "općenito" mislite na jaku AI?
Pod „općenito“ mislim da će AI moći razmišljati i rješavati nove probleme u hodu. Za razliku od, recimo, Go, gde se problem nije promenio poslednjih 2000 godina.
Opća umjetna inteligencija bi trebala biti u stanju da donosi odluke iu politici i u medicini. Ovo je analogno ljudskim sposobnostima; svaka zdrava osoba može učiniti mnogo. Uzimate neiskusne studente i u roku od nekoliko dana radite na gotovo svemu, od pravnog do medicinskog problema. To je zato što imaju opšte razumijevanje svijeta i mogu čitati, te stoga mogu doprinijeti vrlo širokom spektru aktivnosti.
Odnos između takve inteligencije i jake inteligencije je da nejaka inteligencija vjerovatno neće moći riješiti opće probleme. Da biste stvorili nešto dovoljno robusno da se nosite sa svijetom koji se stalno mijenja, možda ćete morati barem pristupiti općoj inteligenciji.
Ali sada smo veoma daleko od ovoga. AlphaGo može savršeno dobro da igra na tabli 19x19, ali treba da bude ponovo obučen da igra na pravougaonoj tabli. Ili uzmite prosječan sistem dubokog učenja: može prepoznati slona ako je dobro osvijetljen i vidljiva mu je tekstura kože. A ako je vidljiva samo silueta slona, sistem je vjerovatno neće moći prepoznati.
U svojoj knjizi spominjete da dubinsko učenje ne može postići sposobnosti opšte veštačke inteligencije jer nije sposobno za duboko razumevanje.
U kognitivnoj nauci govore o formiranju različitih kognitivnih modela. Sjedim u hotelskoj sobi i razumijem da postoji ormar, ima krevet, postoji TV koji je okačen na neobičan način. Znam sve te objekte, ne samo da ih identifikujem. Također razumijem kako su oni međusobno povezani. Imam ideje o funkcioniranju svijeta oko sebe. Nisu savršeni. Možda nisu u pravu, ali su prilično dobri. I na osnovu njih donosim mnoge zaključke koji postaju smjernice za moje svakodnevno djelovanje.
Druga krajnost bila je nešto poput Atari sistema igara koji je izgradio DeepMind, u kojem je zapamtio šta treba da uradi kada vidi piksele na određenim mestima na ekranu. Ako dobijete dovoljno podataka, možda mislite da imate razumijevanja, ali u stvarnosti je to vrlo površno. Dokaz za to je da ako objekte pomjerite za tri piksela, AI igra mnogo lošije. Promjene ga zbunjuju. Ovo je suprotno od dubokog razumijevanja.
Da biste riješili ovaj problem, predlažete povratak na klasičnu umjetnu inteligenciju. Koje prednosti treba da pokušamo da iskoristimo?
Postoji nekoliko prednosti.
Prvo, klasična umjetna inteligencija je zapravo okvir za kreiranje kognitivnih modela svijeta na osnovu kojih se onda mogu donositi zaključci.
Drugo, klasična AI je savršeno kompatibilna s pravilima. Trenutno postoji čudan trend dubokog učenja u kojem stručnjaci pokušavaju izbjeći pravila. Oni žele da rade sve na neuronskim mrežama i ne rade ništa što liči na klasično programiranje. Ali postoje problemi koji su mirno rešeni na ovaj način, a na to niko nije obraćao pažnju. Na primjer, pravljenje ruta u Google mapama.
U stvari, potrebna su nam oba pristupa. Mašinsko učenje je dobro u učenju iz podataka, ali vrlo slabo u predstavljanju apstrakcije koja je kompjuterski program. Klasična AI dobro radi sa apstrakcijama, ali mora biti programirana u potpunosti ručno, a na svijetu postoji previše znanja da bi se sve programiralo. Jasno je da moramo kombinovati oba pristupa.
Ovo je povezano sa poglavljem u kojem govorite o tome šta možemo naučiti od ljudskog uma. I prije svega, o konceptu zasnovanom na gore spomenutoj ideji da se naša svijest sastoji od mnogo različitih sistema koji rade na različite načine.
Mislim da je drugi način da ovo objasnimo da svaki kognitivni sistem koji imamo zaista rešava drugačiji problem. Slični dijelovi AI moraju biti dizajnirani za rješavanje različitih problema koji imaju različite karakteristike.
Sada pokušavamo koristiti neke sve-u-jednom tehnologije za rješavanje problema koji se radikalno razlikuju jedan od drugog. Razumijevanje rečenice uopće nije isto što i prepoznavanje objekta. Ali ljudi pokušavaju koristiti duboko učenje u oba slučaja. Sa kognitivne tačke gledišta, ovo su kvalitativno različiti zadaci. Prosto sam zapanjen koliko se malo cijeni klasična AI u zajednici dubokog učenja. Zašto čekati da se pojavi srebrni metak? To je nedostižno, a besplodna pretraživanja nam ne dozvoljavaju da shvatimo svu složenost zadatka stvaranja AI.
Takođe spominjete da su sistemi veštačke inteligencije potrebni za razumevanje uzročno-posledičnih veza. Mislite li da će nam duboko učenje, klasična umjetna inteligencija ili nešto potpuno novo pomoći u tome?
Ovo je još jedna oblast u kojoj duboko učenje nije dobro. Ne objašnjava uzroke određenih događaja, već izračunava vjerovatnoću događaja pod datim uslovima.
o cemu pricamo? Gledate određene scenarije i shvatate zašto se to dešava i šta bi se moglo dogoditi ako se neke okolnosti promene. Mogu pogledati postolje na kojem se nalazi televizor i zamisliti da ako mu odsiječem jednu nogu, postolje će se prevrnuti i televizor će pasti. Ovo je uzročno-posledična veza.
Klasični AI nam daje neke alate za ovo. Može zamisliti, na primjer, šta je podrška, a šta pad. Ali neću preterano hvaliti. Problem je u tome što klasična AI u velikoj meri zavisi od potpune informacije o tome šta se dešava, a do zaključka sam došao samo gledajući štand. Mogu nekako da generalizujem, da zamislim delove štanda koji mi nisu vidljivi. Još uvijek nemamo alate za implementaciju ove imovine.
Takođe kažete da ljudi imaju urođeno znanje. Kako se to može implementirati u AI?
U trenutku rođenja, naš mozak je već vrlo razrađen sistem. Nije fiksna priroda stvorila prvi, grubi nacrt. A onda nam učenje pomaže da revidiramo taj nacrt kroz život.
Grubi nacrt mozga već ima određene mogućnosti. Novorođena planinska koza je u stanju da se nepogrešivo spusti niz planinu u roku od nekoliko sati. Očigledno je da već ima razumijevanje za trodimenzionalni prostor, svoje tijelo i odnos između njih. Veoma složen sistem.
To je dijelom razlog zašto vjerujem da su nam potrebni hibridi. Teško je zamisliti kako bi se mogao stvoriti robot koji dobro funkcionira u svijetu bez sličnog znanja o tome odakle početi, umjesto da se počne s praznog lista i uči iz dugog, ogromnog iskustva.
Što se tiče ljudi, naše urođeno znanje dolazi iz našeg genoma, koji je evoluirao tokom dugog vremena. Ali sa AI sistemima moraćemo da idemo drugim putem. Dio ovoga mogu biti pravila za konstruiranje naših algoritama. Dio ovoga mogu biti pravila za kreiranje struktura podataka kojima ovi algoritmi manipulišu. A dio toga može biti i znanje koje ćemo direktno ulagati u mašine.
Zanimljivo je da u knjizi iznosite ideju o povjerenju i stvaranju sistema povjerenja. Zašto ste odabrali baš ovaj kriterijum?
Vjerujem da je danas sve ovo igra loptom. Čini mi se da proživljavamo čudan trenutak u istoriji, vjerujući velikom broju softvera koji nisu vjerodostojni. Mislim da brige koje imamo danas neće trajati vječno. Za sto godina AI će opravdati naše povjerenje, a možda i prije.
Ali danas je AI opasan. Ne u smislu kojeg se Elon Musk plaši, već u smislu da sistemi intervjua za posao diskriminišu žene, bez obzira šta programeri rade, jer su njihovi alati previše jednostavni.
Voleo bih da imamo bolju AI. Ne želim da vidim „zimu veštačke inteligencije“ u kojoj ljudi shvataju da veštačka inteligencija ne radi i da je jednostavno opasna i ne žele da je poprave.
Na neki način, vaša knjiga djeluje vrlo optimistično. Pretpostavljate da je moguće izgraditi pouzdanu AI. Samo trebamo pogledati u drugom smjeru.
Tako je, knjiga je kratkoročno veoma pesimistična, a dugoročno veoma optimistična. Vjerujemo da se svi problemi koje smo opisali mogu riješiti šireći pogled na to koji bi trebali biti tačni odgovori. I mislimo da će svijet biti bolje mjesto ako se to dogodi.
izvor: www.habr.com