Ta besedilo ni rezultat znanstvene raziskave, temveč eno od mnogih mnenj o našem najbližjem tehnološkem razvoju. Obenem pa je to tudi vabilo k razpravi.
Gary Marcus, profesor na Univerzi v New Yorku, verjame, da globoko učenje igra pomembno vlogo pri razvoju umetne inteligence. A obenem meni, da lahko pretirana osredotočenost na to metodo privede do njene diskreditacije.
V svoji knjigi Rebooting AI: Building artificial intelligence we can trust Marcus, po izobrazbi nevrolog, ki je svojo kariero izgradil na vrhunskih raziskavah s področja umetne inteligence, obravnava tehnične in etične vidike. Z vidika tehnologije lahko globoko učenje uspešno posnema reševanje nalog zaznavanja, ki jih opravlja naš razum: na primer, prepoznavanje slik ali govora. Vendar pa za reševanje drugih nalog, kot so razumevanje pogovorov ali določanje vzročno-posledičnih povezav, globoko učenje ni primerno. Da bi ustvarili bolj napredne inteligentne naprave, sposobne reševanja širšega spektra nalog – te običajno imenujemo splošna umetna inteligenca – je potrebno globoko učenje kombinirati z drugimi metodami.
Če sistem umetne inteligence resnično ne razume svojih nalog ali okolice, lahko to privede do nevarnih posledic. Tudi najmanjše nepričakovane spremembe v okolju sistema lahko povzroči njegovo napačno delovanje. Takšnih primerov je bilo že mnogo: določitelji neprimernih izrazov, ki jih je enostavno prevarati; sistemi za iskanje zaposlitve, ki nenehno diskriminirajo; avtonomna vozila, ki povzročajo nesreče in včasih ubijajo voznike ali pešce. Ustvarjanje splošne umetne inteligence ni le zanimiv raziskovalni problem, temveč ima tudi mnogo povsem praktičnih aplikacij.
V svoji knjigi Marcus in njegov soavtor Ernest Davis predlagata drugačno pot. Menita, da smo še daleč od ustvarjanja splošne umetne inteligence, vendar sta prepričana, da jo bomo prej ali slej uspeli ustvariti.
Zakaj potrebujemo splošno umetno inteligenco? Specializirane različice so že ustvarjene in prinašajo kar nekaj koristi.
Da, in koristi bodo še več. A obstaja veliko nalog, ki jih specializirana umetna inteligenca preprosto ne more rešiti. Na primer, razumevanje običajnega govora, ali splošna pomoč v virtualnem svetu, ali robot, ki pomaga pri čiščenju in pripravi hrane. Takšne naloge so zunaj zmogljivosti specializirane umetne inteligence. Še en zanimiv praktičen vprašanje: ali je mogoče s pomočjo specializirane umetne inteligence ustvariti varen avtonomni avtomobil? Izkušnje kažejo, da ima takšna umetna inteligenca še vedno veliko težav s vedenjem v nenavadnih situacijah, tudi pri vožnji, kar precej otežuje situacijo.
Mislim, da bi si vsi želeli umetno inteligenco, ki bi nam pomagala pri novih velikih odkritjih v medicini. Ni jasno, ali so trenutne tehnologije primerne, saj je biologija zapleteno področje. Treba se bo pripraviti na branje precejšnjega števila knjig. Znanstveniki razumejo vzročno-posledične zveze v interakciji mrež in molekul, lahko razvijajo teorije o planetih in tako naprej. Vendar s specializirano umetno inteligenco ne moremo ustvariti naprav, ki bi bile sposobne takih odkritij. S splošno umetno inteligenco pa bi mogli revolucionirati znanost, tehnologijo in medicino. Zame je zelo pomembno nadaljevati z delom na ustvarjanju splošne umetne inteligence.
Zdi se, da pod 'splošno' mislite na močno umetno inteligenco?
Ko rečem 'splošno', mislim, da bo umetna inteligenca lahko na terenu razmišljala in samostojno reševala nove naloge. V nasprotju s, recimo, Go, kjer se problem ni spreminjal zadnjih 2000 let.
Splošna umetna inteligenca mora znati sprejemati odločitve tako na področju politike kot medicine. To je analogna sposobnost človeka; vsak trezen človek lahko stori zelo veliko. Vzamete neizkušene študente in jih po nekaj dneh prisilite, da delajo praktično na čemer koli, od pravnih nalog do medicinskih. To je zato, ker imajo splošno razumevanje sveta in znajo brati, zato lahko prispevajo k zelo širokemu spektru dejavnosti.
Povezava med takšnim inteligentnostjo in močno umetno inteligenco je ta, da močna umetna inteligenca verjetno ne bo mogla reševati splošnih nalog. Da bi ustvarili nekaj dovolj zanesljivega, sposobnega delati v nenehno se spreminjajočem svetu, boste morda morali vsaj približati splošni inteligenci.
Ampak zdaj smo tega zelo daleč. AlphaGo lahko odlično igra na plošči 19×19, vendar ga je treba ponovno usposobiti za igranje na pravokotni plošči. Ali pa vzemite povprečen sistem globokega učenja: ta lahko prepozna slona, če je dobro osvetljen in vidna tekstura njegove kože. Če pa je vidna le silhueta slona, sistem ga verjetno ne bo mogel prepoznati.
V svoji knjigi omenjate, da globoko učenje ne more doseči zmožnosti splošne umetne inteligence, saj ne dosega globokega razumevanja.
V kognitivistiki govorijo o oblikovanju različnih kognitivnih modelov. Sedim v hotelski sobi in razumem, da je tam omara, tam postelja, tam televizor, ki je nenavadno obešen. Poznam vse te predmete, jih ne identificiram zgolj. Prav tako razumem, kako so med seboj povezani. Imam predstave o delovanju okolice. Te predstave niso popolne. Lahko so napačne, vendar so precej dobre. Na njihovi podlagi delam precej dedukcij, ki postanejo vodilo za moje vsakdanje dejavnosti.
Druga skrajnost je nekaj podobnega igri Atari, ki jo je ustvaril DeepMind, kjer je pomnil, kaj mora storiti, ko je videl piksle na določenih mestih na zaslonu. Če dobite dovolj podatkov, se lahko zdi, da imate razumevanje, vendar je v resnici zelo površno. Dokaz za to je, da, če premaknete objekte za tri piksle, umetna inteligenca igra veliko slabše. Spremembe jo postavijo pred težave. To je nasprotno globokemu razumevanju.
Za rešitev tega problema predlagate vrnitev k klasični umetni inteligenci. Katere njene prednosti bi se morali truditi izkoristiti?
Nekaj je prednosti.
Prvič, klasična umetna inteligenca je v resnici okvir za ustvarjanje kognitivnih modelov sveta, na katerih lahko nato temelji dedukcija.
Drugič, klasična umetna inteligenca je popolnoma skladna s pravili. V današnjem svetu globokega učenja opazimo čudno tendenco, kjer se strokovnjaki trudijo izogibati pravilom. Vse želijo delati na nevronskih mrežah in ne želijo ničesar, kar izgleda kot klasično programiranje. Vendar obstajajo naloge, ki so bile mirno rešene na ta način in to nihče ni opazil. Na primer, izračunavanje poti v Google Zemljevidih.
V resnici potrebujemo oba pristopa. Strojno učenje se dobro uči iz podatkov, a vendar slabo pomaga pri prikazovanju abstrakcij, ki jih predstavlja računalniški program. Klasična umetna inteligenca dobro deluje z abstrakcijami, vendar jo je potrebno v celoti programirati ročno, pri čemer je v svetu nabrano preveč znanja, da bi vse to programirali. Očitno je, da moramo združiti oba pristopa.
To je povezano s poglavjem, v katerem govorite o tem, česar se lahko naučimo od človeškega uma. In najprej o konceptu, ki temelji na zgoraj omenjeni ideji, da je naše zavedanje sestavljeno iz številnih različnih sistemov, ki delujejo drugače.
Menim, da je drugačen način razlage tega: vsak kognitivni sistem, ki ga imamo, dejansko reši različne naloge. Podobni deli umetne inteligence bi morali biti zasnovani za reševanje različnih nalog, ki imajo različne značilnosti.
Trenutno poskušamo uporabiti nekatere vse-v-enem tehnologije za reševanje nalog, ki se popolnoma razlikujejo ena od druge. Razumevanje stavka ni isto kot prepoznavanje objekta. A ljudje poskušajo v obeh primerih uporabiti globoko učenje. Z vidika kognicije so to kakovostno različne naloge. Preprosto sem presenečen, kako malo v skupnosti strokovnjakov za globoko učenje cenijo klasično umetno inteligenco. Zakaj čakati na pojav srebrne izboljšave? Ta je dosegljiva, in obupne iskanje ne omogoča, da bi razumeli vse zapletenost naloge ustvarjanja umetne inteligence.
Prav tako omenjate, da so sistemi umetne inteligence potrebni za razumevanje vzročno-posledičnih povezav. Menite, da nam bo pri tem pomagal globoko učenje, klasična umetna inteligenca ali kaj povsem novega?
To je še eno področje, za katerega globoko učenje ni preveč primerno. Ne pojasnjuje razlogov za nekatera dogajanja, temveč izračuna verjetnost dogodka v danih pogojih.
O čem govorimo? Gledate določene scenarije in razumete, zakaj se to dogaja in kaj se lahko zgodi, če se nekatere okoliščine spremenijo. Lahko se pogledam na podstavek, na katerem stoji televizor, in si predstavljam, da če mu odsekam eno nogo, se bo podstavek prevrnil in televizor padel. To je vzročno-posledična povezava.
Klasik AI daje nam određene alate za ovo. Može predstaviti, na primer, šta je podrška i šta je pad. Ali neću preterivati. Problem je što klasik AI uglavnom zavisi od potpunosti informacija o događanjima, a ja sam došao do zaključka samo posmatrajući podlošku. Na neki način mogu da generalizujem, predstavljam delove podloške koje ne mogu da vidim. Još uvek nemamo alate za realizaciju ove osobine.
Takođe govorite o tome da ljudi imaju urođeno znanje. Kako se to može realizovati u AI-u?
U trenutku rođenja naš mozak već predstavlja vrlo pažljivo osmišljeni sistem. Nije fiksiran, priroda je stvorila prvi, grubi nacrt. A zatim nas učenje pomaže da preispitujemo ovaj nacrt tokom celog života.
Grubi nacrt mozga već ima određene mogućnosti. Novorođeni planinski koza već nakon nekoliko sati može bez greške da se spusti niz planinu. Očigledno je da već ima razumevanje trodimenzionalnog prostora, svog tela i međusobne povezanosti. Veoma složen sistem.
Delimično zbog toga smatram da su nam potrebni hibridi. Teško je zamisliti kako bi se mogao stvoriti robot koji dobro funkcioniše u svetu bez sličnog znanja, s čime bi trebao da počne, umesto da počinje iz početka i uči na dugom, ogromnom iskustvu.
Što se tiče ljudi, naše urođeno znanje dolazi iz našeg genoma, koji se razvijao tokom dugog vremena. A sa AI sistemima moraćemo da krenemo drugim putem. Delimično to mogu biti pravila za konstrukciju naših algoritama. Delimično to mogu biti pravila za kreiranje struktura podataka kojima manipulišu ovi algoritmi. I delimično to mogu biti znanja koja ćemo direktno unositi u mašine.
Zanimljivo je da u knjizi dolazite do ideje poverenja i stvaranja poverljivih sistema. Zašto ste izabrali upravo ovaj kriterijum?
Mislim da sve to danas predstavlja igru loptom. Deluje mi da živimo u čudnom trenutku istorije, u velikoj meri verujući softveru koji ne zaslužuje poverenje. Mislim da današnja naša briga neće trajati zauvek. Za sto godina AI će opravdati naše poverenje, a možda čak i pre.
Todašnji AI je opasan. Ne u smislu kako se plaši Elon Musk, već u tome što sistemi za intervjuiranje prilikom zapošljavanja diskriminišu žene, bez obzira na to što programeri rade, jer su njihovi alati previše jednostavni.
Želeo bih da imamo kvalitetniji AI. Ne želim da dođe do "zime veštačke inteligencije" kada ljudi shvate da AI ne funkcioniše i jednostavno je opasan, a zatim neće želeti to da poprave.
U određenom smislu vaša knjiga zaista deluje vrlo optimistično. Pretpostavljate da se može izgraditi pouzdani AI. Samo treba da pogledamo u drugom pravcu.
Tačno je, knjiga je vrlo pesimistična u kratkoročnom smislu i vrlo optimistična u dugoročnom. Smatramo da se svi problemi koje smo opisali mogu rešiti, ako šire pogledamo na to kakvi bi trebali biti odgovori. I mislimo da će, ako se to desi, svet postati bolji.
Izvor: habr.com
