To besedilo ni rezultat znanstvene raziskave, ampak eno od mnogih mnenj o našem neposrednem tehnološkem razvoju. In hkrati povabilo k razpravi.
Gary Marcus, profesor na newyorški univerzi, meni, da ima globoko učenje pomembno vlogo pri razvoju umetne inteligence. Prepričan pa je tudi, da lahko pretirano navdušenje nad to tehniko vodi v njeno diskreditacijo.
V svoji knjigi Ponovni zagon AI: Gradnja umetne inteligence, ki ji lahko zaupamo Marcus, po izobrazbi nevroznanstvenik, ki je kariero zgradil na vrhunskih raziskavah umetne inteligence, obravnava tehnične in etične vidike. S tehnološkega vidika lahko globoko učenje uspešno posnema zaznavne naloge, ki jih opravljajo naši možgani, kot je prepoznavanje slike ali govora. Toda za druge naloge, kot je razumevanje pogovorov ali ugotavljanje vzročno-posledičnih razmerij, globoko učenje ni primerno. Za ustvarjanje naprednejših inteligentnih strojev, ki lahko rešijo širši nabor problemov – pogosto imenovanih umetna splošna inteligenca – je treba globoko učenje kombinirati z drugimi tehnikami.
Če sistem umetne inteligence zares ne razume svojih nalog ali sveta okoli sebe, lahko to povzroči nevarne posledice. Že najmanjše nepričakovane spremembe v okolju sistema lahko privedejo do napačnega vedenja. Takšnih primerov je bilo že veliko: determinante neprimernih izrazov, ki jih je lahko preslepiti; sistemi iskanja zaposlitve, ki dosledno diskriminirajo; avtomobili brez voznika, ki trčijo in včasih ubijejo voznika ali pešca. Ustvarjanje umetne splošne inteligence ni le zanimiv raziskovalni problem, ima veliko povsem praktičnih aplikacij.
Marcus in njegov soavtor Ernest Davis v svoji knjigi zagovarjata drugačno pot. Menijo, da smo še daleč od ustvarjanja splošne umetne inteligence, vendar so prepričani, da jo bo prej ali slej mogoče ustvariti.
Zakaj potrebujemo splošno umetno inteligenco? Specializirane različice so že ustvarjene in prinašajo veliko prednosti.
Tako je in koristi bo še več. Toda obstaja veliko težav, ki jih specializirana umetna inteligenca preprosto ne more rešiti. Na primer razumevanje običajnega govora ali splošna pomoč v virtualnem svetu ali robot, ki pomaga pri pospravljanju in kuhanju. Takšne naloge presegajo zmogljivosti specializiranega AI. Še eno zanimivo praktično vprašanje: ali je mogoče ustvariti varen samovozeči avtomobil z uporabo specializirane umetne inteligence? Izkušnje kažejo, da ima taka AI še vedno veliko težav z obnašanjem v nenormalnih situacijah, tudi med vožnjo, kar močno zaplete situacijo.
Mislim, da bi si vsi želeli imeti umetno inteligenco, ki bi nam lahko pomagala do velikih novih odkritij v medicini. Ni jasno, ali so trenutne tehnologije primerne za to, saj je biologija kompleksno področje. Morate biti pripravljeni prebrati veliko knjig. Znanstveniki razumejo vzročno-posledične odnose v interakciji omrežij in molekul, lahko razvijejo teorije o planetih itd. Vendar s specializirano umetno inteligenco ne moremo ustvariti strojev, ki bi bili sposobni takšnih odkritij. In s splošno umetno inteligenco bi lahko spremenili znanost, tehnologijo in medicino. Po mojem mnenju je zelo pomembno nadaljevati delo v smeri ustvarjanja splošne umetne inteligence.
Sliši se, kot da s "splošnim" mislite močno umetno inteligenco?
S "splošnim" mislim, da bo AI lahko sproti razmišljal o novih problemih in jih reševal. Za razliko od recimo Go, kjer se problem ni spremenil zadnjih 2000 let.
Splošna umetna inteligenca bi morala biti sposobna sprejemati odločitve v politiki in medicini. To je analogno človeški sposobnosti; vsak priseben človek zmore veliko. Vzameš neizkušene študente in jim v nekaj dneh daš delati na skoraj vsem, od pravnega do zdravstvenega problema. To je zato, ker imajo splošno razumevanje sveta in znajo brati, zato lahko prispevajo k zelo širokemu spektru dejavnosti.
Razmerje med takšno inteligenco in močno inteligenco je, da nemočna inteligenca verjetno ne bo mogla rešiti splošnih problemov. Če želite ustvariti nekaj dovolj robustnega, da se spopadete s nenehno spreminjajočim se svetom, se boste morda morali približati vsaj splošni inteligenci.
Zdaj pa smo zelo daleč od tega. AlphaGo lahko popolnoma dobro igra na plošči 19x19, vendar ga je treba znova usposobiti za igranje na pravokotni plošči. Ali pa vzemimo povprečen sistem globokega učenja: lahko prepozna slona, če je dobro osvetljen in je vidna tekstura njegove kože. In če je vidna samo silhueta slona, ga sistem verjetno ne bo mogel prepoznati.
V svoji knjigi omenjate, da globoko učenje ne more doseči zmogljivosti splošne umetne inteligence, ker ni sposobno globokega razumevanja.
V kognitivni znanosti govorijo o oblikovanju različnih kognitivnih modelov. Sedim v hotelski sobi in razumem, da je tam omara, tam je postelja, tam je TV, ki je obešen na nenavaden način. Vse te predmete poznam, ne le identificiram jih. Razumem tudi, kako so med seboj povezani. Imam ideje o delovanju sveta okoli sebe. Niso popolni. Morda se motijo, vendar so zelo dobri. In na podlagi njih naredim veliko zaključkov, ki postanejo smernice za moje vsakodnevno delovanje.
Druga skrajnost je bilo nekaj podobnega igralnemu sistemu Atari, ki ga je zgradil DeepMind, v katerem se je spomnil, kaj mora storiti, ko je na določenih mestih na zaslonu videl slikovne pike. Če dobite dovolj podatkov, se vam morda zdi, da razumete, vendar je v resnici zelo površno. Dokaz za to je, da če premaknete predmete za tri slikovne pike, AI igra veliko slabše. Spremembe ga begajo. To je nasprotje globokega razumevanja.
Da bi rešili to težavo, predlagate vrnitev k klasični AI. Katere prednosti bi morali poskusiti uporabiti?
Obstaja več prednosti.
Prvič, klasična umetna inteligenca je pravzaprav ogrodje za ustvarjanje kognitivnih modelov sveta, na podlagi katerih je potem mogoče sklepati.
Drugič, klasični AI je popolnoma združljiv s pravili. Trenutno obstaja nenavaden trend globokega učenja, kjer se strokovnjaki poskušajo izogniti pravilom. Želijo delati vse na nevronskih mrežah in ne delati ničesar, kar je videti kot klasično programiranje. Obstajajo pa problemi, ki so se mirno reševali na ta način, pa na to nihče ni posvečal pozornosti. Na primer, gradnja poti v Google Zemljevidih.
Pravzaprav potrebujemo oba pristopa. Strojno učenje je dobro pri učenju iz podatkov, vendar zelo slabo pri predstavljanju abstrakcije, ki je računalniški program. Klasični AI dobro deluje z abstrakcijami, vendar ga je treba v celoti programirati ročno, na svetu pa je preveč znanja, da bi lahko programirali vse. Jasno je, da moramo združiti oba pristopa.
To je povezano s poglavjem, v katerem govorite o tem, kaj se lahko naučimo od človeškega uma. In najprej o konceptu, ki temelji na zgoraj omenjeni ideji, da je naša zavest sestavljena iz številnih različnih sistemov, ki delujejo na različne načine.
Mislim, da je to mogoče razložiti še tako, da vsak kognitivni sistem, ki ga imamo, resnično rešuje drugačen problem. Podobni deli umetne inteligence morajo biti oblikovani za reševanje različnih problemov, ki imajo različne značilnosti.
Zdaj poskušamo uporabiti nekaj tehnologij vse v enem za reševanje problemov, ki se med seboj radikalno razlikujejo. Razumevanje stavka sploh ni isto kot prepoznavanje predmeta. Toda ljudje poskušajo uporabiti globoko učenje v obeh primerih. S kognitivnega vidika gre za kvalitativno različne naloge. Preprosto sem presenečen nad tem, kako malo cenijo klasično umetno inteligenco v skupnosti globokega učenja. Zakaj čakati, da se pojavi srebrna krogla? To je nedosegljivo in brezplodna iskanja nam ne omogočajo, da bi razumeli celotno zapletenost naloge ustvarjanja AI.
Omenjate tudi, da so sistemi AI potrebni za razumevanje vzročno-posledičnih odnosov. Mislite, da nam bo pri tem pomagalo globoko učenje, klasična umetna inteligenca ali kaj povsem novega?
To je še eno področje, kjer globoko učenje ni najbolj primerno. Ne pojasnjuje vzrokov za določene dogodke, ampak izračuna verjetnost dogodka v danih pogojih.
O čem govorimo? Gledate določene scenarije in razumete, zakaj se to zgodi in kaj bi se lahko zgodilo, če bi se nekatere okoliščine spremenile. Lahko pogledam stojalo, na katerem stoji televizor, in si predstavljam, da če mu odrežem eno nogo, se bo stojalo prevrnilo in televizor bo padel. To je razmerje vzrok in posledica.
Klasični AI nam ponuja nekaj orodij za to. Lahko si na primer predstavlja, kaj je opora in kaj padec. Ampak ne bom prehvalil. Težava je v tem, da je klasična umetna inteligenca v veliki meri odvisna od popolnih informacij o tem, kaj se dogaja, in do zaključka sem prišel že ob pogledu na stojalo. Lahko nekako posplošim, predstavljam si dele stojnice, ki mi niso vidni. Nimamo še orodij za implementacijo te lastnosti.
Pravite tudi, da imamo ljudje prirojeno znanje. Kako je to mogoče implementirati v AI?
V trenutku rojstva so naši možgani že zelo izdelan sistem. Ni fiksen, narava je ustvarila prvi, grobi osnutek. In potem nam učenje pomaga popravljati ta osnutek vse življenje.
Grobi osnutek možganov že ima določene zmožnosti. Novorojena gorska koza se lahko brez napak spusti po pobočju v nekaj urah. Očitno je, da že razume tridimenzionalni prostor, svoje telo in odnos med njima. Zelo kompleksen sistem.
Delno tudi zato menim, da potrebujemo hibride. Težko si je predstavljati, kako bi lahko ustvarili robota, ki dobro deluje v svetu brez podobnega znanja o tem, kje začeti, namesto da bi začel s praznim listom in se učil iz dolgih, bogatih izkušenj.
Kar zadeva ljudi, naše prirojeno znanje izhaja iz našega genoma, ki se je dolgo razvijal. Toda s sistemi umetne inteligence bomo morali ubrati drugo pot. Del tega so lahko pravila za izdelavo naših algoritmov. Del tega so lahko pravila za ustvarjanje podatkovnih struktur, s katerimi manipulirajo ti algoritmi. In del tega je lahko znanje, ki ga bomo neposredno vlagali v stroje.
Zanimivo je, da v knjigi postavljate idejo o zaupanju in ustvarjanju sistemov zaupanja. Zakaj ste izbrali ravno to merilo?
Verjamem, da je danes vse to igra z žogo. Zdi se mi, da živimo skozi čuden trenutek v zgodovini, ko zaupamo številni programski opremi, ki ni vredna zaupanja. Mislim, da skrbi, ki jih imamo danes, ne bodo trajale večno. Čez sto let bo umetna inteligenca upravičila naše zaupanje, morda pa še prej.
Toda danes je umetna inteligenca nevarna. Ne v smislu, kot se ga boji Elon Musk, ampak v smislu, da sistemi razgovorov za službo diskriminirajo ženske, ne glede na to, kaj počnejo programerji, ker so njihova orodja preveč preprosta.
Želim si, da bi imeli boljši AI. Nočem videti "zime umetne inteligence", v kateri ljudje spoznajo, da umetna inteligenca ne deluje in je preprosto nevarna, in tega ne želijo popraviti.
Na nek način se zdi vaša knjiga zelo optimistična. Domnevate, da je mogoče zgraditi zaupanja vreden AI. Samo pogledati moramo v drugo smer.
Tako je, knjiga je kratkoročno zelo pesimistična, dolgoročno pa zelo optimistična. Verjamemo, da je vse težave, ki smo jih opisali, mogoče rešiti s širšim pogledom na to, kakšni bi morali biti pravilni odgovori. In mislimo, da če se to zgodi, bo svet boljši.
Vir: www.habr.com