See tekst ei ole teadusliku uurimistöö tulemus, vaid üks paljudest arvamustest meie vahetu tehnoloogilise arengu kohta. Ja samas kutse arutelule.
New Yorgi ülikooli professor Gary Marcus usub, et sügaval õppimisel on tehisintellekti arendamisel oluline roll. Kuid ta usub ka, et liigne entusiasm selle tehnika vastu võib viia selle diskrediteerimiseni.
Tema raamatus AI taaskäivitamine: tehisintellekti loomine, mida saame usaldada Marcus, hariduselt neuroteadlane, kes on rajanud karjääri tipptasemel tehisintellektiuuringutele, käsitleb tehnilisi ja eetilisi aspekte. Tehnoloogilisest vaatenurgast võib süvaõpe edukalt jäljendada meie aju sooritatavaid tajuülesandeid, nagu pildi- või kõnetuvastus. Kuid muude ülesannete jaoks, nagu vestluste mõistmine või põhjus-tagajärg seoste kindlakstegemine, sügavõpe ei sobi. Täiustatud intelligentsete masinate loomiseks, mis suudavad lahendada laiemat valikut probleeme – mida sageli nimetatakse tehisintellektiks –, tuleb süvaõpet kombineerida teiste tehnikatega.
Kui AI-süsteem ei mõista oma ülesandeid ega ümbritsevat maailma tõeliselt, võib see kaasa tuua ohtlikke tagajärgi. Isegi väikseimad ootamatud muutused süsteemi keskkonnas võivad viia eksliku käitumiseni. Selliseid näiteid on juba palju olnud: sobimatute väljendite määrajad, mida on lihtne petta; järjepidevalt diskrimineerivad tööotsingusüsteemid; juhita autod, mis jooksevad kokku ja tapavad mõnikord juhi või jalakäija. Tehisintellekti loomine ei ole lihtsalt huvitav uurimisprobleem, sellel on palju täiesti praktilisi rakendusi.
Marcus ja tema kaasautor Ernest Davis vaidlevad oma raamatus teistsuguse tee poolt. Nad usuvad, et me oleme üldisest AI loomisest veel kaugel, kuid on kindlad, et varem või hiljem on see võimalik luua.
Miks me vajame üldist AI-d? Spetsiaalsed versioonid on juba loodud ja toovad palju eeliseid.
See on õige ja sellest on veelgi rohkem kasu. Kuid on palju probleeme, mida spetsialiseeritud tehisintellekt lihtsalt ei suuda lahendada. Näiteks tavalise kõne mõistmine või üldine abi virtuaalmaailmas või robot, mis aitab koristada ja süüa teha. Sellised ülesanded on väljaspool spetsialiseeritud tehisintellekti võimalusi. Veel üks huvitav praktiline küsimus: kas spetsiaalse tehisintellekti abil on võimalik luua turvaline isejuhtiv auto? Kogemused näitavad, et sellisel tehisintellektil on endiselt palju probleeme käitumisega ebanormaalsetes olukordades, isegi sõites, mis muudab olukorra oluliselt keerulisemaks.
Ma arvan, et me kõik sooviksime AI-d, mis aitaks meil teha suuri uusi avastusi meditsiinis. Kas praegused tehnoloogiad selleks sobivad, on ebaselge, kuna bioloogia on keeruline valdkond. Peate olema valmis lugema palju raamatuid. Teadlased mõistavad põhjus-tagajärg seoseid võrgustike ja molekulide koosmõjus, saavad välja töötada teooriaid planeetide kohta jne. Spetsiaalse tehisintellektiga ei saa me aga sellisteks avastusteks võimelisi masinaid luua. Ja üldise AI abil saaksime teaduses, tehnoloogias ja meditsiinis revolutsiooni teha. Minu arvates on väga oluline jätkata tööd üldise AI loomise nimel.
Tundub, et mõtlete "üldise" all tugevat tehisintellekti?
"Üldise" all pean silmas seda, et tehisintellekt suudab käigu pealt mõelda ja lahendada uusi probleeme. Erinevalt näiteks Go-st, kus probleem pole viimase 2000 aasta jooksul muutunud.
Üldine tehisintellekt peaks suutma langetada otsuseid nii poliitikas kui ka meditsiinis. See on analoogne inimese võimetega; iga mõistusega inimene saab palju ära teha. Võtate kogenematuid üliõpilasi ja laske neil mõne päeva jooksul töötada peaaegu kõigega, alates juriidilisest probleemist kuni meditsiinilise probleemini. Seda seetõttu, et neil on üldine arusaam maailmast ja nad oskavad lugeda ning seetõttu saavad nad panustada väga laias valikus tegevustesse.
Sellise intelligentsuse ja tugeva intelligentsuse suhe seisneb selles, et mittetugev intelligentsus ei suuda tõenäoliselt lahendada üldisi probleeme. Et luua midagi piisavalt tugevat, et tulla toime pidevalt muutuva maailmaga, peate võib-olla lähenema vähemalt üldisele intelligentsusele.
Kuid nüüd oleme sellest väga kaugel. AlphaGo saab suurepäraselt mängida 19x19 laual, kuid ristkülikukujulisel laual mängimiseks tuleb see ümber õpetada. Või võtame keskmise süvaõppesüsteemi: see tunneb elevandi ära, kui see on hästi valgustatud ja tema naha tekstuur on nähtav. Ja kui näha on ainult elevandi siluett, ei suuda süsteem seda tõenäoliselt ära tunda.
Oma raamatus mainite, et süvaõppimine ei suuda saavutada üldise tehisintellekti võimeid, kuna see pole võimeline sügavalt mõistma.
Kognitiivteaduses räägitakse erinevate kognitiivsete mudelite kujunemisest. Istun hotellitoas ja saan aru, et seal on kapp, seal on voodi, seal on televiisor, mis on ebatavaliselt riputatud. Ma tean kõiki neid objekte, ma ei tuvasta neid lihtsalt. Saan ka aru, kuidas need on omavahel seotud. Mul on ideid ümbritseva maailma toimimise kohta. Nad ei ole täiuslikud. Need võivad olla valed, kuid need on üsna head. Ja nende põhjal teen palju järeldusi, millest saavad juhised minu igapäevastele tegemistele.
Teine äärmus oli midagi DeepMindi ehitatud Atari mängusüsteemi sarnast, kus ta mäletas, mida ta peab tegema, kui nägi ekraanil teatud kohtades piksleid. Kui saate piisavalt andmeid, võite arvata, et teil on arusaamine, kuid tegelikult on see väga pealiskaudne. Selle tõestuseks on see, et kui liigutate objekte kolme piksli võrra, mängib AI palju halvemini. Muutused tekitavad temas hämmingut. See on sügava mõistmise vastand.
Selle probleemi lahendamiseks teete ettepaneku pöörduda tagasi klassikalise AI juurde. Milliseid eeliseid peaksime proovima kasutada?
On mitmeid eeliseid.
Esiteks on klassikaline AI tegelikult maailma kognitiivsete mudelite loomise raamistik, mille põhjal saab seejärel järeldusi teha.
Teiseks ühildub klassikaline AI reeglitega suurepäraselt. Süvaõppes on praegu kummaline suundumus, kus eksperdid üritavad reegleid vältida. Nad tahavad teha kõike närvivõrkudes ja mitte teha midagi, mis näeb välja nagu klassikaline programmeerimine. Kuid on probleeme, mis niimoodi rahulikult lahendatud, ja keegi ei pööranud sellele tähelepanu. Näiteks marsruutide koostamine Google Mapsis.
Tegelikult vajame mõlemat lähenemist. Masinõpe oskab hästi andmetest õppida, kuid väga halvasti esindab arvutiprogrammi abstraktsiooni. Klassikaline tehisintellekt töötab hästi abstraktsioonidega, kuid see tuleb täielikult käsitsi programmeerida ja maailmas on liiga palju teadmisi, et neid kõiki programmeerida. On selge, et peame ühendama mõlemad lähenemisviisid.
See seostub peatükiga, milles räägite sellest, mida me saame inimmõistusest õppida. Ja kõigepealt kontseptsioonist, mis põhineb ülalmainitud ideel, et meie teadvus koosneb paljudest erinevatest süsteemidest, mis töötavad erineval viisil.
Ma arvan, et teine viis selle selgitamiseks on see, et iga meie kognitiivne süsteem lahendab tõesti erineva probleemi. AI sarnased osad peavad olema kavandatud lahendama erinevaid probleeme, millel on erinevad omadused.
Nüüd püüame kasutada mõningaid kõik-ühes tehnoloogiaid, et lahendada üksteisest radikaalselt erinevaid probleeme. Lause mõistmine ei ole sugugi sama, mis objekti äratundmine. Kuid inimesed püüavad mõlemal juhul kasutada süvaõpet. Kognitiivsest aspektist vaadatuna on need kvalitatiivselt erinevad ülesanded. Olen lihtsalt üllatunud, kui vähe tunnustatakse süvaõppekogukonnas klassikalist tehisintellekti. Miks oodata hõbekuuli ilmumist? See on kättesaamatu ja viljatud otsingud ei võimalda meil mõista tehisintellekti loomise ülesande kogu keerukust.
Samuti mainite, et AI-süsteeme on vaja põhjuse ja tagajärje seoste mõistmiseks. Kas arvate, et süvaõpe, klassikaline AI või midagi täiesti uut aitavad meid selles?
See on veel üks valdkond, kuhu süvaõpe hästi ei sobi. See ei selgita teatud sündmuste põhjuseid, vaid arvutab sündmuse tõenäosuse etteantud tingimustel.
Millest me räägime? Vaatate teatud stsenaariume ja saate aru, miks see juhtub ja mis võib juhtuda, kui mõned asjaolud muutuvad. Ma võin vaadata alust, millel teler istub, ja kujutada ette, et kui ma lõikan tal ühe jala ära, siis alus läheb ümber ja teler kukub. See on põhjuse ja tagajärje seos.
Klassikaline AI annab meile selle jaoks mõned tööriistad. Ta võib ette kujutada näiteks, mis on toetus ja mis on kukkumine. Aga ma ei hakka üle kiitma. Probleem on selles, et klassikaline tehisintellekt sõltub suuresti täielikust teabest selle kohta, mis toimub, ja ma jõudsin järeldusele lihtsalt stendi vaadates. Ma suudan kuidagi üldistada, ette kujutada stendi osi, mis mulle ei paista. Meil pole veel selle atribuudi rakendamiseks tööriistu.
Ütlete ka, et inimestel on kaasasündinud teadmised. Kuidas saab seda AI-s rakendada?
Sünnihetkel on meie aju juba väga läbimõeldud süsteem. See ei ole fikseeritud, loodus lõi esimese, töötlemata eelnõu. Ja siis aitab õppimine meil seda mustandit kogu elu jooksul üle vaadata.
Aju konarlikul süvisel on juba teatud võimalused. Vastsündinud mägikits suudab mõne tunni jooksul eksimatult mäeküljest alla laskuda. On ilmne, et tal on juba arusaam kolmemõõtmelisest ruumist, oma kehast ja nendevahelisest suhtest. Väga keeruline süsteem.
See on osaliselt põhjus, miks ma usun, et vajame hübriide. Raske on ette kujutada, kuidas saaks luua roboti, mis toimiks maailmas hästi, kui poleks samasuguseid teadmisi, kust alustada, selle asemel, et alustada tühjalt lehelt ja õppida pikast ja ulatuslikust kogemusest.
Mis puutub inimestesse, siis meie kaasasündinud teadmised pärinevad meie genoomist, mis on pika aja jooksul arenenud. Kuid AI-süsteemide puhul peame minema teist teed. Osa sellest võivad olla meie algoritmide koostamise reeglid. Osa sellest võivad olla nende algoritmidega manipuleeritavate andmestruktuuride loomise reeglid. Ja osa sellest võib olla teadmine, et investeerime otseselt masinatesse.
Huvitav on see, et raamatus tood välja usalduse ja usaldavate süsteemide loomise idee. Miks valisite selle konkreetse kriteeriumi?
Usun, et täna on see kõik pallimäng. Mulle tundub, et me elame läbi ajaloo kummalist hetke, usaldades palju tarkvara, mis pole usaldusväärne. Arvan, et tänased mured ei kesta igavesti. Saja aasta pärast õigustab tehisintellekt meie usaldust ja võib-olla isegi varem.
Kuid tänapäeval on AI ohtlik. Mitte selles mõttes, mida Elon Musk kardab, vaid selles, et tööintervjuu süsteemid diskrimineerivad naisi, olenemata programmeerijate tegemistest, kuna nende tööriistad on liiga lihtsad.
Soovin, et meil oleks parem AI. Ma ei taha näha "AI talve", kus inimesed mõistavad, et AI ei tööta ja on lihtsalt ohtlik ega taha seda parandada.
Mõnes mõttes tundub teie raamat väga optimistlik. Oletate, et on võimalik luua usaldusväärne AI. Peame lihtsalt teises suunas vaatama.
Täpselt nii, raamat on lühiajaliselt väga pessimistlik ja pikemas perspektiivis väga optimistlik. Usume, et kõiki kirjeldatud probleeme saab lahendada, kui vaadata laiemalt, millised peaksid olema õiged vastused. Ja me arvame, et kui see juhtub, on maailm parem paik.
Allikas: www.habr.com