See tekst ei põhine teadusuuringutel, vaid on vaid üks paljusid arvamusi meie lähituleviku tehnoloogilise arengu kohta. Samuti on see kutse aruteluks.
Gary Markus, New Yorgi ülikooli professor, usub, et süvaõpe mängib olulist rolli AI arengus. Kuid ta arvab ka, et liialdamine selle meetodiga võib viia selle diskrediteerimiseni.
Oma raamatus Rebooting AI: Building artificial intelligence we can trust Markus, hariduse järgi neuroloog, kes on loonud karjääri tipptasemel teadusuuringute alal tehisintellekti vallas, käsitleb tehnilisi ja eetilisi aspekte. Tehnoloogia seisukohalt suudab süvaõpe edukalt jäljendada probleemide lahendamist, mida meie aju täidab: näiteks piltide või kõne tuvastamine. Kuid teiste ülesannete, nagu vestluste mõistmine või põhjuslike seoste määramine, puhul ei sobi süvaõpe. Et luua arenenumaid intelligentsi masinaid, mis suudavad lahendada laiemat probleemide spektrit — neid nimetatakse sageli üldiseks tehisintellektiks — on süvaõpet vajalik kombineerida teiste meetoditega.
Kui tehisintellekti süsteem tõeliselt ei mõista oma ülesandeid või teda ümbritsevat maailma, võib see viia ohtlike tagajärgedeni. Isegi kõige väiksemad ootamatud muutused süsteemi ümbritsevas keskkonnas võivad põhjustada tema vale käitumise. Selliseid näiteid on juba palju: sobimatute väljendite tuvastajad, mida on lihtne petta; tööotsingusüsteemid, mis pidevalt diskrimineerivad; isesõitvad autod, mis satuvad õnnetustesse ja mõnikord tapavad juhi või jalakäija. Üldise tehisintellekti loomine ei ole pelgalt huvitav teadustöö probleem, sellel on palju täiesti praktilisi rakendusi.
Oma raamatus väidavad Markus ja tema kaasautor Ernest Davis, et nad toetavad teistsugust teed. Nad usuvad, et meil on veel kaugel üldise tehisintellekti loomisest, kuid nad on kindlad, et varem või hiljem õnnestub see saavutada.
Miks on meil vajalik üldine tehisintellekt? Spetsialiseeritud versioonid on juba loodud ja toovad palju kasu.
Jah, ja kasu on veelgi suurem. Kuid on palju ülesandeid, mida spetsialiseeritud tehisintellekt ei suuda lahendada. Näiteks igapäeva kõne mõistmine, üldine abi virtuaalses maailmas või robotite toimetamine koristamise ja toiduvalmistamisega. Need ülesanded on spetsialiseeritud tehisintellekti jaoks ülejõu käivad. Teine huvitav praktiline küsimus: kas spetsialiseeritud tehisintellekti abil saab luua ohutu juhtimiseta auto? Kogemused näitavad, et sellistel tehisintellektidel on endiselt palju probleeme ebanormaalsetes olukordades, isegi rooli keeramise ajal, mis teeb olukorra väga keeruliseks.
Ma arvan, et me kõik tahame, et tehisintellekt suudaks meid aidata avastama uusi suuri läbimurdeid meditsiinis. Ei ole selge, kas praegused tehnoloogiad sobivad selleks, kuna bioloogia on keeruline valdkond. Tuleb olla valmis lugema palju raamatuid. Teadlased mõistavad põhjuslikke seoseid võrkude ja molekulide vahel ning saavad formuleerida teooriaid planeetidest ja muust. Kuid spetsiifilise tehisintellekti abil ei suuda me luua masinaid, mis suudaksid selliseid avastusi teha. Aga üldise tehisintellekti abil võiksime saavutada revolutsiooni teaduses, tehnoloogias ja meditsiinis. Minu arvates on väga oluline jätkata üldise tehisintellekti väljatöötamist.
Kas näete 'üldise' all silmapaistvat tehisintellekti?
Kui räägin 'üldisest', siis mõistan seda, et tehisintellekt suudab hetkega mõelda ja ise uusi ülesandeid lahendada. Erinevalt näiteks Go'st, kus probleem pole viimased 2000 aastat muutunud.
Üldine tehisintellekt peaks suutma teha otsuseid nii poliitikas kui ka meditsiinis. See on inimese võimekuse analoog; iga mõistlik inimene suudab teha väga palju. Võtate kogenematud üliõpilased ja mõne päeva pärast suudate nad tööle panna praktiliselt igasuguste ülesannetega, alates juriidilisest tegevusest kuni meditsiinini. See on võimalik tänu sellele, et neil on üldine arusaam maailmast ja nad oskavad lugeda, mistõttu nad saavad panustada väga laias valikus tegevustesse.
Seos sellise intelligentsuse ja tugeva vahel on see, et mitte tugev intelligentsus ei suuda tõenäoliselt lahendada üldisi ülesandeid. Kindla ja usaldusväärse loomine, mis suudab toimida pidevalt muutuvas maailmas, nõuab ilmselt vähemalt osaleda üldise intelligentsuse suunas.
Aga praegu on sellest kaugel. AlphaGo oskab mängida 19x19 lauamängu, kuid seda tuleb ümber koolitada, et mängida ristkülikulisel laual. Või võtame keskmise süvaõppe süsteemi: see suudab äratunda elevanti, kui see on hästi valgustatud ja naha tekstuur on nähtav. Kui näha on vaid elevandi siluetti, ei suuda süsteem kindlasti seda ära tunda.
Teie raames mainite, et süvaõpe ei suuda saavutada üldise tehisintellekti võimeid, kuna see ei suuda sügavalt mõista.
Kognitiivses teaduses räägitakse erinevate kognitiivsete mudelite kujundamisest. Istun hotellitoas ja mõistan, et seal on kapp, seal on voodi, seal on televiisor, mis on ebatavaliselt rippuv. Ma tean neid esemeid, ma ei tunne neid lihtsalt ära. Samuti mõistan, kuidas need omavahel seotud on. Mul on ideid ümbritseva maailma toimimise kohta. Need ei ole ideaalsed. Need võivad olla valed, kuid need on väga head. Ja nende põhjal teen ma palju järeldusi, mis muutuvad minu igapäevaelus juhisteks.
Teine äärmus on midagi sarnast Atari mängusüsteemile, mille lõi DeepMind, kus see mäletas, mida peab tegema, kui nägi ekraanil teatud kohtade pixelit. Kui saate piisavalt andmeid, võib tunduda, et teil on arusaam, kuid tegelikult on see väga pinnapealne. Tõestuseks on see, et kui objekte kolme pikseli võrra nihutada, mängib tehisintellekt palju halvemini. Muutused segavad seda. See on vastupidine sügavale mõistmisele.
Selle probleemi lahendamiseks soovitate naasta klassikalise tehisintellekti juurde. Milliseid eeliseid peaksime püüdma ära kasutada?
Eeliseid on mitu.
Esiteks, klassikaline tehisintellekt on tegelikult raamistik kognitiivsete mudelite loomiseks maailmast, mille alusel saab hiljem järeldusi teha.
Teiseks, klassikaline tehisintellekti (AI) sobib ideaalselt reeglitega. Praegu sügava õppimise valdkonnas on kummaline tendents, kus spetsialistid püüavad reegleid vältida. Nad tahavad teha kõike närvivõrkudel ja mitte teha midagi, mis näeks välja nagu klassikaline programmeerimine. Kuid on ülesandeid, mis on sedaviisi rahulikult lahendatud ja millele ei ole keegi tähelepanu pööranud. Näiteks teede ehitamine Google Mapsis.
Tegelikkuses vajame mõlemat lähenemist. Masinõpe võimaldab andmete põhjal hästi õppida, kuid see ei aita hästi abstraktsioonide kuvamisel, mida arvutiprogramm esindab. Klassikaline AI töötab hästi abstraktsioonidega, kuid seda tuleb täielikult käsitsi programmeerida, ja maailmas on kogunenud liiga palju teadmisi, et kogu seda programmeerida. On selge, et peame mõlemat lähenemist ühendama.
See on seotud peatükiga, kus räägite sellest, mida me saame õppida inimvaimult. Esiteks, kontseptsioon, mis põhineb ülaltoodud ideel, et meie teadvus koosneb mitmest erinevast süsteemist, mis töötavad erinevalt.
Mõtlen, et on olemas teine võimalus seda selgitada: iga kognitiivne süsteem, mida meil on, lahendab tõeliselt erinevaid ülesandeid. Sarnaselt mõeldud AI osad peaksid olema loodud erinevate ülesannete lahendamiseks, millel on erinevad omadused.
Praegu üritame kasutada mingisuguseid kõikehõlmavaid tehnoloogiaid ülesannete lahendamiseks, mis on üksteisest radikaalselt erinevad. Lause mõistmine ei ole kaugeltki sama mis objekti tuvastamine. Kuid inimesed püüavad mõlemal juhul kasutada sügavat õppimist. Kognitiivses mõttes on need kvaliteetselt erinevad ülesanded. Olen lihtsalt üllatunud, kui vähe sügava õppimise kogukonnas hindavad klassikalist AI-d. Miks oodata hõbedast kuulipill? See on saavutatav ja viljatu otsimine ei luba mõista kogu AI loomise ülesande keerukust.
Te mainite ka, et AI-süsteemid on vajalikud põhjuslike seoste mõistmiseks. Te arvate, et see aitab meid sügav õppimine, klassikaline AI või midagi täiesti uut?
See on veel üks valdkond, kus süvaõpe ei sobi eriti hästi. See ei selgita событий põhjuseid, vaid arvutab sündmuse tõenäosuse teatud tingimustes.
Millest me räägime? Te vaatate teatud stsenaariume ja saate aru, miks see juhtub ja mis võib juhtuda, kui mõningad asjaolud muutuvad. Ma võin vaadata televiisori aluse seisundit ja kujutada ette, et kui ma lõikan tal ühe jala ära, siis alus kukub ümber ja televiisor langeb. See on põhjuslik seos.
Klassikaline tehisintellekt annab meile selle jaoks mõned tööriistad. Ta suudab näiteks kujutada, mis on toetus ja mis on langemine. Kuid ma ei tahaks hiilata. Probleem on selles, et klassikaline tehisintellekt sõltub enamasti toimuvast teabe täielikkusest, kuid mina tegin järelduse, vaadates lihtsalt alusest. Ma suudan mingil viisil üldistada, kujutada ette alusosi, mida ma ei näe. Meil ei ole veel tööriistu selle omaduse elluviimiseks.
Te räägite ka sellest, et inimestel on kaasasündinud teadlikkus. Kuidas seda saaks tehisintellektis rakendada?
Sünnihetkel on meie aju juba väga hoolikalt läbi mõeldud süsteem. See pole fikseeritud, loodus on loonud esmase, toore mustandi. Seejärel aitab õpe meil seda mustandit üle vaadata kogu meie elu jooksul.
Aju toore mustand positsioneerib end juba teatavate võimalustega. Vastupidav mägikits suudab juba mõne tunni jooksul tõhusalt mäenõlval alla laskuda. Ilmselt on tal juba arusaam kolmemõõtmelisest ruumist, oma kehast ja nendevahelistest suhetest. Väga keeruline süsteem.
Osaliselt seetõttu usun, et meil on vaja hübriide. On raske ette kujutada, kuidas luua robot, mis toimib maailmas ilma sarnaste teadmisteta, alustada puhtalt lehelt ja õppida pika, tohutu kogemuse põhjal.
Mis inimesi puudutab, siis meie kaasasündinud teadmine tuleneb meie genoomist, mis on pikka aega arenenud. Aga AI-süsteemidega peame minema teist teed. Osaliselt võivad need olla reeglid meie algoritmide koostamiseks. Osaliselt võivad need olla reeglid andmestruktuuride loomise kohta, millega need algoritmid manipuleerivad. Ja osaliselt võivad need olla teadmised, mida me otse masinatesse paneme.
Huvitav on, et raamatus viite te usalduse ja usalduslike süsteemide loomise ideele. Miks valisite just selle kriteeriumi?
Ma arvan, et tänapäeval on see kõik nagu pallimäng. Tundub, et elame kummalises ajaloomomendis, usaldades palju tarkvara, mis ei ole usaldusväärne. Arvan, et meie praegused mured ei kesta igavesti. Sadade aastate pärast õigustab AI meie usaldust, võib-olla isegi varem.
Aga täna on AI ohtlik. Mitte selles mõttes, nagu Elon Musk kardab, vaid selles, et tööle võtmisel kasutatavad vestlussüsteemid diskrimineerivad naisi, hoolimata sellest, mida programmeerijad teevad, kuna nende tööriistad on liiga lihtsad.
Sooviksin, et meil oleks kvaliteetsem tehisintellekt. Ma ei taha, et algaks „tehisintellekti talv“, kus inimesed saavad aru, et tehisintellekt ei toimi ja on lihtsalt ohtlik, ning ei soovi seda parandada.
Teatud mõttes tundub teie raamat tõeliselt optimistlik. Te väidate, et usaldusväärset tehisintellekti on võimalik ehitada. Me peame lihtsalt vaatama teises suunas.
Õige, raamat on lühiajaliselt väga pessimistlik ja pikemas perspektiivis väga optimistlik. Me usume, et kõik meie poolt kirjeldatud probleemid on lahendatavad, kui me vaatame laiemalt, millised peaksid olema õiged vastused. Ja me arvame, et kui see juhtub, siis muutub maailm paremaks.
Allikas: habr.com
