See tekst ei ole teadusliku uurimistöö tulemus, vaid üks paljusid seisukohti meie lähituleviku tehnoloogia arengu kohta. Samuti on see kutse aruteluks.
Gary Marcus, New Yorgi ülikooli professor, usub, et süvaõpe mängib olulist rolli tehisintellekti arengus. Kuid ta peab ka silmas, et liigne kiindumus sellesse meetodisse võib selle diskrediteerida.
Oma raamatus Rebooting AI: Building artificial intelligence we can trust Marcus, hariduselt neuroloog, kes on loonud karjääri tehisintellekti tipuurimuses, käsitleb tehnilisi ja eetilisi aspekte. Tehnoloogia vaatenurgast võib süvaõpe edukalt jäljendada meie aju teostatud tajutegevuse lahendusi, näiteks piltide või kõne tuvastamist. Kuid teiste ülesannete, näiteks vestluste mõistmise või põhjuslike seoste määramise lahendamiseks ei sobi süvaõpe. Edasijõudnud intellektuaalsete masinate loomiseks, mis suudavad lahendada laiemat ülesannete ringi - neid nimetatakse sageli üldiseks tehisintellektiks - tuleb süvaõpet kombineerida teiste meetoditega.
Kui tehisintellekti süsteem tegelikult ei mõista oma ülesandeid ega ümbritsevat maailma, võib see viia ohtlike tagajärgedeni. Isegi kõige väiksemad ootamatud muutused süsteemi keskkonnas võivad viia selle vale käitumiseni. Selliseid näiteid on juba palju: kohandamisalgoritmid, mida on lihtne petta; tööotsingu süsteemid, mis pidevalt diskrimineerivad; isesõitvad autod, mis sattuvad õnnetustesse ja mõnikord tapavad juhi või jalakäija. Üldise tehisintellekti loomine ei ole lihtsalt huvitav uurimisprobleem, sellel on palju täiesti praktilisi rakendusi.
Oma raamatus esitlevad Marcus ja tema kaasautor Ernest Davis teistsugust teed. Nad usuvad, et oleme veel kaugel üldise tehisintellekti loomise lõpetamisest, kuid on kindlad, et varem või hiljem õnnestub seda luua.
Miks on meil vaja üldist tehisintellekti? Spetsialiseeritud variandid on juba loodud ja toovad palju kasu.
Jah, ja kasu saab olema veel rohkem. Kuid on palju ülesandeid, mida spetsialiseeritud tehisintellekt lihtsalt ei suuda lahendada. Näiteks tavalise kõne mõistmine, või üldine abi virtuaalses maailmas, või robot, mis aitab koristamisel ja toiduvalmistamisel. Sellised ülesanded on spetsialiseeritud tehisintellekti võimetest väljaspool. Veel üks huvitav praktiline küsimus: kas spetsialiseeritud tehisintellekti abil on võimalik luua turvaline isesõitva auto? Kogemus näitab, et sellisel tehisintellektil on endiselt palju probleeme käitumisega ebatavalistes olukordades, isegi sõitmise ajal, mis keerustab olukorda veelgi.
Mõtlen, et me kõik sooviksime tehisintellekti, mis suudab aidata meid teha uusi ulatuslikke avastusi meditsiinis. Pole selge, kas praegused tehnoloogiad sobivad selleks, kuna bioloogia on keeruline valdkond. Tuleb valmistuda lugema rohkelt raamatuid. Teadlased mõistavad, et sidemed võrgu ja molekulide vahel on põhjuslikud, nad saavad arendada teooriaid planeetide kohta jne. Kuid me ei saa spetsialiseeritud tehisintellektiga luua masinaid, mis on võimelised sellisteks avastusteks. Üldise tehisintellektiga võiksime revolutsioneerida teadust, tehnoloogiat ja meditsiini. Minu arvates on äärmiselt oluline jätkata üldise tehisintellekti arendamist.
Tundub, et te mõistate „üldise” all tugevat tehisintellekti?
Rääkides „üldisest”, mõtlen, et tehisintellekt suudab jooksvalt mõelda ja iseseisvalt uusi ülesandeid lahendada. Erinevalt näiteks Go-st, kus probleem ei ole viimased 2000 aastat muutunud.
Üldine tehisintellekt peab olema võimeline otsuseid langetama nii poliitikas kui ka meditsiinis. See on sarnane inimlikule võimele; iga mõistlik inimene oskab teha väga palju. Te võtate kogenematud üliõpilased ja mõne päeva pärast sunnite nad töötama praktiliselt igasuguste asjadega, alates õiguslikest ülesannetest kuni meditsiiniliste probleemideni. See on võimalik, kuna nad omavad üldist arusaama maailmast ja oskavad lugeda, seetõttu saavad nad panustada väga laias tegevusvaldkonnas.
Suhtlus sellise intelligentsi ja tugeva vahel on see, et mitte tugev intelligentsus ei suuda tõenäoliselt lahendada üldisi ülesandeid. Et luua midagi piisavalt usaldusväärset, mis suudab töötada pidevalt muutuvas maailmas, peate võib-olla vähemalt lähenema üldisele intelligentsusele.
Aga praegu oleme sellest kaugel. AlphaGo suudab hästi mängida 19×19 lauaga, kuid seda tuleb ümber koolitada mängimiseks ristkülikulisel laual. Või võtame keskmise sügava õppe süsteemi: see suudab tuvastada elevandi, kui see on hästi valgustatud ja selle naha tekstuur on näha. Kui aga on näha vaid elevandi siluett, siis süsteem ilmselt ei suuda seda tuvastada.
Oma raamatus mainite, et sügav õppimine ei suuda saavutada üldise tehisintellekti võimekust, kuna see ei suuda sügavat arusaama.
Kognitiivikas räägitakse erinevate kognitiivsete mudelite kujunemisest. Istun hotellitoas ja mõistan, et seal on kapp, seal on voodi, seal on televisioon, mis on ebatavaliselt riputatud. Ma tean neid objekte, ma ei lihtsalt identifitseeri neid. Samuti mõistan, kuidas nad omavahel seotud on. Mul on ideed ümbritseva maailma toimimisest. Need ei ole ideaalsed. Need võivad olla vale, kuid nad on väga head. Ja nende alusel teen ma palju järeldusi, mis muutuvad minu igapäevaelu juhiseks.
Teine äärmus on midagi sarnast Atkari mängusüsteemiga, mille loodi DeepMind, kus ta mäletas, mida teha, kui nägi pikslit teatud kohtades ekraanil. Kui sul on piisavalt andmeid, võib tunduda, et sul on arusaam, aga tegelikult on see väga pinnapealne. Tõendiks on see, et kui objekte kolida kolm pikslit, mängib tehisintellekt palju halvemini. Muutused segavad teda. See on vastupidine sügavale arusaamale.
Selle probleemi lahendamiseks pakute tagasi pöörduda klassikalise tehisintellekti juurde. Milliseid selle eeliseid peaksime püüdma ära kasutada?
Eeliseid on mitu.
Esiteks on klassikaline tehisintellekt tegelikult raamistik kognitiivsete mudelite loomiseks maailmast, mille põhjal saab seejärel järeldusi teha.
Teiseks on klassikaline tehisintellekt ideaalselt kooskõlas reeglitega. Praegu sügava õppimise vallas on kummaline tendents, kus spetsialistid püüavad reegleid vältida. Nad soovivad teha kõik närvivõrkudega ega soovi teha midagi sellist, mis näeb välja nagu klassikaline programmeerimine. Kuid on ülesandeid, mis on rahulikult lahendatud sarnasel viisil, ja keegi ei ole sellele tähelepanu pööranud. Näiteks marsruutide koostamine Google Mapsis.
Tegelikult vajame mõlemaid lähenemisviise. Masinõpe võimaldab andmetest hästi õppida, kuid see ei aita üldse abstraktsioonide esitlemisel, milleks arvutiprogramm on. Klassikaline tehisintellekt töötab hästi abstraktsioonidega, kuid see tuleb tervikuna käsitsi programmeerida, samas on maailmas kogunenud liiga palju teadmisi, et kõik need programmeerida. On ilmne, et peame ühendama mõlemad lähenemised.
See on seotud peatükiga, kus räägite sellest, mida me saame õppida inimmeelest. Peamiselt suhtest, mis põhineb eelnevalt mainitud ideel, et meie teadvus koosneb paljusid erinevatest süsteemidest, mis töötavad erinevalt.
Ma arvan, et on teine viis seda selgitada: iga kognitiivne süsteem, mis meil on, lahendab tegelikult erinevaid ülesandeid. Sarnased tehisintellekti osad tuleb projekteerida erinevate ülesannete lahendamiseks, millel on erinevad omadused.
Praegu püüame kasutada mingisuguseid kõikehõlmavaid tehnoloogiaid ülesannete lahendamiseks, mis on kardinaalselt erinevad. Eksituse mõistmine ei ole sugugi sama, mis objekti tuvastamine. Kuid inimesed püüavad kummalgi juhul kasutada sügavat õppimist. Kognitiivse vaatenurga alt on need kvaliteetselt erinevad ülesanded. Olen üllatunud, kui vähe sügava õppimise spetsialistide seas hinnatakse klassikalist tehisintellekti. Miks oodata hõbepadruni ilmumist? See on saavutus, mida ei ole võimalik saavutada, ja viljatust otsingust ei piisa, et mõista tehisintellekti loomise küsimuse kogu keerukust.
Te mainite ka, et tehisintellekti süsteemid on vajalikud põhjuslikkuse mõistmiseks. Te arvate, et selles osas aitab meile sügav õppimine, klassikaline tehisintellekt või midagi täiesti uut?
See on veel üks valdkond, kus sügav õppimine ei sobi hästi. See ei selgita mingite sündmuste põhjuseid, vaid arvutab sündmuse tõenäosust antud tingimustes.
Millest me räägime? Te vaatate mõningaid stsenaariume ja mõistate, miks see juhtub ja mis võib juhtuda, kui mõned tingimused muutuvad. Ma saan vaadata toe, millel on teler, ja kujutada ette, et kui ma lõikan sellest ühe jala ära, siis toe ümber kukub ja teler kukub maha. See on põhjuslik seos.
Klassikaline tehisintellekt annab meile selleks teatud tööriistad. Ta suudab näiteks esitada, mis on tugi ja mis on langus. Kuid ma ei taha üle kiita. Probleem on selles, et klassikaline tehisintellekt sõltub suuresti sõnumi täielikkusest, ja ma olen järeldusele jõudnud lihtsalt stendi vaatamise põhjal. Ma suudan mingil moel üldistada, et esindada stendi osi, mis pole mulle nähtavad. Meil pole veel tööriistu selle omaduse rakendamiseks.
Teiseks räägite, et inimestel on kaasasündinud teadmised. Kuidas saab seda tehisintellektis rakendada?
Sünnihetkel on meie aju juba väga hoolikalt kujundatud süsteem. See ei ole fikseeritud; loodus lõi esmase, toore mustandi. Ja siis aitab haridus meil seda mustandit kogu meie elu jooksul üle vaadata.
Aju toore mustandil on juba teatud võimed. Vastne mägikits suudab juba mõne tunni pärast vigu tegemata mäe nõlvadel alla laskuda. On ilmne, et tal on juba arusaam kolmemõõtmelisest ruumist, oma kehast ja nendevahelistest seostest. Üsna keeruline süsteem.
Osaliselt seetõttu arvan, et vajame hübriide. On raske ette kujutada, kuidas luua robotit, mis toimiks maailmas ilma sarnaste teadmisteta, alustades puhtalt lehelt ja õppides pika, tohutu kogemuse kaudu.
Mis puudutab inimesi, siis meie kaasasündinud teadmised pärinevad meie genoomist, mis on kaua aega arenenud. Tehisintellekti süsteemide puhul peame minema teistsugust teed. Osaliselt võivad need olla meie algoritmide loomise reeglid. Osaliselt võivad need olla andmestruktuuride loomise reeglid, mida need algoritmid manipuleerivad. Ja osaliselt võivad need olla teadmised, mida me otse masintesse paneme.
Huvitav on see, et raamatust järeldate usalduse ja usaldusväärsete süsteemide loomise ideed. Miks valisite just selle kriteeriumi?
Usun, et täna esindab see kõik pallimängu. Tundub, et elame ajaloo kummalisel hetkel, usaldades tarkvara, mis ei pälvi usaldust. Arvan, et tänapäeva meeleolud ei ole igavesed. Sadade aastate pärast õigustab tehisintellekt meie usaldust, võib-olla isegi varem.
Kuid täna on tehisintellekt ohtlik. Mitte selles mõttes, kuidas Elon Musk seda kardab, vaid selles, et tööintervjuude süsteemid diskrimineerivad naisi, olenemata sellest, mida programmeerijad teevad, sest nende tööriistad on liiga lihtsad.
Ma sooviksin, et meil oleks kvaliteetsem tehisintellekt. Ma ei taha, et algab "tehisintellekti talv", kui inimesed mõistavad, et tehisintellekt ei tööta ja on lihtsalt ohtlik ning ei soovi seda parandada.
Teatud mõttes tundub teie raamat tõeliselt optimistlik. Te väidate, et usaldusväärne tehisintellekt on võimalik ehitada. Me peame lihtsalt vaatama teises suunas.
Tõsi, raamat on lühiajaliselt väga pessimistlik ja pikaajalises vaates väga optimistlik. Me usume, et kõik meie kirjeldatud probleemid on lahendatavad, kui vaatame laiemalt, millised peaksid olema õiged vastused. Ja me arvame, et kui see juhtub, muutub maailm paremaks.
Allikas: habr.com
