Šis tekstas nėra mokslinių tyrimų rezultatas, o viena iš daugelio nuomonių, susijusių su mūsų tiesiogine technologine plėtra. Ir tuo pačiu kvietimas į diskusiją.
Niujorko universiteto profesorius Gary Marcusas mano, kad gilus mokymasis vaidina svarbų vaidmenį kuriant AI. Tačiau jis taip pat mano, kad per didelis entuziazmas šiai technikai gali sukelti jos diskreditavimą.
Savo knygoje AI perkrovimas: dirbtinio intelekto kūrimas, kuriuo galime pasitikėti Marcusas, neuromokslininkas, sukūręs karjerą pažangiausių AI tyrimų srityje, nagrinėja techninius ir etinius aspektus. Žvelgiant iš technologijų perspektyvos, gilus mokymasis gali sėkmingai imituoti suvokimo užduotis, kurias atlieka mūsų smegenys, pvz., vaizdo ar kalbos atpažinimą. Tačiau kitoms užduotims, pavyzdžiui, suprasti pokalbius ar nustatyti priežasties ir pasekmės ryšius, gilus mokymasis netinka. Norint sukurti pažangesnes išmaniąsias mašinas, galinčias išspręsti platesnį problemų spektrą (dažnai vadinamą dirbtiniu bendruoju intelektu), gilų mokymąsi reikia derinti su kitomis technikomis.
Jei AI sistema iš tikrųjų nesupranta savo užduočių ar aplinkinio pasaulio, tai gali sukelti pavojingų pasekmių. Net menkiausi netikėti sistemos aplinkos pokyčiai gali lemti klaidingą elgesį. Tokių pavyzdžių jau buvo daug: netinkamų posakių lemiantys veiksniai, kuriuos lengva apgauti; darbo paieškos sistemos, kurios nuosekliai diskriminuoja; be vairuotojų automobiliai, kurie daužosi ir kartais nužudo vairuotoją ar pėsčiąjį. Bendrojo dirbtinio intelekto kūrimas yra ne tik įdomi tyrimo problema, ji turi daugybę visiškai praktinių pritaikymų.
Savo knygoje Marcusas ir jo bendraautorius Ernestas Davisas pasisako už kitokį kelią. Jie mano, kad mums dar toli iki bendro AI kūrimo, tačiau jie įsitikinę, kad anksčiau ar vėliau jį pavyks sukurti.
Kodėl mums reikia bendrojo AI? Specializuotos versijos jau sukurtos ir duoda daug naudos.
Tai tiesa, ir naudos bus dar daugiau. Tačiau yra daug problemų, kurių specializuotas AI tiesiog negali išspręsti. Pavyzdžiui, įprastos kalbos supratimas, bendra pagalba virtualiame pasaulyje arba robotas, padedantis valyti ir gaminti maistą. Tokios užduotys yra už specializuotų AI galimybių ribų. Kitas įdomus praktinis klausimas: ar įmanoma sukurti saugų savarankiškai važiuojantį automobilį naudojant specializuotą AI? Patirtis rodo, kad toks AI vis dar turi daug problemų dėl elgesio neįprastose situacijose, net ir vairuojant, o tai labai apsunkina situaciją.
Manau, kad visi norėtume turėti dirbtinį intelektą, kuris padėtų mums padaryti didelių naujų atradimų medicinoje. Ar dabartinės technologijos tam tinkamos, neaišku, nes biologija yra sudėtinga sritis. Jūs turite būti pasirengę skaityti daug knygų. Mokslininkai supranta priežasčių ir pasekmių ryšius tinklų ir molekulių sąveikoje, gali kurti teorijas apie planetas ir pan. Tačiau naudojant specializuotą AI negalime sukurti mašinų, galinčių atlikti tokius atradimus. Naudodami bendrą AI galėtume pakeisti mokslą, technologijas ir mediciną. Mano nuomone, labai svarbu toliau dirbti kuriant bendrą AI.
Atrodo, kad sakydami „bendras“ turite omenyje stiprų AI?
Sakydamas „bendras“ turiu galvoje, kad dirbtinis intelektas galės mąstyti ir spręsti naujas problemas. Kitaip nei, tarkime, „Go“, kur problema nepasikeitė pastaruosius 2000 metų.
Bendrasis AI turėtų turėti galimybę priimti sprendimus tiek politikoje, tiek medicinoje. Tai analogiška žmogaus gebėjimams; bet kuris sveiko proto žmogus gali daug. Jūs priimate nepatyrusius studentus ir per kelias dienas priverčiate juos spręsti beveik bet ką – nuo teisinės problemos iki medicininės problemos. Taip yra todėl, kad jie turi bendrą pasaulio supratimą ir moka skaityti, todėl gali prisidėti prie labai įvairios veiklos.
Ryšys tarp tokio intelekto ir stipraus intelekto yra toks, kad netvirtas intelektas greičiausiai nepajėgs išspręsti bendrų problemų. Norėdami sukurti kažką pakankamai tvirto, kad galėtumėte susidoroti su nuolat kintančiu pasauliu, jums gali tekti bent jau priartėti prie bendro intelekto.
Bet dabar mes esame labai toli nuo to. AlphaGo puikiai gali žaisti ant 19x19 lentos, tačiau ją reikia permokyti žaisti ant stačiakampės lentos. Arba paimkite vidutinę giluminio mokymosi sistemą: ji gali atpažinti dramblį, jei jis gerai apšviestas ir matoma jo odos tekstūra. O jei matomas tik dramblio siluetas, greičiausiai sistema jo neatpažins.
Savo knygoje minite, kad gilus mokymasis negali pasiekti bendro AI galimybių, nes jis negali giliai suprasti.
Kognityviniame moksle jie kalba apie įvairių pažinimo modelių formavimąsi. Sėdžiu viešbučio kambaryje ir suprantu, kad ten yra spinta, yra lova, yra televizorius, kuris neįprastai pakabintas. Aš pažįstu visus šiuos objektus, ne tik juos identifikuoju. Taip pat suprantu, kaip jie yra tarpusavyje susiję. Turiu idėjų apie mane supančio pasaulio funkcionavimą. Jie nėra tobuli. Jie gali būti klaidingi, bet jie yra gana geri. Ir jomis remdamasis darau daug išvadų, kurios tampa mano kasdienių veiksmų gairėmis.
Kitas kraštutinumas buvo kažkas panašaus į „DeepMind“ sukurtą „Atari“ žaidimų sistemą, kurioje ji prisimindavo, ką reikia daryti, kai tam tikrose ekrano vietose pamatė pikselius. Jei gausite pakankamai duomenų, galite manyti, kad turite supratimo, bet iš tikrųjų tai labai paviršutiniška. To įrodymas yra tas, kad jei perkeliate objektus trimis pikseliais, AI veikia daug blogiau. Pokyčiai jį glumina. Tai priešinga giliam supratimui.
Norėdami išspręsti šią problemą, siūlote grįžti prie klasikinio AI. Kokiais pranašumais turėtume pabandyti pasinaudoti?
Yra keletas privalumų.
Pirma, klasikinis AI iš tikrųjų yra kognityvinių pasaulio modelių kūrimo sistema, kuria remiantis galima padaryti išvadas.
Antra, klasikinis AI puikiai suderinamas su taisyklėmis. Šiuo metu yra keista gilaus mokymosi tendencija, kai ekspertai stengiasi vengti taisyklių. Jie nori daryti viską neuroniniuose tinkluose ir nedaryti nieko, kas atrodo kaip klasikinis programavimas. Tačiau yra problemų, kurios taip buvo ramiai išspręstos, ir niekas į tai nekreipė dėmesio. Pavyzdžiui, maršrutų kūrimas „Google“ žemėlapiuose.
Tiesą sakant, mums reikia abiejų požiūrių. Mašininis mokymasis gerai mokosi iš duomenų, bet labai prastai reprezentuoja abstrakciją, kuri yra kompiuterinė programa. Klasikinis dirbtinis intelektas gerai veikia su abstrakcijomis, tačiau jis turi būti programuojamas tik rankiniu būdu, o pasaulyje yra per daug žinių, kad būtų galima jas visas užprogramuoti. Akivaizdu, kad turime derinti abu požiūrius.
Tai susiję su skyriumi, kuriame kalbate apie tai, ko galime pasimokyti iš žmogaus proto. Ir pirmiausia apie sampratą, paremtą aukščiau minėta idėja, kad mūsų sąmonė susideda iš daugybės skirtingų sistemų, kurios veikia skirtingai.
Manau, kad kitas būdas tai paaiškinti yra tas, kad kiekviena mūsų turima pažinimo sistema iš tikrųjų išsprendžia skirtingą problemą. Panašios AI dalys turi būti sukurtos taip, kad išspręstų skirtingas problemas, kurios turi skirtingas savybes.
Dabar mes bandome naudoti kai kurias „viskas viename“ technologijas, kad išspręstume problemas, kurios kardinaliai skiriasi viena nuo kitos. Sakinio supratimas visai nėra tas pats, kas atpažinti objektą. Tačiau žmonės abiem atvejais bando panaudoti giluminį mokymąsi. Kognityviniu požiūriu tai kokybiškai skirtingos užduotys. Aš tiesiog nustebęs, kaip mažai vertinamas klasikinis AI gilaus mokymosi bendruomenėje. Kam laukti, kol pasirodys sidabrinė kulka? Tai nepasiekiama, o bevaisės paieškos neleidžia suvokti viso AI kūrimo užduoties sudėtingumo.
Taip pat minite, kad AI sistemos reikalingos norint suprasti priežasties ir pasekmės ryšius. Ar manote, kad gilus mokymasis, klasikinis AI ar kažkas visiškai naujo mums padės tai padaryti?
Tai dar viena sritis, kurioje gilus mokymasis nėra tinkamas. Ji nepaaiškina tam tikrų įvykių priežasčių, o apskaičiuoja įvykio tikimybę tam tikromis sąlygomis.
apie ką mes kalbame? Stebite tam tikrus scenarijus ir suprantate, kodėl taip nutinka ir kas gali nutikti pasikeitus kai kurioms aplinkybėms. Galiu pažvelgti į stovą, ant kurio stovi televizorius, ir įsivaizduoti, kad jei nupjausiu vieną jo koją, stovas apvirs ir televizorius nukris. Tai yra priežasties ir pasekmės ryšys.
Klasikinis AI suteikia mums tam tikrų įrankių. Jis gali įsivaizduoti, pavyzdžiui, kas yra parama, o kas – kritimas. Bet per daug nepagirsiu. Problema ta, kad klasikinis dirbtinis intelektas labai priklauso nuo išsamios informacijos apie tai, kas vyksta, ir aš padariau išvadą tiesiog pažvelgęs į stendą. Galiu kažkaip apibendrinti, įsivaizduoti man nematomas stendo dalis. Dar neturime įrankių šiai nuosavybei įgyvendinti.
Taip pat sakote, kad žmonės turi įgimtų žinių. Kaip tai galima įgyvendinti AI?
Gimimo momentu mūsų smegenys jau yra labai sudėtinga sistema. Tai nėra fiksuota, gamta sukūrė pirmąjį, grubų projektą. Ir tada mokymasis padeda mums peržiūrėti šį projektą visą gyvenimą.
Grubus smegenų skersvėjis jau turi tam tikrų galimybių. Naujagimis kalnų ožys sugeba per kelias valandas neklystamai nusileisti nuo kalno šlaito. Akivaizdu, kad jis jau turi supratimą apie trimatę erdvę, savo kūną ir ryšį tarp jų. Labai sudėtinga sistema.
Iš dalies todėl manau, kad mums reikia hibridų. Sunku įsivaizduoti, kaip būtų galima sukurti robotą, kuris gerai funkcionuotų pasaulyje, neturint panašių žinių, nuo ko pradėti, o ne pradėti nuo tuščio lapo ir mokytis iš ilgos, didžiulės patirties.
Kalbant apie žmones, mūsų įgimtos žinios kyla iš mūsų genomo, kuris vystėsi per ilgą laiką. Tačiau su AI sistemomis turėsime eiti kitu keliu. Dalis to gali būti mūsų algoritmų kūrimo taisyklės. Dalis to gali būti duomenų struktūrų, kuriomis manipuliuoja šie algoritmai, kūrimo taisyklės. Ir dalis to gali būti žinojimas, kad mes tiesiogiai investuosime į mašinas.
Įdomu tai, kad knygoje iškeliate pasitikėjimo idėją ir pasitikėjimo sistemų kūrimą. Kodėl pasirinkote būtent šį kriterijų?
Tikiu, kad šiandien visa tai yra žaidimas su kamuoliu. Man atrodo, kad mes išgyvename keistą istorijos momentą, pasitikėdami daugybe nepatikimos programinės įrangos. Manau, kad mūsų šiandieniniai rūpesčiai nesitęs amžinai. Po šimto metų AI pateisins mūsų pasitikėjimą, o gal ir greičiau.
Tačiau šiandien AI yra pavojingas. Ne ta prasme, kurios bijo Elonas Muskas, o ta prasme, kad darbo pokalbių sistemos diskriminuoja moteris, nepaisant to, ką daro programuotojai, nes jų įrankiai per paprasti.
Linkiu, kad turėtume geresnį AI. Nenoriu matyti „AI žiemos“, kai žmonės supras, kad AI neveikia ir yra tiesiog pavojingas, ir nenori to taisyti.
Tam tikra prasme jūsų knyga atrodo labai optimistiška. Manote, kad įmanoma sukurti patikimą AI. Tiesiog turime pažvelgti kita kryptimi.
Tiesa, knyga yra labai pesimistiška trumpuoju laikotarpiu ir labai optimistiška ilguoju laikotarpiu. Manome, kad visas mūsų aprašytas problemas galima išspręsti plačiau pažvelgus į tai, kokie turėtų būti teisingi atsakymai. Ir manome, kad jei taip atsitiks, pasaulis taps geresnė vieta.
Šaltinis: www.habr.com