Tämä teksti ei ole tieteellisen tutkimuksen tulos, vaan yksi monista mielipiteistä, jotka koskevat välitöntä teknologista kehitystämme. Ja samalla kutsu keskusteluun.
New Yorkin yliopiston professori Gary Marcus uskoo, että syvällä oppimisella on tärkeä rooli tekoälyn kehityksessä. Mutta hän uskoo myös, että liiallinen innostus tätä tekniikkaa kohtaan voi johtaa sen huonoon arvoon.
Hänen kirjassaan Tekoälyn uudelleenkäynnistys: Tekoälyn rakentaminen, johon voimme luottaa Marcus, koulutukseltaan neurotieteilijä, joka on rakentanut uransa huippuluokan tekoälytutkimuksen parissa, käsittelee teknisiä ja eettisiä näkökohtia. Teknologian näkökulmasta syväoppiminen voi menestyksekkäästi jäljitellä aivomme suorittamia havainnointitehtäviä, kuten kuvan tai puheentunnistusta. Mutta muihin tehtäviin, kuten keskustelujen ymmärtämiseen tai syy-seuraussuhteiden määrittämiseen, syväoppiminen ei sovellu. Jotta voidaan luoda kehittyneempiä älykkäitä koneita, jotka voivat ratkaista laajemman joukon ongelmia – joita kutsutaan usein tekoälyksi – syväoppiminen on yhdistettävä muihin tekniikoihin.
Jos tekoälyjärjestelmä ei todella ymmärrä tehtäviään tai ympäröivää maailmaa, se voi johtaa vaarallisiin seurauksiin. Pienimmätkin odottamattomat muutokset järjestelmän ympäristössä voivat johtaa virheelliseen toimintaan. Tällaisia esimerkkejä on jo ollut monia: sopimattomien ilmaisujen määrääviä tekijöitä, jotka on helppo pettää; työnhakujärjestelmät, jotka syrjivät jatkuvasti; kuljettajattomat autot, jotka kolaroivat ja joskus tappavat kuljettajan tai jalankulkijan. Yleisen tekoälyn luominen ei ole vain mielenkiintoinen tutkimusongelma, sillä sillä on monia täysin käytännön sovelluksia.
Kirjassaan Marcus ja hänen kirjoittajansa Ernest Davis väittävät eri polun puolesta. He uskovat, että olemme vielä kaukana yleisen tekoälyn luomisesta, mutta he luottavat siihen, että ennemmin tai myöhemmin se on mahdollista luoda.
Miksi tarvitsemme yleistä tekoälyä? Erikoisversiot on jo luotu ja tuovat paljon etuja.
Se on oikein, ja siitä tulee vielä enemmän etuja. Mutta on monia ongelmia, joita erikoistunut tekoäly ei yksinkertaisesti pysty ratkaisemaan. Esimerkiksi tavallisen puheen ymmärtäminen tai yleinen apu virtuaalimaailmassa tai robotti, joka auttaa siivoamisessa ja ruoanlaitossa. Tällaiset tehtävät ovat erikoistuneen tekoälyn kykyjen ulkopuolella. Toinen mielenkiintoinen käytännön kysymys: onko mahdollista luoda turvallinen itseajava auto käyttämällä erikoistunutta tekoälyä? Kokemus osoittaa, että sellaisella tekoälyllä on edelleen monia ongelmia käyttäytymisessä epänormaaleissa tilanteissa, jopa ajon aikana, mikä vaikeuttaa tilannetta suuresti.
Luulen, että me kaikki haluaisimme tekoälyn, joka voi auttaa meitä tekemään suuria uusia löytöjä lääketieteessä. On epäselvää, soveltuvatko nykyiset tekniikat tähän, koska biologia on monimutkainen ala. Sinun on oltava valmis lukemaan paljon kirjoja. Tiedemiehet ymmärtävät syy-seuraussuhteita verkostojen ja molekyylien vuorovaikutuksessa, voivat kehittää teorioita planeetoista ja niin edelleen. Erikoistuneella tekoälyllä emme kuitenkaan voi luoda koneita, jotka pystyvät tekemään tällaisia löytöjä. Ja yleisellä tekoälyllä voisimme mullistaa tieteen, teknologian ja lääketieteen. Mielestäni on erittäin tärkeää jatkaa työtä yleisen tekoälyn luomiseksi.
Kuulostaa siltä, että "yleisellä" tarkoitat vahvaa tekoälyä?
"Yleisellä" tarkoitan sitä, että tekoäly pystyy ajattelemaan ja ratkaisemaan uusia ongelmia lennossa. Toisin kuin esimerkiksi Go, jossa ongelma ei ole muuttunut viimeisen 2000 vuoden aikana.
Yleisen tekoälyn pitäisi pystyä tekemään päätöksiä sekä politiikassa että lääketieteessä. Tämä vastaa ihmisen kykyjä; jokainen järkevä ihminen voi tehdä paljon. Otat kokemattomia opiskelijoita ja saat heidät työskentelemään muutaman päivän sisällä melkein kaiken parissa oikeudellisesta ongelmasta lääketieteelliseen ongelmaan. Tämä johtuu siitä, että heillä on yleinen käsitys maailmasta ja he osaavat lukea, ja voivat siksi osallistua hyvin monenlaisiin aktiviteetteihin.
Tällaisen älykkyyden ja vahvan älykkyyden välinen suhde on, että ei-vahva älykkyys ei todennäköisesti pysty ratkaisemaan yleisiä ongelmia. Luodaksesi jotain tarpeeksi vankkaa, jotta voit käsitellä jatkuvasti muuttuvaa maailmaa, saatat joutua ainakin lähestymään yleistä älykkyyttä.
Mutta nyt ollaan hyvin kaukana tästä. AlphaGo voi pelata erinomaisesti 19x19-laudalla, mutta se on koulutettava uudelleen pelaamaan suorakaiteen muotoisella laudalla. Tai ota tavallinen syväoppimisjärjestelmä: se tunnistaa norsun, jos se on hyvin valaistu ja sen ihon rakenne näkyy. Ja jos vain norsun siluetti on näkyvissä, järjestelmä ei todennäköisesti pysty tunnistamaan sitä.
Mainitset kirjassasi, että syväoppiminen ei voi saavuttaa yleisen tekoälyn ominaisuuksia, koska se ei kykene syvään ymmärtämiseen.
Kognitiivisessa tieteessä puhutaan erilaisten kognitiivisten mallien muodostumisesta. Istun hotellihuoneessa ja ymmärrän, että siellä on vaatekaappi, siellä on sänky, siellä on televisio, joka on ripustettu epätavallisella tavalla. Tiedän kaikki nämä esineet, en vain tunnista niitä. Ymmärrän myös kuinka ne liittyvät toisiinsa. Minulla on ajatuksia ympäröivän maailman toiminnasta. Ne eivät ole täydellisiä. Ne voivat olla väärässä, mutta ne ovat melko hyviä. Ja niiden perusteella teen paljon johtopäätöksiä, joista tulee ohjeita päivittäisessä toiminnassani.
Toinen ääripää oli jotain DeepMindin rakentaman Atari-pelijärjestelmän kaltaista, jossa se muisti mitä sen piti tehdä, kun se näki pikseleitä tietyissä paikoissa näytöllä. Jos saat tarpeeksi tietoa, saatat luulla ymmärtäväsi, mutta todellisuudessa se on hyvin pinnallista. Todiste tästä on, että jos liikutat esineitä kolmella pikselillä, tekoäly toimii paljon huonommin. Muutokset hämmentävät häntä. Tämä on syvän ymmärryksen vastakohta.
Tämän ongelman ratkaisemiseksi ehdotat paluuta klassiseen tekoälyyn. Mitä etuja meidän pitäisi yrittää hyödyntää?
On olemassa useita etuja.
Ensinnäkin klassinen tekoäly on itse asiassa puitteet luoda kognitiivisia maailmanmalleja, joiden perusteella voidaan sitten tehdä johtopäätöksiä.
Toiseksi klassinen tekoäly on täysin sääntöjen mukainen. Syväoppimisessa on tällä hetkellä outo suuntaus, jossa asiantuntijat yrittävät välttää sääntöjä. He haluavat tehdä kaiken hermoverkoissa eivätkä tehdä mitään, mikä näyttää klassiselta ohjelmoinnista. Mutta on ongelmia, jotka ratkaistiin rauhallisesti tällä tavalla, eikä kukaan kiinnittänyt siihen huomiota. Esimerkiksi reittien rakentaminen Google Mapsissa.
Itse asiassa tarvitsemme molempia lähestymistapoja. Koneoppiminen on hyvä oppimaan datasta, mutta erittäin huono edustamaan abstraktiota, joka on tietokoneohjelma. Klassinen tekoäly toimii hyvin abstraktien kanssa, mutta se on ohjelmoitava kokonaan käsin, ja maailmassa on liikaa tietoa niiden kaikkien ohjelmoimiseksi. On selvää, että meidän on yhdistettävä molemmat lähestymistavat.
Tämä liittyy lukuun, jossa puhut siitä, mitä voimme oppia ihmismielestä. Ja ensinnäkin edellä mainittuun ajatukseen perustuvasta käsitteestä, että tietoisuutemme koostuu monista eri järjestelmistä, jotka toimivat eri tavoin.
Luulen, että toinen tapa selittää tämä on, että jokainen kognitiivinen järjestelmämme ratkaisee todella erilaisen ongelman. Tekoälyn samanlaiset osat on suunniteltava ratkaisemaan erilaisia ongelmia, joilla on erilaiset ominaisuudet.
Nyt yritämme käyttää joitakin all-in-one-tekniikoita ratkaisemaan ongelmia, jotka eroavat toisistaan radikaalisti. Lauseen ymmärtäminen ei ole ollenkaan sama asia kuin kohteen tunnistaminen. Mutta ihmiset yrittävät käyttää syvää oppimista molemmissa tapauksissa. Kognitiiviselta kannalta nämä ovat laadullisesti erilaisia tehtäviä. Olen yksinkertaisesti hämmästynyt siitä, kuinka vähän arvostusta klassista tekoälyä kohtaan on syväoppimisyhteisössä. Miksi odottaa hopealuotin ilmestymistä? Se on saavuttamaton, eivätkä hedelmättömät haut anna meidän ymmärtää tekoälyn luomistehtävän täyttä monimutkaisuutta.
Mainitset myös, että tekoälyjärjestelmiä tarvitaan syy-seuraussuhteiden ymmärtämiseen. Luuletko, että syväoppiminen, klassinen tekoäly tai jokin täysin uusi auttaa meitä tässä?
Tämä on toinen alue, jolle syvällinen oppiminen ei sovellu hyvin. Se ei selitä tiettyjen tapahtumien syitä, vaan laskee tapahtuman todennäköisyyden tietyissä olosuhteissa.
Mistä puhutaan? Katsot tiettyjä skenaarioita ja ymmärrät miksi näin tapahtuu ja mitä voisi tapahtua, jos olosuhteet muuttuvat. Voin katsoa jalustaa, jolla televisio istuu, ja kuvitella, että jos leikkaan sen yhden jalan irti, jalusta kaatuu ja televisio kaatuu. Tämä on syy-seuraussuhde.
Classic AI antaa meille työkaluja tähän. Hän voi esimerkiksi kuvitella, mitä on tuki ja mitä kaatuminen. Mutta en kehu liikaa. Ongelmana on, että klassinen tekoäly riippuu suurelta osin täydellisestä tiedosta siitä, mitä tapahtuu, ja tein johtopäätöksen vain katsomalla osastoa. Voin jotenkin yleistää, kuvitella telineen osia, jotka eivät näy minulle. Meillä ei vielä ole työkaluja tämän ominaisuuden toteuttamiseen.
Sanot myös, että ihmisillä on luontainen tieto. Miten tämä voidaan toteuttaa tekoälyssä?
Syntymähetkellä aivomme ovat jo hyvin monimutkainen järjestelmä. Se ei ole kiinteä luonto loi ensimmäisen, karkean luonnoksen. Ja sitten oppiminen auttaa meitä tarkistamaan luonnosta koko elämämme ajan.
Karkealla aivovedolla on jo tiettyjä ominaisuuksia. Vastasyntynyt vuoristovuohi pystyy erehtymättä laskeutumaan vuorenrinteestä muutamassa tunnissa. On selvää, että hänellä on jo käsitys kolmiulotteisesta avaruudesta, kehostaan ja niiden välisestä suhteesta. Erittäin monimutkainen järjestelmä.
Osittain tästä syystä uskon, että tarvitsemme hybridejä. On vaikea kuvitella, kuinka voitaisiin luoda robotti, joka toimii hyvin maailmassa ilman samanlaista tietämystä siitä, mistä aloittaa, sen sijaan, että aloitettaisiin tyhjältä pöydältä ja opittaisiin pitkästä ja laajasta kokemuksesta.
Mitä tulee ihmisiin, luontainen tietomme tulee genomistamme, joka on kehittynyt pitkän ajan kuluessa. Mutta tekoälyjärjestelmien kanssa meidän on valittava eri reitti. Osa tästä voivat olla algoritmien rakentamisen säännöt. Osa tästä voivat olla säännöt näiden algoritmien käsittelemien tietorakenteiden luomiseksi. Ja osa tästä voi olla tieto, että investoimme suoraan koneisiin.
On mielenkiintoista, että kirjassa nostat esiin ajatuksen luottamuksesta ja luotettavien järjestelmien luomisesta. Miksi valitsit juuri tämän kriteerin?
Uskon, että tänään kaikki tämä on pallopeliä. Minusta näyttää siltä, että elämme historian outoa hetkeä, luotamme moniin ohjelmistoihin, jotka eivät ole luotettavia. Luulen, että tämän päivän huolet eivät kestä ikuisesti. Sadan vuoden kuluttua tekoäly oikeuttaa luottamuksemme, ja ehkä aikaisemmin.
Mutta nykyään tekoäly on vaarallinen. Ei siinä mielessä, mitä Elon Musk pelkää, vaan siinä mielessä, että työhaastattelujärjestelmät syrjivät naisia riippumatta siitä, mitä ohjelmoijat tekevät, koska heidän työkalunsa ovat liian yksinkertaisia.
Toivon, että meillä olisi parempi tekoäly. En halua nähdä "AI-talvea", jossa ihmiset ymmärtävät, että tekoäly ei toimi ja on yksinkertaisesti vaarallista, eivätkä halua korjata sitä.
Jollain tapaa kirjasi vaikuttaa hyvin optimistiselta. Oletat, että on mahdollista rakentaa luotettava tekoäly. Meidän on vain katsottava toiseen suuntaan.
Aivan oikein, kirja on hyvin pessimistinen lyhyellä aikavälillä ja hyvin optimistinen pitkällä aikavälillä. Uskomme, että kaikki kuvaamamme ongelmat voidaan ratkaista tarkastelemalla laajemmin, mitkä oikeat vastaukset pitäisi olla. Ja uskomme, että jos näin tapahtuu, maailma on parempi paikka.
Lähde: will.com