Denne tekst er ikke resultatet af en videnskabelig undersøgelse, men en af mange meninger om vores nærmeste teknologiske udvikling. Og samtidig en invitation til diskussion.
Gary Marcus, professor ved New York University, er overbevist om, at dyb læring spiller en vigtig rolle i udviklingen af AI. Men han mener også, at en overdreven fascination for denne metode kan føre til dens diskreditering.
I sin bog Rebooting AI: Building artificial intelligence we can trust Marcus, der er uddannet neurolog og har bygget en karriere på avanceret forskning inden for AI, adresserer de tekniske og etiske aspekter. Teknologisk set kan dyb læring med succes efterligne de opgaver, vores hjerner løser: for eksempel billed- eller talegenkendelse. Men til at løse andre opgaver, som at forstå samtaler eller bestemme årsagssammenhænge, er dyb læring ikke egnet. For at skabe mere avancerede intelligente maskiner, der kan løse et bredere spektrum af opgaver - ofte kaldet generel kunstig intelligens - er det nødvendigt at kombinere dyb læring med andre metoder.
Hvis en AI-system ikke virkelig forstår sine opgaver eller verden omkring det, kan det føre til farlige konsekvenser. Selv de mindste uventede ændringer i systemets omgivelser kan resultere i fejlagtig adfærd. Der har allerede været mange sådanne eksempler: filtersystemer for upassende udtryk, der nemt kan manipuleres; jobansøgningssystemer, der konstant diskriminerer; og selvkørende biler, der er involveret i ulykker og sommetider dræber føreren eller fodgængere. Skabelsen af generel kunstig intelligens er ikke bare et interessant forskningsspørgsmål; det har mange helt praktiske anvendelser.
I sin bog argumenterer Marcus og hans medforfatter Ernest Davis for en anden vej. De mener, at vi stadig er langt fra at skabe generel AI, men er sikre på, at det vil lykkes at skabe det før eller siden.
Hvorfor har vi brug for generel AI? Specialiserede versioner er allerede skabt og gavner os på mange måder.
Det er sandt, og der vil være endnu mere gavn. Men der er mange opgaver, som specialiseret AI simpelthen ikke kan løse. For eksempel forståelse af almindelig tale, eller generel hjælp i den virtuelle verden, eller en robot, der hjælper med rengøring og madlavning. Sådanne opgaver ligger uden for specialiseret AIs muligheder. En anden interessant praktisk spørgsmål: kan man med specialiseret AI skabe en sikker selvkørende bil? Erfaring viser, at sådan AI stadig har mange problemer med opførsel i unormale situationer, selv under kørsel, hvilket gør situationen ret kompliceret.
Jeg tror, at vi alle gerne vil have en AI, der kan hjælpe os med at gøre nye, store opdagelser inden for medicin. Det er uklart, om de nuværende teknologier kan bruges til dette, da biologi er et komplekst område. Man skal være klar til at læse en del bøger. Forskere forstår årsagssammenhænge i interaktionerne mellem netværk og molekyler, kan udvikle teorier om planeter og så videre. Men med specialiseret AI kan vi ikke skabe maskiner, der er i stand til sådanne opdagelser. Med generel AI kunne vi dog revolutionere videnskab, teknologi og medicin. Efter min mening er det meget vigtigt at fortsætte arbejdet på at skabe generel AI.
Mener du med "generel", at du tænker på stærk AI?
Når jeg siger "generel", mener jeg, at AI vil kunne tænke og selvstændigt løse nye opgaver i realtid. I modsætning til, lad os sige, Go, hvor problemet ikke har ændret sig i de sidste 2000 år.
Generel AI skal kunne træffe beslutninger inden for både politik og medicin. Dette er analogt med menneskets evne; enhver fornuftig person kan gøre meget. Du tager uerfarne studerende og får dem til at arbejde på stort set hvad som helst efter et par dage, lige fra juridiske opgaver til medicinske. Dette er muligt, fordi de har en generel forståelse af verden og kan læse, og derfor kan de bidrage til et meget bredt spektrum af aktiviteter.
Forholdet mellem sådan intelligens og stærk AI er, at svag AI sandsynligvis ikke vil være i stand til at løse generelle opgaver. For at skabe noget der er tilstrækkeligt pålideligt, i stand til at arbejde med en konstant ændrende verden, kræves det muligvis, at man er mindst tilnærmelsesvis tæt på generel intelligens.
Men vi er meget langt fra det nu. AlphaGo kan spille fantastisk på en 19×19 bræt, men det skal genoplæres for at spille på et rektangulært bræt. Eller tag et gennemsnitligt dybt læringssystem: det kan genkende en elefant, hvis den er godt belyst og teksturen på dens hud kan ses. Men hvis der kun ses en silhuet af elefanten, kan systemet sikkert ikke genkende den.
I din bog nævner du, at dyb læring ikke kan nå evnerne for generel AI, fordi det ikke er i stand til at opnå dyb forståelse.
Inden for kognitionsvidenskab taler man om dannelse af forskellige kognitive modeller. Jeg sidder på hotelværelset og forstår, at der er et skab der, en seng der, en tv, som hænger usædvanligt. Jeg kender alle disse genstande, jeg identificerer dem ikke blot. Jeg forstår også, hvordan de er relateret til hinanden. Jeg har ideer om, hvordan den omgivende verden fungerer. De er ikke perfekte. De kan være forkerte, men de er ret gode. Og på baggrund af dem drager jeg mange konklusioner, der bliver vejledende for mine hverdagshandlinger.
Den anden ekstrem er noget som et Atari-spilsystem, skabt af DeepMind, hvor det huskede, hvad det skulle gøre, når det så pixler på bestemte steder på skærmen. Hvis du får nok data, kan det virke som om, du har forståelse, men i virkeligheden er den meget overfladisk. Beviset på dette er, at hvis objekter flyttes tre pixler, spiller AI meget dårligere. Forandringer forvirrer den. Dette står i kontrast til dyb forståelse.
For at løse dette problem foreslår du at vende tilbage til klassisk AI. Hvilke fordele skal vi bestræbe os på at udnytte?
Der er flere fordele.
For det første er klassisk AI faktisk en ramme for at skabe kognitive modeller af verden, på baggrund af hvilke man senere kan drage konklusioner.
For det andet er klassisk AI perfekt kompatibel med regler. I øjeblikket observeres der en underlig tendens inden for dyb læring, hvor specialister forsøger at undgå regler. De ønsker at lave alt på neurale netværk og ikke gøre noget, der ligner klassisk programmering. Men der er opgaver, der blev løst på en sådan måde, tidligere uden at nogen lagde mærke til det. For eksempel ruteplanlægning i Google Maps.
Vi har brug for begge tilgange. Maskinlæring tillader os at lære godt fra data, men hjælper meget dårligt med at vise den abstraktion, som et computerprogram repræsenterer. Klassisk AI fungerer godt med abstraktioner, men skal programmere hele vejen manuelt, og der er opsamlet for meget viden i verden til, at vi kan programmere alt. Det er åbenlyst, at vi skal kombinere begge tilgange.
Dette relaterer til kapitlet, hvor du taler om, hvad vi kan lære af den menneskelige hjerne. Først og fremmest om konceptet, der er baseret på ovennævnte idé om, at vores bevidsthed består af mange forskellige systemer, der arbejder på forskellige måder.
Jeg tror, der er en anden måde at forklare dette på: Hver kognitivt system, vi har, løser faktisk forskellige opgaver. Lignende dele af AI bør designes til at løse forskellige opgaver, der har forskellige karakteristika.
Lige nu forsøger vi at bruge nogle alt-i-én teknologier til at løse opgaver, der er radikalt forskellige fra hinanden. At forstå en sætning er slet ikke det samme som at genkende et objekt. Men folk prøver i begge tilfælde at bruge dyb læring. Fra en kognitiv synsvinkel er dette kvalitativt forskellige opgaver. Jeg er bare forbavset over, hvor lidt værdi dyb læringsspecialister sætter på klassisk AI. Hvorfor vente på den sølvkugle? Den er uopnåelig, og frugtesløs søgen forhindrer os i at forstå kompleksiteten i opgaven med at skabe AI.
Du nævner også, at AI-systemer er nødvendige for at forstå årsagssammenhænge. Mener du, at dyb læring, klassisk AI eller noget helt nyt vil hjælpe os med dette?
Dette er endnu et område, hvor dyb læring ikke er så godt egnet. Det forklarer ikke årsagerne til nogle begivenheder, men beregner sandsynligheden for en begivenhed under givne betingelser.
Hvad taler vi om? Du ser nogle scenarier, og du forstår, hvorfor det sker, og hvad der kan ske, hvis nogle omstændigheder ændres. Jeg kan se på stativet, som fjernsynet står på, og forestille mig, at hvis jeg skærer en fod af det, så vil stativet vælte, og fjernsynet falde. Det er årsagssammenhæng.
Klassisk AI giver os nogle værktøjer til dette. Den kan eksempelvis forestille sig, hvad støtte er, og hvad fald betyder. Men jeg vil ikke overdrive. Problemet er, at klassisk AI i høj grad er afhængig af fuld information om, hvad der sker, og jeg har kun konkluderet dette ved at se på stativet. Jeg kan på en eller anden måde generalisere, forestille mig dele af stativet, som jeg ikke kan se. Vi har endnu ikke værktøjer til at realisere denne egenskab.
I taler også om, at mennesker har medfødt viden. Hvordan kan dette implementeres i AI?
Ved fødslen er vores hjerne allerede en meget gennemført system. Den er ikke fastlåst; naturen skabte den første, grove skitse. Og derefter hjælper læring os med at revidere denne skitse gennem hele vores liv.
Den grove skitse af hjernen har allerede visse evner. Den nyfødte ibex kan allerede efter få timer uden fejl bevæge sig ned ad bjerget. Det er tydeligt, at den allerede har en forståelse af det tredimensionale rum, sin krop og relationen mellem dem. En ret kompleks system.
Delvist derfor mener jeg, at vi har brug for hybrider. Det er svært at forestille sig, hvordan man kan skabe en robot, der fungerer godt i verden uden lignende viden, om hvordan den skal begynde, i stedet for at starte fra bunden og lære af en lang, omfattende erfaring.
Når det gælder mennesker, stammer vores medfødte viden fra vores genom, som har udviklet sig over lang tid. Og med AI-systemer må vi tage en anden vej. Delvist kan det være reglerne for opbygningen af vores algoritmer. Delvist kan det være reglerne for oprettelse af datakonstruktioner, som disse algoritmer manipulerer med. Og delvist kan det være viden, som vi direkte vil indlægge i maskinerne.
Det er interessant, at du i bogen bringer ideen om tillid og opbygning af tillidsfulde systemer på banen. Hvorfor valgte du netop dette kriterium?
Jeg mener, at alt dette i dag repræsenterer et spil. Det synes, vi lever i et mærkeligt øjeblik i historien, hvor vi i høj grad stoler på software, der ikke fortjener tillid. Jeg tror, at vores nuværende bekymringer ikke vil være evige. Om hundrede år vil AI retfærdiggøre vores tillid, og måske før.
Men i dag er AI farligt. Ikke på den måde, som Elon Musk frygter, men fordi ansøgningssystemer diskriminerer kvinder, uanset hvad programmørerne gør, fordi deres værktøjer er alt for simple.
Jeg ville ønske, at vi havde en mere kvalitetsbevidst AI. Jeg ønsker ikke, at vi skal opleve en 'AI-vinter', hvor folk indser, at AI ikke fungerer og simpelthen er farligt, og at de ikke ønsker at rette op på det.
På en måde virker din bog faktisk meget optimistisk. Du antyder, at det er muligt at bygge en troværdig AI. Vi skal bare se i en anden retning.
Det er rigtigt, bogen er meget pessimistisk på kort sigt og meget optimistisk på lang sigt. Vi mener, at alle de problemer, vi har beskrevet, kan løses, hvis vi ser bredere på, hvad de rigtige svar bør være. Og vi tror, at hvis det sker, vil verden blive bedre.
Kilde: habr.com
