Vi kan inte lita på AI-system som är byggda enbart på djupinlärning

Denna text är inte resultatet av en vetenskaplig studie, utan en av många åsikter om vår närmaste teknologiska utveckling. Samt en inbjudan till diskussion.

Gary Marcus, professor vid New York University, är övertygad om att djupinlärning spelar en viktig roll i utvecklingen av AI. Men han anser också att en överdriven fascination för denna metod kan leda till dess misskreditering.

I sin bok Rebooting AI: Building artificial intelligence we can trust Marcus, som är neurolog till utbildningen och har byggt en karriär på avancerad forskning inom AI, tar upp tekniska och etiska aspekter. Ur ett teknologiskt perspektiv kan djupinlärning effektivt efterlikna lösningarna på perceptuella uppgifter som vår hjärna utför: som bild- eller taligenkänning. Men för att lösa andra uppgifter, såsom att förstå samtal eller avgöra orsakssamband, är djupinlärning otillräckligt. För att skapa mer avancerade intelligenta maskiner, som kan hantera ett bredare spektrum av uppgifter - ofta kallade generell artificiell intelligens - måste djupinlärning kombineras med andra metoder.

Om AI-systemet faktiskt inte förstår sina uppgifter eller omvärlden kan det leda till farliga konsekvenser. Även de minsta oväntade förändringarna i systemets omgivning kan orsaka felaktigt beteende. Det har redan funnits många sådana exempel: modeller för olämpliga uttryck som lätt kan manipuleras; rekryteringssystem som ständigt diskriminerar; självkörande bilar som kraschar och ibland dödar förare eller fotgängare. Att skapa generell artificiell intelligens är inte bara ett intressant forskningsproblem, utan har också många helt praktiska tillämpningar.

I sin bok argumenterar Marcus och hans medförfattare Ernest Davis för en annan väg. De anser att vi fortfarande har långt kvar till att skapa generell AI, men är övertygade om att det förr eller senare kommer att vara möjligt.

Vad behöver vi generell AI till? Specialiserade versioner har redan skapats och ger mycket nytta.

Visst, och nyttan kommer att öka ännu mer. Men det finns många uppgifter som specialiserad AI helt enkelt inte kan lösa. Till exempel, förståelse av vardagligt tal, eller allmän hjälp i den virtuella världen, eller en robot som hjälper till med städning och matlagning. Sådana uppgifter ligger utanför specialiserad AIs kapabiliteter. En annan intressant praktisk fråga: kan specialiserad AI användas för att skapa en säker självkörande bil? Erfarenheten visar att denna typ av AI fortfarande har många problem med beteendet i anomala situationer, även när den kör, vilket gör situationen ganska komplicerad.

Jag tror att vi alla skulle vilja ha en AI som kan hjälpa oss att göra nya storskaliga upptäckter inom medicin. Det är oklart om den nuvarande teknologin är tillräcklig, eftersom biologi är ett komplext område. Man måste vara beredd att läsa många böcker. Forskare förstår orsakssamband i interaktionen mellan nätverk och molekyler, kan utveckla teorier om planeter och så vidare. Men med specialiserad AI kan vi inte skapa maskiner som är kapabla till sådana upptäckter. Med generell AI skulle vi kunna revolutionera vetenskap, teknik och medicin. Jag tycker att det är mycket viktigt att fortsätta arbeta mot att skapa generell AI.

Tycks det som att du menar stark AI med "generell"?

Med "generell" menar jag att AI:n ska kunna tänka och självständigt lösa nya uppgifter i realtid. Till skillnad från, säg, Go, där problemet har varit detsamma de senaste 2000 åren.

Generell AI måste kunna fatta beslut både inom politik och medicin. Det är en analogi till mänsklig förmåga; varje förnuftig person kan göra mycket. Man tar oerfarna studenter och efter några dagar får man dem att arbeta nästan med vad som helst, från juridiska uppgifter till medicinska. Det beror på att de har en allmän förståelse av världen och kan läsa, och därigenom kan bidra till ett mycket brett spektrum av aktiviteter.

Relationen mellan sådan intelligens och stark intelligens ligger i att svag intelligens sannolikt inte kommer att kunna lösa generella uppgifter. För att skapa något tillräckligt pålitligt som kan arbeta med en ständigt föränderlig värld, kan du åtminstone behöva närma dig generell intelligens.

Men just nu är vi långt ifrån det. AlphaGo kan spela utmärkt på en 19×19 bräda, men det behöver omträning för att spela på en rektangulär bräda. Eller ta ett genomsnittligt system för djupinlärning: det kan känna igen en elefant om den är väl belyst och texturen på dess hud syns. Men om endast silhuetten av elefanten syns, kommer systemet definitivt inte att kunna känna igen den.

I sin bok nämner ni att djupinlärning inte kan nå kapaciteten hos allmän AI eftersom det inte kan uppnå djup förståelse.

Inom kognitionsvetenskap pratar man om att bilda olika kognitiva modeller. Jag sitter i hotellrummet och förstår att där är en garderob, där är en säng, där är en tv som är konstigt upphängd. Jag känner till alla dessa föremål, jag identifierar dem inte bara. Jag förstår också hur de är relaterade till varandra. Jag har idéer om hur den omgivande världen fungerar. De är inte perfekta. De kan vara felaktiga, men de är ganska bra. Och på basis av dem gör jag många slutsatser som blir vägledning för mina dagliga handlingar.

Den andra ytterligheten är något som en spelmaskin från Atari, skapad av DeepMind, där den kom ihåg vad den skulle göra när den såg pixlar på vissa platser på skärmen. Om du får tillräckligt med data kan det tyckas som om du har förståelse, men i verkligheten är det mycket ytligt. Ett bevis på detta är att om objekten flyttas tre pixlar, spelar AI:n mycket sämre. Förändringar sätter den i en återvändsgränd. Detta är motsatsen till djup förståelse.

För att lösa detta problem föreslår ni att vi går tillbaka till klassisk AI. Vilka fördelar behöver vi sträva efter att utnyttja?

Det finns flera fördelar.

För det första är klassisk AI faktiskt en ram för att skapa kognitiva modeller av världen, utifrån vilka slutledningar kan dra.

För det andra är klassisk AI perfekt kompatibel med regler. För närvarande finns det en konstig trend inom djupinlärning där experter försöker undvika regler. De vill göra allt med neurala nätverk och inte göra något som ser ut som klassisk programmering. Men det finns uppgifter som har lösts på det traditionella sättet utan att någon har lagt märke till det. Till exempel ruttplanering i Google Maps.

Vi behöver faktiskt båda angreppen. Maskininlärning gör det möjligt att lära sig bra från data, men hjälper mycket dåligt med att avbilda den abstraktion som ett datorprogram representerar. Klasisk AI fungerar bra med abstraktioner, men måste programmeras helt manuellt, och världen har ackumulerat för mycket kunskap för att allt ska kunna programmeras. Det är uppenbart att vi behöver kombinera båda angreppen.

Detta gäller kapitlet där du berättar om vad vi kan lära oss av den mänskliga intelligensen. Först och främst om konceptet som bygger på den ovan nämnda idén att vårt medvetande består av många olika system som fungerar på olika sätt.

Jag tror att det finns ett annat sätt att förklara detta: varje kognitivt system som vi har löser faktiskt olika uppgifter. Lika delar av AI bör designas för att lösa olika uppgifter som har olika egenskaper.

Just nu försöker vi använda någon slags allt-i-ett-teknik för att lösa uppgifter som är radikalt olika från varandra. Att förstå en mening är inte detsamma som att känna igen ett objekt. Men människor försöker i båda fallen använda djupinlärning. Ur kognitiv synvinkel är detta kvalitativt olika uppgifter. Jag är bara förundrad över hur lite gemenskapen av experter på djupinlärning värdesätter klassisk AI. Varför vänta på en silverkula? Den är ouppnåelig, och fruktlösa sökningar gör att vi inte förstår hela komplexiteten i uppgiften att skapa AI.

Du nämner också att AI-system är nödvändiga för att förstå orsakssamband. Anser du att djupinlärning, klassisk AI, eller något helt nytt kan hjälpa oss med detta?

Detta är ett annat område där djupinlärning inte passar så bra. Det förklarar inte orsakerna till vissa händelser, utan beräknar sannolikheten för en händelse under givna förhållanden.

Vad pratar vi om? Du tittar på vissa scenarier och förstår varför detta händer och vad som kan hända om vissa omständigheter förändras. Jag kan titta på ställningen där TV:n står och föreställa mig att om jag klipper bort ett ben så kommer ställningen att tippa och TV:n att falla. Det är orsakssamband.

Klassisk AI ger oss några verktyg för detta. Den kan till exempel föreställa sig vad stöd och vad fall innebär. Men jag tänker inte överdriva. Problemet är att klassisk AI i stora drag beror på hur komplett informationen om situationen är, och jag drog slutsatser bara genom att titta på ställningen. Jag kan på något sätt generalisera, föreställa mig delar av ställningen som jag inte kan se. Vi har ännu inga verktyg för att implementera denna egenskap.

Ni talar dessutom om att människor har medfödd kunskap. Hur skulle detta kunna realiseras i AI?

Vid födseln är vår hjärna redan en mycket genomtänkt system. Den är inte fast, naturen skapade den första grovskissen. Och sedan hjälper inlärning oss att ompröva denna skiss genom hela vårt liv.

Den grova skissen av hjärnan har redan vissa kapaciteter. En nyfödd bergsgetter kan redan efter några timmar felfritt ta sig nerför en backe. Det är tydligt att den redan har en förståelse för det tredimensionella rummet, sin kropp och relationen mellan dem. En mycket komplex system.

Delvis därför anser jag att vi behöver hybrider. Det är svårt att föreställa sig hur man kan skapa en robot som fungerar bra i världen utan liknande kunskap, varifrån den ska börja, snarare än att börja med ett blankt blad och lära sig från lång, stor erfarenhet.

När det gäller människor kommer vår medfödda kunskap från vårt genom som har utvecklats under lång tid. Med AI-system måste vi gå en annan väg. Delvis kan detta vara regler för hur vi bygger våra algoritmer. Delvis kan det vara regler för hur man skapar dataskonstruktioner som dessa algoritmer manipulerar. Och delvis kan det vara kunskaper som vi direkt kommer att lägga in i maskiner.

Det är intressant att ni i boken leder fram till idén om förtroende och att skapa förtroendesystem. Varför valde ni just detta kriterium?

Jag anser att allt detta idag utgör ett spel. Jag tycker att vi lever i en underlig tid i historien, mycket av vår tillit ligger på programvara som inte förtjänar det. Jag tror att våra nuvarande bekymmer inte kommer att vara eviga. Om hundra år kommer AI att rättfärdiga vårt förtroende, eller kanske till och med tidigare.

Men idag är AI farlig. Inte på det sätt som Elon Musk oroar sig för, utan att rekryteringssystemen diskriminerar kvinnor, oavsett vad programmerarna gör, eftersom deras verktyg är alldeles för enkla.

Jag skulle vilja att vi hade mer kvalitativ AI. Jag vill inte att det ska börja en "AI-vinter" när människor inser att AI inte fungerar och bara är farligt, och inte vill åtgärda det.

På vissa sätt verkar din bok verkligen mycket optimistisk. Du föreslår att det går att bygga pålitlig AI. Vi måste bara se i en annan riktning.

Rätt, boken är mycket pessimistisk på kort sikt och mycket optimistisk på lång sikt. Vi tror att alla problem vi beskriver kan lösas om vi ser bredare på vad de rätta svaren bör vara. Och vi anser att om detta sker, blir världen bättre.

Källa: habr.com