We kunnen AI-systemen die alleen op diep leren zijn gebaseerd, niet vertrouwen

Deze tekst is geen resultaat van wetenschappelijk onderzoek, maar een van de vele meningen over onze komende technologische ontwikkelingen. En daarnaast een uitnodiging voor discussie.

Gary Marcus, professor aan de New York University, is ervan overtuigd dat deep learning een belangrijke rol speelt in de ontwikkeling van AI. Maar hij gelooft ook dat een overmatige fascinatie voor deze methode kan leiden tot haar ondermijning.

In zijn boek Rebooting AI: Building artificial intelligence we can trust Marcus, opgeleid als neuroloog en met een carrière in geavanceerd AI-onderzoek, richt zich op technische en ethische aspecten. Vanuit technologisch perspectief kan deep learning succesvol het probleemoplossend vermogen van onze hersenen nabootsen: bijvoorbeeld bij het herkennen van afbeeldingen of spraak. Maar voor het oplossen van andere taken, zoals het begrijpen van gesprekken of het vaststellen van oorzaak-gevolgrelaties, is deep learning niet geschikt. Om geavanceerdere intelligente machines te creëren die een breder scala aan taken kunnen uitvoeren — vaak aangeduid als algemene kunstmatige intelligentie — moet deep learning worden gecombineerd met andere methoden.

Als een AI-systeem zijn taken of de omringende wereld echt niet begrijpt, kan dit leiden tot gevaarlijke gevolgen. Zelfs de kleinste onverwachte veranderingen in de omgeving van het systeem kunnen leiden tot foutief gedrag. Er zijn al talloze voorbeelden van geweest: ongepaste uitdrukkingsherkenning die gemakkelijk te misleiden is; werkzoeksystemen die voortdurend discrimineren; en autonoom rijdende voertuigen die betrokken raken bij ongelukken en soms de bestuurder of voetganger doden. Het creëren van algemene kunstmatige intelligentie is niet alleen een interessante onderzoeksuitdaging, het heeft ook tal van zeer praktische toepassingen.

In zijn boek pleiten Marcus en zijn co-auteur Ernest Davis voor een andere benadering. Ze geloven dat we nog ver verwijderd zijn van het creëren van algemene AI, maar zijn ervan overtuigd dat het vroeg of laat mogelijk zal zijn.

Waarom hebben we algemene AI nodig? Gespecialiseerde versies zijn al gemaakt en bieden veel voordelen.

Klopt, en er zullen nog meer voordelen zijn. Maar er zijn veel taken die gespecialiseerde AI gewoon niet kan oplossen. Bijvoorbeeld, het begrijpen van alledaagse spraak, of algemene ondersteuning in de virtuele wereld, of een robot die helpt bij schoonmaken en koken. Dergelijke taken vallen buiten de mogelijkheden van gespecialiseerde AI. Nog een interessante praktische vraag: kan gespecialiseerde AI een veilige autonome auto creëren? Ervaringen tonen aan dat dergelijke AI nog steeds veel problemen heeft met gedrag in anomalieën, zelfs bij het rijden, wat de situatie aanzienlijk bemoeilijkt.

Ik denk dat we allemaal graag AI zouden willen hebben die ons kan helpen om nieuwe grootschalige ontdekkingen in de geneeskunde te doen. Het is onduidelijk of de huidige technologieën hiervoor geschikt zijn, aangezien biologie een ingewikkeld gebied is. Je moet bereid zijn veel boeken te lezen. Wetenschappers begrijpen de oorzakelijke verbanden in de interactie van netwerken en moleculen, kunnen theorieën over planeten ontwikkelen, en ga zo maar door. Maar met gespecialiseerde AI kunnen we geen machines creëren die in staat zijn tot dergelijke ontdekkingen. Met algemene AI zouden we echter een revolutie in de wetenschap, technologie en geneeskunde kunnen teweegbrengen. Het is voor mij van groot belang om door te gaan met het werken aan de ontwikkeling van algemene AI.

Bedoelt u met 'algemeen' sterke AI?

Als ik zeg 'algemeen', bedoel ik dat AI in staat zal zijn om ter plekke na te denken en zelfstandig nieuwe taken op te lossen. In tegenstelling tot bijvoorbeeld Go, waarbij het probleem de afgelopen 2000 jaar niet is veranderd.

Algemene AI moet in staat zijn om beslissingen te nemen zowel in de politiek als in de geneeskunde. Het is vergelijkbaar met de menselijke capaciteit; elke gezonde geest kan heel veel doen. Je neemt onervaren studenten en binnen enkele dagen kun je ze bijna overal aan het werk zetten, van juridische taken tot medische. Dit komt omdat ze een algemeen begrip van de wereld hebben en kunnen lezen, en daarom kunnen zij bijdragen aan een zeer breed scala aan activiteiten.

De verbinding tussen zo'n intelligentie en sterke intelligentie is dat niet sterke intelligentie waarschijnlijk niet in staat zal zijn om algemene taken op te lossen. Om iets te creëren dat betrouwbaar genoeg is om in een voortdurend veranderende wereld te functioneren, moet je misschien ten minste de kwaliteiten van algemene intelligentie benaderen.

Maar we zijn daar nu nog heel ver vandaan. AlphaGo kan uitstekend spelen op een bord van 19×19, maar het moet opnieuw worden getraind voor het spelen op een rechthoekig bord. Of neem een gemiddelde diepe leersysteem: het kan een olifant herkennen als hij goed verlicht is en de textuur van zijn huid zichtbaar is. Maar als alleen de silhout van de olifant zichtbaar is, kan het systeem hem waarschijnlijk niet herkennen.

In uw boek noemt u dat diep leren niet in staat is om de mogelijkheden van algemene AI te bereiken, omdat het niet in staat is tot diep begrip.

In de cognitieve wetenschap wordt gesproken over het vormen van verschillende cognitieve modellen. Ik zit in mijn hotelkamer en begrijp dat daar een kast staat, daar een bed, en daar een televisie die ongebruikelijk hangt. Ik weet van al deze objecten, ik identificeer ze niet alleen. Ook begrijp ik hoe ze met elkaar samenhangen. Ik heb ideeën over de werking van de omgeving. Ze zijn niet perfect. Ze kunnen onjuist zijn, maar ze zijn behoorlijk goed. En op basis daarvan trek ik verschillende conclusies die dienen als richtlijn voor mijn dagelijkse acties.

De andere extremiteit is iets als het Atari-spelsysteem, gemaakt door DeepMind, waarin het onthield wat het moest doen bij bepaalde pixels op het scherm. Als je genoeg gegevens krijgt, lijkt het alsof je begrip hebt, maar in werkelijkheid is het heel oppervlakkig. Een bewijs daarvan is dat als je objecten met drie pixels verschuift, de AI veel slechter speelt. Veranderingen brengen het in verwarring. Dit staat in schril contrast met diep begrip.

Om dit probleem op te lossen, stelt u voor om terug te keren naar klassieke AI. Wat zijn de voordelen die we moeten proberen te benutten?

Er zijn verschillende voordelen.

Ten eerste is klassieke AI in feite een kader voor het creëren van cognitieve modellen van de wereld, waarop later conclusies kunnen worden getrokken.

Ten tweede is klassieke AI perfect compatibel met regels. Op dit moment is er in het gebied van diep leren een vreemde tendens waar te nemen, waarbij experts proberen regels te vermijden. Ze willen alles met neurale netwerken doen en niets dat eruitziet als klassieke programmering. Maar er zijn taken die op een dergelijke manier op een rustige manier zijn opgelost, en daar werd verder niet naar omgekeken. Bijvoorbeeld het plannen van routes in Google Maps.

In feite hebben we beide benaderingen nodig. Machine learning leert goed van gegevens, maar helpt zeer slecht bij het weergeven van de abstractie die een computerprogramma vertegenwoordigt. Klassieke AI werkt goed met abstracties, maar moet volledig handmatig worden geprogrammeerd, en er is te veel kennis in de wereld die we niet allemaal kunnen programmeren. Het is duidelijk dat we beide benaderingen moeten combineren.

Dit heeft te maken met het hoofdstuk waarin je vertelt wat we kunnen leren van het menselijke brein. En in de eerste plaats over het concept dat, gebaseerd op het hierboven genoemde idee, bewustzijn bestaat uit verschillende systemen die op verschillende manieren functioneren.

Ik denk dat er een andere manier is om dit uit te leggen: elk cognitief systeem dat we hebben, lost feitelijk verschillende taken op. Vergelijkbare onderdelen van AI moeten worden ontworpen om verschillende taken op te lossen die verschillende eigenschappen hebben.

Op dit moment proberen we verschillende all-in-one technologieën te gebruiken om taken op te lossen die radicaal van elkaar verschillen. Een zin begrijpen is absoluut niet hetzelfde als een object herkennen. Maar mensen proberen in beide gevallen diepgaand leren te gebruiken. Vanuit cognitief perspectief zijn dit kwalitatief verschillende taken. Ik ben gewoon verbaasd over hoe weinig in de gemeenschap van deep learning-specialisten de klassieke AI waardeert. Waarom wachten op een zilveren kogel? Die is onbereikbaar, en vruchteloze zoektochten helpen niet om de hele complexiteit van het creëren van AI te begrijpen.

Je noemt ook dat AI-systemen nodig zijn om oorzaak-gevolgrelaties te begrijpen. Denk je dat dit ons zal helpen met deep learning, klassieke AI of iets totaal nieuws?

Dit is nog een gebied waarvoor deep learning niet echt geschikt is. Het legt de oorzaken van bepaalde gebeurtenissen niet uit, maar berekent de waarschijnlijkheid van een gebeurtenis onder bepaalde omstandigheden.

Waar hebben we het over? Je kijkt naar bepaalde scenario's, en je begrijpt waarom dit gebeurt en wat er kan gebeuren als bepaalde omstandigheden veranderen. Ik kan naar een standaard kijken waarop de televisie staat en me voorstellen dat als ik één poot ervan afsnijd, de standaard omvalt en de televisie valt. Dit is de oorzaak-gevolg relatie.

Klassieke AI biedt ons daarvoor enkele instrumenten. Het kan bijvoorbeeld voorstellen wat ondersteuning is en wat een val is. Maar ik ga niet te veel lof uitbrengen. Het probleem is dat klassieke AI in grote mate afhankelijk is van de volledigheid van de informatie over wat er gebeurt, en ik heb mijn conclusie getrokken door alleen naar de standaard te kijken. Op de een of andere manier kan ik generaliseren, delen van de standaard voorstellen die ik niet kan zien. We hebben momenteel geen middelen om deze eigenschap te realiseren.

Je zegt ook dat mensen aangeboren kennis hebben. Hoe kan dit worden gerealiseerd in AI?

Bij de geboorte is onze hersenen al een zeer doordacht systeem. Het is niet vaststaand; de natuur heeft een eerste, ruwe schets gemaakt. En dan helpt leren ons om deze schets gedurende ons leven te herzien.

De ruwe schets van de hersenen heeft al bepaalde mogelijkheden. Een pasgeboren berggeit kan binnen een paar uur zonder fouten van de berghelling afdalen. Het is duidelijk dat hij al een begrip heeft van driedimensionale ruimte, zijn lichaam en de interactie daartussen. Een uiterst complex systeem.

Deels daarom denk ik dat we hybride systemen nodig hebben. Het is moeilijk voor te stellen hoe je een robot zou kunnen creëren die goed functioneert in de wereld zonder vergelijkbare kennis, waar hij zou moeten beginnen, in plaats van met een schone lei te beginnen en te leren op basis van langdurige, enorme ervaring.

Wat mensen betreft, komt onze aangeboren kennis voort uit ons genoom, dat lange tijd is geëvolueerd. Met AI-systemen zullen we een andere weg moeten inslaan. Deels kunnen dit regels zijn voor het bouwen van onze algoritmen. Deels kunnen dit regels zijn voor het creëren van datastructuren waarmee deze algoritmen werken. En deels kunnen dit kennis zijn die we rechtstreeks in de machines stoppen.

Interessant dat je in het boek toewerkt naar het idee van vertrouwen en het creëren van vertrouwenssystemen. Waarom heb je deze criteria gekozen?

Ik denk dat dit vandaag de dag allemaal een spelletje is. Het lijkt erop dat we een vreemde periode in de geschiedenis doormaken, waarin we voor een groot deel vertrouwen op software die dat vertrouwen niet verdient. Ik denk dat ons huidige onbehagen niet eeuwig zal duren. Over honderd jaar zal AI ons vertrouwen rechtvaardigen, misschien zelfs eerder.

Maar vandaag de dag is AI gevaarlijk. Niet in de zin zoals Elon Musk vreest, maar in de zin dat sollicitatiegesprekken vrouwen discriminerend behandelen, ongeacht wat programmeurs doen, omdat hun tools te eenvoudig zijn.

Ik zou willen dat we betere AI hadden. Ik wil niet dat we in de 'winter van de kunstmatige intelligentie' belanden, wanneer mensen realiseren dat AI niet werkt en gewoon gevaarlijk is, en niet willen dat dit gecorrigeerd wordt.

In zekere zin lijkt je boek inderdaad erg optimistisch. Je stelt voor dat het mogelijk is om betrouwbare AI te bouwen. We moeten alleen in een andere richting kijken.

Inderdaad, het boek is op de korte termijn erg pessimistisch en op de lange termijn erg optimistisch. We zijn van mening dat alle problemen die we beschrijven opgelost kunnen worden, als we breder kijken naar wat de juiste antwoorden zouden moeten zijn. En we denken dat als dit gebeurt, de wereld beter zal worden.

Bron: habr.com