Ik ben vereerd om hier te zijn, maar hack me alsjeblieft niet. Computers haten me al, dus ik moet vrienden maken met zoveel mogelijk mensen in deze kamer. Ik zou graag een kleinigheidje uit mijn biografie naar voren willen brengen dat interessant is voor het Amerikaanse publiek. Ik ben geboren en getogen in het diepe zuiden van het land, vlak naast Georgië. Dit is eigenlijk waar. Wacht even, ik zei toch dat computers mij haten!
Eén dia ging verloren, maar dit is eigenlijk het uiterste zuiden van de USSR, waar ik ben geboren in een republiek die vlak naast de Republiek Georgië lag (noot van de vertaler: de naam van de staat Georgië en de Republiek Georgië klinkt hetzelfde in het Engels).
Over mijn thuisland gesproken, het grappige is dat mijn laatste boek, Deep Thinking, geschreven is over kunstmatige intelligentie, over mijn eigen ervaringen met de strijd tegen computers, en het boek dat twee jaar daarvoor geschreven werd, heette Winter is Coming. Het was geen synopsis van Game of Thrones, het ging over Vladimir Poetin en de strijd voor de vrije wereld, maar toen ik de boekentour deed, wilde iedereen mij vragen stellen over schaken en de IBM Deep Blue-computer. Als ik nu het boek ‘Deep Thinking’ presenteer, wil iedereen mij vragen stellen over Poetin. Maar ik probeer bij het onderwerp te blijven, en ik weet zeker dat er na deze presentatie een aantal vragen zullen zijn die ik graag zal beantwoorden. Ik ben geen politicus, dus ik schuw het beantwoorden van vragen niet.
Het lijkt misschien vreemd dat het schaakspel, dat duizenden jaren geleden ontstond, God weet wanneer, een perfecte analogie is voor kunstmatige intelligentie, want als we het over AI hebben, moeten we niet vergeten dat de letter I staat voor intelligentie, en er is niets dat aantoont dat het beter is dan schaken.
Veel mensen geloven dat schaken niets meer is dan een tijdverdrijf waar mensen zich in cafés aan overgeven. Als je naar de creaties van Hollywood kijkt, speelt iedereen schaak - aliens, X-men, tovenaars, vampiers. Mijn favoriete film, ‘Casablanca’ met Humphrey Bogart, gaat ook over schaken, en als ik deze film bekijk, wil ik altijd in de positie staan om in het scherm te kijken en het bord van Bogart te zien. Hij speelt de Franse verdediging, die begin jaren veertig erg populair was. Ik denk dat Bogart een behoorlijk goede schaker was.
Ik zou willen vermelden dat Alfred Binet, een van de mede-uitvinders van de IQ-test aan het einde van de 19e eeuw, de intelligentie van schakers bewonderde en deze jarenlang bestudeerde. Daarom is het niet verrassend dat het schaakspel degenen aantrok die slimme machines wilden maken. Het komt echter vaak voor dat intelligente machines zoals de "Turk" van Von Kempelen gewoon een enorme oplichterij zijn. Maar aan het einde van de 18e eeuw was deze schaakmachine een groot wonder, hij toerde door Europa en Amerika en vocht met sterke en zwakke spelers als Franklin en Napoleon, maar het was natuurlijk allemaal bedrog. "Turk" was geen echte machine, het was een origineel mechanisch systeem van schuifpanelen en spiegels, waarin zich een sterke speler verstopte - een man.
Het interessante is dat honderd- of tweehonderd jaar later, gedurende de afgelopen twintig jaar, de tegenovergestelde situatie is waargenomen: we zien in toernooien dat menselijke spelers computerapparatuur in hun zakken proberen te verstoppen. Dus nu moeten we op zoek naar een computer die verborgen is in een menselijk lichaam.
Verhalen over mechanische apparaten zijn echter relatief onbekend. Het eerste mechanische schaakapparaat verscheen in 1912, het speelde met één mechanisch onderdeel, kon schaakmat in een toren veranderen, maar het kon geen prototype van de eerste computer worden genoemd.
Interessant genoeg hadden pioniers op het gebied van computerontwerp, zoals Alan Turing en Claude Shannon, een grote belangstelling voor schaken. Ze geloofden dat schaken de geheimen van kunstmatige intelligentie zou kunnen onthullen. En als op een dag een computer een gewone schaker of een wereldkampioen schaken verslaat, zal dit een manifestatie zijn van de evolutie van AI.
Weet je nog, Alan Turing creëerde in 1952 het eerste computerprogramma voor het schaken, en dit was een geweldige prestatie, maar nog belangrijker was het feit dat er toen nog geen computers waren. Het was gewoon een algoritme dat hij gebruikte om te schaken, en het fungeerde als een menselijke computerprocessor. Het is belangrijk om te onthouden dat de grondleggers van computers het pad bepaalden waarlangs AI zich moest ontwikkelen, waarbij ze de processen van het menselijk denken volgden. De tegenovergestelde manier is wat we een aanval met brute kracht noemen, of een snelle zoektocht naar mogelijke zetten.
Ik had in 1985 nog niets gehoord over het strijden tegen computers, maar op deze foto zie je 32 borden, en hoewel ik tegen mensen speelde, was het eigenlijk een echt spel tegen computers. Destijds waren er 4 toonaangevende fabrikanten van schaakcomputers, die ze zojuist aan de wereld hadden geïntroduceerd. Misschien hebben sommigen van jullie nog steeds zulke computers; nu zijn het echte zeldzaamheden. Elke fabrikant had 8 computermodules, dus in werkelijkheid speelde ik met 32 tegenstanders en won ik alle spellen.
Het belangrijkste is dat dit geen verrassing was, maar een natuurlijk resultaat, en elke keer als ik naar deze foto van mijn overwinning kijk, herinner ik me deze keer als de gouden eeuw van de schaakmachines, toen ze zwak waren en mijn haar dik was. .
Het was dus juni 1985 en twaalf jaar later had ik nog maar tegen één computer gespeeld. Er was een herkansing in 12 omdat ik de eerste wedstrijd won, die in 1997 in Philadelphia plaatsvond. Ik verloor deze herkansing, maar om eerlijk te zijn vond het keerpunt in het computerschaak niet plaats in 1996, maar in 1997, toen ik de wedstrijd won, maar de eerste game verloor. Toen won ik 1996 games en de score werd 3:4 in mijn voordeel.
Feitelijk is het belangrijke feit hier dat de computer destijds wereldkampioen schaken kon worden als hij aan een regulier schaaktoernooi deelnam. Ik had niet van IBM verwacht dat ze in een jaar tijd zulke serieuze technische werkzaamheden zouden kunnen verrichten om hun computer te versterken. Maar mijn grootste fout, met uitzondering van de scherpe prijsstijging van IBM-aandelen, die twee weken na de wedstrijd van een paar punten naar een miljard dollar steeg, was het onvermogen om de kleine lettertjes te lezen. Omdat een van de problemen die ik in 2 had met de Deep Blue-computer was dat het voor mij een zwarte doos was. Ik wist niets over mijn tegenstander, hoe hij denkt, welke tactiek hij gebruikt. Wanneer u zich op een wedstrijd voorbereidt, bestudeert u gewoonlijk uw tegenstander, ongeacht of het een schaakwedstrijd of een voetbalwedstrijd is, en door de manier van spelen te observeren, bestudeert u zijn strategie. Maar er was geen informatie over de "speelstijl" van Deep Blue.
Ik probeerde slim te zijn en verklaarde dat ik voor de volgende wedstrijd toegang zou moeten hebben tot de spellen van Deep Blue. Ze antwoordden: “Natuurlijk!”, maar voegden er in kleine lettertjes aan toe:
“...alleen tijdens officiële wedstrijden.”
En dit ondanks het feit dat Deep Blue geen enkel spel buiten de laboratoriummuren heeft gespeeld. Dus in 1997 speelde ik tegen de zwarte doos, en alles bleek het tegenovergestelde van wat er in 1996 gebeurde: ik won de eerste game, maar verloor de wedstrijd.
Trouwens, waar waren jullie hackers twintig jaar geleden toen ik ze zo hard nodig had? Toegegeven, als ik mijn blik langs de rijen van de aanwezigen laat glijden, begrijp ik dat velen van jullie waarschijnlijk nog niet geboren zijn.
Mijn grootste fout was dat ik de Deep Blue-wedstrijd beschouwde als een groot wetenschappelijk en sociaal experiment. Ik dacht dat hij geweldig zou zijn, omdat hij daadwerkelijk dat gebied zou vinden waar de menselijke intuïtie vergeleken kon worden met de 'brute kracht' van computerberekeningen. Deep Blue was echter, met zijn fenomenale rekensnelheid van ongeveer 2 miljoen schaakposities per seconde, wat helemaal niet slecht was voor 1997, allesbehalve kunstmatige intelligentie. Zijn optreden leverde geen bijdrage aan het ontrafelen van het mysterie van de menselijke intelligentie.
Het was niet intelligenter dan een gewone wekker, maar ik voel me niet beter als ik verlies van een wekker van $ 10 miljoen.
Ik herinner me de persconferentie tijdens de openingsceremonie van de wedstrijd, toen de man die het IBM-project leidde, zei dat dit het einde zou betekenen van wetenschappelijke experimenten en de overwinning van de wetenschap. Omdat we één overwinning en één nederlaag hadden, wilde ik een derde wedstrijd spelen om erachter te komen wie de sterkste was, maar ze hebben de computer ontmanteld, blijkbaar om de enige onpartijdige getuige te verwijderen. Ik probeerde erachter te komen wat er met Deep Blue was gebeurd, maar ik kwam er niet achter. Later hoorde ik dat hij een nieuwe carrière had aangenomen en nu sushi maakte in een van de terminals van Kennedy Airport.
Ik hou van sushi, maar daar heb ik geen computer nodig. Hier eindigde mijn verhaal over computerschaken dus vrij snel. Maar degenen onder u die ook schaken of andere spellen spelen, weten hoe kwetsbaar we zijn vergeleken met computers, omdat we niet zo stabiel en onpartijdig zijn en fouten maken. Zelfs spelers op het hoogste niveau maken fouten, bijvoorbeeld tijdens een kampioenswedstrijd waar er 50 of 45 zetten zijn, is minstens één klein foutje onvermijdelijk. Als er echte mensen spelen, maakt het niet zoveel uit, maar als je een fout maakt bij het spelen met een machine, dan verlies je misschien niet, maar win je ook niet, omdat de machine een nederlaag kan voorkomen.
Op een gegeven moment besefte ik dat het slechts een kwestie van tijd was, omdat we niet hetzelfde niveau van waakzaamheid en precisie kunnen bereiken dat nodig is om een computer te verslaan, omdat de machine ongewoon stabiel is in zijn acties. Jaren later waren we er getuige van dat machines voortdurend wedstrijden wonnen. Ik herhaal nogmaals: dit geldt allemaal alleen voor het schaakspel, dat erg kwetsbaar is voor de brute-force-spelmethode, waarbij de computer met grote snelheid vele zetopties doorloopt en de meest optimale kiest. Het is geen kunstmatige intelligentie, dus mensen maken een fout als ze zeggen dat een menselijke schaker werd verslagen door kunstmatige intelligentie.
Later speelde ik nog een aantal wedstrijden tegen computers. Ik heb deze spellen ooit geanalyseerd met behulp van moderne schaakengines en het was een behoorlijk pijnlijke ervaring. Het was een reis terug in de tijd en ik moest toegeven hoe slecht ik presteerde in die wedstrijden, omdat ik dat alleen aan mezelf te wijten had. In die tijd was de computer-‘demon’ echter nog niet zo sterk, je gelooft het misschien niet, maar de gratis schaakapplicatie op je mobiele apparaat is tegenwoordig sterker dan Deep Blue. Als je een schaakengine zoals asmFish of Comodo en de nieuwste laptop hebt, zal dit systeem natuurlijk nog krachtiger zijn.
Toen ik tegen Deep Blue speelde, was het denk ik game 5, de computer maakte een permanente controle in het eindspel en iedereen begon te zeggen dat dit een geweldige overwinning was en dat de computer een fenomenale spelkwaliteit vertoonde. Maar vandaag de dag, met een moderne computer, ziet het er gewoonweg belachelijk uit. Onze hele wedstrijd kan in 30 seconden worden gespeeld, maximaal een minuut, afhankelijk van de prestaties van je laptop. In het begin maakte ik een fout, daarna probeerde ik het spel op te slaan, Deep Blue maakte verschillende tegenzetten en won. Dit zijn de spelregels en daar is niets mis mee.
In 2003 speelde ik nog 2 wedstrijden tegen de X3D Frintz computer, beide eindigden in een gelijkspel. De organisatoren lieten me een 3D-bril dragen omdat de computer een driedimensionale interface had.
Maar hoe dan ook, het verhaal was voorbij en ik dacht aan de toekomst. Kijk eens naar deze foto, die begin deze eeuw is gemaakt.
Als je naar deze kinderen kijkt, zie je dat ze op zeldzame computers spelen. Tegenwoordig zullen mijn kinderen niet eens begrijpen wat het is. Hier worden enkele complexe toetsenborden getoond, maar nu glijden ze gewoon met hun vingers over het touchscreen.
Waar het om gaat is dat slimmere machines onze taken veel eenvoudiger maken. Ik heb het waarschijnlijk mis als ik dit zeg, omdat jij dit beter weet dan wie dan ook. Zo wordt met de hulp van Peppa Pig en technische uitdagingen de weg vrijgemaakt voor echte creativiteit.
Ik dacht erover na hoe je de kracht van een computer en een persoon kunt combineren? We kunnen schaken als voorbeeld nemen, omdat er in schaken een oplossing bestaat. Jij weet heel goed op welke gebieden een computer sterk is en op welke gebieden hij inferieur is aan een mens. En toen kwam er een concept in me op, dat ik ‘geavanceerd schaken’ noemde.
In navolging van het Russische gezegde: “als je niet kunt winnen, doe dan mee!”, noemde ik geavanceerd schaken een spel waarbij de ene persoon met een computer vecht tegen een andere persoon met een computer.
In 1998 speelde ik met een lid van de schaakelite uit Bulgarije, en het interessante is dat we allebei niet goed konden spelen omdat we het effect van het samenwerken met de computer niet konden maximaliseren. Ik vroeg me af waarom twee geweldige spelers niet konden profiteren van AI-samenwerkingen. Het antwoord kwam later met de introductie van de zogenaamde freestyle met een beperkt aantal prompts vanaf de computer. Je kunt spelen door verbinding te maken met een supercomputer via internet, of je kunt je eigen computer of meerdere computers gebruiken. Ik wil opmerken dat een mens-computerpaar altijd elke supercomputer zal overtreffen. De reden is heel simpel: de computer compenseert onze verstrooidheid, en we bevinden ons in een goede positie om op de computer over te stappen, omdat deze de kwetsbaarheid elimineert van een andere computer die misbruik maakt van onze menselijke zwakte.
Maar daar is niets sensationeels aan. De sensatie was dat de winnaars van de competitie geen topspelers waren, maar relatief zwakke schakers met gewone computers, maar die erin slaagden een verbeterd interactieproces te creëren. Dit is moeilijk te verwoorden omdat het paradoxaal klinkt: een zwakke speler plus een normale computer plus een verbeterd proces presteert beter dan een sterke speler met een krachtige computer maar een zwak interactieproces. De interface is alles!
Het interessante is dat je helemaal geen sterke speler nodig hebt, je hebt Garry Kasparov niet nodig om aan de kant van de machine te staan en de beste zet te vinden, en daar is een eenvoudig antwoord op. Als we vandaag de dag kijken naar de relatieve sterke punten van mensen en computers, kunnen we verder gaan dan schaken, maar laten we daarmee beginnen, want schaken heeft cijfers. Dus mijn schaakscore aller tijden was 2851 totdat ik verloor van Magnus Carlsen, en aan het einde van mijn schaakcarrière was dat 2812. Vandaag voert Magnus Carlsen de ranglijst aan met ruim 2800 punten. Ongeveer 50 spelers hebben beoordelingen tussen 2700 en 2800 punten. Dit is de elite van de schaakwereld. Tegenwoordig ligt de kracht van een computer binnen de 3200 punten, en met gespecialiseerde software kan de beoordeling oplopen tot 3300-3400 punten.
Begrijp je nu waarom je geen sterke speler nodig hebt? Omdat een speler van mijn niveau zal proberen de computer in een of andere richting te laten handelen, in plaats van er een eenvoudige operator mee te zijn. Daarom zal een zwakkere schaker, die niet zo'n 'arrogantie' en verwaandheid heeft als de wereldkampioen schaken, veel effectiever met de computer omgaan en een productievere 'mens-computer'-combinatie vormen.
Ik denk dat dit een heel belangrijke ontdekking is, niet alleen voor het schaken, maar bijvoorbeeld ook voor de geneeskunde. Zoals bekend zijn computers in veel gevallen in staat een nauwkeurigere diagnose te stellen dan de beste artsen. Dus wat zou je liever willen: een goede dokter, vertegenwoordigd door een computer, of een goede verpleegster die eenvoudigweg de instructies opvolgt en een kleine handleiding schrijft op basis van de aanbevelingen van de machine?
Ik ken de exacte cijfers niet, laten we zeggen dat 60-65% van de mensen voor een dokter zal kiezen en 85% voor de computer, maar psychologisch gezien, als je een goede dokter bent, zul je dit niet kunnen accepteren. Als je naar de huidige technologische vooruitgang kijkt, kunnen we zeggen dat computers in 80 - 85 - 90% van de gevallen een echte diagnose stellen, maar dat 10% nog steeds voor mensen geldt! En dit kan een enorm verschil maken, want wanneer een kogel bij het afschieten slechts 1 graad wordt afgebogen, kan hij honderden meters van het doelwit wegvliegen. De vraag is of we de volledige kracht van computers kunnen kanaliseren.
Daarom geloof ik nog steeds dat alle angsten dat machines ons binnenkort allemaal zullen vervangen, en dat dit het einde van de wereld zal zijn, Armageddon, slechts geruchten zijn. Omdat, zoals ik al zei, dit over menselijke creativiteit gaat, en het unieke aan computerintelligentie is dat het onze creativiteit vergroot, vrijgeeft en ons vertelt hoe we die op de best mogelijke manier kunnen gebruiken.
Om het antwoord op een vraag te vinden, is het soms de moeite waard om de wereld van de wetenschap te verlaten en je te verdiepen in de wereld van de kunst. Ik heb ooit een grote paradox gevonden, verwoord door de grote kunstenaar Pablo Picasso: “Computers zijn nutteloos. Het enige wat ze kunnen doen is antwoorden geven.” Ik denk dat hier grote wijsheid in schuilt en deze woorden klinken bemoedigend omdat machines inderdaad antwoorden bieden, en deze antwoorden zijn veelomvattend!
Picasso was echter niet tevreden met alomvattende antwoorden omdat hij een kunstenaar was. Dit komt door het voortdurend heroverwegen van kunst, dit is precies wat we voortdurend doen: vragen stellen. Kunnen computers vragen stellen?
Ik bezocht ooit het hedgefonds Bridgewater Associates om te praten met Dave Ferrucci, een van de ontwikkelaars van IBM's Watson-supercomputer. We hadden het erover of machines vragen konden stellen, en Dave zei: "Ja, computers kunnen vragen stellen, maar ze weten niet welke vragen er echt toe doen." Dat is het punt. We zitten dus nog steeds in het spel en we hebben een kans om verder te gaan, want het spel tussen mens en computer is nog niet voorbij.
Op deze dia zie je verschillende foto's van mogelijke toepassingsgebieden van autonome computers, machines die zichzelf kunnen programmeren, dat wil zeggen het vermogen hebben om te leren.
Op een van de foto's is Demis Hassabis te zien met zijn zelflerende neurale netwerk AlphaGo. In feite is dit waarschijnlijk de eerste machine die een prototype van kunstmatige intelligentie kan worden genoemd.
Zoals ik al zei: Deep Blue is een overkill met brute kracht, Watson is misschien een overgangsschakel, maar nog geen AI. AlphaGo is een deep learning-programma dat zichzelf verbetert door relevante patronen te vinden door miljoenen en miljoenen games te spelen.
Ik kan zeggen dat we met AlphaGo voor het eerst te maken hebben met een echte black box. Want als we bijvoorbeeld honderd jaar duizenden kilometers aan Deep Blue-gamelogs bestuderen, zullen we uiteindelijk tot het oorspronkelijke idee komen waarom een bepaalde beslissing werd genomen en een bepaalde zet werd gedaan. Wat AlphaGo betreft, ik ben er zeker van dat zelfs Demis Hassabis zelf niet zal kunnen zeggen waarom versie 6 beter is dan versie 9, of omgekeerd, rekening houdend met de beslissing die deze machine heeft genomen.
Aan de ene kant is dit een geweldige prestatie, maar aan de andere kant kan het een probleem zijn, want als de machine een fout maakt, kun je daar niets van weten. Dit is echter in ieder geval een beweging in de richting van het creëren van echte AI.
Ik heb ooit gesproken op het hoofdkantoor van Google, en ze gaven me een rondleiding door Google X. Dit was erg interessant omdat dit bedrijf vol vertrouwen in de richting gaat van het creëren van AI, het oplossen van de problemen van het creëren van een zelfrijdende auto of autonome drones die onafhankelijk leveren goederen. Niet minder een probleem dan de technische ondersteuning van AI is echter het probleem van het reguleren van de activiteiten ervan. Mensen praten erover hoe AI hen volledig zou kunnen vervangen en werkloos zou kunnen maken. Laten we echter een beroep doen op de geschiedenis van de menselijke beschaving voor hulp - dit gebeurt al honderden en duizenden jaren!
24:35 min
Bedankt dat je bij ons bent gebleven. Vind je onze artikelen leuk? Wil je meer interessante inhoud zien? Steun ons door een bestelling te plaatsen of door vrienden aan te bevelen, 30% korting voor Habr-gebruikers op een unieke analoog van instapservers, die door ons voor u is uitgevonden: (beschikbaar met RAID1 en RAID10, tot 24 cores en tot 40GB DDR4).
Dell R730xd 2 keer goedkoper? Alleen hier in Nederland! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - vanaf $99! Lees over
Bron: www.habr.com