Ik denk dat het probleem niet is dat machines mensen op hun werkplek zullen vervangen, ook niet op intellectueel gebied, en niet dat computers de wapens lijken te hebben opgenomen tegen mensen met een hogere opleiding en Twitter-accounts. De implementatie van AI gaat niet snel, maar integendeel: het gaat te langzaam. Waarom? Omdat dit een normale cyclus van menselijke ontwikkeling is, en we ons eenvoudigweg niet realiseren dat de vernietiging die we zien de introductie betekent van nieuwe technologie, die, voordat er nieuwe banen worden gecreëerd, oude banen vernietigt.
Technologieën vernietigen verouderde industrieën en creëren nieuwe, dit is het creatieproces, dit is de ontwikkelingscyclus. Als je probeert de pijn te verlengen door oude technologieën in het proces te integreren of voordelen te creëren voor verouderde technologieën, vertraag je het proces eenvoudigweg en maak je het pijnlijker. Het zal hoe dan ook gebeuren, maar het probleem is dat we het proces reguleren door regels te creëren die het opzettelijk vertragen. Ik denk dat dit een groter probleem is dan de problemen waarvan we ons duidelijker bewust zijn. Dit is meer een psychologisch probleem waarbij mensen de vraag stellen: “hoe kun je je veilig voelen in een zelfrijdende auto?”
Ik keek in de geschiedenis en ontdekte dat honderd jaar geleden een van de machtigste vakbonden in New York de liftarbeidersvakbond was, die 17 arbeiders verenigde. Trouwens, er was toen al een technologie waarbij je gewoon op een knop kon drukken en je was klaar, maar mensen vertrouwden het niet! Het is gewoon verschrikkelijk om zelf op de knop te moeten drukken om de lift te bellen! Weet je waarom deze vakbond “stierf” en mensen zelf de knoppen gingen gebruiken? Want op een dag besloten de liftwerkers te gaan staken. Ze gingen staken, en toen riskeerden de mensen die naar de top van het Empire State Building moesten klimmen het risico om met hun eigen handen op de knoppen te drukken.
Weet je nog wat ze 20-30 jaar geleden zeiden over kinderen of kleinkinderen als ze achter het stuur van een auto stapten: “dit is verschrikkelijk, kijk maar naar de statistieken, want auto’s zijn een van de belangrijkste oorzaken van menselijke sterfte, hoe kunnen ze het risico lopen hun levens?"
Dit is dus allemaal pure psychologie. We besteden weinig aandacht aan het aantal mensen dat omkomt bij auto-ongelukken, maar zodra één persoon om het leven komt door een zelfrijdende auto, wordt de gebeurtenis buiten proporties opgeblazen. Elke storing, elke fout in kunstmatige-intelligentietechnologieën wordt onmiddellijk op de voorpagina's van kranten vermeld. Maar kijk naar de statistieken, kijk naar het aantal incidenten, en je zult zien wat een klein percentage van het totale aantal ongelukken is. Daarom zal de menselijke gemeenschap alleen winnen als zij vooruitgang kan boeken zonder verlamd te raken door dergelijke angsten.
Een ander probleem komt naar voren als we het hebben over nepnieuws of cyberveiligheid. Dit zijn zeer gepolitiseerde onderwerpen en ik krijg veel telefoontjes met de vraag hoe ik omga met AI-haters. Ik schrijf bijvoorbeeld regelmatig een blog, en mijn nieuwe bericht, dat over een paar dagen zal worden gepubliceerd, gaat over haat en het feit dat verlossing van haat ligt in kennis, in leren. We moeten gewoon begrijpen dat dit probleem al bestond lang voordat al deze dingen werden uitgevonden, maar dat het belang ervan nu is toegenomen dankzij het internet, dat miljoenen en miljarden mensen bereikt.
Ik denk dat het eigenlijk een goede zaak is als iemand de vooruitgang probeert tegen te houden door te proberen AI te verbieden, en je weet dat dat niet zal werken omdat we Poetin en andere slechteriken hebben, waar ze ook zijn, die onze eigen technologieën tegen ons gebruiken die zijn gemaakt in de vrije wereld. Ik denk dus dat we het gewoon als een gegeven moeten accepteren.
De essentie van het probleem ligt alleen in ons, en de antwoorden op de vragen liggen in ons, in onze eigen kracht en ons eigen vertrouwen. Ik beweer dat intelligente machines ons niet ‘verouderd’ kunnen maken. We moeten echter niet vergeten dat er bepaalde beperkingen zijn met betrekking tot de samenwerking tussen mens en computer, en voor een groot deel zijn dit slechts geruchten die al eerder hebben bestaan. Zoals altijd zijn dit eenvoudigweg nieuwe kansen die de oude wereld vernietigen en een nieuwe creëren, en hoe verder we vooruitgaan, hoe beter af we zullen zijn.
Tegenwoordig lijkt het het meest op een stap in de wereld van science fiction. De paradox is dat als we vijftig tot zestig jaar terugkijken, we zullen zien dat science fiction in die tijd absoluut positief was, het was een complete utopie. Toen vond er echter een geleidelijke overgang plaats van utopie naar dystopie, op zo’n manier dat we niets meer willen horen over de toekomst van de mensheid.
Dit gebeurde niet van de ene op de andere dag. Er was een tijd dat mensen besloten dat ruimteverkenning te riskant was. Dit is inderdaad een groot risico, maar stel je voor dat in 1969, toen de Amerikanen op de maan landden, de totale rekenkracht van NASA kleiner was dan de kracht van welk modern computerapparaat dan ook dat in je zak past. Dit apparaat is duizend keer krachtiger dan de supercomputer die veertig jaar geleden bestond. Stelt u zich eens voor hoeveel rekenkracht u in uw zak heeft! Ik ben er echter niet zeker van dat de Apple iPhone 40 dezelfde rekenkracht heeft als Apollo 7, dat wil zeggen dat hij hetzelfde effect kan produceren.
Machines hebben ons echter veel grote vooruitgang gebracht in de verkenning van de ruimte en de oceanen, en we moeten begrijpen dat computers ons de mogelijkheid bieden om grote risico's te nemen.
Ik wil mijn toespraak graag met een positieve noot afsluiten. Toont deze dia geen positieve beelden? De foto rechtsonder is niet gefotoshopt, ik heb de Terminator in 2003 ontmoet.
Hij hield ook van schaken sinds zijn kindertijd, maar hij bestudeerde het niet specifiek, dus verloor hij heel snel. Ik was dus erg verrast toen hij zich zes maanden later kandidaat stelde voor gouverneur van Californië en won!
Waarom noem ik deze beelden positief? Want hoewel de oude Arnold in alle afleveringen behalve de eerste altijd aan de kant van de winnaars staat en nooit moe wordt van het vechten tegen nieuwe machines, zien we in de eerste aflevering de combinatie waar ik het over had – dit is wanneer een persoon plus een oude machine plus een perfecte interface verslaat de nieuwste auto.
Je zou kunnen zeggen: “ja, machines zijn sterker dan mensen omdat ze werkelijk alles kunnen berekenen!” Het punt is echter niet dat ze alles kunnen berekenen. Bij schaken kunnen we bijvoorbeeld technisch gesproken spreken over de wiskundige oneindigheid van het aantal mogelijke zetten, gelijk aan 1045, die door geen enkele moderne computer moeilijk te berekenen zijn. Wat echter belangrijk is in het spel zijn niet de berekeningen, maar het feit dat de computer voorloopt op de persoon, omdat deze zich altijd laat leiden door de regels. En je kent het effect van deze regels en je weet waarom de computer de beste zet kiest uit een grote verscheidenheid aan mogelijke zetten.
Maar als we naar het echte leven kijken, ben ik er niet zeker van dat een computer altijd nuttig kan zijn. Laten we eens kijken naar de meest typische situatie: u heeft een computer die uw budget bewaakt, u bent in een winkel en staat op het punt een duur geschenk te kopen. De computer evalueert de aankoop en zegt: "Nee, u kunt dit artikel niet betalen omdat u het budget overschrijdt." De machine heeft alles berekend, maar er is een kleine nuance: je kind staat naast je en dit cadeau is bedoeld voor zijn verjaardag. Zie je hoe dit de omstandigheden van het probleem verandert? Dit verandert alles omdat het kind op dit geschenk wacht.
Ik kan beginnen met het toevoegen van deze kleine dingen die alles veranderen, maar ik denk niet dat ze in de probleemstelling kunnen worden opgenomen en tot de juiste oplossing kunnen leiden. We hebben veel regels, maar we moeten nog steeds vragen stellen omdat dingen veranderen. Dit is wat een gewone situatie kan worden genoemd, maar als je naar deze films kijkt, kun je zeggen dat de hier getoonde situatie dramatischer en buitengewooner is. Deze dia toont een still uit aflevering V van Star Wars: The Empire Strikes Back.
Han Solo loodst het schip dwars door een asteroïdeveld en C-3PO raakt in paniek en meldt dat de kans om het veld te overleven 1: 3122 is. Han Solo zegt tegen hem: "Vertel me nooit wat onze kansen zijn!" Hier rijst de vraag: wie heeft er in deze situatie meer gelijk?
De technologie vertegenwoordigd door C-3PO heeft volkomen gelijk, omdat de overlevingskans vrijwel nul is. Het is mogelijk dat, vanuit het perspectief van een robot, gevangengenomen worden door imperiale troepen een betere keuze is die een mens niet eens zou overwegen dan sterven in een asteroïdenveld. Maar als de computer besluit dat overgave aan het imperium de beste optie is, kunnen we ervan uitgaan dat de persoon helemaal geen opties heeft. Het allerbelangrijkste is dat we in beide gevallen, zowel gewone als buitengewone, de kans hebben om de ultieme beslissing te nemen, en om zo’n beslissing te nemen is nog steeds menselijk leiderschap nodig.
Soms betekent dit dat u tegen de aanbevelingen van de computer in moet gaan. Het punt van menselijk leiderschap is niet om de kansen te kennen, maar om de vragen te stellen die er echt toe doen, niet alleen vandaag of morgen, maar tot ver in de toekomst. Dit proces kan "menselijke begeleiding" of "menselijke tussenkomst" worden genoemd, waarbij het wordt beïnvloed zonder de hulp van intelligente machines. Dit is wat onze koers in deze eeuw zou moeten zijn.
Mensen zijn soms verrast door mijn optimisme over intelligente machines, gezien mijn ervaring ermee, maar ik ben echt een optimist. En ik weet zeker dat jullie allemaal even optimistisch zijn over de toekomst van AI. Maar we moeten niet vergeten dat onze technologieën agnostisch zijn. Het is niet goed of slecht, maar kan zowel voor goed als kwaad worden gebruikt. Machines moeten slimmer en capabeler worden. En wij mensen moeten doen wat alleen mensen kunnen doen: dromen, dromen met volle teugen, en dan zullen we alle voordelen kunnen benutten die deze verbazingwekkende nieuwe hulpmiddelen met zich meebrengen.
Zoals gepland hebben we nog 10 minuten om vragen te beantwoorden.
Vraag: Denkt u dat het mogelijk zou zijn om een machinaal leersysteem te creëren dat zou kunnen bepalen welke bewegingen het meest consistent zijn met de menselijke speelstijl?
Kasparov: Allereerst verwachten we niet dat de computer ons de eerste zet en de resterende 17505 zetten vertelt. Ik denk dat we op de machine moeten vertrouwen om de beste aanbevelingen voor unieke bewegingen te geven. Overigens gebruiken topspelers computers als leidraad, waardoor ze de meest geschikte positie in het spel kunnen innemen. Ik herhaal het nogmaals: in 9 van de 10 gevallen is de inschatting van de situatie door de computer veel beter dan de inschatting die een mens kan maken.
Vraag: Bent u het ermee eens dat echte intelligentie vrijheid van keuze vereist, vrijheid om beslissingen te nemen die alleen een persoon kan nemen? Deep Blue-software en andere computerprogramma's worden immers door mensen geschreven, en als je verliest van Deep Blue, verlies je niet van de computer, maar van de programmeurs die het programma hebben geschreven. Mijn vraag is: schuilt er gevaar in welke vorm van machine-intelligentie dan ook, zolang computers keuzevrijheid hebben?
Kasparov: hier moet ik van wetenschap naar filosofie gaan. Alles is duidelijk over Deep Blue: het is het resultaat van enorm veel menselijk werk. In de meeste gevallen, zelfs in het geval van AlphaGo van Demis Hassabis, zijn dit allemaal producten van menselijke intelligentie. Ik weet niet of machines keuzevrijheid kunnen hebben, maar ik geloof dat wat we ook doen, machines het beter zullen doen als we weten hoe we het moeten doen. Wanneer we de meeste dingen echter doen, weten we niet hoe we ze op de beste manier moeten doen, waardoor we vaak niet kunnen begrijpen wat ons zal lukken. Simpel gezegd: we hebben een doel, maar we weten niet wat het is, en de rol van de machine is om ons te helpen dat doel te verwezenlijken. Als we het dus hebben over de vrije keuze van computers, zou het ons aan dit doel moeten helpen binden. Ik denk dat dit een zeer verre toekomst voor computers is.
Vraag: Wat denk je van menselijke kenmerken zoals moed en moraliteit, en de beslissingen die kunstmatige intelligentie op basis daarvan kan nemen? Wat moet een zelfrijdende auto bijvoorbeeld doen: een kind overrijden of voorkomen dat hij hem raakt door tegen een rots te botsen en de passagier te doden?
Kasparov: Dit zijn wat mensen ‘gevoelens’ noemen; ze zijn niet kwantificeerbaar omdat het een hele reeks verschillende menselijke kenmerken betreft. Als we het over moed hebben, dan is dit kenmerk altijd in strijd met de kansen om de optimale optie te kiezen. Moed is, net als andere menselijke emoties, per definitie in strijd met nauwkeurige berekeningen.
Vraag: Meneer Kasparov, mijn vraag gaat niet over computers: wat zit er in uw fles en kan ik het proberen?
Kasparov: wat bedoel je?
Gastheer: Hij vraagt wat er in je zak zit!
Kasparov: in mijn zak? "Stolichnaya"! Dit is geen advertentie, als je het gemerkt hebt, heb ik het weggegooid.
Vraag: Wie wordt volgens jou de volgende wereldkampioen schaken en maakt de jonge Chinese schaker Wei Yi een kans om Carelsen te onttronen als schaakkoning?
Kasparov: Karelsen is speler nummer 1, hij is geen wereldkampioen, maar volgens de rating simpelweg de beste schaker ter wereld. Hij wordt dit jaar 27, dus hij is nog jong, maar niet erg jong naar huidige maatstaven. Ik denk dat Wei Yi nu 18 of 19 jaar oud is. Magnus ligt voor op jonge spelers als de Amerikanen Wesley So en Fabiano Kerouana, en Wei Yi zou mogelijk zijn tegenstander kunnen zijn. Om wereldkampioen te worden heb je echter talent nodig, je hoeft niet jong en energiek te zijn, je hoeft alleen maar een beetje geluk te hebben. Dus om de vraag te beantwoorden, kan ik zeggen: ja, hij heeft een kans om Magnus Carelsen te verslaan.
Vraag: Toen u sprak over deterministische algoritmen en machinaal leren, noemde u de mogelijkheid om machines te gebruiken als hulpmiddelen om onze intelligentie aan te vullen. Hoe zit het met de mogelijkheid om de hulpbronnen te maximaliseren voordat er krachtige AI ontstaat, of zelfs een menselijk brein in een computer wordt gestopt?
Kasparov: Ik schaam me er niet voor om mijn onwetendheid toe te geven als ik er niet zeker van ben dat ik een vraag niet correct kan beantwoorden. Ik doe mijn best om te begrijpen wat het menselijk brein is, als we het los van het menselijk lichaam beschouwen, en welke functies het vervult. Omdat het moeilijk voor te stellen is hoe de hersenen zich los van het lichaam zullen gedragen. Misschien zou een dergelijk experiment in de toekomst kunnen worden gedaan, maar ik ben ervan overtuigd dat de combinatie van het menselijk brein, menselijke gevoelens en emoties met een computer een ‘geest’ zal vormen die veel effectiever zal zijn dan een brein dat eruit wordt gehaald en bevroren, gebruikt als een apparaat gevuld met neuronen.
Vraag: Bestaat er een universele basisbenadering voor het probleem van het vervangen van menselijke banen door computers?
Kasparov: Ik denk dat dit een heel belangrijke vraag is, omdat het duidelijk is dat we het punt naderen waarop veel mensen mogelijk werkloos zijn. Dit is de paradox van de technologische vooruitgang: aan de ene kant hebben we de nieuwste technologieën die enorme concurrentievoordelen bieden aan de jongere generatie die met deze apparaten en technologieën te maken heeft. Aan de andere kant hebben we vooruitgang geboekt op het gebied van de geneeskunde en gezonde voeding, die het menselijk leven verlengt en iemand de mogelijkheid geeft om vele jaren te werken. In die zin kan de generatie van de jaren vijftig, zestig of zelfs veertig niet concurreren met de jeugd van vandaag. We moeten een oplossing vinden voor deze paradoxale situatie waarin de kloof tussen generaties zo groot is. De historische ervaring leert dat een dergelijke kloof altijd tot een grote explosie leidt. Ik bedoel de kloof tussen de bestaande sociale infrastructuur van de samenleving en de technologische vooruitgang.
Dit is een kwestie die politici liever uitstellen tot de volgende verkiezingen. Niemand wil erover praten omdat het een gevoelige kwestie is. Het is heel gemakkelijk om geld te drukken en te hopen dat iemand er ooit in de toekomst voor zal betalen. Er zijn dus veel paradoxen op dit gebied, bijvoorbeeld de accumulatie van schulden om sociale garanties te bieden aan de oudere generatie, in de verwachting dat de last van het afbetalen van deze schulden op de schouders van de jongere generatie zal komen te liggen. Er zijn veel vragen waar ik geen antwoord op heb, en veel vragen die ik zou kunnen stellen en waarvan ik hoop dat AI me ermee kan helpen.
Het is heel erg dat politici al tientallen jaren proberen de problemen te negeren die we zojuist hebben besproken. Ze zijn altijd bereid uitspraken te doen, ze hebben altijd plannen, maar ze willen de contraproductieve werking van het zwijgen over het probleem van het conflict tussen technologie en samenleving niet begrijpen. Bedankt voor uw aandacht!
Bedankt dat je bij ons bent gebleven. Vind je onze artikelen leuk? Wil je meer interessante inhoud zien? Steun ons door een bestelling te plaatsen of door vrienden aan te bevelen, 30% korting voor Habr-gebruikers op een unieke analoog van instapservers, die door ons voor u is uitgevonden: (beschikbaar met RAID1 en RAID10, tot 24 cores en tot 40GB DDR4).
Dell R730xd 2 keer goedkoper? Alleen hier in Nederland! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - vanaf $99! Lees over
Bron: www.habr.com