Jag tror att problemet inte är att maskiner kommer att ersätta människor på deras arbetsplats, inklusive på den intellektuella sfären, och inte att datorer verkar ha tagit till vapen mot personer med högre utbildning och Twitter-konton. Implementeringen av AI sker inte snabbt, utan tvärtom, det går för långsamt. Varför? För detta är en normal cykel av mänsklig utveckling, och vi inser helt enkelt inte att den förstörelse vi ser innebär införandet av ny teknik, som, innan nya jobb skapas, förstör gamla.
Teknik förstör föråldrade industrier och skapar nya, detta är skapelseprocessen, detta är utvecklingscykeln. Om du försöker förlänga plågan genom att infoga gammal teknik i processen eller skapa några fördelar för föråldrade teknologier, kommer du helt enkelt att sakta ner processen och göra den mer smärtsam. Det kommer att hända ändå, men problemet är att vi reglerar processen genom att skapa regler som medvetet bromsar den. Jag tror att detta är ett större problem än de vi är tydligare medvetna om. Detta är mer ett psykologiskt problem där människor ställer frågan: "hur kan du känna dig säker när du sitter i en självkörande bil?"
Jag tittade in i historien och lärde mig att för hundra år sedan var en av de mäktigaste fackföreningarna i New York hissarbetarfacket, som förenade 17 tusen arbetare. Förresten, på den tiden fanns det redan en teknik där du bara kunde trycka på en knapp och du var klar, men folk litade inte på det! Det är bara hemskt att behöva trycka på knappen själv för att ringa hissen! Vet du varför detta fackförbund "dog" och folk började använda knapparna själva? För en dag bestämde sig hissarbetarna för att gå ut i strejk. De gick ut i strejk och då riskerade de som var tvungna att klättra upp till toppen av Empire State Building att trycka på knapparna med sina egna händer.
Kom ihåg vad de sa för 20-30 år sedan om barn eller barnbarn när de satte sig bakom ratten i en bil: "det här är hemskt, titta bara på statistiken, eftersom bilar är en av de främsta orsakerna till mänsklig dödlighet, hur kan de riskera deras liv?"
Allt detta är alltså ren psykologi. Vi ägnar lite uppmärksamhet åt hur många som dör i bilolyckor, men när en person dödas av en självkörande bil blir händelsen ur proportion. Varje fel, alla misstag i artificiell intelligens-teknik täcks omedelbart på tidningarnas förstasidor. Men titta på statistiken, titta på antalet incidenter, så ser du vilken liten andel av det totala antalet olyckor. Därför kommer den mänskliga gemenskapen att vinna bara om den kan gå framåt utan att bli förlamad av sådana rädslor.
En annan fråga dyker upp när vi pratar om falska nyheter eller cybersäkerhet, det här är väldigt politiserade ämnen och jag får många samtal som frågar hur jag handskas med AI-hatare. Jag skriver till exempel en vanlig blogg, och mitt nya inlägg, som publiceras om ett par dagar, pratar om hat och att räddning från hat ligger i kunskap, i lärande. Vi måste bara förstå att det här problemet fanns långt innan alla dessa saker uppfanns, det är bara det att dess betydelse nu har ökat tack vare Internet, som når ut till miljoner och miljarder människor.
Jag tror att det faktiskt är bra när någon försöker stoppa framsteg genom att försöka förbjuda AI, och du vet att det inte kommer att fungera eftersom vi har Putin och andra skurkar, var de än är, som använder mot oss är vår egen teknik skapad i den fria världen. Så jag tycker att vi bara ska acceptera det som givet.
Kärnan i problemet ligger bara inom oss, och svaren på frågorna finns inom oss, i vår egen styrka och vårt eget förtroende. Jag hävdar att intelligenta maskiner inte kan göra oss "föråldrade". Man måste dock komma ihåg att det finns vissa restriktioner när det gäller samarbete mellan människa och dator, och till stor del är det bara rykten som har funnits tidigare. Som alltid är det helt enkelt nya möjligheter som förstör den gamla världen och skapar en ny, och ju längre vi går framåt, desto bättre kommer vi att ha det.
Nuförtiden påminner det mest om ett steg in i science fiction-världen. Paradoxen är att om vi ser tillbaka 50-60 år så kommer vi att se att på den tiden var science fiction absolut positivt, det var en fullständig utopi. Men sedan skedde en gradvis övergång från utopi till dystopi, på ett sådant sätt att vi inte längre vill höra något om mänsklighetens framtid.
Detta hände inte över en natt. Det fanns en tid när folk bestämde sig för att utforskning av rymden var för riskabel. Detta är verkligen en stor risk, men föreställ dig att 1969, när amerikanerna landade på månen, var hela NASA:s datorkraft mindre än kraften hos någon modern datorenhet som får plats i fickan. Den här enheten är tusen gånger kraftfullare än superdatorn som fanns för 40 år sedan. Föreställ dig bara vilken datorkraft du har i fickan! Jag är dock inte säker på att Apple iPhone 7 har samma datorkraft som Apollo 7 hade, det vill säga att den kan ge samma effekt.
Men maskiner har gett oss många stora framsteg inom utforskning av rymden eller havet, och vi måste förstå att datorer ger oss möjligheten att ta stora risker.
Jag skulle vilja avsluta mitt anförande positivt. Visar inte denna bild positiva bilder? Bilden i det nedre högra hörnet är inte photoshopat, jag träffade faktiskt Terminator 2003.
Han älskade också schack sedan barndomen, men han studerade det inte specifikt, så han förlorade mycket snabbt. Så jag blev väldigt förvånad när han sex månader senare kandiderade till guvernör i Kalifornien och vann!
Varför kallar jag dessa bilder positiva? För även om gamla Arnold i alla avsnitt utom det första alltid står på vinnarnas sida och aldrig tröttnar på att slåss mot nya maskiner, så är det i det första avsnittet vi ser kombinationen som jag pratade om – det är när en person plus en gammal maskin plus ett perfekt gränssnitt besegrar den nyaste bilen.
Du kanske säger: "Ja, maskiner är starkare än människor eftersom de kan beräkna absolut allt!" Men poängen är inte att de kan räkna ut allt. Till exempel, i schack kan vi tekniskt tala om den matematiska oändligheten av antalet möjliga drag, lika med 1045, vilket inte är svårt för någon modern dator att beräkna. Det som är viktigt i spelet är dock inte beräkningarna, utan det faktum att datorn ligger före personen, eftersom den alltid styrs av reglerna. Och du känner till effekten av dessa regler och du vet varför datorn väljer det bästa draget från ett stort antal möjliga drag.
Men om vi vänder oss till det verkliga livet är jag inte säker på att en dator alltid kan vara användbar. Låt oss titta på den mest typiska situationen - du har en dator som övervakar din budget, du är i en butik och ska köpa en dyr present. Datorn utvärderar köpet och säger, "nej, du har inte råd med den här artikeln eftersom du kommer att överskrida budgeten." Maskinen har beräknat allt, men det finns en liten nyans - ditt barn står bredvid dig, och den här presenten är avsedd för hans födelsedag. Ser du hur detta förändrar förutsättningarna för problemet? Detta förändrar allt eftersom barnet väntar på denna gåva.
Jag kan börja lägga till dessa små saker som förändrar allt, men jag tror inte att de kan ingå i problemformuleringen och få rätt lösning. Vi har många regler, men vi måste fortfarande ställa frågor eftersom saker förändras. Det här är vad man kan kalla en vanlig situation, men om man tittar på dessa filmer kan man säga att situationen som visas här är mer dramatisk och extraordinär. Den här bilden visar en stillbild från avsnitt V av Star Wars: The Empire Strikes Back.
Han Solo lotsar skeppet rakt igenom ett asteroidfält, och C-3PO får panik och rapporterar att chansen att överleva fältet är 1:3122. Han Solo säger till honom: "Berätta aldrig för mig vad våra chanser är!" Här uppstår frågan, vem har mer rätt i den här situationen?
Tekniken som representeras av C-3PO är helt rätt, eftersom chansen att överleva tenderar att vara noll. Det är möjligt att, ur en robots perspektiv, att fångas av kejserliga styrkor är ett bättre val som en människa inte ens skulle överväga än att dö i ett asteroidfält. Men om datorn bestämmer sig för att överlämnande till imperiet är det bästa alternativet, då kan vi anta att personen inte har några alternativ alls. Det mycket viktiga är att vi i båda fallen, ordinarie och extraordinära, har möjlighet att fatta det yttersta beslutet, och för att fatta ett sådant beslut krävs fortfarande mänskligt ledarskap.
Ibland innebär detta att du måste gå emot datorns rekommendationer. Poängen med mänskligt ledarskap är inte att känna till oddsen, utan att ställa de frågor som verkligen betyder något, inte bara idag eller imorgon, utan långt in i framtiden. Denna process kan kallas "mänsklig vägledning" eller "mänsklig intervention", påverkande utan hjälp av intelligenta maskiner. Detta är vad vår kurs borde vara i detta århundrade.
Folk blir ibland förvånade över min optimism om intelligenta maskiner, med tanke på min erfarenhet av dem, men jag är verkligen optimist. Och jag är säker på att ni alla är lika optimistiska om framtiden för AI. Men vi måste komma ihåg att vår teknik är agnostisk. Det är varken bra eller dåligt, men kan användas på både gott och ont. Maskiner måste bli smartare och mer kapabla. Och vi människor måste göra det som bara människor kan göra - drömma, drömma till fullo, och då kommer vi att kunna utvinna alla fördelar som dessa fantastiska nya verktyg ger.
Som planerat har vi fortfarande 10 minuter kvar på oss att svara på frågor.
Fråga: Tror du att det skulle vara möjligt att skapa ett maskininlärningssystem som kan avgöra vilka drag som är mer förenliga med den mänskliga spelstilen?
Kasparov: För det första förväntar vi oss inte att datorn ska berätta om det första draget och de återstående 17505 9 dragen. Jag tror att vi bör lita på att maskinen ger de bästa rekommendationerna för unika drag. Förresten, toppklassspelare använder datorer som en guide, och hjälper dem att ta den mest lämpliga positionen i spelet. Jag upprepar ännu en gång - i 10 fall av XNUMX är datorns bedömning av situationen vida överlägsen den bedömning som en person kan göra.
Fråga: Håller du med om att sann intelligens kräver valfrihet, frihet att fatta beslut som bara en person kan fatta? När allt kommer omkring är Deep Blue-programvara och andra datorprogram skrivna av människor, och när du förlorar mot Deep Blue, förlorar du inte till datorn, utan till programmerarna som skrev programmet. Min fråga är: finns det någon fara med någon form av maskinintelligens så länge datorer har valfrihet?
Kasparov: här måste jag gå från vetenskap till filosofi. Allt är klart om Deep Blue - det är resultatet av en enorm mängd mänskligt arbete. I de flesta fall, även i fallet med Demis Hassabis AlphaGo, är dessa alla produkter av mänsklig intelligens. Jag vet inte om maskiner kan ha valfrihet, men jag tror att vad vi än gör, om vi vet hur man gör det, kommer maskiner att göra det bättre. Men när vi gör det mesta vet vi inte hur vi ska göra dem på bästa sätt, så vi kan ofta inte förstå vad vi kommer att lyckas med. Enkelt uttryckt har vi ett mål, men vi vet inte vad det är, och maskinens roll är att hjälpa oss att förverkliga det målet. Därför, om vi talar om fritt val av datorer, så borde det bidra till att binda oss till detta mål. Jag tror att detta är en mycket avlägsen framtid för datorer.
Fråga: Vad tycker du om mänskliga egenskaper som mod och moral, och de beslut som artificiell intelligens kan fatta utifrån dem? Vad ska till exempel en självkörande bil göra - köra på ett barn eller undvika att slå det genom att krascha in i en sten och döda dess passagerare?
Kasparov: Det här är vad folk kallar "känslor", de är inte kvantifierbara eftersom de är en hel massa olika mänskliga egenskaper. Om vi pratar om mod, så strider denna egenskap alltid mot chanserna att välja det optimala alternativet. Tapperhet, liksom andra mänskliga känslor, strider per definition mot exakta beräkningar.
Fråga: Herr Kasparov, min fråga gäller inte datorer: vad finns i din kolv och kan jag prova det?
Kasparov: vad menar du?
Programledare: Han frågar vad du har i fickan!
Kasparov: i min ficka? "Stolichnaya"! Det här är ingen reklam, om du märkte det så slängde jag den.
Fråga: Vem tror du blir nästa världsmästare i schack och har den unga kinesiska schackspelaren Wei Yi en chans att avsätta Carelsen som schackets kung?
Kasparov: Karelsen är spelare nummer 1, han är ingen världsmästare, utan helt enkelt den bästa schackspelaren i världen enligt betyget. Han fyller 27 i år, så han är fortfarande ung, men inte särskilt ung med dagens mått mätt. Jag tror att Wei Yi är 18 eller 19 år gammal nu. Magnus ligger före unga spelare som amerikanerna Wesley So och Fabiano Kerouana, och Wei Yi kan potentiellt vara hans motståndare. Men för att bli världsmästare behöver du talang, du behöver inte vara ung och energisk, bara ha lite tur. Så för att svara på frågan kan jag säga – ja, han har chans att slå Magnus Carelsen.
Fråga: När du pratade om deterministiska algoritmer och maskininlärning nämnde du möjligheten att använda maskiner som verktyg för att komplettera vår intelligens. Hur är det med möjligheten att maximera resurserna innan du skapar kraftfull AI, eller till och med sätter in en mänsklig hjärna i en dator?
Kasparov: Jag skäms inte över att erkänna min okunnighet när jag inte är säker på att jag inte kan svara på en fråga korrekt. Jag gör mitt bästa för att förstå vad den mänskliga hjärnan är, om vi betraktar den separat från människokroppen, vilka funktioner den utför. För det är svårt att föreställa sig hur hjärnan kommer att bete sig separat från kroppen. Kanske ett sådant experiment skulle kunna göras i framtiden, men jag är övertygad om att kombinationen av den mänskliga hjärnan, mänskliga känslor och känslor med en dator kommer att bilda ett "sinne" som kommer att vara mycket effektivare än en hjärna som utvinns och fryses, använd som en enhet fylld med neuroner.
Fråga: Finns det ett universellt grundläggande förhållningssätt till problemet med att ersätta mänskliga jobb med datorer?
Kasparov: Jag tycker att detta är en mycket viktig fråga, för det är tydligt att vi närmar oss den punkt där många människor kan vara arbetslösa. Detta är paradoxen med tekniska framsteg: å ena sidan har vi den senaste tekniken som ger enorma konkurrensfördelar för den yngre generationen som sysslar med dessa enheter och teknologier. Å andra sidan har vi framsteg inom medicin och hälsosam kost, vilket förlänger människans liv och ger en person förmåga att arbeta i många år. I denna mening kan generationen av 50-, 60- eller till och med 40-talet inte konkurrera med dagens ungdom. Vi måste hitta en lösning på denna paradoxala situation där gapet mellan generationerna är så stort. Historisk erfarenhet säger att en sådan lucka alltid leder till en stor explosion. Jag menar gapet mellan samhällets befintliga sociala infrastruktur och tekniska framsteg.
Det här är en fråga som politikerna helst skjuter upp till nästa val. Ingen vill prata om det eftersom det är en känslig fråga. Det är väldigt lätt att skriva ut pengar och hoppas att någon kommer att betala för det någon gång i framtiden. Så det finns många paradoxer på detta område, till exempel ackumuleringen av skulder för att ge sociala garantier till den äldre generationen i förväntan att bördan att betala av dessa skulder kommer att falla på den yngre generationens axlar. Det finns många frågor som jag inte har svar på, och många frågor som jag kan ställa som jag hoppas AI kan hjälpa mig med.
Det är mycket dåligt att politiker i decennier har försökt ignorera de problem som vi just har diskuterat. De är alltid redo att göra uttalanden, de har alltid planer, men de vill inte förstå kontraproduktiviteten i att tiga om problemet med konflikten mellan teknik och samhälle. Tack för din uppmärksamhet!
Tack för att du stannar hos oss. Gillar du våra artiklar? Vill du se mer intressant innehåll? Stöd oss genom att lägga en beställning eller rekommendera till vänner, 30 % rabatt för Habr-användare på en unik analog av nybörjarservrar, som uppfanns av oss för dig: (tillgänglig med RAID1 och RAID10, upp till 24 kärnor och upp till 40 GB DDR4).
Dell R730xd 2 gånger billigare? Bara här i Nederländerna! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - från $99! Läs om
Källa: will.com