Jeg tror, at problemet ikke er, at maskiner vil erstatte mennesker på deres arbejdsplads, også på den intellektuelle sfære, og ikke at computere ser ud til at have grebet til våben mod folk med videregående uddannelser og Twitter-konti. Implementeringen af AI sker ikke hurtigt, men tværtimod er den for langsom. Hvorfor? Fordi dette er en normal cyklus af menneskelig udvikling, og vi er simpelthen ikke klar over, at den ødelæggelse, vi ser, betyder indførelsen af ny teknologi, som, før den skaber nye job, ødelægger gamle.
Teknologier ødelægger forældede industrier og skaber nye, dette er skabelsesprocessen, dette er udviklingscyklussen. Hvis du forsøger at forlænge smerten ved at indsætte gamle teknologier i processen eller skabe nogle fordele for forældede teknologier, vil du simpelthen bremse processen og gøre den mere smertefuld. Det vil ske alligevel, men problemet er, at vi regulerer processen ved at lave regler, der bevidst bremser den. Jeg tror, det er et større problem end dem, vi er mere klar over. Dette er mere et psykologisk problem, hvor folk stiller spørgsmålet: "hvordan kan du føle dig sikker, mens du er i en selvkørende bil?"
Jeg kiggede ind i historien og lærte, at for hundrede år siden var en af de mest magtfulde fagforeninger i New York elevatorarbejdernes fagforening, som forenede 17 tusinde arbejdere. Forresten, på det tidspunkt var der allerede en teknologi, hvor du bare kunne trykke på en knap, og du var færdig, men folk stolede ikke på det! Det er bare forfærdeligt at skulle trykke på knappen selv for at ringe til elevatoren! Ved du, hvorfor denne fagforening "døde", og folk begyndte at bruge knapperne selv? For en dag besluttede elevatorarbejderne sig for at gå i strejke. De gik i strejke, og så risikerede de mennesker, der skulle klatre til toppen af Empire State Building, at trykke på knapperne med deres egne hænder.
Husk, hvad de sagde for 20-30 år siden om børn eller børnebørn, da de satte sig bag rattet i en bil: "det er forfærdeligt, se bare på statistikken, for biler er en af hovedårsagerne til menneskelig dødelighed, hvordan kan de risikere deres liv?"
Så alt dette er ren psykologi. Vi er lidt opmærksomme på, hvor mange mennesker der dør i bilulykker, men når først én person bliver dræbt af en selvkørende bil, bliver begivenheden blæst ud af proportioner. Enhver fejl, enhver fejl i kunstig intelligens-teknologier er straks dækket på forsiden af aviser. Men se på statistikken, se på antallet af hændelser, og du vil se, hvor en lillebitte procentdel af det samlede antal ulykker er. Derfor vil det menneskelige samfund kun vinde, hvis det kan komme videre uden at blive lammet af en sådan frygt.
Et andet spørgsmål dukker op, når vi taler om falske nyheder eller cybersikkerhed, det er meget politiserede emner, og jeg får mange opkald, der spørger, hvordan jeg håndterer AI-hadere. For eksempel skriver jeg en almindelig blog, og mit nye indlæg, som udkommer om et par dage, fortæller om had og det faktum, at frelsen fra had ligger i viden, i læring. Vi skal bare forstå, at dette problem eksisterede længe før alle disse ting blev opfundet, det er bare, at dets betydning nu er steget takket være internettet, som når ud til millioner og milliarder af mennesker.
Jeg tror faktisk, det er en god ting, når nogen forsøger at stoppe fremskridt ved at forsøge at forbyde AI, og du ved, at det ikke vil virke, fordi vi har Putin og andre skurke, uanset hvor de er, som bruger mod os er vores egne teknologier skabt i den frie verden. Så jeg synes, vi bare skal acceptere det som givet.
Essensen af problemet ligger kun i os, og svarene på spørgsmålene ligger i os, i vores egen styrke og vores egen tillid. Jeg hævder, at intelligente maskiner ikke kan gøre os "forældede". Man skal dog huske på, at der er visse begrænsninger i forhold til menneske-computer-samarbejde, og det er i høj grad blot rygter, der har eksisteret før. Som altid er det simpelthen nye muligheder, der ødelægger den gamle verden og skaber en ny, og jo længere vi kommer frem, jo bedre bliver vi stillet.
I dag minder det mest om et skridt ind i science fiction-verdenen. Det paradoksale er, at hvis vi ser tilbage 50-60 år, vil vi se, at science fiction dengang var absolut positiv, det var en komplet utopi. Men så skete der en gradvis overgang fra utopi til dystopi, på en sådan måde, at vi ikke længere ønsker at høre noget om menneskehedens fremtid.
Dette skete ikke fra den ene dag til den anden. Der var engang, hvor folk besluttede, at udforskning af rummet var for risikabelt. Dette er faktisk en stor risiko, men forestil dig, at i 1969, da amerikanerne landede på månen, var hele NASA's computerkraft mindre end kraften af enhver moderne computerenhed, der passer i din lomme. Denne enhed er tusind gange stærkere end supercomputeren, der eksisterede for 40 år siden. Bare forestil dig den computerkraft, du har i lommen! Jeg er dog ikke sikker på, at Apple iPhone 7 har den samme regnekraft, som Apollo 7 havde, det vil sige, at den er i stand til at producere den samme effekt.
Maskiner har dog givet os mange store fremskridt inden for rum- eller havudforskning, og vi må forstå, at computere giver os muligheden for at tage store risici.
Jeg vil gerne afslutte min tale med en positiv tone. Viser dette dias ikke positive billeder? Billedet i nederste højre hjørne er ikke photoshoppet, jeg mødte faktisk Terminator i 2003.
Han elskede også skak siden barndommen, men han studerede det ikke specifikt, så han tabte meget hurtigt. Så jeg var meget overrasket, da han 6 måneder senere stillede op som guvernør i Californien og vandt!
Hvorfor kalder jeg disse billeder positive? For selvom gamle Arnold i alle afsnit undtagen det første altid står på vindernes side og aldrig bliver træt af at kæmpe mod nye maskiner, så er det i første afsnit, at vi ser den kombination, jeg talte om - det er da en person plus en gammel maskine plus en perfekt grænseflade besejrer den nyeste bil.
Du kan sige: "ja, maskiner er stærkere end mennesker, fordi de kan beregne absolut alt!" Pointen er dog ikke, at de kan beregne alt. For eksempel kan vi i skak teknisk tale om den matematiske uendelighed af antallet af mulige træk, svarende til 1045, som ikke er vanskelige for enhver moderne computer at beregne. Det vigtige i spillet er dog ikke beregningerne, men det faktum, at computeren er foran personen, fordi den altid er styret af reglerne. Og du kender effekten af disse regler, og du ved, hvorfor computeren vælger det bedste træk fra en lang række mulige træk.
Men hvis vi vender os til det virkelige liv, er jeg ikke sikker på, at en computer altid kan være nyttig. Lad os se på den mest typiske situation – du har en computer, der overvåger dit budget, du er i en butik og skal til at købe en dyr gave. Computeren evaluerer købet og siger, "nej, du har ikke råd til denne vare, fordi du vil overskride budgettet." Maskinen har beregnet alt, men der er en lille nuance - dit barn står ved siden af dig, og denne gave er beregnet til hans fødselsdag. Kan du se, hvordan dette ændrer betingelserne for problemet? Dette ændrer alt, fordi barnet venter på denne gave.
Jeg kan begynde at tilføje disse små ting, der ændrer alt, men jeg tror ikke, de kan indgå i problemformuleringen og få den rigtige løsning. Vi har mange regler, men vi er stadig nødt til at stille spørgsmål, fordi tingene ændrer sig. Det er det, man kan kalde en almindelig situation, men hvis man ser på disse film, kan man sige, at den her viste situation er mere dramatisk og ekstraordinær. Dette dias viser et stillbillede fra afsnit V af Star Wars: The Empire Strikes Back.
Han Solo piloterer skibet direkte gennem et asteroidefelt, og C-3PO går i panik og rapporterer, at chancen for at overleve feltet er 1:3122. Han Solo siger til ham: "Fortæl mig aldrig, hvad vores chancer er!" Her opstår spørgsmålet, hvem har mest ret i denne situation?
Teknologien repræsenteret af C-3PO er helt rigtig, fordi chancen for overlevelse har en tendens til nul. Det er muligt, fra en robots perspektiv, at blive fanget af kejserlige styrker er et bedre valg, som et menneske ikke engang ville overveje end at dø i et asteroidefelt. Men hvis computeren beslutter, at overgivelse til imperiet er den bedste mulighed, så kan vi antage, at personen slet ikke har nogen muligheder. Det meget vigtige er, at vi i begge tilfælde, almindelige og ekstraordinære, har mulighed for at træffe den ultimative beslutning, og at træffe en sådan beslutning kræver stadig menneskelig ledelse.
Nogle gange betyder det, at du skal gå imod computerens anbefalinger. Pointen med menneskelig ledelse er ikke at kende oddsene, men at stille de spørgsmål, der virkelig betyder noget, ikke bare i dag eller i morgen, men langt ud i fremtiden. Denne proces kan kaldes "menneskelig vejledning" eller "menneskelig indgriben", der påvirker uden hjælp fra intelligente maskiner. Det er, hvad vores kurs skal være i dette århundrede.
Folk bliver nogle gange overrasket over min optimisme omkring intelligente maskiner, givet min erfaring med dem, men jeg er virkelig optimist. Og jeg er sikker på, at I alle er lige optimistiske med hensyn til AIs fremtid. Men vi skal huske, at vores teknologier er agnostiske. Det er hverken godt eller ondt, men kan bruges på både godt og ondt. Maskiner skal blive smartere og mere dygtige. Og vi mennesker skal gøre, hvad kun mennesker kan - drømme, drømme fuldt ud, og så vil vi være i stand til at udvinde alle de fordele, som disse fantastiske nye værktøjer bringer.
Som planlagt har vi stadig 10 minutter tilbage til at besvare spørgsmål.
Spørgsmål: Tror du, det ville være muligt at skabe et maskinlæringssystem, der kunne afgøre, hvilke træk der er mere i overensstemmelse med den menneskelige spillestil?
Kasparov: Først og fremmest forventer vi ikke, at computeren fortæller os det første træk og de resterende 17505 træk. Jeg tror, vi skal stole på, at maskinen giver de bedste anbefalinger til unikke bevægelser. Forresten bruger topklassespillere computere som guide, og hjælper dem med at indtage den bedst egnede position i spillet. Jeg gentager endnu en gang - i 9 ud af 10 tilfælde er computerens vurdering af situationen langt bedre end den vurdering, en person kan foretage.
Spørgsmål: Er du enig i, at ægte intelligens kræver valgfrihed, frihed til at træffe beslutninger, som kun en person kan træffe? Deep Blue-software og andre computerprogrammer er jo skrevet af mennesker, og når du taber til Deep Blue, taber du ikke til computeren, men til programmørerne, der har skrevet programmet. Mit spørgsmål er: er der nogen fare ved nogen form for maskinintelligens, så længe computere har valgfrihed?
Kasparov: her skal jeg gå fra videnskab til filosofi. Alt er klart om Deep Blue - det er resultatet af en enorm mængde menneskeligt arbejde. I de fleste tilfælde, selv i tilfældet med Demis Hassabis' AlphaGo, er disse alle produkter af menneskelig intelligens. Jeg ved ikke, om maskiner kan have valgfrihed, men jeg tror, at uanset hvad vi gør, hvis vi ved, hvordan man gør det, vil maskiner gøre det bedre. Men når vi gør det meste, ved vi ikke, hvordan vi gør dem på den bedste måde, så vi kan ofte ikke forstå, hvad vi vil lykkes med. Kort sagt har vi et mål, men vi ved ikke, hvad det er, og maskinens rolle er at hjælpe os med at realisere det mål. Derfor, hvis vi taler om frit valg af computere, så skulle det være med til at binde os til dette mål. Jeg tror, det er en meget fjern fremtid for computere.
Spørgsmål: Hvad tænker du om menneskelige egenskaber som mod og moral, og de beslutninger, kunstig intelligens kan træffe på baggrund af dem? Hvad skal en selvkørende bil for eksempel gøre - køre over et barn eller undgå at ramme det ved at køre ind i en sten og dræbe passageren?
Kasparov: Det er, hvad folk kalder "følelser", de er ikke kvantificerbare, fordi de er en hel masse forskellige menneskelige egenskaber. Hvis vi taler om mod, så er denne egenskab altid i modstrid med chancerne for at vælge den optimale mulighed. Tapperhed, ligesom andre menneskelige følelser, er per definition i modstrid med nøjagtige beregninger.
Spørgsmål: Hr. Kasparov, mit spørgsmål vedrører ikke computere: hvad er der i din kolbe, og kan jeg prøve det?
Kasparov: hvad mener du?
Vært: Han spørger, hvad der er i din lomme!
Kasparov: i min lomme? "Stolichnaya"! Dette er ikke en reklame, hvis du lagde mærke til det, smed jeg den væk.
Spørgsmål: Hvem tror du bliver den næste verdensmester i skak, og har den unge kinesiske skakspiller Wei Yi en chance for at detronisere Carelsen som skakkens konge?
Kasparov: Karelsen er spiller nummer 1, han er ikke verdensmester, men simpelthen den bedste skakspiller i verden ifølge ratingen. Han fylder 27 i år, så han er stadig ung, men ikke særlig ung efter nutidens standarder. Jeg tror, Wei Yi er 18 eller 19 år gammel nu. Magnus er foran unge spillere som amerikanerne Wesley So og Fabiano Kerouana, og Wei Yi kan potentielt være hans modstander. Men for at blive verdensmester har du brug for talent, du behøver ikke at være ung og energisk, bare have lidt held. Så for at besvare spørgsmålet kan jeg sige - ja, han har en chance for at slå Magnus Carelsen.
Spørgsmål: Da du talte om deterministiske algoritmer og maskinlæring, nævnte du muligheden for at bruge maskiner som værktøjer til at komplementere vores intelligens. Hvad med muligheden for at maksimere ressourcerne, før du skaber kraftfuld AI, eller endda sætter en menneskelig hjerne ind i en computer?
Kasparov: Jeg er ikke flov over at indrømme min uvidenhed, når jeg ikke er sikker på, at jeg ikke er i stand til at besvare et spørgsmål korrekt. Jeg prøver mit bedste for at forstå, hvad den menneskelige hjerne er, hvis vi betragter den adskilt fra den menneskelige krop, hvilke funktioner den udfører. For det er svært at forestille sig, hvordan hjernen vil opføre sig adskilt fra kroppen. Måske kunne et sådant eksperiment udføres i fremtiden, men jeg er overbevist om, at kombinationen af den menneskelige hjerne, menneskelige følelser og følelser med en computer vil danne et "sind", der vil være meget mere effektivt end en hjerne udvundet og frosset, brugt som en enhed fyldt med neuroner.
Spørgsmål: Findes der en universel grundlæggende tilgang til problemet med at erstatte menneskelige job med computere?
Kasparov: Jeg synes, det er et meget vigtigt spørgsmål, for det er klart, at vi nærmer os det punkt, hvor mange mennesker kan være arbejdsløse. Dette er paradokset ved teknologiske fremskridt: På den ene side har vi de nyeste teknologier, der giver enorme konkurrencefordele til den yngre generation, der beskæftiger sig med disse enheder og teknologier. På den anden side har vi fremskridt inden for medicin og sund ernæring, som forlænger menneskets liv og giver et menneske evnen til at arbejde i mange år. I den forstand kan generationen af 50'erne, 60'erne eller endda 40'erne ikke konkurrere med nutidens unge. Vi skal finde en løsning på denne paradoksale situation, hvor kløften mellem generationerne er så stor. Historisk erfaring siger, at et sådant hul altid fører til en stor eksplosion. Jeg mener kløften mellem den eksisterende sociale infrastruktur i samfundet og teknologiske fremskridt.
Det er et emne, som politikerne foretrækker at udsætte til næste valg. Ingen ønsker at tale om det, fordi det er et følsomt emne. Det er meget nemt at udskrive penge og håbe på, at nogen vil betale for dem en dag i fremtiden. Så der er mange paradokser på dette område, for eksempel ophobning af gæld for at give sociale garantier til den ældre generation i forventning om, at byrden med at betale af på denne gæld vil falde på skuldrene af den yngre generation. Der er mange spørgsmål, som jeg ikke har svar på, og en masse spørgsmål, som jeg kunne stille, som jeg håber, at AI kan hjælpe mig med.
Det er meget slemt, at politikere i årtier har forsøgt at ignorere de problemer, som vi lige har diskuteret. De er altid klar til at komme med udtalelser, de har altid planer, men de ønsker ikke at forstå det kontraproduktive i at tie om problemet med konflikten mellem teknologi og samfund. Tak for din opmærksomhed!
Tak fordi du blev hos os. Kan du lide vores artikler? Vil du se mere interessant indhold? Støt os ved at afgive en ordre eller anbefale til venner, 30% rabat til Habr-brugere på en unik analog af entry-level servere, som er opfundet af os til dig: (tilgængelig med RAID1 og RAID10, op til 24 kerner og op til 40 GB DDR4).
Dell R730xd 2 gange billigere? Kun her i Holland! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - fra $99! Læse om
Kilde: www.habr.com