Jeg tror at problemet ikke er at maskiner vil erstatte mennesker på arbeidsplassen deres, inkludert i den intellektuelle sfæren, og ikke at datamaskiner ser ut til å ha tatt til våpen mot folk med høyere utdanning og Twitter-kontoer. Implementeringen av AI skjer ikke raskt, men tvert imot er den for sakte. Hvorfor? Fordi dette er en normal syklus av menneskelig utvikling, og vi skjønner rett og slett ikke at ødeleggelsene vi ser betyr innføring av ny teknologi, som, før den skaper nye arbeidsplasser, ødelegger gamle.
Teknologier ødelegger utdaterte industrier og skaper nye, dette er skapelsesprosessen, dette er utviklingssyklusen. Hvis du prøver å forlenge smerten ved å sette inn gamle teknologier i prosessen eller skape noen fordeler for utdaterte teknologier, vil du ganske enkelt bremse prosessen og gjøre den mer smertefull. Det vil skje uansett, men problemet er at vi regulerer prosessen ved å lage regler som bevisst bremser den. Jeg tror dette er et større problem enn de vi er tydeligere klar over. Dette er mer et psykologisk problem der folk lurer på: "hvordan kan du føle deg trygg mens du er i en selvkjørende bil?"
Jeg så inn i historien og lærte at for hundre år siden var en av de mektigste fagforeningene i New York heisarbeiderforeningen, som forente 17 tusen arbeidere. Forresten, på den tiden var det allerede en teknologi der du bare kunne trykke på en knapp og du var ferdig, men folk stolte ikke på det! Det er bare forferdelig å måtte trykke på knappen selv for å ringe heisen! Vet du hvorfor denne fagforeningen "døde" og folk begynte å bruke knappene selv? For en dag bestemte heisarbeiderne seg for å streike. De streiket, og da risikerte menneskene som måtte klatre til toppen av Empire State Building å trykke på knappene med egne hender.
Husk hva de sa for 20-30 år siden om barn eller barnebarn da de satte seg bak rattet i en bil: «dette er forferdelig, bare se på statistikken, for biler er en av hovedårsakene til menneskelig dødelighet, hvordan kan de risikere livene deres?"
Så alt dette er ren psykologi. Vi legger lite vekt på hvor mange som dør i bilulykker, men når én person blir drept av en selvkjørende bil, blir hendelsen blåst ut av proporsjoner. Enhver feil, enhver feil i kunstig intelligens-teknologier dekkes umiddelbart på forsidene til avisene. Men se på statistikken, se på antall hendelser, så ser du hvor liten prosentandel av det totale antallet ulykker det er. Derfor vil det menneskelige fellesskapet vinne bare hvis det kan gå videre uten å bli lammet av slik frykt.
En annen sak dukker opp når vi snakker om falske nyheter eller nettsikkerhet, dette er veldig politiserte temaer og jeg får mange telefoner som spør hvordan jeg takler AI-hatere. Jeg skriver for eksempel en vanlig blogg, og det nye innlegget mitt, som publiseres om et par dager, snakker om hat og det faktum at frelse fra hat ligger i kunnskap, i læring. Vi må bare forstå at dette problemet eksisterte lenge før alle disse tingene ble oppfunnet, det er bare at dets betydning nå har økt takket være Internett, som når ut til millioner og milliarder av mennesker.
Jeg tror det faktisk er en god ting når noen prøver å stoppe fremgang ved å prøve å forby AI, og du vet at det ikke vil fungere fordi vi har Putin og andre skurker, uansett hvor de er, som bruker mot oss er våre egne teknologier skapt i den frie verden. Så jeg tror vi bare bør akseptere det som gitt.
Essensen av problemet ligger bare i oss, og svarene på spørsmålene ligger i oss, i vår egen styrke og vår egen selvtillit. Jeg hevder at intelligente maskiner ikke kan gjøre oss «foreldet». Imidlertid må det huskes at det er visse begrensninger når det gjelder menneske-datamaskin-samarbeid, og i stor grad er dette bare rykter som har eksistert før. Som alltid er dette rett og slett nye muligheter som ødelegger den gamle verden og skaper en ny, og jo lenger vi går fremover, jo bedre har vi det.
I dag ligner det mest på et trekk inn i science fiction-verdenen. Det paradoksale er at hvis vi ser tilbake 50-60 år, vil vi se at i den tiden var science fiction absolutt positivt, det var en fullstendig utopi. Men så skjedde det en gradvis overgang fra utopi til dystopi, på en slik måte at vi ikke lenger ønsker å høre noe om menneskehetens fremtid.
Dette skjedde ikke over natten. Det var en tid da folk bestemte at romutforskning var for risikabelt. Dette er faktisk en stor risiko, men forestill deg at i 1969, da amerikanerne landet på månen, var hele datakraften til NASA mindre enn kraften til en hvilken som helst moderne dataenhet som får plass i lommen. Denne enheten er tusen ganger kraftigere enn superdatamaskinen som eksisterte for 40 år siden. Bare forestill deg datakraften du har i lommen! Jeg er imidlertid ikke sikker på at Apple iPhone 7 har samme datakraft som Apollo 7 hadde, det vil si at den er i stand til å produsere samme effekt.
Imidlertid har maskiner gitt oss mange store fremskritt innen rom- eller havutforskning, og vi må forstå at datamaskiner gir oss muligheten til å ta store risikoer.
Jeg vil avslutte talen min med en positiv tone. Viser ikke dette lysbildet positive bilder? Bildet i nedre høyre hjørne er ikke photoshoppet, jeg møtte faktisk Terminator i 2003.
Han elsket også sjakk siden barndommen, men han studerte det ikke spesielt, så han tapte veldig raskt. Så jeg ble veldig overrasket da han 6 måneder senere stilte som guvernør i California og vant!
Hvorfor kaller jeg disse bildene positive? For selv om gamle Arnold i alle episodene unntatt den første alltid står på vinnernes side og aldri blir lei av å kjempe mot nye maskiner, er det i den første episoden vi ser kombinasjonen jeg snakket om - dette er når en person pluss en gammel maskin pluss et perfekt grensesnitt beseirer den nyeste bilen.
Du kan si: "Ja, maskiner er sterkere enn mennesker fordi de kan beregne absolutt alt!" Poenget er imidlertid ikke at de kan beregne alt. For eksempel, i sjakk kan vi teknisk sett snakke om den matematiske uendeligheten av antall mulige trekk, lik 1045, som ikke er vanskelig for noen moderne datamaskin å beregne. Det som imidlertid er viktig i spillet er ikke beregningene, men det faktum at datamaskinen er foran personen, fordi den alltid styres av reglene. Og du vet effekten av disse reglene, og du vet hvorfor datamaskinen velger det beste trekket fra et stort utvalg av mulige trekk.
Men hvis vi vender oss til det virkelige liv, er jeg ikke sikker på at en datamaskin alltid kan være nyttig. La oss se på den mest typiske situasjonen - du har en datamaskin som overvåker budsjettet ditt, du er i en butikk og skal kjøpe en dyr gave. Datamaskinen vurderer kjøpet og sier, "nei, du har ikke råd til denne varen fordi du vil være over budsjettet." Maskinen har beregnet alt, men det er en liten nyanse - barnet ditt står ved siden av deg, og denne gaven er beregnet på bursdagen hans. Ser du hvordan dette endrer betingelsene for problemet? Dette endrer alt fordi barnet venter på denne gaven.
Jeg kan begynne å legge til disse små tingene som endrer alt, men jeg tror ikke de kan inkluderes i problemstillingen og få den rette løsningen. Vi har mange regler, men vi må fortsatt stille spørsmål fordi ting endrer seg. Dette er det som kan kalles en ordinær situasjon, men hvis du ser på disse filmene kan du si at situasjonen som vises her er mer dramatisk og ekstraordinær. Dette lysbildet viser et stillbilde fra episode V av Star Wars: The Empire Strikes Back.
Han Solo piloterer skipet rett gjennom et asteroidefelt, og C-3PO får panikk og rapporterer at sjansen for å overleve feltet er 1:3122. Han Solo sier til ham: "Ikke fortell meg hva sjansene våre er!" Her oppstår spørsmålet, hvem har mest rett i denne situasjonen?
Teknologien representert av C-3PO er helt riktig, fordi sjansen for å overleve har en tendens til null. Det er mulig at, fra en robots perspektiv, å bli tatt til fange av keiserlige styrker er et bedre valg som et menneske ikke engang ville vurdere enn å dø i et asteroidefelt. Men hvis datamaskinen bestemmer seg for at å overgi seg til imperiet er det beste alternativet, så kan vi anta at personen ikke har noen alternativer i det hele tatt. Det veldig viktige er at vi i begge tilfeller, ordinære og ekstraordinære, har muligheten til å ta den endelige avgjørelsen, og for å ta en slik beslutning krever fortsatt menneskelig ledelse.
Noen ganger betyr dette at du må gå imot datamaskinens anbefalinger. Poenget med menneskelig ledelse er ikke å vite oddsen, men å stille spørsmålene som virkelig betyr noe, ikke bare i dag eller i morgen, men langt inn i fremtiden. Denne prosessen kan kalles «menneskelig veiledning» eller «menneskelig inngripen», og påvirker uten hjelp av intelligente maskiner. Dette er hva vår kurs skal være i dette århundret.
Noen ganger blir folk overrasket over min optimisme om intelligente maskiner, gitt min erfaring med dem, men jeg er virkelig optimist. Og jeg er sikker på at dere alle er like optimistiske med tanke på fremtiden til AI. Men vi må huske at teknologiene våre er agnostiske. Den er verken god eller dårlig, men kan brukes på både godt og ondt. Maskiner må bli smartere og dyktigere. Og vi mennesker må gjøre det bare mennesker kan gjøre - drømme, drømme til det fulle, og så vil vi kunne trekke ut alle fordelene som disse fantastiske nye verktøyene gir.
Som planlagt har vi fortsatt 10 minutter igjen til å svare på spørsmål.
Spørsmål: Tror du det ville være mulig å lage et maskinlæringssystem som kan bestemme hvilke trekk som er mer i samsvar med den menneskelige spillestilen?
Kasparov: For det første forventer vi ikke at datamaskinen forteller oss det første trekket og de resterende 17505 9 trekkene. Jeg tror vi bør stole på at maskinen gir de beste anbefalingene for unike trekk. Forresten bruker førsteklasses spillere datamaskiner som en guide, og hjelper dem å ta den mest passende posisjonen i spillet. Jeg gjentar nok en gang - i 10 tilfeller av XNUMX er datamaskinens vurdering av situasjonen langt overlegen vurderingen en person kan gjøre.
Spørsmål: Er du enig i at ekte intelligens krever valgfrihet, frihet til å ta avgjørelser som bare en person kan ta? Tross alt er Deep Blue-programvare og andre dataprogrammer skrevet av folk, og når du taper mot Deep Blue, taper du ikke til datamaskinen, men til programmererne som har skrevet programmet. Spørsmålet mitt er: er det noen fare fra noen form for maskinintelligens så lenge datamaskiner har valgfrihet?
Kasparov: her må jeg gå fra vitenskap til filosofi. Alt er klart om Deep Blue - det er resultatet av en enorm mengde menneskelig arbeid. I de fleste tilfeller, selv når det gjelder Demis Hassabis' AlphaGo, er disse alle produkter av menneskelig intelligens. Jeg vet ikke om maskiner kan ha valgfrihet, men jeg tror at uansett hva vi gjør, hvis vi vet hvordan vi skal gjøre det, vil maskiner gjøre det bedre. Men når vi gjør det meste, vet vi ikke hvordan vi skal gjøre det på den beste måten, så vi kan ofte ikke forstå hva vi skal lykkes med. Enkelt sagt har vi et mål, men vi vet ikke hva det er, og maskinens rolle er å hjelpe oss å realisere det målet. Derfor, hvis vi snakker om fritt valg av datamaskiner, bør det være med på å binde oss til dette målet. Jeg tror dette er en veldig fjern fremtid for datamaskiner.
Spørsmål: Hva tenker du om menneskelige egenskaper som mot og moral, og avgjørelsene som kunstig intelligens kan ta basert på dem? Hva skal for eksempel en selvkjørende bil gjøre - kjøre over et barn eller unngå å treffe det ved å krasje inn i en stein og drepe passasjeren?
Kasparov: Dette er hva folk kaller "følelser", de er ikke kvantifiserbare fordi de er en hel haug med forskjellige menneskelige egenskaper. Hvis vi snakker om mot, strider denne egenskapen alltid mot sjansene for å velge det optimale alternativet. Tapperhet, som andre menneskelige følelser, er per definisjon i strid med nøyaktige beregninger.
Spørsmål: Mr. Kasparov, spørsmålet mitt gjelder ikke datamaskiner: hva er det i kolben din og kan jeg prøve det?
Kasparov: hva mener du?
Programleder: Han spør hva du har i lomma!
Kasparov: i lommen min? "Stolichnaya"! Dette er ikke en reklame, hvis du la merke til det, kastet jeg den.
Spørsmål: Hvem tror du blir den neste verdensmesteren i sjakk, og har den unge kinesiske sjakkspilleren Wei Yi en sjanse til å detronisere Carelsen som sjakkkongen?
Kasparov: Karelsen er spiller nummer 1, han er ikke verdensmester, men rett og slett den beste sjakkspilleren i verden i henhold til ratingen. Han fyller 27 år i år, så han er fortsatt ung, men ikke veldig ung etter dagens standard. Jeg tror Wei Yi er 18 eller 19 år nå. Magnus er foran unge spillere som amerikanerne Wesley So og Fabiano Kerouana, og Wei Yi kan potensielt være hans motstander. Men for å bli verdensmester trenger du talent, du trenger ikke være ung og energisk, bare ha litt flaks. Så for å svare på spørsmålet kan jeg si – ja, han har en sjanse til å slå Magnus Carelsen.
Spørsmål: Da du snakket om deterministiske algoritmer og maskinlæring, nevnte du muligheten for å bruke maskiner som verktøy for å komplementere intelligensen vår. Hva med muligheten for å maksimere ressursene før du lager kraftig AI, eller til og med legger en menneskelig hjerne inn i en datamaskin?
Kasparov: Jeg er ikke flau over å innrømme min uvitenhet når jeg ikke er sikker på at jeg ikke er i stand til å svare riktig på et spørsmål. Jeg prøver så godt jeg kan å forstå hva den menneskelige hjernen er, hvis vi vurderer den atskilt fra menneskekroppen, hvilke funksjoner den utfører. For det er vanskelig å forestille seg hvordan hjernen vil oppføre seg separat fra kroppen. Kanskje et slikt eksperiment kan gjøres i fremtiden, men jeg er overbevist om at kombinasjonen av den menneskelige hjernen, menneskelige følelser og følelser med en datamaskin vil danne et "sinn" som vil være mye mer effektivt enn en hjerne som er ekstrahert og frosset, brukt som en enhet fylt med nevroner.
Spørsmål: Finnes det en universell grunnleggende tilnærming til problemet med å erstatte menneskelige jobber med datamaskiner?
Kasparov: Jeg tror dette er et veldig viktig spørsmål, fordi det er klart at vi nærmer oss et punkt hvor mange mennesker kan være arbeidsledige. Dette er paradokset til teknologisk fremgang: På den ene siden har vi de nyeste teknologiene som gir enorme konkurransefortrinn til den yngre generasjonen som arbeider med disse enhetene og teknologiene. På den annen side har vi fremgang innen medisin og sunn ernæring, som forlenger menneskets liv og gir et menneske arbeidsevne i mange år. Slik sett kan ikke generasjonen på 50-, 60- eller til og med 40-tallet konkurrere med dagens ungdom. Vi må finne en løsning på denne paradoksale situasjonen der gapet mellom generasjoner er så stort. Historisk erfaring sier at et slikt gap alltid fører til en stor eksplosjon. Jeg mener gapet mellom den eksisterende sosiale infrastrukturen i samfunnet og teknologisk fremgang.
Dette er en sak politikerne helst utsetter til neste valg. Ingen vil snakke om det fordi det er et sensitivt tema. Det er veldig enkelt å trykke penger og håpe at noen vil betale for det en gang i fremtiden. Så det er mange paradokser på dette området, for eksempel akkumulering av gjeld for å gi sosiale garantier til den eldre generasjonen i forventning om at byrden med å betale ned denne gjelden vil falle på skuldrene til den yngre generasjonen. Det er mange spørsmål jeg ikke har svar på, og mange spørsmål jeg kan stille som jeg håper AI kan hjelpe meg med.
Det er veldig ille at politikere i flere tiår har forsøkt å ignorere problemene som vi nettopp har diskutert. De er alltid klare til å uttale seg, de har alltid planer, men de vil ikke forstå det kontraproduktive ved å tie om problemet med konflikten mellom teknologi og samfunn. Takk for din oppmerksomhet!
Takk for at du bor hos oss. Liker du artiklene våre? Vil du se mer interessant innhold? Støtt oss ved å legge inn en bestilling eller anbefale til venner, 30 % rabatt for Habr-brukere på en unik analog av inngangsnivåservere, som ble oppfunnet av oss for deg: (tilgjengelig med RAID1 og RAID10, opptil 24 kjerner og opptil 40 GB DDR4).
Dell R730xd 2 ganger billigere? Bare her i Nederland! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - fra $99! Lese om
Kilde: www.habr.com