Mislim, da ni problem v tem, da bodo stroji nadomestili ljudi na njihovem delovnem mestu, tudi v intelektualni sferi, in ne v tem, da se zdi, da so se računalniki oborožili nad ljudmi z visoko izobrazbo in Twitter računi. Implementacija AI ne poteka hitro, ampak ravno nasprotno, prepočasi. Zakaj? Ker je to normalen cikel človeškega razvoja in se preprosto ne zavedamo, da uničenje, ki ga vidimo, pomeni uvajanje nove tehnologije, ki, preden ustvari nova delovna mesta, uniči stara.
Tehnologije uničujejo zastarele industrije in ustvarjajo nove, to je proces ustvarjanja, to je razvojni cikel. Če boste poskušali podaljševati agonijo z vstavljanjem starih tehnologij v proces ali ustvarjanjem nekaterih prednosti za zastarele tehnologije, boste preprosto upočasnili proces in ga naredili bolj bolečega. Vseeno se bo zgodilo, a težava je v tem, da proces reguliramo tako, da ustvarjamo pravila, ki ga namerno upočasnjujejo. Mislim, da je to večji problem od tistih, ki se jih jasneje zavedamo. To je bolj psihološki problem, kjer si ljudje zastavljajo vprašanje: "kako se lahko počutiš varno, ko si v samovozečem avtomobilu?"
Pogledal sem v zgodovino in izvedel, da je bil pred sto leti eden najmočnejših sindikatov v New Yorku sindikat delavcev dvigal, ki je združeval 17 tisoč delavcev. Mimogrede, takrat je že obstajala tehnologija, kjer lahko samo pritisnete gumb in ste končali, vendar ji ljudje niso zaupali! Grozno je, da moraš sam pritisniti na gumb, da pokličeš dvigalo! Ali veste, zakaj je ta sindikat "umrl" in so ljudje sami začeli uporabljati gumbe? Ker so se delavci dvigal nekega dne odločili za stavko. Začeli so stavkati, nato pa so ljudje, ki so se morali povzpeti na vrh Empire State Buildinga, tvegali, da bodo gumbe pritiskali z lastnimi rokami.
Spomnite se, kaj so pred 20-30 leti govorili o otrocih ali vnukih, ko so sedli za volan avtomobila: »to je grozno, samo poglejte statistiko, ker so avtomobili eden glavnih vzrokov človeške smrti, kako lahko tvegajo njihova življenja?"
Torej, vse to je čista psihologija. Malo pozornosti posvečamo temu, koliko ljudi umre v prometnih nesrečah, toda ko eno osebo ubije samovozeči avtomobil, dogodek postane nesorazmeren. Vsaka napaka, vsaka napaka v tehnologijah umetne inteligence je takoj pokrita na naslovnicah časopisov. Ampak poglejte statistiko, poglejte število incidentov, pa boste videli, kakšen majhen odstotek skupnega števila nesreč je to. Zato bo človeška skupnost zmagala le, če bo lahko šla naprej, ne da bi jo ohromili takšni strahovi.
Druga težava se pojavi, ko govorimo o lažnih novicah ali kibernetski varnosti, to so zelo politizirane teme in dobivam veliko klicev, ki me sprašujejo, kako se soočam s sovražniki umetne inteligence. Pišem na primer redni blog in moja nova objava, ki bo objavljena čez nekaj dni, govori o sovraštvu in o tem, da je rešitev pred sovraštvom v znanju, v učenju. Razumeti moramo le, da je ta problem obstajal že dolgo preden so bile vse te stvari izumljene, le da se je njegov pomen zdaj povečal zaradi interneta, ki dosega milijone in milijarde ljudi.
Mislim, da je pravzaprav dobra stvar, ko nekdo poskuša ustaviti napredek tako, da poskuša prepovedati umetno inteligenco, in veste, da to ne bo delovalo, ker imamo Putina in druge negativce, kjer koli že so, ki proti nam uporabljajo lastne tehnologije, ustvarjene v svobodni svet. Zato mislim, da bi morali to sprejeti kot danost.
Bistvo problema je le v nas, odgovori na vprašanja pa so v nas, v naši lastni moči in naši lastni samozavesti. Trdim, da nas inteligentni stroji ne morejo narediti "zastarelih". Ne smemo pa pozabiti, da obstajajo določene omejitve glede sodelovanja med človekom in računalnikom, v veliki meri pa so to le govorice, ki so obstajale že prej. Kot vedno so to preprosto nove priložnosti, ki uničujejo stari svet in ustvarjajo novega, in dlje ko gremo naprej, bolje nam bo.
Danes je še najbolj podoben premiku v svet znanstvene fantastike. Paradoks je, da če pogledamo 50-60 let nazaj, bomo videli, da je bila znanstvena fantastika v tistih časih absolutno pozitivna, bila je popolna utopija. Vendar je potem postopoma prišlo do prehoda iz utopije v distopijo, tako da nočemo več slišati ničesar o prihodnosti človeštva.
To se ni zgodilo čez noč. Bili so časi, ko so se ljudje odločili, da je raziskovanje vesolja preveč tvegano. To je sicer res veliko tveganje, a predstavljajte si, da je bila leta 1969, ko so Američani pristali na Luni, celotna računalniška moč Nase manjša od moči katerekoli sodobne računalniške naprave, ki jo lahko spravite v žep. Ta naprava je tisočkrat močnejša od superračunalnika, ki je obstajal pred 40 leti. Samo predstavljajte si, kakšno računalniško moč imate v žepu! Nisem pa prepričan, da ima Apple iPhone 7 enako računalniško moč, kot jo je imel Apollo 7, se pravi, da je sposoben ustvariti enak učinek.
Vendar pa so nam stroji omogočili številne velike napredke pri raziskovanju vesolja ali oceanov, zato moramo razumeti, da nam računalniki omogočajo veliko tveganje.
Svoj govor bi rad zaključil pozitivno. Ali ta diapozitiv ne prikazuje pozitivnih slik? Slika v spodnjem desnem kotu ni fotošopirana, Terminatorja sem dejansko srečal leta 2003.
Že od otroštva je imel rad tudi šah, a se ga ni posebej učil, zato je zelo hitro izgubil. Zato sem bil zelo presenečen, ko je 6 mesecev kasneje kandidiral za guvernerja Kalifornije in zmagal!
Zakaj te slike imenujem pozitivne? Ker čeprav v vseh epizodah, razen v prvi, stari Arnold vedno stoji na strani zmagovalcev in se nikoli ne naveliča boja proti novim strojem, ravno v prvi epizodi vidimo kombinacijo, o kateri sem govoril - to je, ko oseba plus star stroj plus popoln vmesnik premaga najnovejši avto.
Morda boste rekli: "Da, stroji so močnejši od ljudi, ker lahko izračunajo čisto vse!" Vendar ni bistvo v tem, da lahko izračunajo vse. Na primer, v šahu lahko tehnično govorimo o matematični neskončnosti števila možnih potez, enakih 1045, ki jih nobenemu sodobnemu računalniku ni težko izračunati. Vendar pri igri niso pomembni izračuni, ampak dejstvo, da je računalnik pred človekom, saj ga vedno vodijo pravila. In poznate učinek teh pravil in veste, zakaj računalnik izbere najboljšo potezo izmed velikega števila možnih potez.
Če pa se obrnemo na realno življenje, nisem prepričan, da je računalnik lahko vedno uporaben. Poglejmo najbolj tipično situacijo – imate računalnik, ki spremlja vaš proračun, ste v trgovini in nameravate kupiti drago darilo. Računalnik oceni nakup in reče: "ne, tega izdelka si ne morete privoščiti, ker boste presegli proračun." Stroj je izračunal vse, vendar obstaja majhna niansa - vaš otrok stoji poleg vas in to darilo je namenjeno njegovemu rojstnemu dnevu. Ali vidite, kako to spreminja pogoje problema? To spremeni vse, saj otrok čaka na to darilo.
Lahko začnem dodajati te majhne stvari, ki spremenijo vse, vendar mislim, da jih ni mogoče vključiti v izjavo problema in dobiti pravo rešitev. Imamo veliko pravil, vendar moramo še vedno postavljati vprašanja, ker se stvari spreminjajo. Temu lahko rečemo običajna situacija, a če pogledate te filme, lahko rečete, da je situacija, prikazana tukaj, bolj dramatična in nenavadna. Ta diapozitiv prikazuje posnetek iz Epizode V Vojne zvezd: Imperij vrača udarec.
Han Solo pilotira ladjo naravnost skozi asteroidno polje, C-3PO pa paniči in poroča, da je možnost preživetja v polju 1 : 3122. Han Solo mu reče: "Nikoli mi ne povej, kakšne so naše možnosti!" Tu se postavlja vprašanje, kdo ima v tej situaciji bolj prav?
Tehnologija, ki jo predstavlja C-3PO, je popolnoma pravilna, saj se možnost preživetja nagiba k ničli. Možno je, da je z robotovega vidika ujetost s strani imperialnih sil boljša izbira, ki je človek sploh ne bi pomislil kot smrt v asteroidnem polju. Toda če se računalnik odloči, da je predaja imperiju najboljša možnost, potem lahko domnevamo, da oseba sploh nima možnosti. Zelo pomembno je, da imamo v obeh primerih, navadnem in izrednem, možnost sprejeti končno odločitev, za takšno odločitev pa je še vedno potrebno človeško vodstvo.
Včasih to pomeni, da morate delovati v nasprotju s priporočili računalnika. Bistvo človeškega vodenja ni poznati možnosti, ampak zastaviti vprašanja, ki so resnično pomembna, ne samo danes ali jutri, ampak daleč v prihodnosti. Ta proces lahko imenujemo "človeško vodenje" ali "človeško posredovanje", ki vpliva brez pomoči inteligentnih strojev. To bi morala biti naša pot v tem stoletju.
Ljudje so včasih presenečeni nad mojim optimizmom glede inteligentnih strojev glede na moje izkušnje z njimi, vendar sem res optimist. In prepričan sem, da ste vsi enako optimistični glede prihodnosti umetne inteligence. Vendar se moramo zavedati, da so naše tehnologije agnostične. Ni niti dobra niti slaba, ampak se lahko uporablja tako za dobro kot za zlo. Stroji morajo postati pametnejši in zmogljivejši. In ljudje moramo narediti to, kar zmoremo le ljudje – sanjati, sanjati na polno in potem bomo lahko izvlekli vse prednosti, ki jih prinašajo ta neverjetna nova orodja.
Kot je bilo načrtovano, imamo še 10 minut časa za odgovore na vprašanja.
Vprašanje: Ali menite, da bi bilo mogoče ustvariti sistem strojnega učenja, ki bi lahko določil, katere poteze so bolj skladne s človeškim slogom igranja?
Kasparov: Prvič, ne pričakujemo, da nam bo računalnik povedal prvo potezo in preostalih 17505 potez. Mislim, da bi se morali zanašati na stroj, ki bo zagotovil najboljša priporočila za edinstvene poteze. Mimogrede, vrhunski igralci uporabljajo računalnike kot vodilo, ki jim pomaga zavzeti najprimernejši položaj v igri. Še enkrat ponavljam - v 9 primerih od 10 je računalniška ocena situacije veliko boljša od ocene, ki jo lahko naredi človek.
Vprašanje: Ali se strinjate, da resnična inteligenca zahteva svobodo izbire, svobodo sprejemanja odločitev, ki jih lahko sprejme le človek? Navsezadnje programsko opremo Deep Blue in druge računalniške programe pišejo ljudje, in ko izgubite proti Deep Blue, ne izgubite proti računalniku, ampak programerje, ki so napisali program. Moje vprašanje je: ali obstaja kakšna nevarnost zaradi kakršne koli strojne inteligence, dokler imajo računalniki svobodo izbire?
Kasparov: tukaj se moram premakniti od znanosti k filozofiji. Pri Deep Blue je vse jasno – je rezultat ogromne količine človeškega dela. V večini primerov, tudi v primeru AlphaGo Demisa Hassabisa, so vse to produkti človeške inteligence. Ne vem, ali imajo lahko stroji svobodo izbire, vendar verjamem, da kar koli počnemo, če vemo, kako to narediti, bodo stroji to naredili bolje. Ko pa večino stvari počnemo, jih ne znamo narediti na najboljši način, zato pogosto ne razumemo, kaj nam bo uspelo. Preprosto povedano, imamo cilj, a ne vemo, kaj je, vloga stroja pa je, da nam ta cilj pomaga uresničiti. Če torej govorimo o svobodni izbiri računalnikov, naj bi nas le-ta pomagala zavezati k temu cilju. Mislim, da je to za računalnike zelo oddaljena prihodnost.
Vprašanje: Kaj menite o človeških lastnostih, kot sta pogum in morala, ter o odločitvah, ki jih lahko na podlagi njih sprejema umetna inteligenca? Na primer, kaj naj naredi samovozeči avto - povozi otroka ali se izogne udarcu tako, da trči v skalo in ubije sopotnika?
Kasparov: Temu ljudje pravijo »občutki«, ki jih ni mogoče količinsko opredeliti, ker gre za cel kup različnih človeških lastnosti. Če govorimo o pogumu, potem je ta lastnost vedno v nasprotju z možnostmi izbire optimalne možnosti. Pogum je, tako kot druga človeška čustva, po definiciji v nasprotju s točnim izračunom.
Vprašanje: G. Kasparov, moje vprašanje se ne nanaša na računalnike: kaj je v vaši bučki in ali lahko poskusim?
Kasparov: Kako to misliš?
Gostitelj: Vpraša, kaj imaš v žepu!
Kasparov: v mojem žepu? "Stolična"! To ni reklama, če ste opazili, sem ga vrgla stran.
Vprašanje: Kdo bo po vašem mnenju naslednji svetovni šahovski prvak in ali ima mladi kitajski šahist Wei Yi možnost vrniti Carelsena s prestola kot kralja šaha?
Kasparov: Karelsen je igralec številka 1, ni svetovni prvak, ampak preprosto najboljši šahist na svetu po ratingu. Letos je star 27 let, tako da je še vedno mlad, a po današnjih standardih ne prav mlad. Mislim, da je Wei Yi zdaj stara 18 ali 19 let. Magnus je pred mladimi igralci, kot sta Američana Wesley So in Fabiano Kerouana, Wei Yi pa bi lahko bil potencialno njegov nasprotnik. Da pa postaneš svetovni prvak, potrebuješ talent, ni ti treba biti mlad in energičen, le malo sreče. Torej, da odgovorim na vprašanje, lahko rečem – da, ima možnost premagati Magnusa Carelsena.
Vprašanje: Ko ste govorili o determinističnih algoritmih in strojnem učenju, ste omenili možnost uporabe strojev kot orodij za dopolnitev naše inteligence. Kaj pa možnost maksimiranja virov, preden ustvarite zmogljivo umetno inteligenco ali celo vstavite človeške možgane v računalnik?
Kasparov: Ni mi nerodno priznati svoje nevednosti, ko nisem prepričan, da ne morem pravilno odgovoriti na vprašanje. Po najboljših močeh poskušam razumeti, kaj so človeški možgani, če jih obravnavamo ločeno od človeškega telesa, katere funkcije opravljajo. Kajti težko si je predstavljati, kako se bodo možgani obnašali ločeno od telesa. Morda bi tak eksperiment lahko izvedli v prihodnosti, vendar sem prepričan, da bo kombinacija človeških možganov, človeških občutkov in čustev z računalnikom oblikovala »um«, ki bo veliko bolj učinkovit kot izvlečeni in zamrznjeni možgani, uporabljeni kot naprava, napolnjena z nevroni.
Vprašanje: Ali obstaja univerzalen osnovni pristop k problemu zamenjave človeških delovnih mest z računalniki?
Kasparov: Mislim, da je to zelo pomembno vprašanje, saj je jasno, da se približujemo točki, ko je lahko veliko ljudi brezposelnih. To je paradoks tehnološkega napredka: na eni strani imamo najnovejše tehnologije, ki mladim generacijam, ki se ukvarjajo s temi napravami in tehnologijami, zagotavljajo ogromne konkurenčne prednosti. Po drugi strani pa imamo napredek v medicini in zdravi prehrani, ki podaljšuje človekovo življenje in daje človeku večletno delovno sposobnost. V tem smislu se generacija 50., 60. ali celo 40. let ne more kosati z današnjo mladino. Najti moramo rešitev za to paradoksalno situacijo, v kateri je vrzel med generacijami tako velika. Zgodovinske izkušnje pravijo, da tak razkorak vedno vodi v veliko eksplozijo. Mislim na razkorak med obstoječo socialno infrastrukturo družbe in tehnološkim napredkom.
To je vprašanje, ki ga politiki raje odložijo na naslednje volitve. O tem nihče noče govoriti, ker je to občutljivo vprašanje. Zelo enostavno je tiskati denar in upati, da ga bo nekoč v prihodnosti nekdo plačal. Na tem področju je torej veliko paradoksov, na primer kopičenje dolgov za zagotavljanje socialnih jamstev starejši generaciji v pričakovanju, da bo breme odplačevanja teh dolgov padlo na pleča mlajše generacije. Obstaja veliko vprašanj, na katera nimam odgovorov, in veliko vprašanj, ki bi jih lahko postavil, in upam, da mi bo AI lahko pomagal.
Zelo slabo je, da se politiki desetletja trudijo ignorirati probleme, o katerih smo pravkar razpravljali. Vedno so pripravljeni na izjave, vedno imajo načrte, a nočejo razumeti kontraproduktivnosti molčanja o problemu konflikta med tehnologijo in družbo. Hvala za vašo pozornost!
Hvala, ker ste ostali z nami. So vam všeč naši članki? Želite videti več zanimivih vsebin? Podprite nas tako, da oddate naročilo ali priporočite prijateljem, 30% popust za uporabnike Habr na edinstvenem analogu začetnih strežnikov, ki smo ga izumili za vas: (na voljo z RAID1 in RAID10, do 24 jeder in do 40 GB DDR4).
Dell R730xd 2-krat cenejši? Samo tukaj na Nizozemskem! Dell R420 - 2x E5-2430 2.2 Ghz 6C 128 GB DDR3 2x960 GB SSD 1 Gbps 100 TB - od 99 $! Preberite o
Vir: www.habr.com