Konferenz DEFCON 25. Garry Kasparov. "Déi lescht Schluecht vum Gehir." Deel 2

Konferenz DEFCON 25. Garry Kasparov. "Déi lescht Schluecht vum Gehir." Deel 1

Ech denken, datt de Problem net ass, datt d'Maschinnen d'Leit op hirer Aarbechtsplaz ersetzen, och an der intellektueller Sphär, an net datt Computeren angeblech d'Waffe géint Leit mat Héichschoul an Twitter-Konten opgeholl hunn. D'Ëmsetzung vun AI geschitt net séier, awer am Géigendeel, et ass ze lues. Firwat? Well dat ass en normalen Zyklus vun der mënschlecher Entwécklung, a mir realiséieren einfach net datt déi Zerstéierung déi mir gesinn d'Aféierung vun neier Technologie bedeit, déi, ier se nei Aarbechtsplaze kreéieren, al zerstéieren.

Konferenz DEFCON 25. Garry Kasparov. "Déi lescht Schluecht vum Gehir." Deel 2

Technologien zerstéieren al Industrien a kreéieren nei, dëst ass de Prozess vun der Schafung, dëst ass den Entwécklungszyklus. Wann Dir probéiert d'Krankheet ze verlängeren andeems Dir al Technologien an de Prozess setzt oder e puer Virdeeler fir al Technologien erstellt, wäert Dir de Prozess einfach verlangsamen an et méi schmerzhaf maachen. Et wäert souwisou geschéien, awer de Problem ass datt mir de Prozess reguléieren andeems mir Reegele kreéieren déi et bewosst verlangsamen. Ech mengen dat ass e gréissere Problem wéi déi, déi mir méi kloer bewosst sinn. Dëst ass méi e psychologescht Thema wou d'Leit sech froen: "Wéi kënnt Dir Iech sécher fillen wann Dir an engem selbstfueren Auto ass?"

Ech hunn an d'Geschicht gekuckt a geléiert datt virun honnert Joer eng vun de mächtegste Gewerkschaften zu New York d'Liftaarbechterunioun war, déi 17 Tausend Aarbechter vereenegt huet. Iwwregens, deemools gouf et schonn eng Technologie, wou Dir just e Knäppchen dréckt an Dir sidd fäerdeg, awer d'Leit hunn et net vertrauen! Et ass just schrecklech fir selwer op de Knäppchen ze drécken fir de Lift ze ruffen! Wësst Dir firwat dës Gewerkschaft "gestuerwen" ass an d'Leit ugefaang hunn d'Knäppercher selwer ze benotzen? Well enges Daags hunn d'Liftaarbechter decidéiert, ze streiken. Si sinn an de Streik gaangen, an dunn hunn d'Leit, déi op d'Spëtzt vum Empire State Building misste klammen, riskéiert mat hiren Hänn op d'Knäppercher ze drécken.

Konferenz DEFCON 25. Garry Kasparov. "Déi lescht Schluecht vum Gehir." Deel 2

Denkt drun, wat se virun 20-30 Joer iwwer Kanner oder Enkelkanner gesot hunn, wéi se hannert d'Rad vun engem Auto geklomm hunn: "Dat ass schrecklech, kuckt just d'Statistiken, well Autoen sinn eng vun den Haaptursaachen vun der mënschlecher Mortalitéit, wéi kënne se riskéieren hiert Liewen?"

Also, all dëst ass reng Psychologie. Mir bezuelen wéineg Opmierksamkeet op wéi vill Leit an Autosaccidenter stierwen, awer wann eng Persoun vun engem selbstfahrenden Auto ëmbruecht gëtt, gëtt d'Evenement aus Proportioun geblosen. All Feeler, all Feeler an der kënschtlecher Intelligenz Technologien ass direkt op der éischter Säit vun Zeitungen ofgedeckt. Awer kuckt d'Statistiken, kuckt d'Zuel vun den Tëschefäll, an Dir wäert gesinn wéi e klenge Prozentsaz vun der Gesamtzuel vun Accidenter et ass. Dofir wäert d'mënschlech Communautéit nëmme gewannen, wann se no vir ka goen ouni vun esou Ängscht gelähmt ze ginn.

En anert Thema kënnt op wa mir iwwer gefälscht Neiegkeeten oder Cybersécherheet schwätzen, dëst si ganz politiséiert Themen an ech kréien vill Uriff fir ze froen wéi ech mat AI Hater ëmgoen. Zum Beispill schreiwen ech e reegelméissege Blog, a mäi neie Post, deen an e puer Deeg publizéiert gëtt, schwätzt iwwer Haass an d'Tatsaach datt d'Erléisung vum Haass am Wëssen läit, am Léieren. Mir musse just verstoen datt dëse Problem existéiert laang ier all dës Saachen erfonnt goufen, et ass just datt seng Wichtegkeet elo eropgaang ass dank dem Internet, deen Millioune a Milliarde vu Leit erreecht.

Ech mengen et ass tatsächlech eng gutt Saach wann iergendeen probéiert de Fortschrëtt ze stoppen andeems se probéiert AI ze verbannen, an Dir wësst datt dat net funktionnéiert well mir Putin an aner Béiser hunn, egal wou se sinn, déi géint eis benotzen eis eegen Technologien erstallt an déi fräi Welt. Also ech mengen, mir sollten et just als gegeben akzeptéieren.

D'Essenz vum Problem läit nëmmen an eis, an d'Äntwerten op d'Froe leien an eis, an eiser eegener Kraaft an eisem eegene Vertrauen. Ech plädéieren datt intelligent Maschinnen eis net kënnen "verouderd" maachen. Et muss een awer drun erënneren, datt et bestëmmte Restriktiounen betreffend Mënsch-Computer Zesummenaarbecht sinn, an et sinn zu engem groussen Deel just Rumeuren, déi et schonns existéiert hunn. Wéi ëmmer sinn dat einfach nei Méiglechkeeten, déi déi al Welt zerstéieren an eng nei kreéieren, a wat mir méi wäit kommen, wat mir besser wäerte sinn.

Hautdesdaags gläicht et am meeschten eng Beweegung an d'Welt vun der Science Fiction. De Paradox ass datt wa mir 50-60 Joer zréckkucken, da wäerte mir gesinn datt deemools Science Fiction absolut positiv war, et war eng komplett Utopie. Mä dunn gouf et e graduellen Iwwergang vun Utopie an Dystopie, esou datt mir näischt méi iwwer d'Zukunft vun der Mënschheet héieren wëllen.

Konferenz DEFCON 25. Garry Kasparov. "Déi lescht Schluecht vum Gehir." Deel 2

Dëst ass net iwwer Nuecht geschitt. Et war eng Zäit wou d'Leit decidéiert hunn datt d'Exploratioun vum Weltraum ze riskant war. Dëst ass wierklech e grousse Risiko, awer stellt Iech vir datt 1969, wéi d'Amerikaner um Mound gelant sinn, déi ganz Rechenkraaft vun der NASA manner war wéi d'Kraaft vun engem modernen Rechenapparat deen an Ärer Tasche passt. Dësen Apparat ass dausend Mol méi staark wéi de Supercomputer dee viru 40 Joer existéiert huet. Stellt Iech just d'Rechenkraaft vir, déi Dir an Ärer Tasche hutt! Wéi och ëmmer, ech sinn net sécher datt den Apple iPhone 7 déiselwecht Rechenkraaft huet wéi den Apollo 7 hat, dat heescht, et ass fäeg deeselwechten Effekt ze produzéieren.

Wéi och ëmmer, Maschinnen hunn eis vill grouss Fortschrëtter am Weltraum oder Ozean Exploratioun geliwwert, a mir musse verstoen datt Computeren eis d'Fäegkeet ubidden grouss Risiken ze huelen.

Ech wëll meng Ried op eng positiv Note ofschléissen. Gitt dës Rutsch net positiv Biller? D'Foto riets ënnen ass net gephotoshopt, ech hunn den Terminator 2003 eigentlech begéint.

Konferenz DEFCON 25. Garry Kasparov. "Déi lescht Schluecht vum Gehir." Deel 2

Hien huet och Schach zënter der Kandheet gär, awer hien huet et net speziell studéiert, sou datt hien ganz séier verluer huet. Also ech war ganz iwwerrascht wéi 6 Méint méi spéit huet hien fir de Gouverneur vu Kalifornien gefuer a gewonnen!

Firwat nennen ech dës Biller positiv? Well obwuel an allen Episoden ausser deenen éischten den alen Arnold ëmmer op der Säit vun de Gewënner steet an ni midd fir géint nei Maschinnen ze kämpfen, ass et an der éischter Episod datt mir d'Kombinatioun gesinn, vun där ech geschwat hunn - dat ass wann eng Persoun plus eng al Maschinn plus eng perfekt Interface Néierlag déi neisten Auto.
Dir kënnt soen: "Jo, Maschinnen si méi staark wéi d'Leit, well se absolut alles ausrechne kënnen!" De Punkt ass awer net datt se alles kënne berechnen. Zum Beispill, am Schach kënne mir technesch iwwer d'mathematesch Onendlechkeet vun der Unzuel vu méigleche Beweegunge schwätzen, gläich wéi 1045, déi fir all modern Computer net schwéier sinn ze berechnen. Wat awer wichteg ass am Spill ass net d'Berechnungen, mee d'Tatsaach datt de Computer virun der Persoun ass, well et ëmmer vun de Regele guidéiert gëtt. An Dir wësst den Effekt vun dëse Reegelen an Dir wësst firwat de Computer déi bescht Beweegung aus enger grousser Villfalt vu méigleche Beweegunge wielt.

Awer wa mir zum richtege Liewen dréinen, sinn ech net sécher datt e Computer ëmmer nëtzlech ka sinn. Loosst eis déi typesch Situatioun kucken - Dir hutt e Computer deen Äre Budget iwwerwaacht, Dir sidd an engem Geschäft a sidd amgaang en deiere Kaddo ze kafen. De Computer evaluéiert de Kaf a seet, "nee, Dir kënnt dësen Artikel net leeschten, well Dir wäert iwwer Budget sinn." D'Maschinn huet alles berechent, awer et gëtt eng kleng Nuance - Äert Kand steet nieft Iech, an dëst Kaddo ass fir säi Gebuertsdag geduecht. Gesitt Dir wéi dëst d'Konditioune vum Problem ännert? Dëst ännert alles, well d'Kand op dëse Kaddo waart.

Ech kann ufänken dës kleng Saache bäizefügen, déi alles änneren, awer ech denken net datt se an der Problemaussoe kënnen opgeholl ginn an déi richteg Léisung kréien. Mir hu vill Regelen, mä mir mussen nach Froen stellen, well d'Saachen änneren. Dëst ass wat eng normal Situatioun genannt gëtt, awer wann Dir dës Filmer kuckt, kënnt Dir soen datt d'Situatioun hei gewisen ass méi dramatesch an aussergewéinlech. Dës Rutsch weist e Still aus der Episod V vu Star Wars: The Empire Strikes Back.

Konferenz DEFCON 25. Garry Kasparov. "Déi lescht Schluecht vum Gehir." Deel 2

Den Han Solo pilotéiert d'Schëff direkt duerch en Asteroidfeld, an de C-3PO panikéiert, bericht datt d'Chance fir d'Feld ze iwwerliewen 1:3122 ass, seet him: "Sot mir ni wat eis Chancen sinn!" Hei stellt sech d'Fro, wien huet an dëser Situatioun méi Recht?

D'Technologie representéiert vum C-3PO ass absolut richteg, well d'Iwwerliewenschance tendéiert op Null. Et ass méiglech datt, aus der Perspektiv vun engem Roboter, vun de keeserleche Kräfte gefaange gëtt eng besser Wiel ass, déi e Mënsch net emol betruechte wéi an engem Asteroidfeld ze stierwen. Awer wann de Computer entscheet datt d'Kapital vum Räich déi bescht Optioun ass, da kënne mir dovun ausgoen datt d'Persoun guer keng Optiounen huet. Wat ganz wichteg ass, ass datt a béide Fäll, normal an aussergewéinlech, mir d'Fäegkeet hunn déi ultimativ Entscheedung ze treffen an et erfuerdert ëmmer nach mënschlech Leedung fir dës Entscheedung ze treffen.

Heiansdo heescht dat datt Dir géint d'Recommandatioune vum Computer muss goen. De Punkt vun der mënschlecher Leedung ass net d'Chance ze kennen, mee d'Froen ze stellen déi wierklech wichteg sinn, net nëmmen haut oder muer, mee wäit an d'Zukunft. Dëse Prozess kann "mënschlech Leedung" oder "mënschlech Interventioun" genannt ginn, beaflosst ouni d'Hëllef vun intelligenten Maschinnen. Dat ass wat eise Cours an dësem Joerhonnert soll sinn.

D'Leit sinn heiansdo iwwerrascht vu mengem Optimismus iwwer intelligent Maschinnen, meng Erfahrung mat hinnen, awer ech si wierklech en Optimist. An ech si sécher datt Dir all gläich optimistesch sidd iwwer d'Zukunft vun AI. Awer mir mussen drun erënneren datt eis Technologien agnostesch sinn. Et ass weder gutt nach schlecht, awer ka fir gutt a béis benotzt ginn. Maschinnen musse méi schlau a méi kapabel ginn. A mir Mënschen musse maachen wat nëmmen d'Mënsche maache kënnen - dreemen, dreemen op d'Voll, an da kënne mir all d'Virdeeler extrahéieren, déi dës erstaunlech nei Tools bréngen.

Konferenz DEFCON 25. Garry Kasparov. "Déi lescht Schluecht vum Gehir." Deel 2

Wéi geplangt hu mir nach 10 Minutte fir d'Froen ze beäntweren.

Fro: Denkt Dir datt et méiglech wier e Maschinnléieresystem ze kreéieren deen bestëmmen kann wéi eng Beweegunge méi konsequent mam mënschleche Spillstil sinn?

Kasparov: Éischtens, mir erwaarden net datt de Computer eis déi éischt Beweegung an déi reschtlech 17505 Beweegunge seet. Ech mengen, mir sollten op d'Maschinn vertrauen fir déi bescht Empfehlungen fir eenzegaarteg Beweegungen ze bidden. Iwwregens, Top-Klass Spiller benotzen Computeren als Guide, hëllefen hinnen déi gëeegent Positioun am Spill huelen. Ech widderhuelen nach eng Kéier - an 9 Fäll vun 10 ass d'Bewäertung vum Computer vun der Situatioun wäit iwwer d'Bewäertung déi eng Persoun maache kann.

Fro: Sidd Dir averstanen datt richteg Intelligenz Fräiheet vu Choix erfuerdert, Fräiheet fir Entscheedungen ze treffen déi nëmmen eng Persoun maache kann? No all, Deep Blue Software an aner Computer Programmer vun Leit geschriwwe ginn, a wann Dir verléieren ze Deep Blue, Dir verléieren net un de Computer, mä de Programméierer déi de Programm geschriwwen. Meng Fro ass: Gëtt et eng Gefor vun iergendenger Maschinnintelligenz soulaang Computeren d'Wielfräiheet hunn?

Kasparov: Hei muss ech vun der Wëssenschaft op d'Philosophie réckelen. Alles ass kloer iwwer Deep Blue - et ass d'Resultat vun enger enormer Quantitéit vu mënschlecher Aarbecht. An deene meeschte Fäll, och am Fall vum Demis Hassabis sengem AlphaGo, sinn dat alles Produkter vu mënschlecher Intelligenz. Ech weess net, ob d'Maschinnen d'Wielfräiheet kënnen hunn, awer ech gleewen, datt wat mir maachen, wa mir wëssen, wéi et ze maachen, Maschinnen et besser maachen. Wéi och ëmmer, wa mir déi meescht Saache maachen, wësse mir net wéi se se am beschte maachen, also kënne mir dacks net verstoen wat mir geléngen. Einfach gesot, mir hunn en Zil, awer mir wëssen net wat et ass, an d'Roll vun der Maschinn ass eis ze hëllefen dat Zil ze realiséieren. Dofir, wa mir iwwer fräi Wiel vu Computer schwätzen, da soll et hëllefen eis un dëst Zil ze binden. Ech mengen dat ass eng ganz wäit Zukunft fir Computeren.

Fro: Wat mengt Dir iwwer mënschlech Charakteristiken wéi Courage a Moral, an d'Entscheedungen déi kënschtlech Intelligenz op Basis vun hinnen huelen kann? Zum Beispill, wat soll e selbstfahren Auto maachen - iwwer e Kand rennen oder evitéieren him ze schloen andeems en an e Fiels fält a säi Passagéier ëmbréngen?

Kasparov: Dëst sinn dat wat d'Leit "Gefiller" nennen, si sinn net quantifizéierbar, well se eng ganz Rëtsch vu verschiddene mënschleche Charakteristiken sinn. Wa mir iwwer Courage schwätzen, da geet dës Charakteristik ëmmer géint d'Chancen fir déi optimal Optioun ze wielen. Tapferkeet, wéi aner mënschlech Emotiounen, ass per Definitioun géint eng korrekt Berechnung.
Fro: Här Kasparov, meng Fro betrëfft net Computeren: Wat ass an Ärer Flasche a kann ech et probéieren?

Kasparov: wat mengs du?

Host: Hie freet wat an Ärer Täsch ass!

Kasparov: a menger Täsch? "Stolichnaya"! Dëst ass keng Annonce, wann Dir gemierkt hutt, hunn ech se ewechgehäit.

Konferenz DEFCON 25. Garry Kasparov. "Déi lescht Schluecht vum Gehir." Deel 2

Fro: Wien mengt Dir wäert den nächste Schachweltmeeschter ginn an huet de jonke chinesesche Schachspiller Wei Yi d'Chance de Carelsen als Kinnek vum Schach ze dethronéieren?

Kasparov: Karelsen ass den Nummer 1 Spiller, hien ass kee Weltmeeschter, mee einfach de beschte Schachspiller vun der Welt no der Bewäertung. Hien kritt dëst Joer 27 Joer, also ass hien nach jonk, awer net ganz jonk no de Standarden vun haut. Ech mengen de Wei Yi ass elo 18 oder 19 Joer al. De Magnus ass viru jonke Spiller wéi Amerikaner Wesley So a Fabiano Kerouana, an de Wei Yi kéint potenziell säi Géigner sinn. Wéi och ëmmer, fir e Weltmeeschter ze ginn, brauch Dir Talent, Dir musst net jonk an energesch sinn, just e bësse Gléck hunn. Also, fir d'Fro ze beäntweren, kann ech soen - jo, hien huet d'Chance de Magnus Carelsen ze schloen.
Fro: Wann Dir iwwer deterministesche Algorithmen a Maschinnléiere geschwat hutt, hutt Dir d'Méiglechkeet genannt Maschinnen als Tools ze benotzen fir eis Intelligenz ze ergänzen. Wat iwwer d'Méiglechkeet fir Ressourcen ze maximéieren ier Dir mächteg AI erstellt, oder souguer e mënschlecht Gehir an e Computer setzt?

Kasparov: Ech sinn net ongenéiert meng Ignoranz zouzeginn wann ech net sécher sinn datt ech net fäeg sinn eng Fro richteg ze beäntweren. Ech probéieren mäi Bescht ze verstoen wat de mënschleche Gehir ass, wa mir et getrennt vum mënschleche Kierper betruechten, wéi eng Funktiounen et mécht. Well et ass schwéier virzestellen wéi d'Gehir getrennt vum Kierper behuelen. Vläicht kéint esou en Experiment an Zukunft gemaach ginn, awer ech sinn zouversiichtlech datt d'Kombinatioun vum mënschleche Gehir, mënschlech Gefiller an Emotiounen mat engem Computer e "Geescht" bilden deen vill méi effektiv ass wéi e Gehir ewechgeholl a gefruer, benotzt als Apparat gefëllt mat Neuronen.

Fro: Gëtt et eng universell Basis Approche fir de Problem vun der Ersatz vun mënschlech Aarbechtsplaze mat Computeren?

Kasparov: Ech mengen, dat ass eng ganz wichteg Fro, well et ass kloer, datt mir de Punkt ukommen, wou vill Leit kënne Chômage sinn. Dëst ass de Paradox vum technologesche Fortschrëtt: Engersäits hu mir déi lescht Technologien, déi enorm kompetitiv Virdeeler fir déi jonk Generatioun ubidden, déi mat dësen Apparater an Technologien handelen. Op der anerer Säit hu mir Fortschrëtter an der Medizin a gesond Ernärung, wat d'Mënscheliewen verlängert an eng Persoun d'Fäegkeet gëtt fir vill Joren ze schaffen. An deem Sënn kann d'Generatioun vun de 50er, 60er oder souguer 40er net mat der heiteger Jugend konkurréiere. Mir mussen eng Léisung fir dës paradox Situatioun fannen, wou de Gruef tëscht de Generatiounen esou grouss ass. D'historesch Erfahrung seet, datt esou eng Spalt ëmmer zu enger grousser Explosioun féiert. Ech mengen de Gruef tëscht der bestehender sozialer Infrastruktur vun der Gesellschaft an dem technologesche Fortschrëtt.

Dat ass en Thema, deen d'Politiker léiwer bis déi nächst Wahlen ausstelle loossen. Kee wëll doriwwer schwätzen, well et e sensiblen Thema ass. Et ass ganz einfach Geld ze drécken an ze hoffen datt iergendeen an der Zukunft dofir wäert bezuelen. Also et gi vill Paradoxen an dësem Beräich, zum Beispill, d'Akkumulation vun Scholden fir sozial Garantien fir déi eeler Generatioun ze bidden an der Erwaardung datt d'Belaaschtung fir dës Scholden op d'Schëllere vun der jonker Generatioun ze falen. Et gi vill Froen op déi ech keng Äntwerten hunn, a vill Froen déi ech kéint stellen, déi ech hoffen datt d'AI mir hëllefe kann.
Ganz schlëmm ass et, datt d’Politiker säit Joerzéngte probéiert d’Problemer ze ignoréieren, déi mir elo grad diskutéiert hunn. Si sinn ëmmer bereet fir Aussoen ze maachen, si hunn ëmmer Pläng, awer si wëllen net d'Kontraproduktivitéit vum Schwäif iwwer de Problem vum Konflikt tëscht Technologie a Gesellschaft verstoen. Merci fir är Opmierksamkeet!

Merci datt Dir bei eis bleift. Hutt Dir eis Artikelen gär? Wëllt Dir méi interessant Inhalt gesinn? Ënnerstëtzt eis andeems Dir eng Bestellung maacht oder Frënn empfeelt, 30% Remise fir Habr Benotzer op engem eenzegaartegen Analog vun Entry-Level Serveren, dee vun eis fir Iech erfonnt gouf: Déi ganz Wourecht iwwer VPS (KVM) E5-2650 v4 (6 Cores) 10GB DDR4 240GB SSD 1Gbps vun $20 oder wéi een e Server deelt? (verfügbar mat RAID1 an RAID10, bis zu 24 Kären a bis zu 40GB DDR4).

Dell R730xd 2 Mol méi bëlleg? Nëmmen hei 2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TV vun $199 an Holland! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - vun $99! Liest iwwer Wéi bauen ech Infrastructure Corp. Klass mat der Benotzung vun Dell R730xd E5-2650 v4 Serveren Wäert 9000 Euro fir e Penny?

Source: will.com

Setzt e Commentaire