Myslím, že problém není v tom, že stroje nahradí lidi na jejich pracovišti, a to i v intelektuální sféře, a ani v tom, že počítače, jak se zdá, vyzbrojily lidi s vyšším vzděláním a účty na Twitteru. Implementace AI neprobíhá rychle, ale naopak je příliš pomalá. Proč? Protože to je normální koloběh lidského vývoje a my si prostě neuvědomujeme, že destrukce, kterou vidíme, znamená zavedení nové technologie, která, než vytvoří nová pracovní místa, zničí ta stará.
Technologie ničí zastaralá odvětví a vytvářejí nová, to je proces tvorby, to je vývojový cyklus. Pokud se budete snažit prodlužovat agónii vkládáním starých technologií do procesu nebo vytvářením nějakých výhod pro zastaralé technologie, jednoduše proces zpomalíte a učiníte bolestnějším. Stane se to tak jako tak, ale problém je v tom, že tento proces regulujeme vytvářením pravidel, která jej záměrně zpomalují. Myslím, že je to větší problém než ty, které si jasněji uvědomujeme. Jedná se spíše o psychologický problém, kdy se lidé ptají: „Jak se můžete cítit bezpečně, když jste v autě?
Podíval jsem se do historie a dozvěděl jsem se, že před sto lety byly jedním z nejmocnějších odborů v New Yorku odbory výtahářů, které sdružovaly 17 tisíc zaměstnanců. Mimochodem, v té době už existovala technologie, kdy stačilo stisknout tlačítko a bylo hotovo, ale lidé tomu nevěřili! Je prostě hrozné, když musíte stisknout tlačítko, abyste přivolali výtah! Víte, proč tento odborový svaz „zemřel“ a lidé začali používat tlačítka sami? Protože se jednoho dne pracovníci výtahu rozhodli stávkovat. Vstoupili do stávky a pak lidé, kteří museli vylézt na vrchol Empire State Building, riskovali mačkání tlačítek vlastníma rukama.
Vzpomeňte si, co říkali před 20-30 lety o dětech nebo vnoučatech, když usedli za volant auta: „to je hrozné, stačí se podívat na statistiky, protože auta jsou jednou z hlavních příčin lidské úmrtnosti, jak mohou riskovat? jejich životy?"
Takže tohle všechno je čistá psychologie. Věnujeme jen malou pozornost tomu, kolik lidí zemře při autonehodách, ale jakmile jednoho člověka zabije samořídící auto, událost se zvrhne. Jakákoli závada, jakákoli chyba v technologiích umělé inteligence je okamžitě pokryta na titulních stránkách novin. Ale podívejte se do statistik, podívejte se na počet incidentů a uvidíte, jaké mizivé procento z celkového počtu nehod to je. Lidské společenství proto zvítězí pouze tehdy, bude-li se moci posunout vpřed, aniž by bylo paralyzováno takovými obavami.
Další problém nastává, když mluvíme o falešných zprávách nebo kybernetické bezpečnosti, jedná se o velmi zpolitizovaná témata a dostávám spoustu hovorů s dotazem, jak se vypořádávám s odpůrci AI. Například píšu pravidelný blog a můj nový příspěvek, který vyjde za pár dní, mluví o nenávisti a o tom, že záchrana před nenávistí spočívá ve znalostech, v učení. Musíme jen pochopit, že tento problém existoval dávno předtím, než byly všechny tyto věci vynalezeny, jen jeho význam nyní vzrostl díky internetu, který zasahuje miliony a miliardy lidí.
Myslím, že je vlastně dobře, když se někdo snaží zastavit pokrok tím, že se snaží postavit AI mimo zákon, a vy víte, že to nebude fungovat, protože máme Putina a další padouchy, ať jsou kdekoli, kteří proti nám používají naše vlastní technologie vytvořené v svobodný svět. Takže si myslím, že bychom to prostě měli přijmout jako samozřejmost.
Podstata problému leží pouze v nás a odpovědi na otázky leží v nás, v naší vlastní síle a naší vlastní důvěře. Tvrdím, že inteligentní stroje nás nemohou učinit „zastaralými“. Je však třeba připomenout, že ohledně spolupráce člověka a počítače existují určitá omezení a do značné míry jsou to jen fámy, které existovaly již dříve. Jako vždy jsou to prostě nové příležitosti, které zničí starý svět a vytvoří nový, a čím dále postoupíme, tím lépe se budeme mít.
V současnosti se nejvíce podobá přesunu do světa sci-fi. Paradoxem je, že když se ohlédneme o 50-60 let zpět, uvidíme, že v těch dobách bylo sci-fi naprosto pozitivní, byla to naprostá utopie. Pak však došlo k postupnému přechodu od utopie k dystopii, a to takovým způsobem, že o budoucnosti lidstva už nechceme nic slyšet.
To se nestalo přes noc. Bývaly doby, kdy se lidé rozhodli, že průzkum vesmíru je příliš riskantní. To je skutečně velké riziko, ale představte si, že v roce 1969, kdy Američané přistáli na Měsíci, byl celý výpočetní výkon NASA menší než výkon jakéhokoli moderního výpočetního zařízení, které se vejde do kapsy. Toto zařízení je tisíckrát výkonnější než superpočítač, který existoval před 40 lety. Jen si představte, jaký výpočetní výkon máte v kapse! Nejsem si však jistý, že Apple iPhone 7 má stejný výpočetní výkon jako Apollo 7, to znamená, že je schopen produkovat stejný efekt.
Stroje nám však poskytly mnoho velkých pokroků v průzkumu vesmíru nebo oceánů a my musíme pochopit, že počítače nám poskytují možnost podstupovat velká rizika.
Svůj projev bych rád zakončil pozitivně. Nezobrazuje tento snímek pozitivní obrázky? Fotka v pravém dolním rohu není photoshopovaná, Terminátora jsem skutečně potkal v roce 2003.
Od dětství také miloval šachy, ale speciálně je nestudoval, takže velmi rychle prohrál. Takže jsem byl velmi překvapen, když o 6 měsíců později kandidoval na guvernéra Kalifornie a vyhrál!
Proč tyto obrázky nazývám pozitivní? Protože ačkoli ve všech epizodách kromě první stojí starý Arnold vždy na straně vítězů a nikdy se neunaví bojovat proti novým strojům, právě v první epizodě vidíme kombinaci, o které jsem mluvil - to je, když člověk plus starý stroj plus dokonalé rozhraní porazí nejnovější auto.
Můžete říci: "Ano, stroje jsou silnější než lidé, protože dokážou spočítat úplně všechno!" Nejde však o to, že dokážou spočítat vše. Například v šachu můžeme technicky mluvit o matematickém nekonečnu počtu možných tahů rovných 1045, které není těžké spočítat pro žádný moderní počítač. Ve hře však nejsou důležité výpočty, ale to, že počítač člověka předbíhá, protože se vždy řídí pravidly. A znáte účinek těchto pravidel a víte, proč počítač vybírá nejlepší tah z obrovského množství možných tahů.
Pokud se ale obrátíme do skutečného života, nejsem si jistý, že počítač může být vždy užitečný. Podívejme se na nejtypičtější situaci – máte počítač, který hlídá váš rozpočet, jste v obchodě a chystáte se koupit drahý dárek. Počítač vyhodnotí nákup a řekne: "Ne, tuto položku si nemůžete dovolit, protože překročíte rozpočet." Stroj vše vypočítal, ale je tu malá nuance - vaše dítě stojí vedle vás a tento dárek je určen k jeho narozeninám. Vidíte, jak to mění podmínky problému? To vše mění, protože dítě na tento dar čeká.
Mohu začít přidávat tyto drobnosti, které vše mění, ale nemyslím si, že je lze zahrnout do prohlášení o problému a získat správné řešení. Máme spoustu pravidel, ale stále se musíme ptát, protože věci se mění. To je to, co lze nazvat běžnou situací, ale když se podíváte na tyto filmy, můžete říci, že situace zde zobrazená je dramatičtější a mimořádnější. Tento snímek ukazuje snímek z V. epizody Star Wars: Impérium vrací úder.
Han Solo řídí loď přímo polem asteroidů a C-3PO zpanikaří a hlásí, že šance na přežití v poli je 1:3122.Han Solo mu říká: "Nikdy mi neříkej, jaké máme šance!" Zde se nabízí otázka, kdo má v této situaci větší pravdu?
Technologie reprezentovaná C-3PO je naprosto správná, protože šance na přežití bývá nulová. Je možné, že z pohledu robota je zajetí imperiálními silami lepší volbou, o které by člověk ani neuvažoval, než zemřít v poli asteroidů. Ale pokud počítač rozhodne, že vzdát se impériu je nejlepší možností, pak můžeme předpokládat, že ten člověk nemá vůbec žádné možnosti. Velmi důležité je, že v obou případech, obyčejných i mimořádných, máme možnost učinit konečné rozhodnutí a k takovému rozhodnutí je stále potřeba lidské vedení.
Někdy to znamená, že musíte jít proti doporučením počítače. Smyslem lidského vedení není znát šance, ale klást otázky, na kterých skutečně záleží, nejen dnes nebo zítra, ale i daleko do budoucnosti. Tento proces lze nazvat „lidským vedením“ nebo „lidským zásahem“, ovlivňováním bez pomoci inteligentních strojů. Takový by měl být náš kurz v tomto století.
Lidé jsou někdy překvapeni mým optimismem ohledně inteligentních strojů, vzhledem k mým zkušenostem s nimi, ale já jsem opravdu optimista. A jsem si jistý, že všichni jste stejně optimističtí ohledně budoucnosti AI. Ale musíme si uvědomit, že naše technologie jsou agnostické. Není to ani dobré, ani špatné, ale dá se použít k dobru i zlu. Stroje se musí stát chytřejšími a schopnějšími. A my lidé musíme dělat to, co umí jen lidé – snít, snít naplno, a pak budeme schopni vytěžit všechny výhody, které tyto úžasné nové nástroje přinášejí.
Podle plánu nám zbývá ještě 10 minut na zodpovězení otázek.
Otázka: Myslíte si, že by bylo možné vytvořit systém strojového učení, který by dokázal určit, které pohyby jsou více v souladu s lidským herním stylem?
Kasparov: Za prvé, neočekáváme, že nám počítač řekne první tah a zbývajících 17505 9 tahů. Myslím, že bychom se měli spolehnout na to, že stroj poskytne nejlepší doporučení pro jedinečné pohyby. Mimochodem, špičkoví hráči používají počítače jako vodítko, které jim pomáhá zaujmout tu nejvhodnější pozici ve hře. Ještě jednou opakuji – v 10 případech z XNUMX je vyhodnocení situace počítačem mnohem lepší než hodnocení, které může udělat člověk.
Otázka: Souhlasíte s tím, že skutečná inteligence vyžaduje svobodu volby, svobodu činit rozhodnutí, která může učinit pouze člověk? Koneckonců, software Deep Blue a další počítačové programy píší lidé, a když prohrajete s Deep Blue, prohrajete nikoli s počítačem, ale s programátory, kteří program napsali. Moje otázka zní: existuje nějaké nebezpečí z jakéhokoli druhu strojové inteligence, pokud mají počítače svobodu volby?
Kasparov: Zde musím přejít od vědy k filozofii. O Deep Blue je vše jasné – je výsledkem obrovského množství lidské práce. Ve většině případů, dokonce i v případě AlphaGo od Demise Hassabise, jsou to všechno produkty lidské inteligence. Nevím, jestli stroje mohou mít svobodu volby, ale věřím, že cokoli děláme, pokud víme, jak to udělat, stroje to udělají lépe. Když však většinu věcí děláme, nevíme, jak je dělat nejlépe, a tak často nedokážeme pochopit, co se nám podaří. Jednoduše řečeno, máme cíl, ale nevíme, jaký to je, a úlohou stroje je pomoci nám tento cíl uskutečnit. Pokud tedy mluvíme o svobodné volbě počítačů, pak by nám to mělo pomoci zavázat se k tomuto cíli. Myslím, že to je pro počítače velmi vzdálená budoucnost.
Otázka: Co si myslíte o lidských vlastnostech, jako je odvaha a morálka, a rozhodnutích, která umělá inteligence na jejich základě může činit? Co by například mělo samořídící auto udělat – přejet dítě nebo se vyhnout jeho nárazu do skály a zabití jeho spolujezdce?
Kasparov: To je to, co lidé nazývají „pocity“, nelze je kvantifikovat, protože jde o celou řadu různých lidských vlastností. Pokud mluvíme o odvaze, pak je tato vlastnost vždy v rozporu s šancemi na výběr optimální možnosti. Statečnost, stejně jako jiné lidské emoce, je z definice v rozporu s přesným výpočtem.
Otázka: Pane Kasparove, moje otázka se netýká počítačů: co je ve vaší baňce a mohu to zkusit?
Kasparov: jak to myslíš?
Host: Ptá se, co máš v kapse!
Kasparov: v mé kapse? "Stolichnaja"! Toto není reklama, pokud jste si všimli, vyhodil jsem ji.
Otázka: Kdo si myslíte, že bude příštím mistrem světa v šachu a má mladý čínský šachista Wei Yi šanci sesadit Carelsena jako šachového krále?
Kasparov: Karelsen je hráč číslo 1, není to mistr světa, ale prostě podle hodnocení nejlepší šachista na světě. Letos je mu 27, takže je ještě mladý, ale na dnešní poměry ne moc mladý. Myslím, že Wei Yi je nyní 18 nebo 19 let. Magnus je před mladými hráči, jako jsou Američané Wesley So a Fabiano Kerouana, a Wei Yi by mohl být potenciálně jeho soupeřem. K tomu, abyste se stali mistrem světa, však potřebujete talent, nemusíte být mladí a energičtí, stačí mít trochu štěstí. Abych tedy odpověděl na otázku, mohu říci – ano, má šanci porazit Magnuse Carelsena.
Otázka: Když jste mluvil o deterministických algoritmech a strojovém učení, zmínil jste možnost používat stroje jako nástroje k doplnění naší inteligence. A co možnost maximalizace zdrojů před vytvořením výkonné umělé inteligence nebo dokonce vložením lidského mozku do počítače?
Kasparov: Nestydím se přiznat svou neznalost, když si nejsem jistý, že nejsem schopen správně odpovědět na otázku. Snažím se co nejlépe pochopit, co je to lidský mozek, pokud ho vezmeme v úvahu odděleně od lidského těla, jaké funkce plní. Protože je těžké si představit, jak se mozek bude chovat odděleně od těla. Možná by takový experiment mohl být proveden v budoucnu, ale jsem přesvědčen, že spojení lidského mozku, lidských pocitů a emocí s počítačem vytvoří „mysl“, která bude mnohem účinnější než mozek extrahovaný a zmrazený, použitý jako zařízení naplněné neurony.
Otázka: Existuje univerzální základní přístup k problému nahrazení lidských pracovních míst počítači?
Kasparov: Myslím, že je to velmi důležitá otázka, protože je jasné, že se blížíme k bodu, kdy může být mnoho lidí nezaměstnaných. To je paradox technologického pokroku: na jedné straně máme nejnovější technologie, které poskytují obrovské konkurenční výhody mladé generaci, která se těmito zařízeními a technologiemi zabývá. Na druhou stranu máme pokrok v medicíně a zdravé výživě, která prodlužuje lidský život a dává člověku schopnost pracovat po mnoho let. V tomto smyslu nemůže generace 50., 60. nebo dokonce 40. let konkurovat dnešní mládeži. Musíme najít řešení této paradoxní situace, kdy je propast mezi generacemi tak velká. Historická zkušenost říká, že taková mezera vždy vede k velkému výbuchu. Mám na mysli propast mezi stávající sociální infrastrukturou společnosti a technologickým pokrokem.
To je téma, které politici raději odkládají na příští volby. Nikdo o tom nechce mluvit, protože je to citlivé téma. Je velmi snadné tisknout peníze a doufat, že je někdo někdy v budoucnu zaplatí. V této oblasti je tedy mnoho paradoxů, například hromadění dluhů za poskytování sociálních záruk starší generaci v očekávání, že břemeno splácení těchto dluhů dopadne na bedra mladé generace. Je spousta otázek, na které nemám odpovědi, a spousta otázek, na které bych se mohl ptát a doufám, že mi AI pomůže.
Je velmi špatné, že se politici po desetiletí snaží ignorovat problémy, o kterých jsme právě diskutovali. Jsou vždy připraveni učinit prohlášení, vždy mají plány, ale nechtějí pochopit kontraproduktivitu mlčení o problému konfliktu mezi technologií a společností. Děkuji za pozornost!
Děkujeme, že s námi zůstáváte. Líbí se vám naše články? Chcete vidět více zajímavého obsahu? Podpořte nás objednávkou nebo doporučením přátelům, 30% sleva pro uživatele Habr na unikátní obdobu entry-level serverů, kterou jsme pro vás vymysleli: (k dispozici s RAID1 a RAID10, až 24 jader a až 40 GB DDR4).
Dell R730xd 2x levnější? Pouze zde V Nizozemsku! Dell R420 – 2x E5-2430 2.2 GHz 6C 128 GB DDR3 2 x 960 GB SSD 1 Gb/s 100 TB – od 99 $! Číst o
Zdroj: www.habr.com