Nemyslím si, že problém nie je v tom, že stroje nahradia ľudí na ich pracovisku, a to aj v intelektuálnej sfére, a ani v tom, že počítače, ako sa zdá, vyzbrojili ľudí s vyšším vzdelaním a účty na Twitteri. Implementácia AI neprebieha rýchlo, ale naopak, je príliš pomalá. prečo? Pretože toto je normálny kolobeh ľudského rozvoja a my si jednoducho neuvedomujeme, že deštrukcia, ktorú vidíme, znamená zavedenie novej technológie, ktorá predtým, ako vytvorí nové pracovné miesta, zničí tie staré.
Technológie ničia zastarané odvetvia a vytvárajú nové, toto je proces tvorby, toto je vývojový cyklus. Ak sa pokúsite predĺžiť agóniu vložením starých technológií do procesu alebo vytvorením niektorých výhod pre zastarané technológie, jednoducho proces spomalíte a urobíte ho bolestivejším. Aj tak sa to stane, ale problém je v tom, že tento proces regulujeme vytváraním pravidiel, ktoré ho zámerne spomaľujú. Myslím si, že toto je väčší problém ako tie, ktoré si jasnejšie uvedomujeme. Ide skôr o psychologický problém, keď si ľudia kladú otázku: „Ako sa môžete cítiť bezpečne v samoriadiacom aute?
Pozrel som sa do histórie a dozvedel som sa, že pred sto rokmi bol jedným z najmocnejších odborov v New Yorku odborový zväz výťahárov, ktorý združoval 17 tisíc zamestnancov. Mimochodom, v tom čase už existovala technológia, kde ste mohli len stlačiť tlačidlo a hotovo, ale ľudia jej neverili! Je to hrozné, keď musíte sami stlačiť tlačidlo, aby ste privolali výťah! Viete, prečo tento odborový zväz „zomrel“ a ľudia začali používať tlačidlá sami? Pretože jedného dňa sa výťahári rozhodli štrajkovať. Začali štrajkovať a potom ľudia, ktorí museli vyliezť na vrchol Empire State Building, riskovali stláčanie gombíkov vlastnými rukami.
Spomeňte si, čo hovorili pred 20-30 rokmi o deťoch či vnúčatách, keď sadli za volant auta: „to je hrozné, stačí sa pozrieť na štatistiky, veď autá sú jednou z hlavných príčin úmrtnosti ľudí, ako môžu riskovať? ich životy?"
Takže toto všetko je čistá psychológia. Len málo pozornosti venujeme tomu, koľko ľudí zomrie pri dopravných nehodách, ale akonáhle jedného človeka zabije samoriadiace auto, táto udalosť sa premrhá. Akákoľvek chyba, akákoľvek chyba v technológiách umelej inteligencie je okamžite pokrytá na titulných stranách novín. Ale pozrite sa na štatistiky, pozrite sa na počet incidentov a uvidíte, aké mizivé percento z celkového počtu nehôd je to. Preto ľudské spoločenstvo zvíťazí len vtedy, ak dokáže napredovať bez toho, aby bolo paralyzované takýmito obavami.
Ďalší problém nastáva, keď hovoríme o falošných správach alebo kybernetickej bezpečnosti, sú to veľmi spolitizované témy a často mi volajú, ako sa vysporiadam s neprajníkmi AI. Napríklad píšem pravidelný blog a môj nový príspevok, ktorý vyjde o pár dní, hovorí o nenávisti a o tom, že záchrana pred nenávisťou spočíva vo vedomostiach, v učení. Musíme len pochopiť, že tento problém existoval dávno predtým, ako boli všetky tieto veci vynájdené, len jeho dôležitosť v súčasnosti vzrástla vďaka internetu, ktorý má dosah na milióny a miliardy ľudí.
Myslím si, že je vlastne dobrá vec, keď sa niekto pokúša zastaviť pokrok tým, že sa snaží postaviť AI mimo zákon, a viete, že to nebude fungovať, pretože máme Putina a iných zlých ľudí, nech sú kdekoľvek, ktorí proti nám používajú naše vlastné technológie vytvorené v r. slobodného sveta. Takže si myslím, že by sme to mali prijať ako samozrejmosť.
Podstata problému leží len v nás a odpovede na otázky sú v nás, v našej vlastnej sile a vlastnej sebadôvere. Tvrdím, že inteligentné stroje nás nemôžu urobiť „zastaranými“. Treba však pripomenúť, že existujú určité obmedzenia týkajúce sa spolupráce človeka a počítača a do veľkej miery sú to len fámy, ktoré existovali už predtým. Ako vždy sú to jednoducho nové príležitosti, ktoré zničia starý svet a vytvoria nový, a čím ďalej, tým lepšie sa budeme mať.
V súčasnosti sa najviac podobá prechodu do sveta sci-fi. Paradoxom je, že keď sa pozrieme o 50-60 rokov späť, uvidíme, že v tých časoch bola sci-fi absolútne pozitívna, bola to úplná utópia. Potom však došlo k postupnému prechodu od utópie k dystopii, a to takým spôsobom, že o budúcnosti ľudstva už nechceme nič počuť.
Toto sa nestalo zo dňa na deň. Boli časy, keď sa ľudia rozhodli, že prieskum vesmíru je príliš riskantný. Je to skutočne veľké riziko, ale predstavte si, že v roku 1969, keď Američania pristáli na Mesiaci, bol celý výpočtový výkon NASA menší ako výkon akéhokoľvek moderného výpočtového zariadenia, ktoré sa zmestí do vrecka. Toto zariadenie je tisíckrát výkonnejšie ako superpočítač, ktorý existoval pred 40 rokmi. Len si predstavte, aký výpočtový výkon máte vo vrecku! Nie som si však istý, či má Apple iPhone 7 rovnaký výpočtový výkon ako Apollo 7, to znamená, že je schopný produkovať rovnaký efekt.
Stroje nám však poskytli mnohé veľké pokroky v prieskume vesmíru či oceánov a musíme pochopiť, že počítače nám poskytujú možnosť podstupovať veľké riziká.
Svoj prejav by som rád zakončil pozitívne. Nezobrazuje táto snímka pozitívne obrázky? Fotka v pravom dolnom rohu nie je nafotografovaná, Terminátora som skutočne stretol v roku 2003.
Od detstva mal rád aj šach, ale špeciálne ho neštudoval, takže veľmi rýchlo prehral. Takže som bol veľmi prekvapený, keď o 6 mesiacov neskôr kandidoval za guvernéra Kalifornie a vyhral!
Prečo tieto obrázky nazývam pozitívne? Pretože hoci vo všetkých epizódach okrem prvej stojí starý Arnold vždy na strane víťazov a nikdy sa neunaví bojovať proti novým strojom, práve v prvej epizóde vidíme kombináciu, o ktorej som hovoril – vtedy osoba plus starý stroj plus perfektné rozhranie porazí najnovšie auto.
Môžete povedať: "Áno, stroje sú silnejšie ako ľudia, pretože dokážu vypočítať úplne všetko!" Nejde však o to, že si vedia všetko vypočítať. Napríklad v šachu môžeme technicky hovoriť o matematickom nekonečne počtu možných ťahov rovných 1045, ktoré nie je ťažké vypočítať pre žiadny moderný počítač. V hre však nie sú dôležité výpočty, ale to, že počítač predbieha človeka, pretože sa vždy riadi pravidlami. A poznáte účinok týchto pravidiel a viete, prečo počítač vyberá najlepší ťah z obrovského množstva možných ťahov.
Ale ak sa obrátime na skutočný život, nie som si istý, že počítač môže byť vždy užitočný. Pozrime sa na najtypickejšiu situáciu – máte počítač, ktorý sleduje váš rozpočet, ste v obchode a chystáte sa kúpiť drahý darček. Počítač vyhodnotí nákup a povie: "Nie, túto položku si nemôžete dovoliť, pretože prekročíte rozpočet." Stroj vypočítal všetko, ale je tu malá nuansa - vaše dieťa stojí vedľa vás a tento darček je určený k jeho narodeninám. Vidíte, ako to mení podmienky problému? To všetko mení, pretože dieťa čaká na tento dar.
Môžem začať pridávať tieto maličkosti, ktoré všetko menia, ale nemyslím si, že sa dajú zahrnúť do problému a získať správne riešenie. Máme veľa pravidiel, ale stále sa musíme pýtať, pretože veci sa menia. Dá sa to nazvať bežnou situáciou, no ak sa pozriete na tieto filmy, môžete povedať, že tu zobrazená situácia je dramatickejšia a výnimočnejšia. Táto snímka zobrazuje záber z V. epizódy Star Wars: Impérium vracia úder.
Han Solo pilotuje loď priamo cez pole asteroidov a C-3PO spanikári a hlási, že šanca na prežitie v poli je 1:3122. Han Solo mu hovorí: "Nikdy mi nehovor, aké máme šance!" Tu vyvstáva otázka, kto má v tejto situácii väčšiu pravdu?
Technológia reprezentovaná C-3PO je úplne správna, pretože šanca na prežitie je nulová. Je možné, že z pohľadu robota je zajatie imperiálnymi silami lepšou voľbou, o ktorej by človek ani neuvažoval, ako zomrieť v poli asteroidov. Ale ak počítač rozhodne, že odovzdanie sa impériu je najlepšou možnosťou, potom môžeme predpokladať, že daná osoba nemá žiadne možnosti. Veľmi dôležité je, že v oboch prípadoch, obyčajných aj mimoriadnych, máme možnosť urobiť konečné rozhodnutie a takéto rozhodnutie si predsa vyžaduje ľudské vedenie.
Niekedy to znamená, že musíte ísť proti odporúčaniam počítača. Zmyslom ľudského vedenia nie je poznať šance, ale klásť otázky, na ktorých skutočne záleží, nielen dnes alebo zajtra, ale aj ďaleko v budúcnosti. Tento proces možno nazvať „ľudské vedenie“ alebo „ľudský zásah“, ovplyvňovanie bez pomoci inteligentných strojov. Toto by mal byť náš kurz v tomto storočí.
Ľudia sú niekedy prekvapení mojím optimizmom ohľadom inteligentných strojov, vzhľadom na moje skúsenosti s nimi, ale ja som naozaj optimista. A som si istý, že všetci ste rovnako optimistickí, pokiaľ ide o budúcnosť AI. Musíme si však uvedomiť, že naše technológie sú agnostické. Nie je to dobré ani zlé, ale dá sa použiť na dobro aj zlo. Stroje sa musia stať inteligentnejšími a schopnejšími. A my ľudia musíme robiť to, čo dokážu len ľudia – snívať, snívať naplno, a potom budeme môcť vyťažiť všetky výhody, ktoré tieto úžasné nové nástroje prinášajú.
Podľa plánu máme ešte 10 minút na zodpovedanie otázok.
Otázka: Myslíte si, že by bolo možné vytvoriť systém strojového učenia, ktorý by dokázal určiť, ktoré pohyby sú viac v súlade s ľudským štýlom hry?
Kasparov: V prvom rade neočakávame, že nám počítač oznámi prvý ťah a zvyšných 17505 9 ťahov. Myslím si, že by sme sa mali spoliehať na stroj, ktorý poskytne najlepšie odporúčania pre jedinečné pohyby. Mimochodom, špičkoví hráči používajú počítače ako sprievodcu, ktorý im pomáha zaujať v hre tú najvhodnejšiu pozíciu. Opakujem ešte raz - v 10 prípadoch z XNUMX je počítačový odhad situácie oveľa lepší ako hodnotenie, ktoré môže urobiť človek.
Otázka: Súhlasíte s tým, že skutočná inteligencia si vyžaduje slobodu voľby, slobodu rozhodovania, ktoré môže robiť len človek? Koniec koncov, softvér Deep Blue a ďalšie počítačové programy píšu ľudia, a keď prehráte s Deep Blue, prehráte nie s počítačom, ale s programátormi, ktorí program napísali. Moja otázka znie: existuje nejaké nebezpečenstvo z akéhokoľvek druhu strojovej inteligencie, pokiaľ majú počítače slobodu voľby?
Kasparov: Tu musím prejsť od vedy k filozofii. O Deep Blue je všetko jasné – je výsledkom obrovského množstva ľudskej práce. Vo väčšine prípadov, dokonca aj v prípade AlphaGo od Demisa Hassabisa, sú to všetko produkty ľudskej inteligencie. Neviem, či stroje môžu mať slobodu voľby, ale verím, že čokoľvek robíme, ak vieme, ako to urobiť, stroje to urobia lepšie. Keď však robíme väčšinu vecí, nevieme, ako ich robiť najlepšie, a tak často nevieme pochopiť, čo sa nám podarí. Jednoducho povedané, máme cieľ, ale nevieme, aký to je, a úlohou stroja je pomôcť nám tento cieľ realizovať. Ak teda hovoríme o slobodnom výbere počítačov, malo by nám to pomôcť zaviazať nás k tomuto cieľu. Myslím si, že toto je pre počítače veľmi vzdialená budúcnosť.
Otázka: Čo si myslíte o ľudských vlastnostiach, akými sú odvaha a morálka, a rozhodnutiach, ktoré môže umelá inteligencia na ich základe robiť? Čo by malo napríklad samoriadiace auto urobiť – prejsť dieťa alebo sa vyhnúť nárazu do skaly a zabitiu spolujazdca?
Kasparov: Toto ľudia nazývajú „pocity“, nie je možné ich kvantifikovať, pretože ide o celý rad rôznych ľudských vlastností. Ak hovoríme o odvahe, potom je táto charakteristika vždy v rozpore so šancami na výber optimálnej možnosti. Odvaha, podobne ako iné ľudské emócie, je z definície v rozpore s presným výpočtom.
Otázka: Pán Kasparov, moja otázka sa netýka počítačov: čo je vo vašej banke a môžem to vyskúšať?
Kasparov: Čo tým myslíš?
Hostiteľ: Pýta sa, čo máš vo vrecku!
Kasparov: do vrecka? "Stolichnaja"! Toto nie je reklama, ak ste si všimli, vyhodil som ju.
Otázka: Kto bude podľa vás budúcim majstrom sveta v šachu a má mladý čínsky šachista Wei Yi šancu zosadiť Carelsena ako šachového kráľa?
Kasparov: Karelsen je hráč číslo 1, nie je majstrom sveta, ale jednoducho najlepším šachistom na svete podľa hodnotenia. Tento rok má 27 rokov, takže je stále mladý, no na dnešné pomery nie veľmi mladý. Myslím, že Wei Yi má teraz 18 alebo 19 rokov. Magnus má náskok pred mladými hráčmi, ako sú Američania Wesley So a Fabiano Kerouana a Wei Yi by mohol byť potenciálne jeho súperom. Na to, aby ste sa však stali majstrom sveta, potrebujete talent, nemusíte byť mladí a energickí, stačí mať trochu šťastia. Aby som teda odpovedal na otázku, môžem povedať – áno, má šancu poraziť Magnusa Carelsena.
Otázka: Keď ste hovorili o deterministických algoritmoch a strojovom učení, spomenuli ste možnosť využitia strojov ako nástrojov na doplnenie našej inteligencie. A čo možnosť maximalizácie zdrojov pred vytvorením výkonnej AI alebo dokonca vložením ľudského mozgu do počítača?
Kasparov: Nehanbím sa priznať svoju nevedomosť, keď si nie som istý, či nie som schopný správne odpovedať na otázku. Snažím sa čo najlepšie pochopiť, čo je ľudský mozog, ak ho vezmeme do úvahy oddelene od ľudského tela, aké funkcie vykonáva. Pretože je ťažké si predstaviť, ako sa mozog bude správať oddelene od tela. Možno by sa takýto experiment mohol uskutočniť v budúcnosti, ale som presvedčený, že kombinácia ľudského mozgu, ľudských pocitov a emócií s počítačom vytvorí „myseľ“, ktorá bude oveľa efektívnejšia ako mozog extrahovaný a zmrazený, použitý ako zariadenie naplnené neurónmi.
Otázka: Existuje univerzálny základný prístup k problému nahradenia ľudských pracovných miest počítačmi?
Kasparov: Myslím si, že toto je veľmi dôležitá otázka, pretože je jasné, že sa blížime k bodu, kedy môže byť veľa ľudí nezamestnaných. Toto je paradox technologického pokroku: na jednej strane máme najnovšie technológie, ktoré poskytujú obrovské konkurenčné výhody mladej generácii, ktorá sa týmito zariadeniami a technológiami zaoberá. Na druhej strane máme pokrok v medicíne a zdravej výžive, ktorá predlžuje ľudský život a dáva človeku schopnosť pracovať dlhé roky. V tomto zmysle nemôže generácia 50., 60. či dokonca 40. rokov konkurovať dnešnej mládeži. Musíme nájsť riešenie tejto paradoxnej situácie, keď je priepasť medzi generáciami taká veľká. Historická skúsenosť hovorí, že takáto medzera vždy vedie k veľkému výbuchu. Mám na mysli priepasť medzi existujúcou sociálnou infraštruktúrou spoločnosti a technologickým pokrokom.
Toto je téma, ktorú politici radšej odkladajú na najbližšie voľby. Nikto o tom nechce hovoriť, pretože je to citlivá téma. Je veľmi jednoduché tlačiť peniaze a dúfať, že ich niekedy v budúcnosti niekto zaplatí. V tejto oblasti je teda veľa paradoxov, napríklad hromadenie dlhov za poskytovanie sociálnych záruk staršej generácii v očakávaní, že bremeno splácania týchto dlhov padne na plecia mladšej generácie. Existuje veľa otázok, na ktoré nemám odpovede, a veľa otázok, ktoré by som mohol položiť a dúfam, že mi AI pomôže.
Je veľmi zlé, že sa politici už desaťročia snažia ignorovať problémy, o ktorých sme práve diskutovali. Sú vždy pripravení urobiť vyhlásenia, vždy majú plány, ale nechcú pochopiť kontraproduktívnosť mlčania o probléme konfliktu medzi technológiou a spoločnosťou. Ďakujem za tvoju pozornosť!
Ďakujeme, že ste zostali s nami. Páčia sa vám naše články? Chcete vidieť viac zaujímavého obsahu? Podporte nás zadaním objednávky alebo odporučením priateľom, 30% zľava pre užívateľov Habr na unikátny analóg serverov základnej úrovne, ktorý sme pre vás vymysleli: (k dispozícii s RAID1 a RAID10, až 24 jadier a až 40 GB DDR4).
Dell R730xd 2 krát lacnejší? Len tu v Holandsku! Dell R420 – 2x E5-2430 2.2 GHz 6C 128 GB DDR3 2 x 960 GB SSD 1 Gb/s 100 TB – od 99 USD! Čítať o
Zdroj: hab.com