Я думаю, што праблема не ў тым, што машыны заменяць чалавека на яго працоўным месцы, у тым ліку і ў інтэлектуальнай сферы дзейнасці, і не ў тым, што кампутары нібыта настроіліся супраць людзей з вышэйшай адукацыяй і акаўнтам у Twitter. Укараненне ІІ адбываецца зусім не хутка, а наадварот, занадта павольна. Чаму? Таму што гэта нармальны цыкл развіцця чалавецтва, і мы проста не ўсведамляем, што бачнае намі разбурэнне азначае ўкараненне новай тэхналогіі, якая, перш чым стварыць новыя працоўныя месцы, знішчае старыя.
Тэхналогіі руйнуюць састарэлыя галіны і ствараюць новыя, такі працэс стварэння, такі цыкл развіцця. Калі вы спрабуеце зацягнуць агонію, устаўляючы ў гэты працэс старыя тэхналогіі ці ствараючы нейкія перавагі для састарэлых тэхналогій, вы проста запаволіце працэс і зробіце яго больш балючым. Гэта ўсё роўна адбудзецца, але праблема складаецца ў тым, што мы займаемся "зарэгуляваннем" працэсу, ствараючы правілы, якія свядома яго запавольваюць. Я лічу гэта большай праблемай, чым тыя, якія мы ўсведамляем больш выразна. Гэта больш псіхалагічная праблема, калі людзі задаюцца пытаннем: як можна пачувацца ў бяспецы, знаходзячыся ў беспілотным аўтамабілі?
Я зазірнуў у гісторыю і даведаўся, што сто гадоў таму адным з самых магутных прафсаюзаў у Нью-Ёрку быў прафсаюз ліфцёраў, які аб'ядноўваў 17 тысяч працаўнікоў. Дарэчы, у той час ужо існавала тэхналогія, калі можна было проста націснуць на кнопку - і гатова, але людзі ёй не давяралі! Гэта проста жах - самому націскаць кнопку, каб выклікаць ліфт! Ведаеце, чаму гэты прафсаюз "сканаў" і людзі самі прыняліся карыстацца кнопкамі? Бо аднойчы ліфцёры вырашыліся на страйк. Яны зладзілі страйк, і тады людзі, якім трэба было падняцца на вяршыню Эмпайр-стэйт-білдынг, рызыкнулі ўласнаручна паціскаць кнопкі.
Успомніце, што 20-30 гадоў назад казалі пра дзяцей ці ўнукаў, калі яны садзіліся за руль аўтамабіля: гэта жахліва, вы толькі паглядзіце статыстыку, бо аўтамабілі - адна з галоўных чыннікаў чалавечай смяротнасці, як жа яны могуць рызыкаваць сваім жыццём?
Дык вось, усё гэта чыстая псіхалогія. Мы практычна не звяртаем увагі на тое, колькі людзей гінуць у аўтамабільных аварыях, але варта аднаму чалавеку загінуць ад беспілотнага аўтамабіля, як гэтая падзея раздзімаецца да нябёсаў. Любы глюк, любая памылка тэхналогій штучнага інтэлекту тут жа асвятляецца на першых старонках газет. Але паглядзіце на статыстыку, паглядзіце на колькасць інцыдэнтаў, і вы ўбачыце, наколькі гэта малюсенькі працэнт ад агульнай колькасці аварый. Таму чалавечая супольнасць пераможа, толькі калі зможа рухацца наперад, не будучы паралізаваным падобнымі страхамі.
Іншае пытанне ўзнікае, калі мы гаворым пра фэйкавыя навіны ці кібербяспекі, гэта вельмі палітызаваныя тэмы, і мне паступае мноства званкоў з пытаннем, як я змагаюся з ненавіснікамі ІІ. Напрыклад, я вяду рэгулярны блог, і ў маёй новай нататцы, якая будзе апублікаваная праз пару дзён, гаворка ідзе аб нянавісці і аб тым, што выратаванне ад нянавісці складаецца ў ведах, у навучанні. Мы проста павінны разумець, што гэтая праблема існавала задоўга да таго, як былі вынайдзены ўсе гэтыя рэчы, проста зараз яе значэнне ўзрасла дзякуючы інтэрнэту, які ахоплівае мільёны і мільярды людзей.
Я думаю, што гэта наадварот добра, калі нехта спрабуе спыніць прагрэс, спрабуючы абвясціць ІІ па-за законам, і ты ведаеш, што гэта не спрацуе, таму што ў нас ёсць Пуцін і іншыя дрэнныя хлопцы, дзе б яны не знаходзіліся, якія выкарыстоўваюць супраць нас нашы ж уласныя тэхналогіі, створаныя ў вольным свеце. Таму я лічу, што мы павінны проста прыняць гэта як дадзенасьць.
Сутнасць праблемы заключана толькі ў нас, і адказы на пытанні заключаны ўнутры нас, у нашай уласнай сіле і нашай уласнай упэўненасці. Я сцвярджаю, што інтэлектуальныя машыны не здольныя зрабіць нас састарэлымі . Аднак трэба памятаць, што ёсць пэўныя абмежаванні адносна супрацоўніцтва чалавека і камп'ютара, прычым у значнай меры гэта проста чуткі, якія існавалі і раней. Як заўсёды, гэта проста новыя магчымасці, якія руйнуюць стары свет і ствараюць новы, і чым далей мы прасунемся наперад, тым у лепшым становішчы апынемся.
Цяпер гэта найбольш нагадвае рух у свет навуковай фантастыкі. Парадокс заключаецца ў тым, што калі мы павернемся на 50-60 гадоў таму, то ўбачым, што ў тыя часы навуковая фантастыка была абсалютна пазітыўнай, яна была суцэльнай утопіяй. Аднак затым адбыўся паступовы пераход ад утопіі да антыўтопіі, такім чынам, што мы больш не жадаем нічога чуць аб будучыні чалавецтва.
Гэта здарылася не за адну ноч. Быў час, калі людзі вырашылі, што засваенне космасу занадта рызыкоўная справа. Гэта сапраўды вялікая рызыка, але ўявіце сабе, што ў 1969 году, калі амерыканцы высадзіліся на Месяцы, уся вылічальная магутнасць NASA была менш, чым магутнасць любой сучаснай кампутарнай прылады, які змяшчаецца ў вас у кішэні. Гэта прылада ў тысячу разоў магутней суперкампутара, які існаваў 40 гадоў назад. Толькі ўявіце сабе, якую вылічальную моц вы носіце ў сваёй кішэні! Праўда, я не ўпэўнены, што Apple iPhone 7 валодае такой жа вылічальнай магутнасцю, які валодаў Apollo 7, гэта значыць здольны вырабіць такі ж эфект.
Аднак машыны забяспечылі нам мноства вялікіх дасягненняў у вобласці засваення космасу ці сусветнага акіяна, і мы павінны зразумець, што кампутары падаюць нам магчымасць прыняць на сябе вялікія рызыкі.
Я б хацеў скончыць свой выступ на пазітыўнай ноце. Хіба на гэтым слайдзе не намаляваны пазітыўныя карцінкі? Фатаграфія ў правым ніжнім куце - гэта не «фоташоп», я сапраўды сустракаўся з Тэрмінатарам у 2003 годзе.
Ён таксама з дзяцінства любіць шахматы, але спецыяльна імі не займаўся, таму прайграў вельмі хутка. Таму я быў вельмі здзіўлены, калі праз 6 месяцаў ён балатаваўся на пасаду губернатара Каліфорніі і выйграў!
Чаму я ж я называю гэтыя карцінкі пазітыўнымі? Таму што хоць ва ўсіх серыях, акрамя першай, даўніна Арнольд заўсёды выступае на баку пераможцаў і ніколі не стамляецца змагацца супраць новых машын, менавіта ў першай серыі мы бачым камбінацыю, пра якую я казаў - гэта калі чалавек плюс старая машына плюс дасканалы інтэрфейс перамагаюць найноўшую машыну.
Вы можаце сказаць: так, машыны мацней людзей, таму што могуць вылічыць абсалютна ўсё! Аднак справа не ў тым, што яны могуць усё разлічыць. Напрыклад, у шахматах тэхнічна можна казаць аб матэматычнай бясконцасці колькасці магчымых хадоў, роўнага 1045, якія не цяжка вылічыць любому сучаснаму кампутару. Аднак у гульні важныя не вылічэнні, а тое, што кампутар апыняецца наперадзе чалавека, таму што заўсёды кіруецца правіламі. А вы ведаеце эфект гэтых правіл і ведаеце, чаму кампутар выбірае лепшы ход з велізарнага мноства магчымых хадоў.
Але калі звярнуцца да рэальнага жыцця, то я не ўпэўнены, што камп'ютар заўсёды можа быць карысны. Давайце разгледзім самую тыповую сітуацыю - у вас маецца кампутар, які сочыць за выкананнем бюджэту, вы знаходзіцеся ў краме і збіраецеся купіць дарагі падарунак. Кампутар ацэньвае пакупку і кажа: "не, вы не можаце дазволіць сабе гэтую рэч, таму што перавысіце бюджэт". Машына ўсё пралічыла, але ёсць невялікі нюанс побач стаіць ваша дзіця, і гэты падарунак прызначаецца яму на дзень нараджэння. Вы бачыце, наколькі гэта мяняе ўмовы задачы? Гэта мяняе ўсё, таму што дзіця чакае гэты падарунак.
Я магу пачаць дадаваць гэтыя дробязі, якія ўсё мяняюць, але не думаю, што іх можна ўключыць ва ўмовы задачы і атрымаць правільнае рашэнне. У нас ёсць мноства правілаў, але мы ўсё роўна вымушаны задаваць пытанні, таму што сітуацыя мяняецца. Гэта тое, што можна назваць звычайнай сітуацыяй, але калі паглядзець на гэтыя фільмы, можна сказаць, што паказаная тут сітуацыя больш драматычная і экстраардынарная. На гэтым слайдзе вы бачыце кадр з эпізоду V "Зорныя войны: Імперыя наносіць зваротны ўдар".
Хан Сола накіроўвае карабель прама праз поле астэроідаў, і З-3PO упадае ў паніку, паведамляючы, што шанец выжыць у гэтым полі складае 1:3122. Хан Сола кажа яму: "Ніколі не кажы мне, якія нашы шанцы!". Тут узнікае пытанне, хто ж больш мае рацыю ў дадзенай сітуацыі?
Тэхніка ў асобе З-3PO абсалютна правы, таму што шанец выжыць імкнецца да нуля. Магчыма, што з пункту гледжання робата быць захопленым імперскімі войскамі з'яўляецца найлепшым выбарам, які чалавек нават не разглядае, чым гібель у полі астэроідаў. Але калі кампутар вырашыць, што здацца імпэрыі лепшы варыянт, то можна лічыць, што ў чалавека ўвогуле няма ніякіх варыянтаў. Вельмі важна тое, што ў абодвух выпадках, звычайным і экстраардынарным, у нас ёсць магчымасць прыняць канчатковае рашэнне, і для прыняцця такога рашэння ўсё яшчэ патрабуецца лідэрства чалавека.
Часам гэта азначае, што вы павінны выступіць супраць рэкамендацый кампутара. Сэнс чалавечага лідэрства не ў тым, каб ведаць шанцы, а ў тым, каб задаваць сапраўды значныя пытанні, не толькі сёння ці заўтра, але ў аддаленай будучыні. Гэты працэс можна назваць "кіруючымі ўказаннямі чалавека" ці "ўмяшаннем чалавека", уздзеяннем без дапамогі інтэлектуальных машын. Вось якім павінен наш курс у гэтым стагоддзі.
Людзі часам дзівяцца майму аптымізму з нагоды інтэлектуальных машын, улічваючы мой досвед зносін з імі, але я сапраўды аптыміст. І я ўпэўнены, што ўсе вы з такім жа аптымізмам ацэньваеце будучыню ІІ. Але трэба памятаць, што нашы тэхналогіі агнастычныя. Гэта не добра і не дрэнна, але можа быць скарыстана як для добрых спраў, так і для злых. Машыны павінны станавіцца разумней і здольней. А мы, людзі, павінны рабіць тое, што могуць рабіць толькі людзі - марыць, марыць на поўную, і тады мы зможам атрымаць усё карыснае, што нясуць у сабе гэтыя дзівосныя новыя інструменты.
Як і планавалася, у нас яшчэ застаецца 10 хвілін для адказаў на пытанні.
Пытанне: як вы лічыце, ці можна стварыць сістэму машыннага навучання, якая магла б вызначаць, якія хады больш адпавядаюць чалавечай манеры гульні?
Каспараў: перш за ўсё, мы не чакаем ад кампутара, што ён падкажа нам першы ход і астатнія 17505 хадоў. Я думаю, мы павінны разлічваць на машыну як на крыніцу атрымання найлепшых рэкамендацый для ўнікальных хадоў. Дарэчы, гульцы вышэйшага класа выкарыстоўваюць кампутары як гіда, які дапамагае ім заняць найбольш прыдатную пазіцыю ў гульні. Паўтаруся яшчэ раз - у 9 выпадках з 10 ацэнка сітуацыі кампутарам нашмат пераўзыходзіць адзнаку, якую здольны зрабіць чалавек.
Пытанне: ці згодны вы з тым, што сапраўдны інтэлект патрабуе свабоды выбару, свабоды ў прыняцці рашэнняў, якія можа прымаць толькі чалавек? Бо праграмнае забеспячэнне Deep Blue і іншыя кампутарныя праграмы напісаны людзьмі, і калі вы прайграваеце Deep Blue, то прайграваеце не кампутару, а праграмістам, якія напісалі гэтую праграму. Маё пытанне гучыць так: ці не зыходзіць якая-небудзь небяспека ад любога выгляду машыннага інтэлекту датуль, пакуль кампутары маюць волю выбару?
Каспараў: тут я мушу перайсці ад навукі да філасофіі. У стаўленні Deep Blue усё зразумела гэта вынік велізарнай працы чалавека. У большасці выпадкаў, нават у выпадку з AlphaGo Дэміса Хасабіс, гэта ўсё плён чалавечага інтэлекту. Я не ведаю, ці могуць машыны мець свабоду выбару, але я веру ў тое, што ўсё, што мы робім, калі ведаем, як гэта трэба зрабіць, машыны зробяць лепей. Аднак, робячы большасць рэчаў, мы не ведаем, як іх трэба рабіць найлепшым чынам, таму часта не можам зразумець, што ж у нас атрымаецца. Прасцей кажучы, у нас ёсць мэта, але мы не ведаем, што яна сабой уяўляе, і роля машыны дапамагчы нам усвядоміць гэтую мэту. Таму, калі казаць аб свабодным выбары кампутараў, то ён павінен садзейнічаць таму, каб звязаць нас з гэтай мэтай. Я думаю, што для кампутараў гэта вельмі падалены далягляд.
Пытанне: што вы думаеце адносна такіх чалавечых характарыстык, як адвага і мараль, і аб рашэннях, якія штучны інтэлект можа прыняць на іх аснове? Напрыклад, як павінен паступіць беспілотны аўтамабіль - наехаць на дзіця або адысці ад сутыкнення з ім, урэзаўшыся ў скалу і забіўшы свайго пасажыра?
Каспараў: гэта тое, што людзі завуць "пачуццямі", яны не паддаюцца колькаснай адзнацы, таму што гэта цэлая куча розных чалавечых характарыстак. Калі мы гаворым аб адвагі, то гэтая характарыстыка заўсёды ідзе ў разрэз з шанцамі выбару аптымальнага варыянту. Адвага, як і іншыя чалавечыя пачуцці, па азначэнні супярэчаць дакладнаму падліку.
Пытанне: містэр Каспараў, маё пытанне не датычыцца кампутараў: што знаходзіцца ў вашай пляшцы і ці магу я гэта паспрабаваць?
Каспараў: што вы маеце на ўвазе?
Вядучы: ён пытаецца, што знаходзіцца ў вашым кішэні!
Каспараў: у маёй кішэні? "Сталічная"! Гэта не рэклама, калі вы заўважылі, я яе выкінуў.
Пытанне: хто, па-вашаму, стане наступным чэмпіёнам свету па шахматах і ці мае малады кітайскі шахматыст Вэй І шанец зрынуць Карэлса з трона караля шахмат?
Каспараў: Карэлсан - гулец №1, ён не чэмпіён свету, а проста лепшы ў свеце шахматыст паводле рэйтынгу. У гэтым годзе яму споўніцца 27 гадоў, так што ён усё яшчэ малады, але па сучасных стандартах не вельмі малады. Я думаю, Вэй І зараз 18 ці 19 гадоў. Магнус апярэдзіў такіх маладых гульцоў, як амерыканцы Уізлі Со і Фабіяна Керуана, і патэнцыйна, Вэй І можа выступіць яго супернікам. Аднак для таго, каб стаць чэмпіёнам свету, неабходны талент, не абавязкова быць маладым і энергічным, дастаткова мець крыху ўдачы. Так што, адказваючы на пытанне, магу сказаць - так, ён мае шанцы перамагчы Магнуса Карэлсена.
Пытанне: калі вы казалі аб дэтэрмінаваных алгарытмах і машынным навучанні, то згадалі магчымасць выкарыстання машын як прылад для дадатку нашага інтэлекту. Што вы скажаце аб магчымасці максімалізацыі рэсурсаў доячы стварэння магутнага ІІ ці нават аб тым, каб «укласці» у кампутар чалавечы мозг?
Каспараў: я не саромеюся прызнаць сваё невуцтва, калі не ўпэўнены, што не ў стане дакладна адказаць на пытанне. Я з усяе сілы стараюся зразумець, што ўяўляе сабой чалавечы мозг, калі разглядаць яго асобна ад чалавечага цела, якія функцыі ён выконвае. Таму што цяжка ўявіць, як павядзе сябе мозг асобна ад цела. Магчыма, у будучыні такі эксперымент можна будзе ажыццявіць, але я ўпэўнены, што камбінацыя чалавечага мозгу, чалавечых пачуццяў і эмоцый з кампутарам утвараюць "розум", які будзе нашмат больш эфектыўна, чым выняты і замарожаны мозг, які выкарыстоўваецца ў якасці прылады, запоўненай нейронамі.
Пытанне: ці існуе ўніверсальны базавы падыход да праблемы замяшчэння людскіх працоўных месцаў кампутарамі?
Каспараў: думаю, гэта вельмі важнае пытанне, бо зразумела, што мы набліжаемся да таго моманту, калі многія людзі могуць застацца без працы. Гэта парадокс тэхналагічнага прагрэсу: з аднаго боку ў нас ёсць найноўшыя тэхналогіі, якія прадстаўляюць вялізныя канкурэнтныя перавагі маладому пакаленню, якое мае справу з гэтымі прыладамі і тэхналогіямі. З іншага боку, у нас ёсць прагрэс у медыцыне і здаровым харчаванні, што падаўжае чалавечае жыццё і дае чалавеку здольнасць працаваць многія гады. У гэтым сэнсе пакаленьне 50-х, 60-х ці нават 40-х гадоў ня можа выступаць канкурэнтам цяперашняй моладзі. Мы павінны знайсці вырашэнне гэтай парадаксальнай сітуацыі, калі разрыў паміж пакаленнямі настолькі вялікі. Гістарычны досвед кажа, што такі разрыў заўсёды прыводзіць да вялікага выбуху. Я маю на ўвазе разрыў паміж існуючай сацыяльнай інфраструктурай грамадства і тэхналагічным прагрэсам.
Гэта тая праблема, якую палітыкі лічаць за лепшае адкладаць да наступных выбараў. Ніхто не хоча казаць пра гэта, таму што гэта балючае пытанне. Вельмі лёгка друкаваць грошы, спадзеючыся, што нехта калі-небудзь у будучыні за гэта заплаціць. Так што ў гэтай сферы існуе мноства парадоксаў, напрыклад, назапашванне даўгоў за прадастаўленне сацыяльных гарантый старэйшаму пакаленню ў разліку на тое, што цяжар расплачвацца за гэтыя даўгі ляжа на плечы маладога пакалення. Існуе мноства пытанняў, на якія ў мяне няма адказаў, і мноства пытанняў, якія я мог бы задаць, спадзяюся, што ІІ мне ў гэтым дапаможа.
Вельмі дрэнна, што на працягу дзесяцігоддзяў палітыкі спрабуюць ігнараваць праблемы, якія мы з вамі зараз абмеркавалі. Яны заўсёды гатовы да заяў, у іх заўсёды ёсць планы, але яны не хочуць зразумець контрпрадуктыўнасць замоўчвання праблемы канфлікту тэхналогій і соцыума. Дзякую вам за ўвагу!
Дзякуй, што застаяцеся з намі. Вам падабаюцца нашыя артыкулы? Жадаеце бачыць больш цікавых матэрыялаў? Падтрымайце нас аформіўшы замову або парэкамендаваўшы знаёмым, 30% зніжка для карыстальнікаў Хабра на ўнікальны аналаг entry-level сервераў, які быў прыдуманы намі для Вас: (даступныя варыянты з RAID1 і RAID10, да 24 ядраў і да 40GB DDR4).
Dell R730xd у 2 разы танней? Толькі ў нас у Нідэрландах! Dell R420 – 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB – ад $99! Чытайце аб тым
Крыніца: habr.com