Мисля, че проблемът не е в това, че машините ще изместят хората на работното им място, включително в интелектуалната сфера, а не в това, че компютрите сякаш са вдигнали оръжие срещу хората с висше образование и акаунти в Twitter. Внедряването на AI не става бързо, а напротив, твърде бавно. Защо? Защото това е нормален цикъл на развитие на човечеството и ние просто не осъзнаваме, че разрухата, която виждаме, означава въвеждането на нови технологии, които преди да създадат нови работни места, унищожават старите.
Технологиите унищожават остарелите индустрии и създават нови, това е процесът на създаване, това е цикълът на развитие. Ако се опитате да удължите агонията, като вмъкнете стари технологии в процеса или създадете някои предимства за остарелите технологии, вие просто ще забавите процеса и ще го направите по-болезнен. Така или иначе ще се случи, но проблемът е, че ние регулираме процеса, като създаваме правила, които умишлено го забавят. Мисля, че това е по-голям проблем от тези, които осъзнаваме по-ясно. Това е по-скоро психологически проблем, при който хората задават въпроса: „как можете да се чувствате в безопасност, докато сте в самоуправляваща се кола?“
Надникнах в историята и научих, че преди сто години един от най-мощните синдикати в Ню Йорк е бил синдикатът на асансьорните работници, който обединявал 17 хиляди работници. Между другото, по това време вече имаше технология, при която просто натискаш бутон и си готов, но хората не й вярваха! Просто е ужасно сам да натискаш бутона, за да извикаш асансьора! Знаете ли защо този профсъюз „умря” и хората сами започнаха да използват бутоните? Защото един ден асансьорните работници решиха да стачкуват. Те стачкуваха и тогава хората, които трябваше да се изкачат до върха на Емпайър Стейт Билдинг, рискуваха да натискат бутоните със собствените си ръце.
Спомнете си какво казаха преди 20-30 години за деца или внуци, когато се качиха зад волана на кола: „това е ужасно, просто вижте статистиката, защото колите са една от основните причини за човешката смъртност, как могат да рискуват техните животи?"
Така че всичко това си е чиста психология. Обръщаме малко внимание на това колко хора умират при автомобилни катастрофи, но щом един човек бъде убит от самоуправляваща се кола, събитието става непропорционално. Всеки бъг, всяка грешка в технологиите за изкуствен интелект веднага се отразява на първите страници на вестниците. Но вижте статистиката, вижте броя на инцидентите и ще видите какъв малък процент от общия брой на инцидентите е. Следователно човешката общност ще спечели само ако може да върви напред, без да бъде парализирана от подобни страхове.
Друг проблем възниква, когато говорим за фалшиви новини или киберсигурност, това са много политизирани теми и получавам много обаждания, питащи как се справям с мразещите AI. Например, аз пиша обикновен блог и новата ми публикация, която ще бъде публикувана след няколко дни, говори за омразата и за това, че спасението от омразата е в знанието, в ученето. Просто трябва да разберем, че този проблем е съществувал много преди всички тези неща да бъдат изобретени, просто важността му сега е нараснала благодарение на интернет, който достига до милиони и милиарди хора.
Мисля, че всъщност е нещо добро, когато някой се опитва да спре напредъка, като се опитва да забрани ИИ, и знаете, че това няма да проработи, защото имаме Путин и други лоши момчета, където и да са, които използват срещу нас нашите собствени технологии, създадени в свободния свят. Така че мисля, че трябва просто да го приемем като даденост.
Същността на проблема е само в нас, а отговорите на въпросите са в нас, в собствените ни сили и собствената ни увереност. Твърдя, че интелигентните машини не могат да ни направят „остарели“. Все пак трябва да се помни, че има определени ограничения по отношение на сътрудничеството човек-компютър и до голяма степен това са само слухове, които са съществували преди. Както винаги, това са просто нови възможности, които разрушават стария свят и създават нов и колкото по-напред вървим, толкова по-добре ще бъдем.
Днес това най-много прилича на преместване в света на научната фантастика. Парадоксът е, че ако погледнем 50-60 години назад, ще видим, че в онези времена научната фантастика беше абсолютно позитивна, беше пълна утопия. След това обаче имаше постепенен преход от утопия към антиутопия, по такъв начин, че вече не искаме да чуваме нищо за бъдещето на човечеството.
Това не се случи за една нощ. Имаше време, когато хората решиха, че изследването на космоса е твърде рисковано. Това наистина е голям риск, но представете си, че през 1969 г., когато американците кацнаха на Луната, цялата изчислителна мощност на НАСА беше по-малка от мощността на всяко съвременно изчислително устройство, което се побира в джоба ви. Това устройство е хиляди пъти по-мощно от суперкомпютъра, съществувал преди 40 години. Само си представете изчислителната мощност, която имате в джоба си! Не съм сигурен обаче, че Apple iPhone 7 има същата изчислителна мощност, която имаше Apollo 7, тоест, че е способен да произведе същия ефект.
Машините обаче ни предоставиха много големи постижения в изследването на космоса или океана и трябва да разберем, че компютрите ни дават способността да поемаме големи рискове.
Бих искал да завърша изказването си с положителна нотка. Този слайд не показва ли положителни снимки? Снимката в долния десен ъгъл не е фотошопирана, всъщност срещнах Терминатора през 2003 г.
Той също обичаше шах от дете, но не го изучаваше специално, така че загуби много бързо. Така че бях много изненадан, когато 6 месеца по-късно той се кандидатира за губернатор на Калифорния и спечели!
Защо наричам тези снимки положителни? Защото въпреки че във всички епизоди, с изключение на първия, старият Арнолд винаги стои на страната на победителите и не се уморява да се бори срещу новите машини, именно в първия епизод виждаме комбинацията, за която говорих - това е, когато човек плюс стара машина плюс перфектен интерфейс побеждава най-новата кола.
Може да кажете: „да, машините са по-силни от хората, защото могат да изчислят абсолютно всичко!“ Въпросът обаче не е, че те могат да изчислят всичко. Например в шаха можем технически да говорим за математическата безкрайност на броя на възможните ходове, равна на 1045, които не е трудно да изчисли всеки съвременен компютър. Важното в играта обаче не са изчисленията, а фактът, че компютърът е пред човека, защото винаги се ръководи от правилата. И знаете ефекта от тези правила и знаете защо компютърът избира най-добрия ход от огромно разнообразие от възможни ходове.
Но ако се обърнем към реалния живот, не съм сигурен, че компютърът винаги може да бъде полезен. Нека да разгледаме най-типичната ситуация – имате компютър, който следи бюджета ви, в магазин сте и сте на път да купите скъп подарък. Компютърът оценява покупката и казва: „Не, не можете да си позволите този артикул, защото ще надвишите бюджета“. Машината е изчислила всичко, но има малък нюанс - вашето дете стои до вас и този подарък е предназначен за рождения му ден. Виждате ли как това променя условията на проблема? Това променя всичко, защото детето чака този подарък.
Мога да започна да добавям тези малки неща, които променят всичко, но не мисля, че те могат да бъдат включени в изложението на проблема и да се получи правилното решение. Имаме много правила, но все още трябва да задаваме въпроси, защото нещата се променят. Това е нещо, което може да се нарече обикновена ситуация, но ако погледнете тези филми, можете да кажете, че ситуацията, показана тук, е по-драматична и необикновена. Този слайд показва кадър от Епизод V на Междузвездни войни: Империята отвръща на удара.
Хан Соло пилотира кораба направо през астероидно поле и C-3PO изпада в паника, съобщавайки, че шансът да оцелее в полето е 1: 3122. Хан Соло му казва: „Никога не ми казвай какви са шансовете ни!“ Тук възниква въпросът кой е по-прав в тази ситуация?
Технологията, представена от C-3PO, е абсолютно правилна, защото шансът за оцеляване клони към нула. Възможно е, от гледна точка на робота, да бъдеш заловен от имперските сили е по-добър избор, който човек дори не би обмислил, отколкото да умреш в астероидно поле. Но ако компютърът реши, че предаването на империята е най-добрият вариант, тогава можем да предположим, че човекът няма никакви възможности. Много важното е, че и в двата случая, обикновен и необикновен, ние имаме възможността да вземем окончателното решение, а за вземането на такова решение все още е необходимо човешко лидерство.
Понякога това означава, че трябва да се противопоставите на препоръките на компютъра. Смисълът на човешкото лидерство не е да се знаят шансовете, а да се задават въпросите, които наистина имат значение, не само днес или утре, но далеч в бъдещето. Този процес може да се нарече "човешко ръководство" или "човешка намеса", въздействайки без помощта на интелигентни машини. Това трябва да бъде курсът ни през този век.
Хората понякога се изненадват от оптимизма ми относно интелигентните машини, предвид опита ми с тях, но аз наистина съм оптимист. И съм сигурен, че всички вие сте еднакво оптимисти за бъдещето на ИИ. Но трябва да помним, че нашите технологии са агностици. Не е нито добро, нито лошо, но може да се използва както за добро, така и за зло. Машините трябва да станат по-умни и по-способни. И ние, хората, трябва да правим това, което само хората могат да правят - да мечтаем, да мечтаем докрай и тогава ще можем да извлечем всички предимства, които носят тези удивителни нови инструменти.
Както беше планирано, имаме още 10 минути, за да отговорим на въпроси.
Въпрос: Смятате ли, че би било възможно да се създаде система за машинно обучение, която може да определи кои ходове са по-съвместими с човешкия стил на игра?
Каспаров: Първо, ние не очакваме компютърът да ни каже първия ход и останалите 17505 9 хода. Мисля, че трябва да разчитаме на машината, за да предостави най-добрите препоръки за уникални движения. Между другото, играчите от най-висока класа използват компютрите като ръководство, което им помага да заемат най-подходящата позиция в играта. Още веднъж повтарям - в 10 от XNUMX случая оценката на компютъра за ситуацията е много по-добра от оценката, която човек може да направи.
Въпрос: Съгласни ли сте, че истинската интелигентност изисква свобода на избора, свобода за вземане на решения, които само човек може да вземе? В крайна сметка софтуерът Deep Blue и другите компютърни програми са написани от хора и когато загубите от Deep Blue, губите не от компютъра, а от програмистите, които са написали програмата. Въпросът ми е: има ли опасност от всякакъв вид машинен интелект, докато компютрите имат свобода на избор?
Каспаров: Тук трябва да премина от наука към философия. За Deep Blue всичко е ясно – той е резултат от огромен човешки труд. В повечето случаи, дори в случая с AlphaGo на Демис Хасабис, всичко това са продукти на човешкия интелект. Не знам дали машините могат да имат свобода на избор, но вярвам, че каквото и да правим, ако знаем как да го правим, машините ще го правят по-добре. Въпреки това, когато правим повечето неща, не знаем как да ги направим по най-добрия начин, така че често не можем да разберем какво ще успеем. Просто казано, имаме цел, но не знаем каква е тя и ролята на машината е да ни помогне да реализираме тази цел. Следователно, ако говорим за свободен избор на компютри, то това трябва да ни помогне да се обвържем с тази цел. Мисля, че това е много далечно бъдеще за компютрите.
Въпрос: Какво мислите за човешки характеристики като смелост и морал и решенията, които изкуственият интелект може да вземе въз основа на тях? Например, какво трябва да направи самоуправляващата се кола - да прегази дете или да избегне удара му, като се блъсна в скала и убие пътника си?
Каспаров: Това е, което хората наричат „чувства“, те не могат да бъдат измерени количествено, защото са цял куп различни човешки характеристики. Ако говорим за смелост, тогава тази характеристика винаги е в противоречие с шансовете за избор на оптималния вариант. Смелостта, подобно на други човешки емоции, по дефиниция противоречи на точния изчисление.
Въпрос: Г-н Каспаров, въпросът ми не се отнася до компютри: какво има във вашата колба и мога ли да го пробвам?
Каспаров: Какво имаш предвид?
Водещ: Пита какво има в джоба!
Каспаров: В джоба ми? "Столичная"! Това не е реклама, ако сте забелязали, изхвърлих го.
Въпрос: Кой според вас ще бъде следващият световен шампион по шах и има ли шанс младият китайски шахматист Вей И да детронира Карелсен като крал на шаха?
Каспаров: Карелсен е играч номер 1, той не е световен шампион, а просто най-добрият шахматист в света според рейтинга. Той навършва 27 години тази година, така че все още е млад, но не много по днешните стандарти. Мисля, че Уей И е на 18 или 19 години сега. Магнус изпреварва млади играчи като американците Уесли Со и Фабиано Керуана, а Вей И потенциално може да бъде негов противник. Но за да станеш световен шампион, ти трябва талант, не е нужно да си млад и енергичен, просто имаш малко късмет. Така че, за да отговоря на въпроса, мога да кажа – да, той има шанс да победи Магнус Карелсен.
Въпрос: Когато говорихте за детерминистични алгоритми и машинно обучение, споменахте възможността за използване на машини като инструменти за допълване на нашата интелигентност. Какво ще кажете за възможността за максимизиране на ресурсите, преди да създадете мощен AI или дори да поставите човешки мозък в компютър?
Каспаров: Не се притеснявам да призная своето невежество, когато не съм сигурен, че не мога да отговоря правилно на даден въпрос. Опитвам се да разбера какво представлява човешкият мозък, ако го разглеждаме отделно от човешкото тяло, какви функции изпълнява. Защото е трудно да си представим как мозъкът ще се държи отделно от тялото. Може би такъв експеримент може да бъде направен в бъдеще, но аз съм уверен, че комбинацията от човешкия мозък, човешките чувства и емоции с компютър ще формира „ум“, който ще бъде много по-ефективен от мозък, извлечен и замразен, използван като устройство, пълно с неврони.
Въпрос: Има ли универсален основен подход към проблема за заместването на човешките работни места с компютри?
Каспаров: Мисля, че това е много важен въпрос, защото е ясно, че наближаваме точката, в която много хора може да са безработни. Това е парадоксът на технологичния прогрес: от една страна имаме най-новите технологии, които предоставят огромни конкурентни предимства на по-младото поколение, което се занимава с тези устройства и технологии. От друга страна имаме напредък в медицината и здравословното хранене, което удължава човешкия живот и дава на човека трудоспособност дълги години. В този смисъл поколението на 50-те, 60-те или дори 40-те години не може да се мери с днешната младеж. Трябва да намерим решение на тази парадоксална ситуация, в която пропастта между поколенията е толкова голяма. Историческият опит казва, че такава празнина винаги води до голям взрив. Имам предвид пропастта между съществуващата социална инфраструктура на обществото и технологичния прогрес.
Това е въпрос, който политиците предпочитат да отложат за следващите избори. Никой не иска да говори за това, защото това е деликатен въпрос. Много е лесно да печаташ пари и да се надяваш, че някой ден в бъдеще някой ще плати за тях. Така че в тази област има много парадокси, например натрупването на дългове за предоставяне на социални гаранции на по-старото поколение в очакване, че тежестта на изплащането на тези дългове ще падне върху плещите на по-младото поколение. Има много въпроси, на които нямам отговори, както и много въпроси, които бих могъл да задам, за които се надявам AI да ми помогне.
Много е лошо, че десетилетия наред политиците се опитват да игнорират проблемите, които току-що обсъдихме. Винаги са готови да правят изявления, винаги имат планове, но не искат да разберат контрапродуктивността на премълчаването на проблема за конфликта между технологията и обществото. Благодаря за вниманието!
Благодарим ви, че останахте с нас. Харесвате ли нашите статии? Искате ли да видите още интересно съдържание? Подкрепете ни, като направите поръчка или препоръчате на приятели, 30% отстъпка за потребителите на Habr за уникален аналог на сървъри от начално ниво, който беше измислен от нас за вас: (предлага се с RAID1 и RAID10, до 24 ядра и до 40GB DDR4).
Dell R730xd 2 пъти по-евтин? Само тук в Холандия! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - от $99! Прочети за
Източник: www.habr.com