Я думаю, що проблема не в тому, що машини замінять людину на її робочому місці, в тому числі і в інтелектуальній сфері діяльності, і не в тому, що комп'ютери нібито озброїлися проти людей з вищою освітою та акаунтом у Twitter. Впровадження ІІ відбувається зовсім не швидко, а навпаки, надто повільно. Чому? Тому що це нормальний цикл розвитку людства, і ми просто не усвідомлюємо, що видиме нами руйнування означає впровадження нової технології, яка перш ніж створити нові робочі місця знищує старі.
Технології руйнують застарілі галузі та створюють нові, такий процес творення, такий цикл розвитку. Якщо ви намагаєтеся затягнути агонію, вставляючи в цей процес старі технології або створюючи якісь переваги для застарілих технологій, ви просто уповільните процес і зробите його болючим. Це все одно станеться, але проблема полягає в тому, що ми займаємося «зарегулюванням» процесу, створюючи правила, які свідомо його сповільнюють. Я вважаю це більшою проблемою, ніж ті, які ми усвідомлюємо чіткіше. Це більше психологічна проблема, коли люди запитують: «як можна почуватися в безпеці, перебуваючи в безпілотному автомобілі»?
Я заглянув в історію і дізнався, що сто років тому однією з найпотужніших профспілок у Нью-Йорку була профспілка ліфтерів, яка об'єднувала 17 тисяч працівників. До речі, тоді вже існувала технологія, коли можна було просто натиснути на кнопку – і готово, але люди їй не довіряли! Це просто жах - самому натискати кнопку, щоб викликати ліфт! Знаєте, чому ця профспілка «померла» і люди самі почали користуватися кнопками? Бо одного разу ліфтери зважилися на страйк. Вони влаштували страйк, і тоді люди, яким треба було піднятися на вершину Емпайр-стейт-білдинг, ризикнули власноруч натискати кнопки.
Згадайте, що 20-30 років тому говорили про дітей чи онуків, коли вони сідали за кермо автомобіля: «це жахливо, ви тільки подивіться статистику, адже автомобілі — одна з головних причин людської смертності, як вони можуть ризикувати своїм життям?».
Так от усе це чиста психологія. Ми практично не звертаємо уваги на те, скільки людей гинуть в автомобільних аваріях, але чи варто одній людині загинути від безпілотного автомобіля, як ця подія роздмухується до небес. Будь-який глюк, будь-яка помилка технологій штучного інтелекту відразу висвітлюється на перших сторінках газет. Але подивіться на статистику, подивіться на кількість інцидентів, і ви побачите, наскільки це крихітний відсоток від загальної кількості аварій. Тому людська спільнота переможе, тільки якщо зможе рухатися вперед, не будучи паралізованою подібними страхами.
Інше питання виникає, коли ми говоримо про фейкові новини чи кібербезпеку, це дуже політизовані теми, і мені надходить безліч дзвінків із питанням, як я борюся з ненависниками ІІ. Наприклад, я веду регулярний блог, і в моїй новій нотатці, яка буде опублікована через пару днів, йдеться про ненависть і про те, що порятунок від ненависті полягає у знаннях, навчанні. Ми просто повинні розуміти, що ця проблема існувала задовго до того, як були винайдені всі ці речі, зараз її значення зросло завдяки інтернету, який охоплює мільйони і мільярди людей.
Я думаю, що це навпаки добре, коли хтось намагається зупинити прогрес, намагаючись оголосити ІІ поза законом, і ти знаєш, що це не спрацює, тому що у нас є Путін та інші погані хлопці, де б вони не знаходилися, які використовують проти нас наші власні технології, створені у вільному світі. Тому я вважаю, що ми маємо просто прийняти це як даність.
Суть проблеми полягає лише в нас, і відповіді на питання укладені всередині нас, у нашій власній силі та нашій власній впевненості. Я стверджую, що інтелектуальні машини не здатні зробити нас застарілими. Однак слід пам'ятати, що є певні обмеження щодо співпраці людини та комп'ютера, причому значною мірою це просто чутки, які існували й раніше. Як завжди, це просто нові можливості, які руйнують старий світ і створюють новий, і що далі ми просунемося вперед, то в кращому становищі опинимося.
Нині це найбільше нагадує рух у світ наукової фантастики. Парадокс полягає в тому, що якщо ми обернемося на 50-60 років тому, то побачимо, що на той час наукова фантастика була абсолютно позитивною, вона була суцільною утопією. Однак потім відбувся поступовий перехід від утопії до антиутопії таким чином, що ми більше не хочемо нічого чути про майбутнє людства.
Це сталося не за одну ніч. Був час, коли люди вирішили, що освоєння космосу надто ризикована справа. Це дійсно великий ризик, але уявіть собі, що в 1969 році, коли американці висадилися на Місяці, вся обчислювальна потужність NASA була меншою, ніж потужність будь-якого сучасного комп'ютерного пристрою, що міститься у вас у кишені. Цей пристрій у тисячу разів потужніший за суперкомп'ютер, який існував 40 років тому. Тільки уявіть собі, яку обчислювальну міць ви носите у своїй кишені! Правда, я не впевнений, що Apple iPhone 7 має таку ж обчислювальну потужність, якою володів Apollo 7, тобто здатний зробити такий же ефект.
Проте машини забезпечили нам безліч великих досягнень у сфері освоєння космосу чи світового океану, і ми повинні зрозуміти, що комп'ютери надають нам можливість прийняти великі ризики.
Я хотів би закінчити свій виступ на позитивній ноті. Хіба на цьому слайді не зображено позитивних картинок? Фотографія у правому нижньому кутку – це не «фотошоп», я справді зустрічався з Термінатором у 2003 році.
Він теж змалку любить шахи, але спеціально ними не займався, тому програв дуже швидко. Тому я був дуже здивований, коли через 6 місяців він балотувався на посаду губернатора Каліфорнії і виграв!
Чому ж я називаю ці картинки позитивними? Тому що хоч у всіх серіях, окрім першої, старовина Арнольд завжди виступає на боці переможців і ніколи не втомлюється боротися проти нових машин, саме в першій серії ми бачимо комбінацію, про яку я говорив — це коли людина плюс стара машина плюс досконалий інтерфейс перемагають нову машину.
Ви можете сказати: «так, машини сильніші за людей, тому що можуть обчислити абсолютно все!». Проте річ не в тому, що вони можуть все розрахувати. Наприклад, у шахах технічно можна говорити про математичну нескінченність кількості можливих ходів, що дорівнює 1045, які не важко обчислити будь-якому сучасному комп'ютеру. Однак у грі важливі не обчислення, а те, що комп'ютер виявляється попереду людини, тому що завжди керується правилами. А ви знаєте ефект цих правил і знаєте, чому комп'ютер вибирає найкращий хід з величезної кількості можливих ходів.
Але якщо звернутися до реального життя, то я не впевнений, що комп'ютер завжди може бути корисним. Давайте розглянемо типову ситуацію - у вас є комп'ютер, який стежить за дотриманням бюджету, ви знаходитесь в магазині і збираєтеся купити дорогий подарунок. Комп'ютер оцінює покупку і каже: "ні, ви не можете дозволити собі цю річ, тому що перевищите бюджет". Машина все прорахувала, але є невеликий нюанс - поряд стоїть ваша дитина, і цей подарунок призначається йому на день народження. Ви бачите, як це змінює умови завдання? Це змінює все, тому що дитина чекає на цей подарунок.
Я можу почати додавати ці дрібниці, які все змінюють, але не думаю, що їх можна включити до умов завдання та отримати правильне рішення. У нас є безліч правил, але ми все одно змушені ставити запитання, бо ситуація змінюється. Це те, що можна назвати звичайною ситуацією, але якщо подивитися на ці фільми, можна сказати, що показана ситуація більш драматична і екстраординарна. На цьому слайді ви бачите кадр з епізоду V «Зоряні війни: Імперія завдає удару у відповідь».
Хан Соло направляє корабель прямо через поле астероїдів, і С-3PO впадає в паніку, повідомляючи, що шанс вижити в цьому полі становить 1:3122. Хан Соло каже йому: «Ніколи не кажи мені, які наші шанси!». Тут постає питання, хто ж правіший у цій ситуації?
Техніка в особі С-3PO є абсолютно правою, тому що шанс вижити прагне до нуля. Можливо, що з погляду робота бути захопленим імперськими військами є найкращим вибором, який людина навіть не розглядає, ніж загибель у полі астероїдів. Але якщо комп'ютер вирішить, що здатися імперії найкращий варіант, можна вважати, що людина взагалі немає жодних варіантів. Дуже важливо те, що в обох випадках, звичайному та екстраординарному, ми маємо можливість прийняти кінцеве рішення, і для прийняття такого рішення все ще потрібне лідерство людини.
Іноді це означає, що ви маєте виступити проти рекомендацій комп'ютера. Сенс людського лідерства не в тому, щоб знати шанси, а в тому, щоб ставити справді значущі питання, не тільки сьогодні чи завтра, а й у віддаленому майбутньому. Цей процес можна назвати «керівними вказівками людини» або «втручанням людини» впливом без допомоги інтелектуальних машин. Ось яким винен наш курс у цьому столітті.
Люди іноді дивуються моєму оптимізму з приводу інтелектуальних машин з огляду на мій досвід спілкування з ними, але я справді оптиміст. І я впевнений, що всі ви з таким самим оптимізмом оцінюєте майбутнє ІІ. Але треба пам'ятати, що наші технології є агностичними. Це не добре і непогано, але може бути використане як для добрих справ, так і для злих. Машини повинні ставати розумнішими і здатнішими. А ми, люди, повинні робити те, що можуть робити тільки люди – мріяти, мріяти на повну, і тоді ми зможемо отримати все корисне, що несуть у собі ці чудові нові інструменти.
Як і планувалося, ми ще маємо 10 хвилин для відповідей на запитання.
Питання: як ви вважаєте, чи можна створити систему машинного навчання, яка могла б визначати, які ходи відповідають людській манері гри?
Каспаров: перш за все, ми не очікуємо від комп'ютера, що він підкаже нам перший хід та решту 17505 ходів. Я думаю, ми повинні розраховувати на машину як джерело отримання найкращих рекомендацій для унікальних ходів. До речі, гравці вищого класу використовують комп'ютери як гіда, що допомагає їм зайняти найкращу позицію в грі. Повторюся ще раз – у 9 випадках із 10 оцінка ситуації комп'ютером набагато перевершує оцінку, яку здатна зробити людина.
Питання: чи погоджуєтесь ви з тим, що справжній інтелект вимагає свободи вибору, свободи у прийнятті рішень, які може приймати тільки людина? Адже програмне забезпечення Deep Blue та інші комп'ютерні програми написані людьми, і коли ви програєте Deep Blue, програєте не комп'ютеру, а програмістам, які написали цю програму. Моє питання звучить так: чи не виходить якась небезпека від будь-якого виду машинного інтелекту, доки комп'ютери мають свободу вибору?
Каспаров: тут я маю перейти від науки до філософії. Щодо Deep Blue, все зрозуміло – це результат величезної роботи людини. Найчастіше, навіть у випадку з AlphaGo Деміса Хасабіса, це все плоди людського інтелекту. Я не знаю, чи можуть машини мати свободу вибору, але я вірю, що все, що ми робимо, якщо знаємо, як це потрібно зробити, машини зроблять краще. Однак, роблячи більшість речей, ми не знаємо, як їх потрібно робити якнайкраще, тому часто не можемо зрозуміти, що ж у нас вийде. Простіше кажучи, у нас є мета, але ми не знаємо, що вона є, і роль машини - допомогти нам усвідомити цю мету. Тому, якщо говорити про вільний вибір комп'ютерів, він повинен сприяти тому, щоб зв'язати нас із цією метою. Я думаю, що для комп'ютерів це дуже віддалена перспектива.
Питання: що ви думаєте щодо таких людських характеристик, як хоробрість і мораль, і про рішення, які штучний інтелект може ухвалити на їх основі? Наприклад, як повинен вчинити безпілотний автомобіль - наїхати на дитину або уникнути зіткнення з нею, врізавшись у скелю і вбивши свого пасажира?
Каспаров: це те, що люди називають "почуттями", вони не піддаються кількісній оцінці, тому що це ціла купа різних людських характеристик. Якщо ми говоримо про хоробрість, то ця характеристика завжди йде в розріз із шансами вибору оптимального варіанту. Хоробрість, як та інші людські почуття, за визначенням суперечать точному підрахунку.
Питання: містере Каспаров, моє питання не стосується комп'ютерів: що знаходиться у вашій фляжці і чи можу я це спробувати?
Каспаров: що ви маєте на увазі?
Ведучий: він запитує, що у вашій кишені!
Каспаров: у моїй кишені? "Столична"! Це не реклама, якщо ви помітили, що я її викинув.
Питання: хто, на вашу думку, стане наступним чемпіоном світу з шахів і чи має молодий китайський шахіст Вей І шанс повалити Карелсена з трону короля шахів?
Каспаров: Карелсен – гравець №1, він не чемпіон світу, а просто найкращий у світі шахіст згідно рейтингу. Цього року йому виповниться 27 років, тому він все ще молодий, але за сучасними стандартами не дуже молодий. Я думаю, Вей І зараз 18 або 19 років. Магнус випередив таких молодих гравців, як американці Уеслі Со і Фабіано Керуана, і потенційно Вей І може виступити його противником. Однак для того, щоб стати чемпіоном світу, необхідний талант, не обов'язково бути молодим та енергійним, достатньо мати удачі. Отже, відповідаючи на запитання, можу сказати – так, він має шанс перемогти Магнуса Карелсена.
Питання: коли ви говорили про детерміновані алгоритми та машинне навчання, то згадали можливість використання машин як інструментів для доповнення нашого інтелекту. Що ви скажете про можливість максималізації ресурсів до створення потужного ІІ або навіть про те, щоб «вкласти» в комп'ютер людський мозок?
Каспаров: я не соромлюся визнати своє невігластво, коли не впевнений, що не в змозі правильно відповісти на запитання. Я з усіх сил намагаюся зрозуміти, що є людським мозком, якщо розглядати його окремо від людського тіла, які функції він виконує. Тому що важко уявити, як поведеться мозок окремо від тіла. Можливо, в майбутньому такий експеримент можна буде здійснити, але я впевнений, що комбінація людського мозку, людських почуттів та емоцій з комп'ютером утворюють «розум», який буде набагато ефективнішим, ніж витягнутий і заморожений мозок, який використовується як пристрій, заповнений нейронами.
Питання: чи існує універсальний підхід до проблеми заміщення людських робочих місць комп'ютерами?
Каспаров: гадаю, це дуже важливе питання, тому що ясно, що ми наближаємося до того моменту, коли багато людей можуть залишитися без роботи. Це парадокс технологічного прогресу: з одного боку ми маємо новітні технології, що надають величезні конкурентні переваги молодому поколінню, яке має справу з цими пристроями та технологіями. З іншого боку, ми маємо прогрес у медицині та здоровому харчуванні, що продовжує людське життя і дає людині здатність працювати багато років. У цьому сенсі покоління 50-х, 60-х і навіть 40-х не може виступати конкурентом нинішньої молоді. Ми маємо знайти вирішення цієї парадоксальної ситуації, коли розрив між поколіннями настільки великий. Історичний досвід каже, що такий розрив завжди призводить до великого вибуху. Я маю на увазі розрив між існуючою соціальною інфраструктурою суспільства та технологічним прогресом.
Це та проблема, яку політики вважають за краще відкладати до наступних виборів. Ніхто не хоче говорити про це, бо це болісне питання. Дуже легко друкувати гроші, сподіваючись, що хтось колись у майбутньому за це заплатить. Тож у цій сфері існує безліч парадоксів, наприклад, накопичення боргів за надання соціальних гарантій старшому поколінню для того, що тягар розплачуватися за ці борги ляже на плечі молодого покоління. Існує безліч питань, на які я не маю відповіді, і безліч питань, які я міг би поставити, сподіваюся, що ІІ мені в цьому допоможе.
Дуже погано, що протягом десятиліть політики намагаються ігнорувати проблеми, які ми з вами зараз обговорили. Вони завжди готові до заяв, вони завжди мають плани, але не хочуть зрозуміти контрпродуктивність замовчування проблеми конфлікту технологій і соціуму. Дякую вам за увагу!
Дякую, що залишаєтеся з нами. Вам подобаються наші статті? Бажаєте бачити більше цікавих матеріалів? Підтримайте нас, оформивши замовлення або порекомендувавши знайомим, 30% знижка для користувачів Хабра на унікальний аналог entry-level серверів, який був винайдений нами для Вас: (Доступні варіанти з RAID1 і RAID10, до 24 ядер і до 40GB DDR4).
Dell R730xd у 2 рази дешевше? Тільки в нас у Нідерландах! Dell R420 – 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB – від $99! Читайте про те
Джерело: habr.com