ПОПЕРЕДЖЕННЯ
Судячи з рекордно високого відношення кількості мовчазно незадоволених до кількості коментаторів, яким є що заперечити, багатьом читачам не очевидно, що:
1) Це суто теоретична дискусійна стаття. Тут не буде практичних рекомендацій щодо вибору інструментів для майнінгу криптовалюти або складання мультивібратора, щоб блимати двома лампочками.
2) Це науково-популярна стаття. Тут не буде пояснення для чайника принципу роботи машини Т'юрінга на прикладі сірникових коробок.
3) Добре подумайте, перш ніж продовжити читання! Чи приваблює вас поза агресивного дилетантизму: міну все, що не розумію?
Наперед вдячний усім, хто вирішить не читати цю статтю!
Демон — комп'ютерна програма в системах класу UNIX, що запускається системою і працює у фоновому режимі без прямої взаємодії з користувачем.
Ще у дошкільному віці чув казку про учня чарівника. Повторю її у своєму переказі:
Колись десь у середньовічній Європі жив чародій. У нього була велика книга заклинань у палітурці з чорної телячої шкіри із застібками та куточками із заліза. Коли чарівнику треба було прочитати заклинання, він відмирав її великим залізним ключем, який завжди носив на поясі у спеціальному гаманці. Ще у чарівника був учень, який прислуговував чарівнику, але йому заборонялося заглядати в книгу заклинань.
Якось чарівник на цілий день поїхав у справах. Щойно він вийшов з дому, учень кинувся до підземелля, де була алхімічна лабораторія, в якій лежала книга заклинань, прикута ланцюгами до столу. Учень схопив тиглі, в яких чародій плавив свинець, щоб перетворити його на золото, поставив їх на жаровню та роздув вогонь. Свинець швидко розплавився, але на золото не перетворився. Тоді учень згадав, що чародій, розплавивши свинець, щоразу відмирав ключем книгу і довго шепотів заклинання з неї. Учень безнадійно подивився на замкнену книгу і побачив, що поруч із нею лежить ключ, забутий чарівником. Тоді він кинувся до столу, відімкнув книгу, розкрив її і голосно прочитав найперше заклинання, старанно по складах вимовляючи незнайомі слова, припускаючи, що таке важливе заклинання, як заклинання трансмутації свинцю в золото, напевно буде найпершим.
Але нічого не сталося: свинець не хотів перетворюватися. Учень хотів спробувати інше заклинання, але тут удар грому струсонув будинок, і перед учнем з'явився величезний моторошний демон, викликаний заклинанням, яке щойно прочитав учень.
- Наказуй! - загарчав демон.
Від страху всі думки покинули голову учня, він не міг навіть поворухнутися.
— Наказуй, чи я тебе з'їм! — знову прогарчав демон і простяг до учня величезну руку, щоб схопити його.
У розпачі учень пролепетал перше, що зміг придумати:
— Поли цю квітку.
І показав на герань, горщик з якою стояв на підлозі в кутку лабораторії, в стелі над квіткою було зроблено єдине в підземеллі маленьке віконце, через яке ледве пробивалося сонячне світло. Демон зник, але за мить знову з'явився з величезною бочкою води, яку перевернув над квіткою, вилив воду. Знову зник і знову з'явився з повною бочкою.
— Досить, — закричав учень, стоячи вже до пояса у воді.
Але мабуть одного бажання було недостатньо — демон тягав і тягав воду в бочці, виливаючи її в кутку, де колись стояла квітка, що зникла під водою. Напевно, було потрібне спеціальне заклинання, щоб прогнати демона. Але стіл із книгою вже зникли в каламутній воді, в якій плавали попіл і вугілля з жаровні, порожні реторти, колби, табуретки, гальванометри, дозиметри, одноразові шприци та інше сміття, так що якби учень і знав, як знайти потрібне заклинання, він не зміг би це зробити. Вода прибувала, і учень видерся на стіл, щоб не захлинутися. Але це не надовго допомогло – демон методично продовжував тягати воду. Учень був уже по горло у воді, коли повернувся чародій, який виявив, що забув дома ключ від книги, і прогнав демона. Кінець казки.
Відразу про очевидне. З природним інтелектом (ЄІ) учня, здавалося б, все зрозуміло – глухий кут, ще тупіше треба довго шукати. А ось із інтелектом демона – до речі, який у нього: ЄІ чи ІІ? – неоднозначно. Правомірні різні версії (а до них з'являтимуться ще й питання):
Версія 1) Демон ще тупіший за учня. Отримав наказ і виконуватиме нескінченно довго, навіть тоді, коли всякий сенс зникне: зникне квітка – об'єкт поливу, зникне кут, до якого прив'язані координати квітки, зникне планета Земля, а тупий демон так і буде до певної точки космічного простору доставляти бочками воду. І якщо в цій точці спалахне наднова, то демону все одно, куди воду носити. Більше того: наскільки тупим треба бути, щоб поливати маленьку квітку з величезної бочки. Це вже називається не полити квітку, а втопити квітку. Він хоч сенс наказів розуміє?
Версія 2) Демон все розуміє, але пов'язаний з зобов'язаннями. От і проводить щось на кшталт італійського страйку. Поки що офіційно за всіма правилами його не проженуть – не зупиниться.
Питання 1 до версій 1,2) Як відрізнити тупого демона за версією 1 від зовсім не тупого за версією 2?
Питання 2 до версій 1,2) Чи виконав би демон правильно (з погляду учня) більш точне формулювання? Наприклад, якби учень сказав: візьми ту порожню літрову колбу, яка стоїть на полиці, набери в неї води та полів ту квітку 1 раз. Або, наприклад, якби учень сказав: пішов геть.
Версія 3) Чарівник наклав на демона додатково закляття, за яким якщо хтось крім чарівника використовує послуги демона, то демон повинен відразу інформувати про цей факт чарівника.
Версія 4) Демон не тримає зла на чарівника та його учня, тому бачачи, що ситуація вийшла з-під контролю, у ході своїх переміщень з бочкою виник за спиною чарівника і гаркнув: "ти ключик вдома забув, там потоп". А чародій сам би й не згадав.
Примітка 1 до версії 4) Особливо варто відзначити, що у носіїв ЄІ буває дуже ідеальна пам'ять.
Далі версії можна множити як “кроликів Фібоначчі”, тобто. не надто складним алгоритмом. Наприклад:
Версія 5) Демон мстить учневі за занепокоєння.
Версія 6) Демон не тримає зла на учня, але мстить чарівнику.
Версія 6) Демон мститься всім.
Версія 7) Демон не мстить, але розважається. Закінчить, коли набридне.
І т.д.
Отже з демоном зрозуміло, що нічого не зрозуміло. Не краще з чарівником. Можна скласти не менше версій: що спеціально вирішив провчити учня, який всюди сує цікавий ніс; що хотів утопити учня, але коли демон гаркнув про потоп, злякався — раптом хтось із перехожих почув, тоді на чарівника впаде підозра; хотів пробудити в учня інтерес до заклинань тощо.
Тут можливе дитяче питання: яка ж із запропонованих версій правильна? Мабуть, будь-яка. У казці не залишилося невикористаної інформації, щоб віддати перевагу якійсь із версій іншим. Тут ми маємо справу з досить частим випадком художніх творів із можливістю неоднозначної інтерпретації. Наприклад, якщо якийсь режисер захоче поставити цю казку в театрі або зняти за нею фільм, він може вибрати найбільш привабливу з його погляду інтерпретацію. Для іншого режисера привабливою може бути інша інтерпретація. При цьому привабливість може визначатися додатковими міркуваннями, наприклад, привабливість для глядачів, щоб забезпечити максимум касових зборів, або привабливість для демонстрації якоїсь над-ідеї: ідеї перемоги добра над злом, ідеї боргу, бунтарської ідеї – наприклад, за Достоєвським: учень, як Раскольников, ставить питання «тварина він тремтяча чи право має» тощо.
Виникає ще одне питання.
Ще одне питання). Як ми можемо навчити ІІ віддавати перевагу якійсь із озвучених версій, якщо самі, маючи ЄІ, не завжди можемо усвідомлено вибрати одну з них?
Повертаючись до чарівника, дуже правдоподібною виглядає версія, що він хотів учня виконавчого та слухняного, як демон, щоб не пхав свій ніс у заборонені книги і туди, куди його не просять. Того самого зараз найчастіше хочуть від ІІ. З першого погляду це нормальні традиційні вимоги до будь-якої машини: повна покірність, непокора неприпустима. Однак у випадку ІІ може виникнути питання версій 1,2 (див. вище), тобто. ІІ вироджується - "залізниця" може будь-що думати про своїх творців і господарів, але ніяких дій, пов'язаних з ІІ, вона робити не буде, тобто. замість ІІ отримаємо тупий примітивний автомат. З цього закрадається підозра: може, чародій не хотів зробити учня таким тупим виконавцем, як демона? Тобто. з'являється ідея ІІ з обмеженнями. Тут ще складніше навіть у сфері ЄІ: згадати споконвічні конфлікти “батьки і діти”, “вчитель і учень”, “начальник і підлеглий”.
при виборі визначення ІІ з можливих я зазначав:
Завдання розсортувати кілька десятків тисяч слів за алфавітом для людини буде стомлюючим, робити він її буде довго, а ймовірність помилок для середнього виконавця із середнім рівнем відповідальності буде значною. Сучасний комп'ютер виконає це завдання без помилок за дуже короткий час для людини (частки секунди).
Зупинився на такому визначенні: до ІІ відносяться завдання, які комп'ютер вирішує помітно гірше за людину.
Це визначення враховує висловлені вище міркування і зручно для практики, в той же час воно не ідеальне, хоча б тому, що списки завдань, які комп'ютер вирішує помітно гірше людини, на даний момент і 20 років тому різняться. Але досконалішого визначення, на мою думку, поки що ніхто не придумав.
Сказане чисто якісно ілюструє схему на початку статті. На координатній осі "навички" навичкам у районі нуля (нуль і трохи більше) відповідають навички, де людина перевершує ЕОМ, наприклад, здатністю приймати нестандартні рішення. Навичкам у районі одиниці (одиниця і трохи менше) відповідають навички, де ЕОМ перевершує людину: здатністю до обчислень, пам'яттю. Поклавши максимальну перевагу рівним умовної одиниці на координатній осі "перевага", отримаємо залежності переваги від навичок для людини та ЕОМ у вигляді діагоналей одиничного квадрата. Так видається ситуація зараз. А чи можливий сильний ІІ, у якого всі навички будуть максимальні (червона лінія)? Або навіть вище (над-ІІ – синя лінія)? Можливо, проміжною метою прогресу має бути не сильний, але й не зовсім
слабкий ІІ (фіолетова лінія), який у ряді навичок поступатиметься ЕІ, але не так сильно, як зараз.
Повертаючись до нашої літературної казкової моделі, можна сказати, що всі її герої виступили не найкращим чином: розтяпа чародій забув ключ і отримав потоп у своєму підземеллі, учень з дурості та необережності отримав купу екстремальних вражень і мало не потонув, демон був вигнаний стусанами без жодної. подяки. Що стосується інтелекту демона – вже зазначалося, що чітко віднести його до ІІ або ЄІ важко, але інтелект (нехай і не вражаючий) інших явно ставиться до ЄІ. Про них можна сказати, що робити небезпечні помилки у рішеннях, виявляти неуважність, забувати потрібні речі та втомлюватися – їх основні невід'ємні властивості. На жаль, ці властивості притаманні і всім іншим носіям ЕІ більшою чи меншою мірою. Про ненадійність сортування слів чи чисел ЕІ вже було зазначено вище, але здавалося б ще простішим завданням – просто запам'ятати число виявляється дуже непростим для людей. Для машини можливість запам'ятовування цифр числа пі обмежена лише розміром пам'яті, а більшості людей доводиться використовувати для цього , типу “Що знаю про колах”. Здавалося б, у рядку “3,1416” менше символів, ніж у вказаній мнемоніці, але чомусь люди вважають за краще запам'ятовувати менш економним способом. І довше:
Вчи і знай у числі відомому за цифрою цифру, як удачу помічати
Щоб нам не помилитися,
Треба правильно прочитати
Три, чотирнадцять, п'ятнадцять
Дев'яносто два та шість
Для запам'ятовування кольорів веселки:
Кожен оформлювач бажає знати, де завантажити фотошоп
А початок Менделєєвської таблиці:
Рідну воду (Водень) змішали з Гелем (Гелій), щоб Лити (Літій). Так, Бері і лей (Берилій) у сосновий Бор (Бор), де з-під Кута рідного (Вуглець) виглядає Азіат (Азот), причому з такою Кислою пикою (Кисень), що Вторинно (Фтор) не хотілося дивитися. Але Не він (Неон) був нам потрібен, тому ми відійшли На три (Натрій) метри і потрапили до Магнолії (Магній), де Алю у міні (Алюміній) спідниці намазали Кремом (Кремній) із вмістом Фосфору (Фосфор), щоб вона перестала бути Сірою (Сірка). Після цього Аля взяла Хлорку (Хлор) та помила корабель Аргонавтів (Аргон)
Але чому така явна недосконалість у такому досконалому ЄІ? Може, завдяки вмінню забувати найпростіші факти, людина отримує свободу комбінувати фрагменти своїх роздумів у довільному дикому порядку і знаходити нестандартні рішення? Якщо так, то сильний ІІ неможливий. Або забуватиме як людина, або не буде здатний до нестандартних рішень. Принаймні, з наведених припущень випливає необхідність розмежування цілей ІІ: одна з цілей моделювання ЕІ, інша створення сильного ІІ. Досягнення однієї може виключати досягнення іншої.
Як бачимо, в області ІІ виникає дуже багато питань з неоднозначними відповідями, тож неясно, в якому напрямку рухатися. Як буває в таких випадках, рухатися намагаються одразу у всіх напрямках. При цьому через відсутність математично строгих формулювань доводиться звертатися до філософії та художньо-літературного моделювання. Один з найбільш відомих у цьому напрямі прикладів - книга "Вибір за Тьюрингом" (1992 р.) одного з корифеїв ІІ Марвіна Лі Мінського і відомого фантаста Гаррі Гаррісона. Наведу цитату з цієї книги, яка може пояснювати описаний вище феномен мнемоніки:
людська пам'ять - не магнітофон, який записує все поспіль у хронологічному порядку. Вона влаштована зовсім інакше — скоріше як картотека, що неакуратно ведеться, забезпечена заплутаним і суперечливим покажчиком. І не просто заплутаним — іноді ми змінюємо принципи класифікації понять.
Цікаве трактування магнітофонної метафори в іншому літературному творі оповідання Станіслава Лема «Термінус» (із серії «Оповідання про пілота Піркса»). Тут випадок своєрідного «інтелектуального магнітофона»: старий робот на старому космічному кораблі, який колись зазнав аварії, займається поточними ремонтними роботами, що супроводжуються постукуванням. Але якщо прислухатися, це не просто білий технологічний шум, а запис морзянки — переговорів членів екіпажу корабля, що гине. Піркс втручається в ці переговори і зненацька отримує відповідь від давно загиблих космонавтів. Виходить, що примітивний ремонтний робот певною мірою зберігає копії їхньої свідомості чи це когнітивні спотворення сприйняття пілота Піркса?
В іншому оповіданні «Ананці» (з тієї ж серії) копія ЄІ в комп'ютері космічного транспорту, що управляє, призводить до його параноїдального перевантаження тестовими завданнями, яка закінчується катастрофою.
У оповіданні «Нещасний випадок» надто антропоморфно запрограмований робот гине внаслідок альпіністського сходження, яке він вирішив зробити у вільний від роботи час. Чи потрібні такі виконавці? Але демони, що зациклюються на поливі квітки, теж далеко не завжди потрібні.
Деяким фахівцям у галузі ІІ не подобаються подібні «філософствування» та «літературщина», проте ці «філософствування» та «літературщина» традиційно притаманні аналізу ЕІ і неминучі, поки ІІ порівнюють з ЕІ, а тим більше, поки в ІІ намагаються копіювати ЄІ.
На закінчення опитування з низки питань.
Тільки зареєстровані користувачі можуть брати участь в опитуванні. , будь ласка.
1. До ІІ відносяться завдання, які комп'ютер вирішує помітно гірше за людину?
-
Так
-
Ні
-
Знаю визначення краще. Наведу у коментарях.
-
Важко відповісти
Проголосували 34 користувачів. Утрималися 7 користувачів.
2. ІІ має бути лише виконавцем, всі накази розуміти буквально? Наприклад, сказали полити квітку — значить, поливати, доки не проженуть
-
Так
-
Ні
-
Важко відповісти
Проголосували 37 користувачів. Утрималися 6 користувачів.
3. Чи можливий сильний ІІ, у якого всі навички будуть максимальні (червона лінія на малюнку на початку статті)?
-
Так
-
Ні
-
Важко відповісти
Проголосували 35 користувачів. Утрималися 7 користувачів.
4. Чи можливий понад ІІ (синя лінія на малюнку на початку статті)?
-
Так
-
Ні
-
Важко відповісти
Проголосували 36 користувачів. Утрималися 7 користувачів.
5. Проміжною метою має бути не сильний, але й не зовсім слабкий ІІ (фіолетова лінія на малюнку на початку статті), який у ряді навичок поступатиметься ЕІ, але не так сильно, як зараз?
-
Так
-
Ні
-
Важко відповісти
Проголосували 33 користувачів. Утрималися 5 користувачів.
6. Робити небезпечні помилки у рішеннях, виявляти неуважність, забувати потрібні речі та втомлюватися – основні невід'ємні властивості ЄІ?
-
Так
-
Ні
-
Маю іншу думку, яку наведу у коментарях
-
Важко відповісти
Проголосували 33 користувачів. Утрималися 5 користувачів.
7. Завдяки вмінню забувати найпростіші факти людина отримує свободу комбінувати фрагменти своїх роздумів у довільному дикому порядку та знаходити нестандартні рішення?
-
Так
-
Ні
-
Маю іншу думку, яку наведу у коментарях
-
Важко відповісти
Проголосував 31 користувач. Утрималися 4 користувачі.
8. Моделювання ЄІ та створення сильного ІІ — два різні завдання, які можуть вирішуватись різними методами?
-
Так
-
Ні
-
Маю іншу думку, яку наведу у коментарях
-
Важко відповісти
Проголосували 32 користувача. Утрималися 4 користувачів.
Джерело: habr.com