Я збираю всі найважливіші тексти всіх часів та народів, що впливають на світогляд та формування картини світу (). І ось тут подумав-подумав і висуваю зухвалу гіпотезу, що цей текст революційніший і важливіший у нашому уявленні про устрій світу, ніж коперніканська революція і роботи Канта. У рунеті цей текст (повна версія) був у жахливому стані, я його трохи зачесав і, з дозволу перекладача, публікую для обговорення.
“Are you living in a computer simulation?”
by Nick Bostrom [Published in Philosophical Quarterly (2003) Vol. 53, No. 211, pp. 243-255. (First version: 2001)]
У цій статті стверджується, що принаймні одна з трьох таких припущень є істинною:
- (1) дуже ймовірно, що людство вимре перед тим, як досягне «постлюдської» фази;
- (2) кожна постлюдська цивілізація з вкрай малою ймовірністю буде запускати значну кількість симуляцій своєї еволюційної історії (або її варіантів) та
- (3) ми майже безперечно живемо у комп'ютерній симуляції.
З цього випливає, що ймовірність перебування у фазі постлюдської цивілізації, яка зможе запускати симуляції своїх попередниць, дорівнює нулю, якщо не прийняти як істину той випадок, що ми вже живемо в симуляції. Також обговорюються інші наслідки цього результату.
1. Введення
Багато творів наукової фантастики, а також прогнози серйозних футурологів та дослідників технологій передбачають, що в майбутньому будуть доступні колосальні обсяги обчислювальних потужностей. Припустимо, що це передбачення вірні. Наприклад, наступні покоління з надпотужними комп'ютерами зможуть запускати детальні симуляції своїх попередників або людей, подібних до своїх попередників. Оскільки комп'ютери будуть настільки сильні, вони зможуть запускати багато подібних симуляцій. Припустимо, що ці симульовані люди мають свідомість (а вони володітимуть ним, якщо симуляція буде високоточною і якщо певна широко прийнята у філософії концепція свідомості є вірною). З цього випливає, що найбільша кількість розумів, подібних до нашого, не належать оригінальній расі, а, швидше, належать людям, симульованим просунутими нащадками оригінальної раси. На основі цього можна стверджувати, що розумно очікувати, що ми знаходимося серед симульованих, а не серед вихідних, натуральних біологічних умів. Таким чином, якщо ми не вважаємо, що зараз живемо у комп'ютерній симуляції, то не повинні вважати, що наші нащадки запускатимуть багато симуляцій своїх предків. У цьому є основна ідея. У частині роботи, що залишилася, ми розглянемо її більш докладно.
Крім інтересу, який може представляти цю тезу для тих, хто залучений до футуристичних дискусій, тут є і суто теоретичний інтерес. Даний доказ є стимулом для формулювання деякої методологічної та метафізичної проблематики, і так само пропонує деякі природні аналогії традиційним релігійним концепціям, і ці аналогії можуть здатися дивовижними або наводить на роздуми.
Структура цієї статті така: спочатку ми сформулюємо якесь припущення, яке нам треба імпортувати з філософії свідомості для того, щоб цей доказ запрацював. Потім ми розглянемо деякі емпіричні причини для того, щоб вважати, що запуск величезної кількості симуляцій людських умів буде доступний майбутній цивілізації, яка розвине багато з тих технологій, щодо яких було прояснено, що вони не суперечать відомим фізичним законам та інженерним обмеженням.
Ця частина не є необхідною з філософської точки зору, але, однак, спонукає звернути увагу на основну думку статті. Потім буде виклад доказу по суті, з використанням деяких простих додатків теорії ймовірності, і розділ, що обґрунтовує слабкий принцип рівнозначності, який цей доказ використовує. У результаті ми обговоримо деякі інтерпретації альтернативи, про яку йдеться на початку, і це буде висновком доказу про проблему симуляції.
2. Припущення про незалежність від носія
Найпоширенішим припущенням у філософії свідомості є припущення про незалежність від носія. Ідея полягає в тому, що ментальні стани можуть виникати у будь-якому носії із широкого класу фізичних носіїв. За умови, що у системі втілюється правильний набір обчислювальних структур і процесів, у ній можуть бути усвідомлені переживання. Сутнісною властивістю не є втілення в заснованих на вуглеці біологічних нервових мережах внутрішньочерепних процесів: на основі силікону процесори всередині комп'ютерів можуть робити абсолютно той же трюк. Аргументи на користь цієї тези висувалися в існуючій літературі, і, хоча вона не є повністю несуперечливою, ми прийматимемо її тут як даність.
Доказ, який ми тут пропонуємо, однак, не залежить від якоїсь дуже сильної версії функціоналізму чи комп'ютералізму. Наприклад, ми не повинні приймати те, що теза про незалежність від носія є з необхідністю істинною (як в аналітичному, так і в метафізичному сенсі) – а повинні приймати тільки те, що насправді комп'ютер під управлінням відповідної програми міг би мати свідомість. . Більше того, ми не повинні припускати, що для того, щоб створити свідомість у комп'ютері, нам довелося б запрограмувати його таким чином, щоб він поводився у всіх випадках як людина, проходив би тест Тюрінга і т. д. Нам потрібно лише слабкіше припущення про те, що для створення суб'єктивних переживань достатньо того, щоб обчислювальні процеси в людському мозку були структурно скопійовані у відповідних високоточних деталях, наприклад, на рівні індивідуальних синапсів. Ця уточнена версія незалежності від носія дуже широко прийнята.
Нейротрансмітери, фактори росту нервів та інші хімічні речовини, які менші за синапси, очевидно відіграють роль у людському пізнанні та навчанні. Теза про незалежність від носія полягає не в тому, що ефект від цих хімічних речовин є малим або зневажливим, але в тому, що вони впливають на суб'єктивний досвід лише через пряму чи непряму дію на обчислювальну активність. Наприклад, якщо не існує суб'єктивних відмінностей без того, щоб мала місце також різниця і в синаптичних розрядах, тоді необхідна деталізація симуляції знаходиться на синаптичному рівні (або вище).
3.Технологічні межі обчислень
На нинішньому рівні технологічного розвитку ми не маємо ні достатньо ефективного потужного обладнання, ні відповідного програмного забезпечення, щоб створювати свідомі уми на комп'ютері. Однак були висунуті серйозні аргументи на користь того, що якщо технологічний прогрес продовжуватиметься без зупинок, тоді ці обмеження будуть в кінцевому рахунку подолані. Деякі автори стверджують, що ця фаза настане лише через кілька десятиліть. Однак для цілей нашої дискусії не потрібні жодні припущення про тимчасову шкалу. Доказ симуляції працює так само добре і для тих, хто вважає, що знадобляться сотні тисяч років, щоб досягти «постлюдської» фази розвитку, коли людство набуде більшої частини тих технологічних здібностей, які, як зараз можна показати, узгоджуються з фізичними законами та матеріальними та енергетичними обмеженнями.
Ця зріла фаза технологічного розвитку уможливить перетворювати планети та інші астрономічні ресурси на комп'ютери колосальної сили. Зараз важко бути впевненим щодо будь-яких граничних меж комп'ютерної потужності, яка буде доступна постлюдським цивілізаціям. Оскільки досі немає «теорії всього», ми не можемо виключити можливості того, що нові фізичні феномени, заборонені сучасними фізичними теоріями, можуть бути використані для подолання обмежень, які, згідно з нашим нинішнім уявленням, накладають теоретичні межі на обробку інформації всередині даного шматка матерії. З більшою мірою надійності ми можемо встановити нижні межі постлюдських обчислень, припускаю реалізацію лише тих механізмів, які вже зрозумілі. Наприклад, Ерік Дрекслер дав малюнок пристрою системи, розміром із кубик цукру (за винятком системи охолодження та живлення), яка могла б виконувати 1021 операцій на секунду. Інший автор дав грубу оцінку в 1042 операцій на секунду для комп'ютера розміром із планету. (Якщо ми навчимося створювати квантові комп'ютери, або навчимося будувати комп'ютери з ядерної матерії або плазми, ми зможемо наблизитися ще ближче до теоретичних меж. біт. Однак, для наших цілей достатньо використовувати більш консервативні оцінки, які мають на увазі тільки відомі зараз принципи роботи.)
Кількість комп'ютерної потужності, необхідне для того, щоб емулювати людський мозок, піддається такій же грубій оцінці. Одна оцінка, заснована на тому, наскільки затратно в обчислювальному сенсі було б скопіювати функціонування шматочка нервової тканини, який ми вже зрозуміли і чия функціональність була вже скопійована в кремнії (а саме, була скопійована система посилення контрастності в сітківці ока), дає оцінку приблизно 1014 операцій на секунду. Альтернативна оцінка, заснована на числі синапсів у мозку та частоті їх спрацьовування, дає величину в 1016-1017 операцій на секунду. Відповідно, і навіть ще більше обчислювальних потужностей може знадобитися, якби нам захотілося симулювати в деталях внутрішню роботу синапсів та гілок дендритів. Однак, ймовірно, центральна нервова система людини має певну міру надмірності на мікрорівні, щоб компенсувати ненадійність і шум своїх нейронних компонентів. Отже, можна було б очікувати значного приросту ефективності при використанні більш надійних та гнучких небіологічних процесорів.
Пам'ять є не більшим обмеженням, ніж процесорна потужність. Понад те, оскільки максимальний потік сенсорних даних людини має порядок 108 біт за секунду, то симулювання всіх сенсорних подій зажадало б дуже малої вартості проти симулюванням кортикальной активності. Таким чином, ми можемо використовувати процесорну потужність, необхідну для симулювання центральної нервової системи як оцінку загальної обчислювальної вартості симуляції людського розуму.
Якщо довкілля входить у симуляцію, це вимагатиме додаткової комп'ютерної потужності – кількість якої залежить від розмірів та подробиці симуляції. Симуляція всього всесвіту з точністю до квантового рівня, очевидно, неможлива, за винятком того випадку, якщо буде відкрито якусь нову фізику. Але для того, щоб отримати реалістичну симуляцію людського досвіду, потрібно набагато менше – лише стільки, скільки потрібно, щоб переконатися, що симульовані люди, які взаємодіють звичайним людським чином із симульованим довкіллям, не помітять жодних відмінностей. Мікроскопічна структура внутрішніх областей Землі може бути легко опущена. Видалені астрономічні об'єкти можуть піддатися дуже високому рівню стиснення: точна схожість має бути лише у вузькому діапазоні властивостей, які ми можемо спостерігати з нашої планети або з космічного апарату всередині Сонячної системи. На поверхні Землі макроскопічні об'єкти в безлюдних місцях мають бути безперервно симульовані, але мікроскопічні феномени можуть заповнюватися спеціальний, тобто при необхідності. Те, що ви бачите через електронний мікроскоп має виглядати підозрілим, але у вас зазвичай немає жодних способів перевірити його узгодженість з частинами мікросвіту, що не спостерігаються. Винятки виникають, коли ми навмисне проектуємо системи, щоб запрягти мікроскопічні феномени, що не спостерігаються, які діють відповідно до відомих принципів, щоб отримати результати, які ми можемо незалежним чином перевірити. Класичним прикладом є комп'ютер. Симуляція, таким чином, повинна включати безперервні імітації комп'ютерів аж до рівня індивідуальних логічних елементів. Це не є проблемами, оскільки наша нинішня обчислювальна потужність є зневажливо малою за постлюдськими стандартами.
Понад те, постлюдський творець симуляції матиме достатньо обчислювальної потужності, щоб відстежувати у деталях стан думок у всіх людських мізках весь час. Таким чином, коли він виявить, що якась людина готова зробити якесь спостереження про мікросвіт, вона може заповнити симуляцію з достатнім рівнем деталізації настільки, наскільки це потрібно. Якщо якась помилка трапиться, режисер симуляції може легко відредагувати стан будь-якого мозку, який дізнався про аномалію до того, як він зруйнує симуляцію. Або режисер може відмотати симуляцію на кілька секунд тому і перезапустити її в такий спосіб, щоб уникнути проблеми.
З цього випливає, що найбільш дорогим при створенні симуляції, яка не відрізняється від фізичної реальності для людських свідомостей, що знаходяться в ній, буде створення симуляцій органічних мізків аж до нейронного або субнейронного рівня. Хоча неможливо дати дуже точну оцінку ціни реалістичної симуляції людської історії, ми можемо використовувати оцінку в 1033-1036 операцій як грубу оцінку.
У міру того, як ми матимемо більше досвіду у створенні віртуальної реальності, ми досягнемо кращого розуміння обчислювальних вимог, які необхідні для того, щоб такі світи були реалістичними для їх відвідувачів. Але навіть якщо наша оцінка є невірною на кілька порядків величини, це не має великого значення для нашого доказу. Ми відзначили, що груба оцінка обчислювальної потужності комп'ютера масою з планету складає 1042 операцій на секунду, і це лише беручи до уваги вже відомі нанотехнологічні конструкції, які, ймовірно, далекі від оптимальних. Один такий комп'ютер може симулювати всю ментальну історію людства (назвемо це симуляцією предків) використовуючи лише одну мільйонну своїх ресурсів за 1 секунду. Постлюдська цивілізація може зрештою побудувати астрономічну кількість таких комп'ютерів. Ми можемо зробити висновок, що постлюдська цивілізація може запустити колосальну кількість симуляцій предків, навіть якщо вона витратить на це лише малу частку своїх ресурсів. Ми можемо дійти цього висновку, навіть допускаючи значну похибку в усіх наших оцінках.
- Постлюдські цивілізації матимуть достатньо обчислювальних ресурсів, щоб запустити безліч симуляцій-предків, навіть використовуючи дуже малу частку своїх ресурсів для цих цілей.
4. Ядро доказу симуляції
Основна ідея цієї статті може бути висловлена в наступному: якщо є суттєвий шанс, що наша цивілізація колись досягне постлюдської стадії та запустить безліч симуляцій-предків, то як ми можемо довести, що ми не живемо в одній такій симуляції?
Ми розвинемо цю думку у вигляді суворого доказу. Давайте введемо такі позначення:
– частка всіх цивілізацій людського рівня, які доживають до постлюдської стадії;
N – середня кількість симуляцій предків, які запускає постлюдська цивілізація;
H – середня кількість людей, які жили в цивілізації до того, як вона досягла постлюдської стадії.
Тоді реальна частка всіх спостерігачів із людським досвідом, які живуть у симуляції:
Позначимо як частку постлюдських цивілізацій, які зацікавлені у запуску симуляцій-предків (або які містять принаймні деяку кількість окремих істот, які зацікавлені в цьому та мають значні ресурси, щоб запускати значну кількість симуляцій) та як середню кількість симуляцій-предків, які запускаються зацікавленими цивілізаціями, ми отримуємо:
І, отже:
Через колосальну обчислювальну силу постлюдських цивілізацій є вкрай великою величиною, як ми бачили в попередньому розділі. Розглядаючи формулу (*), ми можемо бачити, що принаймні одне з трьох таких припущень є істинним:
5. М'який принцип рівнозначності
Ми можемо зробити крок далі і зробити висновок, що за умови істинності пункту (3) можна майже напевно впевненим, що ви перебуваєте в симуляції. Говорячи загалом, якщо ми знаємо, що частка x всіх спостерігачів з досвідом людського типу живе в симуляції, і ми не маємо жодної додаткової інформації, яка показує, що наш власний приватний досвід є з більшим чи меншим ступенем ймовірності втіленим in machine, а не in vivo, ніж інші види людського досвіду, і тоді наша впевненість, що ми перебуваємо в симуляції, має дорівнювати x:
Цей крок виправданий дуже слабким принципом рівнозначності. Давайте розділимо два випадки. У першому випадку, який є більш простим, всі досліджувані уми подібні до вашого, в тому сенсі, що вони точно якісно відповідають вашому розуму: у них є та сама інформація і ті ж самі переживання, що у вас. У другому випадку уми лише подібні один до одного лише в широкому сенсі, будучи тим сортом розумів, які типові для людських істот, але якісно відрізняються один від одного і кожен має різний набір досвіду. Я стверджую, що навіть у тому випадку, коли уми якісно різні, доказ симуляції, як і раніше, працює, за умови, що у вас немає жодної інформації, яка відповідає на запитання про те, які з різних умів симульовані та які реалізовані біологічно.
Детальне обґрунтування більш строго принципу, яке включає обидва наші приватні приклади як тривіальні окремі випадки, було дано в літературі. Нестача місця не дає змоги навести тут обґрунтування цілком, але ми можемо навести тут одне з інтуїтивних обґрунтувань. Припустимо, що x% популяції мають певну генетичну послідовність S всередині певної частини своєї ДНК, яка зазвичай називається «сміттєвою ДНК». Припустимо, далі, що немає жодних проявів S (за винятком тих, які можуть проявитися при генетичному тестуванні) і немає жодних кореляцій між володінням S та будь-якими зовнішніми проявами. Тоді цілком очевидно, що до того, як ваша ДНК буде секвенсована, є раціональним приписати впевненість у x% гіпотезі, що у вас є фрагмент S. І це є цілком незалежним від того факту, що люди, які мають S, мають розум і переживання якісно відрізняються від тих, що мають люди, у яких немає S. (Вони різні просто тому, що у всіх людей є різний досвід, а не тому, що є якийсь прямий зв'язок між S і тим видом досвіду, який переживає людина.)
Ті самі міркування застосовні, якщо S не є властивістю володіння певною генетичною послідовністю, а натомість фактом знаходження в симуляції, у припущенні, що у нас немає інформації, яка дозволяє нам передбачити якісь відмінності між переживаннями симульованих розумів і між переживаннями вихідних біологічних умів.
Слід наголосити, що м'який принцип рівнозначності підкреслює лише рівнозначність між гіпотезами, яким саме із спостерігачів ви є, коли ви не маєте інформації про те, яким із спостерігачів ви є. Він у загальному випадку не приписує рівнозначність між гіпотезами, коли у вас немає конкретної інформації про те, яка гіпотеза є істинною. На відміну від Лапласова та інших сильніших принципів рівнозначності, він, таким чином, не схильний до парадоксу Бертрана та інших подібних труднощів, які ускладнюють необмежену застосування принципів рівнозначності.
Читачі, знайомі з доказом Кінця світу (Doomsday argument, DA) (J. Leslie, “Is the End of the World Nigh? застосовується тут, спирається на ті ж припущення, що відповідальні за вибивання ґрунту з-під DA, і що контрінуїтивність деяких висновків останнього кидає тінь на достовірність міркування про симуляцію. Це не так. DA спирається на набагато суворішу і суперечливішу передумову про те, що людина повинна міркувати так, ніби вона була випадковою вибіркою з усієї множини людей, які колись жили і житимуть (у минулому, теперішньому і майбутньому), незважаючи на те , що ми знаємо, що ми живемо на початку XXI століття, а не в якійсь точці у далекому майбутньому. М'який принцип невизначеності звертається лише до тих випадків, коли ми не маємо додаткової інформації про те, до якої групи людей ми належимо.
Якщо роблення ставок є якоюсь підставою для раціональної віри, то тоді, якщо всі зроблять ставку на те, чи знаходяться вони в симуляції чи ні, то, якщо люди будуть використовувати м'який принцип невизначеності і робитимуть ставку на те, що вони в симуляції, спираючись на знання про те, що більшість людей в ній знаходиться, то тоді багато хто виграє свої ставки. Якщо вони ставитимуть на те, що вони не в симуляції, то майже всі програють. Здається корисним дотримуватися принципу м'якої рівнозначності. Далі, можна уявити послідовність можливих ситуацій, у яких дедалі більше людей живе у симуляціях: 98%, 99%, 99.9%, 99.9999%, тощо. У міру наближення до верхньої межі, коли всі живуть у симуляції (звідки можна дедуктивно вивести, що кожен знаходиться в симуляції), здається розумною вимога, щоб достовірність, яку хтось приписує тому, що він знаходиться в симуляції, плавно безперервно наближалося до лімітуючого впевненість.
6. Інтерпретація
Можливість, зазначена у пункті (1), цілком зрозуміла. Якщо (1) вірно, то людство майже, напевно, не зможе досягти постлюдського рівня; жоден вид на нашому рівні розвитку не стає постлюдським, і важко виявити будь-які виправдання для думки, що наш власний вид має якісь переваги або особливий захист від майбутніх катастроф. За умови (1), таким чином, ми повинні приписати високу достовірність загибелі (DOOM), тобто гіпотезу про те, що людство зникне до того, як досягне постлюдського рівня:
Можна уявити гіпотетичну ситуацію, у якій маємо такі дані, які перекривають наші знання про fp. Наприклад, якщо ми виявимо, що в нас ось-ось вріжеться гігантський астероїд, ми можемо припустити, що ми виявилися виключно невдачливими. Ми можемо в цьому випадку приписати гіпотезі про загибель більшої достовірності, ніж наше очікування на частку цивілізацій людського рівня, які не зможуть досягти постлюдства. У нашому випадку, однак, у нас, судячи з усього, немає жодних підстав думати, що ми є особливими в цьому відношенні, на краще чи гірше.
Припущення (1) означає саме собою, що ми, швидше за все, вимремо. Воно говорить про те, що ми навряд чи досягнемо постлюдської фази. Ця можливість може означати, наприклад, що ми залишимося на нинішньому або трохи перевищує його протягом тривалого часу до того, як вимремо. Інша можлива причина істинності (1) – те, що, швидше за все, технологічна цивілізація впаде. У цьому примітивні людські суспільства збережуться Землі.
Є багато способів, якими людство може вимерти до того, як досягне постлюдської фази розвитку. Найбільш природним поясненням (1) є те, що ми вимремо в результаті розвитку якоїсь потужної, але небезпечної технології. Одним із кандидатів є молекулярна нанотехнологія, зріла стадія якої дозволить створювати здатних до самореплікації нанороботів, які можуть харчуватися брудом та органічною матерією – на кшталт механічної бактерії. Такі нанороботи, будучи спроектованими зі злогідними цілями, можуть призвести до загибелі всього життя планети.
Друга альтернатива висновку міркування про симуляцію полягає в тому, що частка постлюдських цивілізацій, які зацікавлені в запуску симуляцій-предків, є дуже малою. Для того, щоб (2) було істинним, має бути сувора конвергенція між шляхами розвитку сучасних цивілізацій. Якщо кількість симуляцій предків, створюваних зацікавленими цивілізаціями, є виключно великою, тоді рідкість таких цивілізацій повинна бути відповідно екстремальною. Практично жодна з постлюдських цивілізацій не вирішує використовувати свої ресурси для створення великої кількості симуляцій-предків. Більше того, майже у всіх постлюдських цивілізаціях відсутні індивіди, які мають відповідні ресурси та інтерес, щоб запускати симуляції-предків; або ж у них є підкріплені силою закони, що запобігають поведінці індивідів згідно з їхніми бажаннями.
Яка сила може призвести до такої конвергенції? Хтось може стверджувати, що просунуті цивілізації всі як одна розвиваються траєкторією, що призводить до визнання етичної заборони запуску симуляцій-предків через страждання, які зазнають мешканці симуляції. Однак, з нашої нинішньої точки зору, не здається очевидним, що створення людської раси є аморальним. Навпаки, ми схильні сприймати існування нашої раси як таку, що має велику етичну цінність. Більше того, конвергенції лише етичних поглядів на аморальність запуску симуляцій предків – недостатньо: вона має поєднуватися з конвергенцією цивілізаційної соціальної структури, яка призводить до того, що види діяльності, які вважаються аморальними, ефективним чином забороняються.
Інша можливість конвергенції полягає в тому, що багато індивідуальних постлюдей у багатьох постлюдських цивілізаціях розвиваються в напрямку, в якому вони втрачають прагнення до запуску симуляцій-предків. Це вимагатиме значних змін у мотиваціях, які рушать їх постлюдськими предками, оскільки напевно є багато людей, які хотіли б запускати симуляції предків, якби вони мали таку можливість. Але, можливо, багато наших людських бажань здаватимуться дурними будь-кому, хто стане постлюдиною. Можливо, наукове значення симуляцій-предків для постлюдських цивілізацій є зневажливо малим (що не виглядає надто неймовірним з урахуванням їхньої неймовірної інтелектуальної переваги) і, можливо, постлюди вважають рекреаційну активність за дуже неефективний спосіб отримання задоволення – яке може бути отримане рахунок прямий стимуляції центрів задоволення мозку. Один висновок, який випливає з (2) – це те, що постлюдські суспільства будуть вкрай відрізнятися від людських суспільств: у них не буде щодо багатих незалежних агентів, які мають повний діапазон бажань, подібних до людських, і які вільні діяти відповідно до них .
Можливість, що описується висновком (3), є найбільш інтригує з концептуальної точки зору. Якщо ми живемо в симуляції, то космос, який ми спостерігаємо, є лише маленьким шматочком у тотальності фізичного існування. Фізика всесвіту, де знаходиться комп'ютер, може нагадувати, а може і не нагадувати фізику світу, що спостерігається нами. У той час, як спостережуваний нами світ є до певної міри «реальним», він не розташований на певному фундаментальному рівні реальності. Для симульованих цивілізацій можливо стати постлюдськими. Вони можуть запускати у свою чергу симуляції-предків на потужних комп'ютерах, які вони збудували в симульованому всесвіті. Такі комп'ютери будуть «віртуальними машинами», — поширена концепція в комп'ютерній науці. (Веб-програми, написані на Java script, наприклад, працює на віртуальній машині – симульованому комп'ютері – на вашому ноутбуці.)
Віртуальні машини можуть вкладатися одна в одну: можна симулювати віртуальну машину, що симулює іншу машину, і так далі, з довільно великою кількістю кроків. Якщо ми зможемо створити власні симуляції предків, це буде сильним свідченням проти пунктів (1) і (2), і ми з цього повинні будемо зробити висновок, що ми живемо в симуляції. Більше того, ми повинні будемо підозрювати, що постлюди, які запустили нашу симуляцію, самі по собі також є симульованими істотами, і їхні творці, у свою чергу, також можуть бути симульованими істотами.
Реальність, в такий спосіб, може містити кілька рівнів. Якщо навіть ієрархія має закінчитися на якомусь рівні – метафізичний статус цієї заяви вельми неясний – можливо достатньо простору для великої кількості рівнів реальності, і ця кількість може збільшуватися з часом. (Одна з міркувань, яка говорить проти такої багаторівневої гіпотези, полягає в тому, що обчислювальна ціна для симуляторів базового рівня буде дуже великою. Симулювання навіть однієї постлюдської цивілізації може бути забороняючим дорого. Якщо так, то ми повинні очікувати, що наша симуляція буде вимкнена , коли ми наблизимося до постлюдського рівня.)
Хоча всі елементи цієї системи є натуралістичними, навіть фізичними, можна намалювати деякі вільні аналогії з релігійними концепціями світу. У певному сенсі постлюди, які запустили симуляцію, подібні до богів стосовно людей у симуляції: постлюди створюють той світ, який ми бачимо; вони мають переважаючий нас інтелект; вони всемогутні в тому сенсі, що вони можуть втручатися в роботу нашого світу засобами, що порушують фізичні закони, і є всезнаючими в тому сенсі, що вони можуть моніторити все, що відбувається. Однак усі напівбоги, за винятком тих, які живуть на фундаментальному рівні реальності, схильні до дій сильніших богів, що мешкають на вищих рівнях реальності.
Подальше пережовування цих тем може закінчиться натуралістичною теогонією, яка вивчатиме структуру цієї ієрархії та обмеження, що накладаються на мешканців тією можливістю, що їхні дії на їхньому рівні можуть вплинути на ставлення до них мешканців глибшого рівня реальності. Наприклад, якщо ніхто не може бути впевнений, що він знаходиться на базовому рівні, то кожен повинен розглядати ймовірність того, що його дії винагороджуватимуться чи каратимуться, можливо, на підставі певних моральних критеріїв, господарями симуляції. Життя після смерті буде реальною нагодою. Через цю фундаментальну невизначеність навіть цивілізація на базовому рівні матиме спонукання поводитися етично. Той факт, що вони мають причину поводитися морально, буде зрозуміло вагомим доводом для когось іншого поводитися морально, і так далі, утворюючи доброчесне коло. Таким чином можна отримати щось подібне до універсального етичного імперативу, дотримуватися якого буде в особистих інтересах кожного, і який походить з «нізвідки».
На додаток до симуляцій предків, можна уявити можливість і більш вибіркових симуляцій, які включають лише невелику групу людей або одного індивіда. Решта людей буде тоді «зомбі» чи «люди-тіні» – люди, симульовані лише на рівні, достатньому, щоб повністю симульовані люди не помічали нічого підозрілого.
Не ясно, наскільки дешевше симулюватиме людей-тіней, ніж реальних людей. Не є навіть очевидним, що для деякого об'єкта можливо поводитись невідмінно від реальної людини і при цьому не мати усвідомлених переживань. Навіть якщо такі селективні симуляції існують, ви не повинні бути впевнені, що ви в ній, до того, як ви будете впевнені, що такі симуляції набагато більші, ніж повні симуляції. Світ повинен мати приблизно в 100 мільярдів більше я-симлуяцій (симуляцій життя лише однієї свідомості), ніж є повних симуляцій предків – для того, щоб більшість людей, що симулюються, були б у я-симуляціях.
Також є можливість, що симулятори перестрибують певну частину ментального життя істот, що симулюються, і дають їм фальшиві спогади про той тип досвіду, який вони могли б мати під час пропущених періодів. Якщо так, можна уявити наступне (натягнуте) вирішення проблеми зла: що насправді у світі немає страждань і що всі спогади про страждання є ілюзією. Зрозуміло, цю гіпотезу можна розглядати всерйоз лише тоді, коли сам не страждаєш.
Припускаючи, що ми живемо у симуляції, які наслідки для нас, людей? Попри те, що було сказано до того, наслідки для людей не надто радикальні. Нашим найкращим гідом у тому, як наші постлюдські творці обрали влаштувати наш світ, є стандартне емпіричне дослідження всесвіту, яким ми бачимо. Зміни більшої частини нашої системи вірувань будуть скоріше невеликими та м'якими – пропорційними нашій відсутності впевненості у нашій здатності зрозуміти систему мислення постлюдей.
Правильне розуміння істинності тези (3) не повинно робити нас «шаленими» або змушувати нас кинути свій бізнес і припинити робити плани та передбачення на завтра. Головна емпірична важливість (3) зараз, судячи з усього, лежить у її ролі потрійного висновку, наведеному вище.
Нам слід сподіватися, що (3) є істинним, оскільки це зменшує ймовірність (1), проте якщо обчислювальні обмеження роблять ймовірним те, що симулятори вимкнуть симуляцію до того, як вона досягне постлюдського рівня, тоді нашою найкращою надією є істинність (2) .
Якщо ми дізнаємося більше про постлюдську мотивацію та обмеження ресурсів, можливо, в результаті нашого розвитку у бік постлюдства, то тоді гіпотеза про те, що ми симульовані, отримає набагато багатший набір емпіричних додатків.
7. висновок
Технологічно зріла постлюдська цивілізація мала б у своєму розпорядженні величезну обчислювальну потужність. Грунтуючись на цьому, міркування про симуляцію показує, що принаймні одна з наступних тез є істинною:
- (1) частка цивілізацій людського рівня, які досягають постлюдського рівня, дуже близька до нуля.
- (2) Частка постлюдських цивілізацій, які зацікавлені у запуску симуляцій попередників, дуже близька до нуля.
- (3) Частка всіх людей з нашим типом переживань, які живуть у симуляції, близька до одиниці.
Якщо (1) вірно, то ми майже напевно помремо до того, як досягнемо постлюдського рівня.
Якщо (2) вірно, тоді має бути суворо узгоджена конвергенція шляхів розвитку всіх просунутих цивілізацій, так щоб у жодній з них не було щодо багатих індивідів, які хотіли б запускати симуляції предків і були б вільні робити це.
Якщо (3) вірно, ми майже напевно живемо в симуляції. Темний ліс нашого незнання робить розумним розподілити нашу впевненість майже рівномірно між пунктами (1), (2) та (3).
За винятком того випадку, що ми вже живемо у симуляції, наші нащадки майже напевно ніколи не запускатимуть симуляції-предків.
Подяки
Я вдячний багатьом людям за їхні коментарі, і особливо Amara Angelica, Robert Bradbury, Milan Cirkovic, Robin Hanson, Hal Finney, Robert A. Freitas Jr. та анонімним референтам.
Переклад: Олексій Турчин
Примітки перекладача:
1) Висновки (1) та (2) – нелокальні. Вони кажуть, що або всі цивілізації гинуть, або не хочуть створювати симуляції. Це твердження поширюється не тільки на весь видимий всесвіт, не тільки на всю нескінченність всесвіту за межами горизонту видимості, а й на все безліч 10 ступеня всесвітів з різними властивостями, які можливі, відповідно до теорії струн. На відміну від них, теза про те, що ми живемо в симуляції, є локальною. Загальні твердження набагато рідше бувають істинними, ніж твердження. ( Порівняй: «Всі люди блондин» і «Іванів блондин» або «всі планети мають атмосферу» і «Венера має атмосферу».) Щоб спростувати загальне твердження, достатньо одного винятку. Таким чином, твердження про те, що ми живемо в симуляції, набагато ймовірніше за перші дві альтернативи.
2) Не обов'язково розвиток комп'ютерів – достатньо, наприклад, снів. Які бачитимуть генетично модифіковані та спеціально заточені під це мізки.
3) Міркування про симуляції працює у звичайному житті. Більшість зображень, які надходять у наші мізки, є симуляціями – це кіно, телевізор, інтернет, фотографії, реклама – та last but not least – сни.
4) Чим незвичайніше видимий нами об'єкт, тим більше шансів, що він перебуває у симуляції. Наприклад, якщо я бачу страшну аварію, то швидше за все я бачу її уві сні, телевізором чи кіно.
5) Симуляції можуть бути двох типів: симуляції всієї цивілізації та симуляції особистої історії або навіть якогось одного епізоду із життя однієї людини.
6) Важливо відрізняти симуляцію від імітації – можлива симуляція тієї людини чи цивілізації, яких ніколи не існувало у природі.
7) Надцивілізація повинна бути зацікавлена у створенні симуляцій, щоб вивчити різні варіанти свого минулого і таким чином різні альтернативи свого розвитку. А також, щоб, наприклад, вивчити середню частоту інших надцивілізацій у космосі та їх очікувані властивості.
8) Проблема симуляції стикається з проблемою філософського зомбі (тобто істотами, позбавленими кваліа, як тіні на екрані телевізора). Симульовані істоти не повинні бути філософськими зомбі. Якщо в більшості симуляцій знаходяться філософські зомбі, то міркування не працює (оскільки я не філософський зомбі.)
9) Якщо є кілька рівнів симуляції, то та сама симуляция2 рівня можна використовувати у кількох різних симуляціях 1 рівня тими, хто живе у симуляції 0 рівня. З метою економії обчислювальних ресурсів. Це подібно до того, як багато різних людей дивляться один і той же фільм. Тобто я створив три симуляції. І кожна з них створила 1000 підсимуляцій. Тоді мені довелося б стимулювати 3003 симуляції на своєму суперкомп'ютері. Але якщо симуляції створили у принципі однакові підсимуляції, мені досить змоделювати лише 1000 симуляцій, пред'являючи результат роботи кожної їх три рази. Тобто всього я запущу 1003 симуляції. Інакше висловлюючись, одна симуляція може мати кілька господарів.
10) Те, чи живете ви в симуляції чи ні, можна визначити по тому, наскільки ваше життя відрізняється від середньостатистичного у бік унікального, цікавого чи важливого. Тут передбачається, що робити симуляції цікавих людей, які у цікавий час важливих змін – привабливіше для авторів симуляції, незалежно від своїх цілей – розважальних чи исследовательских.70 % людей, будь-коли жили Землі, були неписьменними селянами. Однак тут треба враховувати ефект спостережної селекції: неписьменні селяни не могли поставити запитання про те, чи вони в симуляції ні, а отже, той факт, що ви не неписьменний селянин, ще не доводить, що ви в симуляції. Ймовірно, найбільший інтерес для авторів симуляції матиме епоха в районі Сингулярності, тому що в районі її можлива незворотна біфуркація шляхів розвитку цивілізації, на яку можуть вплинути малі фактори, зокрема особливості однієї особистості. Наприклад, я, Олексій Турчин, вважаю, що моє життя настільки цікаве, що скоріше є симульованим, ніж реальним.
11) Те, що ми у симуляції, збільшує наші ризики – а) симуляцію можуть вимкнути б) автори симуляції можуть ставити з неї експерименти, створюючи свідомо малоймовірні ситуації – падіння астероїда тощо.
12) Важливо відзначити слова Бострома у тому, що по крайнього заходу одне з трьох правильно. Тобто можливі ситуації, коли деякі з пунктів є вірними одночасно. Наприклад, те, що ми загинемо, не виключає того, що ми живемо у симуляції, і те, що більшість цивілізацій не створює симуляції.
13) Симульовані люди і світ навколо них можуть бути взагалі не схожі на жодних реальних людей і реальний світ, важливо, щоб вони думали, що вони в реальному світі. Вони не здатні помітити відмінності, бо взагалі ніколи жодного реального світу не бачили. Або їхня здатність помічати відмінності притуплена. Як це буває уві сні.
14) Є спокуса виявити у світі ознаки симуляції, що виявляються як чудеса. Але дива можуть відбуватися без симуляції.
15) Є модель світоустрою, яка знімає запропоновану дилему. (але не позбавлена своїх протиріч). Зокрема, це кастанедовсько-будійська модель, де спостерігач породжує весь світ.
16) Ідея симуляції передбачає спрощення. Якщо симуляція буде з точністю до атома, то вона буде тією самою реальністю. У цьому сенсі можна уявити ситуацію, коли якась цивілізація навчилася створювати паралельні світи із заданими властивостями. У цих світах вона може ставити натурні експерименти, утворюючи різні цивілізації. Тобто це щось на кшталт гіпотези космічного зоопарку. Ці створені світи не будуть симуляціями, оскільки вони будуть цілком реальними, але вони будуть під владою тих, хто їх створив і може включити та вимкнути. І їх теж буде кількісно більше, так що тут застосовується схоже статистичне міркування, як і в міркуванні про симуляцію.
Глава статті «НЛО як чинник глобального ризику»:
НЛО – це глюки у Матриці
Відповідно до Н. Бострому (Нік Бостром. Доказ Симуляції. ), Імовірність того, що ми живемо в повністю симульованому світі, досить велика. Тобто наш світ може бути повністю змодельований на комп'ютері якоюсь надцивілізацією. Це дозволяє авторам симуляції створювати будь-які образи в ній, з незбагненними для нас цілями. Крім того, якщо рівень контролю в симуляції малий, то в ній накопичуватимуться помилки, як при роботі комп'ютера, і виникатимуть збої та глюки, які можна помітити. Люди в чорному перетворюються на агентів Смітів, які стирають сліди глюків. Або деякі мешканці симуляції можуть отримати доступ до якихось незапротокольованих можливостей. Це пояснення дозволяє пояснити будь-який можливий набір чудес, але воно не пояснює нічого конкретного – чому ми спостерігаємо саме такі прояви, а не, скажімо, рожевих слонів, що літають вгору. Основний ризик полягає в тому, що симуляція може бути використана для тестування крайніх умов роботи системи, тобто в катастрофічних режимах, а також те, що симуляцію просто вимикають, якщо вона стане надто складною або завершить свою функцію.
Основне питання тут – ступеня контролю у Матриці. Якщо йдеться про Матрицю під дуже жорстким контролем, то ймовірність незапланованих глюків у ній невелика. Якщо ж Матриця просто запущена, а потім надана напризволяще, то глюки в ній будуть накопичуватися, як накопичуються глюки при роботі операційної системи, в міру її роботи і в міру додавання нових програм.
Перший варіант реалізується, якщо автори Матриці зацікавлені у всіх подробицях подій, що відбуваються в Матриці. У цьому випадку вони будуть жорстко відстежувати всі глюки і ретельно їх прати. Якщо ж вони зацікавлені лише у кінцевому результаті роботи Матриці чи одному з її аспектів, їх контроль буде менш жорстким. Наприклад, коли людина запускає шахівницю і йде на весь день, її цікавить тільки результат роботи програми, але не подробиці. При цьому під час роботи шахової програми вона може обрахувати безліч віртуальних партій, інакше кажучи, віртуальних світів. Інакше висловлюючись, автори тут зацікавлені у статистичному результаті роботи багатьох симуляцій, і подробиці роботи однієї симуляції їх хвилюють лише тією мірою, як і глюки впливають на кінцевий результат. А в будь-якій складній інформаційній системі якась кількість глюків накопичується, і зі збільшенням складності системи складність їх видалення експоненційно зростає. Тому простіше миритися з присутністю деяких глюків, ніж видаляти їх на корені.
Далі, очевидно, що безліч слабоконтрольованих систем набагато більше за безліч жорстко контрольованих, оскільки слабоконтрольовані системи запускаються у великих кількостях, коли їх можна виробити ДУЖЕ дешево. Наприклад, безліч віртуальних шахових партій набагато більше партій реальних гросмейстерів, а безліч домашніх операційних систем набагато більше за велику кількість урядових суперкомп'ютерів.
Таким чином, глюки в Матриці допустимі, доки вони не впливають на загальний перебіг роботи системи. Так само і в реальності, якщо у мене шрифт у браузері став відображатися іншим кольором, то я не перезавантажуватиму весь комп'ютер або зносити операційну систему. Але те саме ми бачимо в дослідженні НЛО та інших аномальних явищ! Існує якийсь поріг, вище якого ні самі явища, ні їхній суспільний резонанс стрибнути не можуть. Як тільки якісь явища починають підбиратися до цього порога, вони або зникають, або з'являються люди в чорному, або з'ясовується, що це була містифікація, або хтось гине.
Зазначимо, що є два види симуляцій – повні симуляції всього світу та я-симуляції. В останніх симулюється життєвий досвід лише однієї людини (або невеликої групи людей). У я-симуляції найвірогідніше виявити себе у цікавій ролі, тоді як у повній симуляції 70 відсотків героїв є селянами. З міркувань спостережної селекції я-симуляції повинні бути набагато частішими – хоча це міркування потребує подальшого осмислення. Але в я-симуляціях тема НЛО має бути вже закладена, як і вся передісторія світу. І вона може бути закладена навмисне – щоб дослідити, як я поводитимуся з цією темою.
Далі, у будь-якій інформаційній системі рано чи пізно заводяться віруси – тобто паразитичні інформаційні одиниці, націлені самореплікацію. Такі одиниці можуть виникати і в Матриці (і в колективному несвідомому), і проти них має працювати вбудована антивірусна програма. Однак з досвіду користування комп'ютерами та з досвіду біологічних систем ми знаємо, що простіше миритися з наявністю нешкідливих вірусів, ніж цькувати їх до останнього. Тим більше, що повне знищення вірусів часто потребує знесення системи.
Таким чином, можна припустити, що НЛО – це віруси, які використовують глюки у Матриці. Це пояснює абсурдність їхньої поведінки, оскільки їхній інтелект обмежений, а також їх паразитування на людях – тому що кожній людині виділено в Матриці певну кількість обчислювальних ресурсів, які можна використовувати. Можна припустити, що деякі люди скористалися глюками в Матриці, щоб досягти своїх цілей, у тому числі безсмертя, але також зробили істоти з інших обчислювальних середовищ, наприклад, симуляцій принципово інших світів, які потім проникли в наш світ.
Ще одне питання - який рівень глибини симуляції, в якій ми, швидше за все, знаходимося. Можна симулювати світ із точністю до атома, але це вимагало б колосальних обчислювальних ресурсів. Інший крайній приклад – шутер від першої особи. У ньому тривимірне зображення території малюється в міру потреби, коли головний герой підходить до нового місця, виходячи з загального плану місцевості та деяких загальних принципів. Або використовуються заготівлі для деяких місць, а точне промальовування інших місць ігнорується (як у фільмі «13 поверх»). Очевидно, чим точніша і докладніша симуляція, тим рідше в ній будуть глюки. З іншого боку, симуляції, зроблені «наспіхом», міститиме набагато більше глюків, але при цьому споживатиме набагато менше обчислювальних ресурсів. Інакше висловлюючись, з однаковими витратами можна було б зробити або одну дуже точну симуляцію, або мільйон приблизних. Далі, ми припускаємо, що щодо симуляцій діє той самий принцип, що і щодо інших речей: а саме, що дешевша річ, тим частіше вона зустрічається (тобто у світі більше скель, ніж діамантів, більше метеоритів, ніж астероїдів і т. д.) Таким чином, ми, скоріше, знаходимося всередині дешевої спрощеної симуляції, а не всередині складної надточної симуляції. На це можна заперечити, що в майбутньому будуть доступні необмежені обчислювальні ресурси, і тому будь-який актор робитиме докладніші симуляції. Однак тут вступає в дію ефект симуляцій-матрьошок. Зокрема, просунута симуляція може створювати свої власні симуляції, назвемо їх симуляціями другого рівня. Допустимо, просунута симуляція світу середини 21 століття (створена, припустимо, у реальному 23 столітті) може створити мільярди симуляцій світу початку 21 століття. При цьому вона буде користуватися комп'ютерами середини 21 століття, які будуть обмежені в обчислювальних ресурсах, ніж комп'ютери 23 століття. (А також реальне 23 століття заощаджуватиме на точності підсимуляцій, тому що вони йому не важливі.) Тому всі мільярди симуляцій початку 21 століття, які вона створить, будуть дуже економними по обчислювальних ресурсах. У силу цього кількість примітивних симуляцій, а також симуляцій, більш ранніх щодо симулюваного часу, буде в мільярд разів більше, ніж кількість більш докладних і пізніх симуляцій, і, отже, довільний спостерігач має у мільярд разів більші шанси виявити себе в ранній ( принаймні до появи надкомп'ютерів, здатних до створення власних симуляцій) і більш дешевої і глючної симуляції. А згідно з принципом self-sampling assumption кожен повинен розглядати самого себе як випадкового представника безлічі подібних до себе істот, якщо він хоче отримати найточніші ймовірнісні оцінки.
Інший варіант полягає в тому, що НЛО навмисне запускаються в Матрицю, щоб обдурювати людей, які живуть в ній, і дивитися, як вони на це реагуватимуть. Оскільки більшість симуляцій, на мою думку, призначені для симулювання світу в деяких особливих, крайніх умовах.
Все ж таки ця гіпотеза не пояснює всієї безлічі конкретних проявів НЛО.
Ризик тут у тому, що й наша симуляція буде перевантажена глюками, то господарі симуляції можуть вирішити її перезавантажити.
Нарешті, можна припустити «самозародження Матриці» — тобто те, що ми живемо в обчислювальному середовищі, але це середовище самозародилося якимсь чином біля витоків існування всесвіту без якихось істот-творців. Для того, щоб ця гіпотеза була переконливішою, слід спочатку згадати, що згідно з одним із описів фізичної реальності самі елементарні частинки є клітинними автоматами – чимось на кшталт стійких комбінацій у грі «Життя». (гра)
Ще роботи Олексія Турчина:
Про Ontol
Онтол - це карта, що дозволяє вибрати максимально ефективний маршрут формування свого світогляду.
Онтол ґрунтується на суперпозиції суб'єктивних оцінок, рефлексії прочитаних текстів (в ідеалі — мільйонів/мільярдів людей). Кожна людина, що бере участь у проекті сама для себе вирішує, що є топ-10/100 найважливішого, що він прочитав/поглянув за значущими аспектами життя (мислення, здоров'я, сім'я, гроші, довіра та ін.) за останні 10 років або все життя . Чим можна поділитися в 1 клік (тексти та відео, а не книги, розмови та події).
Ідеальний кінцевий результат Онтола – це доступ у 10х-100х швидше (ніж існуючі аналоги wikipedia, quora, чатики, канали, жж, пошукові системи) до значних текстів та відео, які вплинуть на життя читача («Ех, як би я хотів, щоб я прочитав цей текст раніше! Швидше за все життя пішло б по-іншому»). Безкоштовно для всіх жителів планети та в 1 клік.
- Канал у телеграм:
- Прототип веб-сервісу:
- На Хабрі:
- Онтол про стартапи від Y Combinator:
Джерело: habr.com