🥇Ник Бостром: Живеем ли в компютърна симулация (2001)

Събирам всички най-важни текстове от всички времена и народи, които влияят на светогледа и формирането на картината на света («Онтол»). И ето тук помислих-помислих и излагам дръзката хипотеза, че този текст е по-революционен и важен за нашето разбиране за устройството на света, отколкото коперниканската революция и трудовете на Кант. В рунета този текст (пълната версия) беше в ужасно състояние, малко го подобрих и с разрешението на преводача го публикувам за обсъждане.

“Живеете ли в компютърна симулация?”

от Ник Бостром [Публикувано в Philosophical Quarterly (2003) т. 53, № 211, стр. 243-255. (Първа версия: 2001)]

В настоящата статия се твърди, че поне едно от трите следващи предположения е вярно:

(1) е много вероятно, че човечеството ще изчезне преди да достигне «постчовешката» фаза;
(2) всяка постчовешка цивилизация с изключително ниска вероятност ще стартира значителен брой симулации на своята еволюционна история (или нейните варианти) и
(3) почти определено живеем в компютърна симулация.

Оттук следва, че вероятността да се намираме в постчовешка цивилизация, която може да стартира симулации на своите предшественици, е нула, освен ако не приемем като истина, че вече живеем в симулация. Обсъждат се и други последствия от този резултат.

1. Въведение

Много произведения на научната фантастика, както и прогнози на сериозни футуролози и изследователи на технологии предсказват, че в бъдеще ще бъдат налични колосални обеми изчислителни мощности. Да предположим, че тези предсказания са верни. Например, следващите поколения с техните свръхмощни компютри ще могат да стартират детайлни симулации на своите предшественици или на хора, подобни на техните предшественици. Тъй като техните компютри ще бъдат толкова мощни, те ще могат да стартират много подобни симулации. Нека предположим, че тези симулирани хора притежават съзнание (и те ще го имат, ако симулацията е с висока точност и ако определена широко приета философска концепция за съзнанието е вярна). Оттук следва, че най-много умове, подобни на нашия, не принадлежат на оригиналната раса, а по-скоро на хора, симулирани от напреднали потомци на оригиналната раса. Основавайки се на това, може да се твърди, че е разумно да очакваме, че сме сред симулираните, а не сред изходните, естествени биологични умове. Следователно, ако не смятаме, че в момента живеем в компютърна симулация, не би било разумно да считаме, че нашите потомци ще стартират множество симулации на своите предци. В това е основната идея. В останалата част от работата ще разгледаме темата по-подробно.

Освен интереса, който този тезис може да представлява за хора, участващи в футуристични дискусии, тук има и чисто теоретичен интерес. Това доказателство представлява стимул за формулиране на определени методологически и метафизични проблематики, и също предлага някои естествени аналогии с традиционните религиозни концепции, които могат да изглеждат изненадващи или провокативни за размисъл.

Структурата на тази статия е следната: в началото ще формулираме някакво предположение, което трябва да импортираме от философията на съзнанието, за да проработи това доказателство. След това ще разгледаме някои емпирични основания, за да считаме, че стартирането на огромно количество симулации на човешки умове ще бъде достъпно за бъдеща цивилизация, която ще развие много от тези технологии, относно които е ясно, че не противоречат на известните физически закони и инженерни ограничения.

Тази част не е необходима от философска гледна точка, но все пак подтиква към внимание към основната идея на статията. След това ще последва изложение на доказателството по същество, с използване на някои прости приложения на теориите на вероятностите, и раздел, който обосновава слабия принцип на еквивалентността, на който данното доказателство разчита. Накрая ще обсъдим някои интерпретации на алтернативата, за която се говори в началото, и това ще бъде заключението на доказателството за проблема със симулацията.

2. Предположение за независимост от носителя

Разпространеното предположение в философията на съзнанието е предположението за независимост от носителя. Идеята е, че менталните състояния могат да възникват в който и да е носител от широк клас физически носители. При условие, че в системата се реализира правилният набор от изчислителни структури и процеси, в нея могат да възникнат осъзнати преживявания. Същественото свойство не е реализирането в базирани на въглерод биологични нервни мрежи в черепните процеси: базираните на силиций процесори вътре в компютрите могат да извършват абсолютно същото трик. Аргументите в полза на този тезис са били изложени в съществуващата литература, и, въпреки че не е напълно без противоречия, ние ще го приемем тук за даденост.

Доказателството, което предлагаме тук обаче, не зависи от особено силна версия на функционализма или компутализма. Например, не трябва да приемаме, че тезата за независимост от носителя е непременно вярна (и в аналитичен, и в метафизичен смисъл) – а трябва да приемем само, че всъщност компютър, управляван от съответната програма, би могъл да притежава съзнание. Освен това, не трябва да предполагаме, че за да създадем съзнание в компютър, трябва да го програмираме така, че в абсолютно всички случаи да се държи като човек, да преминава Тюринговия тест и т.н. Нужно е само по-слабо допускане, че за създаване на субективни преживявания е достатъчно изчислителните процеси в човешкия мозък да бъдат структурно копирани в съответните високо прецизни детайли, например, на нивото на индивидуалните синапси. Тази уточнена версия на независимостта от носителя е доста широко приемана.

Нейротрансмитерите, факторите на растежа на нервите и другите химични вещества, които са по-малки от синапсите, очевидно играят роля в човешкото познание и обучение. Тезата за независимост от носителя не е, че ефектът от тези химични вещества е малък или незначителен, а че те влияят на субективния опит само чрез пряко или непряко въздействие върху изчислителната активност. Например, ако не съществуват субективни различия, без съществуването на разлика в синаптичните разряди, тогава необходимата детайлизация на симулацията е на синаптично ниво (или по-високо).

3. Технологични граници на изчисленията

В настоящия момент на нивото на технологично развитие, нямаме нито достатъчно ефикасно мощно оборудване, нито съответстващ софтуер, за да създадем съзнателни умове на компютъра. Въпреки това са предложени сериозни аргументи в полза на това, че ако технологичният напредък продължи без прекъсване, тези ограничения в крайна сметка ще бъдат преодолени. Някои автори твърдят, че тази фаза ще настъпи само след няколко десетилетия. Въпреки това, за целите на нашата дискусия, няма нужда от предположения относно времевата скала. Доказателството за симулация работи толкова добре и за тези, които смятат, че ще са необходими стотици хиляди години, за да достигнем „постчовешката“ фаза на развитие, когато човечеството ще придобие голяма част от тези технологични способности, които, както сега може да се покаже, са съвместими с физическите закони и с материалните и енергийни ограничения.

Тази зряла фаза на технологично развитие ще направи възможно преобразуването на планети и други астрономически ресурси в компютри с колосална мощност. В момента е трудно да бъдем сигурни относно каквито и да е крайни граници на изчислителната мощност, която ще бъде достъпна за постчовешките цивилизации. Тъй като все още нямаме „теория на всичко“, не можем да изключим възможността нови физически феномени, забранени от съвременните физични теории, да бъдат използвани за преодоляване на ограниченията, които, според нашето настоящо разбиране, налагат теоретични лимити на обработката на информация в един определен обект. С много по-голяма степен на сигурност можем да установим долни граници на постчовешките изчисления, предполагайки реализацията само на тези механизми, които вече са разбираеми. Например, Ерик Дрекслер предложи скица на устройство с размерите на кубче захар (с изключение на системата за охлаждане и захранване), което би могло да извършва 1021 операции в секунда. Друг автор е дал груба оценка от 10^42 операции в секунда за компютър с размерите на планета. (Ако успеем да създадем квантови компютри или да изградим компютри от ядрен материал или плазма, можем да се доближим още по-близо до теоретичните лимити. Сет Ллойд изчисли горната граница за компютър с тегло 1 кг на 5*10^50 логически операции в секунда, изпълнявани върху 10^31 бита. Въпреки това, за нашите цели е достатъчно да използваме по-консервативни оценки, които предполагат само известните в момента принципи на работа.)

Количество компютърна мощност, необходима за да емулирате човешкия мозък, може да бъде оценена с приблизително такова грубо оценяване. Една оценка, основана на това колко скъпо в изчислителен смисъл би било да се копира функционирането на парче нервна тъкан, което вече разбираме и чиято функционалност вече е копирана в силиция (а именно, системата на подсилване на контраста в ретината на окото), дава оценка от приблизително 10^14 операции в секунда. Алтернативна оценка, основана на броя на синапсите в мозъка и честотата на техните сработвания, дава стойност от 10^16-10^17 операции в секунда. Следователно, и дори повече изчислителна мощност може да бъде необходима, ако бихме искали да симулираме в детайли вътрешната работа на синапсите и клоните на дентритите. Въпреки това, е много вероятно, че централната нервна система на човека притежава определена степен на излишък на микрониво, за да компенсира ненадеждността и шума на своите невронни компоненти. Следователно, можем да очакваме значителен ръст в ефективността при използване на по-надеждни и гъвкави небиологични процесори.

Паметта е не по-малко значително ограничение от процесорната мощност. Освен това, тъй като максималният поток от сензорни данни на човека е от порядъка на 10^8 бита в секунда, симулирането на всички сензорни събития би имало пренебрежимо малка стойност в сравнение със симулирането на кората на главния мозък. Следователно, можем да използваме процесорната мощност, необходима за симулиране на централната нервна система, като оценка на общата изчислителна стойност на симулацията на човешкия ум.

Ако околната среда е включена в симулацията, това ще изисква допълнителна компютърна мощност – количеството ѝ зависи от размерите и подробностите на симулацията. Симулацията на вселената с точност до квантово ниво очевидно е невъзможна, освен ако не бъде открита нова физика. Но за да се получи реалистична симулация на човешкия опит, е нужно много по-малко – само толкова, колкото да се уверим, че симулираните хора взаимодействат по обикновен човешки начин с симулираната околна среда, без да забелязват разлики. Микроскопичната структура на вътрешните части на Земята може лесно да бъде пропусната. Отдалечените астрономически обекти могат да бъдат подложени на много високо ниво на компресия: точното съответствие трябва да бъде само в тесен спектър от свойства, които можем да наблюдаваме от нашата планета или от космически апарати в Слънчевата система. На повърхността на Земята макроскопичните обекти в необитаеми места трябва да бъдат непрекъснато симулирани, но микроскопичните феномени могат да бъдат запълнени ad hoc, тоест при необходимост. Това, което виждате през електронен микроскоп, трябва да изглежда ненаблюдително, но обикновено нямате средства да проверите неговата последователност с ненаблюдаемите части на микромира. Изключения настъпват, когато сме умишлено проектирали системи, за да вмъкнем ненаблюдаемите микроскопични феномени, които действат в съответствие с известни принципи, така че да получим резултати, които можем независимо да проверим. Класически пример за това е компютърът. Симулацията, следователно, трябва да включва непрекъснати имитации на компютри до нивото на индивидуалните логически елементи. Това не представлява проблем, тъй като нашата настояща компютърна мощност е пренебрежимо малка спрямо постчовешките стандарти.

Освен това, постчеловешкият създател на симулацията ще разполага с достатъчно изчислителна мощ, за да следи в детайли състоянието на мислите във всички човешки мозъци по всяко време. Така когато открие, че някой човек е готов да направи определено наблюдение за микромира, той може да запълни симулацията с достатъчно ниво на детайлност, колкото е необходимо. Ако се случи някаква грешка, режисьорът на симулацията може лесно да редактира състоянията на всеки мозък, който е научил за аномалията, преди тя да разруши симулацията. Или режисьорът може да върне симулацията назад с няколко секунди и да я рестартира по такъв начин, че да избегне проблема.

От това следва, че най-скъпото при създаването на симулация, която е неразличима от физическата реалност за съществуващите в нея човешки съзнания, ще бъде създаването на симулации на органични мозъци до невропредикторно или субнепридикторно ниво. Въпреки че е невъзможно да се даде много точна оценка на цената на реалистична симулация на човешката история, можем да използваме оценка от 10^33-10^36 операции като груба оценка.

С напредъка в опита си за създаване на виртуална реалност, ще постигнем по-добро разбиране на изчислителните изисквания, необходими за това подобни светове да изглеждат реалистично за техните посетители. Но дори и да оценката ни е неправилна с няколко порядъка величина, това няма да има голямо значение за нашето доказателство. Установихме, че грубата оценка на изчислителната мощ на компютър с масата на планета е 10^42 операции в секунда, като това взема предвид само известните нано-технологични конструкции, които вероятно са далеч от оптималните. Един такъв компютър може да симулира цялата умствена история на човечеството (нека да я наречем симулация на предците) използвайки само една милионна от ресурсите си за 1 секунда. Постхуманната цивилизация в крайна сметка може да построи астрономическо количество от тези компютри. Можем да заключим, че постхуманната цивилизация може да стартира колосално количество симулации на предците, дори ако за целта изразходва само малка част от ресурсите си. Можем да стигнем до това заключение, дори допускайки значителна грешка във всички наши оценки.

Постхуманните цивилизации ще разполагат с достатъчно изчислителни ресурси, за да стартират огромно множество симулации на предците, дори като използват много малка част от ресурсите си за тези цели.

4. Ядро на доказателството за симулацията

Основната идея на тази статия може да бъде изразена така: ако има съществен шанс, че нашата цивилизация някога ще достигне постхуманската фаза и ще стартира множество симулации на предците, как можем да докажем, че не живеем в такава симулация?

Ще развием тази мисъл в строго доказателство. Нека въведем следните обозначения:

– дял от всички цивилизации на човешко ниво, които достигат постхуманската фаза;
N – среден брой симулации на предците, които стартира постхуманна цивилизация;
H – среден брой хора, които са живели в цивилизацията преди да достигне постхуманската фаза.

Тогава реалният дял на всички наблюдатели с човешки опит, които живеят в симулация:

Да наречем част от постчовешките цивилизации, които се интересуват от стартиране на симулации на предци (или които съдържат поне известно количество отделни същества, които са заинтересовани и разполагат със значителни ресурси, за да стартират значителен брой симулации) и като среден брой симулации на предци, стартирани от такива заинтересовани цивилизации, получаваме:

Следователно:

Поради колосалната изчислителна мощ на постчовешките цивилизации, която е изключително голяма, както видяхме в предишната част. Разглеждайки формулата (*), можем да видим, че поне едно от трите следващи предположения е вярно:

5. Мек принцип на равнозначност

Можем да направим крачка напред и да заключим, че при условие, че третата точка е вярна, можете почти сигурно да сте уверени, че се намирате в симулация. Говорейки общо, ако знаем, че делът x от всички наблюдатели с човешки опит живеят в симулация, и нямаме никаква допълнителна информация, която да показва, че нашият собствен частен опит е с по-голяма или по-малка вероятност инкарниран в машина, а не in vivo, в сравнение с другите форми на човешкия опит, то тогава нашата увереност, че сме в симулация, трябва да е равна на x:

Тази стъпка е оправдана от много слабия принцип на равнозначност. Нека разделим на два случая. В първия случай, който е по-прост, всички изследвани умове са подобни на вашия, в смисъл, че те точно качествено съвпадат с вашия ум: те разполагат със същата информация и същите преживявания, каквито имате вие. Във втория случай, умовете само са подобни един на друг в общи линии, представлявайки онзи тип умове, които са типични за човешките същества, но качествено се различават и всеки от тях има различен набор от преживявания. Установявам, че дори и в случаите, когато умовете качествено се различават, доказателството за симулация все още важи, при условие, че нямате никаква информация, която отговаря на въпроса кои от различните умове са симулирани и кои реално биологични.

Подробно обосновавайки по-строгият принцип, който включва и двата наши частни примера като тривиални индивидуални случаи, беше даден в литературата. Липсата на пространство не позволява да приведем обоснованието в цялост, но можем да представим едно от интуитивните обоснования. Да предположим, че x% от населението притежава определен генетичен последователност S в определена част от ДНК, която обикновено се нарича „мъртва ДНК“. Да предположим допълнително, че няма прояви на S (освен онези, които могат да се проявят при генетично тестване) и няма корелации между притежаването на S и каквито и да било външни прояви. Тогава е абсолютно очевидно, че преди вашата ДНК да бъде секвенирана, е разумно да се предполага увереност в x% хипотезата,че притежавате фрагмент S. И това е напълно независимо от факта,че хората, които имат S, имат умове и преживявания, качествено различни от тези на хората, които нямат S. (Те са различни просто защото всеки човек има различен опит, а не защото има някаква пряка връзка между S и вида опит, който преживява човек.)

Същите разсъждения важат, ако S не е свойството на притежание на определена генетична последователност, а вместо това е факт за присъствието в симулация, при предположението, че нямаме информация, която да ни позволи да предсказваме каквито и да било различия между преживяванията на симулирани умове и между преживяванията на изходните биологични умове.

Следва да се подчертае, че меката принцип за равнозначност акцентира само на равнозначността между хипотезите, в зависимост от това какъв наблюдател сте, когато нямате информация за това коя от наблюдателите сте. В общия случай той не приписва равнозначност между хипотезите, когато нямате конкретна информация относно това коя от хипотезите е вярна. За разлика от принципа на Лаплас и други по-силни принципи за равнозначност, той по този начин не е подложен на парадокса на Бертран и на други подобни затруднения, които усложняват неограниченото прилагане на принципите на равнозначност.

Читателите, познати с доказателството за Края на света (Doomsday argument, DA)( J. Leslie, “Is the End of the World Nigh? ” Philosophical Quarterly 40, 158: 65‐72 (1990)), могат да изпитват притеснение, че принципът на равнозначност, прилаган тук, се основава на същите предпоставки, които отговарят за изваждането на основата под DA, и че контринуитивността на някои от заключенията на последното хвърля сянка върху достоверността на разсъжденията за симулацията. Така не е. DA се основава на много по-строга и противоречива предпоставка, че човек трябва да разсъждава така, сякаш е произволна извадка от цялото множество хора, които някога са живели и ще живеят (в миналото, настоящето и бъдещето), въпреки че знаем, че живеем в началото на XXI век, а не в някаква точка в далечното бъдеще. Мекият принцип на неопределеност се отнася единствено до случаите, когато нямаме допълнителна информация относно nhóm на хората, към които принадлежим.

Ако залагането е някакво основание за рационална вяра, то тогава, ако всички заложат на това, дали са в симулация или не, то, ако хората използват мекия принцип на неопределеност и залагат на това, че са в симулация, като се опират на знанието, че повечето хора в нея са, то почти всички ще спечелят залозите си. Ако залагат на това, че не са в симулация, почти всички ще загубят. Изглежда по-полезно да се следва принципът на меката равнозначност. Освен това, можем да си представим последователност от възможни ситуации, в които все по-голяма част от хората живеят в симулации: 98%, 99%, 99.9%, 99.9999%, и т.н. С приближаването до горната граница, когато всички живеят в симулация (откъдето може да се заключи, че всеки е в симулация), изглежда разумно изискването, което някой приписва на това, че е в симулация, плавно непрекъснато да се приближава към лимитиращия предел на пълната увереност.

6. Интерпретация

Възможността, посочена в точка (1), е напълно ясна. Ако (1) е вярно, човечеството почти сигурно няма да успее да достигне постчовешко ниво; нито един вид на нашето ниво на развитие не става постчовешки, и е трудно да се открият каквито и да било оправдания за мисълта, че нашият собствен вид има каквито и да било предимства или особена защита от бъдещи катастрофи. При условие (1), следователно, трябва да придадем висока достоверност на Хибелта (DOOM), т.е. хипотезата, че човечеството ще изчезне, преди да достигне постчовешко ниво:

Можем да си представим хипотетична ситуация, в която имаме такива данни, които надхвърлят нашето познание за fp. Например, ако открием, че в нас скоро ще се врязва гигантски астероид, можем да предположим, че сме се оказали изключително нещастни. В този случай можем да придадем на хипотезата за Хибелта по-голяма достоверност, отколкото на нашето очакване за дела на човешките цивилизации, които не могат да достигнат постчовечност. В нашия случай обаче, явно нямаме никакви основания да мислим, че сме специални в това отношение, в положителен или отрицателен смисъл.

Предположението (1) само по себе си не означава, че вероятно ще изчезнем. То казва, че малко вероятно е да достигнем постчовешката фаза. Тази възможност може, например, да означава, че ще останем на настоящото си или леко над него ниво за дълъг период от време, преди да изчезнем. Друг възможен причинител на истинността на (1) е, че е вероятно технологичната цивилизация да се срине. При това примитивните човешки общества ще запазят съществуването си на Земята.

Има много начини, по които човечеството може да изчезне, преди да достигне постчовешката фаза на развитие. Най-естественото обяснение на (1) е, че ще изчезнем в резултат на развитието на някаква мощна, но опасна технология. Един от кандидатите е молекулярната нанотехнология, зрялата фаза на която ще позволи създаването на способности за самовъзпроизвеждане нанороботи, които могат да се хранят с мръсотия и органични вещества – нещо като механична бактерия. Такива нанороботи, проектирани с лоши цели, могат да доведат до гибелта на целия живот на планетата.

Втората алтернатива на разглеждането на симулацията е, че делът на постчовешките цивилизации, които са заинтересовани в стартирането на симулации на предци, е пренебрежимо малък. За да бъде (2) вярно, трябва да има строга конвергенция между пътищата на развитие на напредналите цивилизации. Ако броят на симулациите на предци, създавани от заинтересованите цивилизации, е изключително висок, то рядкостта на такива цивилизации трябва да бъде съответно екстремна. Практически нито една от постчовешките цивилизации не се ангажира да използва ресурсите си за създаване на голям брой симулации на предци. Освен това, почти всички постчовешки цивилизации нямат индивиди с необходимите ресурси и интерес да стартират симулации на предци; или имат закони, подкрепени от сила, които предотвратяват индивидуалното поведение според техните желания.

Каква сила може да доведе до такава конвергенция? Някой може да твърди, че напредналите цивилизации всички развиват траектория, която води до признаване на етичното табу за стартиране на симулации на предци поради страданията, които изпитват обитателите на симулацията. Въпреки това, от нашата настояща гледна точка, не изглежда очевидно, че създаването на човешкия вид е неморално. Напротив, ние сме склонни да възприемаме съществуването на нашия вид като носещо голяма етическа стойност. Освен това, конвергенцията само на етическите възгледи относно неморалността на стартирането на симулации на предци е недостатъчна: тя трябва да бъде комбинирана с конвергенция на цивилизационната социална структура, която да гарантира, че дейностите, считани за неморални, ефективно се забраняват.

Друга възможност за конвергенция е, че почти всички индивидуални постчовеци в почти всички постчовешки цивилизации се развиват в посока, в която губят желанието си да стартират симулации на предците. Това ще изисква значителни промени в мотивациите, които движат техните постчовешки предци, тъй като със сигурност има много хора, които биха искали да стартират симулации на предците, ако имаха такава възможност. Но, може би, много от нашите човешки желания ще изглеждат глупави за всеки, който стане постчовек. Може би научното значение на симулациите на предците за постчовешките цивилизации е пренебрежимо малко (което не изглежда прекалено невероятно предвид тяхното невероятно интелектуално превъзходство) и, може би, постчовеците считат развлекателната активност за много неефективен начин за получаване на удоволствия – които могат да бъдат получени много по-евтино чрез директна стимулация на центровете за удоволствие в мозъка. Едно заключение, което следва от (2) – е, че постчовешките общества ще се различават значително от човешките общества: в тях няма да има относително богати независими агенти, които да имат пълен набор от желания, подобни на човешките, и които са свободни да действат в съответствие с тях.

Възможността, описвана от изхода (3), е най-интригуваща от концептуална гледна точка. Ако живеем в симулация, наблюдаваният от нас космос е само малка част от цялостното физическо съществуване. Физиката на вселената, в която се намира компютърът, може да наподобява или да не наподобява физиката на наблюдавания от нас свят. Докато наблюдаваният от нас свят е до известна степен 'реален', той не се намира на някакво основно ниво на реалността. За симулираните цивилизации може да е възможно да станат постчовешки. Те могат да стартират симулации на предците на мощни компютри, които са построили в симулираната вселена. Такива компютри ще бъдат 'виртуални машини' - много разпространена концепция в компютърните науки. (Уеб приложения, написани на JavaScript, например, работят на виртуална машина – симулиран компютър – на вашия лаптоп.)

Виртуалните машини могат да се вложат една в друга: възможно е да се симулира виртуална машина, симулираща друга машина и така нататък, с произволно голям брой стъпки. Ако успеем да създадем собствените си симулации на предците, това ще бъде силно доказателство срещу точките (1) и (2), и в следствие на това трябва да заключим, че живеем в симулация. Освен това, трябва да подозиране, че постлюдите, които са стартирали нашата симулация, сами по себе си също са симулирани същества, и техните създатели, от своя страна, също могат да бъдат симулирани същества.

Действителността, по този начин, може да съдържа няколко нива. Дори и да има йерархия, която трябва да завърши на някакво ниво – метафизичният статус на това изявление е доста неясен – може да има достатъчно пространство за много нива на реалност, и това количество може да нараства с течение на времето. (Едно от съображенията, които говорят против такава многостепенна хипотеза, е, че изчислителната цена за симулатори на основно ниво ще бъде много висока. Симулирането дори на една постхуманна цивилизация може да бъде смразяващо скъпо. Ако е така, трябва да очакваме, че нашата симулация ще бъде изключена, когато се приближим до постхуманно ниво.)

Въпреки че всички елементи на тази система са натуралистични, дори физически, може да се направят някои свободни аналогии с религиозните концепции за света. В известен смисъл постхората, които стартирали симулацията, са подобни на богове спрямо хората в симулацията: постхората създават света, който виждаме; те притежават надмощен интелект; те са всемогъщи по начина, по който могат да се намесват в работата на нашия свят по начин, нарушаващ физическите закони, и те са всезнаещи в смисъл, че могат да следят всичко, което се случва. Въпреки това, всички полубогове, с изключение на тези, които живеят на фундаменталното ниво на реалността, са подчинени на действията на по-силни богове, обитаващи на по-високи нива на реалността.

По-нататък разглеждането на тези теми може да завърши с натуралистична теогония, която ще изследва структурата на тази йерархия и ограниченията, наложени на обитателите ѝ, с мисълта, че действията им на тяхното ниво могат да повлияят на отношението към тях от обитателите на по-дълбокото ниво на реалността. Например, ако никой не може да бъде сигурен, че е на базовото ниво, всеки трябва да разгледа вероятността неговите действия да бъдат възнаградени или наказани, вероятно на основание на определени морални критерии, зададени от господарите на симулацията. Животът след смъртта ще бъде реална възможност. Поради тази фундаментална неопределеност дори цивилизацията на базовото ниво ще има стимул да се държи етично. Фактът, че те имат причина да се държат морално, ще бъде убедителен аргумент за някой друг да се държи морално, и така нататък, формирайки доброделен кръг. По този начин може да се получи нещо като универсален етичен императив, чието спазване ще бъде в личните интереси на всеки, и който произхожда от "никуде".

В допълнение към симулациите на предците, може да си представите възможността и за по-избирателни симулации, които включват само малка група хора или един индивид. Останалите хора ще бъдат тогава "зомбита" или "сенчести хора" – хора, симулирани само на ниво, достатъчно, за да не забелязват нищо подозрително напълно симулираните хора.

Не е ясно колко по-евтино ще бъде да се симулират сенчести хора, в сравнение с реалните хора. Дори не е очевидно, че за даден обект е възможно да се държи неотличимо от реален човек, докато не притежава съзнателни преживявания. Дори ако такива селективни симулации съществуват, не трябва да сте сигурни, че сте в една от тях, докато не се уверите, че такива симулации са многократно повече от пълните симулации. Светът трябва да има примерно 100 милиарда повече "я-симулации" (симулации на живота на единствено съзнание), отколкото пълни симулации на предците – за да може повечето симулирани хора да бъдат в я-симулации.

Съществува и възможността симулаторите да пропускат определени аспекти от менталния живот на симулираните същества, предоставяйки им фалшиви спомени за типa опит, който биха могли да имат по време на пропуснатите периоди. Ако е така, можем да си представим следното (преувеличено) решение на проблема със злото: че всъщност в света няма страдания и че всичките спомени за страдания са илюзия. Разбира се, тази хипотеза може да се приеме сериозно само в моментите, когато сами не страдаме.

Предполагайки, че живеем в симулация, какви са последиците от това за нас, хората? Въпреки казаното по-рано, последствията за хората не са особено радикални. Най-добрият ни указател за това как нашите постчовешки създатели са избрали да устроят нашия свят е стандартното емпирично изследване на вселената, която виждаме. Промените в голяма част от нашата система на вярвания ще бъдат по-скоро малки и нежни - пропорционални на нашето отсъствие на увереност в способността ни да разберем начина на мислене на постчовеците.

Правилното разбиране на истинността на тезиса (3) не трябва да ни прави "безумни" или да ни кара да зарежем бизнеса си и да спрем да правим планове и предсказания за утре. Основната емпирична важност на (3) в момента, изглежда, се крие в неговата роля в тройния извод, посочен по-горе.

Трябва да се надяваме, че (3) е истина, тъй като това намалява вероятността на (1), обаче, ако изчислителните ограничения правят вероятно, че симулаторите ще деактивират симулацията преди тя да достигне постчовешко ниво, тогава нашата най-добра надежда е истинността на (2).

Ако научим повече за постчовешките мотиви и ограничения на ресурсите, може би в резултат на нашето развитие към постчовечност, хипотезата, че сме симулирани, ще получи много по-богат набор от емпирични приложения.

7. Заключение

Технологично зряла постчовешка цивилизация би разполагала с огромна изчислителна мощност. На базата на това, разсъжденията за симулация показват, че поне един от следните тезиси е верен:

(1) Дялът на цивилизациите на човешко ниво, които достигат постчовешко ниво, е почти нулев.
(2) Дялът на постчовешките цивилизации, които са заинтересовани в стартирането на симулации на предшественици, е почти нулев.
(3) Дялът на всички хора с нашия тип преживявания, които живеят в симулация, е близо до единица.

Ако (1) е вярно, то ние почти със сигурност ще умрем, преди да достигнем постчовешко ниво.

Ако (2) е вярно, то тогава трябва да има строго координирана конвергенция на пътищата на развитие на всички напреднали цивилизации, така че в нито една от тях да няма относително богати индивиди, които искат да стартират симулации на предците и да са свободни да го направят.

Ако (3) е вярно, то ние почти със сигурност живеем в симулация. Тъмната гора на нашето неведение ни налага да разпределим нашата увереност почти равномерно между пунктовете (1), (2) и (3).

С изключение на случая, когато вече живеем в симулация, нашите потомци почти със сигурност никога няма да стартират симулации на предците.

Благодарности

Благодаря на много хора за техните коментари, и особено на Amara Angelica, Robert Bradbury, Milan Cirkovic, Robin Hanson, Hal Finney, Robert A. Freitas Jr., John Leslie, Mitch Porter, Keith DeRose, Mike Treder, Mark Walker, Eliezer Yudkowsky, и анонимните рецензенти.

Превод: Алексей Турчин

Бележки на преводача:
1) Изводите (1) и (2) са нелокални. Те казват, че или всички цивилизации загиват, или никоя не желае да създава симулации. Твърдението важи не само за цялата наблюдаема вселена, не само за цялата безкрайност на вселената извън хоризонта на видимостта, но и за всичките 10**500 степени множествa на вселени с различни свойства, които са възможни според теорията на струните. За разлика от тях, тезата, че живеем в симулация, е локална. Общите твърдения често са много по-редки истини в сравнение с частните. (Сравни: „Всички хора са блондини“ и „Иванов е блондин“ или „всички планети имат атмосфера“ и „Венера има атмосфера“.) За да опровергаеш общо твърдение, е достатъчно едно изключение. Следователно, твърдението, че живеем в симулация, вероятно е много по-вероятно от първите две алтернативи.

2) Не е задължително развитието на компютри – достатъчно е, например, сънищата. Които ще виждат генетично модифицирани и специално приспособени за това мозъци.

3) Размисълът за симулацията работи в обикновения живот. Голямата част от изображенията, които постъпват в нашите мозъци, са симулации – това е кино, телевизор, интернет, фотографии, реклама – и не на последно място – сънища.

4) Колкото по-необикновен е видимият от нас обект, толкова по-големи са шансовете, че той се намира в симулация. Например, ако видя страшна катастрофа, най-вероятно я виждам в сън, по телевизор или в кино.

5) Симулациите могат да бъдат от два типа: симулации на цялата цивилизация и симулации на личната история или дори на един единствен епизод от живота на един човек.

6) Важно е да се различава симулацията от имитацията – възможна е симулация на човек или цивилизация, които никога не са съществували.

7) Суперцивилизациите трябва да имат интерес в създаването на симулации, за да изследват различни варианти на своето минало и по този начин различни алтернативи на своето развитие. А също така, за да изследват средната честота на другите суперцивилизации в космоса и техните очаквани свойства.

8) Проблемът със симулацията е свързан с проблема на философските зомбита (т.е. съществата, лишени от квалиа, като сенки на екрана на телевизора). Симулираните същества не трябва да бъдат философски зомбита. Ако в повечето симулации има философски зомбита, то разискването не работи (тъй като не съм философски зомби).

9) Ако има няколко нива на симулация, то една и съща симулация от второ ниво може да се използва в няколко различни симулации от първо ниво от тези, които живеят в симулация от нулево ниво. С цел икономия на изчислителни ресурси. Това е подобно на много различни хора, които гледат един и същ филм. Тоест, да предположим, че съм създал три симулации. И всяка от тях е създала 1000 подсимулации. Тогава щях да трябва да стимуловирам 3003 симулации на моя суперкомпютър. Но ако симулациите по принцип са създали еднакви подсимулации, то ми е достатъчно да моделирам само 1000 симулации, представяйки резултата от работата на всяка от тях три пъти. Тоест общо ще стартирам 1003 симулации. С други думи, една симулация може да има няколко собственика.

10) Можете ли да определите дали живеете в симулация, зависи от това колко животът ви се отклонява от средностатистическия в посока на уникалността, интересността или важността. Тук се предполага, че създаването на симулации на интересни хора, живеещи в интересни времена на важни промени, е по-привлекателно за авторите на симулацията, независимо от техните цели – развлекателни или изследователски. 70 % от хората, които някога са живели на Земята, са били неграмотни селянки. Въпреки това, тук трябва да се вземе предвид ефектът на наблюдателната селекция: неграмотните селяни не са могли да се запитат дали са в симулация или не, следователно фактът, че не сте неграмотен селянин, не доказва, че сте в симулация. Вероятно, най-голям интерес за авторите на симулация ще представлява епохата около Сингулярността, тъй като в нейната близост е възможна необратима бифуркация на пътищата на развитие на цивилизацията, на които могат да повлияят малки фактори, включително особеностите на една личност. Например, аз, Алексей Турчин, смятам, че животът ми е толкова интересен, че вероятно е симулиран, а не истински.

11) Фактът, че сме в симулация, увеличава нашите рискове – а) симулацията може да бъде изключена б) авторите на симулацията могат да провеждат експерименти с нея, създавайки умишлено малко вероятни ситуации – падане на астероид и т.н.

12) Важно е да се отбележи думите на Бостром, че поне едно от трите е вярно. Тоест, възможни са ситуации, при които някои от точките са верни едновременно. Например, фактът, че загиваме, не изключва, че живеем в симулация, нито фактът, че повечето цивилизации не създават симулации.

13) Симулираните хора и светът около тях може изобщо да не приличат на никакви реални хора и реален свят, важното е, че те вярват, че са в реалния свят. Те не са способни да забележат разликите, защото изобщо никога не са виждали никакъв реален свят. Или способността им да забелязват разлики е притъпена. Както е в съня.

14) Има изкушение да открием в нашия свят признаци на симулация, проявяващи се като чудеса. Но чудесата могат да се случват и без симулация.

15) Съществува модел на мирозданието, който разрешава предложената дилема. (но не е лишен от свои противоречия). По-специално, това е кастанедовско-будистко разбиране, при което наблюдателят създава целия свят.

16) Идеята за симулация предполага опростяване. Ако симулацията бъде с точност до атома, тя ще бъде същата реалност. В този смисъл можем да си представим ситуация, в която някаква цивилизация е научила да създава паралелни светове с определени свойства. В тези светове тя може да провежда натурални експерименти, създавайки различни цивилизации. Тоест, това е нещо като хипотеза за космически зоопарк. Тези създадени светове няма да бъдат симулации, тъй като ще бъдат напълно реални, но ще бъдат под властта на тези, които са ги създали и могат да ги включват и изключват. И тях също ще има количествено повече, така че тук е приложимо подобно статистическо разсъждение, както и в разсъждението за симулация.
Глава от статията «НЛО като фактор на глобален риск»:

НЛО – това са глюци в Матрицата

Според Н. Бострому (Ник Бостром. Доказателство за Симулацията. www.proza.ru/2009/03/09/639), вероятността да живеем в напълно симулиран свят е доста голяма. Тоест, нашият свят може да бъде напълно моделиран на компютър от някаква свръхцивилизация. Това позволява на авторите на симулацията да създават всякакви образи в нея, с неразбираеми за нас цели. Освен това, ако нивото на контрол в симулацията е ниско, то в нея ще се натрупват грешки, както при работа на компютър, и ще възникват сривове и глюци, които може да се забележат. Хората в черно се превръщат в агенти Смитове, които заличават следите от глюците. Или някои жители на симулацията могат да получат достъп до определени незапротоколирани възможности. Това обяснение позволява да се обясни всякакъв възможен набор чудеса, но не обяснява нищо конкретно – защо наблюдаваме точно такива проявления, а не, например, летящи с главата надолу розови слонове. Основният риск е, че симулацията може да бъде използвана за тестване на крайни условия на работа на системата, т.е. в катастрофични режими, а също така, че симулацията просто ще бъде спряна, ако стане твърде сложна или приключи своята функция.
Основният въпрос тук е степента на контрол в Матрицата. Ако говорим за Матрицата под много строг контрол, вероятността за непланирани бъгове в нея е малка. Ако обаче Матрицата просто е пусната и оставена на произвола на съдбата, бъговете в нея ще се натрупват, както се натрупват бъгове при работа на операционна система, с течение на времето и с добавянето на нови програми.

Първият вариант се реализира, ако авторите на Матрицата са заинтересовани от всички подробности около събитията в Матрицата. В този случай те ще следят стриктно всички бъгове и внимателно ще ги отстраняват. Ако обаче те са заинтересовани само от крайния резултат на работа на Матрицата или от един от нейните аспекти, контролът им ще бъде по-слаб. Например, когато човек стартира шахматна програма и напуска за целия ден, интересува го само резултатът от работата на програмата, а не подробностите. В този случай, по време на работа на шахматната програма, тя може да изиграе множество виртуални партии, с други думи, виртуални светове. Тоест, авторите тук са заинтересовани в статистическия резултат от работата на много симулации, и подробностите от работата на една симулация ги вълнуват единствено в степента, в която бъговете не влияят на крайния резултат. А в всяка сложна информационна система, известно количество бъгове се натрупват, и с нарастването на сложността на системата, трудността на тяхното отстраняване експоненциално нараства. Затова е по-лесно да се примирим с присъствието на определени бъгове, отколкото да ги отстраняваме коренно.

Също така е очевидно, че множеството слабо контролирани системи е значително по-голямо от множеството строго контролирани, тъй като слабо контролирани системи се пускат в голямо количество, когато могат да бъдат произведени МНОГО евтино. Например, множеството виртуални шахматни партии е много по-голямо от партиите на реални гросмайстори, а множеството домашни операционни системи е много по-голямо от множеството правителствени суперкомпютри.
По този начин глюците в Матрицата са допустими, стига да не влияят на общия ход на работата на системата. По същия начин и в реалността, ако шрифтът в браузъра ми започне да се показва в друг цвят, няма да рестартира цял компютър или да изтривам операционната система. Но същото виждаме и в изследванията на НЛО и други аномални явления! Съществува определен праг, над който нито самите явления, нито общественото им въздействие могат да се увеличат. След като определени явления започнат да се приближават до този праг, или изчезват, или се появяват хора в черно, или се оказва, че това е била мистификация, или някой загива.

Следва да отбележим, че има два вида симулации – пълни симулации на целия свят и аз-симулации. В последните се симулира жизненият опит само на един човек (или малка група хора). В аз-симулацията е по-вероятно да откриете себе си в интересна роля, докато в пълната симулация 70 процента от героите са селяни. От гледна точка на наблюдателна селекция, аз-симулациите трябва да бъдат много по-чести – въпреки че това твърдение изисква по-нататъшно осмисляне. Но в аз-симулациите темата за НЛО трябва да бъде вече заложена, както и цялата предистория на света. И тя може да бъде заложена нарочно – за да се проучи как ще се отнасям към тази тема.

Освен това, в всяка информационна система рано или късно се появяват вируси – т.е. паразитни информационни единици, насочени към саморазмножение. Такива единици могат да възникнат и в Матрицата (и в колективното несъзнавано), и срещу тях трябва да работи вградена антивирусна програма. Въпреки това, от опита при работа с компютри и от опита с биологични системи знаем, че е по-лесно да се примирим с наличието на безвредни вируси, отколкото да ги изтребваме до последно. Още повече, че пълното унищожаване на вирусите често изисква разрушаване на системата.

Следовательно, можем да предположим, че НЛО са вируси, които използват бъгове в Матрицата. Това обяснява абсурдността на тяхното поведение, тъй като интелектът им е ограничен, а паразитирането им върху хората — защото на всеки човек в Матрицата е определено определено количество изчислителни ресурси, които могат да се използват. Можем да предположим, че някои хора са се възползвали от бъговете в Матрицата, за да постигнат целите си, включително безсмъртие, но същото са направили и същества от други изчислителни среди, например симулации на принципно различни светове, които след това са проникнали в нашия свят.
Още един въпрос – каква е дълбочината на симулацията, в която вероятно се намираме. Може да се симулира свят с точност до атом, но това би изисквало колосални изчислителни ресурси. Друг краен пример – шутер от първо лице. В него триизмерното изображение на местността се рисува при необходимост, когато главният герой наближава ново място, на база общ план на местността и някои общи принципи. Или се използват шаблони за определени места, а точната картина на други места се игнорира (както в филма „13-ти етаж“). Очевидно е, че колкото по-точна и подробна е симулацията, толкова по-рядко в нея ще се проявяват глюци. От друга страна, симулации, направени „набързо“, ще съдържат много повече глюци, но в същото време ще потребяват несравнимо по-малко изчислителни ресурси. С други думи, с еднакви разходи бихме могли да направим или една много точна симулация, или милион приблизителни. Освен това, предполагаме, че относно симулациите важи същият принцип, както и относно другите неща: а именно, че колкото по-евтина е нещото, толкова по-често срещано е (тоест в света има повече стакълчета от диаманти, повече метеорити отколкото астероиди и т.н.). Така че, по-скоро се намираме в евтина опростена симулация, отколкото в сложна свръхточна симулация. Може да се възрази, че в бъдеще ще бъдат налични неограничени изчислителни ресурси, и затова всеки актьор ще прави достатъчно подробни симулации. Въпреки това, тук влиза в действие ефектът на симулациите-матрьошки. А именно, напреднала симулация може да създава свои собствени симулации, да ги наречем симулации от второ ниво. Да кажем, напреднала симулация на свят от средата на 21-ви век (създадена, да речем, в реалния 23-ти век) може да създаде милиарди симулации на свят от началото на 21-ви век. При това тя ще използва компютри от средата на 21-ви век, които ще бъдат по-ограничени в изчислителните ресурси от компютрите на 23-ти век. (И също, реалният 23-ти век ще спестява от точността на подсимулациите, тъй като те не са му важни.) Следователно всички милиард симулации от началото на 21-ви век, които тя ще създаде, ще бъдат доста икономични по отношение на изчислителните ресурси. Заради това, броят на примитивни симулации, а също и симулации, по-ранни на симулираното време, ще бъде милиарди пъти повече от броя на по-подробни и по-късни симулации, и следователно произволен наблюдател има милиард пъти по-голяма вероятност да се открие в по-ранна (във всеки случай, преди появата на свръхкомпютри, способни да създават свои собствени симулации) и по-евтина и по-глючна симулация. А съгласно принципа на self-sampling assumption всеки трябва да разглежда себе си като случайен представител на множество подобни на себе си същества, ако иска да получи най-точни вероятностни оценки. Така че, имаме много по-големи шансове а) да се открием в най-евтината симулация б) да се открием преди момента, когато се появят свръхкомпютри, способни да създават симулации (така е) в) да се открием в я-симулация г) да се открием на дъното на веригата от вложени симулации, тоест симулация от N ниво, където N е максимално д) да се открием в симулация с значителен брой глюци.

Другият вариант е, че НЛО целенасочено са пуснати в Матрицата, за да заблуждават живущите в нея хора и да наблюдават как ще реагират. Тъй като повечето симулации, както мисля, са предназначени да симулират един свят при определени, крайни условия.

Все пак тази хипотеза не обяснява всички конкретни проявления на НЛО.
Рискът тук е, че ако нашата симулация бъде претоварена с бъгове, то собствениците на симулацията могат да решат да я презаредят.

Накрая, може да се предположи „самозарождение на Матрицата“ — тоест, че живеем в изчислителна среда, но тази среда е самоизникнала по някакъв начин в началото на съществуването на вселената, без участието на създать-същества. За да бъде тази хипотеза по-убедителна, е необходимо първо да си спомним, че съгласно едно от описанията на физическата реалност самите елементарни частици са клетъчни автомати — нещо като устойчиви комбинации в играта „Живот“. ru.wikipedia.org/wiki/Живот_(игра)

Още работи на Алексей Турчин:

За Онтол

Онтол е карта, която позволява да се избере най-ефективният маршрут за формиране на собственото си световъзприятие.

Онтол е основан на суперпозиция на субективни оценки, рефлексия на прочетени текстове (в идеалния случай — милиони/милиарди хора). Всеки участник в проекта сам решава какво е топ 10/100 най-важно, което е прочел/гледал по значими аспекти на живота (мислене, здраве, семейство, пари, доверие и др.) през последните 10 години или целия си живот. Какво може да бъде споделено с 1 клик (текстове и видео, а не книги, разговори и събития).

Идеалният краен резултат от Онтол е достъп в 10-100 пъти по-бързо (от съществуващите аналози на wikipedia, quora, чатове, канали, жж, търсачки) до значими текстове и видео, които ще повлияят на живота на читателя ("Ах, как бих искал да бях прочел този текст по-рано! Най-вероятно животът ми щеше да се развие по различен начин"). Безплатно за всички жители на планетата и с 1 клик.

Канал в Телеграм: t.me/ontol
Прототип на уеб услугата: beta.ontol.org
На Хабър:
Онтол за стартъпи от Y Combinator: www.ycombinator.com/library

Източник: habr.com