Ник Бостром: Живимо ли у компјутерској симулацији (2001)

Сакупљам све најважније текстове свих времена и народа који утичу на поглед на свет и формирање слике света ("Онтол"). А онда сам размишљао и размишљао и изнео смелу хипотезу да је овај текст револуционарнији и важнији у нашем разумевању структуре света од Коперниканске револуције и Кантових дела. У Рунету је овај текст (пуна верзија) био у ужасном стању, мало сам га почистио и, уз дозволу преводиоца, објављујем га на дискусију.

„Да ли живите у компјутерској симулацији?“

од Ника Бострома [Објављено у Пхилосопхицал Куартерли (2003) Вол. 53, бр. 211, стр. 243-255. (Прва верзија: 2001)]

У овом чланку се наводи да је бар једна од следеће три претпоставке тачна:

• (1) врло је вероватно да човечанство изумреће пре достизања "пост-људске" фазе;
• (2) свака пост-људска цивилизација са екстремним мала вероватноћа покренуће значајан број симулација своје еволуционе историје (или њених варијација) и
• (3) готово сигурно јесмо живећи у компјутерској симулацији.

Из овога следи да је вероватноћа да се нађемо у фази пост-људске цивилизације, која ће моћи да изводи симулације својих претходника, равна нули, осим ако не прихватимо као истинит случај да већ живимо у симулацији. Дискутоване су и друге импликације овог резултата.

1. Представљање

Многа дела научне фантастике, као и прогнозе озбиљних футуриста и истраживача технологије, предвиђају да ће у будућности бити доступне колосалне количине рачунарске снаге. Претпоставимо да су ова предвиђања тачна. На пример, следеће генерације са својим супер-моћним рачунарима моћи ће да покрећу детаљне симулације својих претходника или људи сличних њиховим претходницима. Пошто ће њихови рачунари бити толико моћни, моћи ће да покрећу многе сличне симулације. Претпоставимо да су ови симулирани људи свесни (и биће ако је симулација веома тачна и ако је одређени широко прихваћен концепт свести у филозофији тачан). Из тога следи да највећи број умова попут нашег не припада изворној раси, већ припада људима које су симулирали напредни потомци првобитне расе. На основу овога, може се тврдити да је разумно очекивати да смо међу симулираним, а не оригиналним, природним биолошким умовима. Дакле, осим ако не верујемо да сада живимо у компјутерској симулацији, онда не треба претпоставити да ће наши потомци покренути многе симулације својих предака. Ово је главна идеја. Ово ћемо детаљније размотрити у наставку овог рада.

Поред интереса који ова теза може имати за оне који се баве футуристичким дискусијама, постоји и чисто теоријски интерес. Овај доказ подстиче формулисање неких методолошких и метафизичких проблема, а такође нуди неке природне аналогије традиционалним религијским концептима, а ове аналогије могу деловати изненађујуће или сугестивно.

Структура овог чланка је следећа: на почетку ћемо формулисати одређену претпоставку коју морамо да унесемо из филозофије ума да би овај доказ функционисао. Затим ћемо размотрити неке емпиријске разлоге за веровање да ће покретање огромног низа симулација људских умова бити могуће за будућу цивилизацију која ће развити многе од истих технологија за које се показало да су у складу са познатим физичким законима и инжењерским ограничењима.

Овај део није неопходан са филозофске тачке гледишта, али ипак подстиче пажњу на главну идеју чланка. Ово ће бити праћено резимеом доказа, користећи неке једноставне примене теорије вероватноће, и одељак који оправдава принцип слабе еквиваленције који доказ користи. Коначно, разговараћемо о неким интерпретацијама алтернативе поменуте на почетку, и то ће бити закључак доказа о проблему симулације.

2. Претпоставка независности медија

Уобичајена претпоставка у филозофији ума је претпоставка средње независности. Идеја је да се ментална стања могу јавити у било ком од широке класе физичких медија. Под условом да систем отелотворује прави скуп рачунских структура и процеса, у њему се могу појавити свесна искуства. Основно својство није отелотворење интракранијалних процеса у биолошким нервним мрежама заснованим на угљенику: процесори засновани на силикону унутар рачунара могу да ураде потпуно исти трик. Аргументи за ову тезу су изнети у постојећој литератури, и иако није сасвим доследна, овде ћемо је узети здраво за готово.

Доказ који овде нудимо, међутим, не зависи ни од једне веома јаке верзије функционализма или рачунарства. На пример, не треба да прихватимо да је теза о независности медија нужно тачна (било у аналитичком или метафизичком смислу) – већ само да би, у ствари, рачунар под контролом одговарајућег програма могао бити свестан. Штавише, не треба претпоставити да бисмо, да бисмо створили свест у компјутеру, морали да га програмирамо тако да се у свим случајевима понаша као човек, да прође Тјурингов тест итд. Потребна нам је само слабија претпоставка да је за стварање субјективних искустава довољно да се рачунски процеси у људском мозгу структурно копирају у одговарајућим детаљима високе прецизности, на пример, на нивоу појединачних синапси. Ова рафинирана верзија независности медија је прилично широко прихваћена.

Неуротрансмитери, фактори раста нерава и друге хемикалије које су мање од синапси очигледно играју улогу у људској спознаји и учењу. Теза о независности возила није да су ефекти ових хемикалија мали или занемарљиви, већ да утичу на субјективно искуство само кроз директне или индиректне ефекте на рачунарску активност. На пример, ако нема субјективних разлика, а да не постоји и разлика у синаптичком пражњењу, онда су потребни детаљи симулације на синаптичком нивоу (или вишем).

3.Технолошка ограничења рачунарства

На садашњем нивоу технолошког развоја, немамо ни довољно моћан хардвер ни адекватан софтвер да креирамо свесни ум на рачунару. Међутим, изнети су јаки аргументи да ако се технолошки напредак настави несмањеном, онда ће ова ограничења на крају бити превазиђена. Неки аутори тврде да ће ова фаза наступити за само неколико деценија. Међутим, за потребе наше дискусије, нису потребне никакве претпоставке о временској скали. Доказ симулације функционише једнако добро за оне који верују да ће бити потребно стотине хиљада година да достигне "пост-људску" фазу развоја, када ће човечанство стећи већину технолошких способности за које се сада може показати да су доследне са физичким законима и са материјалним законима.и енергетским ограничењима.

Ова зрела фаза технолошког развоја омогућиће претварање планета и других астрономских ресурса у компјутере колосалне снаге. Тренутно је тешко бити сигуран у вези са било каквим ограничењима рачунарске снаге која ће бити доступна постљудским цивилизацијама. Пошто још увек немамо „теорију свега“, не можемо искључити могућност да се нове физичке појаве, забрањене тренутним физичким теоријама, могу користити за превазилажење ограничења која, према нашем данашњем схватању, намећу теоријска ограничења информацијама. обрада унутар овог дела материје. Са много већим самопоуздањем, можемо поставити доње границе за постхумано рачунање, претпостављајући само оне механизме који су већ схваћени. На пример, Ерик Дрекслер је скицирао дизајн за систем величине коцке шећера (без хлађења и напајања) који би могао да изврши 1021 операцију у секунди. Други аутор је дао грубу процену од 1042 операције у секунди за рачунар величине планете. (Ако научимо да правимо квантне рачунаре или научимо да правимо рачунаре од нуклеарне материје или плазме, можемо се још више приближити теоријским границама. Сет Лојд је израчунао горњу границу за рачунар од 1 кг на 5 * 1050 логичких операција у секунди изведено на 1031 бит. Међутим, за наше потребе довољно је користити конзервативније процене које подразумевају само тренутно познате принципе рада.)

Количина рачунарске снаге која је потребна за опонашање људског мозга може се грубо проценити на потпуно исти начин. Једна процена, заснована на томе колико би рачунарски скупо било копирати функционисање дела нервног ткива које већ разумемо и чија је функционалност већ копирана у силицијум (наиме, копиран је систем за побољшање контраста у ретини), даје процена од око 1014 операција у секунди. Алтернативна процена, заснована на броју синапси у мозгу и учесталости њиховог покретања, даје вредност од 1016-1017 операција у секунди. Сходно томе, можда ће бити потребно још више рачунарске снаге ако желимо да детаљно симулирамо унутрашње функционисање синапси и дендритских грана. Међутим, вероватно је да људски централни нервни систем има одређену количину редунданције на микро нивоу да би компензовао непоузданост и буку његових неуронских компоненти. Стога би се очекивало значајно повећање ефикасности када се користе поузданији и флексибилнији небиолошки процесори.

Меморија није више ограничење од процесорске снаге. Штавише, пошто је максимални проток људских сензорних података реда величине 108 бита у секунди, симулација свих сензорних догађаја би захтевала занемарљиве трошкове у поређењу са симулацијом кортикалне активности. Дакле, можемо користити процесорску снагу потребну за симулацију централног нервног система као процену укупних рачунарских трошкова симулације људског ума.

Ако је окружење укључено у симулацију, биће потребна додатна снага рачунара – чија количина зависи од величине и детаља симулације. Симулација целог универзума са квантном прецизношћу је очигледно немогућа осим ако се не открије нека нова физика. Али да би се постигла реалистична симулација људског искуства, потребно је много мање — тек толико да се осигура да симулирани људи који комуницирају на нормалне људске начине са симулираним окружењем неће приметити никакве разлике. Микроскопска структура унутрашњости Земље може се лако изоставити. Удаљени астрономски објекти могу бити подвргнути веома високим нивоима компресије: прецизне сличности морају бити само у уском опсегу особина које можемо посматрати са наше планете или из свемирских летелица унутар Сунчевог система. На површини Земље, макроскопски објекти на ненасељеним местима морају се континуирано симулирати, али се микроскопски феномени могу попунити ад хок, односно по потреби. Оно што видите кроз електронски микроскоп не би требало да изгледа сумњиво, али обично немате начина да проверите његову доследност са невидљивим деловима микросвета. Изузеци настају када намерно дизајнирамо системе да искористимо невидљиве микроскопске феномене који раде према познатим принципима да би произвели резултате које можемо независно да проверимо. Класичан пример за то је рачунар. Симулација, дакле, мора укључивати континуиране симулације рачунара све до нивоа појединачних логичких капија. Ово није проблем јер је наша тренутна рачунарска снага занемарљива по пост-људским стандардима.

Штавише, креатор постхумане симулације би имао довољно рачунарске снаге да све време детаљно прати стање мисли у свим људским мозговима. На тај начин, када открије да је особа спремна да направи нека запажања о микросвету, може попунити симулацију са довољним нивоом детаља по потреби. Ако би дошло до било какве грешке, директор симулације би лако могао да уреди стања сваког мозга који је постао свестан аномалије пре него што је уништио симулацију. Или директор може премотати симулацију уназад неколико секунди и поново је покренути на начин да се избегне проблем.

Из тога следи да би најскупљи део стварања симулације која се не разликује од физичке стварности за људске умове у њој био стварање симулација органских мозгова све до неуралног или суб-неуралног нивоа. Иако је немогуће дати врло прецизну процену трошкова реалне симулације људске историје, можемо користити процену од 1033-1036 операција као грубу процену.

Како будемо стекли више искуства у креирању виртуелне стварности, боље ћемо разумети рачунске захтеве који су неопходни да би такви светови изгледали реалистични за њихове посетиоце. Али чак и ако је наша процена погрешна за неколико редова величине, то не чини велику разлику за наш доказ. Приметили смо да је груба процена процесорске снаге рачунара са планетарном масом 1042 операције у секунди, и то само узимајући у обзир већ познате нанотехнолошке дизајне, који су вероватно далеко од оптималних. Један такав компјутер може да симулира целокупну менталну историју човечанства (назовимо то симулацијом предака) користећи само милионити део својих ресурса у 1 секунди. Пост-људска цивилизација би на крају могла да направи астрономски број таквих компјутера. Можемо закључити да постљудска цивилизација може да покрене колосалан број симулација предака, чак и ако на то потроши само мали део својих ресурса. До овог закључка можемо доћи чак и са значајном маргином грешке у свим нашим проценама.

• Постхумане цивилизације ће имати довољно рачунарских ресурса да покрену огроман број симулација предака, чак и користећи веома мали део својих ресурса у ове сврхе.

4. Кернел симулационог доказа

Главна идеја овог чланка може се изразити на следећи начин: ако постоји значајна шанса да ће наша цивилизација једног дана достићи пост-људску фазу и покренути многе симулације предака, како онда можемо доказати да не живимо у једној таквој симулација?

Ову идеју ћемо развити у облику ригорозног доказа. Хајде да уведемо следећу нотацију:

– удео свих цивилизација на људском нивоу које су преживеле до пост-људске фазе;
Н је просечан број симулација предака које је покренула постљудска цивилизација;
Х је просечан број људи који су живели у цивилизацији пре него што је достигла пост-људску фазу.

Тада је стварни део свих посматрача са људским искуством који живе у симулацији:

Означимо као удео постхуманих цивилизација које су заинтересоване за покретање симулација предака (или које садрже бар неки број појединачних бића која су заинтересована за то и имају значајне ресурсе за покретање значајног броја симулација) и као просечан број симулација предака које воде такве заинтересоване цивилизације, добијамо:

И стога:

Због колосалне рачунарске моћи пост-људских цивилизација, ово је изузетно велика вредност, као што смо видели у претходном одељку. Гледајући формулу (*) можемо видети да је бар једна од следеће три претпоставке тачна:

5. Меки принцип еквиваленције

Можемо отићи корак даље и закључити да ако је (3) тачно, можете бити готово сигурни да сте у симулацији. Уопштено говорећи, ако знамо да пропорција к свих посматрача са искуством људског типа живи у симулацији, а немамо додатне информације које показују да је мање или више вероватно да ће наше приватно искуство бити отелотворено у машини, а не у виво од других типова људског искуства, а онда наше уверење да смо у симулацији мора бити једнако к:

Овај корак је оправдан веома слабим принципом еквиваленције. Хајде да раздвојимо два случаја. У првом случају, који је једноставнији, сви умови који се испитују су слични вашим, у смислу да су потпуно квалитативно исти као ваш ум: имају исте информације и иста искуства као и ви. У другом случају, умови су слични једни другима само у ширем смислу, будући да су умови типични за људска бића, али се квалитативно разликују један од другог и сваки има различит скуп искустава. Тврдим да чак иу случају када су умови квалитативно различити, доказ симулације и даље функционише, под условом да немате никакву информацију која одговара на питање који од различитих умова је симулиран, а који биолошки реализован.

Детаљно оправдање за ригорознији принцип, који укључује оба наша конкретна примера као тривијалне посебне случајеве, дато је у литератури. Недостатак простора нам не дозвољава да овде изнесемо целокупно образложење, али овде можемо дати једно од интуитивних оправдања. Замислимо да х% популације има одређену генетску секвенцу С унутар одређеног дела своје ДНК, која се обично назива „јунк ДНК“. Претпоставимо даље да нема манифестација С (осим оних које се могу појавити током генетског тестирања) и да не постоје корелације између поседовања С и било које спољашње манифестације. Тада је сасвим очигледно да је пре него што се ваша ДНК секвенцира, рационално приписати к% поверења хипотези да имате фрагмент С. А то је сасвим независно од чињенице да људи који имају С имају умове и искуства која су квалитативно различита од оних људи који немају С. (Они су различити једноставно зато што сви људи имају различита искуства, а не зато што постоји директна веза између С и врсте искуства које особа има.)

Исто резоновање важи ако С није својство да поседује одређену генетску секвенцу, већ је чињеница да смо у симулацији, под претпоставком да немамо информације које нам омогућавају да предвидимо било какве разлике између искустава симулираних умова и између искустава првобитних биолошких.умови

Треба нагласити да меки принцип еквиваленције наглашава само еквиваленцију између хипотеза о томе који сте посматрач, када немате информацију о томе који сте посматрач. Генерално не додељује еквивалентност између хипотеза када немате конкретне информације о томе која је хипотеза тачна. За разлику од Лапласа и других јачих принципа еквиваленције, он стога није подложан Бертрановом парадоксу и другим сличним потешкоћама које компликују неограничену примену принципа еквиваленције.

Читаоци који су упознати са аргументом Судњег дана (ДА) (Ј. Леслие, „Ис тхе Енд оф тхе Ворлд Бигхт?“ Пхилосопхицал Куартерли 40, 158: 65‐72 (1990)) могу се забринути да принцип еквиваленције који се овде примењује почива на истим претпоставкама који су одговорни за избацивање тепиха испод ДА, и да контраинтуитивност неких његових закључака баца сенку на валидност аргумента симулације. Ово није у реду. ДА почива на много ригорознијој и контроверзнијој премиси да особа треба да расуђује као да је случајни узорак из читаве популације људи који су икада живели и који ће живети (прошлост, садашњост и будућност), упркос чињеници да то знамо да живимо на почетку XNUMX. века, а не у неком тренутку у далекој будућности. Принцип меке неизвесности примењује се само у случајевима када немамо додатне информације о томе којој групи људи припадамо.

Ако је клађење нека основа за рационално уверење, онда ако се сви кладе да ли су у симулацији или не, онда ако људи користе принцип меке неизвесности и кладе се да су у симулацији, ослањајући се на сазнање да је већина људи у њему, онда ће скоро сви добити своје опкладе. Ако се кладе да нису у симулацији, скоро сви ће изгубити. Чини се кориснијим следити принцип меке еквиваленције. Даље, може се замислити низ могућих ситуација у којима све већи проценат људи живи у симулацијама: 98%, 99%, 99.9%, 99.9999% и тако даље. Како се приближавамо горњој граници, где сви живе у симулацији (из које се дедуктивно може закључити да су сви у симулацији), чини се разумним захтевати да сигурност коју приписујемо да је у симулацији треба глатко и континуирано да се приближава гранична граница потпуног поверења.

6. Интерпретација

Могућност поменута у ставу (1) је сасвим јасна. Ако је (1) тачно, онда човечанство скоро сигурно неће успети да достигне постхумани ниво; ниједна врста на нашем нивоу развоја не постаје постљудска и тешко је наћи оправдање за мишљење да наша сопствена врста има било какве предности или посебну заштиту од будућих катастрофа. С обзиром на услов (1), морамо стога да доделимо високу веродостојност Пропасти (ДООМ), односно хипотези да ће човечанство нестати пре него што достигне постхумани ниво:

Можемо замислити хипотетичку ситуацију у којој имамо податке који се преклапају са нашим знањем о фп. На пример, ако се нађемо да ће нас погодити џиновски астероид, могли бисмо претпоставити да нисмо имали среће. Тада можемо приписати већу валидност хипотези Пропасти него што смо очекивали о пропорцији цивилизација на људском нивоу које неће успети да постигну постхуманост. У нашем случају, међутим, изгледа да немамо разлога да мислимо да смо посебни у овом погледу, у добру или у злу.

Премиса (1) сама по себи не значи да ћемо вероватно изумрети. То сугерише да је мало вероватно да ћемо достићи пост-људску фазу. Ова могућност би могла значити, на пример, да ћемо остати на или мало изнад наших тренутних нивоа дуго времена пре него што нестанемо. Други могући разлог да (1) буде истинит је тај да ће технолошка цивилизација вероватно пропасти. Истовремено, примитивна људска друштва ће остати на Земљи.

Постоји много начина на које би човечанство могло да изумре пре него што достигне пост-људску фазу развоја. Најприродније објашњење за (1) је да ћемо изумрети као резултат развоја неке моћне, али опасне технологије. Један од кандидата је молекуларна нанотехнологија, чија зрела фаза ће омогућити стварање самореплицирајућих наноробота који се могу хранити прљавштином и органском материјом – врстом механичких бактерија. Такви нанороботи, ако су дизајнирани за злонамерне сврхе, могли би довести до смрти целог живота на планети.

Друга алтернатива закључку аргумента симулације је да је удео постхуманих цивилизација које су заинтересоване за покретање симулација предака занемарљив. Да би (2) било тачно, мора постојати строга конвергенција између путева развоја напредних цивилизација. Ако је број симулација предака које су произвеле заинтересоване цивилизације изузетно велик, онда реткост таквих цивилизација мора бити сходно томе екстремна. Практично ниједна постљудска цивилизација не одлучује да искористи своје ресурсе за стварање великог броја симулација предака. Штавише, скоро свим постхуманим цивилизацијама недостају појединци који имају одговарајуће ресурсе и интерес за вођење симулација предака; или имају законе, подржане силом, да спрече појединце да поступају у складу са својим жељама.

Која сила може довести до такве конвергенције? Могло би се рећи да се напредне цивилизације колективно развијају дуж путање која води ка признавању етичке забране покретања симулација предака због патње коју су искусили становници симулације. Међутим, из наше тренутне перспективе, не изгледа очигледно да је стварање људске расе неморално. Напротив, ми смо склони да перципирамо постојање наше расе као да има велику етичку вредност. Штавише, сама конвергенција етичких погледа на неморалност симулација предака није довољна: она мора бити комбинована са конвергенцијом друштвене структуре цивилизације, што резултира активностима које се сматрају неморалними и ефективно забрањеним.

Друга могућност за конвергенцију је да скоро сви индивидуални постљуди у скоро свим постљудским цивилизацијама еволуирају у правцу у којем губе нагон за покретањем симулација предака. Ово ће захтевати значајне промене у мотивацији која покреће њихове постхумане претке, јер сигурно има много људи који би желели да покрену симулације својих предака када би могли. Али можда ће многе наше људске жеље изгледати глупе свакоме ко постане постхуман. Можда је научни значај симулација предака за постљудске цивилизације занемарљив (што се не чини превише невјероватним с обзиром на њихову невјероватну интелектуалну супериорност) и можда постљуди сматрају рекреативну активност веома неефикасним начином остваривања задовољства – које се може добити много јефтиније због директна стимулација центара задовољства у мозгу. Један закључак који следи из (2) је да ће се постхумана друштва веома разликовати од људских друштава: неће имати релативно богате независне агенте који имају читав спектар људских жеља и слободни су да делују на њих.

Могућност описана закључком (3) је најинтригантнија са концептуалне тачке гледишта. Ако живимо у симулацији, онда је космос који посматрамо само мали комад у укупности физичког постојања. Физика универзума у ​​коме се налази рачунар може, али не мора да личи на физику света који посматрамо. Док је свет који посматрамо у извесној мери „стваран“, он се не налази на неком фундаменталном нивоу стварности. Можда је могуће да симулиране цивилизације постану постљуди. Они заузврат могу покренути симулације предака на моћним рачунарима које су изградили у симулираном универзуму. Такви рачунари би били „виртуелне машине“, веома чест концепт у рачунарској науци. (Веб апликације написане у Јава скрипти, на пример, раде на виртуелној машини — симулираном рачунару — на вашем лаптопу.)

Виртуелне машине могу бити угнежђене једна у другу: могуће је симулирати виртуелну машину која симулира другу машину, и тако даље, са произвољно великим бројем корака. Ако можемо да креирамо сопствене симулације наших предака, ово би био јак доказ против тачака (1) и (2), и стога бисмо морали да закључимо да живимо у симулацији. Штавише, мораћемо да посумњамо да су постљуди који су водили нашу симулацију и сами симулирана бића, а њихови креатори, заузврат, такође могу бити симулирана бића.

Стварност тако може да садржи неколико нивоа. Чак и када би се хијерархија завршила на неком нивоу – метафизички статус ове изјаве је прилично нејасан – могло би бити довољно простора за велики број нивоа стварности, а тај број се временом може повећати. (Једно разматрање које говори против такве хипотезе на више нивоа је да би рачунски трошкови за симулаторе основног нивоа били веома велики. Симулација чак и једне постљудске цивилизације могла би бити превисоко скупа. Ако је тако, онда бисмо требали очекивати да ће наша симулација бити искључена, када се приближимо пост-људском нивоу.)

Иако су сви елементи овог система натуралистички, чак и физички, могуће је повући неке лабаве аналогије са религијским концептима света. У извесном смислу, постљуди који воде симулацију су као богови у односу на људе у симулацији: постљуди стварају свет који ми видимо; имају интелигенцију надмоћнију од нас; они су свемоћни у смислу да могу да ометају рад нашег света на начине који крше физичке законе, и свезнајући су у смислу да могу да прате све што се дешава. Међутим, сви полубогови, осим оних који живе на фундаменталном нивоу стварности, подложни су деловању моћнијих богова који живе на вишим нивоима стварности.

Даља разрада ових тема могла би резултирати натуралистичком теогонијом која би истраживала структуру ове хијерархије и ограничења која становницима намеће могућност да њихови поступци на њиховом нивоу могу утицати на однос становника дубљег нивоа стварности према њима. . На пример, ако нико не може бити сигуран да је на основном нивоу, онда свако мора да размотри вероватноћу да ће његови поступци бити награђени или кажњени, можда на основу неких моралних критеријума, од стране домаћина симулације. Живот после смрти биће реална могућност. Због ове фундаменталне неизвесности, чак и цивилизација на основном нивоу ће имати подстицај да се понаша етички. Чињеница да имају разлога да се понашају морално биће наравно добар разлог да се неко други понаша морално, и тако даље, формирајући врлински круг. На тај начин се може добити нешто попут универзалног етичког императива, који ће бити у личном интересу свих да се поштује, а који долази ниоткуда.

Поред симулација предака, може се замислити могућност селективнијих симулација које укључују само малу групу људи или једног појединца. Остали људи би тада били "зомбији" или "људи из сенке" - људи симулирани само на довољном нивоу да потпуно симулирани људи не би приметили ништа сумњиво.

Није јасно колико би било јефтиније симулирати људе из сенке него стварне људе. Није чак ни очигледно да је могуће да се објекат понаша неразлучиво од стварне особе, а да ипак нема свесна искуства. Чак и ако такве селективне симулације постоје, не можете бити сигурни да сте у једној све док нисте сигурни да су такве симулације много бројније од потпуних симулација. Свет би морао да има око 100 милијарди више И-симулација (симулација живота само једне свести) него што постоје потпуне симулације предака - да би већина симулираних људи била у И-симулацијама.

Такође је могуће да симулатори прескачу одређене делове менталног живота симулираних бића и дају им лажна сећања на врсту искустава која би имали током прескочених периода. Ако јесте, може се замислити следеће (натегнуто) решење проблема зла: да заиста нема патње на свету и да су сва сећања на патњу илузија. Наравно, ова хипотеза се може озбиљно размотрити само у оним тренуцима када сами не патите.

Под претпоставком да живимо у симулацији, које су импликације за нас људе? Супротно до сада реченом, последице по људе нису нарочито драстичне. Наш најбољи водич за то како су наши постхумани креатори изабрали да организују наш свет је стандардно емпиријско испитивање универзума какав ми видимо. Промене у већини нашег система веровања ће вероватно бити мале и благе — пропорционалне нашем недостатку поверења у нашу способност да разумемо постхумани систем мишљења.

Исправно разумевање истинитости тезе (3) не би требало да нас „излуди“ или да нас присили да напустимо посао и престанемо да правимо планове и предвиђања за сутра. Чини се да главни емпиријски значај (3) у овом тренутку лежи у његовој улози у троструком закључку који је горе дат.

Требало би да се надамо да је (3) тачно јер смањује вероватноћу (1), али ако рачунска ограничења чине вероватним да ће симулатори искључити симулацију пре него што достигне пост-људске нивое, онда је наша најбоља нада да (2) тачно је. .

Ако сазнамо више о постхуманој мотивацији и ограничењима ресурса, можда као резултат наше еволуције ка постхуманости, онда ће хипотеза да смо симулирани имати много богатији скуп емпиријских примена.

7. Закључак

Технолошки зрела пост-људска цивилизација имала би огромну рачунарску моћ. На основу овога, размишљање о симулацији показује да је најмање једно од следећег тачно:

• (1) Пропорција цивилизација на људском нивоу које достижу пост-људски ниво је веома близу нуле.
• (2) Удео пост-људских цивилизација које су заинтересоване за покретање симулација претходника је веома близу нуле.
• (3) Проценат свих људи са нашом врстом искуства који живе у симулацији је близу један.

Ако је (1) тачно, онда ћемо скоро сигурно умрети пре него што достигнемо постхумани ниво.

Ако је (2) тачно, онда би требало да постоји стриктно координирана конвергенција путева развоја свих напредних цивилизација, тако да ниједна од њих не би имала релативно богате појединце који би били вољни да покрећу симулације својих предака и који би били слободни да раде тако.

Ако је (3) тачно, онда скоро сигурно живимо у симулацији. Тамна шума нашег незнања чини разумним да наше самопоуздање скоро равномерно распоредимо између тачака (1), (2) и (3).

Осим ако већ живимо у симулацији, наши потомци готово сигурно никада неће покренути симулације својих предака.

Захвалнице

Захвалан сам многим људима на њиховим коментарима, посебно Амари Анђелици, Роберту Бредберију, Милану Ћирковићу, Робину Хенсону, Халу Финију, Роберту А. Фреитасу млађем, Џону Леслију, Мичу Портеру, Киту ДеРоузу, Мајку Тредеру, Марку Вокеру, Елизеру Јудковском , и анонимне судије.

Превод: Алексеј Турчин

Напомене преводиоца:
1) Закључци (1) и (2) су нелокални. Кажу да или пропадају све цивилизације, или сви не желе да праве симулације. Ова изјава се односи не само на цео видљиви универзум, не само на читаву бесконачност универзума изван хоризонта видљивости, већ и на цео скуп универзума од 10**500 степени са различитим својствима која су могућа, према теорији струна . Насупрот томе, теза да живимо у симулацији је локална. Много је мање вероватно да ће опште изјаве бити истините него специфичне изјаве. (Упореди: „Сви људи су плави” и „Иванов је плав” или „све планете имају атмосферу” и „Венера има атмосферу”.) Да бисмо оповргли општу тврдњу, довољан је један изузетак. Дакле, тврдња да живимо у симулацији много је вероватнија од прве две алтернативе.

2) Развој рачунара није неопходан – на пример, довољни су снови. Који ће видети генетски модификоване и посебно скројене мозгове.

3) Симулационо закључивање функционише у свакодневном животу. Већина слика које улазе у наш мозак су симулације – то су филмови, ТВ, интернет, фотографије, рекламе – и на крају, али не и најмање важно – снови.

4) Што је необичнији објекат који видимо, већа је вероватноћа да се налази у симулацији. На пример, ако видим страшну несрећу, онда је највероватније видим у сну, на ТВ-у или у филму.

5) Симулације могу бити две врсте: симулација читаве цивилизације и симулација личне историје или чак појединачне епизоде ​​из живота једне особе.

6) Важно је разликовати симулацију од имитације – могуће је симулирати особу или цивилизацију која никада није постојала у природи.

7) Суперцивилизације треба да буду заинтересоване за креирање симулација како би проучавале различите верзије своје прошлости, а тиме и различите алтернативе за њихов развој. И такође, на пример, да проучавамо просечну учесталост других суперцивилизација у свемиру и њихова очекивана својства.

8) Проблем симулације суочава се са проблемом филозофских зомбија (тј. бића лишених куалиа, попут сенки на ТВ екрану). Симулирана бића не би требало да буду филозофски зомбији. Ако већина симулација садржи филозофске зомбије, онда резоновање не функционише (пошто ја нисам филозофски зомби.)

9) Ако постоји неколико нивоа симулације, онда иста симулација нивоа 2 може да се користи у неколико различитих симулација нивоа 1 од стране оних који живе у симулацији нивоа 0. У циљу уштеде рачунарских ресурса. То је као да много различитих људи гледа исти филм. То јест, рецимо да сам направио три симулације. И сваки од њих је направио 1000 субсимулација. Онда бих морао да покренем 3003 симулације на свом суперкомпјутеру. Али ако су симулације створиле у суштини идентичне субсимулације, онда ми треба само да симулирам 1000 симулација, приказујући резултат сваке од њих три пута. То јест, извршићу укупно 1003 симулације. Другим речима, једна симулација може имати више власника.

10) Да ли живите у симулацији или не може се одредити колико се ваш живот разликује од просека у правцу јединственог, занимљивог или важног. Овде се сугерише да је прављење симулација занимљивих људи који живе у занимљивим временима значајних промена привлачније креаторима симулације, без обзира на њихову сврху - забаву или истраживање.70% људи који су икада живели на Земљи били су неписмени сељаци. . Међутим, овде се мора узети у обзир ефекат опсервационе селекције: неписмени сељаци нису могли да се питају да ли су били у симулацији или не, па самим тим чињеница да нисте неписмени сељак не доказује да сте у симулацији. Вероватно ће ера у региону Сингуларности бити од највећег интереса за ауторе симулације, пошто је у њеном региону могућа неповратна бифуркација развојних путева цивилизације, на коју могу утицати мали фактори, укључујући карактеристике једна особа. На пример, ја, Алексеј Турчин, верујем да је мој живот толико занимљив да је вероватније да ће бити симулиран него стваран.

11) Чињеница да смо у симулацији повећава наше ризике - а) симулација се може искључити б) аутори симулације могу експериментисати на њој, стварајући очигледно мало вероватне ситуације - пад астероида итд.

12) Важно је напоменути да Бостром каже да је бар једно од три тачна. Односно, могуће су ситуације када су неке од тачака истините у исто време. На пример, чињеница да ћемо умрети не искључује чињеницу да живимо у симулацији и чињеницу да већина цивилизација не ствара симулацију.

13) Симулирани људи и свет око њих можда не личе ни на какве стварне људе или на стварни свет уопште, важно је да мисле да су у стварном свету. Они нису у стању да примете разлике јер никада нису видели никакав стварни свет. Или је њихова способност да уоче разлике отупљена. Као што бива у сну.

14) Постоји искушење да се у нашем свету открију знаци симулације, манифестовани као чуда. Али чуда се могу десити без симулације.

15) Постоји модел светског поретка који отклања предложену дилему. (али не без контрадикторности). Наиме, ради се о кастаневско-будистичком моделу, где посматрач рађа цео свет.

16) Идеја симулације подразумева поједностављење. Ако је симулација тачна до атома, онда ће то бити иста стварност. У том смислу може се замислити ситуација у којој је одређена цивилизација научила да ствара паралелне светове са датим својствима. У овим световима, она може да спроводи природне експерименте, стварајући различите цивилизације. Односно, то је нешто попут хипотезе о свемирском зоолошком врту. Ови створени светови неће бити симулације, јер ће бити веома стварни, али ће бити под контролом оних који су их створили и могу да их укључују и искључују. А биће и њих више, па се овде примењује слично статистичко резоновање као и код симулационог.
Поглавље из чланка „НЛО као глобални фактор ризика“:

НЛО су кварови у Матриксу

Према Н. Бострому (Ницк Бостром. Доказ симулације. ввв.проза.ру/2009/03/09/639), вероватноћа да живимо у потпуно симулираном свету је прилично велика. Односно, наш свет може у потпуности да се симулира на компјутеру неком врстом суперцивилизације. Ово омогућава ауторима симулације да у њој креирају било какве слике, са нама неразумљивим циљевима. Поред тога, ако је ниво контроле у ​​симулацији низак, онда ће се у њој акумулирати грешке, као при покретању рачунара, и доћи ће до кварова и кварова који се могу приметити. Људи у црном претварају се у агенте Смитове, који бришу трагове грешака. Или неки становници симулације могу добити приступ неким недокументованим могућностима. Ово објашњење нам омогућава да објаснимо сваки могући скуп чуда, али не објашњава ништа конкретно – зашто видимо такве манифестације, а не, рецимо, ружичасте слонове како лете наопачке. Главни ризик је да се симулација може користити за тестирање екстремних услова рада система, односно у катастрофалним режимима, и да ће се симулација једноставно искључити ако постане превише сложена или заврши своју функцију.
Главно питање овде је степен контроле у ​​Матриксу. Ако говоримо о Матриксу под врло строгом контролом, онда је вероватноћа непланираних грешака у њему мала. Ако се Матрик једноставно покрене, а затим препусти сопственим уређајима, онда ће се кварови у њему акумулирати, баш као што се кварови акумулирају током рада оперативног система, док он ради и када се додају нови програми.

Прва опција се спроводи ако су аутори Матрикса заинтересовани за све детаље догађаја који се дешавају у Матриксу. У овом случају, они ће стриктно пратити све грешке и пажљиво их избрисати. Ако их занима само коначни резултат Матрикса или један од његових аспеката, онда ће њихова контрола бити мање строга. На пример, када особа води шаховски програм и оде на дан, занима га само резултат програма, али не и детаљи. Штавише, током рада шаховског програма, он може израчунати многе виртуелне игре, другим речима, виртуелне светове. Другим речима, ауторе овде занима статистички резултат рада великог броја симулација, а до детаља рада једне симулације им је стало само у мери у којој кварови не утичу на коначни резултат. И у било ком сложеном информационом систему, одређени број кварова се акумулира, а како комплексност система расте, тешкоћа њиховог уклањања расте експоненцијално. Због тога је лакше поднети присуство одређених грешака него их уклонити у корену.

Даље, очигледно је да је скуп слабо контролисаних система много већи од скупа строго контролисаних, пошто се слабо контролисани системи лансирају у великим количинама када се могу произвести ВЕОМА јефтино. На пример, број виртуелних шаховских партија је много већи од игара правих велемајстора, а број кућних оперативних система је много већи од броја владиних суперкомпјутера.
Дакле, кварови у Матрик-у су прихватљиви све док не утичу на укупан рад система. Исто је и у стварности, ако мој фонт претраживача почне да се појављује у другој боји, онда нећу поново покренути цео рачунар или рушити оперативни систем. Али исту ствар видимо у проучавању НЛО-а и других аномалних појава! Постоји одређени праг изнад којег ни саме појаве ни њихов јавни одјек не могу прескочити. Чим одређене појаве почну да се приближавају овом прагу, оне или нестану, или се појаве људи у црном, или се испостави да је то била подвала, или неко погине.

Имајте на уму да постоје две врсте симулација – пуне симулације целог света и самосимулације. У последњем се симулира животно искуство само једне особе (или мале групе људи). У И-симулацији је већа вероватноћа да ћете се наћи у занимљивој улози, док у пуној симулацији 70 одсто јунака су сељаци. Из разлога избора опсервације, И-симулације би требало да буду много чешће—иако ово разматрање треба додатно размислити. Али у И-симулацијама, тема НЛО-а би већ требало да буде постављена, као и цела праисторија света. И то може бити намерно укључено - да истражим како ћу се бавити овом темом.

Даље, у било ком информационом систему, пре или касније, појављују се вируси - то јест, паразитске информационе јединице које имају за циљ саморепликацију. Такве јединице могу настати у Матриксу (и у колективном несвесном), а против њих мора да ради уграђени антивирусни програм. Међутим, из искуства коришћења рачунара и из искуства биолошких система, знамо да је лакше поднети присуство безопасних вируса него их тровати до последњег. Штавише, потпуно уништење вируса често захтева рушење система.

Дакле, може се претпоставити да су НЛО вируси који користе грешке у Матриксу. Ово објашњава апсурдност њиховог понашања, пошто је њихова интелигенција ограничена, као и њихово паразитирање на људима – пошто је свакој особи додељена одређена количина рачунарских ресурса у Матриксу који може да се користи. Може се претпоставити да су неки људи искористили пропусте у Матриксу да би постигли своје циљеве, укључујући бесмртност, али то су чинила и бића из других рачунарских окружења, на пример, симулације фундаментално различитих светова, који су потом продрли у наш свет.
Друго питање је који је ниво дубине симулације у којој се вероватно налазимо. Могуће је симулирати свет са атомском прецизношћу, али то би захтевало огромне рачунарске ресурсе. Још један екстреман пример је пуцач из првог лица. У њему се по потреби црта тродимензионална слика простора када се главни лик приближава новом месту, на основу општег плана простора и одређених општих принципа. Или се за нека места користе празнине, а на другим местима се занемарује тачан цртеж (као у филму „13. спрат”). Очигледно, што је симулација прецизнија и детаљнија, то ће ређе имати грешке. С друге стране, симулације направљене „на брзину“ ће садржати много више кварова, али ће у исто време трошити немерљиво мање рачунарских ресурса. Другим речима, уз исте трошкове било би могуће направити или једну веома тачну симулацију или милион приближних. Даље, претпостављамо да за симулације важи исти принцип као и за друге ствари: наиме, што је нека ствар јефтинија, то је чешћа (односно, на свету има више стакла него дијаманата, више метеорита него астероида и Т. е.) Дакле, већа је вероватноћа да ћемо бити унутар јефтине, поједностављене симулације, а не унутар сложене, ултра-прецизне симулације. Може се тврдити да ће у будућности бити доступни неограничени рачунарски ресурси, па ће стога сваки актер изводити прилично детаљне симулације. Међутим, ту долази до изражаја ефекат симулација матрјошке. Наиме, напредна симулација може креирати сопствене симулације, назовимо их симулације другог нивоа. Рецимо напредна симулација света средине 21. века (настала, рецимо, у стварном 23. веку) може да створи милијарде симулација света раног 21. века. Истовремено ће користити рачунаре из средине 21. века, који ће бити ограниченији у рачунарским ресурсима од рачунара 23. века. (А такође ће прави 23. век уштедети на тачности субсимулација, пошто му оне нису важне.) Стога ће све милијарде симулација раног 21. века које ће креирати бити веома економичне у погледу рачунарских ресурса. Због тога ће број примитивних симулација, као и симулација раније у смислу времена које се симулира, бити милијарду пута већи од броја детаљнијих и каснијих симулација, па стога произвољни посматрач има милијарду пута веће шансе да се нађе у ранијој (барем до појаве суперкомпјутера способних да креирају сопствене симулације) и јефтинијој и лошијој симулацији. А према принципу претпоставке самоузорковања, свако мора себе сматрати случајним представником многих себи сличних створења ако жели да добије најтачније процене вероватноће.

Друга могућност је да се НЛО-и намерно лансирају у Матрикс да би заварали људе који живе у њему и видели како ће реаговати на то. Зато што је већина симулација, мислим, дизајнирана да симулира свет у неким посебним, екстремним условима.

Ипак, ова хипотеза не објашњава читав низ специфичних манифестација НЛО-а.
Ризик је да ако наша симулација постане преоптерећена грешкама, власници симулације могу одлучити да је поново покрену.

Коначно, можемо претпоставити „спонтану генерацију Матрикса“ – то јест да живимо у рачунарском окружењу, али је ово окружење на неки начин спонтано генерисано у изворима постојања универзума без посредовања било ког ствараоца. . Да би ова хипотеза била убедљивија, прво треба да се сетимо да су, према једном од описа физичке стварности, саме елементарне честице ћелијски аутомати – нешто попут стабилних комбинација у игри Живота. ру.википедиа.орг/вики/Лифе_(игра)

Још радова Алексеја Турчина:

• Порука непријатељској вештачкој интелигенцији
• Грешка у матрици: урбана легенда или доказ симулације?
• Типологија симулације и ризици раскида

О Онтолу

Онтол је мапа која вам омогућава да изаберете најефикаснији пут за обликовање вашег погледа на свет.

Онтол се заснива на суперпозицији субјективних процена, рефлексији прочитаних текстова (идеално, милиони/милијарде људи). Свака особа која учествује у пројекту сама одлучује шта је првих 10/100 најважнијих ствари које је прочитао/гледао у значајним аспектима живота (размишљање, здравље, породица, новац, поверење, итд.) у протеклих 10 година или његових цео живот . Шта се може поделити у 1 клик (текстови и видео снимци, а не књиге, разговори и догађаји).

Идеалан крајњи резултат Онтола је приступ 10к-100к бржи (од постојећих аналога википедије, куора, четовања, канала, Љ, претраживача) значајним текстовима и видео записима који ће утицати на живот читаоца („Ох, како бих волео да прочитајте овај текст раније! Највероватније би живот прошао другачије"). Бесплатно за све становнике планете и то у 1 клик.

• Телеграм канал: т.ме/онтол
• Прототип веб услуге: бета.онтол.орг
• На Хабреу:
  • Онтол из ДеепМинд-а: најкориснији материјали о вештачкој интелигенцији од светског лидера
  • Онтол (= најкориснији) о раду на даљину [избор од 100+ чланака]
  • Онтол: избор чланака о "сагоревању" [100+]

• На мрежи о стартапима из И Цомбинатора: ввв.ицомбинатор.цом/либрари

Извор: ввв.хабр.цом