Sbírám všechny nejdůležitější texty všech dob a národů, které ovlivňují světonázor a utváření obrazu světa (). A pak jsem přemýšlel a přemýšlel a předložil odvážnou hypotézu, že tento text je v našem chápání struktury světa revolučnější a důležitější než Koperníkova revoluce a Kantova díla. V RuNetu byl tento text (plná verze) v hrozném stavu, trochu jsem ho očistil a se svolením překladatele zveřejňuji k diskusi.
"Žijete v počítačové simulaci?"
od Nicka Bostroma [Zveřejněno ve Philosophical Quarterly (2003) Sv. 53, č. 211, str. 243-255. (První verze: 2001)]
Tento článek uvádí, že alespoň jeden z následujících tří předpokladů je pravdivý:
- (1) je velmi pravděpodobné, že lidstvo zanikne před dosažením „post-lidské“ fáze;
- (2) každá post-lidská civilizace s extrémem nízká pravděpodobnost bude probíhat značný počet simulací jeho evoluční historie (nebo jejích variací) a
- (3) jsme téměř jistě žijící v počítačové simulaci.
Z toho plyne, že pravděpodobnost, že se ocitneme ve fázi post-lidské civilizace, která bude schopna provozovat simulace svých předchůdců, je nulová, pokud nepřijmeme za pravdivý případ, že již v simulaci žijeme. Diskutovány jsou také další důsledky tohoto výsledku.
1. Úvod
Mnoho děl sci-fi, stejně jako prognózy seriózních futuristů a technologických výzkumníků, předpovídají, že v budoucnu bude k dispozici kolosální množství výpočetního výkonu. Předpokládejme, že tyto předpovědi jsou správné. Například následující generace se svými supervýkonnými počítači budou moci provozovat podrobné simulace svých předchůdců nebo lidí podobných jejich předchůdcům. Protože jejich počítače budou tak výkonné, budou moci spouštět mnoho podobných simulací. Předpokládejme, že tito simulovaní lidé jsou vědomi (a budou, pokud je simulace vysoce přesná a pokud je určitý široce přijímaný koncept vědomí ve filozofii správný). Z toho vyplývá, že největší počet myslí, jako je ta naše, nepatří k původní rase, ale patří spíše k lidem simulovaným pokročilými potomky původní rasy. Na základě toho lze tvrdit, že je rozumné očekávat, že patříme spíše mezi simulované, spíše než původní přirozené biologické mysli. Pokud tedy nevěříme, že nyní žijeme v počítačové simulaci, neměli bychom předpokládat, že naši potomci budou provádět mnoho simulací svých předků. To je hlavní myšlenka. Na to se podíváme podrobněji ve zbytku tohoto dokumentu.
Kromě zájmu, který tato práce může mít pro účastníky futuristických diskusí, je zde i zájem čistě teoretický. Tento důkaz stimuluje formulaci některých metodologických a metafyzických problémů a nabízí také některé přirozené analogie k tradičním náboženským konceptům, a tyto analogie se mohou zdát překvapivé nebo sugestivní.
Struktura tohoto článku je následující: na začátku zformulujeme určitý předpoklad, který potřebujeme importovat z filozofie mysli, aby tento důkaz fungoval. Poté se podíváme na některé empirické důvody, proč věřit, že provozování obrovského množství simulací lidských myslí bude možné pro budoucí civilizaci, která vyvine mnoho stejných technologií, které se ukázaly jako v souladu se známými fyzikálními zákony a technickými omezeními.
Tato část není z filozofického hlediska nezbytná, ale přesto vybízí k pozornosti k hlavní myšlence článku. Poté bude následovat shrnutí důkazu pomocí některých jednoduchých aplikací teorie pravděpodobnosti a část odůvodňující slabý princip ekvivalence, který důkaz používá. Nakonec probereme některé interpretace alternativy zmíněné na začátku, a to bude závěr důkazu o simulačním problému.
2. Předpoklad nezávislosti médií
Běžným předpokladem ve filozofii mysli je předpoklad střední nezávislosti. Myšlenka je taková, že duševní stavy se mohou vyskytovat v kterémkoli z široké třídy fyzických médií. Za předpokladu, že systém ztělesňuje správnou sadu výpočetních struktur a procesů, mohou v něm nastat vědomé zážitky. Základní vlastností není ztělesnění intrakraniálních procesů v biologických nervových sítích na bázi uhlíku: procesory na bázi křemíku uvnitř počítačů dokážou přesně stejný trik. Argumenty pro tuto tezi byly v existující literatuře rozšířeny, a přestože nejsou zcela konzistentní, zde je budeme považovat za samozřejmé.
Důkaz, který zde nabízíme, však nezávisí na žádné velmi silné verzi funkcionalismu nebo komputacionalismu. Neměli bychom například připustit, že teze o nezávislosti média je nutně pravdivá (ať už v analytickém nebo metafyzickém smyslu) – ale pouze to, že ve skutečnosti může být počítač pod kontrolou příslušného programu vědomý. Navíc bychom neměli předpokládat, že abychom vytvořili vědomí v počítači, museli bychom ho naprogramovat tak, aby se ve všech případech chovalo jako člověk, prošlo Turingovým testem atd. Stačí nám slabší předpoklad že k vytváření subjektivních zážitků postačí, aby výpočetní procesy v lidském mozku byly strukturálně kopírovány v patřičných vysoce přesných detailech, například na úrovni jednotlivých synapsí. Tato rafinovaná verze nezávislosti médií je poměrně široce přijímána.
Neurotransmitery, nervové růstové faktory a další chemické látky, které jsou menší než synapse, jednoznačně hrají roli v lidském poznávání a učení. Teze nezávislosti na vozidle není taková, že účinky těchto chemikálií jsou malé nebo zanedbatelné, ale že ovlivňují subjektivní zkušenost pouze prostřednictvím přímých nebo nepřímých účinků na výpočetní aktivitu. Pokud například neexistují žádné subjektivní rozdíly, aniž by existoval také rozdíl v synaptickém výboji, pak je požadovaný detail simulace na synaptické úrovni (nebo vyšší).
3.Technologické limity výpočtů
Na současné úrovni technologického rozvoje nemáme ani dostatečně výkonný hardware, ani adekvátní software k vytvoření vědomé mysli na počítači. Zazněly však pádné argumenty, že pokud bude technologický pokrok pokračovat bez omezení, pak budou tato omezení nakonec překonána. Někteří autoři tvrdí, že tato fáze nastane během několika desetiletí. Pro účely naší diskuse však nejsou vyžadovány žádné předpoklady o časovém měřítku. Důkaz simulace funguje stejně dobře pro ty, kteří věří, že to bude trvat stovky tisíc let, než dosáhne „post-lidské“ fáze vývoje, kdy lidstvo získá většinu technologických schopností, které lze nyní prokázat jako konzistentní. s fyzikálními zákony a s hmotnými zákony a energetickými omezeními.
Tato zralá fáze technologického rozvoje umožní přeměnit planety a další astronomické zdroje na počítače s kolosálním výkonem. V současné době je obtížné si být jisti nějakými limity výpočetního výkonu, který bude dostupný pro postlidské civilizace. Protože stále nemáme „teorii všeho“, nemůžeme vyloučit možnost, že nové fyzikální jevy, zakázané současnými fyzikálními teoriemi, by mohly být použity k překonání omezení, která podle našeho současného chápání ukládají teoretické limity pro informace. zpracování v rámci tohoto kusu hmoty. S mnohem větší jistotou můžeme stanovit dolní meze pro posthumánní výpočty, za předpokladu pouze těch mechanismů, které jsou již pochopeny. Eric Drexler například načrtl návrh systému o velikosti kostky cukru (bez chlazení a napájení), který by mohl provádět 1021 operací za sekundu. Jiný autor uvedl hrubý odhad 1042 operací za sekundu pro počítač velikosti planety. (Pokud se naučíme stavět kvantové počítače nebo se naučíme stavět počítače z jaderné hmoty nebo plazmatu, můžeme se teoretickým limitům přiblížit ještě více. Seth Lloyd vypočítal horní hranici pro 1 kg počítač na 5 * 1050 logických operací za sekundu provádí na 1031 bitu. Pro naše účely však postačí použít konzervativnější odhady, které implikují pouze principy fungování, které jsou v současnosti známé.)
Množství počítačového výkonu potřebného k emulaci lidského mozku lze zhruba odhadnout přesně stejným způsobem. Jeden odhad, založený na tom, jak výpočtově nákladné by bylo zkopírovat fungování části nervové tkáně, které již rozumíme a jejíž funkčnost již byla zkopírována v křemíku (konkrétně byl zkopírován systém pro zvýšení kontrastu v sítnici), poskytuje odhadem asi 1014 operací za sekundu. Alternativní odhad, založený na počtu synapsí v mozku a frekvenci jejich spouštění, dává hodnotu 1016-1017 operací za sekundu. V souladu s tím může být vyžadován ještě větší výpočetní výkon, pokud bychom chtěli podrobně simulovat vnitřní fungování synapsí a dendritických větví. Je však pravděpodobné, že lidský centrální nervový systém má určitou redundanci na mikroúrovni, aby kompenzoval nespolehlivost a šum jeho nervových složek. Proto by se dalo očekávat výrazné zvýšení efektivity při použití spolehlivějších a flexibilnějších nebiologických procesorů.
Paměť není omezení o nic víc než výpočetní výkon. Navíc, protože maximální tok lidských senzorických dat je řádově 108 bitů za sekundu, simulace všech senzorických událostí by vyžadovala zanedbatelné náklady ve srovnání se simulací kortikální aktivity. Můžeme tedy použít výpočetní výkon potřebný k simulaci centrálního nervového systému jako odhad celkových výpočetních nákladů na simulaci lidské mysli.
Pokud je prostředí součástí simulace, bude vyžadovat další počítačový výkon – jehož množství závisí na velikosti a detailu simulace. Simulovat celý vesmír s kvantovou přesností je zjevně nemožné, pokud nebude objevena nějaká nová fyzika. Ale k dosažení realistické simulace lidské zkušenosti je potřeba mnohem méně – právě tolik, aby bylo zajištěno, že simulovaní lidé interagující normálními lidskými způsoby se simulovaným prostředím nezaznamenají žádné rozdíly. Mikroskopickou stavbu nitra Země lze snadno vynechat. Vzdálené astronomické objekty mohou být vystaveny velmi vysokým úrovním komprese: přesné podobnosti musí být pouze v úzkém rozsahu vlastností, které můžeme pozorovat z naší planety nebo z kosmických lodí ve sluneční soustavě. Na povrchu Země je třeba průběžně simulovat makroskopické objekty na neobydlených místech, ale mikroskopické jevy lze vyplnit ad hoc, tedy podle potřeby. To, co vidíte v elektronovém mikroskopu, by nemělo vypadat podezřele, ale obvykle nemáte jak zkontrolovat jeho konzistenci s nepozorovatelnými částmi mikrosvěta. Výjimky nastávají, když záměrně navrhujeme systémy, které využívají nepozorovatelné mikroskopické jevy, které fungují podle známých principů, a vytvářejí výsledky, které můžeme nezávisle ověřit. Klasickým příkladem je počítač. Simulace proto musí zahrnovat nepřetržité simulace počítačů až na úroveň jednotlivých logických hradel. To není problém, protože náš současný výpočetní výkon je podle posthumánních standardů zanedbatelný.
Kromě toho by tvůrce posthumánních simulací měl dostatek výpočetního výkonu na to, aby neustále podrobně sledoval stav myšlenek ve všech lidských mozcích. Když tedy zjistí, že je člověk ochoten provést nějaké pozorování mikrosvěta, může simulaci podle potřeby vyplnit dostatečně podrobně. Pokud by došlo k nějaké chybě, ředitel simulace by mohl snadno upravit stavy jakéhokoli mozku, který si uvědomoval anomálii, než simulaci zničil. Nebo může režisér přetočit simulaci o několik sekund zpět a restartovat ji způsobem, který zabrání problému.
Z toho vyplývá, že nejdražší částí vytvoření simulace, která je pro lidské mysli nerozeznatelná od fyzické reality, by bylo vytvoření simulací organických mozků až na neurální nebo subneurální úroveň. I když je nemožné poskytnout velmi přesný odhad nákladů na realistickou simulaci lidské historie, můžeme jako hrubý odhad použít odhad 1033-1036 operací.
S tím, jak získáme více zkušeností s vytvářením virtuální reality, budeme lépe rozumět výpočetním požadavkům, které jsou nezbytné k tomu, aby se takové světy svým návštěvníkům jevily jako realistické. Ale i když je náš odhad chybný o několik řádů, na našem důkazu to příliš nemění. Poznamenali jsme, že hrubý odhad výpočetního výkonu počítače o hmotnosti planety je 1042 operací za sekundu, a to pouze s přihlédnutím k již známým nanotechnologickým návrhům, které jsou pravděpodobně daleko od optimálních. Jeden takový počítač dokáže simulovat celou mentální historii lidstva (říkejme tomu simulace předků) za použití pouhé jedné miliontiny svých zdrojů za 1 sekundu. Post-lidská civilizace může nakonec postavit astronomický počet takových počítačů. Můžeme dojít k závěru, že postlidská civilizace může spustit kolosální množství simulací předků, i když na to utratí jen malý zlomek svých zdrojů. K tomuto závěru můžeme dojít i se značnou chybou ve všech našich odhadech.
- Posthumánní civilizace budou mít dostatek výpočetních zdrojů k provádění obrovského množství simulací předků, a to i pomocí velmi malého zlomku svých zdrojů pro tyto účely.
4. Jádro důkazu simulace
Hlavní myšlenku tohoto článku lze vyjádřit následovně: pokud existuje značná šance, že naše civilizace jednoho dne dosáhne post-lidského stádia a provede mnoho simulací předků, jak můžeme dokázat, že nežijeme v jednom takovém? simulace?
Tuto myšlenku rozvineme formou rigorózního důkazu. Představme si následující zápis:
– podíl všech civilizací na lidské úrovni, které přežijí do post-lidského stadia;
N je průměrný počet simulací předků zahájených postlidskou civilizací;
H je průměrný počet lidí, kteří žili v civilizaci, než dosáhla post-lidské fáze.
Pak skutečný zlomek všech pozorovatelů s lidskou zkušeností, kteří žijí v simulaci, je:
Označme jako podíl posthumánních civilizací, které mají zájem provozovat simulace předků (nebo které obsahují alespoň určitý počet individuálních bytostí, které o to mají zájem a mají značné prostředky na provozování významného počtu simulací) a jako průměrný počet ze simulací předků provozovaných takovými zainteresovanými civilizacemi získáme:
A proto:
Vzhledem ke kolosálnímu výpočetnímu výkonu post-lidských civilizací jde o extrémně velkou hodnotu, jak jsme viděli v předchozí části. Při pohledu na vzorec (*) můžeme vidět, že alespoň jeden z následujících tří předpokladů je pravdivý:
5. Měkký princip ekvivalence
Můžeme jít o krok dále a dojít k závěru, že pokud (3) platí, můžete si být téměř jisti, že se nacházíte v simulaci. Obecně řečeno, pokud víme, že část x všech pozorovatelů se zkušenostmi lidského typu žije v simulaci, a nemáme žádné další informace, které by prokazovaly, že naše vlastní soukromá zkušenost je víceméně pravděpodobně ztělesněna ve stroji, nikoli v vivo než jiné typy lidských zkušeností, a pak se naše důvěra, že jsme v simulaci, musí rovnat x:
Tento krok je odůvodněn velmi slabým principem ekvivalence. Oddělme oba případy. V prvním případě, který je jednodušší, jsou všechny zkoumané mysli jako vaše, v tom smyslu, že jsou přesně kvalitativně stejné jako vaše mysl: mají stejné informace a stejné zkušenosti jako vy. Ve druhém případě jsou si mysli podobné pouze v širokém smyslu, jsou to takové mysli, které jsou typické pro lidské bytosti, ale kvalitativně se od sebe liší a každá má jiný soubor zkušeností. Tvrdím, že i v případě, kdy jsou mysli kvalitativně odlišné, důkaz simulace stále funguje, za předpokladu, že nemáte žádné informace, které by odpovídaly na otázku, které z různých myslí jsou simulovány a které jsou biologicky realizovány.
Podrobné odůvodnění přísnějšího principu, který zahrnuje oba naše konkrétní příklady jako triviální speciální případy, bylo uvedeno v literatuře. Nedostatek prostoru nám nedovoluje uvést zde celé zdůvodnění, ale můžeme zde uvést jedno z intuitivních zdůvodnění. Představme si, že x % populace má určitou genetickou sekvenci S v určité části své DNA, která se obvykle nazývá „junk DNA“. Předpokládejme dále, že neexistují žádné projevy S (jiné než ty, které se mohou objevit během genetického testování) a že neexistují žádné korelace mezi vlastnictvím S a jakýmikoli vnějšími projevy. Je pak zcela zřejmé, že než bude vaše DNA sekvenována, je rozumné přisoudit x% spolehlivosti hypotéze, že máte fragment S. A to je zcela nezávislé na skutečnosti, že lidé, kteří mají S, mají mysl a zkušenosti, které jsou kvalitativně odlišné. od lidí, kteří nemají S. (Jsou jiní jednoduše proto, že všichni lidé mají různé zkušenosti, ne proto, že existuje přímá souvislost mezi S a druhem zkušeností, které člověk má.)
Stejná úvaha platí, pokud S není vlastnost mít určitou genetickou sekvenci, ale místo toho skutečnost, že je v simulaci, za předpokladu, že nemáme žádné informace, které by nám umožnily předpovědět jakékoli rozdíly mezi zkušenostmi simulovaných myslí a mezi prožitky původních biologických.mysli
Je třeba zdůraznit, že měkký princip ekvivalence zdůrazňuje pouze ekvivalenci mezi hypotézami o tom, jaký jste pozorovatel, když nemáte žádné informace o tom, jakým pozorovatelem jste. Obecně nepřiřazuje ekvivalenci mezi hypotézy, když nemáte konkrétní informace o tom, která hypotéza je pravdivá. Na rozdíl od Laplacea a dalších pevnějších principů ekvivalence tak nepodléhá Bertrandovu paradoxu a dalším podobným potížím, které neomezenou aplikaci principů ekvivalence komplikují.
Čtenáři obeznámení s argumentem soudného dne (DA) (J. Leslie, „Je konec světa blízko?“ Philosophical Quarterly 40, 158: 65-72 (1990)) se mohou obávat, že zde použitý princip ekvivalence spočívá na stejných předpokladech které jsou zodpovědné za odstranění koberce zpod DA a že kontraintuitivnost některých jeho závěrů vrhá stín na platnost simulačního argumentu. To je špatně. DA se opírá o mnohem přísnější a kontroverznější předpoklad, že člověk by měl uvažovat, jako by byl náhodným vzorkem z celé populace lidí, kteří kdy žili a budou žít (minulost, přítomnost a budoucnost), navzdory skutečnosti, že víme že žijeme na začátku XNUMX. století a ne v nějakém bodě vzdálené budoucnosti. Princip měkké nejistoty se vztahuje pouze na případy, kdy nemáme žádné další informace o tom, do které skupiny lidí patříme.
Pokud je sázení nějakým základem pro racionální přesvědčení, pak pokud každý sází na to, zda je v simulaci nebo ne, pak pokud lidé používají princip měkké nejistoty a sází na to, že jsou v simulaci založené na znalosti, že většina lidí je v něm pak své sázky vyhraje téměř každý. Pokud vsadí, že nejsou v simulaci, prohraje téměř každý. Jako užitečnější se jeví řídit se principem měkké ekvivalence. Dále si lze představit sled možných situací, ve kterých stále větší podíl lidí žije v simulacích: 98 %, 99 %, 99.9 %, 99.9999 % a tak dále. Když se člověk blíží k horní hranici, kdy všichni žijí v simulaci (z čehož lze deduktivně odvodit, že všichni jsou v simulaci), zdá se rozumné vyžadovat, aby se jistota, kterou připisujeme tomu, že jsme v simulaci, plynule a nepřetržitě přibližovala omezující mez úplné důvěry.
6. Výklad
Možnost uvedená v odstavci (1) je zcela jasná. Je-li (1) pravdivé, pak lidstvo téměř jistě nedokáže dosáhnout postlidské úrovně; žádný druh na naší úrovni vývoje se nestává posthumánním a je těžké najít nějaké ospravedlnění pro domněnku, že náš vlastní druh má nějaké výhody nebo zvláštní ochranu proti budoucím katastrofám. Vzhledem k podmínce (1), musíme proto přiřadit Doomovi (DOOM) vysokou věrohodnost, tedy hypotézu, že lidstvo zmizí dříve, než dosáhne postlidské úrovně:
Můžeme si představit hypotetickou situaci, ve které máme data, která se překrývají s našimi znalostmi o fp. Pokud například zjistíme, že nás zasáhne obří asteroid, můžeme předpokládat, že jsme měli výjimečně smůlu. Pak můžeme hypotéze Doom přisoudit větší platnost, než je naše očekávání podílu civilizací na lidské úrovni, kterým se nepodaří dosáhnout posthumánnosti. V našem případě se ale zdá, že nemáme důvod si myslet, že jsme v tomto ohledu výjimeční, v dobrém i ve zlém.
Premisa (1) sama o sobě neznamená, že pravděpodobně vyhyneme. To naznačuje, že je nepravděpodobné, že dosáhneme post-lidské fáze. Tato možnost by například mohla znamenat, že zůstaneme na nebo mírně nad současnými úrovněmi po dlouhou dobu, než vyhyneme. Dalším možným důvodem, proč je (1) pravdivý, je, že technologická civilizace se pravděpodobně zhroutí. Na Zemi přitom zůstanou primitivní lidské společnosti.
Existuje mnoho způsobů, jak by lidstvo mohlo vyhynout před dosažením post-lidské fáze vývoje. Nejpřirozenější vysvětlení pro (1) je, že vyhyneme v důsledku vývoje nějaké mocné, ale nebezpečné technologie. Jedním z kandidátů je molekulární nanotechnologie, jejíž zralá fáze umožní vytvoření samoreplikujících nanorobotů, kteří se mohou živit špínou a organickou hmotou – druhem mechanických bakterií. Takoví nanoroboti, pokud by byli navrženi pro škodlivé účely, by mohli vést ke smrti veškerého života na planetě.
Druhou alternativou k závěru simulačního argumentu je, že podíl posthumánních civilizací, které mají zájem provozovat simulace předků, je zanedbatelný. Aby (2) platila, musí existovat přísná konvergence mezi vývojovými cestami vyspělých civilizací. Pokud je počet simulací předků vytvořených zainteresovanými civilizacemi výjimečně velký, pak vzácnost takových civilizací musí být odpovídajícím způsobem extrémní. Prakticky žádná polidská civilizace se nerozhodne využít své zdroje k vytvoření velkého množství simulací předků. Navíc téměř všechny posthumánní civilizace postrádají jednotlivce, kteří mají vhodné zdroje a zájem provozovat simulace předků; nebo mají zákony podporované silou, které jednotlivcům brání jednat podle jejich přání.
Jaká síla může vést k takové konvergenci? Někdo by mohl namítnout, že vyspělé civilizace se společně vyvíjejí po trajektorii, která vede k uznání etického zákazu spouštění simulací předků kvůli utrpení, které obyvatelé simulace zažívají. Z naší současné perspektivy se však nezdá zřejmé, že stvoření lidské rasy je nemorální. Naopak máme tendenci vnímat existenci naší rasy jako velkou etickou hodnotu. Navíc samotné sbližování etických názorů na nemorálnost provádění simulací předků nestačí: musí být kombinováno s konvergencí sociální struktury civilizace, což vede k tomu, že činnosti považované za nemorální jsou účinně zakázány.
Další možností konvergence je, že téměř všichni jednotliví postlidé v téměř všech postlidských civilizacích se vyvíjejí směrem, ve kterém ztrácejí chuť provozovat simulace předků. To bude vyžadovat významné změny v motivacích, které pohánějí jejich posthumánní předky, protože jistě existuje mnoho lidí, kteří by chtěli spustit simulace svých předků, kdyby mohli. Ale možná se mnohé z našich lidských tužeb budou zdát pošetilé každému, kdo se stane posthumánním. Možná, že vědecký význam simulací předků pro postlidské civilizace je zanedbatelný (což se nezdá příliš nepravděpodobné vzhledem k jejich neuvěřitelné intelektuální převaze) a možná postlidi považují rekreační činnost za velmi neefektivní způsob získávání potěšení - které lze získat mnohem levněji díky přímá stimulace mozkových center potěšení. Jeden závěr, který vyplývá z (2), je, že postlidské společnosti se budou velmi lišit od lidských společností: nebudou mít relativně bohaté nezávislé agenty, kteří mají celou škálu lidských tužeb a mohou je svobodně jednat.
Možnost popsaná v závěru (3) je z koncepčního hlediska nejzajímavější. Pokud žijeme v simulaci, pak vesmír, který pozorujeme, je jen malým kouskem v celku fyzické existence. Fyzika vesmíru, ve kterém počítač sídlí, se může, ale nemusí podobat fyzice světa, který pozorujeme. Zatímco svět, který pozorujeme, je do určité míry „skutečný“, nenachází se na nějaké základní úrovni reality. Je možné, že se simulované civilizace stanou postlidskými. Mohou zase spouštět simulace předků na výkonných počítačích, které si postavili v simulovaném vesmíru. Takové počítače by byly „virtuálními stroji“, což je velmi běžný koncept v informatice. (Webové aplikace napsané ve skriptu Java například běží na virtuálním počítači – simulovaném počítači – na vašem notebooku.)
Virtuální stroje mohou být vnořeny do sebe: je možné simulovat virtuální stroj simulující jiný stroj a tak dále s libovolně velkým počtem kroků. Pokud dokážeme vytvořit vlastní simulace našich předků, byl by to silný důkaz proti bodům (1) a (2), a museli bychom tedy dojít k závěru, že žijeme v simulaci. Navíc budeme muset mít podezření, že postlidé, kteří provedli naši simulaci, jsou sami simulovanými bytostmi a jejich tvůrci zase mohou být simulovanými bytostmi.
Realita tak může obsahovat několik úrovní. I kdyby hierarchie skončila na nějaké úrovni – metafyzický status tohoto tvrzení je dosti nejasný – může zde být dostatek místa pro velké množství úrovní reality a toto číslo se může časem zvyšovat. (Jedna úvaha, která mluví proti takové víceúrovňové hypotéze, je, že výpočetní náklady na simulátory základní úrovně by byly velmi vysoké. Simulace i jedné posthumánní civilizace by mohla být neúměrně nákladná. Pokud ano, měli bychom očekávat, že naše simulace bude vypnuta. když se přiblížíme na post-lidskou úroveň.)
Přestože jsou všechny prvky tohoto systému naturalistické, dokonce i fyzické, je možné vyvodit některé volné analogie s náboženskými koncepty světa. V jistém smyslu jsou postlidé, kteří simulaci provozují, jako bohové ve vztahu k lidem v simulaci: postlidi vytvářejí svět, který vidíme; mají inteligenci nadřazenou nám; jsou všemocní v tom smyslu, že mohou zasahovat do fungování našeho světa způsoby, které porušují fyzikální zákony, a jsou vševědoucí v tom smyslu, že mohou sledovat vše, co se děje. Všichni polobozi, kromě těch, kteří žijí na základní úrovni reality, však podléhají akcím mocnějších bohů, kteří žijí na vyšších úrovních reality.
Další rozpracování těchto témat by mohlo vyústit v naturalistickou teogonii, která by prozkoumala strukturu této hierarchie a omezení kladená na obyvatele možností, že jejich jednání na jejich úrovni může ovlivnit postoj obyvatel hlubší úrovně reality k nim. . Pokud si například nikdo nemůže být jistý, že je na základní úrovni, musí každý zvážit pravděpodobnost, že jeho činy budou odměněny nebo potrestány, možná na základě nějakých morálních kritérií, hostiteli simulace. Život po smrti bude reálnou možností. Kvůli této základní nejistotě bude mít i civilizace na základní úrovni motivaci chovat se eticky. Skutečnost, že mají důvod se chovat morálně, bude samozřejmě dobrým důvodem pro to, aby se někdo jiný choval morálně a tak dále a vytvořil tak ctnostný kruh. Tímto způsobem lze získat něco jako univerzální etický imperativ, který bude ve vlastním zájmu každého dodržovat a který přichází „odnikud“.
Kromě simulací předků si lze představit možnost selektivnějších simulací, které zahrnují pouze malou skupinu lidí nebo jediného jednotlivce. Zbytek lidí by pak byli "zombie" nebo "stínoví lidé" - lidé simulovaní pouze na dostatečné úrovni, aby si plně simulovaní lidé nevšimli ničeho podezřelého.
Není jasné, o kolik levnější by bylo simulovat stínové lidi než skutečné lidi. Není ani zřejmé, že je možné, aby se objekt choval k nerozeznání od skutečné osoby a přitom neměl vědomé zážitky. I když takové selektivní simulace existují, nemůžete si být jisti, že jste v jedné, dokud si nejste jisti, že takových simulací je mnohem více než úplných simulací. Svět by musel mít asi o 100 miliard více I-simulace (simulace života jen jednoho vědomí), než jsou úplné simulace předků - aby většina simulovaných lidí byla v I-simuacích.
Je také možné, že simulátoři přeskakují určité části duševního života simulovaných bytostí a poskytují jim falešné vzpomínky na typ zážitků, které by měly během vynechaných období. Pokud ano, lze si představit následující (přitažené za vlasy) řešení problému zla: že na světě opravdu není žádné utrpení a že všechny vzpomínky na utrpení jsou iluzí. Tuto hypotézu lze samozřejmě brát vážně pouze v těch chvílích, kdy vy sami netrpíte.
Za předpokladu, že žijeme v simulaci, jaké to má důsledky pro nás lidi? Na rozdíl od toho, co bylo dosud řečeno, nejsou důsledky pro lidi nijak zvlášť drastické. Naším nejlepším průvodcem, jak se naši postlidští tvůrci rozhodli uspořádat náš svět, je standardní empirické zkoumání vesmíru, jak ho vidíme. Změny ve většině našeho systému víry budou pravděpodobně malé a mírné – úměrné naší nedostatečné důvěře v naši schopnost porozumět posthumánnímu myšlenkovému systému.
Správné pochopení pravdivosti teze (3) by z nás nemělo udělat „blázna“ nebo nás donutit skončit s podnikáním a přestat dělat plány a předpovědi na zítřek. Zdá se, že hlavní empirický význam (3) v současnosti spočívá v jeho roli ve výše uvedeném trojitém závěru.
Měli bychom doufat, že (3) je pravdivé, protože snižuje pravděpodobnost (1), ale pokud výpočetní omezení zvyšují pravděpodobnost, že simulátory vypnou simulaci dříve, než dosáhne úrovně post-lidské, pak naše největší naděje je, že (2) je pravda. .
Pokud se dozvíme více o posthumánní motivaci a omezení zdrojů, možná v důsledku našeho vývoje směrem k posthumánnosti, pak hypotéza, že jsme simulováni, bude mít mnohem bohatší soubor empirických aplikací.
7. Závěr
Technologicky vyspělá post-lidská civilizace by měla obrovskou výpočetní sílu. Na základě toho úvahy o simulaci ukazují, že alespoň jedna z následujících skutečností je pravdivá:
- (1) Podíl civilizací na lidské úrovni, které dosahují post-lidské úrovně, se velmi blíží nule.
- (2) Podíl post-lidských civilizací, které mají zájem provozovat simulace předchůdců, se velmi blíží nule.
- (3) Podíl všech lidí s naším typem zkušeností, kteří žijí v simulaci, se blíží jedné.
Pokud platí (1), pak téměř jistě zemřeme dříve, než dosáhneme postlidské úrovně.
Pokud platí (2), pak by mělo docházet k přísně koordinovanému sbližování vývojových cest všech vyspělých civilizací, aby žádná z nich neměla relativně bohaté jedince, kteří by byli ochotni provozovat simulace svých předků a mohli by je svobodně dělat. tak.
Pokud platí (3), pak téměř jistě žijeme v simulaci. Temný les naší nevědomosti umožňuje rozdělit naši důvěru téměř rovnoměrně mezi body (1), (2) a (3).
Pokud již nežijeme v simulaci, naši potomci téměř jistě nikdy neprovedou simulace svých předků.
Poděkování
Jsem vděčný mnoha lidem za jejich komentáře, zejména Amara Angelica, Robert Bradbury, Milan Cirkovic, Robin Hanson, Hal Finney, Robert A. Freitas Jr., John Leslie, Mitch Porter, Keith DeRose, Mike Treder, Mark Walker, Eliezer Yudkowsky a anonymní rozhodčí.
Překlad: Alexey Turchin
Poznámky překladatele:
1) Závěry (1) a (2) nejsou místní. Říká se, že buď všechny civilizace zaniknou, nebo všichni nechtějí vytvářet simulace. Toto tvrzení platí nejen pro celý viditelný vesmír, nejen pro celé nekonečno vesmíru za horizontem viditelnosti, ale také pro celý soubor 10**500 stupňových vesmírů s různými vlastnostmi, které jsou podle teorie strun možné. . Oproti tomu teze, že žijeme v simulaci, je lokální. Obecná tvrzení jsou mnohem méně pravděpodobná než konkrétní tvrzení. (Srovnej: „Všichni lidé jsou blonďatí“ a „Ivanov je blond“ nebo „všechny planety mají atmosféru“ a „Venuše má atmosféru.“) Abychom vyvrátili obecné tvrzení, stačí jedna výjimka. Tvrzení, že žijeme v simulaci, je tedy mnohem pravděpodobnější než první dvě alternativy.
2) Vývoj počítačů není nutný – stačí například sny. Které uvidí geneticky upravené a speciálně upravené mozky.
3) Simulační uvažování funguje v běžném životě. Většina obrazů, které nám vstupují do mozku, jsou simulace – jsou to filmy, televize, internet, fotografie, reklama – a v neposlední řadě – sny.
4) Čím neobvyklejší objekt vidíme, tím je pravděpodobnější, že je v simulaci. Například, když vidím hroznou nehodu, pak ji s největší pravděpodobností vidím ve snu, v televizi nebo ve filmu.
5) Simulace mohou být dvojího druhu: simulace celé civilizace a simulace osobní historie nebo i jedné epizody ze života jednoho člověka.
6) Je důležité odlišit simulaci od imitace – je možné simulovat osobu nebo civilizaci, která v přírodě nikdy neexistovala.
7) Supercivilizace by se měly zajímat o vytváření simulací, aby mohly studovat různé verze své minulosti a tím i různé alternativy jejich vývoje. A také například studovat průměrnou frekvenci ostatních supercivilizací ve vesmíru a jejich očekávané vlastnosti.
8) Problém simulace naráží na problém filozofických zombií (tj. bytostí zbavených kvalit, jako jsou stíny na televizní obrazovce). Simulované bytosti by neměly být filozofické zombie. Pokud většina simulací obsahuje filozofické zombie, pak argumentace nefunguje (protože nejsem filozofická zombie.)
9) Pokud existuje několik úrovní simulace, pak mohou lidé žijící v simulaci úrovně 2 použít stejnou simulaci úrovně 1 v několika různých simulacích úrovně 0. Aby se šetřily výpočetní prostředky. Je to jako mnoho různých lidí, kteří sledují stejný film. To znamená, že jsem vytvořil tři simulace. A každý z nich vytvořil 1000 subsimulací. Pak bych musel na svém superpočítači spustit 3003 simulací. Ale pokud simulace vytvořily v podstatě identické subsimulace, pak mi stačí nasimulovat 1000 simulací a prezentovat výsledek každé z nich třikrát. To znamená, že spustím celkem 1003 simulací. Jinými slovy, jedna simulace může mít několik vlastníků.
10) Zda žijete v simulaci nebo ne, lze určit podle toho, jak moc se váš život liší od průměru ve směru jedinečného, zajímavého nebo důležitého. Zde se navrhuje, že vytváření simulací zajímavých lidí žijících v zajímavých časech důležitých změn je pro tvůrce simulace atraktivnější, bez ohledu na jejich účel – zábavu nebo výzkum. 70 % lidí, kteří kdy žili na Zemi, byli negramotní rolníci . Zde je však třeba vzít v úvahu efekt pozorovacího výběru: negramotní rolníci nemohli pochybovat o tom, zda byli v simulaci nebo ne, a proto skutečnost, že nejste negramotný rolník, nedokazuje, že jste v simulaci. Autory simulace bude pravděpodobně nejvíce zajímat éra v oblasti singularity, protože v její oblasti je možné nevratné rozdvojení vývojových cest civilizace, které může být ovlivněno malými faktory, včetně charakteristik jedna osoba. Například já, Alexey Turchin, věřím, že můj život je tak zajímavý, že je pravděpodobnější, že bude simulován než skutečný.
11) To, že jsme v simulaci, zvyšuje naše rizika - a) simulaci lze vypnout b) autoři simulace na ní mohou experimentovat a vytvářet tak zjevně nepravděpodobné situace - pád asteroidu atd.
12) Je důležité poznamenat, že Bostrom říká, že alespoň jedna ze tří je pravdivá. To znamená, že jsou možné situace, kdy jsou některé body pravdivé současně. Například skutečnost, že zemřeme, nevylučuje skutečnost, že žijeme v simulaci, a skutečnost, že většina civilizací žádnou simulaci nevytváří.
13) Simulovaní lidé a svět kolem nich se nemusí podobat žádným skutečným lidem nebo skutečnému světu, je důležité, aby si mysleli, že jsou ve skutečném světě. Nejsou schopni si všimnout rozdílů, protože nikdy neviděli žádný skutečný svět. Nebo je jejich schopnost všímat si rozdílů otupená. Jak se to děje ve snu.
14) V našem světě existuje pokušení objevit známky simulace, které se projevují jako zázraky. Ale zázraky se mohou stát i bez simulace.
15) Existuje model světového řádu, který navrhované dilema odstraňuje. (ale ne bez rozporů). Jmenovitě se jedná o Castanevo-buddhistický model, kdy pozorovatel rodí celý svět.
16) Myšlenka simulace znamená zjednodušení. Pokud je simulace přesná na atom, bude to stejná realita. V tomto smyslu si lze představit situaci, kdy se určitá civilizace naučila vytvářet paralelní světy s danými vlastnostmi. V těchto světech může provádět přírodní experimenty a vytvářet různé civilizace. To znamená, že je to něco jako hypotéza vesmírné zoo. Tyto vytvořené světy nebudou simulacemi, protože budou velmi reálné, ale budou pod kontrolou těch, kteří je vytvořili a mohou je zapínat a vypínat. A bude jich také více, takže zde platí podobné statistické uvažování jako v simulačním uvažování.
Kapitola z článku „UFO jako globální rizikový faktor“:
UFO jsou závady v Matrixu
Podle N. Bostroma (Nick Bostrom. Proof of Simulation. ), pravděpodobnost, že žijeme ve zcela simulovaném světě, je poměrně vysoká. To znamená, že náš svět může být zcela simulován na počítači pomocí nějaké supercivilizace. To umožňuje autorům simulace vytvářet v ní libovolné obrázky s pro nás nepochopitelnými cíli. Pokud je navíc úroveň kontroly v simulaci nízká, budou se v ní hromadit chyby, jako při spuštění počítače, a budou se objevovat poruchy a závady, kterých si lze všimnout. Muži v černém se promění v agenta Smithse, který vymaže stopy závad. Nebo mohou někteří obyvatelé simulace získat přístup k některým nezdokumentovaným funkcím. Toto vysvětlení nám umožňuje vysvětlit jakýkoli možný soubor zázraků, ale nevysvětluje nic konkrétního – proč vidíme takové projevy a ne třeba růžové slony létající hlavou dolů. Hlavním rizikem je, že simulaci lze použít k testování extrémních podmínek provozu systému, tedy v katastrofických režimech, a že simulace bude jednoduše vypnuta, pokud bude příliš složitá nebo dokončí svou funkci.
Hlavním problémem je zde stupeň kontroly v Matrixu. Pokud mluvíme o Matrixu pod velmi přísnou kontrolou, pak je pravděpodobnost neplánovaných závad v něm malá. Pokud je Matrix jednoduše spuštěn a poté ponechán svému vlastnímu zařízení, budou se v něm hromadit závady, stejně jako se závady hromadí během provozu operačního systému, při jeho provozu a při přidávání nových programů.
První možnost je implementována, pokud se autoři Matrixu zajímají o všechny podrobnosti o událostech, které se v Matrixu odehrávají. V takovém případě budou přísně sledovat všechny závady a pečlivě je vymažou. Pokud je zajímá pouze konečný výsledek Matrixu nebo jeden z jeho aspektů, pak bude jejich kontrola méně přísná. Když člověk například vede šachový program a odejde na den, zajímá ho pouze výsledek programu, ale ne detaily. Navíc během provozu šachového programu dokáže vypočítat mnoho virtuálních her, jinými slovy virtuálních světů. Jinými slovy, autory zde zajímá statistický výsledek práce velmi mnoha simulací a na detailech práce jedné simulace jim záleží pouze do té míry, aby závady neovlivnily konečný výsledek. A v každém složitém informačním systému se hromadí určitý počet závad, a jak roste složitost systému, exponenciálně roste obtížnost jejich odstranění. Proto je snazší smířit se s přítomností určitých závad, než je odstranit u kořene.
Dále je zřejmé, že soubor volně řízených systémů je mnohem větší než soubor pevně řízených, protože slabě řízené systémy jsou uváděny na trh ve velkém množství, když je lze vyrábět VELMI levně. Například počet virtuálních šachových partií je mnohem větší než partií skutečných velmistrů a počet domácích operačních systémů je mnohem větší než počet vládních superpočítačů.
Závady v Matrixu jsou tedy přijatelné, pokud neovlivňují celkový provoz systému. Ve skutečnosti je to stejné, pokud se písmo mého prohlížeče začne zobrazovat v jiné barvě, nerestartuji celý počítač ani nezničím operační systém. Ale totéž vidíme při studiu UFO a dalších anomálních jevů! Existuje určitá hranice, nad kterou nemohou přeskočit ani jevy samotné, ani jejich veřejná rezonance. Jakmile se určité jevy začnou blížit tomuto prahu, buď zmizí, nebo se objeví lidé v černém, nebo se ukáže, že šlo o podvrh, nebo někdo zemře.
Všimněte si, že existují dva typy simulací – úplné simulace celého světa a sebesimulace. V tom druhém se simuluje životní zkušenost pouze jednoho člověka (nebo malé skupiny lidí). V I-simulaci je pravděpodobnější, že se ocitnete v zajímavé roli, zatímco v plné simulaci je 70 procent hrdinů rolníci. Z důvodů výběru pozorování by I-simulace měly být mnohem častější – i když tato úvaha vyžaduje další úvahu. Ale v I-simulace by mělo být téma UFO již položeno, jako celá prehistorie světa. A možná je to zařazeno schválně – prozkoumat, jak toto téma zvládnu.
Dále se v jakémkoli informačním systému dříve nebo později objeví viry - tedy parazitní informační jednotky zaměřené na sebereplikaci. Takové jednotky mohou vznikat v Matrixu (a v kolektivním nevědomí) a musí proti nim zasáhnout vestavěný antivirový program. Ze zkušeností s používáním počítačů a ze zkušeností biologických systémů však víme, že je snazší se smířit s přítomností neškodných virů, než je do posledního otrávit. Úplné zničení virů navíc často vyžaduje demolici systému.
Dá se tedy předpokládat, že UFO jsou viry, které využívají závady v Matrixu. To vysvětluje absurditu jejich chování, protože jejich inteligence je omezená, stejně jako jejich parazitování na lidech - protože každý člověk má v Matrixu přiděleno určité množství výpočetních zdrojů, které lze použít. Dá se předpokládat, že někteří lidé využili závady v Matrixu k dosažení svých cílů, včetně nesmrtelnosti, ale stejně tak i bytosti z jiných výpočetních prostředí, například simulace zásadně odlišných světů, které pak pronikly do našeho světa.
Další otázkou je, jaká je úroveň hloubky simulace, ve které se pravděpodobně nacházíme. Je možné simulovat svět s atomovou přesností, ale to by vyžadovalo obrovské výpočetní zdroje. Dalším extrémním příkladem je střílečka z pohledu první osoby. V něm se kreslí trojrozměrný obraz oblasti podle potřeby, když se hlavní hrdina blíží k novému místu, na základě celkového plánu oblasti a určitých obecných zásad. Nebo jsou pro některá místa použity polotovary a přesná kresba jiných míst je ignorována (jako ve filmu „13. patro“). Je zřejmé, že čím přesnější a podrobnější bude simulace, tím méně často bude mít závady. Na druhou stranu simulace provedené „narychlo“ budou obsahovat mnohem více závad, ale zároveň spotřebují nezměrně méně výpočetních zdrojů. Jinými slovy, se stejnými náklady by bylo možné udělat buď jednu velmi přesnou simulaci, nebo milion přibližných. Dále předpokládáme, že pro simulace platí stejný princip jako pro jiné věci: totiž, že čím je věc levnější, tím je běžnější (to znamená, že na světě je více skla než diamantů, více meteoritů než asteroidů a T. e.) Je tedy pravděpodobnější, že budeme uvnitř levné, zjednodušené simulace, spíše než uvnitř složité, ultra-přesné simulace. Lze tvrdit, že v budoucnu budou k dispozici neomezené výpočetní zdroje, a proto bude každý aktér provádět poměrně podrobné simulace. Zde se však projevuje efekt simulací matrjošek. Pokročilá simulace totiž dokáže vytvářet vlastní simulace, říkejme jim simulace druhé úrovně. Řekněme, že pokročilá simulace světa poloviny 21. století (vytvořená řekněme ve skutečném 23. století) může vytvořit miliardy simulací světa počátku 21. století. Zároveň bude využívat počítače z poloviny 21. století, které budou omezenější ve výpočetních zdrojích než počítače 23. století. (A také skutečné 23. století ušetří na přesnosti subsimulace, protože pro něj nejsou důležité.) Proto všechny miliardy simulací z počátku 21. století, které vytvoří, budou z hlediska výpočetních zdrojů velmi ekonomické. Z tohoto důvodu bude počet primitivních simulací, stejně jako simulací dříve z hlediska simulovaného času, miliardkrát větší než počet podrobnějších a pozdějších simulací, a proto má libovolný pozorovatel miliardkrát větší šanci. najít se v dřívější (alespoň do příchodu superpočítačů schopných vytvářet vlastní simulace) a levnější a více závadové simulaci. A podle principu samosamplovacího předpokladu se každý musí považovat za náhodného zástupce mnoha jemu podobných tvorů, chce-li získat co nejpřesnější odhady pravděpodobnosti.
Další možností je, že UFO jsou záměrně vypuštěny do Matrixu, aby oklamali lidi žijící v něm a viděli, jak na to budou reagovat. Protože většina simulací, myslím, je navržena tak, aby simulovala svět v nějakých speciálních, extrémních podmínkách.
Přesto tato hypotéza nevysvětluje celou řadu specifických projevů UFO.
Zde existuje riziko, že pokud bude naše simulace přetížena závadami, majitelé simulace se mohou rozhodnout ji restartovat.
Konečně můžeme předpokládat „spontánní generování Matrixu“ – to znamená, že žijeme v počítačovém prostředí, ale toto prostředí bylo spontánně generováno nějakým způsobem na počátku existence vesmíru bez zprostředkování jakýchkoli stvořitelských bytostí. . Aby tato hypotéza byla přesvědčivější, měli bychom si nejprve připomenout, že podle jednoho z popisů fyzické reality jsou samotné elementární částice buněčnými automaty – tedy něco jako stabilní kombinace ve hře Života. (hra)
Další díla Alexey Turchina:
O Ontol
Ontol je mapa, která vám umožní vybrat si nejefektivnější cestu pro utváření vašeho pohledu na svět.
Ontol je založen na superpozici subjektivních hodnocení, reflexe přečtených textů (ideálně miliony/miliardy lidí). Každý účastník projektu se sám rozhodne, jaké je 10 nejdůležitějších věcí ze 100, které četl/sledoval ve významných aspektech života (myšlení, zdraví, rodina, peníze, důvěra atd.) za posledních 10 let nebo jeho celý život . Co lze sdílet jedním kliknutím (texty a videa, nikoli knihy, konverzace a události).
Ideálním konečným výsledkem Ontolu je přístup 10x až 100x rychlejší (než existující analogy wikipedie, kvora, chatů, kanálů, LJ, vyhledávačů) k významným textům a videím, které ovlivní čtenářův život ("Ach, jak rád bych přečtěte si tento text dříve! S největší pravděpodobností by život šel jinak."). Zdarma pro všechny obyvatele planety a na 1 kliknutí.
- Telegramový kanál:
- Prototyp webové služby:
- Na Habré:
- Online o startupech z Y Combinator:
Zdroj: www.habr.com