Recollo todos os textos máis importantes de todos os tempos e pobos que inflúen na cosmovisión e na formación dunha imaxe do mundo (). E entón pensei e pensei e propuxín unha hipótese atrevida de que este texto é máis revolucionario e importante na nosa comprensión da estrutura do mundo que a revolución copernicana e as obras de Kant. En RuNet, este texto (versión completa) estaba nun estado terrible, limpeino un pouco e, co permiso do tradutor, publícoo para debate.
"¿Estás vivindo nunha simulación por ordenador?"
por Nick Bostrom [Publicado en Philosophical Quarterly (2003) Vol. 53, núm. 211, pp. 243-255. (Primeira versión: 2001)]
Este artigo afirma que polo menos un dos tres supostos seguintes é certo:
- (1) é moi probable que a humanidade extinguirase antes de chegar á fase "posthumana";
- (2) toda civilización post-humana con extrema baixa probabilidade realizará un número importante de simulacións da súa historia evolutiva (ou variacións da mesma) e
- (3) estamos case seguro vivindo nunha simulación por ordenador.
Diso dedúcese que a probabilidade de estar nunha fase de civilización poshumana, que poderá realizar simulacións dos seus predecesores, é nula, a non ser que aceptemos como verdadeiro o caso de que xa estamos vivindo nunha simulación. Tamén se discuten outras implicacións deste resultado.
1. Introdución
Moitas obras de ciencia ficción, así como as previsións de futuristas serios e investigadores tecnolóxicos, prevén que no futuro estarán dispoñibles cantidades colosales de potencia informática. Supoñamos que estas predicións son correctas. Por exemplo, as xeracións posteriores cos seus ordenadores superpoderosos poderán executar simulacións detalladas dos seus predecesores ou de persoas similares ás súas. Debido a que os seus ordenadores serán tan poderosos, poderán realizar moitas simulacións similares. Supoñamos que estas persoas simuladas son conscientes (e o serán se a simulación é moi precisa e se un certo concepto de conciencia moi aceptado en filosofía é correcto). Segue que o maior número de mentes como a nosa non pertencen á raza orixinal, senón que pertencen a persoas simuladas por descendentes avanzados da raza orixinal. En base a isto, pódese argumentar que é razoable esperar que esteamos entre mentes biolóxicas naturais simuladas e non orixinais. Así, a non ser que creamos que agora vivimos nunha simulación por ordenador, non debemos asumir que os nosos descendentes realizarán moitas simulacións dos seus antepasados. Esta é a idea principal. Verémolo con máis detalle no resto deste traballo.
Ademais do interese que pode ter esta tese para os implicados en discusións futuristas, tamén hai un interese puramente teórico. Esta proba estimula a formulación dalgúns problemas metodolóxicos e metafísicos, e tamén ofrece algunhas analoxías naturais cos conceptos relixiosos tradicionais, e estas analoxías poden parecer sorprendentes ou suxestivas.
A estrutura deste artigo é a seguinte: ao principio formularemos un certo suposto que debemos importar da filosofía da mente para que esta proba funcione. Despois analizaremos algunhas razóns empíricas para crer que será posible executar unha gran variedade de simulacións de mentes humanas para unha civilización futura que desenvolverá moitas das mesmas tecnoloxías que demostraron ser consistentes coas leis físicas coñecidas e as limitacións da enxeñaría.
Esta parte non é necesaria desde un punto de vista filosófico, pero con todo anima a atención á idea principal do artigo. A continuación realizarase un resumo da demostración, utilizando algunhas aplicacións sinxelas da teoría da probabilidade, e un apartado xustificativo do principio de equivalencia débil que emprega a demostración. Finalmente, comentaremos algunhas interpretacións da alternativa mencionada ao principio, e esta será a conclusión da demostración sobre o problema de simulación.
2. Asunción da independencia dos medios
Unha suposición común na filosofía da mente é a asunción da independencia do medio. A idea é que os estados mentais poden ocorrer en calquera tipo de medio físico. Sempre que o sistema encarne o conxunto correcto de estruturas e procesos computacionais, poden ocorrer experiencias conscientes dentro del. A propiedade esencial non é a incorporación dos procesos intracraniais en redes nerviosas biolóxicas baseadas en carbono: os procesadores baseados en silicio dentro dos ordenadores poden facer exactamente o mesmo truco. Os argumentos a favor desta tese foron avanzados na literatura existente, e aínda que non é totalmente coherente, aquí darémolo por feito.
A proba que ofrecemos aquí, porén, non depende de ningunha versión moi forte de funcionalismo ou computacionalismo. Por exemplo, non debemos aceptar que a tese da independencia do medio sexa necesariamente certa (no sentido analítico ou metafísico), senón que, de feito, un ordenador baixo o control dun programa axeitado podería ser consciente. Ademais, non debemos asumir que para crear conciencia nun ordenador, teriamos que programalo de forma que se comporte como un humano en todos os casos, pase a proba de Turing, etc. Só necesitamos unha suposición máis débil. que para crear experiencias subxectivas, abonda con que os procesos computacionais no cerebro humano se copien estruturalmente con detalles axeitados de alta precisión, por exemplo, a nivel das sinapses individuais. Esta versión refinada da independencia dos medios é bastante aceptada.
Os neurotransmisores, os factores de crecemento nervioso e outros produtos químicos que son máis pequenos que as sinapses xogan claramente un papel na cognición e na aprendizaxe humana. A tese da independencia do vehículo non é que os efectos destes produtos químicos sexan pequenos ou insignificantes, senón que afectan á experiencia subxectiva só a través de efectos directos ou indirectos sobre a actividade computacional. Por exemplo, se non hai diferenzas subxectivas sen que tamén exista unha diferenza na descarga sináptica, entón o detalle de simulación necesario está a nivel sináptico (ou superior).
3.Límites tecnolóxicos da informática
Ao nivel actual de desenvolvemento tecnolóxico, non temos hardware suficientemente potente nin software adecuado para crear mentes conscientes nun ordenador. Non obstante, expuxéronse argumentos sólidos de que se o progreso tecnolóxico continúa sen cesar, estas limitacións acabarán por superarse. Algúns autores sosteñen que esta fase producirase en poucas décadas. Non obstante, para os efectos da nosa discusión, non se requiren supostos sobre a escala temporal. A proba de simulación funciona igual de ben para aqueles que cren que levará centos de miles de anos chegar á fase de desenvolvemento "posthumana", cando a humanidade adquirirá a maioría das capacidades tecnolóxicas que agora se poden demostrar que son consistentes. con leis físicas e coas leis materiais.e restricións enerxéticas.
Esta madura fase de desenvolvemento tecnolóxico permitirá converter os planetas e outros recursos astronómicos en ordenadores de poder colosal. Na actualidade, é difícil estar seguro de calquera límite á potencia de computación que estará dispoñible para as civilizacións poshumanas. Dado que aínda non temos unha "teoría de todo", non podemos descartar a posibilidade de que novos fenómenos físicos, prohibidos polas teorías físicas actuais, poidan ser utilizados para superar as limitacións que, segundo o noso entendemento actual, impoñan límites teóricos á información. procesamento dentro desta peza de materia. Con moita maior confianza, podemos establecer límites inferiores para a computación poshumana, asumindo só aqueles mecanismos que xa se entenden. Por exemplo, Eric Drexler esbozou un deseño para un sistema do tamaño dun cubo de azucre (menos a fonte de enerxía e refrixeración) que podería realizar 1021 operacións por segundo. Outro autor fixo unha estimación aproximada de 1042 operacións por segundo para un ordenador do tamaño dun planeta. (Se aprendemos a construír computadoras cuánticas, ou aprendemos a construír computadoras a partir de materia nuclear ou plasma, podemos achegarnos aínda máis aos límites teóricos. Seth Lloyd calculou que o límite superior para unha computadora de 1 kg era de 5 * 1050 operacións lóxicas por segundo). realizado en 1031 bit. Non obstante, para os nosos propósitos é suficiente empregar estimacións máis conservadoras, que implican só os principios de funcionamento coñecidos actualmente).
A cantidade de potencia do ordenador necesaria para emular un cerebro humano pódese estimar aproximadamente do mesmo xeito. Unha estimación, baseada no custo computacional que sería copiar o funcionamento dun anaco de tecido neural que xa entendemos e cuxa funcionalidade xa foi copiada en silicio (é dicir, o sistema de mellora do contraste na retina foi copiado), dá unha estimación dunhas 1014 operacións por segundo. Unha estimación alternativa, baseada no número de sinapses no cerebro e na frecuencia dos seus disparos, dá un valor de 1016-1017 operacións por segundo. En consecuencia, pode ser necesaria aínda máis potencia de cálculo se queremos simular en detalle o funcionamento interno das sinapses e das ramas dendríticas. Non obstante, é probable que o sistema nervioso central humano teña unha certa cantidade de redundancia a nivel micro para compensar a falta de fiabilidade e o ruído dos seus compoñentes neuronais. Polo tanto, cabería esperar importantes ganancias de eficiencia cando se usan procesadores non biolóxicos máis fiables e flexibles.
A memoria non é máis unha limitación que o poder de procesamento. Ademais, dado que o fluxo máximo de datos sensoriais humanos é da orde de 108 bits por segundo, simular todos os eventos sensoriais requiriría un custo insignificante en comparación coa simulación da actividade cortical. Así, podemos utilizar a potencia de procesamento necesaria para simular o sistema nervioso central como unha estimación do custo computacional global de simular a mente humana.
Se o ambiente está incluído na simulación, requirirá potencia informática adicional, cuxa cantidade depende do tamaño e do detalle da simulación. Simular todo o universo con precisión cuántica é obviamente imposible a menos que se descubra algunha nova física. Pero para lograr unha simulación realista da experiencia humana, é necesario moito menos, o suficiente para garantir que os humanos simulados que interactúan de xeito humano normal cun ambiente simulado non notarán ningunha diferenza. A estrutura microscópica do interior da Terra pódese omitir facilmente. Os obxectos astronómicos distantes poden ser sometidos a niveis de compresión moi altos: as semellanzas precisas só precisan estar dentro dun estreito rango de propiedades que podemos observar desde o noso planeta ou desde as naves espaciais dentro do sistema solar. Na superficie terrestre, os obxectos macroscópicos en lugares deshabitados deben ser simulados continuamente, pero os fenómenos microscópicos pódense cubrir. ad hoc, é dicir, segundo sexa necesario. O que ves a través dun microscopio electrónico non debería parecer sospeitoso, pero normalmente non tes xeito de comprobar a súa consistencia con partes non observables do micromundo. As excepcións xorden cando deseñamos sistemas deliberadamente para aproveitar fenómenos microscópicos non observables que funcionan segundo principios coñecidos para producir resultados que podemos verificar de forma independente. O exemplo clásico disto é o ordenador. A simulación, polo tanto, debe implicar simulacións continuas de ordenadores ata o nivel das portas lóxicas individuais. Isto non é un problema xa que a nosa potencia de computación actual é insignificante para os estándares posthumanos.
Ademais, un creador de simulacións poshumanas tería o suficiente poder de computación para supervisar en detalle o estado dos pensamentos en todos os cerebros humanos todo o tempo. Deste xeito, cando descobre que unha persoa está disposta a facer algunha observación sobre o micromundo, pode cubrir a simulación cun nivel de detalle suficiente como sexa necesario. Se se producise algún erro, o director de simulación podería editar facilmente os estados de calquera cerebro que se decatase da anomalía antes de destruír a simulación. Ou o director pode rebobinar a simulación uns segundos e reiniciala de forma que evite o problema.
Polo que se desprende que a parte máis cara de crear unha simulación que é indistinguible da realidade física para as mentes humanas dentro dela sería crear simulacións de cerebros orgánicos ata o nivel neural ou subneural. Aínda que é imposible dar unha estimación moi precisa do custo dunha simulación realista da historia humana, podemos utilizar a estimación das operacións 1033-1036 como estimación aproximada.
A medida que gañemos máis experiencia na creación de realidade virtual, entenderemos mellor os requisitos computacionais necesarios para que tales mundos parezan realistas aos seus visitantes. Pero aínda que a nosa estimación sexa errónea en varias ordes de magnitude, isto non fai moita diferenza na nosa proba. Observamos que unha estimación aproximada da potencia de procesamento dunha computadora de masa planetaria é de 1042 operacións por segundo, e isto só tendo en conta os deseños nanotecnolóxicos xa coñecidos, que probablemente están lonxe de ser óptimos. Un deses ordenadores pode simular toda a historia mental da humanidade (chamémoslle unha simulación de antepasados) usando só unha millonésima parte dos seus recursos en 1 segundo. Unha civilización poshumana pode eventualmente construír un número astronómico deste tipo de computadoras. Podemos concluír que unha civilización poshumana pode realizar un número colosal de simulacións ancestrais, aínda que só gaste nela unha pequena fracción dos seus recursos. Podemos chegar a esta conclusión aínda cunha marxe de erro importante en todas as nosas estimacións.
- As civilizacións poshumanas terán recursos informáticos suficientes para executar un gran número de simulacións ancestrais, incluso utilizando unha fracción moi pequena dos seus recursos para estes propósitos.
4. Núcleo de proba de simulación
A idea principal deste artigo pódese expresar do seguinte xeito: se hai unha posibilidade significativa de que a nosa civilización chegue algún día á etapa post-humana e realice moitas simulacións ancestrais, entón como podemos demostrar que non vivimos nun deses simulación?
Desenvolveremos esta idea en forma de proba rigorosa. Imos introducir a seguinte notación:
– a proporción de todas as civilizacións a nivel humano que sobreviven ata a etapa poshumana;
N é o número medio de simulacións de antepasados lanzadas por unha civilización poshumana;
H é o número medio de persoas que viviron nunha civilización antes de que chegase á etapa poshumana.
Entón, a fracción real de todos os observadores con experiencia humana que viven na simulación é:
Denotémonos como a proporción de civilizacións poshumanas que están interesadas en realizar simulacións de antepasados (ou que conteñen polo menos algún número de seres individuais que están interesados en facelo e teñen recursos significativos para realizar un número significativo de simulacións) e como o número medio. de simulacións de antepasados executadas por civilizacións tan interesadas, obtemos:
E, por conseguinte:
Debido ao poder de computación colosal das civilizacións poshumanas, este é un valor extremadamente grande, como vimos na sección anterior. Mirando a fórmula (*) podemos ver que polo menos unha das seguintes tres suposicións é certa:
5. Principio suave de equivalencia
Podemos ir un paso máis alá e concluír que se (3) é verdadeira, podes estar case seguro de que estás nunha simulación. En xeral, se sabemos que unha proporción x de todos os observadores con experiencia de tipo humano vive nunha simulación, e non temos información adicional que mostre que a nosa propia experiencia privada é máis ou menos probable que se encarne nunha máquina en lugar de vivo que outros tipos de experiencia humana, e entón a nosa confianza en que estamos nunha simulación debe ser igual a x:
Este paso está xustificado por un principio de equivalencia moi débil. Imos separar os dous casos. No primeiro caso, que é máis sinxelo, todas as mentes que se examinan son como as túas, no sentido de que son exactamente iguais cualitativamente á túa mente: teñen a mesma información e as mesmas experiencias ca ti. No segundo caso, as mentes só son semellantes entre si nun sentido amplo, sendo ese tipo de mentes propias dos seres humanos, pero cualitativamente diferentes entre si e cada unha con un conxunto de experiencias diferente. Argumento que mesmo no caso de que as mentes sexan cualitativamente diferentes, a proba da simulación aínda funciona, sempre que non teña ningunha información que responda á pregunta de cales das varias mentes se simulan e cales se realizan bioloxicamente.
Na literatura deuse unha xustificación detallada para o principio máis rigoroso, que inclúe tanto os nosos exemplos particulares como casos especiais triviais. A falta de espazo non nos permite presentar aquí toda a razón de ser, pero podemos dar aquí unha das xustificacións intuitivas. Imaxinemos que o x% dunha poboación ten unha determinada secuencia xenética S dentro dunha determinada parte do seu ADN, que se adoita chamar "ADN lixo". Supoña ademais que non hai manifestacións de S (agás as que poden aparecer durante as probas xenéticas) e que non hai correlacións entre a posesión de S e ningunha manifestación externa. Entón é bastante obvio que antes de secuenciar o teu ADN, é racional atribuír un x% de confianza á hipótese de que tes o fragmento S. E iso é bastante independente do feito de que as persoas que teñen S teñan mentes e experiencias cualitativamente diferentes. das persoas que non teñen S. (Son diferentes simplemente porque todas as persoas teñen experiencias diferentes, non porque haxa ningunha conexión directa entre S e o tipo de experiencia que ten unha persoa).
O mesmo razoamento aplícase se S non é a propiedade de ter unha determinada secuencia xenética, senón o feito de estar nunha simulación, no suposto de que non dispoñemos de información que nos permita predecir diferenzas entre as experiencias das mentes simuladas e entre as experiencias dos orixinais biolóxicos.mentes
Cómpre subliñar que o principio suave de equivalencia enfatiza só a equivalencia entre hipóteses sobre que observador es, cando non se ten información sobre que observador es. Xeralmente non asigna equivalencia entre hipóteses cando non tes información específica sobre que hipótese é certa. A diferenza de Laplace e doutros principios de equivalencia máis fortes, non está así suxeito ao paradoxo de Bertrand e a outras dificultades similares que complican a aplicación sen restricións dos principios de equivalencia.
Os lectores familiarizados co argumento do Doomsday (DA) (J. Leslie, "Is the End of the World Nigh?" Philosophical Quarterly 40, 158: 65-72 (1990)) poden preocuparse de que o principio de equivalencia aplicado aquí descanse nos mesmos supostos. que son os responsables de eliminar a alfombra debaixo de DA, e que a contraintuitividade dalgunhas das súas conclusións arroxa unha sombra sobre a validez do argumento da simulación. Isto está mal. DA descansa na premisa moito máis rigorosa e controvertida de que unha persoa debe razoar coma se fose unha mostra aleatoria de toda a poboación de persoas que viviron e vivirán (pasado, presente e futuro), a pesar de que sabemos que que vivimos a principios do século XXI, e non nalgún momento nun futuro afastado. O principio de incerteza suave só se aplica aos casos nos que non temos información adicional sobre a que grupo de persoas pertencemos.
Se as apostas son unha base para a crenza racional, entón se todo o mundo aposta por se está nunha simulación ou non, entón se a xente usa o principio de incerteza suave e aposta por que está nunha simulación, confiando no coñecemento de que a maioría da xente está nunha simulación. nel, entón case todos gañarán as súas apostas. Se apostan por non estar nunha simulación, case todos perderán. Parece máis útil seguir o principio de equivalencia branda. Ademais, pódese imaxinar unha secuencia de posibles situacións nas que unha proporción crecente de persoas vive en simulacións: 98%, 99%, 99.9%, 99.9999%, etc. A medida que se aproxima ao límite superior, onde todo o mundo está vivindo nunha simulación (a partir do cal se pode deducir dedutivamente que todos están nunha simulación), parece razoable esixir que a certeza que se atribúe a estar nunha simulación se aproxime suave e continuamente ao límite limitante de total confianza.
6. Interpretación
A posibilidade mencionada no parágrafo (1) é bastante clara. Se (1) é verdade, entón a humanidade case seguramente fallará en alcanzar o nivel poshumano; ningunha especie do noso nivel de desenvolvemento se fai poshumana, e é difícil atopar ningunha xustificación para pensar que a nosa propia especie ten algunha vantaxe ou protección especial contra futuras catástrofes. Dada a condición (1), debemos, polo tanto, asignarlle a Doom (DOOM) unha elevada verosimilitud, é dicir, a hipótese de que a humanidade desaparecerá antes de alcanzar o nivel posthumano:
Podemos imaxinar unha situación hipotética na que teñamos datos que se solapan co noso coñecemento de fp. Por exemplo, se nos atopamos a piques de ser alcanzados por un asteroide xigante, poderiamos asumir que tivemos unha mala sorte excepcional. Entón podemos atribuír á hipótese do Doom unha maior validez que a nosa expectativa da proporción de civilizacións a nivel humano que non conseguirán a poshumanidade. No noso caso, porén, parece que non temos motivos para pensar que somos especiais neste aspecto, para ben ou para mal.
A premisa (1) non significa por si mesma que poidamos extinguirnos. Suxire que é pouco probable que cheguemos a unha fase poshumana. Esta posibilidade podería significar, por exemplo, que permaneceremos nos nosos niveis actuais ou lixeiramente por riba durante moito tempo antes de extinguirnos. Outra posible razón para que (1) sexa verdade é que é probable que a civilización tecnolóxica colapse. Ao mesmo tempo, as sociedades humanas primitivas permanecerán na Terra.
Hai moitas formas nas que a humanidade podería extinguirse antes de chegar á fase de desenvolvemento poshumana. A explicación máis natural para (1) é que nos extinguiremos como resultado do desenvolvemento dalgunha tecnoloxía poderosa pero perigosa. Un candidato é a nanotecnoloxía molecular, cuxa etapa madura permitirá a creación de nanorobots autorreplicantes que poden alimentarse de sucidade e materia orgánica, unha especie de bacterias mecánicas. Estes nanorobots, se están deseñados con fins maliciosos, poderían levar á morte de toda a vida do planeta.
Unha segunda alternativa á conclusión do argumento da simulación é que a proporción de civilizacións poshumanas que están interesadas en executar simulacións ancestrais é insignificante. Para que (2) sexa verdade, debe haber unha converxencia estrita entre as vías de desenvolvemento das civilizacións avanzadas. Se o número de simulacións de antepasados producidos por civilizacións interesadas é excepcionalmente grande, entón a rareza destas civilizacións debe ser extrema. Practicamente ningunha civilización poshumana decide utilizar os seus recursos para crear gran cantidade de simulacións ancestrais. Ademais, case todas as civilizacións poshumanas carecen de individuos que teñan os recursos e o interese axeitados para realizar simulacións ancestrais; ou teñen leis, apoiadas pola forza, para evitar que os individuos actúen segundo os seus desexos.
Que forza pode levar a tal converxencia? Pódese argumentar que as civilizacións avanzadas están a desenvolverse colectivamente ao longo dunha traxectoria que leva ao recoñecemento da prohibición ética de realizar simulacións ancestrais debido ao sufrimento que experimentan os habitantes da simulación. Porén, desde a nosa perspectiva actual, non parece obvio que a creación da raza humana sexa inmoral. Pola contra, tendemos a percibir a existencia da nosa raza como de gran valor ético. Ademais, a converxencia de puntos de vista éticos por si só sobre a inmoralidade de realizar simulacións ancestrais non é suficiente: debe combinarse coa converxencia da estrutura social dunha civilización, o que dá lugar a que as actividades consideradas inmorais sexan efectivamente prohibidas.
Outra posibilidade de converxencia é que case todos os posthumanos individuais en case todas as civilizacións poshumanas evolucionen nunha dirección na que perden o impulso de realizar simulacións ancestrais. Isto requirirá cambios significativos nas motivacións que impulsan os seus antepasados poshumanos, xa que, sen dúbida, hai moitas persoas ás que lles gustaría realizar simulacións dos seus antepasados se puidesen. Pero quizais moitos dos nosos desexos humanos lle parezan tontos a quen se converta en posthumano. Quizais a importancia científica das simulacións ancestrais para as civilizacións poshumanas sexa insignificante (o que non parece demasiado improbable dada a súa incrible superioridade intelectual) e quizais os poshumanos consideren que a actividade recreativa é unha forma moi ineficiente de obter pracer -que se pode obter moito máis barato debido a estimulación directa dos centros de pracer do cerebro. Unha conclusión que se desprende de (2) é que as sociedades posthumanas serán moi diferentes das sociedades humanas: non terán axentes independentes relativamente ricos que teñan toda a gama de desexos humanos e sexan libres de actuar sobre eles.
A posibilidade descrita pola conclusión (3) é a máis intrigante dende o punto de vista conceptual. Se vivimos nunha simulación, entón o cosmos que observamos é só unha pequena peza na totalidade da existencia física. A física do universo no que reside a computadora pode ou non parecerse á física do mundo que observamos. Aínda que o mundo que observamos é ata certo punto "real", non está situado nalgún nivel fundamental da realidade. Pode ser posible que as civilizacións simuladas se volvan poshumanas. Poden á súa vez executar simulacións de antepasados en potentes ordenadores que construíron no universo simulado. Tales ordenadores serían "máquinas virtuais", un concepto moi común na informática. (As aplicacións web escritas en script Java, por exemplo, execútanse nunha máquina virtual (un ordenador simulado) no seu portátil.)
As máquinas virtuais pódense aniñar unhas dentro das outras: é posible simular unha máquina virtual simulando outra máquina, e así sucesivamente, cun número de pasos arbitrariamente grande. Se podemos crear as nosas propias simulacións dos nosos antepasados, esta sería unha evidencia sólida contra os puntos (1) e (2) e, polo tanto, teríamos que concluír que estamos vivindo nunha simulación. Ademais, teremos que sospeitar que os poshumanos que realizaron a nosa simulación son eles mesmos seres simulados, e os seus creadores, á súa vez, tamén poden ser seres simulados.
Así, a realidade pode conter varios niveis. Aínda que a xerarquía rematase nalgún nivel -o estado metafísico desta afirmación non está claro- pode haber espazo suficiente para un gran número de niveis de realidade, e este número pode aumentar co paso do tempo. (Unha consideración que fala en contra desta hipótese multinivel é que o custo computacional dos simuladores de nivel base sería moi grande. Simular incluso unha única civilización poshumana podería ser prohibitivamente caro. Se é así, deberíamos esperar que a nosa simulación estea desactivada , cando nos achegamos ao nivel poshumano.)
Aínda que todos os elementos deste sistema son naturalistas, mesmo físicos, é posible debuxar algunhas analoxías soltas con conceptos relixiosos do mundo. En certo sentido, os poshumanos que executan a simulación son como deuses en relación coas persoas da simulación: os posthumanos crean o mundo que vemos; teñen unha intelixencia superior a nós; son omnipotentes no sentido de que poden interferir co funcionamento do noso mundo de maneira que violan as leis físicas, e son omniscientes no sentido de que poden controlar todo o que acontece. Non obstante, todos os semideuses, excepto os que viven no nivel fundamental da realidade, están suxeitos ás accións de deuses máis poderosos que viven en niveis máis altos da realidade.
A elaboración destes temas podería dar lugar a unha teogonía naturalista que explorase a estrutura desta xerarquía e as limitacións impostas aos habitantes pola posibilidade de que as súas accións ao seu nivel poidan influír na actitude dos habitantes dun nivel máis profundo de realidade cara a eles. . Por exemplo, se ninguén pode estar seguro de que está no nivel básico, entón todos deben considerar a probabilidade de que as súas accións sexan recompensadas ou castigadas, quizais en base a algúns criterios morais, polos anfitrións da simulación. A vida despois da morte será unha posibilidade real. Debido a esta incerteza fundamental, incluso unha civilización a nivel básico terá un incentivo para comportarse éticamente. O feito de que teñan unha razón para comportarse moralmente será, por suposto, un bo motivo para que outra persoa se comporte moralmente, e así sucesivamente, formando un círculo virtuoso. Deste xeito pódese obter algo así como un imperativo ético universal, que será do propio interese de todos cumprir, e que sae da “nada”.
Ademais das simulacións ancestrais, pódese imaxinar a posibilidade de simulacións máis selectivas que inclúan só un pequeno grupo de persoas ou un só individuo. O resto da xente sería entón "zombis" ou "xente da sombra": persoas simuladas só nun nivel suficiente para que as persoas completamente simuladas non noten nada sospeitoso.
Non está claro canto máis barato sería simular persoas na sombra que persoas reais. Nin sequera é obvio que é posible que un obxecto se comporte indistinguiblemente dunha persoa real e aínda non teña experiencias conscientes. Aínda que existan tales simulacións selectivas, non podes estar seguro de que estás nunha ata que esteas seguro de que tales simulacións son moito máis numerosas que as completas. O mundo tería que ter uns 100 millóns máis de simulacións I (simulacións da vida dunha soa conciencia) que as simulacións completas de antepasados, para que a maioría das persoas simuladas estean en simulacións I.
Tamén é posible que os simuladores salten certas partes da vida mentais dos seres simulados e lles dean recordos falsos do tipo de experiencias que terían vivido durante os períodos omitidos. Se é así, pódese imaxinar a seguinte solución (extremada) ao problema do mal: que realmente non hai sufrimento no mundo e que todos os recordos do sufrimento son unha ilusión. Por suposto, esta hipótese só pode considerarse seriamente naqueles momentos nos que ti mesmo non estás sufrindo.
Asumindo que vivimos nunha simulación, cales son as implicacións para os humanos? En contra do que se dixo ata agora, as consecuencias para as persoas non son especialmente drásticas. A nosa mellor guía sobre como os nosos creadores posthumanos elixiron organizar o noso mundo é o exame empírico estándar do universo tal e como o vemos. Os cambios na maior parte do noso sistema de crenzas probablemente serán pequenos e leves, proporcionais á nosa falta de confianza na nosa capacidade para comprender o sistema de pensamento posthumano.
Unha comprensión correcta da verdade da tese (3) non debe volvernos "tolos" nin obrigarnos a deixar o noso negocio e deixar de facer plans e predicións para mañá. A principal importancia empírica de (3) polo momento parece radicar no seu papel na tripla conclusión dada anteriormente.
Deberíamos esperar que (3) sexa certa porque reduce a probabilidade de (1), pero se as limitacións computacionais fan que os simuladores desactiven a simulación antes de que alcance niveis posthumanos, entón a nosa mellor esperanza é que (2) é verdade..
Se aprendemos máis sobre a motivación poshumana e as limitacións de recursos, quizais como resultado da nosa evolución cara á poshumanidade, entón a hipótese de que somos simulados terá un conxunto moito máis rico de aplicacións empíricas.
7. Conclusión
Unha civilización poshumana tecnoloxicamente madura tería un enorme poder de computación. En base a isto, o razoamento sobre a simulación mostra que polo menos un dos seguintes é certo:
- (1) A proporción de civilizacións a nivel humano que alcanza o nivel poshumano é moi próxima a cero.
- (2) A proporción de civilizacións poshumanas que están interesadas en executar simulacións de predecesores é moi próxima a cero.
- (3) A proporción de todas as persoas co noso tipo de experiencia que viven nunha simulación é próxima a unha.
Se (1) é verdade, entón case seguro que morreremos antes de chegar ao nivel posthumano.
Se (2) é verdade, debería haber unha converxencia estritamente coordinada dos camiños de desenvolvemento de todas as civilizacións avanzadas, de xeito que ningunha delas tería individuos relativamente ricos que estarían dispostos a realizar simulacións dos seus antepasados e serían libres de facelo. así.
Se (3) é verdade, entón case con certeza estamos vivindo nunha simulación. O bosque escuro da nosa ignorancia fai razoable distribuír a nosa confianza case equitativamente entre os puntos (1), (2) e (3).
A menos que xa esteamos vivindo nunha simulación, os nosos descendentes case seguro que nunca executarán as simulacións dos seus antepasados.
Agradecementos
Estou agradecido a moitas persoas polos seus comentarios, especialmente a Amara Angelica, Robert Bradbury, Milan Cirkovic, Robin Hanson, Hal Finney, Robert A. Freitas Jr., John Leslie, Mitch Porter, Keith DeRose, Mike Treder, Mark Walker, Eliezer Yudkowsky. , e árbitros anónimos.
Tradución: Alexey Turchin
Notas do tradutor:
1) As conclusións (1) e (2) non son locais. Din que ou todas as civilizacións perecen, ou todos non queren crear simulacións. Esta afirmación aplícase non só a todo o universo visible, non só a toda a infinitud do universo máis aló do horizonte da visibilidade, senón tamén a todo o conxunto de universos de 10**500 graos con diferentes propiedades que son posibles, segundo a teoría de cordas. . Pola contra, a tese de que vivimos nunha simulación é local. As afirmacións xerais teñen moito menos probabilidades de ser verdadeiras que as afirmacións específicas. (Compare: "Todas as persoas son loiras" e "Ivanov é louro" ou "todos os planetas teñen unha atmosfera" e "Venus ten unha atmosfera.") Para refutar unha afirmación xeral, unha excepción é suficiente. Así, a afirmación de que vivimos nunha simulación é moito máis probable que as dúas primeiras alternativas.
2) Non é necesario o desenvolvemento de ordenadores; por exemplo, os soños son suficientes. O que verá cerebros modificados xeneticamente e especialmente adaptados.
3) O razoamento de simulación funciona na vida cotiá. A maioría das imaxes que entran no noso cerebro son simulacións -son películas, televisión, Internet, fotografías, publicidade- e, por último, pero non menos importante, soños.
4) Canto máis inusual sexa o obxecto que vemos, máis probable é que estea na simulación. Por exemplo, se vexo un terrible accidente, o máis probable é que o vexa nun soño, na televisión ou nunha película.
5) As simulacións poden ser de dous tipos: simulación de toda a civilización e simulación da historia persoal ou mesmo un único episodio da vida dunha persoa.
6) É importante distinguir a simulación da imitación: é posible simular unha persoa ou unha civilización que nunca existiu na natureza.
7) As supercivilizacións deberían estar interesadas en crear simulacións para estudar diferentes versións do seu pasado e así diferentes alternativas para o seu desenvolvemento. E tamén, por exemplo, estudar a frecuencia media doutras supercivilizacións no espazo e as súas propiedades esperadas.
8) O problema da simulación enfróntase ao problema dos zombies filosóficos (é dicir, seres desprovistos de qualia, como sombras nunha pantalla de televisión). Os seres simulados non deben ser zombies filosóficos. Se a maioría das simulacións conteñen zombies filosóficos, entón o razoamento non funciona (xa que non son un zombie filosófico).
9) Se hai varios niveis de simulación, a mesma simulación de nivel 2 pode ser utilizada en varias simulacións de nivel 1 diferentes por parte dos que viven na simulación de nivel 0. Para aforrar recursos informáticos. É como moitas persoas diferentes vendo a mesma película. É dicir, digamos que creei tres simulacións. E cada un deles creou 1000 subsimulacións. Entón tería que executar 3003 simulacións no meu superordenador. Pero se as simulacións crearon subsimulacións esencialmente idénticas, entón só teño que simular 1000 simulacións, presentando o resultado de cada unha delas tres veces. É dicir, realizarei 1003 simulacións en total. Noutras palabras, unha simulación pode ter varios propietarios.
10) Se estás vivindo nunha simulación ou non pode ser determinado polo que a túa vida difire da media na dirección de único, interesante ou importante. A suxestión aquí é que facer simulacións de persoas interesantes que viven en tempos interesantes de cambios importantes é máis atractivo para os creadores da simulación, independentemente do seu propósito: entretemento ou investigación. O 70% das persoas que viviron na Terra eran campesiños analfabetos. . Non obstante, aquí hai que ter en conta o efecto da selección observacional: os campesiños analfabetos non podían cuestionar se estaban ou non na simulación e, polo tanto, o feito de que non sexas un campesiño analfabeto non proba que esteas na simulación. Probablemente, a era na rexión da Singularidade será de maior interese para os autores da simulación, xa que na súa rexión é posible unha bifurcación irreversible dos camiños de desenvolvemento da civilización, que pode verse influenciada por pequenos factores, incluíndo as características de unha persoa. Por exemplo, eu, Alexey Turchin, creo que a miña vida é tan interesante que é máis probable que sexa simulada que real.
11) O feito de estar nunha simulación aumenta os nosos riscos.
12) É importante ter en conta que Bostrom di que polo menos un dos tres é verdade. É dicir, son posibles situacións nas que algúns dos puntos son certos ao mesmo tempo. Por exemplo, o feito de que imos morrer non exclúe o feito de que vivamos nunha simulación e o feito de que a maioría das civilizacións non crean unha simulación.
13) As persoas simuladas e o mundo que os rodea poden non parecerse a ningunha persoa real nin ao mundo real, é importante que pensen que están no mundo real. Non son capaces de notar as diferenzas porque nunca viron ningún mundo real. Ou a súa capacidade para notar as diferenzas está embotada. Como ocorre nun soño.
14) Hai unha tentación de descubrir sinais de simulación no noso mundo, manifestados como milagres. Pero os milagres poden ocorrer sen simulación.
15) Existe un modelo da orde mundial que elimina o dilema proposto. (pero non sen as súas contradicións). É dicir, este é o modelo castanevo-budista, onde o observador dá a luz ao mundo enteiro.
16) A idea de simulación implica simplificación. Se a simulación é precisa para o átomo, entón será a mesma realidade. Neste sentido, pódese imaxinar unha situación na que unha determinada civilización aprendeu a crear mundos paralelos con determinadas propiedades. Nestes mundos, pode realizar experimentos naturais, creando diferentes civilizacións. É dicir, é algo así como a hipótese do zoo espacial. Estes mundos creados non serán simulacións, xa que serán moi reais, senón que estarán baixo o control de quen os crearon e poderán acendelos e apagalos. E tamén haberá máis deles, polo que aquí se aplica un razoamento estatístico similar ao do razoamento de simulación.
Capítulo do artigo "OVNI como factor de risco global":
Os OVNIs son fallos en Matrix
Segundo N. Bostrom (Nick Bostrom. Proba de simulación. ), a probabilidade de que vivamos nun mundo completamente simulado é bastante alta. É dicir, o noso mundo pode ser completamente simulado nun ordenador por algún tipo de supercivilización. Isto permite aos autores da simulación crear nela calquera imaxe, con obxectivos incomprensibles para nós. Ademais, se o nivel de control na simulación é baixo, acumularanse erros nela, como cando se executa un ordenador, e ocorrerán fallos e fallos que se poden notar. Os homes de negro convértense en axente Smith, que borran rastros de fallos. Ou algúns residentes da simulación poden acceder a algunhas capacidades non documentadas. Esta explicación permítenos explicar calquera posible conxunto de milagres, pero non explica nada específico: por que vemos tales manifestacións e non, por exemplo, elefantes rosas voando boca abaixo. O principal risco é que a simulación se poida utilizar para probar condicións extremas de funcionamento do sistema, é dicir, en modos catastróficos, e que a simulación simplemente se desactive se se fai demasiado complexa ou completa a súa función.
A cuestión principal aquí é o grao de control en Matrix. Se estamos a falar de Matrix baixo un control moi estrito, entón a probabilidade de fallos non planificados nel é pequena. Se a Matrix simplemente se inicia e despois se deixa para os seus propios dispositivos, acumularanse fallos nel, do mesmo xeito que os fallos se acumulan durante o funcionamento dun sistema operativo, a medida que funciona e se engaden novos programas.
A primeira opción implícase se os autores de Matrix están interesados en todos os detalles dos eventos que ocorren na Matrix. Neste caso, controlarán rigorosamente todos os fallos e borrarán coidadosamente. Se só lles interesa o resultado final de Matrix ou algún dos seus aspectos, entón o seu control será menos estrito. Por exemplo, cando unha persoa executa un programa de xadrez e sae para o día, só lle interesa o resultado do programa, pero non os detalles. Ademais, durante o funcionamento dun programa de xadrez, pode calcular moitos xogos virtuais, é dicir, mundos virtuais. Noutras palabras, os autores aquí están interesados no resultado estatístico do traballo de moitas simulacións e preocúpanse polos detalles do traballo dunha simulación só na medida en que os fallos non afectan o resultado final. E en calquera sistema de información complexo, acumúlase un certo número de fallos e, a medida que a complexidade do sistema crece, a dificultade de eliminalos crece exponencialmente. Polo tanto, é máis fácil soportar a presenza de certos fallos que eliminalos na raíz.
Ademais, é obvio que o conxunto de sistemas pouco controlados é moito maior que o conxunto dos estreitamente controlados, xa que os sistemas débilmente controlados lánzanse en grandes cantidades cando se poden producir MOI barato. Por exemplo, o número de xogos de xadrez virtuais é moito maior que os de grandes mestres reais, e o número de sistemas operativos domésticos é moito maior que o de supercomputadoras gobernamentais.
Así, os fallos na Matrix son aceptables sempre que non afecten ao funcionamento xeral do sistema. É o mesmo en realidade, se o meu tipo de letra do navegador comeza a aparecer nunha cor diferente, entón non vou reiniciar todo o ordenador nin demoler o sistema operativo. Pero vemos o mesmo no estudo dos ovnis e outros fenómenos anómalos! Hai un certo limiar por riba do cal non poden saltar nin os propios fenómenos nin a súa resonancia pública. Axiña que certos fenómenos comezan a achegarse a este limiar, ou desaparecen, ou aparecen persoas de negro, ou resulta que foi un engano ou morre alguén.
Teña en conta que hai dous tipos de simulacións: simulacións completas de todo o mundo e autosimulacións. Neste último, simula a experiencia vital dunha soa persoa (ou dun pequeno grupo de persoas). Nunha simulación I, é máis probable que te atopes nun papel interesante, mentres que nunha simulación completa, o 70 por cento dos heroes son campesiños. Por razóns de selección de observación, as simulacións I deberían ser moito máis frecuentes, aínda que esta consideración necesita máis reflexión. Pero nas simulacións I, o tema OVNI xa debería estar establecido, como toda a prehistoria do mundo. E pode incluírse a propósito, para explorar como tratarei este tema.
Ademais, en calquera sistema de información, tarde ou cedo, aparecen virus, é dicir, unidades de información parasitarias dirixidas á auto-replicación. Tales unidades poden xurdir na Matrix (e no inconsciente colectivo), e un programa antivirus incorporado debe funcionar contra elas. Porén, pola experiencia do uso de ordenadores e pola experiencia dos sistemas biolóxicos, sabemos que é máis fácil soportar a presenza de virus inofensivos que envelenalos ata o final. Ademais, a destrución completa dos virus moitas veces require a demolición do sistema.
Así, pódese supoñer que os OVNIs son virus que explotan fallos na Matrix. Isto explica o absurdo do seu comportamento, xa que a súa intelixencia é limitada, así como o seu parasitismo sobre as persoas, xa que a cada persoa se lle asigna unha determinada cantidade de recursos informáticos na Matrix que se poden utilizar. Pódese supoñer que algunhas persoas aproveitaron os fallos de Matrix para acadar os seus obxectivos, incluída a inmortalidade, pero tamén o fixeron os seres doutros entornos informáticos, por exemplo, simulacións de mundos fundamentalmente diferentes, que despois penetraron no noso mundo.
Outra pregunta é cal é o nivel de profundidade da simulación na que nos atopamos. É posible simular o mundo con precisión atómica, pero isto requiriría enormes recursos informáticos. Outro exemplo extremo é o shooter en primeira persoa. Nela debúxase unha imaxe tridimensional da zona segundo sexa necesario cando o personaxe principal se achega a un novo lugar, a partir do plano xeral da zona e duns principios xerais. Ou utilízanse espazos en branco para algúns lugares e ignórase o debuxo preciso doutros lugares (como na película "13th Floor"). Obviamente, canto máis precisa e detallada sexa a simulación, menos veces terá fallos. Por outra banda, as simulacións feitas "a toda présa" conterán moitos máis fallos, pero ao mesmo tempo consumirán inconmensurablemente menos recursos informáticos. Noutras palabras, cos mesmos custos sería posible facer unha simulación moi precisa ou un millón de simulacións aproximadas. Ademais, supoñemos que o mesmo principio se aplica ás simulacións que a outras cousas: é dicir, que canto máis barata é unha cousa, máis común é (é dicir, hai máis vidro que diamantes no mundo, máis meteoritos que asteroides e T. e.) Así, é máis probable que esteamos dentro dunha simulación barata e simplificada, que dentro dunha simulación complexa e ultra precisa. Pódese argumentar que no futuro estarán dispoñibles recursos informáticos ilimitados e, polo tanto, calquera actor realizará simulacións bastante detalladas. Non obstante, aquí é onde entra en xogo o efecto das simulacións de matrioshka. É dicir, unha simulación avanzada pode crear as súas propias simulacións, chamémoslles simulacións de segundo nivel. Digamos que unha simulación avanzada do mundo de mediados do século XXI (creado, digamos, no século XXIII real) pode crear miles de millóns de simulacións do mundo de principios do século XXI. Ao mesmo tempo, utilizará ordenadores de mediados do século XXI, que serán máis limitados en recursos informáticos que os ordenadores do século XXIII. (E tamén o século 23 real aforrará a precisión das subsimulacións, xa que non son importantes para el.) Polo tanto, todos os mil millóns de simulacións de principios do século XXI que vai crear serán moi económicos en termos de recursos informáticos. Debido a isto, o número de simulacións primitivas, así como as simulacións anteriores en canto ao tempo que se simulan, será mil millóns de veces maior que o número de simulacións máis detalladas e posteriores e, polo tanto, un observador arbitrario ten unha probabilidade de mil millóns de veces maior. de atoparse nun anterior (polo menos ata a aparición dos supercomputadores capaces de crear as súas propias simulacións) e unha simulación máis barata e falla. E segundo o principio da hipótese de automostraxe, todo o mundo debe considerarse como un representante aleatorio de moitas criaturas semellantes a si mesmo se quere obter as estimacións de probabilidade máis precisas.
Outra posibilidade é que os OVNIs sexan lanzados deliberadamente na Matrix para enganar ás persoas que viven nela e ver como reaccionarán ante el. Porque a maioría das simulacións, creo, están deseñadas para simular o mundo nalgunhas condicións especiais e extremas.
Aínda así, esta hipótese non explica toda a variedade de manifestacións específicas dos ovnis.
O risco aquí é que se a nosa simulación se sobrecarga de fallos, os propietarios da simulación poden decidir reiniciala.
Finalmente, podemos asumir a “xeración espontánea da Matrix”, é dicir, que vivimos nun ambiente informático, pero este ambiente foi xerado espontaneamente dalgún xeito nas orixes da existencia do universo sen a mediación de ningún ser creador. . Para que esta hipótese sexa máis convincente, primeiro debemos lembrar que, segundo unha das descricións da realidade física, as propias partículas elementais son autómatas celulares, algo así como combinacións estables no xogo da Vida. (un xogo)
Máis obras de Alexey Turchin:
Sobre Ontol
Ontol é un mapa que che permite escoller a ruta máis eficaz para dar forma á túa visión do mundo.
Ontol baséase nunha superposición de valoracións subxectivas, reflexo de textos lidos (idealmente, millóns/millóns de persoas). Cada persoa que participa no proxecto decide por si mesma cales son as 10/100 cousas máis importantes que leu/viu en aspectos significativos da vida (pensamento, saúde, familia, cartos, confianza, etc.) nos últimos 10 anos ou os seus. toda a vida. O que se pode compartir en 1 clic (textos e vídeos, non libros, conversas e eventos).
O resultado final ideal de Ontol é o acceso 10x-100x máis rápido (que os análogos existentes de wikipedia, quora, chats, canles, LJ, buscadores) a textos e vídeos significativos que afectarán a vida do lector ("Oh, como me gustaría le este texto antes! Probablemente, a vida tería sido diferente"). Gratis para todos os habitantes do planeta e en 1 clic.
- Canle de Telegram:
- Prototipo de servizo web:
- En Habré:
- En liña sobre startups de Y Combinator:
Fonte: www.habr.com