🥇Nick Bostrom: ¿Vivimos en una simulación por computadora (2001)?

Colecciono todos los textos más importantes de todos los tiempos y pueblos que influyen en la cosmovisión y la formación de una imagen del mundo ("Ontol"). Y luego pensé y pensé y presenté una hipótesis audaz de que este texto es más revolucionario e importante para nuestra comprensión de la estructura del mundo que la revolución copernicana y las obras de Kant. En RuNet, este texto (versión completa) estaba en pésimo estado, lo limpié un poco y, con el permiso del traductor, lo publico para discusión.

"¿Estás viviendo en una simulación por computadora?"

por Nick Bostrom [Publicado en Philosophical Quarterly (2003) vol. 53, núm. 211, págs. 243-255. (Primera versión: 2001)]

Este artículo establece que al menos uno de los siguientes tres supuestos es verdadero:

(1) es muy probable que la humanidad se extinguirá antes de llegar a la fase "posthumana";
(2) toda civilización posthumana con extrema baja probabilidad ejecutará un número significativo de simulaciones de su historia evolutiva (o variaciones de la misma) y
(3) es casi seguro que estamos vivir en una simulación por computadora.

De esto se deduce que la probabilidad de estar en una fase de la civilización posthumana, que será capaz de realizar simulaciones de sus predecesoras, es cero, a menos que aceptemos como cierto el caso de que ya estemos viviendo en una simulación. También se discuten otras implicaciones de este resultado.

1Introducción

Muchas obras de ciencia ficción, así como las previsiones de futuristas e investigadores tecnológicos serios, predicen que en el futuro estarán disponibles cantidades colosales de potencia informática. Supongamos que estas predicciones son correctas. Por ejemplo, las generaciones futuras, con sus ordenadores superpoderosos, podrán ejecutar simulaciones detalladas de sus predecesores o de personas similares a sus predecesores. Debido a que sus computadoras serán tan poderosas, podrán ejecutar muchas simulaciones similares. Supongamos que estas personas simuladas son conscientes (y lo serán si la simulación es muy precisa y si cierto concepto de conciencia ampliamente aceptado en filosofía es correcto). De ello se deduce que la mayor parte de mentes como la nuestra no pertenecen a la raza original, sino que pertenecen a personas simuladas por descendientes avanzados de la raza original. Con base en esto, se puede argumentar que es razonable esperar que estemos entre mentes biológicas naturales simuladas, en lugar de originales. Por lo tanto, a menos que creamos que ahora vivimos en una simulación por computadora, no debemos suponer que nuestros descendientes realizarán muchas simulaciones de sus antepasados. Ésta es la idea principal. Veremos esto con más detalle en el resto de este documento.

Además del interés que esta tesis puede tener para quienes participan en discusiones futuristas, también existe un interés puramente teórico. Esta prueba estimula la formulación de algunos problemas metodológicos y metafísicos, y también ofrece algunas analogías naturales con conceptos religiosos tradicionales, y estas analogías pueden parecer sorprendentes o sugerentes.

La estructura de este artículo es la siguiente: al principio formularemos una determinada suposición que debemos importar de la filosofía de la mente para que esta prueba funcione. Luego veremos algunas razones empíricas para creer que será posible ejecutar una amplia gama de simulaciones de mentes humanas para una civilización futura que desarrollará muchas de las mismas tecnologías que han demostrado ser consistentes con leyes físicas conocidas y limitaciones de ingeniería.

Esta parte no es necesaria desde un punto de vista filosófico, pero sin embargo incita a prestar atención a la idea principal del artículo. A esto le seguirá un resumen de la prueba, utilizando algunas aplicaciones simples de la teoría de la probabilidad, y una sección que justifique el principio de equivalencia débil que utiliza la prueba. Finalmente, discutiremos algunas interpretaciones de la alternativa mencionada al principio, y esta será la conclusión de la prueba sobre el problema de simulación.

2. Asunción de independencia de los medios

Un supuesto común en filosofía de la mente es el supuesto de independencia media. La idea es que los estados mentales pueden ocurrir en cualquiera de una amplia clase de medios físicos. Siempre que el sistema incorpore el conjunto correcto de estructuras y procesos computacionales, pueden ocurrir experiencias conscientes dentro de él. La propiedad esencial no es la encarnación de procesos intracraneales en redes nerviosas biológicas basadas en carbono: los procesadores basados en silicio dentro de las computadoras pueden hacer exactamente el mismo truco. Se han presentado argumentos a favor de esta tesis en la literatura existente y, aunque no son del todo consistentes, aquí los daremos por sentado.

La prueba que ofrecemos aquí, sin embargo, no depende de ninguna versión muy fuerte de funcionalismo o computacionalismo. Por ejemplo, no deberíamos aceptar que la tesis de la independencia del medio sea necesariamente cierta (en el sentido analítico o metafísico), sino sólo que, de hecho, una computadora bajo el control de un programa apropiado podría ser consciente. Además, no debemos suponer que para crear conciencia en una computadora, tendríamos que programarla de tal manera que se comporte como un humano en todos los casos, pase la prueba de Turing, etc. Sólo necesitamos una suposición más débil. que para crear experiencias subjetivas basta con que los procesos computacionales en el cerebro humano se copien estructuralmente con el detalle apropiado y de alta precisión, por ejemplo, al nivel de las sinapsis individuales. Esta versión refinada de la independencia de los medios es ampliamente aceptada.

Los neurotransmisores, los factores de crecimiento nervioso y otras sustancias químicas que son más pequeñas que las sinapsis desempeñan claramente un papel en la cognición y el aprendizaje humanos. La tesis de la independencia del vehículo no es que los efectos de estas sustancias químicas sean pequeños o insignificantes, sino que afectan la experiencia subjetiva sólo a través de efectos directos o indirectos sobre la actividad computacional. Por ejemplo, si no hay diferencias subjetivas sin que también haya una diferencia en la descarga sináptica, entonces el detalle de simulación requerido está en el nivel sináptico (o superior).

3.Límites tecnológicos de la informática

En el nivel actual de desarrollo tecnológico, no tenemos ni hardware suficientemente potente ni software adecuado para crear mentes conscientes en una computadora. Sin embargo, se han argumentado firmemente que si el progreso tecnológico continúa sin cesar, estas limitaciones eventualmente se superarán. Algunos autores sostienen que esta fase se producirá en apenas unas décadas. Sin embargo, para los propósitos de nuestra discusión, no se requieren suposiciones sobre la escala de tiempo. La prueba de la simulación funciona igual de bien para aquellos que creen que se necesitarán cientos de miles de años para alcanzar la fase de desarrollo "posthumano", cuando la humanidad habrá adquirido la mayoría de las capacidades tecnológicas que ahora se puede demostrar que son consistentes. con leyes físicas y con leyes materiales y restricciones energéticas.

Esta fase madura del desarrollo tecnológico permitirá convertir planetas y otros recursos astronómicos en computadoras de potencia colosal. En la actualidad, es difícil estar seguro de los límites a la potencia informática que estarán disponibles para las civilizaciones posthumanas. Como todavía no tenemos una “teoría del todo”, no podemos descartar la posibilidad de que nuevos fenómenos físicos, prohibidos por las teorías físicas actuales, puedan usarse para superar las limitaciones que, según nuestra comprensión actual, imponen límites teóricos a la información. procesamiento dentro de esta pieza de materia. Con mucha mayor confianza, podemos establecer límites inferiores para la computación posthumana, asumiendo sólo aquellos mecanismos que ya se comprenden. Por ejemplo, Eric Drexler esbozó un diseño para un sistema del tamaño de un terrón de azúcar (menos el enfriamiento y el suministro de energía) que podría realizar 1021 operaciones por segundo. Otro autor dio una estimación aproximada de 1042 operaciones por segundo para una computadora del tamaño de un planeta. (Si aprendemos a construir computadoras cuánticas, o aprendemos a construir computadoras a partir de materia nuclear o plasma, podemos acercarnos aún más a los límites teóricos. Seth Lloyd calculó que el límite superior para una computadora de 1 kg era 5 * 1050 operaciones lógicas por segundo. realizado en 1031 bits. Sin embargo, para nuestros propósitos es suficiente utilizar estimaciones más conservadoras, que implican sólo los principios de operación actualmente conocidos.)

La cantidad de potencia de computadora necesaria para emular un cerebro humano se puede estimar aproximadamente exactamente de la misma manera. Una estimación, basada en lo costoso que sería desde el punto de vista computacional copiar el funcionamiento de un trozo de tejido neural que ya conocemos y cuya funcionalidad ya ha sido copiada en silicio (es decir, se copió el sistema de mejora del contraste en la retina), da una estimación de aproximadamente 1014 operaciones por segundo. Una estimación alternativa, basada en el número de sinapsis en el cerebro y la frecuencia de su activación, da un valor de 1016-1017 operaciones por segundo. En consecuencia, es posible que se requiera aún más potencia de cálculo si quisiéramos simular en detalle el funcionamiento interno de las sinapsis y las ramas dendríticas. Sin embargo, es probable que el sistema nervioso central humano tenga cierta redundancia a nivel micro para compensar la falta de confiabilidad y el ruido de sus componentes neuronales. Por lo tanto, uno esperaría mejoras significativas en la eficiencia al utilizar procesadores no biológicos más confiables y flexibles.

La memoria no es más una limitación que la capacidad de procesamiento. Además, dado que el flujo máximo de datos sensoriales humanos es del orden de 108 bits por segundo, simular todos los eventos sensoriales requeriría un costo insignificante en comparación con la simulación de la actividad cortical. Por tanto, podemos utilizar la potencia de procesamiento necesaria para simular el sistema nervioso central como estimación del coste computacional general de la simulación de la mente humana.

Si el entorno se incluye en la simulación, requerirá potencia informática adicional, cuya cantidad depende del tamaño y detalle de la simulación. Simular el universo entero con precisión cuántica es obviamente imposible a menos que se descubra alguna nueva física. Pero para lograr una simulación realista de la experiencia humana, se requiere mucho menos: sólo lo suficiente para garantizar que los humanos simulados que interactúan de manera humana normal con un entorno simulado no notarán ninguna diferencia. La estructura microscópica del interior de la Tierra se puede omitir fácilmente. Los objetos astronómicos distantes pueden estar sujetos a niveles muy altos de compresión: las similitudes precisas sólo necesitan estar dentro de un estrecho rango de propiedades que podemos observar desde nuestro planeta o desde naves espaciales dentro del sistema solar. En la superficie de la Tierra, los objetos macroscópicos en lugares deshabitados deben simularse continuamente, pero los fenómenos microscópicos se pueden completar ad hoc, es decir, según sea necesario. Lo que se ve a través de un microscopio electrónico no debería parecer sospechoso, pero normalmente no hay forma de comprobar su coherencia con partes no observables del micromundo. Surgen excepciones cuando diseñamos deliberadamente sistemas para aprovechar fenómenos microscópicos no observables que funcionan según principios conocidos para producir resultados que podemos verificar de forma independiente. El ejemplo clásico de esto es la computadora. Por lo tanto, la simulación debe implicar simulaciones continuas de computadoras hasta el nivel de las puertas lógicas individuales. Esto no es un problema ya que nuestra potencia informática actual es insignificante según los estándares posthumanos.

Además, un creador de simulación posthumana tendría suficiente potencia informática para controlar en detalle el estado de los pensamientos en todos los cerebros humanos en todo momento. De esa manera, cuando descubre que una persona está dispuesta a hacer alguna observación sobre el micromundo, puede completar la simulación con el nivel de detalle suficiente según sea necesario. Si ocurriera algún error, el director de la simulación podría editar fácilmente los estados de cualquier cerebro que se diera cuenta de la anomalía antes de destruir la simulación. O el director puede rebobinar la simulación unos segundos y reiniciarla de forma que evite el problema.

De ello se deduce que la parte más costosa de crear una simulación que sea indistinguible de la realidad física para las mentes humanas que contiene sería crear simulaciones de cerebros orgánicos hasta el nivel neuronal o subneural. Si bien es imposible dar una estimación muy precisa del coste de una simulación realista de la historia humana, podemos utilizar la estimación de 1033-1036 operaciones como estimación aproximada.

A medida que adquiramos más experiencia en la creación de realidad virtual, comprenderemos mejor los requisitos computacionales necesarios para que dichos mundos parezcan realistas a los visitantes. Pero incluso si nuestra estimación es errónea en varios órdenes de magnitud, esto no supone mucha diferencia en nuestra demostración. Observamos que una estimación aproximada de la potencia de procesamiento de una computadora con masa planetaria es de 1042 operaciones por segundo, y esto sólo toma en cuenta los diseños nanotecnológicos ya conocidos, que probablemente estén lejos de ser óptimos. Una de esas computadoras puede simular toda la historia mental de la humanidad (llamémosla simulación de los antepasados) utilizando solo una millonésima parte de sus recursos en 1 segundo. Una civilización poshumana podría eventualmente construir una cantidad astronómica de tales computadoras. Podemos concluir que una civilización posthumana puede ejecutar una cantidad colosal de simulaciones ancestrales, incluso si gasta sólo una pequeña fracción de sus recursos en ello. Podemos llegar a esta conclusión incluso con un margen de error significativo en todas nuestras estimaciones.

Las civilizaciones poshumanas tendrán suficientes recursos informáticos para ejecutar un gran número de simulaciones ancestrales, incluso utilizando una fracción muy pequeña de sus recursos para estos fines.

4. Núcleo de prueba de simulación.

La idea principal de este artículo se puede expresar de la siguiente manera: si existe una posibilidad significativa de que nuestra civilización algún día alcance la etapa posthumana y ejecute muchas simulaciones ancestrales, entonces, ¿cómo podemos demostrar que no vivimos en una de esas? ¿simulación?

Desarrollaremos esta idea en forma de una prueba rigurosa. Introduzcamos la siguiente notación:

– la proporción de todas las civilizaciones de nivel humano que sobreviven hasta la etapa posthumana;
N es el número promedio de simulaciones de ancestros lanzadas por una civilización posthumana;
H es el número promedio de personas que vivieron en una civilización antes de que alcanzara la etapa posthumana.

Entonces la fracción real de todos los observadores con experiencia humana que viven en la simulación es:

Denotemos como la proporción de civilizaciones posthumanas que están interesadas en ejecutar simulaciones de ancestros (o que contienen al menos una cierta cantidad de seres individuales que están interesados en hacerlo y tienen recursos significativos para ejecutar una cantidad significativa de simulaciones) y como el número promedio de simulaciones de ancestros realizadas por civilizaciones interesadas, obtenemos:

Y por lo tanto:

Debido al colosal poder de computación de las civilizaciones poshumanas, este es un valor extremadamente grande, como vimos en la sección anterior. Si observamos la fórmula (*) podemos ver que al menos uno de los siguientes tres supuestos es verdadero:

5. Principio blando de equivalencia

Podemos ir un paso más allá y concluir que si (3) es cierto, puedes estar casi seguro de que estás en una simulación. En términos generales, si sabemos que una proporción x de todos los observadores con experiencia de tipo humano viven en una simulación, y no tenemos información adicional que demuestre que es más o menos probable que nuestra propia experiencia privada esté encarnada en una máquina en lugar de en una vivo que otros tipos de experiencia humana, y entonces nuestra confianza de que estamos en una simulación debe ser igual a x:

Este paso está justificado por un principio de equivalencia muy débil. Separemos los dos casos. En el primer caso, que es más simple, todas las mentes examinadas son como la tuya, en el sentido de que son exactamente iguales cualitativamente a tu mente: tienen la misma información y las mismas experiencias que tú. En el segundo caso, las mentes sólo son similares entre sí en un sentido amplio, siendo ese tipo de mentes propias de los seres humanos, pero cualitativamente diferentes entre sí y teniendo cada una un conjunto diferente de experiencias. Sostengo que incluso en el caso en que las mentes sean cualitativamente diferentes, la prueba de la simulación todavía funciona, siempre que no se tenga ninguna información que responda a la pregunta de cuáles de las diversas mentes están simuladas y cuáles están realizadas biológicamente.

En la literatura se ha dado una justificación detallada para el principio más riguroso, que incluye nuestros dos ejemplos particulares como casos especiales triviales. La falta de espacio no nos permite presentar aquí todos los fundamentos, pero podemos dar aquí una de las justificaciones intuitivas. Imaginemos que el x% de una población tiene una determinada secuencia genética S dentro de una determinada parte de su ADN, lo que suele denominarse "ADN basura". Supongamos además que no hay manifestaciones de S (aparte de las que pueden aparecer durante las pruebas genéticas) y que no hay correlaciones entre la posesión de S y cualquier manifestación externa. Entonces es bastante obvio que antes de secuenciar su ADN, es racional atribuir un x% de confianza a la hipótesis de que tiene el fragmento S. Y esto es bastante independiente del hecho de que las personas que tienen S tienen mentes y experiencias que son cualitativamente diferentes. de los de las personas que no tienen S. (Son diferentes simplemente porque todas las personas tienen experiencias diferentes, no porque exista una conexión directa entre S y el tipo de experiencia que tiene una persona).

El mismo razonamiento se aplica si S no es la propiedad de tener una secuencia genética particular, sino el hecho de estar en una simulación, en el supuesto de que no tenemos información que nos permita predecir diferencias entre las experiencias de las mentes simuladas y entre las experiencias de las mentes biológicas originales.

Debe enfatizarse que el principio suave de equivalencia enfatiza solo la equivalencia entre hipótesis sobre qué observador eres, cuando no tienes información sobre qué observador eres. Generalmente no asigna equivalencia entre hipótesis cuando no se tiene información específica sobre cuál hipótesis es verdadera. A diferencia de Laplace y otros principios de equivalencia más estrictos, no está sujeto a la paradoja de Bertrand ni a otras dificultades similares que complican la aplicación irrestricta de los principios de equivalencia.

Los lectores familiarizados con el argumento del Juicio Final (DA) (J. Leslie, “Is the End of the World Nigh?” Philosophical Quarterly 40, 158: 65‐72 (1990)) pueden preocuparse de que el principio de equivalencia aplicado aquí se base en los mismos supuestos. que son responsables de derribar a DA, y que el carácter contrario a la intuición de algunas de sus conclusiones arroja una sombra sobre la validez del argumento de la simulación. Esto está mal. DA se basa en la premisa mucho más rigurosa y controvertida de que una persona debe razonar como si fuera una muestra aleatoria de toda la población de personas que alguna vez han vivido y vivirán (pasado, presente y futuro), a pesar de que sabemos que vivimos a principios del siglo XXI, y no en algún momento de un futuro lejano. El principio de incertidumbre suave sólo se aplica a los casos en los que no tenemos información adicional sobre a qué grupo de personas pertenecemos.

Si las apuestas son la base de la creencia racional, entonces si todos apuestan a si están en una simulación o no, entonces si las personas usan el principio de incertidumbre suave y apuestan a estar en una simulación basándose en el conocimiento de que la mayoría de las personas lo están, entonces casi todos ganarán sus apuestas. Si apuestan a no estar en una simulación, entonces casi todos perderán. Parece más útil seguir el principio de equivalencia suave. A continuación, podemos imaginar una secuencia de situaciones posibles en las que cada vez más personas viven en simulaciones: 98%, 99%, 99.9%, 99.9999%, y así sucesivamente. A medida que nos acercamos al límite superior, donde todos viven en una simulación (de lo cual podemos concluir deductivamente que todos están en una simulación), parece razonable exigir que la certeza que alguien atribuye a estar en una simulación se aproxime de manera suave y continua al límite de certeza completa.

6. Interpretación

La posibilidad mencionada en el párrafo (1) es bastante clara. Si (1) es cierto, entonces es casi seguro que la humanidad no alcanzará el nivel posthumano; ninguna especie en nuestro nivel de desarrollo se vuelve posthumana, y es difícil encontrar alguna justificación para pensar que nuestra propia especie tiene ventajas o protección especial contra futuras catástrofes. Por lo tanto, dada la condición (1), debemos asignar una alta verosimilitud a Doom (DOOM), es decir, a la hipótesis de que la humanidad desaparecerá antes de alcanzar el nivel posthumano:

Podemos imaginar una situación hipotética en la que tengamos datos que se superpongan a nuestro conocimiento de fp. Por ejemplo, si estamos a punto de ser impactados por un asteroide gigante, podríamos suponer que hemos tenido una mala suerte excepcional. Entonces podemos atribuir mayor validez a la hipótesis de Doom que nuestra expectativa sobre la proporción de civilizaciones de nivel humano que no lograrán alcanzar la poshumanidad. En nuestro caso, sin embargo, parece que no tenemos motivos para pensar que seamos especiales en este sentido, para bien o para mal.

La premisa (1) no significa por sí sola que sea probable que nos extingamos. Sugiere que es poco probable que alcancemos una fase posthumana. Esta posibilidad podría significar, por ejemplo, que permaneceremos en nuestros niveles actuales o ligeramente por encima durante mucho tiempo antes de extinguirnos. Otra posible razón para que (1) sea cierta es que es probable que la civilización tecnológica colapse. Al mismo tiempo, las sociedades humanas primitivas permanecerán en la Tierra.

Hay muchas formas en que la humanidad podría extinguirse antes de alcanzar la fase de desarrollo poshumano. La explicación más natural para (1) es que nos extinguiremos como resultado del desarrollo de alguna tecnología poderosa pero peligrosa. Un candidato es la nanotecnología molecular, cuya etapa madura permitirá la creación de nanorobots autorreplicantes que pueden alimentarse de suciedad y materia orgánica, una especie de bacteria mecánica. Estos nanorobots, si se diseñan con fines maliciosos, podrían provocar la muerte de toda la vida en el planeta.

Una segunda alternativa a la conclusión del argumento de la simulación es que la proporción de civilizaciones posthumanas que están interesadas en realizar simulaciones ancestrales es insignificante. Para que (2) sea cierto, debe haber una convergencia estricta entre las vías de desarrollo de las civilizaciones avanzadas. Si el número de simulaciones de ancestros producidas por civilizaciones interesadas es excepcionalmente grande, entonces la rareza de tales civilizaciones debe ser correspondientemente extrema. Prácticamente ninguna civilización posthumana decide utilizar sus recursos para crear un gran número de simulaciones ancestrales. Además, casi todas las civilizaciones posthumanas carecen de individuos que tengan los recursos y el interés adecuados para ejecutar simulaciones ancestrales; o tienen leyes, respaldadas por la fuerza, para impedir que los individuos actúen según sus deseos.

¿Qué fuerza puede conducir a tal convergencia? Se podría argumentar que las civilizaciones avanzadas se están desarrollando colectivamente a lo largo de una trayectoria que conduce al reconocimiento de la prohibición ética de realizar simulaciones ancestrales debido al sufrimiento experimentado por los habitantes de la simulación. Sin embargo, desde nuestra perspectiva actual, no parece obvio que la creación de la raza humana sea inmoral. Por el contrario, tendemos a percibir la existencia de nuestra raza como algo de gran valor ético. Además, la convergencia de puntos de vista éticos por sí sola sobre la inmoralidad de realizar simulaciones ancestrales no es suficiente: debe combinarse con la convergencia de la estructura social de una civilización, lo que resulta en actividades consideradas inmorales que están efectivamente prohibidas.

Otra posibilidad de convergencia es que casi todos los posthumanos individuales en casi todas las civilizaciones posthumanas evolucionen en una dirección en la que pierdan el impulso de ejecutar simulaciones ancestrales. Esto requerirá cambios significativos en las motivaciones que impulsan a sus ancestros posthumanos, ya que ciertamente hay muchas personas a las que les gustaría realizar simulaciones de sus ancestros si pudieran. Pero quizás muchos de nuestros deseos humanos le parezcan tontos a cualquiera que se vuelva posthumano. Quizás la importancia científica de las simulaciones ancestrales para las civilizaciones posthumanas sea insignificante (lo que no parece demasiado improbable dada su increíble superioridad intelectual) y quizás los posthumanos consideren la actividad recreativa como una forma muy ineficiente de obtener placer -que puede obtenerse a un precio mucho más barato debido a Estimulación directa de los centros de placer del cerebro. Una conclusión que se desprende de (2) es que las sociedades posthumanas serán muy diferentes de las sociedades humanas: no tendrán agentes independientes relativamente ricos que tengan toda la gama de deseos humanos y sean libres de actuar en consecuencia.

La posibilidad descrita en la conclusión (3) es la más intrigante desde un punto de vista conceptual. Si vivimos en una simulación, entonces el cosmos que observamos es sólo una pequeña parte de la totalidad de la existencia física. La física del universo en el que reside la computadora puede parecerse o no a la física del mundo que observamos. Si bien el mundo que observamos es hasta cierto punto “real”, no se ubica en algún nivel fundamental de la realidad. Es posible que las civilizaciones simuladas se vuelvan posthumanas. A su vez, pueden ejecutar simulaciones de ancestros en potentes computadoras que han construido en el universo simulado. Estas computadoras serían “máquinas virtuales”, un concepto muy común en informática. (Las aplicaciones web escritas en script Java, por ejemplo, se ejecutan en una máquina virtual (una computadora simulada) en su computadora portátil).

Las máquinas virtuales pueden anidarse unas dentro de otras: es posible simular una máquina virtual simulando otra máquina, y así sucesivamente, con un número arbitrariamente grande de pasos. Si podemos crear nuestras propias simulaciones de nuestros antepasados, esto sería una fuerte evidencia en contra de los puntos (1) y (2) y, por lo tanto, tendríamos que concluir que estamos viviendo en una simulación. Además, tendremos que sospechar que los posthumanos que ejecutaron nuestra simulación son ellos mismos seres simulados, y sus creadores, a su vez, también pueden ser seres simulados.

La realidad puede, pues, contener varios niveles. Incluso si la jerarquía terminara en algún nivel (el estatus metafísico de esta afirmación no está claro), puede haber suficiente espacio para un gran número de niveles de realidad, y este número puede aumentar con el tiempo. (Una consideración que va en contra de tal hipótesis multinivel es que el costo computacional para los simuladores de nivel básico sería muy grande. Simular incluso una sola civilización posthumana podría ser prohibitivamente costoso. Si es así, entonces deberíamos esperar que nuestra simulación se apague. cuando nos acercamos al nivel posthumano.)

Aunque todos los elementos de este sistema son naturalistas, incluso físicos, es posible establecer algunas analogías vagas con conceptos religiosos del mundo. En cierto sentido, los posthumanos que ejecutan la simulación son como dioses en relación con las personas en la simulación: los posthumanos crean el mundo que vemos; tienen una inteligencia superior a la nuestra; son omnipotentes en el sentido de que pueden interferir con el funcionamiento de nuestro mundo de maneras que violan las leyes físicas, y son omniscientes en el sentido de que pueden monitorear todo lo que sucede. Sin embargo, todos los semidioses, excepto aquellos que viven en el nivel fundamental de la realidad, están sujetos a las acciones de dioses más poderosos que viven en niveles superiores de la realidad.

Una mayor elaboración de estos temas podría dar como resultado una teogonía naturalista que exploraría la estructura de esta jerarquía y las limitaciones impuestas a los habitantes por la posibilidad de que sus acciones en su nivel puedan influir en la actitud de los habitantes de un nivel más profundo de realidad hacia ellos. . Por ejemplo, si nadie puede estar seguro de estar en el nivel básico, entonces todos deben considerar la probabilidad de que sus acciones sean recompensadas o castigadas, tal vez basándose en algún criterio moral, por parte de los anfitriones de la simulación. La vida después de la muerte será una posibilidad real. Debido a esta incertidumbre fundamental, incluso una civilización de nivel básico tendrá un incentivo para comportarse éticamente. El hecho de que tengan una razón para comportarse moralmente será, por supuesto, una buena razón para que otra persona se comporte moralmente, y así sucesivamente, formando un círculo virtuoso. De esta manera se puede obtener algo así como un imperativo ético universal, cuyo cumplimiento redundará en interés de todos y que surge de “la nada”.

Además de las simulaciones ancestrales, uno puede imaginar la posibilidad de simulaciones más selectivas que incluyan sólo un pequeño grupo de personas o un solo individuo. El resto de las personas serían entonces "zombis" o "personas sombra": personas simuladas sólo a un nivel suficiente para que las personas completamente simuladas no notaran nada sospechoso.

No está claro cuánto más barato sería simular personas en la sombra que personas reales. Ni siquiera es obvio que sea posible que un objeto se comporte de manera indistinguible de una persona real y, sin embargo, no tenga experiencias conscientes. Incluso si tales simulaciones selectivas existieran, no puede estar seguro de estar en una hasta que esté seguro de que dichas simulaciones son mucho más numerosas que las simulaciones completas. El mundo tendría que tener alrededor de 100 mil millones más de simulaciones del I (simulaciones de la vida de una sola conciencia) que simulaciones completas de los antepasados, para que la mayoría de las personas simuladas estuvieran en simulaciones del I.

También es posible que los simuladores omitan ciertas partes de la vida mental de los seres simulados y les den recuerdos falsos del tipo de experiencias que habrían tenido durante los períodos omitidos. Si es así, uno puede imaginar la siguiente (descabellada) solución al problema del mal: que realmente no hay sufrimiento en el mundo y que todos los recuerdos del sufrimiento son una ilusión. Por supuesto, esta hipótesis sólo puede considerarse seriamente en aquellos momentos en los que usted mismo no esté sufriendo.

Suponiendo que vivamos en una simulación, ¿cuáles son las implicaciones para nosotros los humanos? Al contrario de lo que se ha dicho hasta ahora, las consecuencias para las personas no son especialmente drásticas. Nuestra mejor guía sobre cómo nuestros creadores posthumanos eligieron organizar nuestro mundo es el examen empírico estándar del universo tal como lo vemos. Los cambios en la mayor parte de nuestro sistema de creencias probablemente serán pequeños y leves, proporcionales a nuestra falta de confianza en nuestra capacidad para comprender el sistema de pensamiento posthumano.

Una comprensión correcta de la verdad de la tesis (3) no debería volvernos “locos” ni obligarnos a abandonar nuestro negocio y dejar de hacer planes y predicciones para el mañana. La principal importancia empírica de (3) por el momento parece residir en su papel en la triple conclusión dada anteriormente.

Deberíamos esperar que (3) sea cierto porque reduce la probabilidad de (1), pero si las limitaciones computacionales hacen probable que los simuladores apaguen la simulación antes de que alcance niveles poshumanos, entonces nuestra mejor esperanza es que (2) es verdad. .

Si aprendemos más sobre la motivación posthumana y las limitaciones de recursos, tal vez como resultado de nuestra evolución hacia la posthumanidad, entonces la hipótesis de que somos simulados tendrá un conjunto mucho más rico de aplicaciones empíricas.

7. Заключение

Una civilización poshumana tecnológicamente madura tendría una enorme potencia informática. Con base en esto, el razonamiento sobre la simulación muestra que al menos uno de los siguientes es cierto:

(1) La proporción de civilizaciones de nivel humano que alcanzan el nivel posthumano es muy cercana a cero.
(2) La proporción de civilizaciones poshumanas que están interesadas en realizar simulaciones de sus predecesoras es muy cercana a cero.
(3) La proporción de todas las personas con nuestro tipo de experiencia que viven en una simulación es cercana a uno.

Si (1) es cierto, entonces es casi seguro que moriremos antes de alcanzar el nivel posthumano.

Si (2) es cierto, entonces debería haber una convergencia estrictamente coordinada de las vías de desarrollo de todas las civilizaciones avanzadas, de modo que ninguna de ellas tuviera individuos relativamente ricos que estuvieran dispuestos a ejecutar simulaciones de sus antepasados y fueran libres de hacerlo. entonces.

Si (3) es cierta, entonces es casi seguro que vivimos en una simulación. El bosque oscuro de nuestra ignorancia hace razonable distribuir nuestra confianza casi equitativamente entre los puntos (1), (2) y (3).

A menos que ya estemos viviendo en una simulación, es casi seguro que nuestros descendientes nunca ejecutarán las simulaciones de sus antepasados.

Agradecimientos

Agradezco a muchas personas sus comentarios, especialmente a Amara Angelica, Robert Bradbury, Milan Cirkovic, Robin Hanson, Hal Finney, Robert A. Freitas Jr., John Leslie, Mitch Porter, Keith DeRose, Mike Treder, Mark Walker, Eliezer Yudkowsky. y árbitros anónimos.

Traducción: Alexey Turchin

Notas del traductor:
1) Las conclusiones (1) y (2) no son locales. Dicen que o todas las civilizaciones mueren o no todos quieren crear simulaciones. Esta afirmación se aplica no sólo a todo el universo visible, no sólo a todo el infinito del universo más allá del horizonte de visibilidad, sino también a todo el conjunto de universos de 10**500 grados con diferentes propiedades posibles, según la teoría de cuerdas. . En cambio, la tesis de que vivimos en una simulación es local. Es mucho menos probable que las declaraciones generales sean ciertas que las declaraciones específicas. (Compárese: “Todas las personas son rubias” e “Ivanov es rubio” o “todos los planetas tienen atmósfera” y “Venus tiene atmósfera”.) Para refutar una afirmación general, basta una excepción. Por tanto, la afirmación de que vivimos en una simulación es mucho más probable que las dos primeras alternativas.

2) El desarrollo de las computadoras no es necesario; por ejemplo, basta con soñar. Que verá cerebros genéticamente modificados y especialmente adaptados.

3) El razonamiento por simulación funciona en la vida cotidiana. La mayoría de las imágenes que entran en nuestro cerebro son simulaciones (películas, televisión, Internet, fotografías, publicidad) y, por último, pero no menos importante, sueños.

4) Cuanto más inusual sea el objeto que vemos, más probable es que esté en la simulación. Por ejemplo, si veo un accidente terrible, lo más probable es que lo vea en un sueño, en la televisión o en una película.

5) Las simulaciones pueden ser de dos tipos: simulación de toda la civilización y simulación de la historia personal o incluso de un solo episodio de la vida de una persona.

6) Es importante distinguir la simulación de la imitación: es posible simular a una persona o civilización que nunca existió en la naturaleza.

7) Las supercivilizaciones deberían estar interesadas en crear simulaciones para estudiar diferentes versiones de su pasado y, por tanto, diferentes alternativas para su desarrollo. Y también, por ejemplo, estudiar la frecuencia media de otras supercivilizaciones en el espacio y sus propiedades esperadas.

8) El problema de la simulación se enfrenta al problema de los zombis filosóficos (es decir, seres desprovistos de qualia, como sombras en una pantalla de televisión). Los seres simulados no deberían ser zombis filosóficos. Si la mayoría de las simulaciones contienen zombis filosóficos, entonces el razonamiento no funciona (ya que no soy un zombi filosófico).

9) Si hay varios niveles de simulación, entonces aquellos que viven en la simulación de nivel 2 pueden utilizar la misma simulación de nivel 1 en varias simulaciones de nivel 0 diferentes. Para ahorrar recursos informáticos. Es como si muchas personas diferentes estuvieran viendo la misma película. Es decir, digamos que creé tres simulaciones. Y cada uno de ellos creó 1000 subsimulaciones. Entonces tendría que ejecutar 3003 simulaciones en mi supercomputadora. Pero si las simulaciones crearon subsimulaciones esencialmente idénticas, entonces sólo necesito simular 1000 simulaciones, presentando el resultado de cada una de ellas tres veces. Es decir, ejecutaré 1003 simulaciones en total. En otras palabras, una simulación puede tener varios propietarios.

10) Si vives en una simulación o no, puede determinarse en qué medida tu vida difiere del promedio en la dirección de ser única, interesante o importante. La sugerencia aquí es que hacer simulaciones de personas interesantes que viven en tiempos interesantes de cambios importantes es más atractivo para los creadores de la simulación, independientemente de su propósito: entretenimiento o investigación. El 70% de las personas que alguna vez vivieron en la Tierra eran campesinos analfabetos. . Sin embargo, aquí se debe tener en cuenta el efecto de la selección observacional: los campesinos analfabetos no podían cuestionar si estaban en la simulación o no y, por lo tanto, el hecho de que no seas un campesino analfabeto no prueba que estés en la simulación. Probablemente, la era en la región de la Singularidad será de mayor interés para los autores de la simulación, ya que en su región es posible una bifurcación irreversible de las vías de desarrollo de la civilización, que puede verse influenciada por pequeños factores, incluidas las características de una persona. Por ejemplo, yo, Alexey Turchin, creo que mi vida es tan interesante que es más probable que sea simulada que real.

11) El hecho de que estemos en una simulación aumenta nuestros riesgos: a) la simulación se puede desactivar b) los autores de la simulación pueden experimentar con ella, creando situaciones obviamente improbables: la caída de un asteroide, etc.

12) Es importante señalar que Bostrom dice que al menos una de las tres es cierta. Es decir, son posibles situaciones en las que algunos de los puntos son ciertos al mismo tiempo. Por ejemplo, el hecho de que moriremos no excluye el hecho de que vivamos en una simulación y el hecho de que la mayoría de las civilizaciones no crean una simulación.

13) Las personas simuladas y el mundo que las rodea pueden no parecerse en absoluto a ninguna persona real o al mundo real, es importante que piensen que están en el mundo real. No son capaces de notar las diferencias porque nunca han visto ningún mundo real. O su capacidad para notar diferencias se ve embotada. Como sucede en un sueño.

14) Existe la tentación de descubrir signos de simulación en nuestro mundo, manifestados en milagros. Pero los milagros pueden ocurrir sin simulación.

15) Existe un modelo de orden mundial que elimina el dilema propuesto. (pero no sin sus contradicciones). Es decir, este es el modelo budista Castanevo, donde el observador da origen al mundo entero.

16) La idea de simulación implica simplificación. Si la simulación es exacta al átomo, entonces será la misma realidad. En este sentido, podemos imaginar una situación en la que una determinada civilización haya aprendido a crear mundos paralelos con determinadas propiedades. En estos mundos, puede realizar experimentos naturales, creando diferentes civilizaciones. Es decir, es algo así como la hipótesis del zoológico espacial. Estos mundos creados no serán simulaciones, ya que serán muy reales, pero estarán bajo el control de quienes los crearon y podrán encenderlos y apagarlos. Y también habrá más, por lo que aquí se aplica un razonamiento estadístico similar al de la simulación.
Capítulo del artículo “Los ovnis como factor de riesgo global”:

Los ovnis son fallos técnicos en Matrix

Según N. Bostrom (Nick Bostrom. Prueba de simulación. www.proza.ru/2009/03/09/639), la probabilidad de que vivamos en un mundo completamente simulado es bastante alta. Es decir, nuestro mundo puede ser completamente simulado en una computadora por algún tipo de supercivilización. Esto permite a los autores de la simulación crear en ella cualquier imagen con objetivos incomprensibles para nosotros. Además, si el nivel de control en la simulación es bajo, se acumularán errores en ella, como cuando se ejecuta una computadora, y se producirán fallas y fallos que se podrán notar. Los hombres de negro se convierten en agentes Smith, que borran los rastros de fallos. O algunos residentes de la simulación pueden obtener acceso a algunas capacidades no documentadas. Esta explicación nos permite explicar cualquier posible conjunto de milagros, pero no explica nada específico: por qué vemos tales manifestaciones y no, digamos, elefantes rosas volando boca abajo. El principal riesgo es que la simulación pueda usarse para probar condiciones extremas de funcionamiento del sistema, es decir, en modos catastróficos, y que la simulación simplemente se detenga si se vuelve demasiado compleja o completa su función.
La cuestión principal aquí es el grado de control en Matrix. Si hablamos de Matrix bajo un control muy estricto, entonces la probabilidad de que se produzcan fallos no planificados es pequeña. Si Matrix simplemente se inicia y luego se deja solo, los fallos se acumularán, al igual que los fallos se acumulan durante el funcionamiento de un sistema operativo, a medida que funciona y a medida que se agregan nuevos programas.

La primera opción se implementa si los autores de Matrix están interesados en todos los detalles de los eventos que ocurren en Matrix. En este caso, controlarán estrictamente todos los fallos y los borrarán cuidadosamente. Si sólo les interesa el resultado final de Matrix o uno de sus aspectos, entonces su control será menos estricto. Por ejemplo, cuando una persona ejecuta un programa de ajedrez y se marcha por el día, sólo le interesa el resultado del programa, pero no los detalles. Además, durante el funcionamiento de un programa de ajedrez, éste puede calcular muchas partidas virtuales, es decir, mundos virtuales. En otras palabras, los autores aquí están interesados en el resultado estadístico del trabajo de muchas simulaciones, y se preocupan por los detalles del trabajo de una simulación sólo en la medida en que los fallos no afecten el resultado final. Y en cualquier sistema de información complejo se acumula un cierto número de fallos y, a medida que crece la complejidad del sistema, la dificultad de eliminarlos crece exponencialmente. Por lo tanto, es más fácil soportar la presencia de ciertos fallos que eliminarlos de raíz.

Además, es obvio que el conjunto de sistemas poco controlados es mucho mayor que el conjunto de sistemas estrictamente controlados, ya que los sistemas débilmente controlados se lanzan en grandes cantidades cuando pueden producirse a un precio MUY económico. Por ejemplo, el número de partidas de ajedrez virtuales es mucho mayor que el de las partidas de grandes maestros reales, y el número de sistemas operativos domésticos es mucho mayor que el de supercomputadoras gubernamentales.
Por lo tanto, los fallos en Matrix son aceptables siempre que no afecten el funcionamiento general del sistema. En realidad, es lo mismo: si la fuente de mi navegador comienza a aparecer en un color diferente, entonces no reiniciaré toda la computadora ni demoleré el sistema operativo. ¡Pero vemos lo mismo en el estudio de los ovnis y otros fenómenos anómalos! Hay un cierto umbral por encima del cual ni los fenómenos mismos ni su resonancia pública pueden saltar. Tan pronto como ciertos fenómenos comienzan a acercarse a este umbral, o desaparecen, o aparecen personas vestidas de negro, o resulta que fue un engaño, o alguien muere.

Tenga en cuenta que hay dos tipos de simulaciones: simulaciones completas del mundo entero y autosimulaciones. En este último se simula la experiencia de vida de una sola persona (o de un pequeño grupo de personas). En una simulación I, es más probable que te encuentres en un papel interesante, mientras que en una simulación completa, el 70 por ciento de los héroes son campesinos. Por razones de selección observacional, las simulaciones I deberían ser mucho más frecuentes, aunque es necesario reflexionar más sobre esta consideración. Pero en las simulaciones I el tema OVNI ya debería estar establecido, como toda la prehistoria del mundo. Y puede incluirse a propósito: para explorar cómo manejaré este tema.

Además, en cualquier sistema de información, tarde o temprano, aparecen virus, es decir, unidades de información parásitas destinadas a la autorreplicación. Estas unidades pueden surgir en Matrix (y en el inconsciente colectivo), y un programa antivirus integrado debe actuar contra ellas. Sin embargo, por la experiencia en el uso de computadoras y por la experiencia de los sistemas biológicos, sabemos que es más fácil soportar la presencia de virus inofensivos que envenenarlos hasta el final. Además, la destrucción completa de los virus suele requerir la demolición del sistema.

Por lo tanto, se puede suponer que los ovnis son virus que explotan fallas en Matrix. Esto explica lo absurdo de su comportamiento, ya que su inteligencia es limitada, así como su parasitismo con las personas, ya que a cada persona se le asigna una cierta cantidad de recursos informáticos en Matrix que puede utilizar. Se puede suponer que algunas personas aprovecharon los fallos de Matrix para lograr sus objetivos, incluida la inmortalidad, pero también lo hicieron seres de otros entornos informáticos, por ejemplo, simulaciones de mundos fundamentalmente diferentes, que luego penetraron en el nuestro.
Otra pregunta es cuál es el nivel de profundidad de la simulación en la que probablemente nos encontremos. Es posible simular el mundo con precisión atómica, pero esto requeriría enormes recursos informáticos. Otro ejemplo extremo es el de disparos en primera persona. En él se dibuja una imagen tridimensional de la zona según sea necesario cuando el personaje principal se acerca a un nuevo lugar, basándose en el plano general de la zona y ciertos principios generales. O se utilizan espacios en blanco para algunos lugares y se ignora el dibujo preciso de otros lugares (como en la película “Piso 13”). Obviamente, cuanto más precisa y detallada sea la simulación, menos frecuentes serán los fallos. Por otro lado, las simulaciones realizadas "apresuradamente" contendrán muchos más fallos, pero al mismo tiempo consumirán muchísimo menos recursos informáticos. Es decir, con los mismos costes se podría hacer una simulación muy precisa o un millón de simulaciones aproximadas. Además, suponemos que se aplica el mismo principio a las simulaciones que a otras cosas: a saber, que cuanto más barata es una cosa, más común es (es decir, hay más vidrio que diamantes en el mundo, más meteoritos que asteroides y T. e.) Por lo tanto, es más probable que estemos dentro de una simulación barata y simplificada, que dentro de una simulación compleja y ultraprecisa. Se puede argumentar que en el futuro estarán disponibles recursos informáticos ilimitados y, por lo tanto, cualquier actor ejecutará simulaciones bastante detalladas. Sin embargo, aquí es donde entra en juego el efecto de las simulaciones de matrioskas. Es decir, una simulación avanzada puede crear sus propias simulaciones, llamémoslas simulaciones de segundo nivel. Digamos que una simulación avanzada del mundo de mediados del siglo XXI (creada, digamos, en el siglo XXIII real) puede crear miles de millones de simulaciones del mundo de principios del siglo XXI. Al mismo tiempo, utilizará computadoras de mediados del siglo XXI, que tendrán recursos informáticos más limitados que las computadoras del siglo XXIII. (Y también el siglo XXIII real ahorrará en la precisión de las subsimulaciones, ya que no son importantes para él). Por lo tanto, todos los mil millones de simulaciones de principios del siglo XXI que creará serán muy económicos en términos de recursos informáticos. Debido a esto, el número de simulaciones primitivas, así como las simulaciones anteriores en términos del tiempo que se simula, será mil millones de veces mayor que el número de simulaciones más detalladas y posteriores y, por lo tanto, un observador arbitrario tiene mil millones de veces más posibilidades. de encontrarse en una simulación anterior (al menos hasta la llegada de las supercomputadoras capaces de crear sus propias simulaciones) y más barata y con más fallas. Y de acuerdo con el principio del supuesto de automuestreo, todo el mundo debe considerarse a sí mismo como un representante aleatorio de muchas criaturas similares a él si quiere obtener las estimaciones de probabilidad más precisas. Por lo tanto, tenemos una probabilidad mucho mayor de a) terminar en la simulación más barata b) terminar antes de que aparezcan supercomputadoras capaces de crear simulaciones (así es) c) terminar en una i-simulación d) terminar en la parte inferior de una cadena de simulaciones anidadas, es decir, una simulación de nivel N, donde N es máximo e) terminar en una simulación con un nivel significativo de fallos.

Otra posibilidad es que los ovnis se lancen deliberadamente a Matrix para engañar a las personas que viven en ella y ver cómo reaccionarán ante ello. Porque creo que la mayoría de las simulaciones están diseñadas para simular el mundo en algunas condiciones especiales y extremas.

Aún así, esta hipótesis no explica toda la variedad de manifestaciones específicas de los ovnis.
El riesgo aquí es que si nuestra simulación se sobrecarga con fallos, los propietarios de la simulación pueden decidir reiniciarla.

Finalmente, podemos asumir la "generación espontánea de Matrix", es decir, que vivimos en un entorno informático, pero este entorno se generó espontáneamente de alguna manera en los orígenes de la existencia del universo sin la mediación de ningún ser creador. . Para que esta hipótesis sea más convincente, primero debemos recordar que, según una de las descripciones de la realidad física, las propias partículas elementales son autómatas celulares, algo así como combinaciones estables en el juego de la Vida. ru.wikipedia.org/wiki/Life_(un juego)

Más obras de Alexey Turchin:

Acerca de Ontol

Ontol es un mapa que te permite elegir la ruta más eficaz para dar forma a tu visión del mundo.

Ontol se basa en una superposición de valoraciones subjetivas, reflejo de textos leídos (idealmente, millones/miles de millones de personas). Cada persona que participa en el proyecto decide por sí misma cuáles son las 10/100 cosas más importantes que ha leído/visto en aspectos importantes de la vida (pensamiento, salud, familia, dinero, confianza, etc.) durante los últimos 10 años o su vida entera . Qué se puede compartir en 1 clic (textos y vídeos, no libros, conversaciones y eventos).

El resultado final ideal de Ontol es acceder entre 10 y 100 veces más rápido (que los análogos existentes de wikipedia, quora, chats, canales, LJ, motores de búsqueda) a textos y videos importantes que afectarán la vida del lector (“Oh, cómo desearía que yo ¡Lea este texto antes! Lo más probable es que la vida hubiera sido diferente"). Gratis para todos los habitantes del planeta y en 1 clic.