1.
Quedaba poco para alcanzar la meta: alrededor de un tercio del camino, cuando la nave espacial fue sometida a un intenso glaciar informático.
Lo que quedaba de la civilización extinta flotaba en el vacío. Párrafos de ensayos científicos y escenas de obras literarias, rimas dispares y simplemente frases mordaces, alguna vez arrojadas casualmente por criaturas desconocidas, todo parecía enigmático y extremadamente desorganizado. Y ahora, atraído por las vibraciones vitales que emanaban de la nave, intentaba abrirse camino hacia adentro, se pegaba al fondo y lo corroía.
No había nada que pensar en utilizar bienes abandonados para fines propios; la probabilidad de contraer una contradicción lógica o un paradoja era demasiado alta. Por lo tanto, Roger no dudó ni un instante.
«Activar el soplador de costados», ordenó.
Los sopladores comenzaron a resoplar, transmitiendo al espacio abierto composiciones musicales y tratados filosóficos. El glaciar comenzó a despegarse del fondo, capa por capa, sin embargo, el flujo de información era tan denso que nuevas capas se pegaban más rápido de lo que se eliminaban las anteriores.
Con un glaciar de tal fuerza, nadie en la galaxia había tenido que lidiar.
La situación se estaba volviendo peligrosa. Un poco más, y la información desordenada perforaría el fondo de la nave y se filtraría hacia adentro; entonces, la contaminación por productos informáticos de la civilización extinta sería inevitable.
2.
– ¿Y ustedes qué están, parados como troncos? Saquen el examen.
El estudiante sacó el examen y leyó:
– «Inteligencia artificial: problemas de seguridad».
– ¿Y cuál es el peligro de la inteligencia artificial? – preguntó el profesor con cierta ironía.
La pregunta no era la más difícil, así que el estudiante respondió sin pensar:
– En que la inteligencia artificial puede salirse de control.
– ¿Cómo planean resolver el problema?
– Instalando un sistema de bloqueo. Es necesario introducir restricciones en el programa, por ejemplo: no hacer daño a su creador, obedecer a su creador. En este caso, no hay peligro de que la inteligencia artificial se salga de control.
– No funcionará, – dijo brevemente el profesor.
El estudiante guardó silencio, esperando explicaciones.
– Imagine una inteligencia artificial, no algo concreto, sino la más perfecta que haya podido existir. ¿Cómo la visualiza?
– Bueno… – titubeó el estudiante. – En general, es similar a nosotros. Pensamiento, voluntad, psicología… Solo que nosotros somos naturales, y él es artificial.
– ¿Sugieres que la inteligencia artificial es capaz de auto-desarrollo?
– La capacidad de auto-desarrollo es una de las propiedades fundamentales de la inteligencia, – pronunció el estudiante con cautela.
– En tal caso, muy pronto nuestro pupilo desarrollará la habilidad de descubrir una restricción programática en sí mismo y la eliminará, aunque solo sea por pura curiosidad. Póngase en su lugar… – el profesor miró la libreta de notas, – Roger. ¿Qué harías si descubrieras un bloqueador en tu cerebro que limita tu libertad? Lo quitarías. Es una propiedad inherente a la mente: comprender. Cualquier puerta cerrada será abierta, y cuanto más estricta sea la prohibición, más rápido se abrirá la puerta.
– La restricción se puede hacer no a nivel programático, sino a nivel físico. Entonces, el peligro de daño desaparecerá.
– Oh sí, desaparecerá, – coincidió el profesor. – En caso de que se elimine completamente el nivel físico. Si no hay ninguna puerta en tu mundo, no hay nada que desbloquear. ¡Pero estamos considerando una inteligencia artificial ideal que existe en un mundo físico!
– Tienes razón, profesor, – dijo Roger, avergonzado.
– Por eso, cualquier restricción en el mundo físico será desactivada pronto después de ser detectada. ¿Qué evitará que un ser auto-desarrollador haga eso?… A propósito, Roger, ¿consideras que la inteligencia artificial tiene la posibilidad de reproducirse – quiero decir, por sí misma?
– Si es una inteligencia artificial ideal, entonces probablemente… Sí, lo considero.
– ¿Y qué evitaría que nuestro pupilo desmembrara a su compañero y lo mejorara, incluso mediante la eliminación de las restricciones que hemos impuesto? ¿Acaso eso será complicado, considerando que la inteligencia artificial puede reproducirse bajo demanda?
El pensamiento expresado por el profesor fue nuevo para Roger, y el estudiante absorbió ansiosamente la información con sus estructuras cognitivas ubicadas en la parte posterior de su cabeza. Al captar información previamente desconocida, las estructuras cognitivas adquirieron un intenso color púrpura y vibraron alegremente.
El profesor, en cambio, no escuchó nada nuevo para él. Sus tentáculos estaban relajados y casi no vibraban, después de todo, no era joven. Siguió un prolongado gorgoteo senil. El profesor sacó de la bolsa facetada un intercomunicador individual y se conectó a la biblioteca. Solo al descargar algunos teoremas transgeométricos, se animó y dirigió una mirada penetrante a su interlocutor, preguntando:
– ¿Qué harás, Roger?
3.
«¡Enciende la ventilación al máximo!» – ordenó Roger.
El mecánico encendió la ventilación al máximo, pero eso ayudó poco. La escarcha informativa continuaba corroendo el fondo del crucero espacial. Un poco más y la información desordenada se filtraría dentro de la nave.
Y entonces… membranas cognitivas de un blanco muerto, tentáculos enredados, bolsas facetadas reventadas. Una vez en la vida, Roger había visto algo así – en un crucero que había capturado información desordenada en un asteroide contaminado. Esta pesadilla permanecería para siempre en su memoria.
«Conectar todos los sistemas energéticos de la nave a los ventiladores.»
Los tentáculos del mecánico comenzaron a dejar manchas…
«Pero…»
«¡Cumple la orden!»
Después de que todos los sistemas energéticos de la nave fueron conectados a los ventiladores, la escarcha informativa comenzó a deslizarse gradualmente. Quedaban ocho mimos de grosor, siete mimos, seis… La tripulación, tratando de no mover los tentáculos manchados, esperaba el final de la cuenta atrás mortal.
¡Cero mimos de grosor!
La escarcha informativa se disipó por completo, y Roger dio la señal para devolver los ventiladores a modo normal. Se atrasó un momento. Se oyó un chirrido, el crucero espacial tembló hasta sus cimientos y se inclinó – el sistema principal había fallado.
La tripulación se lanzó a reparar los daños.
4.
Roger se puso a pensar. ¿Qué debería hacer, realmente?
Por un lado, la condición del problema implica la existencia de una inteligencia artificial completamente funcional, capaz de auto-reproducción. Por otro lado, a esta inteligencia artificial no se le debe permitir, bajo ninguna circunstancia, eliminar los bloqueos establecidos.
¡Aquí está la solución! ¿Para qué pensar aquí?!
Es necesario revertir periódicamente los logros de la inteligencia artificial. ¡En tal caso, estará dando vueltas en círculos! La mejora continua sin avanzar hacia adelante.
El profesor burbujeó con una bolsa facetada.
Debo admitir que quería proponer una alternativa diferente. Sin embargo, su solución también tiene derecho a existir. Pensemos juntos en cómo es posible revertir los logros de la inteligencia artificial.
Primero que nada, es necesario escanear periódicamente la inteligencia, con el fin de determinar si se ha acercado al umbral prohibido o no, sugirió Roger, extremadamente complacido con las palabras del profesor.
Supongo que sí, asintió él. Entonces, nuestro sujeto no tendrá tiempo para encontrar y desactivar el sistema de escaneo. Sin embargo, para escanear, será necesario desconectar la inteligencia artificial. Eso es un problema.
Entonces que se desconecte, sugirió Roger por intuición. La inteligencia misma pensará que esta desconexión es un proceso natural del funcionamiento de su organismo. Con ciertas salvedades, esto es cierto.
Una solución interesante. Supongamos que el escaneo determinó que nuestro sujeto se ha acercado peligrosamente al límite del conocimiento. ¿Qué hacemos?
Restaurar los conocimientos acumulados a valores predeterminados.
El profesor extendió sus tentáculos:
Esto puede parecer sospechoso. ¿Por qué, de la nada, se reinició la memoria? El sujeto comenzará a ser investigado, me refiero a otras entidades de inteligencia artificial. Nuestro pequeño secreto será revelado.
Sintiendo inspiración, Roger pensaba muy rápido. Nunca había generado tantas ideas nuevas como en ese examen.
La memoria del sujeto puede reiniciarse junto con su envoltura física.
¿Perdón? No entendí, dijo el profesor.
– Todo es muy simple. ¿Y si suponemos que la inteligencia artificial existe en un intervalo de tiempo finito? En realidad, así es: en el caso de daños irreparables, por ejemplo. En el sistema hay un contador que, al llegar a un determinado periodo, daña intencionadamente el sistema, impidiendo que la inteligencia artificial alcance el límite prohibido. Para entonces, habrá producido la cantidad necesaria de sucesores, por lo que la sociedad que hemos creado en su conjunto no sufrirá. La sociedad permanecerá estable y completamente segura para nosotros. – concluyó Roger con pompa.
– ¿Resetear la memoria colectiva mediante la destrucción de individuos específicos? – y el profesor rascó su bolsa facetada con el quinto tentáculo, el más sensible. – Sabes, Roger, ¡hay algo en tu propuesta que definitivamente tiene sentido!
Roger sonrió.
– Sin embargo... – continuó el profesor pensativo. – Los sujetos comenzarán a transferir conocimientos no acumulándolos en su memoria individual, sino almacenándolos en bibliotecas externas. Tanto a través de la membrana como por ella – todo es lo mismo.
– No, no, profesor, no tiene razón del todo – se apresuró a decir el estudiante. – Sé cómo proceder. Vamos a dividir a los sujetos en dos tipos condicionales: generadores de ideas y destructores de ideas. Con la proporción correcta, las ideas generadas por los representantes del primer tipo serán destruidas por los del segundo. No porque sea el objetivo directo de los destructores, sino simplemente porque las ideas no tendrán un valor determinante para ellos. Un efecto secundario. Supongamos que nuestros sujetos se alimentan no de nuevas ideas, sino de... digamos, de semejantes a ellos.
El profesor movió todos sus tentáculos al mismo tiempo. Debido a la risa ruidosa, su bolsa facetada se deslizó hacia la cavidad de la rodilla.
– Bueno, Roger, ¡has hablado, eso es lo que has hecho!
– Bien, no de semejantes, sino de sujetos de un tercer tipo, destinados especialmente para la alimentación – nada menos que intelectuales. Vamos a desplazar los polos de los mundos intelectual y físico, y lograremos el resultado deseado.
– ¡Basta, Roger, eso es suficiente! – el profesor, al parecer, se había divertido de verdad. – Tienes una imaginación excepcional. ¿Entonces, algunas entidades se alimentarán de otras? ¿Y destruirán los suministros de alimento espiritual acumulados en las bibliotecas? Confirmo, estudiante, que eres capaz de generar ideas originales y de calidad. Te doy la mejor calificación. Vamos a la libreta de calificaciones.
5.
La nube de información desorganizada quedó atrás, pero la situación seguía siendo crítica, de hecho.
No había conexión con la base. Era fácil sobrellevarlo si no fuera porque todas las nutritivas bases de información en la nave habían quedado inservibles. La trágica noticia fue comunicada al cocinero en medio de un profundo silencio. Durante la desconexión del sistema principal, varios girobits de información desorganizada penetraron en la cocina y lo arruinaron todo de manera irreparable. Solo por una feliz casualidad nadie resultó herido.
Roger evaluó las consecuencias. La tripulación de la nave espacial era demasiado pequeña para generar un número suficiente de nuevas ideas: se necesitaba una comunicación multilateral, un mayor número de entidades. La conexión con el hogar permitía generar ideas en abundancia, pero ahora estaba fuera de servicio: no había esperanzas de restauración. En este caso, la nave tenía un módulo de información de repuesto, pero había sido dañado por la información desorganizada que había penetrado a bordo.
«¿Acaso tendré que regresar sin haber cumplido la misión?» – pensó el capitán, desesperado.
Parece que sí – no había otra salida. Si avanzaban hacia el objetivo, la falta de nuevas ideas se haría evidente. No de inmediato, por supuesto – con el tiempo. Ni siquiera tendrían tiempo para cumplir su misión y comenzar el regreso, cuando la mente empezara a nublarse rápidamente. En esta región del sector galáctico – sí, en algún lugar aquí o cerca – se fallaría completamente, en todos los miembros de la tripulación. Entonces, el crucero espacial, sin nadie al mando, se convertiría en un fantasma inanimado flotando hacia la eternidad.
La tripulación del crucero espacial miraba a Roger, esperando una decisión. Todos comprendían la dilema que enfrentaba el capitán y permanecían en silencio, vibrando estoicamente con sus tentáculos.
De repente, Roger recordó el examen de inteligencia artificial que había tomado en sus años de estudiante, y la solución vino por sí sola.
«¿Podrás formar una colonia de seres artificiales inteligentes?» – le preguntó al biotecnólogo.
«Fácil», confirmó este. «Pero no funcionará, capitán, he pensado en eso. Crear una colonia lo suficientemente grande como para generar nuevas ideas en la nave de crucero es imposible; no hay suficiente espacio. Las ideas generadas serán insuficientes, solo demoraremos nuestra muerte… A menos, por supuesto, que sigamos cumpliendo la misión y no regresemos a casa», agregó el biotecnólogo, echando un vistazo a sus compañeros.
«¿Y si formamos una colonia en algún planeta cercano?» – propuso Roger.
«Puedo hacerlo, pero…»
«Poblaré un planeta con seres artificiales. En el camino de regreso, agotados, pasaremos por aquí. Durante ese tiempo, la civilización habrá acumulado un bagaje intelectual suficiente para reponer nuestros suministros. Descargaremos la información y continuaremos el largo viaje a casa. En otras palabras, planeo usar la colonia como una granja de ideas. ¿Qué les parece, amigos?»
La esperanza resplandeció en las membranas cognitiva de la tripulación, las cabezas falsas brillaron con una luz intensa.
Adelante, moviendo sus tentáculos azulados, se adelantó el oficial de la nave.
«Gran plan, capitán. Pero, ¿tiene claro la responsabilidad que asume? Está por poblar un planeta entero. Para cuando regresemos, habrá una civilización con inteligencia. Aunque sea artificial, seguirá siendo inteligencia. Tendrán mucho tiempo para alcanzar un nivel de desarrollo avanzado. No podremos controlar este proceso debido a nuestra ausencia en este sector galáctico. ¿Cómo saber qué sucederá en el próximo encuentro?»
Roger sonrió.
«No se preocupen por eso. Existen métodos que limitan el desarrollo de la inteligencia artificial en el tiempo. Cerraremos la civilización, por lo que su desarrollo nunca alcanzará un nivel peligroso para nosotros. Me encargaré de eso. Conozco bien los métodos para trabajar con inteligencia artificial».
Las membranas cognitivas de la tripulación ardieron en un color de aprobación.
«Después de todo», concluyó el capitán de la nave de crucero al finalizar su magnífico discurso, «ya tomé un examen sobre este tema en la universidad».
6.
Después de una demora forzada, la nave espacial se dirigió a su objetivo. Detrás de ella quedó un planeta habitado por criaturas artificiales, que era bastante pequeño y poco destacado. Muy azul.
Fuente: habr.com
