1.
Quedaba poco para alcanzar el objetivo final, aproximadamente un tercio del camino, cuando el crucero espacial sufrió una severa congelación de la información.
Lo que quedaba de la civilización perdida flotaba en el vacío. Párrafos de ensayos científicos e imágenes de obras literarias, rimas dispersas y palabras simplemente agudas, una vez lanzadas casualmente por criaturas desconocidas: todo parecía abstruso y extremadamente desordenado. Y ahora, atraído por las vibraciones vitales que emanaban del crucero, intentó abrirse paso, se pegó al fondo y lo corroyó.
No tenía sentido pensar en utilizar la propiedad sin dueño para sus propios fines; la probabilidad de detectar una contradicción lógica o una paradoja era demasiado grande. Entonces Roger no dudó ni un momento.
"Encienda el soplado lateral", ordenó.
Los sopladores empezaron a sollozar, transmitiendo composiciones musicales y tratados filosóficos al espacio exterior. El hielo comenzó a caer desde el fondo capa por capa, pero el flujo de información era tan denso que las nuevas capas se adherían más rápido de lo que se eliminaban las antiguas.
Nadie en la galaxia se ha topado jamás con una formación de hielo de tal fuerza.
La situación se estaba volviendo peligrosa. Un poco más, y la información desordenada atravesará el fondo del crucero y se abrirá paso; entonces el envenenamiento con los productos de información de la civilización perdida es inevitable.
2.
- ¿Por qué estás ahí parado como el tocón de un árbol? Saca el billete.
El estudiante sacó una tarjeta de examen y leyó:
– “Inteligencia Artificial: Cuestiones de Seguridad”.
– ¿Y cuál es el peligro de la inteligencia artificial? – preguntó el profesor, no sin malicia.
La pregunta no era la más difícil, por lo que el alumno respondió sin dudar:
– El caso es que la inteligencia artificial puede salirse de control.
– ¿Cómo piensa solucionar el problema?
– Instalación de un subsistema de bloqueo. Es necesario introducir restricciones en el programa, por ejemplo: no dañes a tu creador, obedece a tu creador. En este caso, no hay peligro de que la inteligencia artificial se salga de control.
"No funcionará", dijo brevemente el profesor.
El estudiante guardó silencio, esperando una aclaración.
– Imagínese la inteligencia artificial, no una cualquiera específica, sino la más ideal. ¿Cómo lo ves?
“Bueno…” el estudiante vaciló. - En general, es parecido a ti y a mí. Pensamiento, voluntad, psicología... Sólo nosotros somos naturales y él es artificial.
– ¿Da por sentado que la inteligencia artificial es capaz de autodesarrollarse?
“La capacidad de autodesarrollo es una de las propiedades fundamentales de la inteligencia”, dijo con cautela el estudiante.
- En este caso, muy pronto nuestro pupilo se desarrollará hasta el punto de que descubrirá un bloqueo de software en sí mismo y lo eliminará, aunque sólo sea por pura curiosidad. Ponte en su lugar... - el profesor miró su cuaderno, - Roger. ¿Qué harías si descubrieras un bloqueador en tu cerebro que estuviera limitando tu libertad? Deberías quitártelo. Ésta es una propiedad inherente de la mente: saber. Cualquier puerta cerrada se desbloqueará y cuanto más estricta sea la prohibición, más rápido se desbloqueará la puerta.
– El bloqueo no se puede realizar a nivel de software, sino a nivel físico. Entonces el peligro de daño desaparecerá.
“Oh, sí, desaparecerá”, coincidió el profesor. – En caso de que la capa física se elimine por completo. Si no hay puerta en tu mundo, entonces no hay nada que abrir. ¡Pero estamos considerando una inteligencia artificial ideal que existe en el mundo físico!
"Tiene razón, profesor", Roger miró hacia abajo.
"Por lo tanto, cualquier bloqueo en el mundo físico se desactivará poco después de su detección". ¿Qué impedirá que una criatura que se desarrolla a sí misma haga esto?... Por cierto, Roger, ¿crees que la inteligencia artificial podrá reproducirse, es decir, de forma independiente?
– Si se trata de una inteligencia artificial ideal, entonces probablemente... Sí, supongo.
– ¿Y qué impedirá, en este caso, que nuestro pupilo destroce a su compañero y lo mejore, incluso desactivando los sistemas de bloqueo que hemos instalado? ¿Será esto realmente difícil, dado que la inteligencia artificial es capaz de reproducirse bajo demanda?
La idea presentada por el profesor resultó nueva para Roger, y el alumno la absorbió con avidez a través de las membranas cognitivas ubicadas en la parte occipital de la falsa cabeza. Habiendo captado información previamente desconocida, las membranas cognitivas adquirieron un rico color púrpura y temblaron de alegría.
El profesor, por el contrario, no escuchó nada nuevo para sí mismo. Sus tentáculos estaban relajados y apenas vibraban; después de todo, no era joven. Siguió un gorgoteo largo y senil. El profesor sacó un intercomunicador personal de su bolso lateral y lo conectó a la biblioteca. Sólo después de descargar varios teoremas transgeométricos se animó y dirigió su mirada penetrante a su interlocutor, preguntando:
-¿Qué harás, Roger?
3.
"¡Encienda el ventilador a máxima potencia!" – Roger dio la orden.
El mecánico encendió el ventilador a máxima potencia, pero no ayudó mucho. El hielo de información siguió carcomiendo el fondo del crucero espacial. Un poco más y la información desordenada se abrirá paso dentro del barco.
Y luego... Las membranas cognitivas son de un blanco muerto, tentáculos enredados, sacos facetarios reventados. Roger había visto algo parecido una vez en su vida: en un crucero que había recogido información desordenada sobre un asteroide infectado. Esta pesadilla quedará para siempre en su memoria.
"Conecte todos los sistemas de energía del barco a los sopladores".
Los tentáculos del mecánico comenzaron a aparecer como manchas...
"Pero…"
“¡Cumplir pedidos!”
Después de que todos los sistemas de energía del barco estuvieron conectados a los sopladores, el hielo de información comenzó a deslizarse gradualmente. Quedaban ocho mimms de espesor, siete mimms, seis... El equipo, intentando no mover sus tentáculos manchados, esperó a que terminara la cuenta atrás de la muerte.
¡Espesor cero mimm!
El hielo de información desapareció por completo y Roger dio luz verde para cambiar los sopladores al modo normal. Llegó un momento tarde. Se escuchó un chirrido, el crucero espacial tembló hasta sus cimientos y se inclinó: el sistema principal había fallado.
El equipo se apresuró a reparar los daños.
4.
Roger lo pensó. ¿Qué debería hacer realmente?
Por un lado, la condición del problema presupone la existencia de una inteligencia artificial completa con capacidad de autorreproducirse. Por otro lado, nunca se debe permitir que esta inteligencia artificial elimine los bloqueos existentes.
¡Sí, aquí está la solución! ¡¿Qué estás pensando aquí?!
– Es necesario retroceder periódicamente los logros de la inteligencia artificial. En este caso, ¡se moverá en círculo! Mejora eterna sin avanzar.
El profesor gorgoteó con un bolso facetado.
– Francamente, quería ofrecer una opción diferente. Sin embargo, su decisión también tiene derecho a existir. Descubramos juntos cómo es posible hacer retroceder los logros de la inteligencia artificial.
“En primer lugar, es necesario examinar periódicamente el intelecto para determinar si se ha acercado o no al umbral prohibido”, sugirió Roger, muy satisfecho con las palabras del profesor.
"Quizás", asintió. "Entonces nuestra sala no tendrá tiempo de encontrar y quitar el sistema de escaneo". Sin embargo, será necesario desactivar la inteligencia artificial para escanear. Eso es mala suerte.
"Bueno, déjalo desconectar", sugirió Roger por capricho. – El intelecto mismo creerá que este apagado es un proceso natural del funcionamiento de su cuerpo. Con algunas reservas, esto es cierto.
- Interesante solución. Supongamos que el escaneo revelara que nuestra sala está peligrosamente cerca del límite del conocimiento. ¿Nuestras acciones?
– Restablecer el conocimiento acumulado a los valores predeterminados.
El profesor extendió sus tentáculos:
- Esto puede parecer sospechoso. ¿Por qué, sin ningún motivo, sin motivo alguno, la memoria se puso a cero? La sala comenzará a ser examinada, es decir, por otros individuos con inteligencia artificial. Nuestro pequeño secreto será revelado.
Sintiéndose inspirado, Roger pensó rápidamente. Nunca había generado tantas ideas nuevas como en ese examen.
– La memoria del pupilo se puede restablecer junto con su caparazón físico.
- ¿Lo siento? – el profesor no entendió.
- Todo es muy sencillo. ¿Qué pasa si asumimos que la inteligencia artificial existe durante un período de tiempo finito? En realidad, así es como ocurre: en caso de daños irreparables, por ejemplo. El sistema cuenta con un contador que, al llegar a un determinado período, daña deliberadamente el sistema, impidiendo que la inteligencia artificial alcance el límite prohibido. Para entonces, habrá producido el número necesario de seguidores, por lo que la sociedad que hemos creado en su conjunto no se verá afectada. ¡La sociedad permanecerá estable y completamente segura para nosotros! – finalizó Roger triunfalmente.
– ¿Reiniciar la memoria colectiva mediante la destrucción de individuos? – y el profesor rascó el saco facetario con el quinto tentáculo, el más sensible. – Sabes, Roger, ¡definitivamente hay algo en tu propuesta!
Roger sonrió.
“Al mismo tiempo…” continuó pensativamente el profesor. – Las salas comenzarán a transferir conocimientos no acumulándolos en la memoria individual, sino colocándolos en bibliotecas externas. Lo que hay en la membrana, lo que hay en la membrana, todo es uno.
“No, no, profesor, no tiene toda la razón”, se apresuró el alumno. - Sé lo que tengo que hacer. Dividamos a nuestros estudiantes en dos tipos condicionales: generadores de ideas y destructores de ideas. Con la proporción correcta, las ideas creadas por los representantes del primer tipo serán destruidas por los representantes del segundo. Ni siquiera porque ese sea el objetivo directo de los destructores, sino simplemente porque las ideas no tendrán un valor definitorio para ellos. Efecto secundario. Supongamos que nuestros estudiantes no se alimentan de nuevas ideas, sino... digamos, de los de su propia especie.
El profesor agitó todos sus tentáculos a la vez. Por su risa escandalosa, su saco facetario se deslizó sobre la cavidad de su rodilla.
- ¡Bueno, Roger, lo dijiste, entonces lo dijiste!
- Bueno, está bien, no los de su propia especie, sino salas del tercer tipo, especialmente destinadas a la alimentación, y no intelectuales en absoluto. Cambiemos los polos de los mundos intelectual y físico, y se logrará el resultado deseado.
- ¡Ya está, Roger, ya basta! – el profesor parecía seriamente divertido. -Tu imaginación es excelente. Entonces, ¿algunos individuos se alimentarán de otros? ¿Destruir al mismo tiempo las reservas de alimento espiritual acumuladas en las bibliotecas? Confirmo, estudiante, que eres capaz de generar ideas originales y de calidad. Le doy la puntuación más alta. Tomemos un registro.
5.
La nube de información desordenada quedó atrás, pero, de hecho, la situación siguió siendo terrible.
No había conexión con la base. Habría sido fácil sobrevivir si todas las bases de información nutricional del crucero no se hubieran deteriorado. La trágica noticia fue comunicada por el cocinero en silencio general. Durante el cierre del sistema principal, varios giroscopios con información desorganizada entraron en la cocina y dañaron todo irreparablemente. Fue sólo por suerte que nadie resultó herido.
Roger consideró las consecuencias. La tripulación de la nave espacial era demasiado pequeña para generar un número suficiente de nuevas ideas: esto requería comunicación multilateral: un número mucho mayor de personas. La conexión con el hogar permitió generar ideas en abundancia, pero ahora estaba fuera de servicio: no había esperanzas de restauración. En este caso, el crucero tenía un módulo de información de repuesto, pero estaba estropeado por la información desordenada que había llegado a bordo.
"¿Realmente tendremos que regresar sin completar la tarea?" – pensó el capitán desesperado.
Al parecer sí, no había otra salida. Si avanza hacia su objetivo designado, la falta de ideas nuevas se hará sentir. No de inmediato, por supuesto, sino con el tiempo. Incluso tendrán tiempo para completar su misión y comenzar su regreso cuando sus mentes comiencen a desvanecerse rápidamente. En el área de este sector galáctico, sí, en algún lugar aquí o cerca, fallará por completo, para todos los miembros de la tripulación. Entonces el crucero espacial, no controlado por nadie, se convertirá en un fantasma sin vida flotando hacia la eternidad.
La tripulación del crucero espacial miró a Roger, esperando una decisión. Todos comprendieron el dilema al que se enfrentaba el capitán y permanecieron en silencio, haciendo vibrar estoicamente sus tentáculos.
De repente, Roger recordó un examen de inteligencia artificial que había realizado cuando era estudiante y la solución surgió de forma natural.
"¿Se puede formar una colonia de seres con inteligencia artificial?" – se volvió hacia el biotecnólogo.
“Fácil”, confirmó. - Pero nada saldrá bien, capitán, lo pensé. Es imposible crear una colonia suficiente para generar nuevas ideas en un crucero: no hay suficiente espacio. Las ideas generadas no serán suficientes, sólo retrasaremos nuestra muerte... En el caso, por supuesto, de que continuemos la misión y no regresemos a casa”, añadió el biotecnólogo, mirando a sus compañeros.
“¿Qué pasa si formamos una colonia en algún planeta cercano?” - sugirió Roger.
"Puedo hacerlo, pero..."
“Poblemos el planeta con criaturas artificiales. A la vuelta, bastante agotados, pasaremos por aquí. En el transcurso del tiempo, la civilización creará un bagaje intelectual suficiente para reponer nuestras reservas. Descarguemos la información y continuemos el largo viaje hasta la casa. En otras palabras, voy a utilizar la colonia como una granja de ideas. ¿Qué les parece este plan, amigos?
La esperanza estalló en las membranas cognitivas de la tripulación y las cabezas falsas comenzaron a brillar con una luz brillante.
El oficial especial del barco dio un paso adelante, agitando sus tentáculos azules.
“Excelente plan, capitán. ¿Pero eres consciente de la responsabilidad que te impones a ti mismo? Estás a punto de poblar un planeta entero. Cuando regresemos, aparecerá una civilización con inteligencia. Aunque sea artificial, sigue siendo inteligencia. Estos muchachos tendrán mucho tiempo para alcanzar el más alto nivel de desarrollo. No podremos controlar este proceso debido a nuestra ausencia en este sector galáctico. ¿Cómo sabes qué pasará la próxima vez que te encuentres?
Roger se rió entre dientes.
“No tienes que preocuparte por eso. Existen métodos que limitan el desarrollo de la inteligencia artificial en el tiempo. Haremos un bucle en la civilización, para que su desarrollo nunca alcance un nivel que sea peligroso para nosotros. Yo me encargare. Estoy familiarizado con los métodos de trabajo con inteligencia artificial”.
Las membranas cognitivas de la tripulación brillaron con el color de la aprobación.
“Al final”, añadió el capitán del crucero espacial al final de su magnífico discurso, “hice un examen de esta materia en el instituto”.
6.
Después de un retraso forzado, el crucero espacial se apresuró hacia el objetivo. Detrás de su popa había un planeta habitado por criaturas artificiales, muy pequeño y discreto. Azul Azul.
Fuente: habr.com