1.
Quedaba pouco para o obxectivo final, aproximadamente un terzo do camiño, cando o cruceiro espacial sufriu un grave xeo informativo.
O que quedaba da civilización perdida flotaba no baleiro. Parágrafos de ensaios científicos e imaxes de obras literarias, rimas espalladas e palabras simplemente cortantes, que antes eran lanzadas casualmente por criaturas descoñecidas: todo parecía abstruso e extremadamente desordenado. E agora, atraído polas vibracións vitais que emanaban do cruceiro, intentou abrirse paso, pegábase ao fondo e corroíao.
Non tiña sentido pensar en utilizar a propiedade sen propietario para os propios fins; a probabilidade de captar unha contradición lóxica ou un paradoxo era demasiado grande. Así que Roger non o dubidou nin un momento.
"Xira soprando lateralmente", ordenou.
Os sopladores comezaron a esnifar, transmitindo composicións musicais e tratados filosóficos ao espazo exterior. A xeada comezou a caer da capa inferior capa por capa, pero o fluxo de información era tan denso que as novas capas pegáronse máis rápido que as antigas.
Ninguén na galaxia atopouse con xeo de tal forza.
A situación íase facendo perigosa. Un pouco máis, e a información desordenada devorará o fondo do cruceiro e atravesará; entón o envelenamento cos produtos de información da civilización perdida é inevitable.
2.
- Por que estás alí como un toco de árbore? Tira o billete.
O alumno sacou unha tarxeta de exame e leu:
- "Intelixencia artificial: problemas de seguridade".
– E cal é o perigo da intelixencia artificial? – preguntou o profesor, non sen malicia.
A pregunta non era a máis difícil, polo que o alumno respondeu sen dúbida:
– O caso é que a intelixencia artificial pode saír de control.
- Como pensas resolver o problema?
– Instalación dun subsistema de bloqueo. É necesario introducir restricións no programa, por exemplo: non prexudiques ao teu creador, obedece ao teu creador. Neste caso, non hai perigo de que a intelixencia artificial se descontrole.
"Non vai funcionar", dixo brevemente o profesor.
O estudante quedou en silencio, agardando unha aclaración.
– Imaxina a intelixencia artificial, non só unha específica, senón a máis ideal. Como o ves?
"Ben..." o estudante dubidou. - En xeral, é parecido a ti e a min. Pensamento, vontade, psicoloxía... Só nós somos naturais, e el artificial.
– Asume que a intelixencia artificial é capaz de autodesenvolverse?
"A capacidade de autodesenvolvemento é unha das propiedades fundamentais da intelixencia", dixo con coidado o estudante.
- Neste caso, moi pronto o noso pupilo desenvolverase ata o punto de que descobre un bloqueo de software en si mesmo e o elimina, aínda que só sexa por pura curiosidade. Póñase no seu sitio... - o profesor mirou o seu caderno, - Roger. Que farías se descubrises un bloqueador no teu cerebro que limita a túa liberdade? Deberías quitalo. Esta é unha propiedade inherente da mente - saber. Calquera porta pechada desbloquearase e canto máis estrita sexa a prohibición, máis rápido se abrirá a porta.
– O bloqueo pódese facer non a nivel de software, senón a nivel físico. Entón o perigo de dano desaparecerá.
"Oh, si, desaparecerá", aceptou o profesor. – No caso de que se elimine por completo a capa física. Se non hai unha porta no teu mundo, non hai nada que desbloquear. Pero estamos considerando unha intelixencia artificial ideal que existe no mundo físico!
"Ten razón, profesor", Roger baixou a mirada.
"Polo tanto, calquera bloqueo no mundo físico desactivarase pouco despois da detección". Que impedirá que unha criatura en desenvolvemento propio faga isto?... Por certo, Roger, supoñes que a intelixencia artificial poderá reproducirse, quero dicir, independentemente?
– Se esta é a intelixencia artificial ideal, probablemente... Si, supoño.
– E que, neste caso, impedirá que o noso pupilo destroce ao seu compañeiro e o mellore, incluso desactivando os sistemas de bloqueo que temos instalados? Isto realmente resultará difícil, dado que a intelixencia artificial é capaz de reproducirse baixo demanda?!
A idea presentada polo profesor resultou ser nova para Roger, e o estudante absorbiuuna con avidez a través das membranas cognitivas situadas na parte occipital da cabeza falsa. Tras captar información descoñecida anteriormente, as membranas cognitivas adquiriron unha rica cor púrpura e tremían de alegría.
O profesor, pola contra, non escoitou nada novo para si. Os seus tentáculos estaban relaxados e case non vibraban; despois de todo, non era novo. Seguiu un gorgoteo longo e senil. O profesor sacou un intercomunicador persoal da súa bolsa de facetas e conectouse á biblioteca. Só despois de descargar varios teoremas transxeométricos animouse e volveu a súa mirada penetrante cara ao seu interlocutor, preguntando:
-Que vai facer, Roger?
3.
"Acende o ventilador a plena potencia!" – Roger deu a orde.
O mecánico acendeu o soplador a plena potencia, pero non axudou moito. O xeo informativo continuou comendo na parte inferior do cruceiro espacial. Un pouco máis - e información desordenada penetrará dentro do barco.
E despois... As membranas cognitivas son brancas mortas, tentáculos enredados, sacos facetarios rebentados. Roger vira algo así unha vez na súa vida: nun cruceiro que recollera información desordenada sobre un asteroide infectado. Este pesadelo quedará para sempre na súa memoria.
"Conecta todos os sistemas de enerxía do barco aos soplantes".
Os tentáculos do mecánico comezaron a aparecer como manchas...
"Pero..."
"Cumplir pedidos!"
Despois de que todos os sistemas de enerxía do barco foron conectados aos sopladores, o xeo de información comezou a deslizarse gradualmente. Quedaban oito mimms de grosor, sete mimms, seis... O equipo, intentando non mover os seus tentáculos manchados, agardou a que rematase a conta atrás da morte.
Espesor cero mimm!
O xeo da información desapareceu por completo e Roger deu o visto e prace para cambiar os sopladores ao modo normal. Chegou un momento tarde. Houbo un son de moer, o cruceiro espacial tremeu ata os seus cimentos e inclinouse: o sistema principal fallara.
O equipo apresurouse a reparar os danos.
4.
Roger pensou niso. Que debería facer realmente?
Por unha banda, a condición do problema presupón a existencia dunha intelixencia artificial de pleno dereito con capacidade de autorreproducirse. Por outra banda, nunca se debería permitir que esta intelixencia artificial elimine os bloqueos existentes.
Si, aquí está, a solución! Que estás pensando aquí?!
– É necesario retrotraer periodicamente os logros da intelixencia artificial. Neste caso, moverase en círculo! Mellora eterna sen avanzar.
O profesor gorgoteaba cunha bolsa facetada.
– Francamente, quería ofrecer unha opción diferente. Non obstante, a túa decisión tamén ten dereito a existir. Imos descubrir xuntos como é posible retrotraer os logros da intelixencia artificial.
"Primeiro de todo, é necesario escanear periódicamente o intelecto para determinar se se achegou ou non ao limiar prohibido", suxeriu Roger, moi satisfeito coas palabras do profesor.
"Quizais", asentiu. "Entón o noso pupilo non terá tempo para atopar e eliminar o sistema de dixitalización". Non obstante, a intelixencia artificial terá que estar desactivada para escanear. Iso é mala sorte.
"Ben, que se apague", suxeriu Roger por capricho. – O propio intelecto crerá que esta parada é un proceso natural do funcionamento do seu corpo. Con algunhas reservas, isto é certo.
- Solución interesante. Supoñamos que a exploración revelou que o noso pupilo está perigosamente preto do límite do coñecemento? As nosas accións?
– Restablecer os coñecementos acumulados aos valores predeterminados.
O profesor estendeu os seus tentáculos:
- Isto pode parecer sospeitoso. Por que -sen razón, sen motivo- a memoria se restableceu a cero? A sala comezará a ser examinada, quero dicir, por outros individuos intelixentes artificiais. O noso pequeno segredo será revelado.
Sentíndose inspirado, pensou rapidamente Roger. Nunca xerara tantas ideas novas como naquel exame.
– A memoria do pupilo pódese restablecer xunto coa súa capa física.
- Sentímolo? – o profesor non entendeu.
- Todo é moi sinxelo. E se asumimos que a intelixencia artificial existe durante un período finito de tempo? En realidade, así é: no caso de danos irreparables, por exemplo. O sistema dispón dun contador que, ao alcanzar un determinado período, dana deliberadamente o sistema, evitando que a intelixencia artificial chegue ao límite prohibido. Para entón, terá producido o número necesario de seguidores, polo que a sociedade que creamos no seu conxunto non sufrirá. A sociedade permanecerá estable e completamente segura para nós! – Rematou Roger triunfante.
– Restablecer a memoria colectiva mediante a destrución de individuos? – e o profesor rabuñou o saco facetario co quinto tentáculo, o máis sensible. – Xa sabes, Roger, definitivamente hai algo na túa proposta!
Roger radiante.
"Ao mesmo tempo..." continuou pensativo o profesor. – Os pupilos comezarán a transferir coñecementos non acumulándoo na memoria individual, senón colocándoo en bibliotecas externas. O que hai na membrana, o que hai na membrana - todo é un.
"Non, non, profesor, non tes toda a razón", apresurouse o estudante. - Sei que facer. Dividamos aos nosos alumnos en dous tipos condicionais: xeradores de ideas e destrutores de ideas. Coa proporción correcta, as ideas creadas polos representantes do primeiro tipo serán destruídas polos representantes do segundo. Nin sequera porque este sexa o obxectivo directo dos destrutores, senón simplemente porque as ideas non terán un valor definitorio para eles. Por efecto. Supoñamos que os nosos alumnos non se alimentan de ideas novas, senón... digamos, da súa propia especie.
O profesor sacudiu todos os seus tentáculos á vez. Da súa risa bulliciosa, o seu saco facetario esvarou na cavidade do xeonllo.
- Pois, Roger, ti o dixeches, así que o dixeches!
- Ben, vale, non da súa propia especie, senón dos pupilos do terceiro tipo, especialmente destinados á alimentación -e non intelectuais en absoluto. Cambiemos os polos dos mundos intelectual e físico, e conseguirase o resultado desexado.
- Xa está, Roger, xa abonda! – o profesor parecía estar seriamente divertido. -A túa imaxinación é excelente. Entón, algúns individuos alimentaranse doutros? Ao mesmo tempo, destruír as reservas de alimentos espirituais acumuladas nas bibliotecas? Confirmo, estudante, que es capaz de xerar ideas orixinais e de gran calidade. Doulle a puntuación máis alta. Levemos un rexistro.
5.
A nube de información desordenada quedou atrás, pero a situación seguía sendo grave, de feito.
Non había conexión coa base. Isto tería sido fácil de sobrevivir se todas as bases de información nutricional do cruceiro non caeran en mal estado. A tráxica noticia foi informada polo cociñeiro en silencio xeral. Durante o apagado do sistema principal, varios xirobootas de información non organizada entraron na galera e danaron todo irremediablemente. Foi só por sorte que ninguén resultou ferido.
Roger considerou as consecuencias. A tripulación da nave estelar era demasiado pequena para xerar un número suficiente de novas ideas: iso requiría comunicación multilateral: un número moito maior de individuos. A conexión co fogar permitiu xerar ideas en abundancia, pero agora estaba fóra de orde: non había esperanza de restauración. Neste caso, o cruceiro tiña un módulo de información de reposto, pero estaba estragado pola información desordenada que chegara a bordo.
"Realmente teremos que volver sen completar a tarefa?" – pensou o capitán desesperado.
Ao parecer, si, non había outra saída. Se voas cara ao teu obxectivo designado, a falta de ideas novas farase sentir. Non de inmediato, por suposto, co paso do tempo. Incluso terán tempo para completar a súa misión e comezar o seu regreso cando as súas mentes comecen a desaparecer rapidamente. Na zona deste sector galáctico -si, nalgún lugar aquí ou preto- fallará por completo, para todos os membros da tripulación. Entón o cruceiro espacial, non controlado por ninguén, converterase nunha pantasma sen vida flotando na eternidade.
A tripulación do cruceiro espacial mirou a Roger, agardando unha decisión. Todos entenderon o dilema ao que se enfrontaba o capitán e quedaron en silencio, facendo vibrar estoicamente os seus tentáculos.
De súpeto, Roger recordou un exame de intelixencia artificial que fixera como estudante, e a solución veu natural.
"Podes formar unha colonia de seres artificiais intelixentes?" – recorreu ao biotecnólogo.
"Fácil", confirmou. - Pero nada vai saír, capitán, penseino. É imposible crear unha colonia suficiente para xerar ideas frescas nun cruceiro: non hai espazo suficiente. As ideas xeradas non serán suficientes, só atrasaremos a nosa morte... No caso, claro, de que sigamos coa misión e non volvamos a casa”, engadiu o biotecnólogo mirando cara atrás aos seus compañeiros.
"E se formamos unha colonia nalgún planeta próximo?" - suxeriu Roger.
"Podo facelo, pero..."
“Poboamos o planeta con criaturas artificiais. De volta, bastante esgotados, pararemos por aquí. Ao longo do tempo pasado, a civilización creará equipaxe intelectual suficiente para repoñer as nosas reservas. Descargamos a información e continuamos a longa viaxe ata a casa. Noutras palabras, vou usar a colonia como unha granxa de ideas. Que lles parece este plan, amigos?
A esperanza estalou nas membranas cognitivas da tripulación e as cabezas falsas comezaron a brillar con luz brillante.
O oficial especial do barco avanzou, sacudindo os seus tentáculos azuis.
"Excelente plan, capitán. Pero é consciente da responsabilidade que te encargas? Estás a piques de poboar un planeta enteiro. Cando regresemos, aparecerá nela unha civilización con intelixencia. Aínda que sexa artificial, non deixa de ser intelixencia. Estes rapaces terán moito tempo para alcanzar o máis alto nivel de desenvolvemento. Non poderemos controlar este proceso pola nosa ausencia neste sector galáctico. Como sabes que pasará a próxima vez que te atopes?
Roger riu.
"Non tes que preocuparte por iso. Hai métodos que limitan o desenvolvemento da intelixencia artificial ao longo do tempo. Recorreremos a civilización, polo que o seu desenvolvemento nunca chegará a un nivel que sexa perigoso para nós. Encargareino. Estou familiarizado cos métodos de traballo coa intelixencia artificial".
As membranas cognitivas da tripulación brillaban coa cor da aprobación.
"Ao final", engadiu o capitán do cruceiro espacial ao final da súa magnífica intervención, "Finei un exame desta materia no instituto".
6.
Despois dun atraso forzado, o cruceiro espacial precipitouse cara ao obxectivo. Detrás da súa popa había un planeta habitado por criaturas artificiais, moi pequenas e discretas. Azul-azul.
Fonte: www.habr.com