1.
Faltava pouco para o objetivo final – cerca de um terço do caminho – quando o cruzador espacial ficou sob severo congelamento de informações.
O que restou da civilização perdida pairou no vazio. Parágrafos de ensaios científicos e imagens de obras literárias, rimas dispersas e palavras simplesmente cortantes, outrora lançadas casualmente por criaturas desconhecidas - tudo parecia obscuro e extremamente desordenado. E agora, atraído pelas vibrações vitais que emanam do cruzador, tentou romper, prendeu-se ao fundo e corroeu-o.
Não fazia sentido pensar em usar a propriedade sem dono para os seus próprios fins; a probabilidade de se detectar uma contradição lógica ou um paradoxo era demasiado grande. Então Roger não hesitou nem por um momento.
“Ligue o sopro lateral”, ele ordenou.
Os sopradores começaram a fungar, transmitindo composições musicais e tratados filosóficos para o espaço sideral. A cobertura começou a cair camada por camada do fundo, mas o fluxo de informações era tão denso que as novas camadas aderiram mais rápido do que as antigas foram removidas.
Ninguém na galáxia jamais encontrou gelo com tal força.
A situação estava se tornando perigosa. Um pouco mais, e a informação desordenada corroerá o fundo do cruzador e romperá - então o envenenamento com os produtos de informação da civilização perdida será inevitável.
2.
- Por que você está parado aí feito um toco de árvore? Puxe o bilhete.
O aluno pegou um cartão de exame e leu:
– “Inteligência Artificial: Questões de Segurança”.
– E qual é o perigo da inteligência artificial? – perguntou o professor, não sem malícia.
A pergunta não era das mais difíceis, por isso o aluno respondeu sem hesitar:
– O fato é que a inteligência artificial pode sair do controle.
– Como você pretende resolver o problema?
– Instalação de um subsistema de bloqueio. É necessário introduzir restrições no programa, por exemplo: não prejudique o seu criador, obedeça ao seu criador. Neste caso, não há perigo de a inteligência artificial ficar fora de controle.
“Não vai funcionar”, disse o professor brevemente.
O aluno ficou em silêncio, aguardando esclarecimentos.
– Imagine a inteligência artificial – não qualquer específica, mas a mais ideal. Como você vê isso?
“Bem...” o aluno hesitou. - Em geral, ele é parecido com você e eu. Pensamento, vontade, psicologia... Só nós somos naturais e ele é artificial.
– Você presume que a inteligência artificial é capaz de autodesenvolvimento?
“A capacidade de autodesenvolvimento é uma das propriedades fundamentais da inteligência”, disse o aluno com cautela.
- Nesse caso, muito em breve nosso pupilo se desenvolverá a ponto de descobrir em si mesmo um bloqueio de software e removê-lo, mesmo que por pura curiosidade. Coloque-se no lugar dele... - o professor olhou para seu caderno, - Roger. O que você faria se descobrisse um bloqueador em seu cérebro que limitasse sua liberdade? Você deveria tirá-lo. Esta é uma propriedade inerente da mente – saber. Qualquer porta trancada será destrancada e quanto mais rigorosa a proibição, mais rápido a porta será destrancada.
– O bloqueio pode ser feito não no nível do software, mas no nível físico. Então o perigo de dano desaparecerá.
“Ah, sim, vai desaparecer”, concordou o professor. – Caso a camada física seja totalmente removida. Se não houver porta em seu mundo, então não há nada para destrancar. Mas estamos considerando uma inteligência artificial ideal que existe no mundo físico!
“Você está certo, professor”, Roger olhou para baixo.
“Portanto, qualquer bloqueio no mundo físico será desativado logo após a detecção.” O que impedirá uma criatura em autodesenvolvimento de fazer isso? A propósito, Roger, você acha que a inteligência artificial será capaz de se reproduzir - quero dizer, de forma independente?
– Se esta é a inteligência artificial ideal, então provavelmente... Sim, suponho.
– E o que, neste caso, impedirá o nosso pupilo de destruir o seu camarada e melhorá-lo, inclusive desabilitando os sistemas de bloqueio que instalamos? Será que isto será realmente difícil, visto que a inteligência artificial é capaz de reproduzir sob demanda?!
A ideia apresentada pelo professor revelou-se nova para Roger, e o aluno a absorveu avidamente através das membranas cognitivas localizadas na parte occipital da falsa cabeça. Tendo captado informações até então desconhecidas, as membranas cognitivas adquiriram uma rica cor roxa e tremeram de alegria.
O professor, ao contrário, não ouviu nada de novo para si. Seus tentáculos estavam relaxados e quase não vibravam – afinal, ele não era jovem. Seguiu-se um gorgolejo longo e senil. O professor tirou um interfone pessoal de sua bolsa e conectou-se à biblioteca. Só depois de baixar vários teoremas transgeométricos ele se animou e voltou seu olhar penetrante para seu interlocutor, perguntando:
-O que você vai fazer, Rogério?
3.
“Ligue o soprador na potência máxima!” – Roger deu a ordem.
O mecânico ligou o soprador na potência máxima, mas não ajudou muito. O gelo de informação continuou a corroer a parte inferior do cruzador espacial. Um pouco mais - e informações desordenadas irão surgir dentro da nave.
E então... As membranas cognitivas são tentáculos emaranhados, brancos e mortos, bolsas facetárias rompidas. Roger já vira algo assim uma vez na vida — num cruzador que havia coletado informações desordenadas sobre um asteroide infectado. Este pesadelo permanecerá para sempre em sua memória.
“Conecte todos os sistemas de energia da nave aos sopradores.”
Os tentáculos do mecânico começaram a aparecer como manchas...
"Mas…"
“Cumprir pedidos!”
Depois que todos os sistemas de energia da nave foram conectados aos sopradores, o gelo de informação começou a deslizar gradualmente. Restaram oito mimms de espessura, sete mimms, seis... A equipe, tentando não mover seus tentáculos manchados, esperou o fim da contagem regressiva da morte.
Espessura zero mimm!
O gelo de informações desapareceu completamente e Roger deu sinal verde para colocar os sopradores no modo normal. Ele estava um pouco atrasado. Houve um som estridente, o cruzador espacial tremeu até as fundações e tombou - o sistema principal havia falhado.
A equipe correu para reparar os danos.
4.
Rogério pensou sobre isso. O que ele deveria realmente fazer?
Por um lado, a condição do problema pressupõe a existência de uma inteligência artificial plena com capacidade de auto-reprodução. Por outro lado, esta inteligência artificial nunca deve ser autorizada a remover bloqueios existentes.
Sim, aqui está, a solução! O que você está pensando aqui?!
– É necessário reverter periodicamente as conquistas da inteligência artificial. Neste caso, ele se moverá em círculo! Melhoria eterna sem avançar.
O professor gorgolejou com uma bolsa facetada.
– Francamente, eu queria oferecer uma opção diferente. No entanto, sua decisão também tem o direito de existir. Vamos descobrir juntos como é possível reverter as conquistas da inteligência artificial.
“Em primeiro lugar, é necessário examinar periodicamente o intelecto para determinar se ele se aproximou ou não do limiar proibido”, sugeriu Roger, extremamente satisfeito com as palavras do professor.
“Talvez,” ele assentiu. “Então nossa ala não terá tempo de encontrar e remover o sistema de digitalização.” No entanto, a inteligência artificial terá que ser desligada para fazer a varredura. Isso é má sorte.
“Bem, deixe-o desligar”, Roger sugeriu por capricho. – O próprio intelecto acreditará que esse desligamento é um processo natural do funcionamento do seu corpo. Com algumas reservas, isso é verdade.
- Solução interessante. Suponha que a varredura revelasse que nossa ala está perigosamente próxima do limite do conhecimento? Nossas ações?
– Redefinir o conhecimento acumulado para os valores padrão.
O professor abriu seus tentáculos:
- Isso pode parecer suspeito. Por que é - sem motivo, sem motivo - que a memória foi zerada? A enfermaria começará a ser examinada, quero dizer, por outros indivíduos com inteligência artificial. Nosso pequeno segredo será revelado.
Sentindo-se inspirado, Roger pensou rapidamente. Ele nunca gerou tantas ideias novas como naquele exame.
– A memória da enfermaria pode ser redefinida junto com sua concha física.
- Desculpe? – o professor não entendeu.
- Tudo é muito simples. E se assumirmos que a inteligência artificial existe durante um período finito de tempo? Na verdade é assim: no caso de danos irreparáveis, por exemplo. O sistema possui um contador que, ao atingir determinado período, danifica deliberadamente o sistema, evitando que a inteligência artificial atinja o limite proibido. Nessa altura, ele terá produzido o número necessário de seguidores, para que a sociedade que criámos como um todo não sofra. A sociedade permanecerá estável e completamente segura para nós! – Roger finalizou triunfantemente.
– Redefinir a memória coletiva através da destruição de indivíduos? – e o professor arranhou o saco facetário com o quinto tentáculo, mais sensível. – Sabe, Roger, definitivamente há algo na sua proposta!
Rogério sorriu.
“Ao mesmo tempo...” o professor continuou pensativo. – As enfermarias começarão a transferir conhecimento não acumulando-o na memória individual, mas colocando-o em bibliotecas externas. O que está na membrana, o que está na membrana - tudo é um.
“Não, não, professor, você não está totalmente certo”, apressou-se o aluno. - Eu sei o que fazer. Vamos dividir nossos alunos em dois tipos condicionais: geradores de ideias e destruidores de ideias. Com a proporção correta, as ideias criadas pelos representantes do primeiro tipo serão destruídas pelos representantes do segundo. Nem mesmo porque este será o objetivo direto dos destruidores, mas simplesmente porque as ideias não terão um valor definidor para eles. Efeito colateral. Vamos supor que nossos alunos não se alimentem de ideias novas, mas... digamos, de ideias próprias.
O professor sacudiu todos os seus tentáculos de uma vez. Com sua risada barulhenta, seu saco facetário deslizou para a cavidade do joelho.
- Bem, Roger, você disse isso, então você disse!
- Bem, tudo bem, não da sua espécie, mas de enfermarias do terceiro tipo, especialmente destinadas à alimentação - e nem de intelectuais. Vamos mudar os pólos dos mundos intelectual e físico – e o resultado desejado será alcançado.
- É isso, Roger, já chega! – o professor parecia estar seriamente divertido. -Sua imaginação é excelente. Então, alguns indivíduos se alimentarão de outros? Ao mesmo tempo, destruir os estoques de alimento espiritual acumulados nas bibliotecas? Confirmo, aluno, que você é capaz de gerar ideias originais e de qualidade. Eu dou a nota mais alta. Vamos fazer um registro.
5.
A nuvem de informações desordenadas foi deixada para trás, mas a situação permaneceu terrível, na verdade.
Não havia conexão com a base. Teria sido fácil sobreviver se todas as bases de informações nutricionais do cruzador não tivessem caído em desuso. A trágica notícia foi relatada pelo cozinheiro em silêncio geral. Durante o desligamento principal do sistema, várias girobotas com informações desorganizadas entraram na cozinha e danificaram tudo irreparavelmente. Foi apenas por sorte que ninguém ficou ferido.
Roger considerou as consequências. A tripulação da nave estelar era demasiado pequena para gerar um número suficiente de novas ideias: isto exigia comunicação multilateral - um número muito maior de indivíduos. A ligação com o lar permitiu gerar ideias em abundância, mas agora estava fora de serviço: não havia esperança de restauração. Neste caso, o cruzador tinha um módulo de informação sobressalente, mas foi estragado por informações desordenadas que chegaram a bordo.
“Será que realmente teremos que voltar sem completar a tarefa?” – pensou o capitão em desespero.
Aparentemente, sim - não havia outra saída. Se você avançar em direção ao objetivo designado, a falta de ideias novas se fará sentir. Não imediatamente, é claro – com o tempo. Eles ainda terão tempo para completar sua missão e iniciar seu retorno quando suas mentes começarem a desaparecer rapidamente. Na área deste setor galáctico – sim, em algum lugar aqui ou próximo – irá falhar completamente, para todos os tripulantes. Então o cruzador espacial, não controlado por ninguém, se transformará em um fantasma sem vida flutuando na eternidade.
A tripulação do cruzador espacial olhou para Roger, esperando uma decisão. Todos entenderam o dilema que o capitão enfrentava e permaneceram em silêncio, vibrando estoicamente seus tentáculos.
De repente, Roger se lembrou de um exame de inteligência artificial que havia feito quando era estudante, e a solução veio naturalmente.
“Você pode formar uma colônia de seres inteligentes artificiais?” – ele se voltou para o biotecnólogo.
“Fácil”, ele confirmou. - Mas nada vai dar certo, capitão, pensei nisso. É impossível criar uma colônia suficiente para gerar novas ideias em um cruzador - não há espaço suficiente. As ideias geradas não serão suficientes, apenas atrasaremos a nossa morte... Caso, claro, continuemos a missão e não voltemos para casa”, acrescentou o biotecnólogo, olhando para os seus companheiros.
“E se formarmos uma colônia em algum planeta próximo?” - sugeriu Rogério.
“Eu posso fazer isso, mas...”
“Vamos povoar o planeta com criaturas artificiais. Na volta, bem exaustos, passaremos por aqui. Ao longo do tempo, a civilização criará bagagem intelectual suficiente para reabastecer as nossas reservas. Vamos baixar as informações e continuar a longa jornada até casa. Em outras palavras, vou usar a colônia como fazenda de ideias. O que você acha deste plano, amigos?
A esperança brilhou nas membranas cognitivas da tripulação e as cabeças falsas começaram a brilhar com uma luz forte.
O oficial especial do navio deu um passo à frente, sacudindo os tentáculos azuis.
“Excelente plano, capitão. Mas você está ciente da responsabilidade que coloca sobre si mesmo? Você está prestes a povoar um planeta inteiro. Quando voltarmos, uma civilização com inteligência aparecerá. Mesmo que seja artificial, ainda é inteligência. Esses caras terão muito tempo para atingir o mais alto nível de desenvolvimento. Não seremos capazes de controlar este processo devido à nossa ausência neste setor galáctico. Como você sabe o que acontecerá na próxima vez que você se encontrar?
Rogério riu.
“Você não precisa se preocupar com isso. Existem métodos que limitam o desenvolvimento da inteligência artificial ao longo do tempo. Faremos um loop na civilização, para que o seu desenvolvimento nunca atinja um nível que seja perigoso para nós. Eu cuidarei disso. Estou familiarizado com os métodos de trabalho com inteligência artificial.”
As membranas cognitivas da tripulação brilhavam com a cor da aprovação.
“No final”, acrescentou o capitão do cruzador espacial ao final de seu magnífico discurso, “fiz um exame nesta matéria no instituto”.
6.
Após um atraso forçado, o cruzador espacial avançou em direção ao alvo. Atrás de sua popa havia um planeta habitado por criaturas artificiais - muito pequeno e imperceptível. Azul-azul.
Fonte: habr.com