1.
Restava pouco até o objetivo final – cerca de um terço do caminho – quando a nave espacial foi atingida por uma intensa congelamento de informações.
O que restou da civilização extinta pairava no vazio. Parágrafos de escritos científicos e imagens de obras literárias, rimas dispersas e apenas palavras pontuais, anteriormente lançadas casualmente por seres desconhecidos – tudo parecia enigmático e extremamente desordenado. E agora, atraído pelas vibrações vitais que emanavam da nave, tentava penetrar, grudando-se no fundo e corroendo-o.
Não havia razão para pensar em usar bens perdidos para fins próprios, a probabilidade de contrair uma contradição lógica ou um paradoxo era muito alta. Portanto, Roger não hesitou nem por um instante.
«Ativar a purificação dos bordos», – ordenou ele.
Os purificadores começaram a soprar, transmitindo ao espaço aberto composições musicais e tratados filosóficos. O congelamento começou a se desprender do fundo camada por camada, no entanto, o fluxo de informações era tão denso que novas camadas grudavam mais rápido do que as antigas se afastavam.
Ninguém na galáxia havia enfrentado um congelamento de tal intensidade.
A situação estava se tornando perigosa. Um pouco mais e a informação desordenada corroeria o fundo da nave e penetraria para dentro – então a contaminação por produtos informacionais da civilização extinta seria inevitável.
2.
– O que vocês estão fazendo parados, como troncos? Peguem o bilhete.
O estudante puxou o bilhete de exame e leu:
– «Inteligência artificial: problemas de segurança».
– E qual é o perigo da inteligência artificial? – perguntou o professor com certa ironia.
A pergunta não era das mais difíceis, então o estudante respondeu sem pensar:
– A possibilidade de a inteligência artificial sair de controle.
– Como você pretende resolver o problema?
– Instalando um subsistema de bloqueio. É necessário introduzir restrições no programa, por exemplo: não causar dano ao seu criador, obedecer ao seu criador. Nesse caso, não há perigo de a inteligência artificial sair de controle.
– Não vai funcionar, – disse o professor de forma breve.
O estudante permaneceu em silêncio, aguardando explicações.
– Imagine uma inteligência artificial – não uma específica, mas a mais pura ideal. Como você a vê?
– Bem… – hesitou o estudante. – No geral, ele é semelhante a nós. Pensamento, vontade, psicologia… Apenas nós somos naturais, e ele é artificial.
– Você está sugerindo que a inteligência artificial é capaz de auto-desenvolvimento?
– A capacidade de auto-desenvolvimento é uma das propriedades fundamentais da inteligência, – disse o estudante cautelosamente.
– Nesse caso, em breve, nosso pupilo se desenvolverá a ponto de descobrir uma limitação programática e a remover, mesmo que por pura curiosidade. Coloque-se no lugar dele… – o professor olhou para o registro, – Roger. O que você faria se descobrisse em seu cérebro um bloqueador que limita a liberdade? Você o removeria. Isso é uma característica intrínseca da razão – buscar o conhecimento. Qualquer porta trancada será destrancada, e quanto mais rigorosa a proibição, mais rápido a porta será aberta.
– O bloqueio pode ser feito não em um nível programático, mas físico. Assim, o risco de danos desaparece.
– Ah sim, desaparecerá, – concordou o professor. – A menos que o nível físico seja completamente removido. Se não há nenhuma porta no seu mundo, não há nada a destrancar. Mas nós estamos considerando a inteligência artificial ideal que existe no mundo físico!
– Você está certo, professor, – disse Roger, olhando para baixo.
– Portanto, qualquer bloqueio no mundo físico será desativado logo após sua descoberta. O que impediria um ser auto-desenvolvente de fazer isso? … A propósito, Roger, você sugere que a inteligência artificial tem a capacidade de se reproduzir – quero dizer, por conta própria?
– Se é uma inteligência artificial ideal, então provavelmente… Sim, imagino que sim.
– E o que, nesse caso, impediria nosso pupilo de dissecar seu colega e aprimorá-lo, inclusive removendo os bloqueios que instalamos? Isso seria difícil, sabendo que a inteligência artificial é capaz de se reproduzir sob demanda?!
O pensamento expresso pelo professor era novo para Roger, e o estudante absorveu-o avidamente com suas estruturas cognitivas localizadas na parte de trás da cabeça. Ao captar informações desconhecidas anteriormente, as estruturas cognitivas adquiriram uma rica cor roxa e vibraram alegremente.
O professor, por outro lado, não ouviu nada de novo para si. Seus tentáculos estavam relaxados e quase não vibravam — afinal, ele não era mais jovem. Um longo borbulhar senil se seguiu. O professor retirou de sua bolsa facetada um intercomunicador individual e se conectou à biblioteca. Apenas ao baixar algumas teoremas transgeométricas, ele se animou e lançou um olhar perspicaz ao interlocutor, perguntando:
– O que você fará, Roger?
3.
«Ative a ventilação na potência máxima!» – Roger deu a ordem.
O mecânico ativou a ventilação na potência máxima, mas isso ajudou pouco. O gelo informativo continuava a corroer o fundo do cruzador espacial. Mais um pouco – e a informação desordenada romperia a bordo da nave.
E então… Membranas cognitivas de cor branca morta, tentáculos emaranhados, bolsas facetadas estouradas. Uma vez na vida, Roger viu algo assim – em um cruzador que pegou informações desordenadas em um asteroide contaminado. Esse pesadelo ficará para sempre em sua memória.
«Conecte todos os sistemas de energia da nave aos ventiladores.»
Os tentáculos do mecânico começaram a se manchar...
«Mas…»
«Execute a ordem!»
Depois que todos os sistemas de energia da nave foram conectados aos ventiladores, o gelo informativo começou a escorregar gradualmente. Restavam oito mimvos de espessura, sete mimvos, seis... A equipe, tentando não mover seus tentáculos manchados, aguardava o fim da contagem regressiva mortal.
Zero mimvos de espessura!
O gelo informativo desapareceu completamente, e Roger sinalizou para mudar os ventiladores para o modo normal. Ele se atrasou por um instante. Ouviu-se um rangido, o cruzador espacial tremeu até a base e inclinou-se – o sistema principal falhou.
A equipe correu para consertar os danos.
4.
Roger pensou. O que ele deveria fazer, realmente?
Por um lado, a condição do problema pressupõe a existência de uma inteligência artificial completa, capaz de se auto-reproduzir. Por outro lado, essa inteligência artificial de forma alguma pode ser autorizada a remover bloqueios estabelecidos.
Aqui está a solução! O que há para pensar?!
É necessário reverter periodicamente os avanços da inteligência artificial. Caso contrário, ela ficará presa em um ciclo! O aperfeiçoamento eterno sem progresso.
O professor fez barulho com um saco facetado.
Confesso que queria sugerir uma alternativa diferente. No entanto, sua solução também merece existir. Vamos considerar juntos como é possível reverter os avanços da inteligência artificial.
Primeiro, é necessário escanear a inteligência periodicamente para determinar se ela se aproximou de um limite proibido ou não, sugeriu Roger, extremamente contente com as palavras do professor.
Talvez, acenou ele. Então, nosso protegido não terá tempo de encontrar e remover o sistema de escaneamento. No entanto, para escanear, será necessário desligar a inteligência artificial. Que situação complicada.
Que se desligue, sugeriu Roger por intuição. A própria inteligência achará que esse desligamento é um processo natural de funcionamento do seu organismo. Com algumas ressalvas, isso corresponde à verdade.
Uma solução interessante. Supondo que o escaneamento tenha identificado que nosso protegido se aproximou perigosamente do limite do conhecimento? Quais são nossas ações?
Redefinir o conhecimento acumulado para os valores padrão.
O professor abriu os tentáculos:
Isso pode parecer suspeito. Por que a memória foi zerada do nada? O protegido começará a ser investigado, quero dizer - por outros seres intelectuais artificiais. Nosso pequeno segredo será revelado.
Sentindo-se inspirado, Roger pensou muito rapidamente. Ele nunca gerou tantas novas ideias quanto naquele exame.
A memória do protegido pode ser zerada junto com sua estrutura física.
Desculpe? - não entendeu o professor.
– É tudo muito simples. E se supuséssemos: a inteligência artificial existe em um intervalo de tempo finito? De fato, é assim: em caso de danos irreparáveis, por exemplo. O sistema possui um contador que, ao atingir um determinado período, danifica intencionalmente o sistema, impedindo que a inteligência artificial chegue ao limite proibido. Até lá, ela terá produzido o número necessário de seguidores, portanto a sociedade que criamos, no geral, não sofrerá. A sociedade permanecerá estável e completamente segura para nós! – concluiu Roger triunfante.
– Zerar a memória coletiva através da destruição de indivíduos específicos? – e o professor coçou a bolsa facetada com seu quinto tentáculo, o mais sensível. – Sabe, Roger, há definitivamente algo na sua proposta!
Roger brilhou.
– Ao mesmo tempo… – continuou o professor pensativo. – Os pupilos começarão a transmitir conhecimento não acumulando-o na memória individual, mas armazenando-o em bibliotecas externas. Tanto para a membrana quanto através dela – tudo é um só.
– Não, não, professor, você não está totalmente certo, – apressou-se o estudante. – Eu sei o que fazer. Vamos dividir os pupilos em dois tipos hipotéticos: geradores de ideias e destruidores de ideias. Com a proporção correta, as ideias criadas pelos representantes do primeiro tipo serão destruídas pelos representantes do segundo. Não porque seja um objetivo direto dos destruidores, mas simplesmente porque as ideias não terão um valor determinante para eles. Um efeito colateral. Suponhamos que nossos pupilos não se alimentem de novas ideias, mas… digamos, de semelhantes a eles.
O professor sacudiu todos os tentáculos ao mesmo tempo. Com as risadas estrondosas, a bolsa facetada escorregou para seu colo.
– Bem, Roger, você disse tudo, assim foi!
– Muito bem, não semelhantes, mas pupilos de um terceiro tipo, destinados especificamente à alimentação – e de forma alguma intelectuais. Vamos deslocar os polos dos mundos intelectual e físico – e o resultado desejado será alcançado.
– Chega, Roger, suficiente! – o professor parecia ter se divertido de verdade. – Sua imaginação é excepcional. Então, alguns indivíduos se alimentarão de outros? Ao mesmo tempo, destruirão os estoques de alimento espiritual acumulados nas bibliotecas? Confirmo, aluno, você é capaz de gerar ideias originais e de qualidade. Dou a maior nota. Vamos ao registro.
5.
A nuvem de informação desorganizada havia ficado para trás, mas a situação continuava crítica, na verdade.
A conexão com a base estava ausente. Era fácil lidar com isso, se não fosse o fato de que todas as bases de dados informacionais a bordo do cruzador haviam se estragado. A trágica notícia foi comunicada ao cozinheiro em completo silêncio. Durante a desconexão do sistema principal, alguns gigabytes de informação desorganizada penetraram na cozinha e estragaram tudo irremediavelmente. Por pura sorte, ninguém se feriu.
Roger avaliou as consequências. A tripulação da nave estelar era muito pequena para gerar uma quantidade suficiente de novas ideias: para isso, era necessária uma comunicação multifacetada – um número muito maior de indivíduos. A comunicação com a casa permitia gerar ideias em abundância, mas agora estava fora de funcionamento: não havia esperanças de recuperação. Para esse caso, o cruzador tinha um módulo informático reserva, mas ele havia sido danificado pela informação desorganizada que tinha penetrado a bordo.
«Será que teremos que voltar sem cumprir a missão?» – pensou o capitão em desespero.
Parece que sim – não havia outra saída. Se seguir em frente, em direção ao destino, a falta de novas ideias se fará sentir. Não imediatamente, é claro – com o tempo. Eles até conseguirão completar sua missão e começar o retorno, quando a mente começar a enfraquecer rapidamente. Na região deste setor galáctico – sim, em algum lugar aqui ou nas proximidades – ela falhará completamente, em todos os membros da tripulação. Então, o cruzador espacial, sem controle, se tornará um fantasma sem vida flutuando na eternidade.
A equipe do cruzador espacial olhava para Roger, aguardando uma decisão. Todos entendiam a dilema que o capitão enfrentava e permaneciam em silêncio, vibrando estoicamente com seus tentáculos.
De repente, Roger se lembrou do exame de inteligência artificial que fizera durante seus anos de estudante, e a solução veio naturalmente.
«Você consegue formar uma colônia de seres inteligentes artificiais?» – ele se dirigiu ao biotecnólogo.
«Com facilidade, – confirmou ele. – Mas não vai dar certo, capitão, eu já pensei sobre isso. Criar uma colônia suficiente para gerar novas ideias em um cruzador é impossível – falta espaço. As ideias geradas serão insuficientes, apenas adiarmos nossa morte... Isso, é claro, se continuarmos a missão e não voltarmos para casa», – acrescentou o biotecnólogo, olhando para os companheiros.
«E se formássemos uma colônia em algum planeta próximo?» – sugeriu Roger.
«Eu posso fazer isso, mas…»
«Vamos colonizar um planeta com seres artificiais. No caminho de volta, bastante exaustos, voltaremos aqui. Durante esse tempo, a civilização criará um acervo intelectual suficiente para repor nossas reservas. Iremos baixar as informações e continuar a longa jornada para casa. Em outras palavras, pretendo usar a colônia como uma fazenda para cultivar ideias. O que acham desse plano, amigos?»
Nos conectores cognitivos da tripulação, uma esperança acendeu, as cabeças falsas brilharam com uma luz intensa.
Avançando, balançando tentáculos azulados, o oficial da nave se apresentou.
«Ótimo plano, capitão. Mas você está ciente da responsabilidade que está assumindo? Você está prestes a colonizar um planeta inteiro. Quando voltarmos, haverá uma civilização com inteligência. Mesmo que artificial, ainda é inteligência. Eles terão tempo de sobra para alcançar um alto nível de desenvolvimento. Não poderemos controlar esse processo devido à nossa ausência neste setor galáctico. Como saber o que ocorrerá em nosso próximo encontro?»
Roger sorriu.
«Você não precisa se preocupar com isso. Existem métodos que limitam o desenvolvimento da inteligência artificial ao longo do tempo. Vamos cercar a civilização, então seu desenvolvimento nunca atingirá um nível perigoso para nós. Eu cuidarei disso. Estou familiarizado com métodos para lidar com inteligência artificial».
Os conectores cognitivos da tripulação brilharam com uma cor de aprovação.
«No final, – acrescentou o capitão da nave espacial ao concluir seu magnífico discurso, – eu fiz um exame sobre esse tópico na faculdade.»
6.
Depois de um atraso forçado, a nave espacial voou em direção ao seu objetivo. Atrás dela ficou um planeta habitado por seres artificiais – bem pequeno e discreto. Azul-azulado.
Fonte: habr.com
