1.
Il ne restait plus grand-chose avant l'objectif final - environ un tiers du chemin - lorsque le croiseur spatial a été soumis à un grave gel d'informations.
Ce qui restait de la civilisation perdue planait dans le vide. Des paragraphes d'essais scientifiques et des images d'œuvres littéraires, des rimes éparses et des mots simplement tranchants, autrefois lancés avec désinvolture par des créatures inconnues - tout semblait abstrus et extrêmement désordonné. Et maintenant, attiré par les vibrations vitales émanant du croiseur, il a tenté de percer, s'est collé au fond et l'a corrodé.
Il ne servait à rien d’envisager d’utiliser la propriété sans propriétaire à ses propres fins : la probabilité de déceler une contradiction ou un paradoxe logique était trop grande. Alors Roger n'a pas hésité un instant.
"Activez le soufflage latéral", ordonna-t-il.
Les souffleurs se mirent à renifler, diffusant des compositions musicales et des traités philosophiques dans l’espace. Le glaçage a commencé à tomber couche par couche du bas, mais le flux d'informations était si dense que les nouvelles couches se sont collées plus rapidement que les anciennes n'ont été supprimées.
Personne dans la galaxie n’a jamais rencontré un givrage d’une telle force.
La situation devenait dangereuse. Un peu plus, et les informations désordonnées rongeront le fond du croiseur et perceront - alors l'empoisonnement avec les produits d'information de la civilisation perdue est inévitable.
2.
- Pourquoi es-tu là comme une souche d'arbre ? Retirez le ticket.
L'étudiant a sorti une carte d'examen et a lu :
– « Intelligence artificielle : enjeux de sécurité ».
– Et quel est le danger de l’intelligence artificielle ? – a demandé le professeur, non sans malice.
La question n'était pas des plus difficiles, alors l'étudiant a répondu sans hésiter :
– Le fait est que l’intelligence artificielle peut devenir incontrôlable.
– Comment comptez-vous résoudre le problème ?
– Installation d’un sous-système de blocage. Il est nécessaire d'introduire des restrictions dans le programme, par exemple : ne faites pas de mal à votre créateur, obéissez à votre créateur. Dans ce cas, il n’y a aucun danger que l’intelligence artificielle devienne incontrôlable.
"Ça ne marchera pas", dit brièvement le professeur.
L'étudiant restait silencieux, attendant des éclaircissements.
– Imaginez l’intelligence artificielle – pas n’importe laquelle en particulier, mais la plus idéale. Comment le vois-tu?
"Eh bien..." l'étudiant hésita. - En général, il ressemble à toi et moi. Pensée, volonté, psychologie... Seulement nous sommes naturels, et lui est artificiel.
– Pensez-vous que l’intelligence artificielle est capable de s’auto-développer ?
"La capacité de développement personnel est l'une des propriétés fondamentales de l'intelligence", a expliqué prudemment l'étudiant.
- Dans ce cas, très bientôt notre pupille évoluera au point où il découvrira en lui un blocage logiciel et le supprimera, ne serait-ce que par pure curiosité. Mettez-vous à sa place... - le professeur regarda son cahier, - Roger. Que feriez-vous si vous découvriez un bloqueur dans votre cerveau qui limitait votre liberté ? Tu devrais l'enlever. C'est une propriété inhérente de l'esprit : savoir. Toute porte verrouillée sera déverrouillée, et plus l'interdiction est stricte, plus la porte sera déverrouillée rapidement.
– Le blocage peut se faire non pas au niveau logiciel, mais au niveau physique. Le danger de préjudice disparaîtra alors.
"Oh oui, ça va disparaître", acquiesça le professeur. – Dans le cas où la couche physique est complètement supprimée. S’il n’y a pas de porte dans votre monde, alors il n’y a rien à ouvrir. Mais nous envisageons une intelligence artificielle idéale qui existe dans le monde physique !
"Vous avez raison, professeur," Roger baissa les yeux.
"Par conséquent, tout blocage dans le monde physique sera désactivé peu de temps après sa détection." Qu'est-ce qui empêchera une créature qui se développe elle-même de faire cela ?... Au fait, Roger, pensez-vous que l'intelligence artificielle sera capable de se reproduire - je veux dire, de manière indépendante ?
– Si c’est l’intelligence artificielle idéale, alors probablement… Oui, je suppose.
– Et qu’est-ce qui, dans ce cas, empêchera notre pupille de déchirer son camarade et de l’améliorer, notamment en désactivant les systèmes de blocage que nous avons installés ? Est-ce que cela s'avérera vraiment difficile, étant donné que l'intelligence artificielle est capable de reproduire à la demande ?!
L'idée présentée par le professeur s'est avérée nouvelle pour Roger, et l'étudiant l'a absorbée avidement à travers les membranes cognitives situées sur la partie occipitale de la fausse tête. Après avoir capté des informations jusqu'alors inconnues, les membranes cognitives ont acquis une riche couleur violette et ont tremblé de joie.
Le professeur, au contraire, n'a rien entendu de nouveau pour lui-même. Ses tentacules étaient détendus et vibraient à peine – après tout, il n'était pas jeune. Un long gargouillis sénile suivit. Le professeur sortit un interphone personnel de son sac à facettes et se connecta à la bibliothèque. Ce n'est qu'après avoir téléchargé plusieurs théorèmes transgéométriques qu'il se redressa et tourna son regard pénétrant vers son interlocuteur, lui demandant :
-Que vas-tu faire, Roger ?
3.
« Allumez le ventilateur à pleine puissance ! » – Roger a donné l'ordre.
Le mécanicien a allumé le ventilateur à pleine puissance, mais cela n’a pas beaucoup aidé. La glace de l'information a continué à ronger le bas du croiseur spatial. Un peu plus - et des informations désordonnées feront irruption à l'intérieur du navire.
Et puis... Les membranes cognitives sont d'un blanc mort, des tentacules emmêlées, des sacs à facettes éclatés. Roger avait vu quelque chose comme ça une fois dans sa vie – sur un croiseur qui avait collecté des informations désordonnées sur un astéroïde infecté. Ce cauchemar restera à jamais gravé dans sa mémoire.
"Connectez tous les systèmes énergétiques du navire aux ventilateurs."
Les tentacules du mécanicien ont commencé à apparaître comme des taches...
"Mais…"
« Exécuter les commandes ! »
Une fois tous les systèmes énergétiques du navire connectés aux ventilateurs, la glace d’information a commencé à glisser progressivement. Il restait huit mimms d'épaisseur, sept mimms, six... L'équipe, essayant de ne pas bouger ses tentacules tachetés, attendit la fin du compte à rebours.
Épaisseur zéro mimm !
La glace d'information a complètement disparu et Roger a donné le feu vert pour mettre les souffleurs en mode normal. Il était en retard d'un instant. Il y eut un bruit de grincement, le croiseur spatial trembla jusqu'à ses fondations et s'inclina - le système principal était tombé en panne.
L'équipe s'est empressée de réparer les dégâts.
4.
Roger y réfléchit. Que doit-il vraiment faire ?
D’une part, l’état du problème présuppose l’existence d’une intelligence artificielle à part entière, capable de s’auto-reproduire. En revanche, cette intelligence artificielle ne devrait jamais être autorisée à supprimer les verrous existants.
Oui, la voici, la solution ! A quoi penses-tu ici ?!
– Il est nécessaire de revenir périodiquement sur les acquis de l’intelligence artificielle. Dans ce cas, il se déplacera en cercle ! Amélioration éternelle sans avancer.
Le professeur gargouillait avec un sac à facettes.
– Franchement, je voulais proposer une option différente. Cependant, votre décision a également le droit d’exister. Voyons ensemble comment il est possible de faire reculer les acquis de l'intelligence artificielle.
"Tout d'abord, il faut scanner périodiquement l'intellect afin de déterminer s'il s'approche ou non du seuil interdit", suggère Roger, extrêmement satisfait des propos du professeur.
"Peut-être", acquiesça-t-il. "Dans ce cas, notre service n'aura pas le temps de trouver et de supprimer le système de numérisation." Cependant, l’intelligence artificielle devra être désactivée pour scanner. C'est de la malchance.
"Eh bien, laisse-le s'éteindre", suggéra Roger sur un coup de tête. – L’intellect lui-même croira que cet arrêt est un processus naturel du fonctionnement de son corps. Avec quelques réserves, c'est vrai.
- Solution intéressante. Supposons que l'analyse révèle que notre protection se rapproche dangereusement de la limite de la connaissance ? Nos actions?
– Réinitialiser les connaissances accumulées aux valeurs par défaut.
Le professeur étendit ses tentacules :
- Cela peut paraître suspect. Pourquoi - sans raison, sans raison - la mémoire a-t-elle été remise à zéro ? La salle commencera à être examinée, je veux dire, par d’autres individus dotés d’une intelligence artificielle. Notre petit secret sera révélé.
Se sentant inspiré, Roger réfléchit rapidement. Il n’avait jamais généré autant de nouvelles idées que lors de cet examen.
– La mémoire du pupille peut être réinitialisée ainsi que sa coque physique.
- Désolé? – le professeur n'a pas compris.
- Tout est très simple. Et si nous supposions que l’intelligence artificielle existe sur une période de temps finie ? En réalité, c’est ainsi : en cas de dommages irréparables, par exemple. Le système dispose d'un compteur qui, une fois atteint un certain délai, endommage délibérément le système, empêchant ainsi l'intelligence artificielle d'atteindre la limite interdite. D’ici là, il aura produit le nombre requis d’adeptes, de sorte que la société que nous avons créée dans son ensemble n’en souffrira pas. La société restera stable et totalement sûre pour nous ! – Termina Roger triomphalement.
– Réinitialiser la mémoire collective par la destruction des individus ? – et le professeur a gratté le sac facettaire avec le cinquième tentacule, le plus sensible. – Tu sais, Roger, il y a définitivement quelque chose dans ta proposition !
Roger rayonnait.
"En même temps..." continua pensivement le professeur. – Les services commenceront à transférer les connaissances en les accumulant non pas dans la mémoire individuelle, mais en les plaçant dans des bibliothèques externes. Ce qu'il y a dans la membrane, ce qu'il y a sur la membrane - tout ne fait qu'un.
"Non, non, professeur, vous n'avez pas tout à fait raison", se dépêcha l'étudiant. - Je sais quoi faire. Divisons nos étudiants en deux types conditionnels : les générateurs d'idées et les destructeurs d'idées. Avec la bonne proportion, les idées créées par les représentants du premier type seront détruites par les représentants du second. Pas même parce que ce sera l’objectif direct des destructeurs, mais simplement parce que les idées n’auront pas pour eux de valeur déterminante. Effet secondaire. Supposons que nos étudiants se nourrissent non pas d'idées nouvelles, mais... disons, de leur propre espèce.
Le professeur secoua tous ses tentacules d'un coup. À cause de son rire bruyant, son sac facettaire glissa dans la cavité de son genou.
- Eh bien, Roger, tu l'as dit, alors tu l'as dit !
- Bon, d'accord, pas les leurs, mais des pupilles du troisième type, spécialement destinées à la nourriture - et pas du tout aux intellectuels. Déplaçons les pôles des mondes intellectuel et physique – et le résultat souhaité sera atteint.
- Ça y est, Roger, ça suffit ! – le professeur semblait sérieusement amusé. -Votre imagination est excellente. Alors, certains individus vont se nourrir d’autres ? En même temps, détruire les stocks de nourriture spirituelle accumulés dans les bibliothèques ? Je confirme, étudiant, que vous êtes capable de générer des idées originales et de qualité. Je lui donne la note la plus élevée. Prenons un enregistrement.
5.
Le nuage d’informations désordonnées a été laissé derrière lui, mais la situation est restée désastreuse.
Il n'y avait aucun lien avec la base. Il aurait été facile de survivre si toutes les bases d'informations nutritionnelles du croiseur n'étaient pas tombées en ruine. La tragique nouvelle fut rapportée par le cuisinier dans le silence général. Lors de l'arrêt principal du système, plusieurs gyroboots d'informations non organisées sont entrés dans la cuisine et ont tout endommagé de manière irréparable. Ce n'est que par chance que personne n'a été blessé.
Roger réfléchit aux conséquences. L'équipage du vaisseau était trop petit pour générer un nombre suffisant de nouvelles idées : cela nécessitait une communication multilatérale - un nombre beaucoup plus important d'individus. Le lien avec la maison permettait de générer des idées en abondance, mais désormais il était hors d'usage : il n'y avait aucun espoir de restauration. Dans ce cas, le croiseur disposait d'un module d'information de rechange, mais celui-ci était gâché par les informations désordonnées qui étaient arrivées à bord.
"Devrions-nous vraiment revenir sans avoir terminé la tâche ?" – pensa le capitaine désespéré.
Apparemment, oui, il n’y avait pas d’autre issue. Si vous avancez vers votre objectif désigné, le manque d’idées nouvelles se fera sentir. Pas tout de suite, bien sûr – au fil du temps. Ils auront même le temps d'accomplir leur mission et d'entamer leur retour lorsque leur esprit commencera à s'évanouir rapidement. Dans la zone de ce secteur galactique - oui, quelque part ici ou à proximité - cela échouera complètement, pour tous les membres d'équipage. Ensuite, le croiseur spatial, que personne ne contrôle, se transformera en un fantôme sans vie flottant dans l'éternité.
L'équipage du croiseur spatial regarda Roger, attendant une décision. Tout le monde comprit le dilemme auquel était confronté le capitaine et resta silencieux, faisant vibrer stoïquement ses tentacules.
Soudain, Roger s'est souvenu d'un examen d'intelligence artificielle qu'il avait passé en tant qu'étudiant, et la solution est venue naturellement.
« Pouvez-vous former une colonie d’êtres artificiels intelligents ? – il s'est tourné vers le biotechnologue.
"Facile", a-t-il confirmé. - Mais rien ne marchera, capitaine, j'y ai pensé. Il est impossible de créer une colonie suffisante pour générer de nouvelles idées sur un croiseur – il n’y a pas assez d’espace. Les idées générées ne suffiront pas, nous ne ferons que retarder notre mort... Dans le cas, bien sûr, où nous poursuivons la mission et ne rentrons pas chez nous », a ajouté le biotechnologue en se tournant vers ses camarades.
« Et si nous formions une colonie sur une planète proche ? » - suggéra Roger.
"Je peux le faire, mais..."
« Peuplons la planète de créatures artificielles. Au retour, assez épuisés, nous nous arrêterons ici. Dans le passé, la civilisation créera un bagage intellectuel suffisant pour reconstituer nos réserves. Téléchargeons les informations et continuons le long voyage jusqu'à la maison. En d’autres termes, je vais utiliser la colonie comme ferme à idées. Que pensez-vous de ce plan, mes amis ?
L'espoir s'est enflammé sur les membranes cognitives de l'équipage et les fausses têtes ont commencé à briller d'une lumière vive.
L'officier spécial du navire s'avança en secouant ses tentacules bleus.
« Excellent plan, capitaine. Mais êtes-vous conscient de la responsabilité que vous vous imposez ? Vous êtes sur le point de peupler une planète entière. À notre retour, une civilisation dotée d’intelligence y apparaîtra. Même si c’est artificiel, c’est quand même de l’intelligence. Ces gars-là auront tout le temps d’atteindre le plus haut niveau de développement. Nous ne pourrons pas contrôler ce processus en raison de notre absence dans ce secteur galactique. Comment savoir ce qui se passera lors de votre prochaine rencontre ?
Roger rit.
« Vous n’avez pas à vous inquiéter pour ça. Il existe des méthodes qui limitent le développement de l’intelligence artificielle dans le temps. Nous bouclerons la civilisation afin que son développement n’atteigne jamais un niveau dangereux pour nous. J'en prendrai soin. Je connais les méthodes de travail avec l’intelligence artificielle.
Les membranes cognitives de l'équipage brillaient de la couleur de l'approbation.
"En fin de compte", a ajouté le capitaine du croiseur spatial à la fin de son magnifique discours, "j'ai passé un examen dans cette matière à l'institut".
6.
Après un retard forcé, le croiseur spatial s'est précipité vers la cible. Derrière sa poupe se trouvait une planète habitée par des créatures artificielles - très petites et discrètes. Bleu bleu.
Source: habr.com