Une ferme pour cultiver des idées

1.
Il restait peu de chemin jusqu'à la destination finale – environ un tiers du trajet – lorsque le vaisseau spatial a été frappé par un violent verglas informationnel.

Ce qui restait de la civilisation disparue flottait dans le vide. Des paragraphes d'articles scientifiques et des images d'œuvres littéraires, des rimes éparpillées et simplement des mots acerbes, jadis laissés sans y penser par des êtres inconnus – tout cela semblait absurde et terriblement désordonné. Et maintenant, attiré par les vibrations vitales émanant du croiseur, cela essayait de s'introduire à l'intérieur, s'accumulant sur la coque et la rongeant.

Il n'était pas question d'utiliser des biens abandonnés à des fins personnelles, la probabilité d'attraper une contradiction logique ou un paradoxe était trop grande. C'est pourquoi Roger n'hésita pas un instant.

« Activer la purge des flancs », ordonna-t-il.

Les purificateurs se mirent à ronfler, diffusant dans l'espace ouvert des compositions musicales et des traités philosophiques. Le verglas commença à se décoller de la coque couche par couche, mais le flux d'information était si dense que de nouvelles couches s'accumulaient plus rapidement que les anciennes ne se détachaient.

Personne dans la galaxie n'avait encore rencontré un verglas d'une telle intensité.

La situation devenait dangereuse. Encore un peu, et l'information désordonnée rongerait la coque du croiseur et se frayerait un chemin à l'intérieur – alors l'empoisonnement par les produits d'information de la civilisation disparue serait inévitable.

2.
– Qu'est-ce que vous attendez, comme un tronc d'arbre ? Prenez le billet.

L'étudiant tira le billet d'examen et lut :

– « Intelligence artificielle : problèmes de sécurité ».

– Et quelle est la dangerosité de l'intelligence artificielle ? – demanda le professeur avec une certaine ironie.

La question n'était pas la plus difficile, donc l'étudiant répondit sans réfléchir :

– C'est que l'esprit artificiel peut échapper au contrôle.

– Comment comptez-vous résoudre ce problème ?

– En installant un sous-système de verrouillage. Il faut introduire des limitations dans le programme, par exemple : ne pas nuire à son créateur, obéir à son créateur. Dans ce cas, le danger que l'intelligence artificielle échappe au contrôle est absent.

– Ça ne marchera pas, – dit brièvement le professeur.

L'étudiant resta silencieux, attendant des explications.

– Imaginez l'intelligence artificielle – pas une en particulier, mais la plus parfaite qui soit. Comment la voyez-vous ?

– Eh bien… – balbutia l'étudiant. – Dans l'ensemble, il nous ressemble. Pensée, volonté, psychologie… Sauf que nous sommes naturels, et lui est artificiel.

– Vous supposez que l'intelligence artificielle est capable de s'auto-développer ?

– La capacité d'auto-développement est l'une des propriétés fondamentales de l'intelligence, – prononça l'étudiant prudemment.

– Dans ce cas, dans un avenir proche, notre protégé va évoluer au point de découvrir une sorte de blocage programmé en lui et de le retirer, ne fût-ce que par pure curiosité. Mettez-vous à sa place… – le professeur jeta un œil dans le carnet de notes, – Roger. Que feriez-vous si vous découvriez un bloqueur dans votre cerveau qui limite votre liberté ? Vous le retireriez. C'est une caractéristique inhérente à l'esprit que d'apprendre. Toute porte fermée sera ouverte, et plus l'interdiction est stricte, plus vite elle sera enlevée.

– Un blocage peut être créé non pas au niveau programmé, mais au niveau physique. Dans ce cas, le danger de dommage disparaîtra.

– Oh oui, il disparaîtra, – acquiesça le professeur. – À condition de retirer complètement le niveau physique. S'il n'y a pas de porte dans votre monde, alors rien à débloquer. Mais nous parlons d'une intelligence artificielle idéale, qui existe dans le monde physique !

– Vous avez raison, professeur, – Roger baissa les yeux.

– C'est pourquoi tout blocage dans le monde physique sera désactivé peu après sa découverte. Qu'est-ce qui peut empêcher un être auto-évolutif de le faire ?… Au fait, Roger, supposez-vous que l'intelligence artificielle a la capacité de se reproduire – je veux dire, de manière autonome ?

– Si c'est une intelligence artificielle idéale, alors probablement... Oui, je suppose.

– Et qu'est-ce qui empêchera alors notre protégé de démanteler son camarade en morceaux et de l'améliorer, y compris en désactivant les blocages que nous avons instaurés ? N'est-ce pas compliqué, sachant que l'intelligence artificielle peut se reproduire à la demande ?!

La pensée formulée par le professeur était nouvelle pour Roger, et l'étudiant l'absorba avidement avec ses membranes cognitives, situées à l'arrière de sa tête faux-ronde. Ayant capté une information auparavant inconnue, les membranes cognitives prirent une teinte violette éclatante et vibrèrent joyeusement.

Le professeur, en revanche, n'a rien entendu de nouveau pour lui. Ses tentacules étaient détendus et vibraient à peine - après tout, il n'était plus jeune. Un long gargouillement de vieillard a suivi. Le professeur a sorti un intercom individuel de son sac à facettes et s'est connecté à la bibliothèque. Ce n'est qu'après avoir téléchargé quelques théorèmes transgéométriques qu'il s'est réanimé et a tourné son regard perçant vers son interlocuteur, lui demandant :

– Que ferez-vous, Roger ?

3.
« Activez la purge à pleine puissance ! » - a ordonné Roger.

Le mécanicien a activé la purge à pleine puissance, mais cela n'a pas beaucoup aidé. La glace d'information continuait à ronger le fond du croiseur spatial. Encore un peu et l'information désordonnée ferait irruption à l'intérieur du vaisseau.

Et alors... Les membranes cognitives de couleur blanche morte, les tentacules enchevêtrés, les sacs à facettes éclatés. Une fois dans sa vie, Roger avait vu quelque chose de semblable - sur un croiseur qui avait attrapé une information désordonnée sur un astéroïde contaminé. Ce cauchemar restera à jamais gravé dans sa mémoire.

« Connectez tous les systèmes énergétiques du vaisseau aux purificateurs. »

Les tentacules du mécanicien se sont mis à tacher...

« Mais... »

« Exécutez l'ordre ! »

Après que tous les systèmes énergétiques du vaisseau aient été connectés aux purificateurs, la glace d'information a commencé à descendre progressivement. Il restait huit mimmes d'épaisseur, sept mimmes, six... L'équipage, essayant de ne pas bouger ses tentacules tachés, attendait la fin du compte à rebours mortel.

Zéro mimme d'épaisseur !

La glace d'information a complètement disparu, et Roger a donné le signal de revenir aux purificateurs en mode normal. Il était en retard d'un instant. Un grincement s'est fait entendre, le croiseur spatial a tremblé jusqu'à la base et s'est penché - c'était le système principal qui avait échoué.

L'équipage s'est précipité pour réparer les dommages.

4.
Roger réfléchissait. Que devait-il faire, au juste ?

D'une part, la condition du problème suppose l'existence d'une intelligence artificielle complète capable de se reproduire. D'autre part, il est hors de question de permettre à cette intelligence artificielle de supprimer les blocages installés.

Voilà, c'est la solution ! Qu'est-ce qu'il y a à réfléchir ?!

Il est nécessaire de réinitialiser périodiquement les accomplissements de l'intelligence artificielle. Dans ce cas, elle tournera en rond ! Un perfectionnement éternel sans avancement.

Le professeur a murmuré avec un sac facetté.

Je dois avouer que je voulais proposer une autre option. Cependant, votre solution a aussi sa place. Voyons ensemble comment il est possible de réinitialiser les accomplissements de l'intelligence artificielle.

Tout d'abord, il est nécessaire de scanner périodiquement l'intelligence pour déterminer si elle a franchi un seuil interdit ou non, a suggéré Roger, extrêmement ravi par les mots du professeur.

Peut-être, acquiesça-t-il. Dans ce cas, notre sujet n'aura pas le temps de trouver et de supprimer le système de scan. Cependant, pour scanner, l'intelligence artificielle devra être désactivée. Quel dilemme.

Qu'elle soit désactivée, proposa Roger instinctivement. L'intelligence elle-même croira que cette désactivation est un processus naturel de fonctionnement de son organisme. Cela correspond, avec quelques réserves, à la vérité.

C'est une solution intéressante. Supposons que le scan a établi que notre sujet s'est dangereusement rapproché de la limite de la connaissance ? Quelles sont nos actions ?

Réinitialiser les connaissances acquises aux valeurs par défaut.

Le professeur ouvrit les tentacules :

Cela pourrait sembler suspect. Pourquoi la mémoire s'est-elle effacée, sans raison apparente ? Le sujet sera étudié, je veux dire – par d'autres entités d'intelligence artificielle. Notre petit secret sera dévoilé.

Sentant l'inspiration, Roger réfléchissait très rapidement. Il n'avait jamais généré autant de nouvelles idées que lors de cet examen.

La mémoire du sujet peut s'effacer en même temps que son enveloppe physique.

Pardon ? – ne comprit pas le professeur.

– Tout est très simple. Que diriez-vous si nous supposions : l'intelligence artificielle existe sur une période de temps limitée ? En fait, c'est le cas : en cas de dommage irréversible, par exemple. Dans le système, un compteur est installé, qui endommage intentionnellement le système après une certaine période, empêchant l'intelligence artificielle d'atteindre un seuil interdit. À ce moment-là, elle aura produit le nombre nécessaire de successeurs, donc la société que nous avons créée dans son ensemble ne souffrira pas. La société restera stable et tout à fait sûre pour nous ! – conclut Roger avec triomphe.

– Réinitialiser la mémoire collective en détruisant des individus ? – et le professeur gratta son sac facette avec son cinquième tentacule, le plus sensible. – Vous savez, Roger, dans votre proposition, il y a définitivement quelque chose !

Roger s'illuminait.

– En même temps… – poursuivit pensivement le professeur. – Les assistés commenceront à transmettre des connaissances non pas en les accumulant dans leur mémoire individuelle, mais en les plaçant dans des bibliothèques externes. Que cela soit à travers ou par parallèle – c'est égal.

– Non, non, professeur, vous n'avez pas tout à fait raison, – s'empressa de dire l'étudiant. – Je sais quoi faire. Divisons les assistés en deux types conditionnels : les générateurs d'idées et les destructeurs d'idées. Avec leur bonne proportion, les idées créées par les membres du premier type seront détruites par ceux du second. Ce n'est même pas parce que ce sera l'objectif direct des destructeurs, mais tout simplement parce que ces idées n'auront pas de valeur déterminante pour eux. Un effet secondaire. Supposons que nos assistés se nourrissent non pas de nouvelles idées, mais… disons, d'eux-mêmes.

Le professeur agita tous ses tentacules en même temps. Son sac facette glissa sur son espace du genou à cause d'un rire éclatant.

– Eh bien, Roger, vous avez dit quelque chose !

– Eh bien, d'accord, pas d'eux-mêmes, mais des assistés de troisième type, spécialement destinés à la nutrition – pas du tout intellectuels. Déplaçons les pôles des mondes intellectuel et physique – et le résultat souhaité sera atteint.

– C'est bon, Roger, ça suffit ! – le professeur semblait vraiment amusé. – Vous avez une imagination remarquable. Donc, certains individus vont se nourrir des autres ? En détruisant ainsi les réserves de nourriture spirituelle accumulées dans les bibliothèques ? Je le confirme, étudiant, vous êtes capable de générer des idées originales et de qualité. Je vous donne la note maximale. Passons au carnet de notes.

5.
Le nuage d'information désordonnée était derrière eux, mais la situation restait désastreuse, en réalité.

La connexion avec la base était absente. Cela aurait été facile à supporter si toutes les bases d'information nutritionnelle du croiseur n'étaient pas devenues hors d'usage. La nouvelle tragique fut annoncée au cuisinier dans un silence général. Pendant la déconnexion du système principal, plusieurs gigaoctets d'information désordonnée avaient pénétré dans la cuisine et tout avaient irrémédiablement gâté. Heureusement, personne n'avait été blessé.

Roger évalua les conséquences. L'équipage du vaisseau spatial était trop réduit pour générer un nombre suffisant de nouvelles idées : cela nécessitait une communication multidimensionnelle – beaucoup plus d'individus. La connexion avec la maison permettait de générer des idées en abondance, mais elle était désormais hors d'usage : il n'y avait aucun espoir de rétablissement. Dans ce cas, le croiseur avait prévu un module d'information de secours, mais il avait été endommagé par l'information désordonnée qui avait pénétré à bord.

« Est-ce qu'on va vraiment devoir revenir sans avoir accompli la mission ? » se demanda désespérément le capitaine.

Apparemment, oui – il n'y avait pas d'autre issue. Si l'on avançait vers l'objectif assigné, le manque de nouvelles idées se ferait ressentir. Pas tout de suite, bien sûr – avec le temps. Ils pourraient même accomplir leur mission et commencer leur retour, quand l'esprit commencera à faiblir rapidement. Dans cette région du secteur galactique – oui, quelque part ici ou à proximité – il s'arrêtera complètement, chez tous les membres de l'équipage. Alors, le croiseur spatial, sans personne aux commandes, se transformerait en un fantôme sans vie dérivant dans l'éternité.

L'équipage du croiseur spatial regardait Roger, attendant une décision. Tout le monde comprenait le dilemme auquel le capitaine faisait face, et restait silencieux, vibrant stoïquement de ses tentacules.

Tout à coup, Roger se souvint de l'examen d'intelligence artificielle qu'il avait passé durant ses études, et la solution s'est imposée d'elle-même.

«Pourrez-vous créer une colonie d'êtres intelligents artificiels ?» – s'adressa-t-il au biotechnologiste.

«Facile, – confirma ce dernier. – Mais cela ne marchera pas, capitaine, j'y ai réfléchi. Créer une colonie suffisante pour générer de nouvelles idées sur le croiseur est impossible – il n'y a pas assez d'espace. Les idées générées seront insuffisantes, nous ne ferons que retarder notre mort… À condition bien sûr, que nous continuions notre mission et ne rentrions pas chez nous, » – ajouta le biotechnologiste en jetant un coup d'œil à ses camarades.

«Et si l'on formait une colonie sur une planète proche ?» – proposa Roger.

«Je peux le faire, mais…»

«Coloniser la planète avec des êtres artificiels. Sur le chemin du retour, épuisés, nous passerons par ici. Pendant ce temps, la civilisation aura accumulé un bagage intellectuel suffisant pour replenir nos stocks. Nous téléchargerons les informations et continuerons notre long chemin vers la maison. En d'autres termes, j'ai l'intention d'utiliser la colonie comme une ferme à idées. Que pensez-vous de ce plan, les amis ?»

Un espoir s'est allumé dans les connections cognitives de l'équipage, les faux cerveaux ont scintillé d'une lumière vive.

En avant, en agitant des tentacules bleuâtres, s'est avancé l'officier de bord.

«Excellent plan, capitaine. Mais êtes-vous conscient de la responsabilité que vous vous imposez ? Vous envisagez de coloniser une planète entière. Au moment de notre retour, une civilisation dotée d'intelligence apparaîtra. Même si elle est artificielle, c'est une intelligence. Ces êtres auront amplement le temps d'atteindre un niveau de développement élevé. Nous ne pourrons pas contrôler ce processus, en raison de notre absence dans ce secteur galactique. Que se passera-t-il lors de notre prochaine rencontre ?»

Roger sourit.

«Ne vous inquiétez pas pour cela. Il existe des méthodes pour limiter le développement de l'intelligence artificielle dans le temps. Nous bouclerons la civilisation, donc son développement n'atteindra jamais un niveau dangereux pour nous. Je prendrai soin de cela. Je suis familier avec les méthodes de travail sur l'intelligence artificielle.»

Les échanges cognitifs de l'équipage flamboyèrent d'une approbation colorée.

«Enfin, – ajouta le capitaine du croiseur spatial pour conclure son discours remarquable, – c'est un sujet sur lequel j'ai passé un examen à l'institut.»

6.
Après un retard forcé, le vaisseau spatial s'est dirigé vers sa destination. Derrière lui se trouvait une planète peuplée d'êtres artificiels - toute petite et peu remarquable. D'un bleu très clair.

Source : habr.com