1.
Es blieb nicht mehr viel bis zum Endziel – etwa ein Drittel des Weges –, als der Raumschiff unter schwerem informationsbedingtem Einfrieren litt.
Das, was von der untergegangenen Zivilisation übrig war, schwebte im Nichts. Absatzweise wissenschaftliche Abhandlungen und Bilder aus literarischen Werken, zerstreute Reime und einfach scharfe Wortspiele, einst zufällig von unbekannten Wesen fallen gelassen – alles wirkte abstrakt und völlig unordentlich. Und nun, angezogen von den Lebensvibrationen, die vom Kreuzer ausgingen, versuchte es, ins Innere zu dringen, klebte am Rumpf fest und fraß ihn auf.
Es war nicht sinnvoll, das herrenlose Gut für eigene Zwecke zu nutzen, da die Wahrscheinlichkeit, einen logischen Widerspruch oder ein Paradoxon zu erfassen, zu groß war. Daher zögerte Roger keinen Moment.
„Aktivieren Sie die Bordbeschickung“, befahl er.
Die Belüfter schnarchten und übertrugen im offenen Weltraum musikalische Kompositionen und philosophische Abhandlungen. Das Einfrieren begann schichtweise vom Rumpf abzulösen, jedoch war der Informationsstrom so dicht, dass neue Schichten schneller anhingen als alte sich entfernten.
Mit einer derartigen Eisbildung hatte noch niemand in der Galaxie zu kämpfen gehabt.
Die Lage wurde gefährlich. Noch ein wenig, und die ungeordnete Information würde den Rumpf des Kreuzers durchbohren und ins Innere dringen – dann wäre eine Vergiftung durch die Informationsprodukte der untergegangenen Zivilisation unvermeidlich.
2.
„Nun, was stehen Sie da wie ein Holzklotz? Ziehen Sie einen Zettel.“
Der Student zog den Prüfungsschein und las vor:
„Künstliche Intelligenz: Sicherheitsprobleme.“
„Und was ist die Gefahr der künstlichen Intelligenz?“ fragte der Professor mit einem Hauch von Spott.
Die Frage war nicht die schwierigste, deshalb antwortete der Student ohne nachzudenken:
„Darüber, dass die künstliche Intelligenz außer Kontrolle geraten könnte.“
„Wie beabsichtigen Sie, das Problem zu lösen?“
„Durch die Installation eines blockierenden Subsystems. In das Programm müssen Einschränkungen eingegeben werden, zum Beispiel: keinen Schaden dem Schöpfer zuzufügen, dem Schöpfer zu gehorchen. In diesem Fall besteht keine Gefahr, dass die künstliche Intelligenz außer Kontrolle gerät.“
„Das wird nicht funktionieren“, sagte der Professor kurz.
Der Student schwieg und wartete auf eine Erklärung.
„Stellen Sie sich eine künstliche Intelligenz vor – nicht irgendeine spezifische, sondern die idealste, die es gibt. Wie stellen Sie sich diese vor?“
– Nun… – zögerte der Student. – Im Großen und Ganzen ähnelt er uns wie Ihnen. Denken, Wille, Psychologie… Nur sind wir natürlich, und er ist künstlich.
– Sie gehen davon aus, dass künstliche Intelligenz zur Selbstentwicklung fähig ist?
– Die Fähigkeit zur Selbstentwicklung ist eine der grundlegenden Eigenschaften von Intelligenz, – sprach der Student vorsichtig.
– In diesem Fall wird unser Schützling in naher Zukunft so weit entwickeln, dass er eine programmtechnische Blockade in sich entdeckt und sie aufhebt, wenn nicht aus reiner Neugier. Versetzen Sie sich an seine Stelle… – der Professor schaute in das Notenbuch, – Roger. Was würden Sie tun, wenn Sie in Ihrem Gehirn einen Blockierer entdecken würden, der Ihre Freiheit einschränkt? Sie würden ihn entfernen. Es ist eine unverzichtbare Eigenschaft des Verstandes, zu erkennen. Jede verschlossene Tür wird geöffnet, und je strenger das Verbot, desto schneller wird die Tür aufgebrochen.
– Eine Blockade kann nicht nur auf programmierter, sondern auch auf physischer Ebene erfolgen. Dann verschwindet die Gefahr des Schadens.
– Oh ja, sie wird verschwinden, – stimmte der Professor zu. – Vorausgesetzt, dass die physische Ebene überhaupt beseitigt wird. Wenn es in Ihrer Welt kein Tür gibt, gibt es auch nichts zu öffnen. Aber wir betrachten einen idealen künstlichen Intelligenz, der in der physischen Welt existiert!
– Sie haben Recht, Professor, – sagte Roger verlegen.
– Daher wird jede Blockade in der physischen Welt bald nach ihrer Entdeckung deaktiviert. Was könnte einem selbstentwickelnden Wesen daran hindern, dies zu tun?... Übrigens, Roger, glauben Sie, dass künstliche Intelligenz in der Lage ist, sich selbst zu reproduzieren?
– Wenn das eine ideale künstliche Intelligenz ist, dann wahrscheinlich... Ja, ich gehe davon aus.
– Und was könnte in diesem Fall unseren Schützling daran hindern, seinen Freund in Teile zu zerlegen und ihn zu verbessern, einschließlich der Deaktivierung der von uns eingerichteten Blockaden? Ist das wirklich schwierig, insbesondere wenn die künstliche Intelligenz auf Abruf reproduziert werden kann?!
Der Gedanke, den der Professor äußerte, war für Roger neu, und der Student sog ihn gierig mit seinen kognitiven Tentakeln auf, die sich im hinteren Teil seines Hinterkopfes befanden. Nachdem sie zuvor unbekannte Informationen erfasst hatten, erhielten die kognitiven Tentakeln eine satte violette Farbe und zitterten vor Freude.
Der Professor hingegen hörte nichts Neues für sich. Seine Tentakeln waren entspannt und vibrierten kaum – schließlich war er nicht mehr jung. Es folgte ein langanhaltendes, altertümliches Glucksen. Der Professor zog aus dem Facettenbeutel ein individuelles Intercom und verband sich mit der Bibliothek. Nur nach dem Herunterladen einiger transgeometrischer Theoreme nahm er wieder Leben an und richtete seinen durchdringenden Blick auf seinen Gesprächspartner und fragte:
– Was werden Sie unternehmen, Roger?
3.
„Aktivieren Sie die Blas вентиляцию auf voller Leistung!“ – befahl Roger.
Der Mechaniker aktivierte die Blas вентиляцию auf voller Leistung, aber das half kaum. Der Informationsschnee fraß weiter an der Unterseite des Raumschiffes. Noch ein bisschen – und die ungeordnete Information würde ins Schiff eindringen.
Und dann… Kognitive Membranen von leblassem Weiß, verworrene Tentakeln, platzende Facettenbeutel. Einmal in seinem Leben hatte Roger so etwas gesehen – auf dem Kreuzer, der ungeordnete Informationen auf einem kontaminierten Asteroiden aufgeschnappt hatte. Dieser Albtraum würde für immer in seinem Gedächtnis bleiben.
„Alle Energiesysteme des Schiffes an die Blas ventile anschließen.“
Die Tentakeln des Mechanikers begannen zu spritzen…
„Aber…“
„Befehl ausführen!“
Nachdem alle Energiesysteme des Schiffs an die Blas ventile angeschlossen waren, begann der Informationsschnee allmählich abzurutschen. Es blieben acht Mimms Dicke, sieben Mimms, sechs… Die Besatzung wartete, bemüht, die spritzenden Tentakeln nicht zu bewegen, auf das Ende des tödlichen Countdowns.
Null Mimms Dicke!
Der Informationsschnee war vollständig verschwunden, und Roger gab das Zeichen, die Blas ventile in den normalen Modus zu versetzen. Er war einen Moment zu spät. Ein Quietschen ertönte, das Raumschiff bebte bis ins Fundament und neigte sich – das Hauptsystem war ausgefallen.
Die Besatzung stürzte sich darauf, die Schäden zu beheben.
4.
Roger dachte nach. Was sollte er wirklich tun?
Auf der einen Seite setzt die Fragestellung die Existenz einer vollwertigen künstlichen Intelligenz voraus, die die Fähigkeit zur Selbstvermehrung hat. Auf der anderen Seite darf dieser künstlichen Intelligenz auf keinen Fall erlaubt werden, die installierten Sperren zu entfernen.
Da ist es, die Lösung! Was gibt es hier zu überlegen?!
– Es ist notwendig, die Errungenschaften der Künstlichen Intelligenz regelmäßig zurückzusetzen. In diesem Fall wird sie sich im Kreis bewegen! Ewige Verbesserung ohne Fortschritt.
Der Professor murmelte mit einer facettierten Tüte.
– Um ehrlich zu sein, ich wollte eine andere Variante vorschlagen. Doch auch Ihre Lösung hat das Recht auf Existenz. Lassen Sie uns gemeinsam überlegen, wie man die Errungenschaften der Künstlichen Intelligenz zurücksetzen kann.
– Zunächst ist es notwendig, den Intellekt regelmäßig zu scannen, um festzustellen, ob er sich dem verbotenen Schwellenwert genähert hat oder nicht, – schlug Roger vor, der über die Worte des Professors überaus erfreut war.
– Nun gut, – nickte dieser. – Dann hat unser Schützling keine Zeit, das Scansystem zu finden und zu entfernen. Allerdings muss die Künstliche Intelligenz zum Scannen abgeschaltet werden. Das ist das Dilemma.
– Nun, und lass sie sich abschalten, – schlug Roger intuitiv vor. – Der Intellekt wird selbst denken, dass diese Abschaltung ein natürlicher Prozess seiner Funktionsweise ist. In gewissem Maße entspricht das der Wahrheit.
– Eine interessante Lösung. Angenommen, das Scannen hat ergeben, dass unser Schützling gefährlich nah an der Grenze des Wissens ist? Was tun wir?
– Die gesammelten Kenntnisse auf die Standardwerte zurücksetzen.
Der Professor weitete seine Tentakel aus:
– Das könnte verdächtig erscheinen. Warum wurde das Gedächtnis ohne Vorwarnung gelöscht? Unser Schützling wird untersucht werden, ich meine – von anderen Künstlichen Intelligenzen. Unser kleines Geheimnis wird aufgedeckt.
Inspiriert dachte Roger sehr schnell nach. Er hatte nie so viele neue Ideen gehabt wie in dieser Prüfung.
– Das Gedächtnis des Schützlings kann zusammen mit seiner physischen Hülle gelöscht werden.
– Entschuldigung? – verstand der Professor nicht.
– Alles ist ganz einfach. Was wäre, wenn man annehmen würde: Künstliche Intelligenz existiert nur für einen begrenzten Zeitraum? Genau so ist es: im Falle einer irreparablen Beschädigung, zum Beispiel. Im System gibt es einen Zähler, der bei Erreichen einer bestimmten Zeit absichtlich das System beschädigt und so verhindert, dass die künstliche Intelligenz die verbotene Grenze erreicht. Bis dahin wird sie die notwendige Anzahl an Nachfolgern produzieren, sodass die von uns geschaffene Gesellschaft insgesamt nicht leidet. Die Gesellschaft bleibt stabil und für uns völlig sicher! – beendete Roger triumphierend.
– Die kollektive Erinnerung durch die Vernichtung einzelner Wesen zurücksetzen? – und der Professor kratzte mit dem fünften, empfindlichsten Tentakel an seinem facettierten Sack. – Wissen Sie, Roger, in Ihrem Vorschlag steckt definitiv etwas!
Roger strahlte.
– Gleichzeitig… – fuhr der Professor nachdenklich fort. – Die Schützlinge werden beginnen, Wissen nicht durch Ansammlung in individuellen Erinnerungen zu vermitteln, sondern in externen Bibliotheken zu speichern. Ob durch Membranen oder über Membranen – das ist gleich.
– Nein, nein, Professor, Sie irren sich ein wenig, – beeilte sich der Student. – Ich weiß, was zu tun ist. Wir teilen die Schützlinge in zwei bedingte Typen auf: Ideen-Generatoren und Ideen-Vernichter. Bei der richtigen Proportion werden die Ideen, die von Vertretern des ersten Typs geschaffen werden, von Vertretern des zweiten Typs vernichtet. Nicht einmal, weil das die direkte Absicht der Vernichter wäre, sondern einfach, weil diesen Ideen für sie keinen entscheidenden Wert haben wird. Ein Nebeneffekt. Angenommen, unsere Schützlinge ernähren sich nicht von neuen Ideen, sondern… sagen wir, von ähnlichen Wesen.
Der Professor schüttelte alle Tentakel gleichzeitig. Vor Lachen verrutschte ihm der facettierte Sack auf das Knie.
– Nun, Roger, Sie haben es gesagt, so gesagt!
– Na gut, nicht von ähnlichen Wesen, sondern von Schützlingen einer dritten Art, die speziell zur Ernährung bestimmt sind – überhaupt keine Intellektuelle. Wir verschieben die Pole der intellektuellen und physischen Welten – und das gewünschte Ergebnis wird erreicht.
– Genug, Roger! – der Professor schien ernsthaft amüsiert zu sein. – Ihre Fantasie ist bemerkenswert. Bedeutet das, dass einige Wesen sich von anderen ernähren werden? Dabei die in den Bibliotheken angesammelten Vorräte geistiger Nahrung zerstören? Ich bestätige, Student, Sie sind in der Lage, originelle und qualitativ hochwertige Ideen zu generieren. Ich gebe Ihnen die Höchstnote. Lassen Sie uns das Studienbuch nehmen.
5.
Die Wolke ungeordneter Informationen war hinter ihnen geblieben, aber die Lage blieb katastrophal.
Der Kontakt zur Basis war unterbrochen. Es wäre leicht gewesen, damit umzugehen, wenn nicht alle nützlichen Informationsdatenbanken auf dem Kreuzer unbrauchbar geworden wären. Die tragische Nachricht wurde dem Koch im völligen Schweigen überbracht. Bei der Abschaltung des Hauptsystems waren mehrere Gigabyte unordentlicher Informationen in die Kombüse gelangt und hatten alles unwiderruflich ruiniert. Nur durch glückliche Umstände wurde niemand verletzt.
Roger überlegte die Folgen. Die Crew des Raumschiffs war zu klein, um genügend neue Ideen zu generieren: Dafür war eine multiseitige Kommunikation erforderlich – eine viel größere Zahl von Individuen. Der Kontakt zur Heimat hätte die Möglichkeit gegeben, reichlich Ideen zu generieren, aber jetzt war er ausgefallen: Hoffnung auf Wiederherstellung gab es nicht. Für diesen Fall war im Kreuzer ein Ersatz-Infomodul vorgesehen, aber dieses war durch die eindringenden ungeordneten Informationen beschädigt worden.
‚Muss ich wirklich zurückkehren, ohne die Aufgabe erfüllt zu haben?‘ – dachte der Kapitän verzweifelt.
Offensichtlich ja – es gab keinen anderen Ausweg. Wenn sie weiter zu ihrem Ziel flogen, würde der Mangel an frischen Ideen bemerkbar werden. Natürlich nicht sofort – mit der Zeit. Sie würden sogar in der Lage sein, ihre Mission zu erfüllen und den Rückweg einzuleiten, bevor der Verstand schnell zu trüben beginnt. In diesem galaktischen Sektor – ja, irgendwo hier oder in der Nähe – wird er vollkommen versagen, bei allen Crewmitgliedern. Dann wird der Raumschiffkreuzer, von niemandem gesteuert, zu einem leblosem Phantom, das in die Ewigkeit treibt.
Die Besatzung des Raumschiffs schaute Roger an, wartete auf eine Entscheidung. Alle verstanden das Dilemma, vor dem der Kapitän stand, und schwieg, während sie stoisch mit ihren Tentakeln vibrierten.
Plötzlich erinnerte sich Roger an die Prüfung in Künstlicher Intelligenz, die er in seinen Studienjahren abgelegt hatte, und die Lösung kam von selbst.
„Können Sie eine Kolonie aus künstlichen intelligenten Wesen herstellen?“ – wandte er sich an den Biotechnologen.
„Ganz einfach“, bestätigte dieser. „Aber es wird nichts werden, Kapitän, ich habe darüber nachgedacht. Eine Kolonie zu schaffen, die für die Generierung neuer Ideen groß genug ist, ist auf einem Kreuzer unmöglich – es fehlt der Platz. Die erzeugten Ideen werden nicht ausreichen, wir verschieben nur unser Ende… Vorausgesetzt, natürlich, dass wir unsere Mission fortsetzen und nicht nach Hause zurückkehren“, fügte der Biotechnolog hinzu und schaute zu seinen Kameraden.
„Und wenn wir eine Kolonie auf einem nahegelegenen Planeten gründen?“ – schlug Roger vor.
„Ich kann das machen, aber…“
„Wir bevölkern den Planeten mit künstlichen Wesen. Auf dem Rückweg, stark erschöpft, schauen wir hier vorbei. In der Zwischenzeit wird die Zivilisation intellektuelles Wissen aufbauen, das ausreicht, um unsere Vorräte aufzufrischen. Wir werden die Informationen herunterladen und unseren langen Weg nach Hause fortsetzen. Mit anderen Worten, ich plane, die Kolonie als Ideenfarm zu nutzen. Wie findet ihr diesen Plan, Freunde?“
Ein Hoffnungsschimmer blitzte in den kognitiven Verbindungen der Crew auf, die falschen Köpfe leuchteten hell.
Vorwärts trat der Schiffsagent vor, seine bläulichen Tentakel schwingend.
„Hervorragender Plan, Kapitän. Aber sind Sie sich der Verantwortung bewusst, die Sie auf sich nehmen? Sie planen, einen ganzen Planeten zu bevölkern. Zum Zeitpunkt unserer Rückkehr wird dort eine Zivilisation mit Intelligenz entstanden sein. Auch wenn sie künstlich ist, ist es trotzdem Intelligenz. Diese Leute werden genügend Zeit haben, um ein hohes Entwicklungsniveau zu erreichen. Wir werden diesen Prozess aufgrund unserer Abwesenheit in diesem galaktischen Sektor nicht kontrollieren können. Wer weiß, was bei der nächsten Begegnung passieren wird?“
Roger lächelte.
„Darüber brauchen Sie sich keine Sorgen machen. Es gibt Methoden, die die Entwicklung künstlicher Intelligenz über die Zeit begrenzen. Wir werden die Zivilisation in einem geschlossenen Kreislauf halten, sodass ihre Entwicklung niemals ein für uns gefährliches Niveau erreichen wird. Ich werde mich darum kümmern. Ich kenne mich mit den Methoden zur Arbeit mit künstlicher Intelligenz aus.“
Die kognitiven Verbindungen der Crew loderten vor Zustimmung.
„Letztendlich“, fügte der Kapitän des Raumschiffes zum Abschluss seiner großartigen Rede hinzu, „habe ich in diesem Thema meine Prüfung an der Universität abgelegt.“
6.
Nach einer unfreiwilligen Verzögerung steuerte das Raumschiff sein Ziel an. Hinter ihm blieb ein Planet zurück, bewohnt von künstlichen Wesen – ganz klein und unauffällig. Blau-blau.
Quelle: habr.com
