1.
Es war nicht mehr weit bis zum endgültigen Ziel – etwa ein Drittel des Weges –, als das Raumschiff unter starkem Informationsgewitter geriet.
Das, was von der untergegangenen Zivilisation übrig geblieben war, schwebte im Nichts. Absätze wissenschaftlicher Werke und Bilder aus literarischen Schöpfungen, verstreute Reime und einfach scharfe Worte, einmal zufällig von unbekannten Wesen ausgesprochen – alles schien überladen und extrem unordentlich. Und nun, angezogen von den Lebensvibrationen des Kreuzers, versuchte es, ins Innere einzudringen, klebte am Boden und ätzte ihn.
Es war nicht ratsam, das herrenlose Gut für eigene Zwecke zu verwenden, die Wahrscheinlichkeit, sich mit einem logischen Widerspruch oder Paradox zu infizieren, war zu hoch. Daher zögerte Roger nicht einen Moment.
„Aktiviere die Bord-Durchblutung“, befahl er.
Die Durchblutungssysteme schnauften und übertrugen musikalische Kompositionen und philosophische Abhandlungen in den offenen Weltraum. Das Eis begann Schicht für Schicht vom Boden abzubröckeln, jedoch war der Informationsstrom so dicht, dass sich neue Schichten schneller ablagerten, als alte entfernt werden konnten.
Mit einer solchen Eisbildung hat niemand in der Galaxie zuvor gerechnet.
Die Lage wurde gefährlich. Noch ein wenig, und die ungeordnete Information würde den Rumpf des Kreuzers durchdringen und ins Innere eindringen – dann wäre eine Vergiftung durch die Informationsprodukte einer untergegangenen Zivilisation unvermeidlich.
2.
– Was steht ihr da rum wie ein Baumstumpf? Ziehen Sie das Los.
Der Student zog die Prüfungsfrage und las vor:
– „Künstliche Intelligenz: Sicherheitsprobleme“.
– Und wo liegt die Gefahr der künstlichen Intelligenz? – erkundigte sich der Professor mit einem gewissen ironischen Unterton.
Die Frage war nicht besonders schwierig, daher antwortete der Student ohne zu zögern:
– Darin, dass der künstliche Verstand außer Kontrolle geraten kann.
– Wie beabsichtigen Sie, das Problem zu lösen?
– Durch die Installation eines blockierenden Subsystems. Es müssen Einschränkungen in das Programm eingeführt werden, zum Beispiel: keinem Schaden seinem Erschaffer zufügen, seinem Erschaffer gehorchen. In diesem Fall besteht keine Gefahr, dass die künstliche Intelligenz außer Kontrolle gerät.
– Das wird nicht funktionieren, – sagte der Professor kurz.
Der Student schwieg und wartete auf Erklärungen.
– Stellen Sie sich künstliche Intelligenz vor – nicht irgendeine spezifische, sondern die perfekte. Wie sehen Sie diese?
– Nun… – zögerte der Student. – Im Großen und Ganzen ähnelt sie uns. Denken, Wille, Psychologie… Nur wir sind natürlich, und sie ist künstlich.
– Sie nehmen an, dass künstliche Intelligenz zur Selbstentwicklung fähig ist?
– Die Fähigkeit zur Selbstentwicklung ist eines der grundlegenden Eigenschaften des Intellekts, – sagte der Student vorsichtig.
– In diesem Fall wird unser Schützling bald so weit sein, dass er eine programmierte Blockade in sich entdeckt und sie entfernt, wenn auch nur aus Neugier. Versetzen Sie sich an seine Stelle… – der Professor sah in die Prüfungsunterlagen, – Roger. Was würden Sie tun, wenn Sie einen Blocker in Ihrem Gehirn entdecken würden, der Ihre Freiheit einschränkt? Sie würden ihn entfernen. Es ist die essentielle Eigenschaft des Verstandes – zu erkennen. Jede verschlossene Tür wird geöffnet, und je strikter das Verbot, desto schneller wird die Tür geöffnet.
– Die Blockade kann nicht auf programmatischem, sondern auf physischem Niveau erfolgen. Dann verschwinden die Gefahren einer Schädigung.
– Oh ja, das wird verschwinden, – stimmte der Professor zu. – Es sei denn, es wird auf der physikalischen Ebene entfernt. Wenn es in deiner Welt keine Tür gibt, gibt es auch nichts, was man aufschließen könnte. Aber wir sprechen hier von einer idealen künstlichen Intelligenz, die in der physischen Welt existiert!
– Sie haben recht, Professor, – murmelte Roger.
– Daher wird jede Blockade in der physischen Welt bald nach der Entdeckung deaktiviert. Was würde einem sich selbst entwickelnden Wesen daran hindern, das zu tun?… Übrigens, Roger, glauben Sie, dass künstliche Intelligenz die Fähigkeit hat, sich – ich meine selbstständig – zu reproduzieren?
– Wenn es sich um eine ideale künstliche Intelligenz handelt, dann vermutlich… Ja, das nehme ich an.
– Und was würde unseren Schützling daran hindern, seinen Gefährten in Stücke zu zerlegen und zu verbessern, auch indem er die Blockaden, die wir eingerichtet haben, umgeht? Ist es so schwierig, wenn künstliche Intelligenz auf Anforderung reproduziert werden kann?!
Der Gedanke, den der Professor äußerte, war für Roger neu, und der Student sog ihn gierig mit seinen kognitiven Tentakeln auf, die sich am Hinterkopf des falschen Kopfes befanden. Als sie zuvor unbekannte Informationen erfassten, nahm die Farbe der kognitiven Tentakeln ein tiefes Violett an und sie zuckten vor Freude.
Der Professor hingegen hörte nichts Neues für sich. Seine Tentakeln waren entspannt und vibrierten kaum – schließlich war er nicht mehr jung. Ein langes, altersbedingtes Glucksen folgte. Der Professor zog ein individuelles Intercom aus seinem facettierten Beutel und schloss sich an die Bibliothek an. Nachdem er einige transgeometrische Theoreme heruntergeladen hatte, wurde er lebhafter und richtete seinen durchdringenden Blick auf seinen Gesprächspartner und fragte:
– Was werden Sie unternehmen, Roger?
3.
„Schalten Sie die Belüftung auf volle Leistung!” – befahl Roger.
Der Mechaniker schaltete die Belüftung auf volle Leistung, aber das half nur wenig. Der Informationsschnee fraß weiterhin am Rumpf des Raumschiffes. Noch ein wenig – und die ungeordnete Information würde in das Schiff eindringen.
Und dann... Kognitive Schalen in einem toten Weiß, verhedderte Tentakel, geplatzte Facettenbeutel. Einmal in seinem Leben hatte Roger so etwas gesehen – auf dem Kreuzer, der ungeordnete Informationen von einem infizierten Asteroiden aufgenommen hatte. Dieser Alptraum wird für immer in seiner Erinnerung bleiben.
„Alle Energiesysteme des Schiffs mit den Durchlüftern verbinden.“
Die Tentakel des Mechanikers färbten sich fleckig...
„Aber…“
„Befehl befolgen!“
Nachdem alle Energiesysteme des Schiffs mit den Durchlüftern verbunden waren, begann der Informationsschnee allmählich zu schwinden. Es blieben noch acht Mimms dick, sieben Mimms, sechs... Das Team wartete darauf, dass der tödliche Countdown endete, und versuchte, die fleckigen Tentakel nicht zu bewegen.
Null Mimms dick!
Der Informationsschnee war vollständig verschwunden, und Roger gab das Signal, die Durchlüfter in den normalen Modus zu versetzen. Er war einen Augenblick zu spät. Es ertönte ein Geräusch, das Raumschiff zitterte bis ins Mark und kippte – das Hauptsystem war ausgefallen.
Das Team stürzte sich darauf, die Schäden zu beheben.
4.
Roger dachte nach. Was sollte er wirklich tun?
Einerseits impliziert die Aufgabenstellung die Existenz einer vollwertigen künstlichen Intelligenz, die die Fähigkeit zur Selbstvermehrung besitzt. Andererseits darf dieser künstlichen Intelligenz keinesfalls erlaubt werden, festgelegte Sperren zu entfernen.
Hier ist die Lösung! Was gibt es hier zu überlegen?!
– Es ist notwendig, die Fortschritte der künstlichen Intelligenz regelmäßig zurückzusetzen. In diesem Fall wird sie im Kreis laufen! Ständige Verbesserung ohne Fortschritt.
Der Professor murmelte mit seiner facettierten Tasche.
– Ich muss gestehen, ich wollte einen anderen Ansatz vorschlagen. Aber auch Ihre Lösung hat ihre Berechtigung. Lassen Sie uns gemeinsam überlegen, wie man die Fortschritte der künstlichen Intelligenz zurücksetzen kann.
– Zunächst einmal ist es notwendig, die Intelligenz regelmäßig zu scannen, um festzustellen, ob sie sich dem verbotenen Schwellenwert genähert hat oder nicht, – schlug Roger vor und war über die Worte des Professors überaus erfreut.
– Vielleicht, – nickte er. – Dann wird unser Schützling keine Zeit haben, das Scansystem zu finden und zu entfernen. Doch um zu scannen, muss die künstliche Intelligenz abgeschaltet werden. Das ist das Problem.
– Na und, wenn sie sich abschaltet, – schlug Roger intuitiv vor. – Die Intelligenz wird glauben, dass diese Abschaltung ein natürlicher Prozess der Funktionsweise ihres Körpers ist. In gewissem Maße entspricht das der Wahrheit.
– Eine interessante Lösung. Angenommen, das Scannen hat festgestellt, dass unser Schützling gefährlich nahe an die Grenze des Wissens gekommen ist? Was unternehmen wir?
– Die angesammelten Kenntnisse auf die Standardwerte zurücksetzen.
Der Professor weitete seine Tentakel:
– Das könnte verdächtig erscheinen. Warum wurde das Gedächtnis einfach so – ohne Grund – zurückgesetzt? Der Schützling wird untersucht werden, ich meine – durch andere künstliche Intelligenzen. Unser kleines Geheimnis wird aufgedeckt.
Inspiration verspürend, dachte Roger sehr schnell. Er hatte nie so viele neue Ideen generiert wie bei dieser Prüfung.
– Das Gedächtnis des Schützlings könnte sich zusammen mit seiner physischen Hülle zurücksetzen.
– Entschuldigung? – verstand der Professor nicht.
– Alles ist ganz einfach. Was wäre, wenn wir annehmen: Künstliche Intelligenz existiert nur über einen begrenzten Zeitraum? Genau so ist es: im Falle eines irreparablen Schadens, zum Beispiel. Im System ist ein Zähler installiert, der nach Erreichen eines bestimmten Zeitraums das System absichtlich schädigt, um der Künstlichen Intelligenz den Zugang zu einem verbotenen Limit zu verwehren. Zu diesem Zeitpunkt wird sie die notwendige Anzahl von Nachfolgern hervorgebracht haben, sodass die von uns geschaffene Gesellschaft insgesamt nicht betroffen sein wird. Die Gesellschaft bleibt stabil und für uns völlig sicher! – beendete Roger triumphierend.
– Die kollektive Erinnerung durch die Vernichtung einzelner Wesen zurücksetzen? – und der Professor kratzte sich mit seinem fünften, empfindlichsten Tentakel am facettierten Sack. – Wissen Sie, Roger, in Ihrem Vorschlag steckt definitiv etwas!
Roger strahlte.
– Gleichzeitig… – fuhr der Professor nachdenklich fort. – Die Schützlinge werden beginnen, Wissen zu übermitteln, indem sie es nicht in individueller Erinnerung ansammeln, sondern in externen Bibliotheken ablegen. Ob durch die Membran oder über die Membran – es ist alles gleich.
– Nein, nein, Professor, Sie liegen nicht ganz richtig, – beeilte sich der Student. – Ich weiß, wie wir vorgehen müssen. Lassen Sie uns die Schützlinge in zwei allgemeine Typen aufteilen: Ideenproduzenten und Ideenzerstörer. Bei der richtigen Proportion werden die Ideen, die von Vertretern des ersten Typs erzeugt werden, von den zweiten zerstört. Nicht einmal, weil das das direkte Ziel der Zerstörer sein wird, sondern einfach, weil die Ideen für sie keinen entscheidenden Wert haben werden. Ein Nebeneffekt. Angenommen, unsere Schützlinge ernähren sich nicht von neuen Ideen, sondern… sagen wir, von Gleichgesinnten.
Der Professor schüttelte gleichzeitig alle Tentakel. Von dem schallenden Gelächter rutschte sein facettierter Sack auf das Knie.
– Nun, Roger, was Sie gesagt haben, haben Sie gesagt!
– Na gut, nicht von Gleichgesinnten, sondern von Schützlingen dritter Art, die speziell zum Nähren bestimmt sind – ganz und gar keine Intellektuellen. Lassen Sie uns die Pole der intellektuellen und physischen Welten verschieben – und das gewünschte Ergebnis wird erreicht.
– Genug, Roger! – Der Professor scheint wirklich Spaß zu haben. – Ihre Vorstellungskraft ist bemerkenswert. Bedeutet das, dass einige Lebewesen sich von anderen ernähren werden? Dabei die in den Bibliotheken angesammelten geistigen Nahrungsbestände vernichten? Ich bestätige, Student, dass Sie in der Lage sind, originelle und hochwertige Ideen zu generieren. Ich gebe Ihnen die höchste Note. Lassen Sie uns Ihre Studienleistung besprechen.
5.
Die Wolke ungeordneter Informationen war hinter ihnen geblieben, aber die Situation blieb katastrophal.
Die Verbindung zur Datenbank war unterbrochen. Es war leicht zu verkraften, wenn nicht alle nahrhaften Informationsdatenbanken auf dem Kreuzer unbrauchbar geworden wären. Die tragische Nachricht wurde dem Koch im allgemeinen Schweigen mitgeteilt. Während der Abschaltung des Hauptsystems drangen mehrere Gigabyte ungeordneter Informationen in die Kombüse ein und rissen alles unwiderruflich durcheinander. Nur durch glücklichen Zufall wurde niemand verletzt.
Roger hatte die Konsequenzen überschätzt. Die Besatzung des Raumschiffs war zu klein, um genügend neue Ideen zu generieren: Dazu bedurfte es einer multidimensionalen Kommunikation – viel mehr Individuen. Der Kontakt nach Hause ermöglichte es, Ideen im Überfluss zu entwickeln, doch dieser war jetzt ausgefallen: Es gab keine Hoffnung auf Wiederherstellung. Für diesen Fall war auf dem Kreuzer ein Ersatz-Infomodul vorgesehen, aber dieses war durch die ungeordnete Information, die an Bord gelangte, beschädigt.
„Muss ich etwa zurückkehren, ohne die Mission erfüllt zu haben?“, dachte der Kapitän verzweifelt.
Offensichtlich ja – es gab keinen anderen Ausweg. Wenn sie weiter zum Ziel fliegen, wird der Mangel an frischen Ideen spürbar werden. Nicht sofort, natürlich – mit der Zeit. Sie könnten sogar ihre Mission erfüllen und die Rückkehr einleiten, bevor der Verstand schnell zu schwinden beginnt. In diesem galaktischen Sektor – ja, irgendwo hier oder in der Nähe – wird er vollständig versagen, bei allen Besatzungsmitgliedern. Dann wird das Raumschiff, dass niemand steuert, zu einem leblose, in die Ewigkeit treibenden Geist.
Die Crew des Raumschiffes schaute zu Roger, wartend auf eine Entscheidung. Alle verstanden das Dilemma, mit dem der Kapitän konfrontiert war, und schwiegen, während sie stoisch mit ihren Tentakeln zuckten.
Plötzlich erinnerte sich Roger an die Prüfung in Künstlicher Intelligenz, die er während seiner Studienzeit abgelegt hatte, und die Lösung kam ganz von allein.
„Könnten Sie eine Kolonie aus künstlich intelligenten Wesen bilden?“ – wandte er sich an den Biotechnologen.
„Das ist einfach zu machen,“ – bestätigte dieser. – „Aber es wird nichts bringen, Kapitän, darüber habe ich nachgedacht. Eine Kolonie zu schaffen, die ausreichend ist, um frische Ideen zu generieren, ist auf dem Kreuzer unmöglich – es fehlt an Platz. Die generierten Ideen werden nicht ausreichen, wir würden nur unseren Untergang aufschieben... Es sei denn, wir setzen die Mission fort und kehren nicht nach Hause zurück“, – fügte der Biotechnologe hinzu, während er sich zu seinen Kameraden umblickte.
„Und wenn wir eine Kolonie auf einem nahegelegenen Planeten gründen?“ – schlug Roger vor.
„Ich könnte das tun, aber...“
«Заселим планету искусственными существами. На обратном пути, изрядно истощенные, заглянем сюда. За прошедшее время цивилизация создаст интеллектуальный багаж, достаточный для пополнения наших запасов. Скачаем информацию и продолжим долгий путь к дому. Иначе говоря, я собираюсь использовать колонию в качестве фермы по выращиванию идей. Как вам такой план, друзья?»
На когнитивных перепонках экипажа вспыхнула надежда, ложноголовки засветились ярким светом.
Вперед, покачивая посиневшими щупальцами, выступил корабельный особист.
«Отличный план, капитан. Но вы отдаете себе отчет, какую ответственность на себя возлагаете? Вы собираетесь заселить целую планету. Ко времени нашего возвращения на ней появится цивилизация с интеллектом. Пускай искусственным, это все равно интеллектом. Времени на то, чтобы достигнуть высочайшего уровня развития, у этих ребят будет предостаточно. Мы не сможем контролировать данный процесс, по причине своего отсутствия в данном галактическом секторе. Как знать, что случится при следующей встрече?»
Роджер усмехнулся.
Das müssen Sie sich keine Sorgen machen. Es gibt Methoden, die die Entwicklung der künstlichen Intelligenz zeitlich begrenzen. Wir werden die Zivilisation in einen geschlossenen Kreislauf bringen, sodass ihre Entwicklung niemals ein gefährliches Niveau für uns erreichen wird. Ich kümmere mich darum. Die Methoden im Umgang mit künstlicher Intelligenz sind mir vertraut.
Die kognitiven Schalen der Besatzung erstrahlten in der Farbe der Zustimmung.
„Schließlich“, fügte der Kapitän des Raumschiffes am Ende seiner großartigen Rede hinzu, „habe ich zu diesem Thema meinen Examen an der Hochschule abgelegt.“
6.
Nach einer unfreiwilligen Verzögerung steuerte das Raumschiff auf sein Ziel zu. Hinter ihm blieb ein Planet zurück, bevölkert von künstlichen Wesen – ganz klein und unauffällig. Blau-blau.
Quelle: habr.com
