1.
Bis zum endgültigen Ziel war nur noch wenig übrig – etwa ein Drittel der Strecke –, als der Raumkreuzer unter schwere Informationsvereisung geriet.
Was von der verlorenen Zivilisation übrig blieb, schwebte im Nichts. Absätze aus wissenschaftlichen Aufsätzen und Bilder aus literarischen Werken, vereinzelte Reime und einfach scharfe Worte, einmal beiläufig von unbekannten Kreaturen hingeworfen – alles wirkte abstrus und äußerst ungeordnet. Und nun versuchte es, angezogen von den lebenswichtigen Vibrationen, die vom Kreuzer ausgingen, durchzubrechen, blieb am Boden hängen und korrodierte ihn.
Es hatte keinen Sinn, darüber nachzudenken, eigentumsloses Eigentum für eigene Zwecke zu nutzen; die Wahrscheinlichkeit, einen logischen Widerspruch oder ein Paradoxon aufzugreifen, war zu groß. Also zögerte Roger keinen Moment.
„Schalten Sie den Seitenanblasvorgang ein“, befahl er.
Die Gebläse begannen zu schnüffeln und sendeten Musikkompositionen und philosophische Abhandlungen in den Weltraum. Die Vereisung begann Schicht für Schicht vom Boden abzufallen, aber der Informationsfluss war so dicht, dass neue Schichten schneller anhafteten, als die alten entfernt wurden.
Niemand in der Galaxie ist jemals einer Vereisung dieser Stärke begegnet.
Die Situation wurde gefährlich. Noch ein bisschen, und die ungeordneten Informationen fressen sich durch den Boden des Kreuzers und brechen durch – dann ist eine Vergiftung mit den Informationsprodukten der verlorenen Zivilisation unvermeidlich.
2.
- Warum stehst du da wie ein Baumstumpf? Ziehen Sie das Ticket.
Der Student zog eine Prüfungskarte heraus und las:
– „Künstliche Intelligenz: Sicherheitsprobleme.“
– Und was ist die Gefahr künstlicher Intelligenz? – fragte der Professor, nicht ohne Bosheit.
Die Frage war nicht die schwierigste, daher antwortete der Student ohne zu zögern:
– Tatsache ist, dass künstliche Intelligenz außer Kontrolle geraten kann.
– Wie wollen Sie das Problem lösen?
– Installation eines blockierenden Subsystems. Es ist notwendig, Einschränkungen in das Programm einzuführen, zum Beispiel: Schaden Sie Ihrem Schöpfer nicht, gehorchen Sie ihm. In diesem Fall besteht keine Gefahr, dass künstliche Intelligenz außer Kontrolle gerät.
„Das wird nicht funktionieren“, sagte der Professor kurz.
Der Student schwieg und wartete auf eine Erklärung.
– Stellen Sie sich künstliche Intelligenz vor – nicht irgendeine bestimmte, sondern die idealste. Wie siehst du es?
„Nun…“ der Student zögerte. - Im Allgemeinen ist er dir und mir ähnlich. Denken, Wille, Psychologie... Nur wir sind natürlich, und er ist künstlich.
– Gehen Sie davon aus, dass künstliche Intelligenz zur Selbstentwicklung fähig ist?
„Die Fähigkeit zur Selbstentfaltung ist eine der grundlegenden Eigenschaften der Intelligenz“, sagte der Student vorsichtig.
- In diesem Fall wird sich unser Mündel sehr bald so weit entwickeln, dass er eine Softwareblockade bei sich entdeckt und diese beseitigt, und sei es nur aus reiner Neugier. Versetzen Sie sich in seine Lage... - Der Professor schaute auf sein Notizbuch, - Roger. Was würden Sie tun, wenn Sie einen Blocker in Ihrem Gehirn entdecken würden, der Ihre Freiheit einschränkt? Du solltest es abnehmen. Dies ist eine inhärente Eigenschaft des Geistes – zu wissen. Jede verschlossene Tür wird entriegelt, und je strenger das Verbot, desto schneller wird die Tür entriegelt.
– Die Blockierung kann nicht auf Softwareebene, sondern auf physischer Ebene erfolgen. Dann verschwindet die Gefahr eines Schadens.
„Oh ja, es wird verschwinden“, stimmte der Professor zu. – Falls die physikalische Schicht vollständig entfernt wird. Wenn es in Ihrer Welt keine Tür gibt, gibt es auch nichts zu öffnen. Aber wir denken über eine ideale künstliche Intelligenz nach, die in der physischen Welt existiert!
„Sie haben Recht, Professor“, Roger blickte nach unten.
„Daher wird jede Blockade in der physischen Welt bald nach ihrer Entdeckung deaktiviert.“ Was hindert ein sich selbst entwickelndes Lebewesen daran, dies zu tun?... Übrigens, Roger, gehen Sie davon aus, dass künstliche Intelligenz in der Lage sein wird, sich zu reproduzieren – ich meine, unabhängig?
– Wenn das die ideale künstliche Intelligenz ist, dann wahrscheinlich... Ja, denke ich.
– Und was wird in diesem Fall unseren Mündel davon abhalten, seinen Kameraden zu zerreißen und zu verbessern, unter anderem durch die Deaktivierung der von uns installierten Blockierungssysteme? Wird das wirklich schwierig, wenn man bedenkt, dass künstliche Intelligenz in der Lage ist, sich auf Abruf zu reproduzieren?!
Die vom Professor vorgestellte Idee erwies sich für Roger als neu und der Student nahm sie gierig durch die kognitiven Membranen auf, die sich am Hinterhauptteil des falschen Kopfes befanden. Nachdem sie bisher unbekannte Informationen erfasst hatten, nahmen die kognitiven Membranen eine satte violette Farbe an und zitterten vor Freude.
Der Professor hingegen hörte für sich selbst nichts Neues. Seine Tentakel waren entspannt und vibrierten kaum – schließlich war er nicht jung. Es folgte ein langes, seniles Gurgeln. Der Professor holte eine persönliche Gegensprechanlage aus seiner Tasche und stellte eine Verbindung zur Bibliothek her. Erst nachdem er mehrere transgeometrische Theoreme heruntergeladen hatte, wurde er munter, richtete seinen durchdringenden Blick auf seinen Gesprächspartner und fragte:
-Was wirst du tun, Roger?
3.
„Schalten Sie das Gebläse auf volle Leistung ein!“ – Roger gab den Befehl.
Der Mechaniker schaltete das Gebläse auf volle Leistung ein, aber es half nicht viel. Das Informationseis nagte weiter am Boden des Raumkreuzers. Noch ein bisschen – und im Inneren des Schiffes brechen ungeordnete Informationen durch.
Und dann ... Die kognitiven Membranen sind tote, weiße, verschlungene Tentakel, geplatzte Facettensäcke. Roger hatte so etwas einmal in seinem Leben gesehen – auf einem Kreuzer, der ungeordnete Informationen über einen infizierten Asteroiden gesammelt hatte. Dieser Albtraum wird ihm für immer in Erinnerung bleiben.
„Verbinden Sie alle Energiesysteme des Schiffes mit den Gebläsen.“
Die Tentakel des Mechanikers begannen wie Flecken auszusehen ...
"Aber…"
„Bestellungen ausführen!“
Nachdem alle Energiesysteme des Schiffes an die Gebläse angeschlossen waren, begann das Informationseis allmählich abzurutschen. Acht Mikrometer Dicke blieben übrig, sieben Mikrometer, sechs ... Das Team versuchte, seine gefleckten Tentakel nicht zu bewegen, und wartete darauf, dass der Todescountdown zu Ende ging.
Null Dicke!
Das Informationseis verschwand vollständig und Roger gab grünes Licht, die Gebläse auf Normalmodus umzustellen. Er war einen Moment zu spät. Es gab ein knirschendes Geräusch, der Raumkreuzer zitterte bis in seine Grundfesten und kippte – das Hauptsystem war ausgefallen.
Das Team beeilte sich, den Schaden zu beheben.
4.
Roger dachte darüber nach. Was sollte er wirklich tun?
Einerseits setzt der Zustand des Problems die Existenz einer vollwertigen künstlichen Intelligenz mit der Fähigkeit zur Selbstreproduktion voraus. Andererseits sollte es dieser künstlichen Intelligenz niemals gestattet sein, bestehende Sperren zu entfernen.
Ja, hier ist sie, die Lösung! Was denkst du hier?!
– Es ist notwendig, die Errungenschaften der künstlichen Intelligenz regelmäßig zurückzunehmen. In diesem Fall bewegt es sich im Kreis! Ewige Verbesserung ohne Fortschritt.
Der Professor gurgelte mit einer facettierten Tüte.
– Ehrlich gesagt wollte ich eine andere Option anbieten. Aber auch Ihre Entscheidung hat eine Daseinsberechtigung. Lassen Sie uns gemeinsam herausfinden, wie es möglich ist, die Errungenschaften der künstlichen Intelligenz zurückzudrängen.
„Zuallererst ist es notwendig, den Intellekt regelmäßig zu überprüfen, um festzustellen, ob er die verbotene Schwelle erreicht hat oder nicht“, schlug Roger vor, der über die Worte des Professors äußerst erfreut war.
„Vielleicht“, nickte er. „Dann hat unsere Station keine Zeit, das Scansystem zu finden und zu entfernen.“ Zum Scannen muss jedoch die künstliche Intelligenz ausgeschaltet werden. Das ist Pech.
„Nun, lass ihn abschalten“, schlug Roger aus einer Laune heraus vor. – Der Intellekt selbst wird glauben, dass diese Abschaltung ein natürlicher Prozess der Funktionsweise seines Körpers ist. Mit einigen Vorbehalten stimmt das.
- Interessante Lösung. Angenommen, der Scan ergab, dass unser Mündel gefährlich nahe an der Grenze des Wissens ist? Unsere Handlungen?
– Zurücksetzen des gesammelten Wissens auf Standardwerte.
Der Professor breitete seine Tentakel aus:
- Das mag verdächtig erscheinen. Warum wurde der Speicher – ohne Grund, ohne Grund – auf Null zurückgesetzt? Die Station wird beginnen, von anderen künstlich intelligenten Individuen untersucht zu werden. Unser kleines Geheimnis wird gelüftet.
Roger fühlte sich inspiriert und dachte schnell nach. Noch nie hatte er so viele neue Ideen hervorgebracht wie in dieser Prüfung.
– Die Erinnerung an den Mündel kann zusammen mit seiner physischen Hülle zurückgesetzt werden.
- Entschuldigung? – Der Professor verstand es nicht.
- Alles ist sehr einfach. Was wäre, wenn wir davon ausgehen würden, dass künstliche Intelligenz über einen endlichen Zeitraum existiert? Eigentlich ist das so: zum Beispiel bei irreparablen Schäden. Das System verfügt über einen Zähler, der bei Erreichen eines bestimmten Zeitraums das System absichtlich beschädigt und so verhindert, dass die künstliche Intelligenz die verbotene Grenze erreicht. Bis dahin wird er die erforderliche Anzahl an Anhängern hervorgebracht haben, so dass die Gesellschaft, die wir als Ganzes geschaffen haben, nicht darunter leiden wird. Die Gesellschaft bleibt für uns stabil und völlig sicher! – Roger schloss triumphierend ab.
– Das kollektive Gedächtnis durch die Zerstörung von Individuen zurücksetzen? – und der Professor kratzte mit dem fünften, empfindlichsten Tentakel am Facettenbeutel. – Weißt du, Roger, da ist definitiv etwas in deinem Vorschlag!
Roger strahlte.
„Gleichzeitig…“ fuhr der Professor nachdenklich fort. – Die Schutzzauber werden beginnen, Wissen zu übertragen, indem sie es nicht im individuellen Gedächtnis ansammeln, sondern indem sie es in externen Bibliotheken ablegen. Was in der Membran ist, was auf der Membran ist – alles ist eins.
„Nein, nein, Professor, Sie haben nicht ganz recht“, beeilte sich der Student. - Ich weiß was zu tun ist. Teilen wir unsere Schüler in zwei bedingte Typen ein: Ideengeneratoren und Ideenzerstörer. Mit dem richtigen Verhältnis werden Ideen, die von Vertretern des ersten Typs geschaffen wurden, von Vertretern des zweiten Typs zerstört. Nicht einmal, weil dies das direkte Ziel der Zerstörer sein wird, sondern einfach, weil Ideen für sie keinen entscheidenden Wert haben werden. Nebenwirkung. Nehmen wir an, unsere Schüler ernähren sich nicht von neuen Ideen, sondern... sagen wir, von ihresgleichen.
Der Professor schüttelte alle seine Tentakel gleichzeitig. Durch sein lautes Lachen rutschte sein Facettensack auf die Kniehöhle.
- Nun, Roger, du hast es gesagt, also hast du es gesagt!
- Nun gut, nicht ihresgleichen, sondern Schutzzauber der dritten Art, die speziell für die Ernährung gedacht sind – und überhaupt keine Intellektuellen. Verschieben wir die Pole der geistigen und der physischen Welt – und das gewünschte Ergebnis wird erreicht.
- Das ist es, Roger, das reicht! – Der Professor schien ernsthaft amüsiert zu sein. -Deine Vorstellungskraft ist ausgezeichnet. Einige Individuen ernähren sich also von anderen? Gleichzeitig die in den Bibliotheken angesammelten Vorräte an spiritueller Nahrung zerstören? Ich bestätige, Student, dass Sie in der Lage sind, originelle und qualitativ hochwertige Ideen zu entwickeln. Ich gebe ihm die höchste Punktzahl. Machen wir eine Aufnahme.
5.
Die Wolke ungeordneter Informationen wurde zurückgelassen, aber die Situation blieb tatsächlich weiterhin düster.
Es bestand keine Verbindung zur Basis. Dies wäre leicht zu überleben gewesen, wenn nicht alle Nährwertangaben auf dem Kreuzer verfallen wären. Die tragische Nachricht wurde vom Koch in allgemeinem Schweigen verkündet. Während des Herunterfahrens des Hauptsystems drangen mehrere Kreiselboote mit unorganisierten Informationen in die Kombüse ein und beschädigten alles irreparabel. Es war nur Glück, dass niemand verletzt wurde.
Roger dachte über die Konsequenzen nach. Die Besatzung des Raumschiffs war zu klein, um genügend neue Ideen hervorzubringen: Dies erforderte eine multilaterale Kommunikation – eine viel größere Anzahl von Einzelpersonen. Die Verbindung mit der Heimat ermöglichte eine Fülle von Ideen, doch nun war sie außer Betrieb: Es gab keine Hoffnung auf Wiederherstellung. In diesem Fall verfügte der Kreuzer über ein Ersatzinformationsmodul, das jedoch durch fehlerhafte Informationen, die an Bord gelangt waren, beeinträchtigt wurde.
„Müssen wir wirklich zurückkehren, ohne die Aufgabe erledigt zu haben?“ – dachte der Kapitän verzweifelt.
Anscheinend ja – es gab keinen anderen Ausweg. Wenn Sie Ihrem Ziel entgegenfliegen, wird sich der Mangel an frischen Ideen bemerkbar machen. Natürlich nicht sofort, sondern mit der Zeit. Sie werden sogar Zeit haben, ihre Mission zu erfüllen und mit der Rückkehr zu beginnen, wenn ihre Gedanken schnell zu verblassen beginnen. Im Bereich dieses galaktischen Sektors – ja, irgendwo hier oder in der Nähe – wird es völlig ausfallen, für alle Besatzungsmitglieder. Dann verwandelt sich der Raumkreuzer, der von niemandem kontrolliert wird, in einen leblosen Geist, der in die Ewigkeit schwebt.
Die Besatzung des Raumkreuzers blickte Roger an und wartete auf eine Entscheidung. Jeder verstand das Dilemma, vor dem der Kapitän stand, schwieg und bewegte stoisch seine Tentakel.
Plötzlich erinnerte sich Roger an eine Prüfung zur künstlichen Intelligenz, die er als Student abgelegt hatte, und die Lösung kam von selbst.
„Können Sie eine Kolonie künstlicher intelligenter Wesen gründen?“ – Er wandte sich an den Biotechnologen.
„Einfach“, bestätigte er. - Aber es wird nichts klappen, Kapitän, ich habe darüber nachgedacht. Es ist unmöglich, auf einem Kreuzer eine Kolonie zu gründen, die ausreicht, um neue Ideen hervorzubringen – der Platz reicht nicht aus. Die generierten Ideen werden nicht ausreichen, wir werden nur unseren Tod hinauszögern... Natürlich für den Fall, dass wir die Mission fortsetzen und nicht nach Hause zurückkehren“, fügte der Biotechnologe hinzu und blickte auf seine Kameraden zurück.
„Was wäre, wenn wir auf einem nahegelegenen Planeten eine Kolonie gründen würden?“ - schlug Roger vor.
„Ich kann es schaffen, aber ...“
„Lasst uns den Planeten mit künstlichen Kreaturen bevölkern. Auf dem Rückweg werden wir ziemlich erschöpft noch hier vorbeischauen. Im Laufe der Zeit wird die Zivilisation ausreichend geistiges Gepäck schaffen, um unsere Reserven wieder aufzufüllen. Laden wir die Informationen herunter und setzen die lange Reise zum Haus fort. Mit anderen Worten: Ich werde die Kolonie als Ideenfarm nutzen. Wie gefällt euch dieser Plan, Freunde?
Hoffnung flammte in den kognitiven Membranen der Besatzung auf, und die falschen Köpfe begannen in hellem Licht zu leuchten.
Der Sonderoffizier des Schiffes trat vor und schüttelte seine blauen Tentakel.
„Ausgezeichneter Plan, Kapitän. Aber sind Sie sich der Verantwortung bewusst, die Sie sich selbst auferlegen? Sie sind dabei, einen ganzen Planeten zu bevölkern. Wenn wir zurückkehren, wird dort eine Zivilisation mit Intelligenz auftauchen. Auch wenn es künstlich ist, ist es dennoch Intelligenz. Diese Jungs werden genügend Zeit haben, die höchste Entwicklungsstufe zu erreichen. Aufgrund unserer Abwesenheit in diesem galaktischen Sektor werden wir diesen Prozess nicht kontrollieren können. Woher wissen Sie, was bei Ihrem nächsten Treffen passieren wird?
Roger kicherte.
„Darüber müssen Sie sich keine Sorgen machen. Es gibt Methoden, die die Entwicklung künstlicher Intelligenz im Laufe der Zeit begrenzen. Wir werden die Zivilisation in eine Schleife bringen, sodass ihre Entwicklung niemals ein für uns gefährliches Niveau erreichen wird. Ich werde darauf aufpassen. Ich bin mit den Methoden der Arbeit mit künstlicher Intelligenz vertraut.“
Die kognitiven Membranen der Crew leuchteten in der Farbe der Zustimmung.
„Am Ende“, fügte der Kapitän des Raumkreuzers am Ende seiner großartigen Rede hinzu, „habe ich am Institut eine Prüfung in diesem Fach abgelegt.“
6.
Nach einer erzwungenen Verzögerung raste der Raumkreuzer auf das Ziel zu. Hinter seinem Heck befand sich ein Planet, auf dem künstliche Kreaturen lebten – sehr klein und unscheinbar. Blau Blau.
Source: habr.com