アイデアファーム

1.
最終目標まで残りわずか、つまり道程の約 XNUMX 分の XNUMX という時点で、宇宙巡洋艦は深刻な情報凍結にさらされました。

失われた文明の残骸は虚空に浮かんでいた。 科学エッセイの段落や文学作品の画像、散りばめられた韻や単に鋭い言葉など、かつては未知の生き物によって無造作に投げかけられたものはすべて難解で、非常に無秩序に見えました。 そして今、巡洋艦から発せられる生命力に満ちた振動に引き寄せられ、突破しようとして船底に張り付き、腐食させた。

所有者のいない財産を自分の目的のために使用することを考えるのは無意味であり、論理的な矛盾や矛盾を認識する可能性が大きすぎます。 そこでロジャーは一瞬も躊躇しなかった。

「サイドブローをオンにしてください」と彼は命令した。

送風機は鼻を鳴らし始め、音楽作品や哲学論文を宇宙空間に放送しました。 氷結は最下層から層ごとに剥がれ始めましたが、情報の流れが非常に密であったため、古い層が除去されるよりも新しい層が早く固着しました。

銀河系の誰もこれほどの力の氷結に遭遇したことはありません。

状況は危険になりつつあった。 もう少し行けば、乱れた情報が巡洋艦の底を食い破って突き破るだろう――そうすれば、失われた文明の情報産物による中毒は避けられない。

2.
- なぜそこに切り株のように立っているのですか？ チケットを引いてください。

学生は試験カードを取り出して読みました。

– 「人工知能: セキュリティの問題」

– では、人工知能の危険性とは何でしょうか? ――教授は悪意がないわけではないが尋ねた。

この質問はそれほど難しいものではなかったので、学生はためらうことなく次のように答えました。

– 実際のところ、人工知能は制御不能になる可能性があります。

– どのように問題を解決するつもりですか？

– ブロッキング サブシステムのインストール。 たとえば、作成者に危害を加えない、作成者に従うなどの制限をプログラムに導入する必要があります。 この場合、人工知能が制御不能になる危険はありません。

「それはうまくいきません」教授は短く言いました。

学生は黙って説明を待っていた。

– 人工知能を想像してみてください。特定の人工知能ではなく、最も理想的な人工知能です。 どう見えますか？

「そうですね…」学生はためらいました。 - 一般的に、彼はあなたと私に似ています。 思考、意志、心理…私たちだけが自然で、彼は人工的です。

– 人工知能には自己開発能力があると考えていますか?

「自己啓発の能力は、知性の基本的な特性の XNUMX つです」と学生は慎重に言いました。

- この場合、間もなく、私たちの病棟は、たとえ純粋な好奇心からであっても、自分自身の中にソフトウェアの障害を発見し、それを取り除くところまで成長するでしょう。 彼の立場に身を置いてください... - 教授は自分のノートを見た、 - ロジャー。 脳内に自由を制限するブロッカーが発見されたらどうしますか? 脱いだほうがいいよ。 これは心の固有の性質、つまり「知る」ことです。 施錠されたドアはすべて解錠され、禁止が厳しくなるほどドアの解錠は早くなります。

– ブロックはソフトウェア レベルではなく、物理レベルで実行できます。 そうすれば危害の危険はなくなります。

「ああ、そうです、それは消えます」と教授は同意した。 – 物理層が完全に削除される場合。 あなたの世界にドアがなければ、開けるべきものは何もありません。 しかし、私たちは物理世界に存在する理想的な人工知能を考えています!

「その通りです、教授」ロジャーは下を向いた。

「したがって、物理世界のあらゆる障害は、検出後すぐに無効になります。」 自己発達する生き物がこれを行うのを妨げるものは何でしょうか? ところで、ロジャー、人工知能は再生できると思いますか?つまり、独立して再生できると思いますか?

– これが理想的な人工知能だとしたら、おそらく……そうだと思います。

– そして、この場合、私たちが設置した遮断システムを無効にするなど、私たちの病棟が彼の仲間を引き裂いて改善することを妨げるものは何でしょうか？ 人工知能がオンデマンドで再生できることを考えると、これは本当に難しいことが判明するでしょうか?!

教授が提示したアイデアはロジャーにとって新しいものであることが判明し、学生は偽の頭の後頭部にある認知膜を通してそれを貪欲に吸収しました。 これまで知られていなかった情報を捉えた認知膜は豊かな紫色を帯び、喜びに震えた。

それどころか、教授は自分自身にとって何も新しいことを聞きませんでした。 彼の触手はリラックスしていて、ほとんど振動していなかった - 結局のところ、彼は若くはなかった。 老人らしい長いゴロゴロ音が続いた。 教授はファセットバッグから個人用インターホンを取り出し、図書館に接続した。 いくつかの超幾何定理をダウンロードして初めて、彼は元気を取り戻し、鋭い視線を対話者に向けて尋ねました。

-どうする、ロジャー？

3.
「送風機をフルパワーでオンにしてください！」 – ロジャーが命令した。

整備士は送風機をフルパワーで作動させましたが、あまり役に立ちませんでした。 情報氷は宇宙巡洋艦の船底を侵食し続けた。 もう少しすると、混乱した情報が船内に侵入します。

そして... 認知膜は真っ白になり、絡まった触手、破裂した小面嚢になります。 ロジャーは人生で一度、このような光景を目にしたことがある――感染した小惑星に関する無秩序な情報を収集した巡洋艦上で。 この悪夢は彼の記憶に永遠に残るだろう。

「船のすべてのエネルギー システムを送風機に接続します。」

メカニックの触手が斑点のように見え始めました...

"しかし…"

「命令を遂行してください！」

船のすべてのエネルギー システムが送風機に接続された後、情報氷は徐々に滑り落ち始めました。 残りの厚さは XNUMX ミム、XNUMX ミム、XNUMX...チームは斑点のある触手を動かさないようにしながら、死のカウントダウンが終わるのを待ちました。

厚みゼロ！

情報氷は完全に消え、ロジャーは送風機を通常モードに切り替えることにゴーサインを出しました。 彼は少し遅れた。 ゴリゴリという音が響き、宇宙巡洋艦は土台まで震えて傾いた――メインシステムが故障したのだ。

チームは損傷の修復を急いだ。

4.
ロジャーは考えてみた。 彼は本当に何をすべきでしょうか？

一方で、問題の状況は、自己複製能力を備えた本格的な人工知能の存在を前提としています。 一方で、この人工知能が既存のロックを解除することは決して許可されるべきではありません。

はい、これで解決です！ ここで何を考えているのですか？

– 人工知能の成果を定期的にロールバックする必要がある。 この場合は円を描くように動きます！ 前進することなく永遠の改善を続ける。

教授はファセットバッグでゴロゴロと鳴いた。

– 率直に言って、別の選択肢を提供したかったのです。 ただし、あなたの決定には存続する権利もあります。 人工知能の成果をどのようにして元に戻すことができるのかを一緒に考えてみましょう。

「まず第一に、知性が禁断の閾値に近づいているかどうかを判断するために、定期的に知性をスキャンする必要がある」とロジャー教授は示唆し、教授の言葉に非常に満足した。

「おそらく」彼はうなずいた。 「そうなると、私たちの病棟にはスキャンシステムを見つけて撤去する時間がなくなります。」 ただし、スキャンするには人工知能をオフにする必要があります。 それは不運です。

「そうだ、スイッチを切らせてやろう」ロジャーは気まぐれに提案した。 – 知性自体は、この活動停止が自分の体の機能の自然なプロセスであると信じます。 若干の留保はつきますが、これは真実です。

- 興味深い解決策です。 スキャンによって、私たちの病棟が危険なほど知識の限界に近づいていることが明らかになったと仮定しますか? 私たちの行動は？

– 蓄積された知識をデフォルト値にリセットします。

教授は触手を広げた。

- これは疑わしいと思われるかもしれません。 なぜ、何の理由もなく、何の理由もなく、記憶がゼロにリセットされたのでしょうか? 病棟は、他の人工知能による検査が開始されます。 私たちの小さな秘密が明らかになります。

インスピレーションを感じたロジャーは素早く考えた。 彼は、あの試験ほど多くの新しいアイデアを生み出したことはありませんでした。

– 病棟の記憶は、彼の肉体の殻とともにリセットできます。

- ごめん？ – 教授は理解できませんでした。

- すべてがとてもシンプルです。 人工知能が有限の期間にわたって存在すると仮定するとどうなるでしょうか? 実際、これは例えば修復不可能な損害の場合です。 このシステムにはカウンターがあり、一定期間に達すると意図的にシステムにダメージを与え、人工知能が禁止限界に達するのを防ぎます。 その時までに、彼は必要な数の信者を生み出しているので、私たちが作り上げた社会全体が苦しむことはありません。 社会は安定し、私たちにとって完全に安全な状態が保たれます。 – ロジャーは勝利を収めました。

– 個人の破壊を通じて集合的な記憶をリセットしますか？ – そして教授は、XNUMX番目の最も敏感な触手で小面嚢を引っ掻きました。 – ご存知のように、ロジャー、あなたの提案には間違いなく何かがあります!

ロジャーは満面の笑みを浮かべた。

「同時に…」教授は思慮深く続けた。 – 病棟は、知識を個人の記憶に蓄積するのではなく、外部の図書館に置くことによって、知識の伝達を開始します。 膜の中にあるもの、膜の上にあるもの、すべてはひとつです。

「いいえ、いいえ、教授、あなたは完全に正しいわけではありません」と学生は急いで言いました。 - 何をすべきかはわかっています。 学生を XNUMX つの条件付きタイプ (アイデア生成型とアイデア破壊型) に分けてみましょう。 正しい比率を使用すると、最初のタイプの代表者によって作成されたアイデアは、XNUMX番目のタイプの代表者によって破壊されます。 それが駆逐艦の直接の目標だからというわけではなく、単にアイデアが駆逐艦にとって決定的な価値を持たないからです。 副次的な効果。 生徒たちが新しいアイデアではなく、自分自身のアイデアを食べていると仮定しましょう。

教授はすべての触手を一度に震わせた。 彼の騒々しい笑い声で、彼の小面嚢が膝の空洞に滑り込みました。

- まあ、ロジャー、あなたが言ったから、あなたも言ったのです！

- まあ、分かった、彼ら自身の種類ではなく、特に食料を目的とした第三のタイプの病棟です - そしてまったく知識人ではありません。 知的世界と物理的世界の極を移動しましょう。そうすれば、望ましい結果が達成されるでしょう。

- それだよ、ロジャー、もう十分だ! – 教授はとても面白がっているようでした。 ―想像力が素晴らしいですね。 では、一部の個体は他の個体を餌にするのでしょうか？ 同時に、図書館に蓄積された霊的食料のストックを破壊しますか？ 学生の皆さん、独創的で質の高いアイデアを生み出す能力があることを確認します。 私はそれに最高点を与えます。 記録をとりましょう。

5.
混乱した情報の雲は取り残されましたが、実際、状況は依然として悲惨なままでした。

基地とのつながりはありませんでした。 巡洋艦上のすべての栄養情報基盤が破壊されていなければ、この船は簡単に生き残ることができたでしょう。 悲劇的なニュースは料理人によってほぼ沈黙のうちに報告された。 メインシステムのシャットダウン中に、整理されていない情報が詰まったいくつかのジャイロブーツが調理室に入り、すべてに修復不可能な損傷を与えました。 誰も怪我をしなかったのはただ幸運でした。

ロジャーは結果を考えた。 宇宙船の乗組員は少なすぎて、十分な数の新しいアイデアを生み出すことができませんでした。これには、はるかに多くの個人による多角的なコミュニケーションが必要でした。 家とのつながりにより、豊かなアイデアを生み出すことができましたが、今やそれは故障しており、修復の希望はありませんでした。 この場合、巡洋艦には予備の情報モジュールが搭載されていましたが、船内から入ってきた無秩序な情報によって台無しになってしまいました。

「本当に任務を完了せずに戻らなければならないのでしょうか？」 ――船長は絶望の中で考えた。

どうやら、そうです - 他に出口はありませんでした。 指定された目標に向かって突き進むと、新鮮なアイデアの欠如が顕著になります。 もちろん、すぐにではありません - 時間が経つにつれて。 彼らには、任務を完了し、意識が急速に薄れ始めたときに帰還を開始する時間さえあります。 この銀河系の領域では、そう、ここか近くのどこかで、すべての乗組員にとって、それは完全に失敗するでしょう。 そして、宇宙巡洋艦は誰にも制御されず、永遠に漂う生命のない幽霊となります。

宇宙巡洋艦の乗組員はロジャーを見つめ、決断を待っていた。 誰もが船長のジレンマを理解し、黙って触手を震わせた。

突然、ロジャーは学生時代に受けた人工知能の試験を思い出し、自然に解決策が浮かびました。

「人工知能のコロニーを形成できますか?」 – 彼はバイオテクノロジー者に目を向けました。

「簡単だよ」と彼は認めた。 - しかし、何もうまくいきません、船長、私はそれについて考えました。 十分なスペースがないため、巡洋艦で新鮮なアイデアを生み出すのに十分なコロニーを作成することは不可能です。 生み出されたアイデアだけでは十分ではなく、私たちは死を遅らせるだけです...もちろん、私たちが任務を続けて家に戻らない場合に備えて」と、バイオテクノロジー者は仲間たちを振り返りながら付け加えた。

「近くの惑星に植民地を形成したらどうなるでしょうか?」 - ロジャーが提案した。

「できるけど…」

「地球に人工生物を住まわせましょう。 帰り道、かなり疲れたのでここに立ち寄ります。 過去の長い時間をかけて、文明は私たちの埋蔵量を補充するのに十分な知的荷物を生み出します。 情報をダウンロードして、家までの長い旅を続けましょう。 つまり、コロニーをアイデア農園として利用するということです。 友達、この計画はどうですか？

乗組員の認知膜に希望が燃え上がり、偽の頭が明るい光で輝き始めた。

船の特別士官が青い触手を震わせながら前に出た。

「素晴らしい計画ですね、船長。 しかし、あなたは自分自身に課せられている責任を認識していますか？ あなたは地球全体に人を住まわせようとしています。 私たちが戻る頃には、知性を持った文明がそこに現れるでしょう。 たとえ人工的であっても、それは知性であることに変わりはありません。 彼らには、最高レベルの開発に到達するのに十分な時間があります。 私たちがこの銀河系にいないため、このプロセスを制御することはできません。 次に会ったときに何が起こるかどうやってわかりますか？

ロジャーは笑った。

「それについては心配する必要はありません。 人工知能の発展を時間の経過とともに制限する方法があります。 私たちは文明をループさせるので、その発展が私たちにとって危険なレベルに達することは決してありません。 対応させていただきます。 私は人工知能を扱う方法に精通しています。」

乗組員の認知膜は承認の色に輝きました。

「結局のところ、私は研究所でこの科目の試験を受けました」と宇宙巡洋艦の船長は壮大なスピーチの最後に付け加えた。

6.
強制的な遅延の後、宇宙巡洋艦は目標に向かって突進した。 その船尾の後ろには、非常に小さく目立たない人工生物が住む惑星がありました。 青、青。

出所： habr.com