魔術師にはどんな生徒が必要で、どんなAIが必要なのか？

警告
何か異議を唱えているコメンテーターの数に対する、無言の不満を抱いている人の数の過去最高の比率から判断すると、多くの読者にとって次のことは明らかではありません。
1) これは純粋に理論的な議論の記事です。 ここでは、暗号通貨をマイニングするためのツールの選択や、XNUMX つの電球を点滅させるためのマルチバイブレーターの組み立てに関する実用的なアドバイスはありません。
2) これは人気のある科学記事ではありません。 チューリングマシンの動作原理についてはダミーのためにマッチ箱を例にして説明しません。
3) 読み続ける前によく考えてください。 理解できないことはすべて排除するという、積極的なアマチュアリズムの姿勢に魅力を感じますか?
この記事を読まないことに決めた皆さん、よろしくお願いします！

デーモンは、UNIX クラス システム上のコンピュータ プログラムであり、システム自体によって起動され、ユーザーが直接操作することなくバックグラウンドで実行されます。

ウィキペディア

就学前の年齢でさえ、私は魔法使いの見習いについてのおとぎ話を聞いていました。 私の再話でそれを繰り返します。

昔々、中世ヨーロッパのどこかに魔術師が住んでいました。 彼は黒い子牛の革で綴じられ、鉄の留め具と角がついた大きな呪文の本を持っていました。 魔術師が呪文を唱える必要があるときは、大きな鉄の鍵で鍵を開け、特別なポーチに入れて常にベルトに付けていました。 魔術師には魔術師に仕える弟子もいましたが、彼は魔法の本を調べることを禁じられていました。

ある日、魔術師は仕事で一日中出かけました。 家を出るとすぐに、学生はダンジョンに駆け込みました。そこには錬金術の研究室があり、そこにはテーブルに鎖でつながれた呪文の本が置かれていました。 生徒は魔術師が鉛を溶かして金に変えた坩堝をつかみ、火鉢の上に置いて火をあおった。 鉛はすぐに溶けましたが、金には変わりませんでした。 それから学生は、魔術師が鉛を溶かして、毎回鍵で本のロックを解除し、そこから長い間呪文をささやいたことを思い出しました。 学生は絶望的に鍵のかかった本を見つめ、その隣に魔術師が忘れた鍵が置いてあることに気づきました。 それから彼はテーブルに急いで行き、本のロックを解除し、開き、最初の呪文を大声で読み上げ、なじみのない単語を音節ごとに慎重に発音しました。鉛を金に変える呪文のような重要な呪文が間違いなく最初のものであると仮定して、 。

しかし、何も起こりませんでした。リーダーは変身したくありませんでした。 学生は別の呪文を試してみようとしましたが、そのとき雷鳴が家を震わせ、巨大で不気味な悪魔が学生の前に現れ、学生が唱えた呪文によって呼び出されました。
- 注文！ - 悪魔がうなり声を上げた。
恐怖のせいで、生徒の頭からはあらゆる考えが消え、動くことさえできませんでした。
- 命令しないと食べられます! - 悪魔は再びうなり声を上げ、学生に向かって大きな手を伸ばして掴みました。
絶望の中で、学生は最初に思いついたことをつぶやいた。
- この花に水をあげます。
そして彼はゼラニウムを指さし、その鉢は実験室の隅の床に置かれており、その花の上の天井にはダンジョンで唯一の小さな窓があり、そこから日光がかろうじて差し込んでいました。 悪魔は姿を消しましたが、すぐに大きな水の入った樽を持って再び現れ、花をひっくり返して水を注ぎました。 彼は再び姿を消し、満杯の樽を持って再び現れました。
「もう十分だ」と学生は腰まで水の中に立って叫んだ。
しかし、明らかに欲望だけでは不十分でした。悪魔は樽に水を入れて運び、かつて水の下に隠れていた花が立っていた隅にそれを注ぎました。 おそらく悪魔を追い払うには特別な呪文が必要だったのだろう。 しかし、本が置かれたテーブルはすでに泥水の中に消えており、その中には火鉢の灰や石炭、空のレトルト、フラスコ、便、検流計、線量計、使い捨て注射器、その他の破片が漂っていたので、学生が見つけ方を知っていたとしても、必要な呪文だが、彼にはそれができなかった。 水位が上がってきたので、生徒は窒息しないようにテーブルによじ登った。 しかし、これは長くは役に立ちませんでした。悪魔は系統的に水を運び続けました。 魔術師が戻ってきたとき、学生はすでに首まで水に浸かっており、本の鍵を家に忘れたことに気づき、悪魔を追い払った。 おとぎ話の終わり。

すぐに明らかなことについて。 学生の自然な知能（NI）があれば、すべてが明らかであるように思われるでしょう-愚か者、あなたはさらに愚かなことを長い間探さなければなりません。 しかし、悪魔の知性については、ところで、悪魔はどのような知性を持っているのでしょうか。EI ですか、AI ですか? – 曖昧です。 さまざまなバージョンが正規のものです (また、それらについて疑問も生じます)。

バージョン 1) 悪魔は学生よりもさらに愚かです。 彼は命令を受け、たとえすべての意味が消えても、それを無期限に実行するだろう。水やりの対象である花は消え、花の座標が取り付けられている角度は消え、惑星地球は消え、そして愚かな悪魔は樽に入った水を宇宙のある地点まで届け続けるだろう。 そして、この時点で超新星が発生した場合、悪魔は水をどこに運ぶかなど気にしません。 さらに、巨大な樽から小さな花に水をやるなんて、どれほど愚かなのでしょうか？ これはすでに「花に水をやらない」と呼ばれていますが、「花を溺れさせる」と呼ばれています。 彼は命令の意味さえ理解しているのだろうか？

バージョン 2) 悪魔はすべてを理解していますが、義務に縛られています。 つまり彼はイタリアのストライキのようなことを行っているのだ。 すべてのルールに従って正式に追い出されるまで、彼は止まらないでしょう。

バージョン 1、1,2 に対する質問 1) バージョン 2 による完全に愚かな悪魔と、バージョン XNUMX によるまったく愚かではない悪魔をどのように区別しますか?
バージョン 2 に対する質問 1,2) 悪魔は (生徒の観点から) より正確な定式化を正しく実行できたでしょうか? たとえば、生徒が「棚の上にある空のリットルフラスコを取り出して、水を入れて、その花に一度水をあげてください」と言ったとします。 あるいは、たとえば、生徒が「そこへ行ってください」と言ったとします。

バージョン 3) 魔術師は悪魔に追加の呪文を唱えました。それによると、魔術師以外の誰かが悪魔のサービスを利用した場合、悪魔は直ちにこの事実を魔術師に知らせなければなりません。

バージョン 4) 悪魔は魔術師とその生徒を恨んではいません。したがって、状況が制御不能であると見て、樽を持って移動している間に魔術師の背後に現れ、「家に鍵を忘れましたね」と吠えました。 、洪水が起きています。」 しかし、魔術師自身は覚えていなかったでしょう。

バージョン 1 の注 4) EI キャリアのメモリが非常に不完全であることは特に注目に値します。

さらにバージョンを「フィボナッチウサギ」のように掛け合わせることができます。 それほど複雑なアルゴリズムではありません。 例えば：
バージョン 5) 悪魔は邪魔をした生徒に復讐します。
バージョン 6) 悪魔は生徒を恨んでいませんが、魔術師に復讐します。
バージョン 6) 悪魔は全員に復讐します。
バージョン 7) 悪魔は復讐はしませんが、楽しんでいます。 疲れたら終わる。
そんなこと。

したがって、悪魔に関しては何も明らかではないことは明らかです。 魔術師ではダメだ。 さまざまなバージョンを思いつくことができます。彼は、どこにでも好奇心旺盛な鼻を突き出す生徒にレッスンを教えることに意図的に決めたということです。 彼は学生を溺れさせたかったが、悪魔が洪水について吠えたとき、彼は怖くなった、と突然通行人の一人が聞いた、そしてそのとき魔術師に疑いがかかるだろう、と。 呪文などに対する生徒の興味を呼び起こしたかったのです。

ここで、提案されたバージョンのうちどれが正しいのでしょうか?という子供じみた質問が考えられます。 どうやら、どれでも。 物語の中で、どのバージョンを他のバージョンよりも有利にするために未使用のまま残された情報はありません。 ここで私たちは、曖昧な解釈の可能性を伴う芸術作品のかなり一般的なケースを扱っています。 たとえば、監督がこのおとぎ話を劇場で上演したい、またはそれに基づいて映画を作りたい場合、自分の観点から最も魅力的な解釈を選択できます。 別の監督は別の解釈を魅力的に感じるかもしれない。 同時に、魅力は追加の考慮事項によって決定されます。たとえば、最大の興行収入を確保するための視聴者への魅力、またはいくつかのスーパーアイデア、つまり善が悪に対する勝利のアイデアを実証するための魅力などです。義務の考え、反抗的な考え - たとえば、ドストエフスキーによると、学生はラスコーリニコフのように、「彼は震えている生き物ですか、それとも権利があるのですか」などの質問をします。

別の疑問が生じます。
もう一つ質問です）。 AI を持っている私たち自身が常に意識的にどちらかを選択できるわけではない場合、AI に有声バージョンの XNUMX つを優先するように教えるにはどうすればよいでしょうか?

魔術師の話に戻ると、禁じられた本や求められていないところに鼻を突っ込まないように、悪魔のような忠実で従順な生徒が欲しかったというバージョンは、非常にもっともらしく見えます。 同じことが今、AI にも求められることがよくあります。 一見すると、これらはあらゆる機械に対する通常の伝統的な要件です。つまり、完全な服従、不服従は受け入れられません。 しかし、AI の場合、バージョン 1,2 (上記を参照) の問題が発生する可能性があります。 AI は退化しています。ハードウェアは作成者や所有者について何でも考えることができますが、AI に関連するアクションは実行しません。 AIの代わりに、私たちは愚かな原始的なオートマトンを手に入れるでしょう。 このことから、ある疑惑が忍び寄る。おそらく魔術師はその生徒を悪魔のような愚かな演技者にしたくなかったのだろうか？ それらの。 限界のあるAIという考え方が浮上します。 ここでは、EIの分野でさえすべてがさらに困難です。「父と息子」、「教師と生徒」、「上司と部下」の永遠の対立を思い出してください。

前 可能な定義の中から AI の定義を選択する際、私は次の点に注意しました。

数万の単語をアルファベット順に並べ替える作業は、人間にとって退屈であり、実行するには長い時間がかかり、平均的なレベルの責任を持つ平均的な実行者にとっては間違いが発生する可能性が非常に高くなります。 最新のコンピューターは、人間にとっては非常に短い時間 (数分の XNUMX 秒) でエラーなくこのタスクを実行します。

私は次のような定義に落ち着きました。 AI には、コンピューターが人間よりもはるかに苦手に解決できるタスクが含まれています.

この定義は上記の考慮事項を考慮したものであり、実践には便利ですが、同時に、「コンピュータが人間よりも明らかに劣る」タスクのリストが現在と 20 年前で異なるという理由だけで理想的ではありません。 。 しかし、私の意見では、これ以上完璧な定義を考え出した人はまだ誰もいません。

上記は、記事の冒頭の図によって純粋に定性的に示されています。 「スキル」座標軸では、ゼロの領域 (ゼロおよびわずかにそれ以上) のスキルは、たとえば、非標準的な意思決定を行う能力において人間がコンピューターよりも優れているスキルに対応します。 XNUMX の領域 (XNUMX とそれよりわずかに少ない) のスキルは、計算能力や記憶力など、コンピューターが人間よりも優れているスキルに相当します。 従来のユニットと同等の最大の優位性を「優位性」の座標軸に置き、人間とコンピュータのスキルに対する優位性の依存性を単位正方形の対角線の形で求めます。 現時点での状況はこのように見えます。 強い AI がすべてのスキルを最大 (赤線) にすることは可能ですか? それともさらに高い (スーパー AI - 青い線)? おそらく、進歩の中間目標は強力であるべきではありませんが、完全ではありません
弱い AI (紫線)。多くのスキルにおいて AI よりも劣りますが、現在ほどではありません。

私たちの文学的なおとぎ話のモデルに戻ると、そのすべての英雄が最善の方法で行動したわけではないと言えます。失敗した魔術師は鍵を忘れて地下牢で洪水に見舞われ、学生は愚かさと不注意によって大量の水を受け取りました。極度の感動を覚え、溺れそうになった悪魔は感謝もせずに追い出されました。 悪魔の知能に関しては、彼を AI か EI に明確に分類するのは難しいことはすでに述べましたが、他の悪魔の知能は (印象的ではありませんが) 明らかに EI に属します。 彼らについては、決定において危険な間違いを犯したり、不注意になったり、必要なことを忘れたり、疲れたりすることが彼らの主な固有の特性であると言えます。 残念ながら、これらの特性は多かれ少なかれ、他のすべての EI キャリアに固有のものです。 単語や EI の数値を並べ替える信頼性の低さはすでに上で述べましたが、それはさらに単純な作業のように思えます。単に数値を覚えるだけでも、人間にとっては非常に難しいことがわかります。 マシンの場合、円周率の桁を記憶できる能力はメモリのサイズによってのみ制限され、ほとんどの人は ニーモニック、「サークルについて何を知っていますか」など。 「3,1416」という行は、指定されたニーモニックよりも文字数が少ないように見えますが、何らかの理由で、人々はそれほど経済的ではない方法で記憶することを好みます。 さらに長く:

数字の裏にある数字を知り、幸運に気づく方法

私たちが間違いを犯さないように、
正しく読まなければなりません
XNUMX、XNUMX、XNUMX
九十二と六

虹の色を思い出すには:

すべてのデザイナーは、Photoshop をダウンロードできる場所を知りたいと考えています。

そして周期表の始まりは次のとおりです。

自然水（水素）をゲル（ヘリウム）と混合して（リチウム）を注ぎました。 そう、（ベリリウム）を松林（ホウ素）に注ぎ、ネイティブコーナーの下から（炭素）アジアの（窒素）が覗いている、そしてそのような酸っぱい顔（酸素）で二次（フッ素）は私がしなかった見たいです。 しかし、私たちは彼（ネオン）を必要としなかったので、XNUMX（ナトリウム）メートル離れた場所に移動し、マグノリア（マグネシウム）に行き着きました。そこで、ミニ（アルミニウム）スカートを履いたアリアは、リン（リン）を含むクリーム（シリコン）で汚れていました。彼女がセラ（セラ）でなくなるように。 その後、アリヤは塩素 (Chlorine) を取り、アルゴノーツの船 (アルゴン) を洗いました。

しかし、なぜこれほど完璧な EI にこのような明らかな欠陥があるのでしょうか? おそらく、最も単純な事実を忘れる能力のおかげで、人は自分の考えの断片を任意の乱暴な順序で組み合わせて、非標準的な解決策を見つける自由を獲得しますか？ もしそうなら、強いAIは不可能です。 人間のように忘れてしまうか、標準外の解決策ができないかのどちらかです。 いずれにせよ、上記の仮定から、AI の目標を区別する必要があることがわかります。目標の XNUMX つは AI のモデリングであり、もう XNUMX つは強力な AI の作成です。 一方を達成すると、もう一方の達成が妨げられる場合があります。

このように、AIの分野では答えが曖昧な問題が多すぎて、どの方向に進むべきかが不透明です。 このような場合に起こることですが、彼らは一度に全方向に移動しようとします。 同時に、数学的に厳密な定式化が欠如しているため、哲学や芸術的、文学的なモデリングに目を向けなければなりません。 この方向での最も有名な例の 1992 つは、AI の著名人の XNUMX 人であるマービン リー ミンスキーと有名な SF 作家ハリー ハリソンによる著書「チューリング セレクション」(XNUMX 年) です。 おそらく上記の記憶術の現象を説明しているこの本から引用します。

人間の記憶は、すべてを時系列に記録するテープレコーダーではありません。 それは完全に異なる構造になっています - むしろ、混乱と矛盾したインデックスを備えた、ずさんに管理されたカードインデックスのようなものです。 混乱を招くだけでなく、概念の分類原則を随時変更します。

別の文学作品、スタニスワフ・レムの物語「終着駅」（シリーズ「パイロット・ピルクスの物語」より）におけるテープレコーダーの比喩の興味深い解釈。 これは一種の「インテリジェントテープレコーダー」の例です。かつて事故に遭った古い宇宙船に乗っている古いロボットが、盗聴を伴いながら継続的な修理作業に従事しています。 しかし、よく聞いてみると、これは単なるホワイト・テクノロジー・ノイズではなく、瀕死の船の乗組員間の会話であるモールス信号の録音であることがわかります。 ピルクスはこれらの交渉に介入し、とっくの昔に亡くなった宇宙飛行士から思いがけず返答を受け取る。 原始的な修復ロボットは何らかの方法で彼らの意識のコピーを保存していることが判明しました、それともパイロットのピルクスの認識の認知の歪みでしょうか？

別の物語「アナンケ」（同シリーズ）では、宇宙輸送機の制御コンピューター内の EI のコピーにより、テスト タスクによる偏執的な過負荷が引き起こされ、惨事に終わります。

物語「事故」では、過度に擬人化してプログラムされたロボットが、自由時間に行おうと決めた登山の結果死亡します。 そんな出演者が必要なのでしょうか？ しかし、花に水をやるのに夢中な悪魔も、必ずしも必要なわけではありません。

AI 分野の専門家の中には、このような「哲学化」や「文学主義」を好まない人もいますが、こうした「哲学化」や「文学主義」は伝統的に AI の分析に内在しており、AI と AI を比較する限り避けられません。 AIがAIをコピーしようとしている限り、なおさらです。

結論として、生じた多くの問題についての調査を行いました。

登録ユーザーのみがアンケートに参加できます。 ログインお願いします。

1. AI には、コンピューターが人間よりもはるかに苦手に解決できるタスクが含まれますか?

• はい

• ノー

• 定義はよくわかります。 コメントでお知らせします。

• 答えるのが難しい

34 人のユーザーが投票しました。 7名のユーザーが棄権した。

2. AI は執行者のみである必要があり、すべての命令は文字通りに受け取られるべきですか? たとえば、彼らは花に水をやるように言いました - それは彼らがあなたを追い払うまで水をやるという意味です

• はい

• ノー

• 答えるのが難しい

37 人のユーザーが投票しました。 6名のユーザーが棄権した。

3. すべてのスキルが最大になる強力な AI (記事冒頭の写真の赤線) は可能ですか?

• はい

• ノー

• 答えるのが難しい

35 人のユーザーが投票しました。 7名のユーザーが棄権した。

4. 超AI（記事冒頭の写真青線）は可能か？

• はい

• ノー

• 答えるのが難しい

36 人のユーザーが投票しました。 7名のユーザーが棄権した。

5. 中間目標は、AI が強くなくてもよいが、完全に弱い AI (記事冒頭の図の紫色の線) であってはなりません。AI は多くのスキルにおいて AI よりも劣りますが、現在ほどではありません。 ?

• はい

• ノー

• 答えるのが難しい

33 人のユーザーが投票しました。 5名のユーザーが棄権した。

6. 意思決定において危険な間違いを犯したり、不注意になったり、必要なことを忘れたり、疲れたりすることは、EI の主な固有の特性ですか?

• はい

• ノー

• 私は別の意見を持っているので、コメントで述べます。

• 答えるのが難しい

33 人のユーザーが投票しました。 5名のユーザーが棄権した。

7. 最も単純な事実を忘れる能力のおかげで、人は自分の考えの断片を任意の乱暴な順序で組み合わせて非標準的な解決策を見つける自由を獲得しますか？

• はい

• ノー

• 私は別の意見を持っているので、コメントで述べます。

• 答えるのが難しい

31 人のユーザーが投票しました。 4名のユーザーが棄権した。

8. AI のモデリングと強力な AI の作成は、異なる方法で解決できる XNUMX つの異なるタスクですか?

• はい

• ノー

• 私は別の意見を持っているので、コメントで述べます。

• 答えるのが難しい

32 人のユーザーが投票しました。 4名のユーザーが棄権した。

出典: www.habr.com