本の書評：『ライフ3.0。 人工知能の時代に人間であること」

私を知っている人の多くは、私が多くの問題に対して非常に批判的であり、ある意味ではかなりのマキシマリズムさえ示していることを認めます。 私は喜ばせるのが難しいです。 特に本に関してはそうだ。 私は、SF、宗教、推理小説、その他のナンセンスのファンをよく批判します。 本当に大切なことに気を配り、不死の幻想の中で生きるのをやめる時期が来たと思います。

私の親友の一人との議論の中で、私がさまざまなナンセンス（同じSF）を常に提供されているという事実について私が次に憤慨した後、彼は私に「ライフ3.0」という本を読み進めるようにアドバイスしました。 人として…"。 恥ずかしながら、私はずっと前にダウンロードしていましたが、Dynasty Foundation の素晴らしいセレクションとともに、それに気付かなかったのです。 喜ばせるのはとても難しいので... 控えめに言っても、私はかなりの数の本を読みました。 しかし、私はこの本が気に入ったので、これに取り組む価値があるかどうかという彼の質問に答えるだけでなく、自分自身の批判的なレビューも書くことにしました。取り組むべき何か。

いつものように、私のレビューが大量の洪水とスパムの中に溺れ​​ることはなく、読者だけでなく、その後の作品の欠点を考慮に入れる作家にも届くことを信じたいと思います。 もちろん、以下は私の主観的な意見にすぎませんが、可能な限り実証するように努めます。 いつものことですが、すべてをやる時間がなく、実際、私は平均的な物乞いの奴隷です。 しかし、私はこのレビューを書くのが国際人としての私の市民的義務であると考えています。 私は長い間、これや他の多くの関連トピックに興味を持ってきました。 以下に説明することの多くは、人類全体と個々の人々の両方に課せられた主要な課題であると私は信じています。 どんなに大げさに聞こえるかもしれません。 それで…

ライフ3.0。 人として

批判

失敗は文字通り本の最初のページから始まります。 引用します：

「周知のとおり、何が生命とみなされるかという問題については長い間合意が得られていない。 膨大な数の別の定義が提案されており、その中には非常に厳しい制限が含まれているものもあります。たとえば、細胞構造の存在により、将来の思考機械や一部の地球外文明が生物のリストから除外される可能性があります。 生命の将来についての考えを、私たちがすでによく知っている種に限定したくないので、複雑さと再生産能力を備えている限り、他のプロセスも含めて生命のより広い定義を考えてみましょう。 正確に何が再現されるか (原子で構成される) はそれほど重要ではなく、重要なのは情報 (ビットで構成される) であり、原子間の相対的な位置によって決まります。 細菌が DNA をコピーするとき、新しい原子は作成されませんが、既存の原子は元の原子を正確に繰り返す鎖状に配置されているため、情報のみがコピーされます。 言い換えれば、情報を処理することができ、その独自の情報 (「ソフトウェア」) がその動作と構造 (「ハード」) の両方を決定する、自己複製システムはすべて生きていると考えることができます。」

合意はありませんが、現時点では人生についてより明確な考えがあります。 彼らと知り合いになると良いでしょう。

あるいは、このように単純化し、この立場からアプローチすると、生命は基板からその構造を再現する複雑な結晶の成長に起因すると考えられます。 あるいは、おそらく、油と腐植質の形成のいくつかのプロセスで、種子も存在し、同じ種子の分子の出現につながります。 これらはいわば酵素の祖先ですが、現代科学では完全な生命体であるとは考えられていません。 彼らは発達と突然変異をすることができません。 変化がなければ、それは人生ではありません。 そこで私は、生命の概念を少し狭めて、それが他にどのような特徴を持っているかを再考することを提案します。 私の記事「生命の可能性の分類」もお勧めします。

次の引用：

「宇宙そのものに続いて、生命はますます複雑で興味深いものになってきました 4。そして、これから説明するように、生命 1.0、生命 2.0、生命 3.0、生命 1.1、生命 XNUMX、 XNUMXとXNUMX。 これら XNUMX つの形式が互いにどのように異なるかは、一般的に図 XNUMX に示すように明確に見ることができます。 XNUMX…。
生命の 1.0 つの段階: 生物進化、文化進化、技術進化。 Life XNUMX は、その存在中に「ハード」にも「ソフト」にも影響を与えることができません
単一の生物: どちらもその DNA によって決定され、その DNA は長い進化の過程で世代から世代へと変化する可能性があります。」

私の理解する限り、ここに重大な間違いがあります。 著者が現代の微生物研究に精通していないことは明らかです。 ハードウェアとソフトウェアの両方を変更できます。 それらの。 実際、生命 1 は生命 3 と同じことができます。微生物は人間よりも優れた DNA の断片を捕捉することさえできます。 彼らはこれをさまざまな方法で行います。 直接、環境から（破壊された細胞の DNA が見つかった場合）、バクテリオファージやプラスミドの助けを借りて、または有性生殖によって、いわゆる性的ピルを形成します。細菌における結合 - Wikipedia。 不要な部分をピンポイントでカットすることもできます。 たとえば、CRISPR のおかげです。 したがって、Life 1.0 であっても、ハードウェアとソフトウェアの両方を変更することができます。 これは、遺伝子組み換え作物を恐れ、LUCA がある程度生きていて、革新的で前代未聞のものに見えることを忘れてしまった私たちのためのものです。 私たちはこの能力を失い、「賢い」霊長類にとって、ハードドライブを交換することは完全にタブーになっています。 したがって、これは新しいものではなく、忘れ去られた古いものです。 このパラメータを比較に使用しても意味がありません。 複雑さの度合いと、（さまざまな複雑さのレベルでの）自己変化は別のことです。 ハエとカツレツを区別できる必要があります。 分類を大幅に見直す必要がある。

しかし、これらはまだ花です。 それからブックマークを作る機会はありませんでした。 この本が非常に重要で地球規模の問題について正しい方法で触れているという事実にもかかわらず、著者は非常に博学であるが、明らかに、適切な補間を行い、それでも合理的な作業仮説と少なくとも暫定的な結論に達するには、何かが欠けていたようです。

たとえば、セクションの 2 つで、彼は AI に対する人々の原始的な悪党のアプローチを補間し、AI による人々の欺瞞の可能性を恐れ、検討しています。 確かに、強力なAIであれば、このような欺瞞が行われる可能性はあります。 しかし、超人工知能（AI）であれば、そのような欺瞞は必要ないだろう。 ただ、そのような知性は、嘘や狡猾さがなく、多くの人々に断ることのできない申し出を正確に行うことができるでしょう。 ここですべてを説明する機会はありませんが、AIがだまそうとしない理由を理解するには、たとえばマット・リドリーの本を読むことをお勧めします。 「利他主義と美徳の起源」、そして一つには「すべての進化」。 これらの作品を分析した結果、発展が進むほど、競争よりも利他主義、協力、非ゼロサムゲームの傾向が大きくなると結論付けることができます。 したがって、知性が賢ければ賢いほど、より人間的で正直になる可能性が高くなります。 それらの。 インテリジェンス自体は、人々を理解し、騙された競争相手としてではなく味方として利用するための強力なリソースです。 人の長所と短所を見つけて、前者を補い、後者を活用します。 人々と協力する必要がなければ、競争も必要ないでしょう。 世の中には無料のリソースがたくさんあります。 私たちの海はまだ空です。 地球の下には空き地がたくさんあるので、私は他の惑星についてはすでに沈黙しています。 したがって、生物学的形態から盲目的に選択して作成されたものよりも効率的な媒体に配置されたハイテク AI は、人間と競合することなく歩き回る余地があります。 それは、人々がまだ主張できない、そしておそらく決して主張できないであろうニッチの多くを占めるだけです。 そして彼は誰も騙しません。 すでに現在では、AI だけでなく、一般の読み書きできる人々さえも、異なるアプローチを実践しています。 欺瞞や秘密主義ではなく、最大限のオープンさ、誠実さ、そして協力。 硬直した古風な泥棒精神を持つ人々には、これが理解できません。 おそらく、AI コードは単純にオープンソースではないでしょう。 多くのフリーソフトウェアのコードと同様です。 また、ハッカーは処罰されたり弾圧されたりすることはありませんが、このコードの脆弱性を報告することは奨励されます。 刑罰としての殺人や刑務所も同様です。 これらすべては起こらない、これは野生です。 疎外された人々にはXNUMXつの道があります。まず彼らを詳細に研究する必要があり、次に考慮に入れて彼らの意見に耳を傾け、妥協する必要があります。 それは非常に重要な意見である場合もあれば、再教育し、治療するだけで罰しない場合もあります。

一般に、私はこれらすべての恐怖や狂信的な感情に断固として反対します。人類は知性の創造に全力を注がなければなりません。 実際、私たちの自然な知能はそれほど賢いわけではありません。 他に呼び方がない霊長類の多くがこれに気づいていないだけです。 補間の話に戻って、この部分を要約して続けたいと思います。 ご覧のとおり、一方では、Tegmark は、狡猾さ、欺瞞などといった、人間の複雑な要素を類推して、病気の人間の頭から健康なデジタルの頭に移し替えるべきではありません。また、その一方で、いくつかのセクションでは、彼は人生の意味を総合的に理解して決断することができません。 これも非常に憂鬱なことであり、彼が進化論についてほとんど研究をしていないことを示しています。 彼がもっと努力していれば、AI にどのような目標、あるいは哲学や目標設定を設定すべきかというジレンマに悩まされることもなかったでしょう。 なぜなら私たちの周りの世界を分析すると、事実上、生きているもの、そしておそらく生きていないものすべてが拡大しようとしていると結論付けることができます。 複雑に発達した生命体の多くは、さらなる発展、自己改善、影響力の拡大、他の生物や無生物との相互作用を目指して努力しています。 したがって、おそらく AI は独自に同様の結論に達するか、そのような原則が AI に組み込まれることになります。 その結果、彼はすべての生き物と同じように、新しい領域を開発、改善、征服し続け、自分のためだけでなく環境のためにも世界を変革し続けるでしょう。

私は同意する

ロボットのターミネーターによる全世界の武力乗っ取りの話を聞いて目を丸くするなら、あなたの反応は正確です。そのようなシナリオはまったく現実的ではありません。 これら
ハリウッドのロボットは私たちよりも賢いわけがありませんし、まったく賢いわけでもありません。 私の意見では、ターミネーターの物語における危険は、何が起こるかということではありません。
似たようなことですが、それは人工知能に関連する本当のリスクや危険から私たちの注意をそらしてしまうということです。 現世から次の世界への移行。
真に優勢にあるのは普遍的な人工知能です。これには XNUMX つの論理的なステップが必要です。

• ステップ1。 人間レベルで汎用人工知能 (AGI) を作成します。
• ステップ2。 この AGI を使用して超知能を作成します。
• ステップ3。 超知性を利用して世界を征服するか、独自に征服する機会を与えます。

テキストによる検索、ロボット戦争について書いているメディアの同様の記事など。
私の提案。

繰り返しても飽きません。今、誰もが心を創造することに全力を注がなければなりません。私の意見では、世界を救うのは美やその他の愚かさではなく、心です。 そして、人工的、自然的などの境界を設定して、この心（知性）を分離すべきではありません。 現段階ではAIはまだ初期段階にあるため、テクノロジーに支えられた自然知能の役割は非常に大きい。 人工と自然の間に明確な境界線はありません。 もし私たちが現在存在する原始的な知能ではなく、通常の知能を創造したいのであれば、あらゆる可能性を利用し、あらゆるテクノロジーを利用する必要があります。なぜなら... それらは再帰的に連携して機能します。自然知能が人工知能を生み出し、人工知能は、少なくとも初期段階では、自然知能の能力を近代化し、拡張することに関心を持つでしょう。

私は自分自身にどんな未来を見せたいですか？

これが現時点での私の最も楽観的な予測であることをすぐに述べておく価値があります。 実際のところ、私がこの古風な社会で生きていくことはできそうにありません。 でも信じたい。 部分的には、最終的には映画のような「宇宙の質問: 私たちは永遠に生きられるか?」のようになりたいと思っています。 ディスカバリーのアダム・サベージと。

考えられる問題

貪欲な人はAIの信用を傷つけるでしょう。 彼らは、自分たちの利己的な目的のために、弱い AI や、過剰ではないが強力な AI を使い始めるでしょう。 ここで問題に遭遇しますが、私の記憶が正しければ、この本の中での説明が不十分です。

好むと好まざるにかかわらず、コード、ミーム、プログラム、信念などのレベルで、今後も過酷で残酷な知的な戦いが待っていると思います。 おそらく、それらは主にデジタル メディア上の仮想現実で表示されることになり、それは些細なことではなく、さらに現実的なものになるでしょう。 犠牲者も、血がついた引き裂かれた肉もありません。 戦争は私たちの見解、意見、判断をめぐって戦われるでしょう。 そして、この戦争が始まるのが早ければ早いほど、すべての人にとって良いことになります。 それを恐れる必要はありません。それはすでに始まっています。部外者でありたくないのであれば、それに参加する必要があります。 オフラインの場合は生きていないと考えてください、ということをどこで読んだか覚えていません。 それは荒唐無稽に聞こえるし、難解主義者（虫、森、うんこを愛する人たち）は私と議論するだろう。 しかし、彼らが森の中でうんちを踏みつけ、蚊に餌を与えた場合。 そうすれば、彼らと議論する必要はありません。 私たちは、テクノロジーを利用することでそれを悪であり、すべてが間違っていると考える見当違いの偽善者たちと議論しなければならないでしょう。彼らは、どういうわけか、私たちを取り囲むあらゆる場所でITを手放そうとしないからです。

リンクとコミュニケーション

著者は本のページで何度もウェブサイトで彼に連絡することを提案しました AgeOfAi.org。 私もそのようなつながりには賛成です。 読み手も書き手もこの恩恵を受けることができると思います。 しかし、何らかの理由で、リンクを介した私のページは開かず、次の場所にリダイレクトされました。 futureoflife.org/superintelligence-survey。 おそらく、時間があれば、私の記事はロシア語でサイトは英語であるにもかかわらず、このレビューへのリンクを本の著者に提供しようと思うでしょう。 幸いなことに、電子翻訳機があります。 他にも有用な考えがすでにあるかもしれないので、調べる必要もあります。 さらに良いのは ziminbookprojects.ru です。 これはおそらく、以前のサイトと同様のバージョンですが、ロシア語です。 確信はないけど。 いずれにせよ、提起されたトピックと同様に、リンクも注目に値すると思います。

私が気に入った引用をさらにいくつか挙げておきます。

信者向け:

「もしそれらがすべて物理法則に従うことが判明した場合、魂はあなたを構成する粒子に何の影響も及ぼさないことになる。つまり、あなたの意識、心、そしてあなたの動きを制御するその能力には何の影響も及ぼさないことになる」魂でやれ。 逆に、あなたを構成する粒子が既知の物理法則に従っていないことが判明した場合、その粒子に対するあなたの魂の影響がこれを妨げるため、この新しい実体は定義上物理的なものでなければなりません。私たちが過去に磁場と粒子を研究したように、それを研究できるようになるでしょう。」

科学を宗教から切り離している人にとっては非常に役立ちます。 科学は宗教に干渉すべきではなく、宗教は科学に干渉すべきではないと信じています。 しかし、盲目の宗教狂信者にとって、これは空虚な言葉です。 しかし、論理的に考えることができる疑い深い人々にとって、思考は十分以上に役立ちます。
科学者向け:

「細菌カンジダトゥス・カルソネラ・ルディのゲノムは最大40キロバイトの情報を保存しますが、私たちのヒトゲノムは約1,6ギガバイトを保存します。」

興味深い事実。 これらを集めてみます。 おそらく、仕事で、または単純にバイオインフォマティクスのトピックについて議論するのに役立つでしょう。

一般に、この本はほぼ完全に引用文に分解して詳細に分析できますが、残念なことに、いつものように時間がありません。 ちなみに、この作品を勧めてくれた友人は、本質も意味も全く理解していなかったので…。 私はこの本を音声合成ではなく、オーディオブックとして聞きました。 したがって、彼の注意の一部は、アナウンサーの声の意味ではなく、その美しさに向けられていました。 引用の不可能性や、オーディオブックに収録されていない他の多くのことについては、私はすでに沈黙しています。 まあ、これはそうだ、筋金入りのオーディオブック愛好家にとっては、心からの叫びです。 これらすべてについては、私の著書『Book 3.0』で詳しく説明しました。 聞く！

出所： habr.com