カンファレンス DEFCON 25. ガルリ・カスパロフ。 「最後の頭脳戦」。 パート2

カンファレンス DEFCON 25. ガルリ・カスパロフ。 「最後の頭脳戦」。 パート1

私が思うに、問題は、知的領域を含む職場で機械が人間に取って代わることではなく、コンピューターが高等教育を受け、Twitter アカウントを持った人々に対して武器をとったように見えることでもありません。 AIの導入は急速に進んでいるわけではなく、むしろ遅すぎます。 なぜ？ なぜなら、これは人類発展の通常のサイクルであり、私たちが目の当たりにしている破壊が新しい技術の導入を意味し、それが新しい仕事を生み出す前に古い仕事を破壊することを私たちは単に理解していないからです。

テクノロジーは時代遅れの産業を破壊し、新しい産業を生み出します。これが創造のプロセスであり、開発サイクルです。 古いテクノロジーをプロセスに挿入したり、古いテクノロジーに何らかの利点を生み出したりして苦しみを長引かせようとしても、単にプロセスが遅くなり、苦痛がさらに増すだけです。 いずれにせよ、それは起こりますが、問題は、意図的にプロセスを遅らせるルールを作成することでプロセスを規制していることです。 これは私たちがより明確に認識している問題よりも大きな問題だと思います。 これはむしろ心理的な問題であり、人々は「自動運転車に乗っている間、どうすれば安全を感じることができるでしょうか?」という質問をします。

歴史を調べてみると、17年前、ニューヨークで最も強力な労働組合の一つが、XNUMX万XNUMX千人の労働者を団結させたエレベーター労働組合だったことが分かりました。 ちなみに当時、ボタンを押すだけで完了する技術はすでにありましたが、人々はそれを信頼していませんでした。 エレベーターを呼ぶのに自分でボタンを押さなければならないのは本当にひどいです。 なぜこの労働組合が「消滅」し、人々が自らボタンを使い始めたのか知っていますか? ある日、エレベーター労働者がストライキを決意したからです。 彼らはストライキを起こし、エンパイアステートビルの屋上に登らなければならなかった人々は危険を冒して自らの手でボタンを押した。

20～30年前、子供や孫が車のハンドルを握ったときに彼らが言ったことを思い出してください。「これはひどいことです。統計を見てください。なぜなら、車は人間の死亡の主な原因のXNUMXつだからです。どうして危険を冒すことができますか？」彼らの生活？"

つまり、これはすべて純粋な心理学です。 私たちは自動車事故で何人が死亡するかにはあまり注目しませんが、自動運転車によって一人が死亡すると、その出来事は不当に大きくなります。 人工知能技術に何らかの不具合や間違いがあれば、すぐに新聞の一面で取り上げられます。 しかし、統計や事故件数を見れば、それが事故総数に占める割合がいかに小さいかがわかるでしょう。 したがって、人類共同体は、そのような恐怖に麻痺することなく前進することができた場合にのみ勝利します。

フェイクニュースやサイバーセキュリティについて話すとき、別の問題が浮上します。これらは非常に政治的な話題であり、AI を嫌う人たちにどう対処するか尋ねる電話がたくさんあります。 たとえば、私は定期的にブログを書いており、数日後に公開される予定の新しい投稿では、憎しみについて、そして憎しみからの救いは知識と学習にあるという事実について語っています。 私たちが理解しなければならないのは、この問題はこれらすべてが発明されるずっと前から存在しており、何百万、何十億もの人々が利用するインターネットのおかげでその重要性が増しているというだけです。

誰かが AI を非合法化して進歩を止めようとするのは実際には良いことだと思いますが、それがうまくいかないのはご存知の通り、どこにいてもプーチンやその他の悪者がいて、彼らは XNUMX 年に作成された私たち自身のテクノロジーを私たちに対して利用します。自由な世界。 ですから、それを当然のこととして受け入れるべきだと思います。

問題の本質は私たちの中にのみあり、質問に対する答えは私たちの中にあり、私たち自身の力と自信の中にあります。 私は、知的な機械が人間を「時代遅れ」にすることはできないと主張します。 ただし、人間とコンピュータの協力には一定の制限があり、これらはほとんどの場合、以前から存在した単なる噂にすぎないことを覚えておく必要があります。 いつものように、これらは単に古い世界を破壊し、新しい世界を生み出す新しい機会であり、私たちが前進するほど、私たちはより良くなるでしょう。

今日では、それは SF の世界への移行に最もよく似ています。 矛盾しているのは、50 ～ 60 年前を振り返ってみると、当時の SF は完全に肯定的であり、完全なユートピアだったことがわかるということです。 しかしその後、ユートピアからディストピアへ徐々に移行し、人類の将来についてはもはや何も聞きたくなくなりました。

これは一夜にして起こったわけではありません。 宇宙探査は危険すぎると人々が判断した時代がありました。 これは確かに大きなリスクですが、1969 年にアメリカ人が月面に着陸したとき、NASA の全体のコンピューティング能力は、ポケットに入る最新のコンピューティング デバイスの能力よりも小さかったと想像してください。 このデバイスは、40 年前に存在していたスーパーコンピューターよりも 7 倍強力です。 あなたのポケットにあるコンピューティングパワーを想像してみてください。 ただし、Apple iPhone 7 が Apollo XNUMX と同じ計算能力を備えているかどうか、つまり、同じ効果を生み出すことができるかどうかはわかりません。

しかし、機械は宇宙や海洋の探査において多くの大きな進歩を私たちにもたらしてくれたので、私たちはコンピューターが私たちに大きなリスクを負う能力を与えてくれるということを理解しなければなりません。

前向きな気持ちで私のスピーチを終わりたいと思います。 このスライドにはポジティブな写真が表示されていませんか? 右下の写真はフォトショップ加工ではなく、実際にターミネーターに出会ったのは2003年です。

彼も子供の頃からチェスが大好きでしたが、特別にチェスを勉強したわけではなかったので、すぐに負けてしまいました。 ですから、6か月後、彼がカリフォルニア州知事に立候補して当選したときは、とても驚きました。

なぜこれらの写真をポジティブと呼ぶのでしょうか? なぜなら、最初のエピソードを除くすべてのエピソードで、老いたアーノルドは常に勝者の側に立ち、新しいマシンとの戦いに飽きることはありませんが、私が話していた組み合わせが見られるのは最初のエピソードです。人間と古いマシンと完璧なインターフェイスが最新の車を打ち負かします。
「そうです、機械は人間よりも強いのです。なぜなら、機械はあらゆることを完全に計算できるからです。」とあなたは言うかもしれません。 ただし、重要なのは、すべてを計算できるということではありません。 たとえば、チェスでは、可能な手の数が数学的に無限である (1045 に等しい) と技術的に言えますが、これは現代のコンピューターで計算するのは難しくありません。 しかし、ゲームで重要なのは計算ではなく、コンピューターは常にルールに従っているため、人間よりも先を行っているという事実です。 そして、あなたはこれらのルールの効果を知っており、コンピューターが多種多様な可能な手の中から最善の手を選択する理由を知っています。

しかし、現実の生活に目を向けると、コンピュータが常に役立つかどうかはわかりません。 最も典型的な状況を考えてみましょう。あなたは予算を監視するコンピュータを持っていて、店にいて、高価なギフトを買おうとしているとします。 コンピューターは購入品を評価し、「いいえ、予算を超えてしまうため、この商品を買う余裕はありません」と言います。 機械はすべてを計算しましたが、小さなニュアンスがあります-あなたの子供はあなたの隣に立っていて、この贈り物は彼の誕生日を目的としています。 これによって問題の状況がどのように変化するかわかりますか? 子供はこの贈り物を待っているので、これですべてが変わります。

すべてを変えるこれらの小さなことを追加し始めることはできますが、それらを問​​題ステートメントに含めて適切な解決策を得ることができるとは思いません。 私たちには多くのルールがありますが、状況は変化するため、依然として疑問を持たなければなりません。 これは日常ともいえる状況だが、これらの映画を見てみると、ここで描かれている状況はよりドラマチックで非日常的であると言えるだろう。 このスライドは、『スター・ウォーズ: 帝国の逆襲』のエピソード V の静止画を示しています。

ハン・ソロが船を操縦して小惑星地帯を真っ直ぐ通過すると、C-3POはパニックに陥り、小惑星地帯で生き残る可能性は1:3122であると報告し、ハン・ソロは「私たちの可能性が何であるかは決して言わないでください!」と彼に言いました。 ここで、この状況では誰がより正しいのかという疑問が生じます。

C-3POに代表されるテクノロジーは絶対に正しい、なぜなら生存の可能性はゼロに近づくからである。 ロボットの観点からすれば、帝国軍に捕らえられることは、小惑星地帯で死ぬよりも人間が考えもしないより良い選択である可能性があります。 しかし、コンピュータが帝国に降伏することが最善の選択肢であると判断した場合、その人には選択肢がまったくないと考えてよいでしょう。 非常に重要なことは、日常的な場合でも特別な場合でも、私たちには最終的な決定を下す機会があり、そのような決定を下すには依然として人間のリーダーシップが必要であるということです。

場合によっては、これはコンピュータの推奨事項に従わなければならないことを意味します。 人間のリーダーシップのポイントは、確率を知ることではなく、今日や明日だけでなく、はるか将来にわたって本当に重要な質問をすることです。 このプロセスは「人間による誘導」または「人間による介入」と呼ばれ、インテリジェントな機械の助けを借りずに影響を及ぼします。 これが今世紀の私たちの進路のあるべき姿です。

インテリジェントマシンを使った経験から、私がインテリジェントマシンについて楽観的であることに人々は時々驚かれますが、私は本当に楽観主義者です。 そして、皆さんも AI の将来について同様に楽観的だと思います。 しかし、私たちのテクノロジーは不可知論的であることを忘れてはなりません。 良いことも悪いこともありませんが、良いことにも悪いことにも使えます。 機械はより賢く、より高性能になる必要があります。 そして、私たち人間は、人間にしかできないこと、夢を見て、最大限に夢を見て、そうすることで、これらの驚くべき新しいツールがもたらす恩恵をすべて引き出すことができるようになります。

予定通り、質疑応答時間はまだ 10 分残っております。

質問: どの手が人間のプレイスタイルにより一致しているかを判断できる機械学習システムを作成することは可能だと思いますか?

カスパロフ: まず第一に、私たちはコンピューターが最初の手と残りの 17505 手を教えてくれることを期待していません。 ユニークな動きに対する最適な推奨事項を提供してくれるマシンに頼るべきだと思います。 ちなみに、トップクラスのプレイヤーはコンピューターをガイドとして活用し、ゲーム内で最適なポジションを取るのに役立っています。 もう一度繰り返しますが、9 件中 10 件の場合、コンピューターによる状況の評価は、人間が行うことができる評価よりもはるかに優れています。

質問: 真の知性には選択の自由、つまり人間だけが下せる決定を下す自由が必要であるということに同意しますか? 結局のところ、ディープ ブルー ソフトウェアやその他のコンピューター プログラムは人間によって書かれており、ディープ ブルーに負けた場合、コンピューターに負けるのではなく、プログラムを書いたプログラマーに負けることになります。 私の質問は、コンピューターに選択の自由がある限り、あらゆる種類の機械知能による危険はあるのかということです。

カスパロフ: ここで私は科学から哲学に移らなければなりません。 ディープ ブルーについてはすべてが明らかです。それは膨大な量の人間の作業の結果です。 ほとんどの場合、デミス・ハサビスのAlphaGoの場合でも、これらはすべて人間の知性の産物です。 機械に選択の自由があるかどうかはわかりませんが、私たちが何をするにしても、その方法を知っていれば、機械の方がうまくやってくれると私は信じています。 しかし、ほとんどのことを行うとき、私たちはそれを最善の方法で行う方法を知らないため、何が成功するかを理解できないことがよくあります。 簡単に言えば、私たちは目標は持っていますが、それが何であるかは知りません。機械の役割は、私たちがその目標を実現するのを助けることです。 したがって、コンピュータの自由な選択について話すと、この目標を達成するのに役立つはずです。 これはコンピュータにとって非常に遠い未来だと思います。

質問: 勇気や道徳などの人間の特性と、それらに基づいて人工知能が下すことができる決定についてどう思いますか? たとえば、自動運転車は何をすべきでしょうか。子供を轢いてしまうのか、岩に衝突して乗客を死亡させないようにするのか。

カスパロフ: これらは人々が「感情」と呼ぶものであり、人間のさまざまな特性が集合しているため、数値化することはできません。 私たちが勇気について話している場合、この特性は常に最適なオプションを選択する可能性に反します。 勇気は、他の人間の感情と同様、定義上、正確な計算に反します。
質問: カスパロフさん、私の質問はコンピューターに関するものではありません。あなたのフラスコには何が入っていますか?試してもいいですか?

カスパロフ: どういう意味ですか?

司会者: ポケットの中に何が入っているか尋ねます。

カスパロフ: 私のポケットに？ 「ストリチナヤ」！ これは広告ではありません、気づいたら捨ててしまいました。

質問: 次のチェスの世界チャンピオンは誰になると思いますか?また、若い中国の棋士ウェイ・イーには、カレルセンからチェスの王の座を奪うチャンスがありますか?

カスパロフ: カレルセンはナンバー 1 プレイヤーであり、世界チャンピオンではありませんが、単にレーティングによると世界最高のチェスプレイヤーです。 彼は今年27歳になるのでまだ若いですが、今日の基準からするとそれほど若くはありません。 ウェイイーは今18か19歳だと思います。 マグナスはアメリカのウェスリー・ソーやファビアーノ・ケルアナといった若手選手よりも先を行っており、ウェイ・イーが彼の対戦相手になる可能性がある。 しかし、世界チャンピオンになるには才能が必要で、若くて元気である必要はなく、少しの運があれば十分です。 したがって、質問に答えると、はい、彼にはマグナス・カレルセンを倒すチャンスがあると言えます。
質問: 決定論的アルゴリズムと機械学習について話したとき、私たちの知性を補完するツールとして機械を使用する可能性について言及しました。 強力な AI を作成したり、人間の脳をコンピューターに組み込んだりする前に、リソースを最大限に活用する可能性についてはどうでしょうか?

カスパロフ: 質問に正しく答えられるかどうか確信が持てない場合でも、自分の無知を認めることは恥ずかしくありません。 私は、人間の脳が人体と切り離して考えた場合、どのようなものなのか、どのような機能を果たしているのかを理解しようと努めています。 なぜなら、脳が身体から切り離されてどのように動作するかを想像するのは難しいからです。 おそらくそのような実験は将来行われる可能性がありますが、人間の脳、人間の感情、感情とコンピューターを組み合わせることで、抽出され冷凍されて使用される脳よりもはるかに効果的な「心」が形成されると私は確信しています。ニューロンが詰まったデバイスとして。

質問: 人間の仕事をコンピュータに置き換えるという問題に対する普遍的な基本的なアプローチはありますか?

カスパロフ: これは非常に重要な質問だと思います。なぜなら、多くの人が失業する可能性がある地点に私たちが近づいていることは明らかだからです。 これは技術進歩の矛盾です。一方で、私たちは最新の技術を持っており、これらのデバイスや技術を扱う若い世代に大きな競争上の優位性をもたらします。 一方で、医学と健康的な栄養の進歩により、人間の寿命は延び、長年にわたって働くことが可能になりました。 その意味では、50代、60代、さらには40代の世代は今の若者には太刀打ちできないのです。 世代間の格差がこれほど大きいという矛盾した状況の解決策を見つけなければなりません。 歴史的経験によれば、このようなギャップは常にビッグバンにつながります。 社会の既存の社会インフラとテクノロジーの進歩とのギャップのことです。

これは政治家が次の選挙まで先送りしたい問題だ。 デリケートな問題なので誰もそれについて話したがりません。 お金を刷って、将来誰かがお金を払ってくれることを期待するのはとても簡単です。 したがって、この分野には多くの矛盾があります。たとえば、高齢世代に社会保障を提供するための債務が蓄積され、これらの債務の返済負担が若い世代の肩にかかることが予想されます。 私には答えのない質問がたくさんありますが、AI が解決してくれることを願っている質問もたくさんあります。
何十年もの間、政治家たちが今議論した問題を無視しようとしてきたのは非常に悪いことです。 彼らはいつでも発言する準備ができており、常に計画を持っていますが、テクノロジーと社会の間の対立の問題について沈黙を守ることの逆効果を理解したくないのです。 ご清聴ありがとうございました！

いつもご宿泊いただきありがとうございます。 私たちの記事が気に入っていますか? もっと興味深いコンテンツを見たいですか? 注文したり、友人に勧めたりして私たちをサポートしてください。 Habr ユーザーは、当社があなたのために発明した、エントリーレベルのサーバーに似たユニークな製品を 30% 割引でご利用いただけます。 VPS (KVM) E5-2650 v4 (6 コア) 10GB DDR4 240GB SSD 1Gbps 20 ドルからの真実、またはサーバーを共有する方法? (RAID1 および RAID10、最大 24 コア、最大 40GB DDR4 で利用可能)。

Dell R730xdは2倍安い？ ここだけ 2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TV 199 ドルから オランダで！ Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - 99 ドルから! について読む インフラストラクチャー企業を構築する方法730 ペニーで 5 ユーロの価値がある Dell R2650xd E4-9000 vXNUMX サーバーを使用したクラスですか?

出所： habr.com