カンファレンス DEFCON 25. ガルリ・カスパロフ。 「最後の頭脳戦」。 パート1

ここに来られて光栄ですが、ハッキングしないでください。 コンピューターはすでに私を嫌っているので、この部屋にいるできるだけ多くの人と友達になる必要があります。 私の伝記から、アメリカの聴衆にとって興味深い些細な事柄を一つ取り上げたいと思います。 私は国の深南部、ジョージア州のすぐ隣で生まれ育ちました。 これは実際に真実です。 ちょっと待って、コンピュータは私を嫌っているって言ったじゃないですか！

スライドが XNUMX 枚失われていますが、これは実際にはソ連の最南端で、私はジョージア共和国（訳者注：ジョージア州とジョージア共和国の名前）のすぐ隣に位置する共和国で生まれました。英語でも同じように聞こえます）。

私の祖国について言えば、面白いことに、私の最後の本『Deep Thinking』は人工知能について、コンピューターと戦う私自身の経験について書かれており、そのXNUMX年前に書かれた本は『Winter is Coming』というタイトルでした。 それはゲーム・オブ・スローンズのあらすじではなく、ウラジーミル・プーチンと自由世界のための戦いについてのものでしたが、私がブックツアーに参加したとき、誰もがチェスとIBMディープブルーコンピューターについて私に尋ねたがりました。 さて、私が『Deep Thinking』という本を紹介すると、誰もが私にプーチンについて尋ねたがります。 しかし、私は本題から外れないよう努めているので、このプレゼンテーションの後にいくつか質問があると思いますが、喜んでお答えします。 私は政治家ではないので、質問に答えることを躊躇しません。

何千年も前に誕生したチェスのゲームが、人工知能の完璧な例えであるというのは奇妙に思えるかもしれません。なぜなら、AI について話すとき、I という文字は知性を表し、チェスよりも優れていることを示すものは何もありません。

多くの人は、チェスはカフェで楽しむ単なる娯楽にすぎないと信じています。 ハリウッドの作品を​​見ると、エイリアン、X-MEN、ウィザード、ヴァンパイアなど、誰もがチェスをしています。 私の大好きなハンフリー・ボガート主演の映画「カサブランカ」もチェスを題材にしたもので、この映画を観るときはいつもスクリーンの内側からボガートの盤面を眺めるような位置に立ちたいと思っています。 彼は 40 年代初頭に非常に人気があったフランスのディフェンスでプレーします。 ボガートはかなりまともなチェスプレイヤーだったと思います。

19 世紀後半の IQ テストの共同発明者の 18 人であるアルフレッド ビネーは、チェスプレイヤーの知性を賞賛し、長年にわたってそれを研究していたことについて触れておきたいと思います。 したがって、チェスのゲームがスマートマシンを作りたい人々を惹きつけたのも不思議ではありません。 しかし、フォン・ケンペレンの「ターク」のような知的機械が単なる巨大な詐欺であることもよくあります。 しかし、XNUMX世紀末、このチェスマシンは大きな奇跡であり、ヨーロッパやアメリカを巡回し、フランクリンやナポレオンなどの強いプレイヤーや弱いプレイヤーと戦ったが、もちろんすべてでっちあげだった。 「ターク」は本物のマシンではなく、スライドパネルとミラーのオリジナルの機械システムであり、その中に強いプレーヤー、つまり男性が隠れていました。

興味深いのは、XNUMX 年か XNUMX 年後、過去 XNUMX 年間に、逆の状況が観察されたということです。トーナメントでは、人間のプレイヤーがコンピュータ デバイスをポケットに隠そうとしているのが見られます。 そこで今度は人間の体内に隠されたコンピューターを探さなければなりません。

しかし、機械装置に関する話はあまり知られていません。 チェスをプレイするための最初の機械装置は 1912 年に登場しました。それは XNUMX つの機械部品を使用してプレイし、チェックメイトをルークに変えることができましたが、最初のコンピューターのプロトタイプとは言えませんでした。

興味深いことに、アラン・チューリングやクロード・シャノンなどのコンピューター設計の先駆者はチェスに強い関心を持っていました。 彼らは、チェスをプレイすることで人工知能の秘密を明らかにできると信じていました。 そして、いつかコンピュータが普通のチェスプレイヤーやチェスの世界チャンピオンに勝つとしたら、それはAIの進化の現れとなるでしょう。

覚えていると思いますが、アラン チューリングは 1952 年にチェスをプレイするための最初のコンピューター プログラムを作成しました。これは素晴らしい成果でしたが、さらに重要なのは当時コンピューターが存在しなかったという事実でした。 それは単に彼がチェスをプレイするために使用したアルゴリズムであり、人間のコンピュータープロセッサのように機能しました。 コンピューターの創始者は、人間の思考のプロセスに従って、AI が発展する道筋を決定したことを覚えておくことが重要です。 反対の方法は、いわゆるブルートフォース攻撃、または可能な動きの素早い検索です。

1985 年当時はコンピューターとの対戦など聞いたことがありませんでしたが、この写真には 32 枚のボードが見えます。人間と対戦しているとはいえ、実際にはコンピューターとの本物のゲームでした。 当時、チェス コンピューターを世界に導入したばかりの大手メーカーが 4 社ありました。 おそらく皆さんの中には、そのようなコンピューターをまだ持っている人もいるでしょうが、今では本当に希少なものになっています。 各メーカーが 8 つのコンピューター モジュールを持っていたので、実際には 32 人の対戦相手とプレイし、すべてのゲームに勝ちました。

非常に重要なことは、これは驚きではなく、当然の結果だったということです。私の勝利のこの写真を見るたびに、この頃がチェスマシンの黄金時代だったときのことを思い出します。当時、チェスマシンは弱く、髪は濃かったのです。 。

1985 年 12 月のことですが、1997 年後、私は 1996 台のコンピューターとしか対戦していませんでした。 1997年にフィラデルフィアで行われた最初の試合で私が勝ったため、1996年に再戦がありました。 私はこの再戦には負けましたが、公平を期すために言うと、コンピューター チェスのターニングポイントは 3 年ではなく 4 年に起こり、その時は私が試合には勝ったものの、初戦で負けました。 その後2勝し、スコアはXNUMX対XNUMXで有利になりました。

実際、ここで重要な事実は、当時のコンピューターは、通常のチェスのトーナメントに出場すれば、チェスの世界チャンピオンになれる能力があったということです。 IBM が 2 年でコンピューターを強化するためにこれほど本格的な技術作業を行えるとは予想していませんでした。 しかし、私の最大の間違いは、試合の1996週間後にIBM株の価格が数ポイントからXNUMX億ドルまで急騰したことを除けば、細かい文字が読めなかったことだ。 XNUMX 年にディープ ブルー コンピューターに関して私が抱えていた問題の XNUMX つは、それが私にとってブラック ボックスだったからです。 私は相手について、彼がどのように考え、どのような戦術を使うのか、何も知りませんでした。 通常、試合の準備をするときは、チェスの試合であろうとサッカーの試合であろうと、対戦相手を研究し、プレーの仕方を観察することで、相手の戦略を研究します。 しかし、ディープ・ブルーの「プレースタイル」に関する情報はなかった。

私は気を利かせようと努め、次の試合ではディープ・ブルーがプレイする試合にアクセスできるようにすべきだと言いました。 彼らは「もちろんです！」と答えましたが、小さな文字でこう付け加えました。

「…公式大会中のみです。」

ディープ・ブルーが実験室の壁の外で一度もゲームをプレイしたことがないという事実にもかかわらず、これはである。 それで 1997 年に私はブラック ボックスと対戦しましたが、すべてが 1996 年に起こったこととは逆の結果になりました。最初のゲームには勝ちましたが、試合には負けました。

ところで、20 年前、私がハッカーをとても必要としていたとき、あなたたちはどこにいたのですか? 確かに、出席者の列に沿って視線を走らせると、皆さんの多くがおそらくまだ生まれていないことがわかります。

私の最大の間違いは、ディープ・ブルーの試合を偉大な科学的・社会的実験として扱ったことだ。 人間の直感をコンピューター計算の「力技」に匹敵させる領域を実際に発見するので、彼は素晴らしい人だろうと思いました。 しかし、2 秒あたり約 1997 万チェスの駒という驚異的な計算速度を備えたディープ ブルー (XNUMX 年としてはまったく悪くありませんでした) は、人工知能とはまったく言えませんでした。 彼のパフォーマンスは、人間の知性の謎を解くのに何の貢献もしていませんでした。

普通の目覚まし時計と同じくらい賢いわけではありませんが、10万ドルの目覚まし時計に負けるのは気分が良くありません。

試合の開会式での記者会見で、IBMプロジェクトを主導していた人物が、これは科学実験の終わりであり、科学の勝利を意味するだろうと述べたのを覚えている。 XNUMX勝XNUMX敗だったので、どちらが強いのかXNUMX試合目をやりたかったのですが、唯一の公平な証人を排除するためにコンピュータが解体されたようです。 ディープブルーに何が起こったのか調べてみましたが分かりませんでした。 後で知ったのですが、彼は新たなキャリアに就いて、現在はケネディ空港のターミナルの一つで寿司を作っていたそうです。

私はお寿司が大好きですが、そこにコンピューターは必要ありません。 ということで、私のコンピュータチェスの話はあっという間に終わりました。 しかし、チェスやその他のゲームをプレイする人は、私たちがコンピューターに比べてどれほど脆弱であるかを知っています。なぜなら、私たちはそこまで安定しておらず、公平ではなく、間違いを犯すからです。 最高レベルのプレーヤーでもミスはします。たとえば、50 または 45 の手があるチャンピオンシップの試合では、少なくとも XNUMX つの小さなミスは避けられません。 生身の人間がプレイする場合はあまり問題になりませんが、マシンでプレイする場合は失敗することはありませんが、マシンは敗北を回避できるため、負けることはありませんが、勝つこともできません。

ある時点で、私はそれが時間の問題であることに気づきました。なぜなら、コンピュータはその動作が異常に安定しているため、コンピュータを倒すのに必要な同じレベルの警戒心と精度を達成することはできないからです。 数年後、私たちは常にマシンが試合に勝つのを目撃しました。 もう一度繰り返しますが、これはすべてチェスのゲームにのみ当てはまります。チェスのゲームは、コンピューターが高速で多くの動きの選択肢を検討し、最適なものを選択する際の総当たり的なプレイ方法に対して非常に脆弱です。 それは人工知能ではないので、人間のチェスプレイヤーが人工知能に負けたというと人々は間違いを犯します。

その後、私はコンピューターとさらに数試合をしました。 私はかつてこれらのゲームを最新のチェス エンジンを使用して分析したことがありますが、それは非常に苦痛な経験でした。 それは過去への旅行であり、私は自分自身だけに責任があるため、それらの試合で自分のパフォーマンスがどれほど悪かったかを認めざるを得ませんでした。 しかし、当時、コンピュータの「デーモン」はそれほど強くはありませんでした。信じられないかもしれませんが、モバイル デバイス上の無料のチェス アプリケーションは、今日ではディープ ブルーよりも強力です。 もちろん、asmFish や Comodo などのチェス エンジンと最新のラップトップをお持ちの場合、このシステムはさらに強力になります。
私がディープ ブルーと対戦したとき、ゲーム 5 だったと思います。コンピューターはエンドゲームで永続的なチェックを行い、誰もがこれは素晴らしい勝利であり、コンピューターが驚異的な品質のプレーを示したと言い始めました。 しかし、今日の最新のコンピューターでは、それはまったくばかげているように見えます。 試合全体は 30 秒でプレイできますが、ラップトップのパフォーマンスに応じて最大で XNUMX 分かかります。 最初に私はミスをしましたが、その後ゲームをセーブしようとしましたが、Deep Blue がいくつかのカウンターの動きをして勝利しました。 これらはゲームのルールであり、何も問題はありません。

2003 年に、私は X2D Frintz コンピューターとさらに 3 試合を行いましたが、どちらも引き分けに終わりました。 コンピューターには 3 次元インターフェイスが搭載されていたため、主催者は私に 3-D メガネを着用させました。

しかし、いずれにせよ、物語は終わったので、私は将来について考えていました。 今世紀初めに撮られたこの写真を見てください。

この子供たちを見てみると、珍しいコンピューターで遊んでいるのがわかります。 今では、私の子供たちはそれが何なのかさえ理解できないでしょう。 ここには複雑なキーボードがいくつか示されていますが、タッチスクリーン上で指をスライドさせるだけです。

重要なのは、賢いマシンが私たちの仕事をずっと楽にしてくれるということです。 あなたがこのことを他の誰よりもよく知っているので、私がこれを言うのはおそらく間違っています。 したがって、ペッパ ピッグの助けと技術的な課題によって、真の創造性への道が開かれます。

コンピューターと人間の力をどのように組み合わせることができるかを考えました。 チェスを例に挙げます。チェスには解決策があるからです。 あなたは、コンピュータがどの分野で優れており、どの分野で人間より劣っているかをよく知っています。 そして、私はそれを「高度なチェス」と呼ぶ概念を思いつきました。

「勝てないなら参加しなさい！」というロシアのことわざに倣い、私は高度なチェスを、コンピュータを持っている人がコンピュータを持っている人に対して戦うゲームと呼びました。

1998 年に、私はブルガリアのチェスエリートのメンバーとプレイしましたが、興味深いことに、コンピューターとの連携効果を最大限に発揮できず、二人とも上手にプレイできませんでした。 なぜ XNUMX 人の偉大なプレーヤーが AI コラボレーションの恩恵を受けられないのか疑問に思いました。 その答えは、コンピューターからのプロンプトの数が制限された、いわゆるフリースタイルの導入によって後に得られました。 インターネット経由でスーパーコンピューターに接続してプレイすることも、自分のコンピューターまたは複数のコンピューターを使用することもできます。 人間とコンピュータのペアは常にどんなスーパーコンピュータをも超えるということに注意したいと思います。 理由は非常に単純です。コンピューターは人間のぼんやり感を補ってくれます。また、人間の弱点につけ込んで別のコンピューターの脆弱性を排除してくれるので、私たちはコンピューターに切り替えるのに有利な立場にあります。
しかし、これにはセンセーショナルな点は何もありません。 コンテストの勝者はトップクラスのプレイヤーではなく、普通のコンピュータを持ちながらも改善された対話プロセスを作り出すことに成功した比較的弱いチェスプレイヤーであるという感覚でした。 逆説的に聞こえるため、これを明確に表現するのは困難です。つまり、弱いプレーヤーと通常のコンピューターと改善されたプロセスは、強力なコンピューターを備えているが対話プロセスが弱い強力なプレーヤーよりも優れたパフォーマンスを発揮します。 インターフェイスがすべてです！

興味深いのは、マシンの側に立って最善の手を見つけるためには、強力なプレイヤーはまったく必要なく、ガルリ・カスパロフも必要ないということです。これには簡単な答えがあります。 今日、人間とコンピューターの相対的な強さを考えると、チェスを超えることができますが、チェスには数字があるので、チェスから始めましょう。 つまり、マグナス・カールセンに負けるまでの私のチェスの歴代レーティングは 2851 で、チェスキャリアの終わりには 2812 でした。 現在、マグナス・カールセンが2800ポイント以上でランキングトップに立っている。 約 50 人のプレイヤーが 2700 ～ 2800 ポイントのレーティングを持っています。 これはチェス界のエリートです。 最近のコンピューターの能力は 3200 ポイント以内ですが、専用のソフトウェアを使用すると、その評価は 3300 ～ 3400 ポイントに達することがあります。

なぜ強い選手が必要ないのか理解できましたか？ なぜなら、私のレベルのプレイヤーは、コンピュータを単純に操作するのではなく、コンピュータを何らかの方向に動かそうとするからです。 したがって、チェスの世界チャンピオンのような「傲慢さ」やうぬぼれを持たない弱いチェスプレイヤーは、より効果的にコンピュータと対話し、より生産的な「人間とコンピュータ」の組み合わせを形成するでしょう。

これはチェスだけでなく、例えば医学にとっても非常に重要な発見だと思います。 知られているように、多くの場合、コンピュータは最良の医師よりも正確な診断を下すことができます。 では、コンピュータに代表される優秀な医師と、単に指示に従い、機械の推奨に基づいてちょっとしたマニュアルを書いてくれる優秀な看護師のうち、あなたはどちらをもっと望みますか?

正確な数字は分かりませんが、仮に 60 ～ 65% の人が医師を選択し、85% がコンピュータを選択するとします。しかし心理的には、もしあなたが優れた医師であれば、これを受け入れることはできないでしょう。 今日の技術の進歩を見ると、コンピュータは 80 ～ 85 ～ 90% のケースで正確な診断を下すことができますが、人間の場合はまだ 10% が残っていると言えます。 そして、これは大きな違いを生みます。なぜなら、弾丸が発射されたときにわずか 1 度そらされるだけで、標的から数百メートル離れたところまで飛んでしまう可能性があるからです。 問題は、コンピューティングの能力を最大限に活用できるかどうかです。
したがって、私は今でも、機械が間もなく私たち全員を置き換え、世界の終わり、ハルマゲドンが訪れるというすべての恐怖は単なる噂にすぎないと信じています。 なぜなら、先ほども言ったように、これは人間の創造性に関するものであり、コンピューター インテリジェンスのユニークな点は、コンピューター インテリジェンスが私たちの創造性を高め、それを解放し、それを可能な限り最善の方法で使用する方法を教えてくれるということです。

場合によっては、質問に対する答えを見つけるために、科学の世界から離れて芸術の世界を深く掘り下げる価値があります。 私はかつて、偉大な芸術家パブロ・ピカソが述べた大きな逆説を見つけました。 彼らにできることは答えを与えることだけだ。」 これには素晴らしい知恵が含まれていると思います。機械は確かに答えを提供し、その答えは包括的なものであるため、この言葉は勇気づけられるものに聞こえます。

しかし、ピカソは芸術家であるため、包括的な答えには満足していませんでした。 これはアートを絶えず再考しているためであり、まさに私たちが常に行っていること、つまり質問をすることです。 コンピューターは質問できるのでしょうか?

私はかつてヘッジファンドのブリッジウォーター・アソシエイツを訪れ、IBMのワトソン・スーパーコンピューターの開発者の一人、デイブ・フェルッチ氏と話をしたことがある。 私たちは、機械が質問できるかどうかについて話していました。そして、デイブは、「確かに、コンピュータは質問することができますが、どの質問が本当に重要なのかを彼らは知りません。」と言いました。 それがポイントです。 つまり、人間とコンピューターの間のゲームはまだ終わっていないため、私たちはまだゲームの途中であり、先に進むチャンスがあります。

このスライドには、自律型コンピューター、つまり自分自身をプログラムできる、つまり学習能力を持つ機械の使用可能分野の写真がいくつかあります。

写真の XNUMX つは、Demis Hassabis と自己学習ニューラル ネットワーク AlphaGo を示しています。 実際、これはおそらく人工知能のプロトタイプと呼べる最初のマシンです。

すでに述べたように、ディープ ブルーは総当たりのオーバーキルであり、ワトソンはおそらく移行リンクですが、まだ AI ではありません。 AlphaGo は、何百万ものゲームをプレイすることで関連するパターンを見つけて自身を向上させるディープ ラーニング プログラムです。

AlphaGo によって、私たちは初めて本当のブラックボックスを扱っていると言えます。 なぜなら、たとえば、何千マイルにも及ぶディープ ブルーのゲーム ログを 6 年かけて研究すると、最終的には、なぜ特定の決定が行われ、特定の動きが行われたのかという最初のアイデアに到達するからです。 AlphaGo に関しては、このマシンが下した決定を念頭に置いて、なぜバージョン 9 がバージョン XNUMX よりも優れているのか、あるいはその逆なのかについては、デミス・ハサビス自身でさえも言えないと私は確信しています。

これは素晴らしい成果である一方で、機械が間違いを犯した場合、それを知ることができないため、問題が生じる可能性もあります。 しかし、いずれにせよ、これは本物のAIを生み出す動きです。

以前 Google 本社で講演したことがありますが、Google X を案内してもらいました。この会社は自信を持って AI を開発する方向に進んでおり、自動運転車や自律型ドローンを開発して独自にサービスを提供する問題を解決しているため、これは非常に興味深いものでした。品。 しかし、AI の技術的サポートと同様に、AI の活動を規制するという問題もあります。 人々は、AI がどのようにして人間を完全に置き換え、仕事を奪うことができるかについて話しています。 しかし、人類の文明の歴史に助けを求めましょう。これは何百年、何千年も続いてきたことなのです。

24:35分

カンファレンス DEFCON 25. ガルリ・カスパロフ。 「最後の頭脳戦」。 パート2

いつもご宿泊いただきありがとうございます。 私たちの記事が気に入っていますか? もっと興味深いコンテンツを見たいですか? 注文したり、友人に勧めたりして私たちをサポートしてください。 Habr ユーザーは、当社があなたのために発明した、エントリーレベルのサーバーに似たユニークな製品を 30% 割引でご利用いただけます。 VPS (KVM) E5-2650 v4 (6 コア) 10GB DDR4 240GB SSD 1Gbps 20 ドルからの真実、またはサーバーを共有する方法? (RAID1 および RAID10、最大 24 コア、最大 40GB DDR4 で利用可能)。

Dell R730xdは2倍安い？ ここだけ 2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TV 199 ドルから オランダで！ Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - 99 ドルから! について読む インフラストラクチャー企業を構築する方法730 ペニーで 5 ユーロの価値がある Dell R2650xd E4-9000 vXNUMX サーバーを使用したクラスですか?

出所： habr.com