ディープラーニングのみに基づいて構築された AI システムを信頼することはできません

この文書は科学的研究の結果ではなく、当面の技術開発に関する多くの意見の 1 つです。そして同時にディスカッションへの招待状でもあります。

ニューヨーク大学のゲイリー・マーカス教授は、ディープラーニングが AI の開発において重要な役割を果たすと考えています。しかし、彼はまた、この技術に対する過度の熱意がその信用を失墜させる可能性があるとも信じています。

彼の本の中で AI の再起動: 信頼できる人工知能を構築する 訓練を受けた神経科学者であり、最先端の AI 研究でキャリアを築いてきたマーカスは、技術的および倫理的な側面に取り組みます。テクノロジーの観点から見ると、ディープラーニングは、画像認識や音声認識など、私たちの脳が実行する知覚タスクをうまく模倣できます。ただし、会話の理解や因果関係の判断など、他のタスクにはディープラーニングは適していません。より広範囲の問題を解決できる、より高度なインテリジェント マシン (汎用人工知能と呼ばれることが多い) を作成するには、深層学習を他の技術と組み合わせる必要があります。

AI システムがそのタスクや周囲の世界を真に理解していない場合、危険な結果につながる可能性があります。システム環境における予期せぬわずかな変化でも、誤った動作を引き起こす可能性があります。このような例はすでに数多くあります。騙されやすい不適切な表現の決定要因。一貫して差別を行う求職システム。自動運転車は衝突し、場合によっては運転手や歩行者を死亡させます。汎用人工知能の作成は、興味深い研究課題であるだけでなく、完全に実用的な用途が数多くあります。

マーカスとその共著者アーネスト・デイビスは著書の中で、別の道を主張している。彼らは、一般的な AI の作成にはまだ程遠いと信じていますが、遅かれ早かれそれを作成できるようになるだろうと確信しています。

なぜ汎用AIが必要なのでしょうか?特化したバージョンがすでに作成されており、多くのメリットをもたらします。

そうです。さらに多くのメリットがあります。しかし、特化した AI だけでは解決できない問題も数多くあります。たとえば、通常の音声の理解、仮想世界での一般的な支援、掃除や料理を手伝うロボットなどです。このようなタスクは、特化した AI の能力を超えています。もう 1 つの興味深い実践的な質問: 特殊な AI を使用して安全な自動運転車を作成することは可能ですか?経験によれば、このような AI は、運転中であっても、異常な状況での動作に依然として多くの問題を抱えており、状況を大幅に複雑にしています。

私たちは皆、医学における新たな大きな発見に役立つ AI を手に入れたいと考えていると思います。生物学は複雑な分野であるため、現在のテクノロジーがこれに適しているかどうかは不明です。たくさんの本を読む準備が必要です。科学者はネットワークと分子の相互作用における因果関係を理解し​​、惑星などに関する理論を開発できます。しかし、特化したAIでは、そのような発見ができる機械を作ることはできません。そして、一般的な AI を使用すると、科学、技術、医学に革命を起こすことができます。私は、汎用AIの開発に向けた取り組みを続けることが非常に重要だと考えています。

「一般」というのは、強力な AI のことを指しているように思えますが？

「一般的」とは、AI が新しい問題をその場で考えて解決できるようになるという意味です。たとえば、過去 2000 年間問題が変わっていない囲碁とは異なります。

一般的な AI は政治と医療の両方で意思決定を行うことができるはずです。これは人間の能力に似ています。正気の人なら誰でも多くのことができます。経験の浅い学生を受け入れ、数日以内に法律問題から医療問題に至るまで、ほぼあらゆることに取り組んでもらいます。なぜなら、彼らは世界に対する一般的な理解があり、文字を読むことができるため、非常に幅広い活動に貢献できるからです。

このような知性と強力な知性との関係は、強くない知性はおそらく一般的な問題を解決できないということです。絶え間なく変化する世界に対応できる堅牢なものを作成するには、少なくとも一般知性に近づく必要があるかもしれません。

しかし今、私たちはそこからは程遠い状況にあります。 AlphaGo は 19x19 のボード上では完全にうまくプレイできますが、長方形のボード上でプレイするには再訓練する必要があります。あるいは、平均的な深層学習システムを考えてみましょう。十分に明るく、肌の質感が見える場合、ゾウを認識できます。また、象のシルエットだけが表示されている場合、システムはおそらくそれを認識できません。

著書の中で、ディープラーニングは深い理解ができないため、一般的なAIの能力を達成できないと述べています。

認知科学では、さまざまな認知モデルの形成について話します。私はホテルの部屋に座っていて、クローゼットがあり、ベッドがあり、異常な方法で吊り下げられたテレビがあることを理解しています。私はこれらすべてのオブジェクトを知っています。ただそれらを識別するだけではありません。また、それらがどのように相互に関連しているのかも理解できました。私は自分の周りの世界の機能についてのアイデアを持っています。彼らは完璧ではありません。それらは間違っているかもしれませんが、非常に良いものです。そしてそれらに基づいて、日々の行動の指針となる結論をたくさん出します。

もう 1 つの極端な例は、DeepMind によって構築された Atari ゲーム システムのようなもので、画面上の特定の場所にピクセルが表示されると、何をする必要があるかを記憶します。十分なデータを取得できれば、理解しているように思えるかもしれませんが、実際には非常に表面的なものです。その証拠に、オブジェクトを 3 ピクセル移動すると、AI の動作が大幅に悪くなることがわかります。変化は彼を困惑させる。これは深い理解の逆です。

この問題を解決するために、あなたは古典的な AI に戻ることを提案しました。どのようなメリットを活用するべきでしょうか?

いくつかの利点があります。

まず、古典的な AI は実際には世界の認知モデルを作成するためのフレームワークであり、それに基づいて結論を導き出すことができます。

第二に、古典的な AI はルールと完全に互換性があります。現在、ディープラーニングには奇妙な傾向があり、専門家がルールを回避しようとしています。彼らはニューラル ネットワーク上ですべてを実行したいと考えており、古典的なプログラミングのようなことは何も実行したくないのです。しかし、このようにして冷静に解決され、誰も注目しなかった問題もあります。たとえば、Google マップでルートを作成します。

実際には、両方のアプローチが必要です。機械学習はデータから学習するのは得意ですが、コンピューター プログラムという抽象概念を表現するのは非常に苦手です。古典的な AI は抽象化をうまく処理しますが、完全に手動でプログラムする必要があり、すべてをプログラムするには世界中に知識が多すぎます。明らかに、両方のアプローチを組み合わせる必要があります。

これは、人間の心から何が学べるかについてあなたが話している章と結びついています。まず第一に、私たちの意識はさまざまな方法で機能するさまざまなシステムから構成されているという上記の考えに基づく概念についてです。

これを説明する別の方法は、私たちが持つそれぞれの認知システムが実際に異なる問題を解決するということだと思います。異なる特性を持つさまざまな問題を解決するには、AI の同様の部分を設計する必要があります。

現在、私たちはいくつかのオールインワン技術を使用して、互いに根本的に異なる問題を解決しようとしています。文を理解することは、物体を認識することとはまったく同じではありません。しかし、人々はどちらの場合でもディープラーニングを使おうとしています。認知的な観点から見ると、これらは質的に異なるタスクです。ディープラーニングコミュニティにおいて古典的なAIに対する評価があまりにも低いことに、私はただただ驚いています。なぜ特効薬が現れるまで待つ必要があるのでしょうか?それは達成不可能であり、無駄な検索を行っても、AI を作成するタスクの複雑さを完全に理解することはできません。

また、因果関係を理解するには AI システムが必要であるとも述べています。ディープラーニング、古典的な AI、またはまったく新しいものがこれに役立つと思いますか?

これもディープラーニングがあまり適さない分野です。特定のイベントの原因を説明するのではなく、与えられた条件下でイベントが発生する確率を計算します。

私たちは何について話していますか？特定のシナリオを観察すると、なぜこれが起こるのか、状況が変化した場合に何が起こるのかがわかります。テレビが置かれているスタンドを見て、その脚の 1 つを切断したら、スタンドはひっくり返ってテレビが落ちるだろうと想像することができます。これは因果関係です。

従来の AI は、このためのツールをいくつか提供します。たとえば、サポートとは何なのか、転倒とは何なのかを想像することができます。しかし、私は過度に賞賛するつもりはありません。問題は、古典的な AI は何が起こっているかに関する完全な情報に大きく依存していることであり、私はスタンドを見ただけで結論に達しました。どういうわけか一般化して、スタンドの目に見えない部分を想像することができます。このプロパティを実装するツールがまだありません。

あなたはまた、人には生得的な知識があるとも言います。これを AI にどのように実装できるでしょうか?

生まれた瞬間、私たちの脳はすでに非常に精巧なシステムになっています。それは固定されたものではなく、自然が最初のラフ案を作成しました。そして学習は、生涯を通じてその草案を修正するのに役立ちます。

脳の下書きにはすでに一定の機能が備わっています。生まれたばかりのシロイワヤギは、数時間以内に間違いなく山腹を降りることができます。彼が三次元空間、自分の身体、そしてそれらの間の関係をすでに理解していることは明らかです。非常に複雑なシステムです。

これが私がハイブリッドが必要だと考える理由の一部です。どこから始めればよいかについての同様の知識がなければ、白紙の状態から始めて長く膨大な経験から学ぶのではなく、どのようにして世界でうまく機能するロボットを作成できるかを想像するのは困難です。

人間に関して言えば、私たちの生来の知識は長い時間をかけて進化したゲノムから来ています。しかし、AI システムでは別の道を歩まなければなりません。これの一部は、アルゴリズムを構築するためのルールである可能性があります。その一部は、これらのアルゴリズムが操作するデータ構造を作成するためのルールである可能性があります。そしてその一部は、私たちが機械に直接投資することになる知識かもしれません。

この本の中で信頼という概念と信頼システムの構築について言及しているのは興味深いです。なぜこの特定の基準を選択したのですか?

今日、これはすべて球技だと思います。私たちは、信頼できない多くのソフトウェアを信頼して、歴史上の奇妙な瞬間を生きているように思えます。私たちが今抱えている不安は永遠に続くものではないと思います。 100 年後には、AI が私たちの信頼を正当化するでしょう。おそらくそれよりも早くなるでしょう。

しかし、今日のAIは危険です。イーロン・マスク氏が懸念しているという意味ではなく、プログラマーが何をするかに関わらず、就職面接システムが女性を差別しているという意味である。なぜなら、そのツールが単純すぎるからだ。

もっと優れたAIがあればいいのにと思います。私は、人々が AI が機能せず、単に危険であると認識し、それを修正したくないような「AI の冬」を見たくないのです。

ある意味、あなたの本は非常に楽観的であるように思えます。あなたは、信頼できる AI を構築することが可能であると仮定しています。ただ違う方向に目を向ける必要があるだけです。

そうです、この本は短期的には非常に悲観的ですが、長期的には非常に楽観的です。私たちは、これまでに説明したすべての問題は、何が正しい答えであるべきかをより広く見ることで解決できると信じています。そして、これが実現すれば世界はより良い場所になると私たちは考えています。

出所： habr.com