本文並非科學研究的結果，而是有關我們當前技術發展的眾多觀點之一。同時邀請討論。
紐約大學教授加里·馬庫斯認為，深度學習在人工智慧的發展中扮演重要角色。但他也認為，對這項技術的過度熱情可能會導致其名譽掃地。
在他的書中 重啟人工智慧：建構我們可以信賴的人工智慧 馬庫斯是一位訓練有素的神經科學家，他的職業生涯致力於尖端人工智慧研究，他負責解決技術和倫理方面的問題。從技術角度來看，深度學習可以成功模仿我們大腦執行的感知任務，例如影像或語音辨識。但對於其他任務，例如理解對話或確定因果關係，深度學習並不適合。為了創造更先進的智慧機器來解決更廣泛的問題（通常稱為通用人工智慧），深度學習需要與其他技術結合。
如果人工智慧系統不能真正理解其任務或其周圍的世界，這可能會導致危險的後果。即使是系統環境中最輕微的意外變化也可能導致錯誤的行為。這樣的例子已經有很多了：表達不當的決定因素容易受騙；一貫歧視的求職系統；無人駕駛汽車會發生碰撞，有時甚至導致駕駛或行人死亡。創建通用人工智慧不僅僅是一個有趣的研究問題，它還有許多完全實際的應用。
在他們的書中，馬庫斯和他的合著者歐內斯特·戴維斯主張一條不同的道路。他們認為我們距離創建通用人工智慧還很遠，但他們相信遲早可以創建它。
為什麼我們需要通用人工智慧？專門的版本已經創建並帶來了很多好處。
沒錯，而且還會有更多的好處。但有許多問題是專門的人工智慧根本無法解決的。例如，理解普通的言語，或虛擬世界中的一般幫助，或幫助清潔和烹飪的機器人。這些任務超出了專業人工智慧的能力範圍。另一個有趣的實際問題：是否有可能使用專門的人工智慧來創建安全的自動駕駛汽車？經驗表明，此類人工智慧在異常情況下（甚至在駕駛時）的行為仍然存在許多問題，這使得情況變得非常複雜。
我認為我們都希望人工智慧能夠幫助我們在醫學領域取得重大新發現。由於生物學是一個複雜的領域，目前尚不清楚目前的技術是否適合於此。你需要做好閱讀大量書籍的準備。科學家了解網絡和分子相互作用中的因果關係，可以發展行星的理論等等。然而，使用專門的人工智慧，我們無法創造出能夠進行此類發現的機器。借助通用人工智慧，我們可以徹底改變科學、技術和醫學。在我看來，繼續致力於創建通用人工智慧非常重要。
聽起來「一般」是指強人工智慧嗎？
我所說的「一般」是指人工智慧將能夠即時思考和解決新問題。與圍棋不同的是，圍棋的問題在過去 2000 年都沒有改變。
通用人工智慧應該能夠在政治和醫學領域做出決策。這類似於人類的能力；任何理智的人都可以做很多事。你讓沒有經驗的學生在幾天之內讓他們研究幾乎任何事情，從法律問題到醫療問題。這是因為他們對世界有一般的了解並且可以閱讀，因此可以為非常廣泛的活動做出貢獻。
這種智能與強智能之間的關係是，非強智能很可能無法解決一般問題。為了創造出足夠強大的東西來應對不斷變化的世界，您可能至少需要接近通用智慧。
但現在我們離這個還很遠。 AlphaGo 可以在 19x19 棋盤上完美下棋，但需要重新訓練才能在矩形棋盤上下棋。或以普通的深度學習系統為例：如果光線充足且皮膚紋理可見，它就可以辨識大象。如果只看到大象的輪廓，系統可能無法辨識它。
在你的書中，你提到深度學習無法實現通用人工智慧的能力，因為它不具備深度理解的能力。
在認知科學中，他們談論各種認知模型的形成。我坐在飯店房間裡，我知道那裡有一個壁櫥，有一張床，還有一台以不尋常的方式懸掛的電視。我認識所有這些物體，我不只是辨識它們。我也明白它們是如何相互關聯的。我對周遭世界的運作有自己的想法。他們並不完美。他們可能是錯的，但他們是相當好的。基於它們，我得出了許多結論，這些結論成為我日常行動的指導方針。
另一個極端是 DeepMind 構建的 Atari 遊戲系統，當它看到螢幕上某些位置的像素時，它會記住需要做什麼。如果你得到了足夠的數據，你可能會認為你有了了解，但實際上這是非常膚淺的。證明這一點的是，如果你將物體移動三個像素，人工智慧的表現會更差。變化令他困惑。這與深刻的理解相反。
為了解決這個問題，您建議回歸經典人工智慧。我們應該嘗試利用哪些優勢？
有幾個優點。
首先，經典人工智慧實際上是一個創建世界認知模型的框架，並在此基礎上得出結論。
其次，經典人工智慧與規則完美相容。目前深度學習有一個奇怪的趨勢，專家試圖避免規則。他們想要在神經網路上做所有事情，而不是做任何看起來像經典程式設計的事情。但也有問題就這樣平靜地解決了，並沒有人注意。例如，在 Google 地圖中建立路線。
事實上，我們需要這兩種方法。機器學習擅長從資料中學習，但很不擅長表示電腦程式的抽象。經典人工智慧可以很好地處理抽象，但它必須完全手動編程，而且世界上有太多的知識無法對它們進行全部編程。顯然我們需要結合這兩種方法。
這與您談論我們可以從人類思維中學到什麼的章節相關。首先，關於基於上述想法的概念，即我們的意識由許多以不同方式工作的不同系統組成。
我認為解釋這一點的另一種方式是，我們擁有的每個認知系統確實解決了不同的問題。人工智慧的相似部分必須被設計來解決具有不同特徵的不同問題。
現在我們正在嘗試使用一些一體化技術來解決彼此截然不同的問題。理解一個句子與辨識一個物體完全不同。但人們正在嘗試在這兩種情況下使用深度學習。從認知的角度來看，這些都是本質上不同的任務。我只是驚訝於深度學習社群對經典人工智慧的重視程度如此之低。為什麼要等待銀彈出現？這是無法實現的，徒勞的搜尋不允許我們理解創建人工智慧任務的全部複雜性。
您也提到需要人工智慧系統來理解因果關係。您認為深度學習、經典人工智慧或全新的東西會幫助我們實現這一目標嗎？
這是另一個深度學習不太適合的領域。它不解釋某些事件的原因，而是計算給定條件下事件發生的機率。
我們在說啥啊？你觀察某些場景，就會明白為什麼會發生這種情況，以及如果某些情況改變會發生什麼事。我可以看著電視所在的支架，想像如果我砍掉它的一條腿，支架就會翻倒，電視就會掉落。這是一個因果關係。
經典人工智慧為此提供了一些工具。例如，他可以想像什麼是支撐，什麼是下跌。但我不會過度讚揚。問題在於，經典人工智慧在很大程度上依賴於正在發生的事情的完整信息，而我只是透過看展台就得出了結論。我可以以某種方式概括、想像看台上我看不到的部分。我們還沒有實現此屬性的工具。
你還說人有先天的知識。這如何在人工智慧中實現？
在我們出生的那一刻，我們的大腦就已經是一個非常複雜的系統了。它不是固定的；大自然創造了最初的草稿。然後學習可以幫助我們在一生中修改草稿。
大腦的粗略草稿已經具備了一定的能力。新生的山羊能夠在幾個小時內準確無誤地從山坡上下來。顯然，他對三維空間，對自己的身體，以及它們之間的關係，已經有了一定的了解。一個非常複雜的系統。
這就是我認為我們需要混合動力的部分原因。很難想像一個人如何能夠創造出一個在一個不知道從哪裡開始的世界中運作良好的機器人，而不是從一張白紙開始並從長期、豐富的經驗中學習。
對人類來說，我們與生俱來的知識來自於長期進化的基因組。但對於人工智慧系統，我們將不得不走不同的路線。其中一部分可能是建立我們的演算法的規則。其中一部分可能是創建這些演算法操作的資料結構的規則。其中一部分可能是我們將直接投資機器的知識。
有趣的是，您在書中提出了信任的概念以及信任系統的創建。您為什麼選擇這個特定標準？
我相信今天這一切都是一場球賽。在我看來，我們正在經歷一個奇怪的歷史時刻，信任許多不值得信賴的軟體。我認為我們今天的擔憂不會永遠持續下去。一百年後，人工智慧將證明我們的信任是合理的，也許更快。
但今天人工智慧很危險。不是伊隆馬斯克擔心的那種感覺，而是求職面試系統歧視女性，無論程式設計師做什麼，因為她們的工具太簡單了。
我希望我們有更好的人工智慧。我不想看到“人工智慧冬天”，人們意識到人工智慧不起作用，而且很危險，不想解決它。
從某些方面來說，你的書看起來確實非常樂觀。您假設可以建立值得信賴的人工智慧。我們只需要朝不同的方向看。
沒錯，這本書短期非常悲觀，長期非常樂觀。我們相信，透過更廣泛地審視正確答案應該是什麼，我們所描述的所有問題都可以解決。我們認為，如果這一切發生，世界將會變得更美好。
來源： www.habr.com