我認為問題不在於機器將在工作場所取代人類，包括在智力領域，也不在於電腦似乎拿起了武器來對抗擁有高等教育和推特帳戶的人。人工智慧的實施不是很快，相反，它太慢了。為什麼？因為這是人類發展的正常循環，而我們根本沒有意識到我們所看到的破壞意味著新技術的引入，新技術在創造新就業機會之前摧毀了舊就業機會。
科技摧毀過時的產業，創造新的產業，這就是創造的過程，這就是發展的循環。如果你試圖透過在流程中插入舊技術或為過時技術創造一些優勢來延長痛苦，你只會減慢流程並使其更加痛苦。無論如何，它都會發生，但問題是我們正在透過制定故意放慢進程的規則來規範這一進程。我認為這是一個比我們更清楚意識到的問題更大的問題。這更像是一個心理問題，人們會問這樣的問題：“在自動駕駛汽車中如何感到安全？”
我研究歷史得知，一百年前紐約最強大的工會之一是電梯工人工會，它團結了 17 名工人。順便說一句，當時已經有一種技術，只需按一個按鈕就可以完成，但人們不相信它！叫電梯還要自己按按鈕，真是太糟糕了！你知道為什麼這個工會「消亡」而人們開始自己使用按鈕嗎？因為有一天電梯工人決定罷工。他們舉行罷工，然後那些不得不爬上帝國大廈頂部的人們冒著親手按下按鈕的風險。
還記得20 到30 年前，當孩子或孫子們駕駛汽車時，他們對他們說的話：「這太可怕了，看看統計數據，因為汽車是人類死亡的主要原因之一，他們怎麼能冒險呢？”他們的生活？”
所以，這一切都是純粹的心理學。我們很少關注有多少人死於車禍，但一旦有人被自動駕駛汽車撞死，這起事件就會被誇大。人工智慧技術中的任何故障、任何錯誤都會立即登上報紙的頭版。但看看統計數據，看看事故的數量，你會發現它在事故總數中所佔的比例是多麼微小。因此，人類社會只有能夠前進而不被這種恐懼所麻痺，才能取得勝利。
當我們談論假新聞或網路安全時，另一個問題就會出現，這些都是非常政治化的話題，我接到很多電話詢問我如何應對人工智慧仇恨者。例如，我定期寫一篇博客，我的新文章將在幾天后發布，其中討論了仇恨以及從仇恨中解脫出來的事實在於知識、學習。我們只需要明白，這個問題早在所有這些東西被發明之前就已經存在了，只是由於互聯網的普及，它的重要性現在已經增加了，它覆蓋了數百萬和數十億人。
我認為，當有人試圖透過禁止人工智慧來阻止進步時，這實際上是一件好事，你知道這是行不通的，因為我們有普丁和其他壞人，無論他們在哪裡，他們利用我們自己創造的科技來對付我們。自由世界。所以我認為我們應該接受它為既定事實。
問題的本質只在於我們自己，問題的答案就在於我們自己，在於我們自己的力量和自己的信心。我認為智慧機器不會讓我們「過時」。然而，必須記住，人機合作有一定的限制，並且在很大程度上這些只是以前存在的謠言。一如既往，這些只是摧毀舊世界、創造新世界的新機遇，我們前進越遠，我們的生活就會越好。
如今，它最像進入科幻小說的世界。吊詭的是，如果我們回顧50-60年前，我們會發現，那時候的科幻小說絕對是正面的，那是一個徹頭徹尾的烏托邦。然而，後來從烏托邦逐漸過渡到反烏托邦，以至於我們不再想聽到任何關於人類未來的事情。
這不是一夜之間發生的。曾經有一段時間，人們認為太空探索風險太大。這確實是一個很大的風險，但想像一下，1969年，當美國人登陸月球時，NASA的整個計算能力還比不上任何可以裝在你口袋裡的現代計算設備的能力。該設備比 40 年前存在的超級電腦強大一千倍。想像一下您口袋裡擁有的運算能力！不過，我不確定蘋果iPhone 7是否具有與Apollo 7相同的運算能力，也就是說，它是否能夠產生相同的效果。
然而，機器為我們在太空或海洋探索方面提供了許多巨大的進步，我們必須明白，電腦為我們提供了承擔巨大風險的能力。
我想以正面的基調結束我的演講。這張投影片不是顯示正面圖片嗎？右下角的照片不是ps過的，我其實是在2003年就看過終結者的。
他從小也喜歡下棋，但沒有專門學，所以輸得很快。因此，當他 6 個月後競選加州州長並獲勝時，我感到非常驚訝！
為什麼我稱這些圖片為正面的？因為雖然在除了第一集之外的所有劇集中，老阿諾德總是站在勝利者一邊，並且樂此不疲地與新機器戰鬥，但正是在第一集中，我們看到了我所說的組合— —這是當人加上舊機器加上完美的介面打敗了最新的汽車。
你可能會說：“是的，機器比人更強，因為它們絕對可以計算一切！”然而，重點並不在於他們可以計算一切。例如，在國際象棋中，從技術上講，我們可以談論可能的移動數量的數學無窮大，等於 1045，這對於任何現代計算機來說都不難計算。然而，遊戲中重要的不是計算，而是電腦領先於人，因為它總是受到規則的指導。你知道這些規則的效果，也知道為什麼電腦會從眾多可能的走法中選擇最好的走法。
但如果我們轉向現實生活，我不確定電腦是否總是有用的。讓我們來看看最典型的情況 - 您有一台計算機可以監控您的預算，您在商店裡準備購買昂貴的禮物。計算機評估購買情況並說：“不，你買不起這個物品，因為你會超出預算。”機器已經計算了一切，但有一個細微差別 - 你的孩子就站在你旁邊，而這份禮物是為他的生日準備的。你看到這如何改變問題的條件了嗎？這改變了一切，因為孩子正在等待這份禮物。
我可以開始添加這些改變一切的小東西，但我不認為它們可以包含在問題陳述中並獲得正確的解決方案。我們有很多規則，但我們仍然必須提出問題，因為事情發生了變化。這可以說是一個普通的情況，但是如果你看這些影片，你可以說這裡所展示的情況更加戲劇化和非同尋常。這張幻燈片顯示了《星際大戰：帝國大反擊》第五集的劇照。
漢·索羅駕駛飛船直接穿過小行星帶，C-3PO 驚慌失措，報告說在小行星帶中倖存的機會是1:3122。漢·索羅告訴他，「永遠不要告訴我我們的機會有多大！”那麼問題來了，在這種情況下誰比較正確呢？
以C-3PO為代表的技術是絕對正確的，因為生存機會趨於零。從機器人的角度來看，被帝國軍隊俘虜可能是比死在小行星帶中更好的選擇，而人類甚至不會考慮。但如果電腦認為向帝國投降是最好的選擇，那麼我們可以假設這個人根本沒有選擇。非常重要的是，在普通和非凡這兩種情況下，我們都有機會做出最終的決定，而做出這樣的決定仍然需要人類的領導。
有時這意味著您必須違背計算機的建議。人類領導力的重點不是了解可能性，而是提出真正重要的問題，不只是今天或明天，而是遙遠的未來。這個過程可以稱為“人類指導”或“人類幹預”，無需智慧機器的幫助即可產生影響。這就是我們本世紀該走的路線。
鑑於我對智慧機器的使用經驗，人們有時會對我對智慧機器的樂觀態度感到驚訝，但我確實是一個樂觀主義者。我相信你們所有人都對人工智慧的未來同樣樂觀。但我們必須記住，我們的技術是不可知的。它既無善也無惡，但既可用於善，也可用於惡。機器必須變得更聰明、更有能力。我們人類必須做只有人類才能做的事情——夢想，充分夢想，然後我們將能夠獲得這些令人驚嘆的新工具帶來的所有好處。
按照計劃，我們還有 10 分鐘的時間回答問題。
問題：你認為有可能創造一個機器學習系統來決定哪些動作更符合人類的遊戲風格嗎？
卡斯帕羅夫：首先，我們並不期望電腦告訴我們第一手棋和剩餘的 17505 手棋。我認為我們應該依靠機器為獨特的動作提供最佳建議。順便說一下，頂尖玩家都會使用電腦作為指導，幫助他們在遊戲中佔據最合適的位置。我再說一次——在十分之九的情況下，電腦對情況的評估遠遠優於人類的評估。
問題：你是否同意真正的智慧需要選擇的自由，以及只有個人才能做出的決定的自由？畢竟深藍軟體和其他電腦程式都是人寫的，當你輸給深藍的時候，你輸的不是計算機，而是寫程式的程式設計師。我的問題是：只要電腦有選擇的自由，任何類型的機器智慧都會有危險嗎？
卡斯帕羅夫：在這裡我必須從科學轉向哲學。關於「深藍」的一切都很清楚——它是人類大量工作的成果。在大多數情況下，即使是傑米斯·哈薩比斯的AlphaGo，這些都是人類智慧的產物。我不知道機器是否可以有選擇的自由，但我相信無論我們做什麼，如果我們知道怎麼做，機器會做得更好。然而，當我們做大多數事情時，我們不知道如何以最好的方式去做，因此我們常常無法理解我們會成功什麼。簡單來說，我們有一個目標，但我們不知道它是什麼，而機器的功能就是幫助我們實現這個目標。因此，如果我們談論電腦的自由選擇，那麼它應該有助於我們實現這一目標。我認為這對電腦來說是一個非常遙遠的未來。
Q：您如何看待勇氣和道德等人類特徵，以及人工智慧可以根據這些特徵做出的決策？例如，一輛自動駕駛汽車應該怎麼做——碾壓一個孩子，或者透過撞上岩石並殺死乘客來避免撞到他？
卡斯帕羅夫：這些就是人們所說的“感覺”，它們是不可量化的，因為它們是一大堆不同的人類特徵。如果我們談論的是勇氣，那麼這個特質總是與選擇最優選項的機會背道而馳。勇敢，就像其他人類情感一樣，從定義上來說是與精確計算相反的。
問：卡斯帕羅夫先生，我的問題與電腦無關：你的燒瓶裡有什麼，我可以試試看嗎？
卡斯帕羅夫：你什麼意思？
主持人：他問你口袋裡有什麼！
卡斯帕羅夫：在我口袋裡？ “斯托利奇納亞”！這不是廣告，如果你注意到了，我就把它丟掉了。
Q：您認為誰將成為下一屆國際象棋世界冠軍？中國年輕棋手韋易是否有機會取代卡雷爾森成為國際象棋之王？
卡斯帕羅夫：卡雷爾森是排名第一的棋手，他不是世界冠軍，但根據評級，他只是世界上最好的棋手。他今年已經1歲了，雖然還很年輕，但以今天的標準來看也不算很年輕了。我覺得偉易現在27、18歲了。馬格努斯領先美國選手韋斯利·蘇和法比亞諾·凱魯阿納等年輕選手，魏藝可能是他的對手。不過，想要成為世界冠軍，需要天賦，不一定要年輕有活力，有一點運氣就可以了。所以，為了回答這個問題，我可以說——是的，他有機會擊敗馬格努斯·卡雷爾森。
Q：當您談到確定性演算法和機器學習時，您提到了使用機器作為工具來補充我們的智慧的可能性。在創造強大的人工智慧，甚至將人腦放入電腦之前，最大化資源的可能性呢？
卡斯帕羅夫：當我不確定自己是否能正確回答問題時，我並不羞於承認自己的無知。我正在盡力了解人腦是什麼，如果我們將其與人體分開考慮，它執行哪些功能。因為很難想像大腦脫離身體會如何運作。也許將來可以做這樣的實驗，但我相信，人的大腦、人的感覺和情緒與計算機的結合將形成一個“思想”，這將比提取並冷凍、使用大腦有效得多。作為一個充滿神經元的裝置。
問：對於電腦取代人類工作的問題，是否有一個通用的基本方法？
卡斯帕羅夫：我認為這是一個非常重要的問題，因為很明顯我們正在接近許多人可能失業的地步。這就是技術進步的弔詭：一方面，我們擁有最新的技術，為使用這些設備和技術的年輕一代提供了巨大的競爭優勢。另一方面，我們在醫學和健康營養方面取得了進步，這延長了人類的壽命，使人們能夠工作多年。從這個意義上說，50後、60後甚至40後的一代無法與今天的年輕人競爭。我們必須找到解決代間差距如此之大的矛盾局面的辦法。歷史經驗表明，這種差距往往會導致大爆炸。我指的是社會現有的社會基礎設施和技術進步之間的差距。
政客寧願把這個問題延到下次選舉。沒有人願意談論它，因為這是一個敏感問題。印鈔票是很容易的事，希望將來有一天有人來付錢。所以這方面存在著許多悖論，例如為了給老一輩提供社會保障而累積債務，卻期望償還這些債務的負擔落在年輕一代的肩上。有很多問題我沒有答案，也有很多我可以問的問題，希望人工智慧能幫助我。
非常糟糕的是，幾十年來政客一直試圖忽視我們剛才討論的問題。他們總是準備好發表聲明，他們總是有計劃，但他們不想理解對科技與社會之間的衝突問題保持沉默會適得其反。感謝您的關注！
感謝您與我們在一起。 你喜歡我們的文章嗎？ 想看更多有趣的內容？ 通過下訂單或推薦給朋友來支持我們， 在我們為您發明的獨特的入門級服務器模擬上，Habr 用戶可享受 30% 的折扣： （適用於 RAID1 和 RAID10，最多 24 個內核和最多 40GB DDR4）。
戴爾R730xd便宜2倍？ 只有這裡 在荷蘭！ Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - 99 美元起！ 閱讀
來源： www.habr.com