我认为问题不在于机器将在工作场所取代人类，包括在智力领域，也不在于计算机似乎拿起了武器来对抗拥有高等教育和推特帐户的人。 人工智能的实施不是很快，相反，它太慢了。 为什么？ 因为这是人类发展的正常循环，而我们根本没有意识到我们所看到的破坏意味着新技术的引入，新技术在创造新就业机会之前摧毁了旧就业机会。
技术摧毁过时的产业，创造新的产业，这就是创造的过程，这就是发展的循环。 如果你试图通过在流程中插入旧技术或为过时技术创造一些优势来延长痛苦，你只会减慢流程并使其更加痛苦。 无论如何，它都会发生，但问题是我们正在通过制定故意放慢进程的规则来规范这一进程。 我认为这是一个比我们更清楚意识到的问题更大的问题。 这更像是一个心理问题，人们会问这样的问题：“在自动驾驶汽车中如何感到安全？”
我研究历史得知，一百年前纽约最强大的工会之一是电梯工人工会，它团结了 17 名工人。 顺便说一句，当时已经有一种技术，只需按一个按钮就可以完成，但人们不相信它！ 叫电梯还得自己按按钮，真是太糟糕了！ 你知道为什么这个工会“消亡”而人们开始自己使用按钮吗？ 因为有一天电梯工人决定罢工。 他们举行罢工，然后那些不得不爬上帝国大厦顶部的人们冒着亲手按下按钮的风险。
还记得 20 到 30 年前，当孩子们或孙子们驾驶汽车时，他们对他们说的话：“这太可怕了，看看统计数据，因为汽车是人类死亡的主要原因之一，他们怎么能冒险呢？”他们的生活？”
所以，这一切都是纯粹的心理学。 我们很少关注有多少人死于车祸，但一旦有人被自动驾驶汽车撞死，这一事件就会被夸大。 人工智能技术中的任何故障、任何错误都会立即登上报纸的头版。 但看看统计数据，看看事故的数量，你就会发现它在事故总数中所占的比例是多么微小。 因此，人类社会只有能够前进而不被这种恐惧所麻痹，才能取得胜利。
当我们谈论假新闻或网络安全时，另一个问题就会出现，这些都是非常政治化的话题，我接到很多电话询问我如何应对人工智能仇恨者。 例如，我定期写一篇博客，我的新文章将在几天后发布，其中讨论了仇恨以及从仇恨中解脱出来的事实在于知识、学习。 我们只需要明白，这个问题早在所有这些东西被发明之前就已经存在了，只是由于互联网的普及，它的重要性现在已经增加了，它覆盖了数百万和数十亿人。
我认为，当有人试图通过禁止人工智能来阻止进步时，这实际上是一件好事，你知道这是行不通的，因为我们有普京和其他坏人，无论他们在哪里，他们利用我们自己创造的技术来对付我们。自由世界。 所以我认为我们应该接受它作为既定事实。
问题的本质只在于我们自己，问题的答案就在于我们自己，在于我们自己的力量和我们自己的信心。 我认为智能机器不会让我们“过时”。 然而，必须记住，人机合作存在一定的限制，并且在很大程度上这些只是以前存在的谣言。 一如既往，这些只是摧毁旧世界、创造新世界的新机遇，我们前进得越远，我们的生活就会越好。
如今，它最像进入科幻小说的世界。 吊诡的是，如果我们回顾50-60年前，我们会发现，那时候的科幻小说绝对是正面的，那是一个彻头彻尾的乌托邦。 然而，后来从乌托邦逐渐过渡到反乌托邦，以至于我们不再想听到任何有关人类未来的事情。
这不是一夜之间发生的。 曾经有一段时间，人们认为太空探索风险太大。 这确实是一个很大的风险，但想象一下，1969年，当美国人登陆月球时，NASA的整个计算能力还比不上任何可以装在你口袋里的现代计算设备的能力。 该设备比 40 年前存在的超级计算机强大一千倍。 想象一下您口袋里拥有的计算能力！ 不过，我不确定苹果iPhone 7是否具有与Apollo 7相同的计算能力，也就是说，它是否能够产生相同的效果。
然而，机器为我们在太空或海洋探索方面提供了许多巨大的进步，我们必须明白，计算机为我们提供了承担巨大风险的能力。
我想以积极的基调结束我的演讲。 这张幻灯片不是显示正面图片吗？ 右下角的照片不是ps过的，我其实是在2003年就见过终结者的。
他从小也喜欢下棋，但没有专门学，所以输得很快。 因此，当 6 个月后他竞选加利福尼亚州州长并获胜时，我感到非常惊讶！
为什么我称这些图片为积极的？ 因为虽然在除了第一集之外的所有剧集中，老阿诺德总是站在胜利者一边，并且乐此不疲地与新机器战斗，但正是在第一集中，我们看到了我所说的组合——这是当人加上旧机器加上完美的界面打败了最新的汽车。
你可能会说：“是的，机器比人更强，因为它们绝对可以计算一切！” 然而，重点并不在于他们可以计算一切。 例如，在国际象棋中，从技术上讲，我们可以谈论可能的移动数量的数学无穷大，等于 1045，这对于任何现代计算机来说都不难计算。 然而，游戏中重要的不是计算，而是计算机领先于人，因为它总是受到规则的指导。 你知道这些规则的效果，也知道为什么计算机会从众多可能的走法中选择最好的走法。
但如果我们转向现实生活，我不确定计算机是否总是有用的。 让我们看一下最典型的情况 - 您有一台计算机可以监控您的预算，您在商店里准备购买一件昂贵的礼物。 计算机评估购买情况并说：“不，你买不起这个物品，因为你会超出预算。” 机器已经计算了一切，但有一个细微差别 - 你的孩子就站在你旁边，而这份礼物是为他的生日准备的。 你看到这如何改变问题的条件了吗？ 这改变了一切，因为孩子正在等待这份礼物。
我可以开始添加这些改变一切的小东西，但我不认为它们可以包含在问题陈述中并得到正确的解决方案。 我们有很多规则，但我们仍然必须提出问题，因为事情发生了变化。 这可以说是一个普通的情况，但是如果你看这些影片，你可以说这里所展示的情况更加戏剧化和非同寻常。 这张幻灯片显示了《星球大战：帝国反击战》第五集的剧照。
汉·索罗驾驶飞船直接穿过小行星带，C-3PO 惊慌失措，报告说在小行星带中幸存的机会是 1:3122。汉·索罗告诉他，“永远不要告诉我我们的机会有多大！” 那么问题来了，在这种情况下谁更正确呢？
以C-3PO为代表的技术是绝对正确的，因为生存机会趋于零。 从机器人的角度来看，被帝国军队俘虏可能是比死在小行星带中更好的选择，而人类甚至不会考虑。 但如果计算机认为向帝国投降是最好的选择，那么我们可以假设这个人根本没有选择。 非常重要的是，在普通和非凡这两种情况下，我们都有机会做出最终的决定，而做出这样的决定仍然需要人类的领导。
有时这意味着您必须违背计算机的建议。 人类领导力的重点不是了解可能性，而是提出真正重要的问题，不仅仅是今天或明天，而是遥远的未来。 这个过程可以称为“人类指导”或“人类干预”，无需智能机器的帮助即可产生影响。 这就是我们本世纪应该走的路线。
鉴于我对智能机器的使用经验，人们有时会对我对智能机器的乐观态度感到惊讶，但我确实是一个乐观主义者。 我相信你们所有人都对人工智能的未来同样乐观。 但我们必须记住，我们的技术是不可知的。 它既无善也无恶，但既可用于善，也可用于恶。 机器必须变得更智能、更有能力。 我们人类必须做只有人类才能做的事情——梦想，充分梦想，然后我们将能够获得这些令人惊叹的新工具带来的所有好处。
按照计划，我们还有 10 分钟的时间回答问题。
问题：你认为有可能创建一个机器学习系统来确定哪些动作更符合人类的游戏风格吗？
卡斯帕罗夫：首先，我们并不期望计算机告诉我们第一手棋和剩余的 17505 手棋。 我认为我们应该依靠机器为独特的动作提供最佳建议。 顺便说一下，顶级玩家都会使用电脑作为指导，帮助他们在游戏中占据最合适的位置。 我再说一遍——在十分之九的情况下，计算机对情况的评估远远优于人类的评估。
问题：你是否同意真正的智慧需要选择的自由，以及只有个人才能做出的决定的自由？ 毕竟深蓝软件和其他计算机程序都是人写的，当你输给深蓝的时候，你输的不是计算机，而是写程序的程序员。 我的问题是：只要计算机有选择的自由，任何类型的机器智能都会有危险吗？
卡斯帕罗夫：在这里我必须从科学转向哲学。 关于“深蓝”的一切都很清楚——它是人类大量工作的成果。 在大多数情况下，即使是杰米斯·哈萨比斯的AlphaGo，这些都是人类智能的产物。 我不知道机器是否可以有选择的自由，但我相信无论我们做什么，如果我们知道怎么做，机器会做得更好。 然而，当我们做大多数事情时，我们不知道如何以最好的方式去做，因此我们常常无法理解我们会成功什么。 简单来说，我们有一个目标，但我们不知道它是什么，而机器的作用就是帮助我们实现这个目标。 因此，如果我们谈论计算机的自由选择，那么它应该有助于我们实现这一目标。 我认为这对于计算机来说是一个非常遥远的未来。
问：您如何看待勇气和道德等人类特征，以及人工智能可以根据这些特征做出的决策？ 例如，一辆自动驾驶汽车应该怎么做——碾压一个孩子，或者通过撞上岩石并杀死乘客来避免撞到他？
卡斯帕罗夫：这些就是人们所说的“感觉”，它们是不可量化的，因为它们是一大堆不同的人类特征。 如果我们谈论的是勇气，那么这个特性总是与选择最优选项的机会背道而驰。 勇敢，就像其他人类情感一样，从定义上来说是与精确计算相反的。
问：卡斯帕罗夫先生，我的问题与计算机无关：你的烧瓶里有什么，我可以试试吗？
卡斯帕罗夫：你什么意思？
主持人：他问你口袋里有什么！
卡斯帕罗夫：在我口袋里？ “斯托利奇纳亚”！ 这不是广告，如果你注意到了，我就把它扔掉了。
问：您认为谁将成为下一届国际象棋世界冠军？中国年轻棋手韦易是否有机会取代卡雷尔森成为国际象棋之王？
卡斯帕罗夫：卡雷尔森是排名第一的棋手，他不是世界冠军，但根据评级，他只是世界上最好的棋手。 他今年已经1岁了，虽然还很年轻，但以今天的标准来看也不算很年轻了。 我觉得伟易现在27、18岁了。 马格努斯领先于美国选手韦斯利·苏和法比亚诺·凯鲁阿纳等年轻选手，魏艺可能是他的对手。 不过，想要成为世界冠军，需要天赋，不一定要年轻有活力，有一点运气就可以了。 所以，为了回答这个问题，我可以说——是的，他有机会击败马格努斯·卡雷尔森。
问：当您谈到确定性算法和机器学习时，您提到了使用机器作为工具来补充我们的智能的可能性。 在创造强大的人工智能，甚至将人脑放入计算机之前，最大化资源的可能性怎么样？
卡斯帕罗夫：当我不确定自己是否能够正确回答问题时，我并不羞于承认自己的无知。 我正在尽力了解人脑是什么，如果我们将其与人体分开考虑，它执行哪些功能。 因为很难想象大脑脱离身体会如何运作。 也许将来可以做这样的实验，但我相信，人的大脑、人的感觉和情绪与计算机的结合将形成一个“思想”，这将比提取和冷冻、使用大脑有效得多。作为一个充满神经元的装置。
问：对于计算机取代人类工作的问题，是否有一个通用的基本方法？
卡斯帕罗夫：我认为这是一个非常重要的问题，因为很明显我们正在接近许多人可能失业的地步。 这就是技术进步的悖论：一方面，我们拥有最新的技术，为使用这些设备和技术的年轻一代提供了巨大的竞争优势。 另一方面，我们在医学和健康营养方面取得了进步，这延长了人类的寿命，使人能够工作多年。 从这个意义上说，50后、60后甚至40后的一代人无法与今天的年轻人竞争。 我们必须找到解决代际差距如此之大的矛盾局面的办法。 历史经验表明，这种差距往往会导致大爆炸。 我指的是社会现有的社会基础设施和技术进步之间的差距。
政客们宁愿把这个问题推迟到下次选举。 没有人愿意谈论它，因为这是一个敏感问题。 印钞票是很容易的事，希望将来有一天有人来付钱。 所以这方面存在很多悖论，比如为了给老一辈提供社会保障而积累债务，却期望偿还这些债务的负担落在年轻一代的肩上。 有很多问题我没有答案，也有很多我可以问的问题，希望人工智能能够帮助我。
非常糟糕的是，几十年来政客们一直试图忽视我们刚才讨论的问题。 他们总是准备发表声明，他们总是有计划，但他们不想理解对技术与社会之间的冲突问题保持沉默会适得其反。 感谢您的关注！
感谢您与我们在一起。 你喜欢我们的文章吗？ 想看更多有趣的内容？ 通过下订单或推荐给朋友来支持我们， 在我们为您发明的独特的入门级服务器模拟上，Habr 用户可享受 30% 的折扣： （适用于 RAID1 和 RAID10，最多 24 个内核和最多 40GB DDR4）。
戴尔R730xd便宜2倍？ 只有这里 在荷兰！ Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - 99 美元起！ 阅读
来源： habr.com