警告
从默默不满的人数与持反对意见的评论者的比例创历史新高来看，许多读者并不明显地意识到：
1）这是一篇纯理论讨论文章。 这里不会提供关于选择挖掘加密货币的工具或组装多谐振荡器来闪烁两个灯泡的实用建议。
2）这不是一篇科普文章。 不会使用火柴盒的例子来解释图灵机的工作原理。
3）继续阅读之前请仔细思考！ 咄咄逼人的业余态度对你有吸引力吗：我减去了所有我不理解的东西？
预先感谢所有决定不阅读本文的人！
守护程序是 UNIX 类系统上的计算机程序，由系统本身启动并在后台运行，无需直接用户交互。
即使在学龄前，我也听过一个关于魔法师学徒的童话故事。 我将在复述中重复一遍：
从前，在中世纪欧洲的某个地方，住着一位巫师。 他有一本厚厚的咒语书，用黑色小牛皮装订，有铁扣和铁角。 当巫师需要施展咒语时，他用一把大铁钥匙打开它，他总是把钥匙放在腰带上的一个特殊的袋子里。 魔法师还有一名侍奉魔法师的学生，但他被禁止查看咒语书。
有一天，巫师出差了一整天。 学生一离开家，就冲进了地牢，那里有一个炼金实验室，里面的桌子上拴着一本咒语书。 学生抓起巫师将铅熔化成金的坩埚，将它们放在火盆上并煽动火。 铅很快就熔化了，但没有变成金子。 然后学生想起，巫师每次熔化铅后，都会用钥匙打开书本，并低声念出很长时间的咒语。 学生绝望地看着锁着的书，发现旁边放着一把被巫师遗忘的钥匙。 然后他冲到桌前，打开书本，打开，大声念出第一个咒语，一个个音节小心翼翼地念着陌生的单词，以为铅化金咒这么重要的咒语一定是第一个。 。
但什么也没发生：领导者不想转型。 学生想要尝试另一个咒语，但随后一声雷鸣震动了房子，一个巨大的、令人毛骨悚然的恶魔出现在学生面前，被学生刚刚背诵的咒语召唤出来。
- 命令！ - 恶魔咆哮道。
由于恐惧，所有的想法都离开了学生的头脑，他甚至无法动弹。
- 下命令，不然我就吃掉你！ ——恶魔再次咆哮，伸出一只巨手，向学生抓去。
绝望中，学生嘟囔着他首先想到的一句话：
- 给这朵花浇水。
他指着一盆天竺葵，实验室角落的地板上放着一盆天竺葵；花上方的天花板上有地牢里唯一的小窗户，阳光几乎无法透过。 恶魔消失了，但片刻之后又出现了，手里拿着一个巨大的水桶，他把花翻过来，把水倒了出来。 他再次消失，然后带着装满的桶再次出现。
“够了，”学生站在齐腰深的水中喊道。
但显然光有欲望是不够的——恶魔把水装在桶里提了又提，把水倒在曾经藏着一朵花的角落里。 恐怕需要特殊的咒语才能赶走恶魔。 但放书的桌子已经消失在泥水中，里面漂浮着火盆里的灰烬和煤炭、空的蒸馏瓶、烧瓶、凳子、检流计、剂量计、一次性注射器和其他杂物，所以即使学生知道如何找到所需的咒语，他做不到。 水位不断上涨，学生爬到桌子上以免被噎住。 但这并没有持续多久——恶魔继续有条不紊地挑水。 当魔法师回来时，学生已经被水淹没了，发现他把书的钥匙忘在家里了，于是赶走了恶魔。 童话故事的结局。
直接说显而易见的事情。 凭借学生的自然智力（NI），似乎一切都很清楚——愚蠢，你必须寻找很长时间才能找到更愚蠢的东西。 但是恶魔的智力——顺便问一下，他有什么样的智力：EI还是AI？ - 模糊的。 不同的版本都是合法的（并且也会出现关于它们的问题）：
版本1）恶魔比学生还笨。 他收到命令并将无限期地执行它，即使所有意义都消失了：花——浇水的对象——将消失，花的坐标所附着的角度将消失，地球将消失，而地球将消失。愚蠢的恶魔将继续将桶装水运送到外太空的某个地点。 如果超新星在此时爆发，那么恶魔并不关心将水运到哪里。 而且：你得有多蠢才能用大桶浇一朵小花？ 这已经叫不是浇花，而是淹花了。 他到底明白命令的含义吗？
版本2）恶魔明白一切，但却被义务所束缚。 所以他正在进行类似意大利罢工的行动。 直到他按照所有规则被正式踢出局之前，他都不会停下来。
版本 1 的问题 1,2) 如何区分版本 1 的完全愚蠢的恶魔和版本 2 的完全不愚蠢的恶魔？
版本 2 的问题 1,2）恶魔会正确地（从学生的角度）执行更精确的表述吗？ 例如，如果一个学生说：拿起架子上的空升烧瓶，将其装满水并浇上一次开花的水。 或者，例如，如果学生说：走开。
版本3）巫师对恶魔施放额外的咒语，根据该咒语，如果巫师以外的人使用恶魔的服务，那么恶魔必须立即告知巫师这一事实。
版本4）恶魔对巫师和他的学生并无怨恨，因此眼看事态已经失控，他提着木桶，出现在巫师的背后，咆哮道：“你们把钥匙忘在家里了。” ，有洪水。” 但巫师本人不会记得。
注1至版本4）特别值得注意的是，EI载体的记忆力非常不完善。
更多版本可以像“斐波那契兔子”一样相乘，即不是一个非常复杂的算法。 例如：
版本5) 恶魔因为打扰学生而向他报复。
版本6）恶魔对学生没有怨恨，而是对巫师进行报复。
版本6）恶魔向所有人复仇。
版本7）恶魔不报仇，而是寻开心。 当他累了的时候就结束了。
等等。
所以，对于恶魔来说，显然没有什么是清楚的。 和巫师在一起也不好。 你可以想出不少版本：他故意决定给一个到处探寻好奇鼻子的学生上一课； 他想淹死这个学生，但是当恶魔咆哮着洪水时，他感到害怕——突然有一个路人听到了，那么怀疑就会落在巫师身上； 想要唤醒学生对咒语等的兴趣。
这里可能会出现一个幼稚的问题：哪个提议的版本是正确的？ 显然，任何。 故事中没有任何未使用的信息可以表明任何版本都优于其他版本。 在这里，我们正在处理一个相当常见的艺术作品案例，可能会产生含糊的解释。 例如，如果导演想将这个童话故事搬上剧院，或者根据它拍成电影，他可以从自己的角度选择最有吸引力的诠释。 另一位导演可能会发现不同的解释很有吸引力。 同时，吸引力还可以通过额外的考虑来确定，例如对观众的吸引力是为了确保最大的票房收入，或者是为了展示一些超级想法的吸引力：正义战胜邪恶的想法，责任的想法，一种反叛的想法 - 例如，根据陀思妥耶夫斯基的说法：像拉斯科利尼科夫这样的学生，他会问“他是一个颤抖的生物还是他有权利”等问题。
另一个问题出现了。
还有一个问题）。 如果我们自己拥有人工智能，但不能总是有意识地选择其中一种语音版本，我们如何才能教人工智能优先选择其中一种语音版本呢？
回到巫师，他想要一个尽职尽责、听话的学生，就像一个恶魔，这样他就不会在没有被问到的禁书上插手，这个版本看起来很合理。 现在人工智能也经常需要同样的东西。 乍一看，这些都是对任何机器的正常传统要求：完全服从，不服从是不可接受的。 但就AI而言，可能会出现1,2版本（见上文）的问题，即人工智能正在退化——硬件可以为它的创造者和所有者思考任何它想要的东西，但它不会执行任何与人工智能相关的动作，即。 我们将得到一个愚蠢的原始自动机，而不是人工智能。 由此产生了一种怀疑：也许巫师不想让学生成为一个像恶魔一样愚蠢的表演者？ 那些。 带有局限性的人工智能的想法出现了。 即使在EI领域，一切也变得更加困难：记住“父亲和儿子”、“老师和学生”、“老板和下属”这些永恒的冲突。
在从可能的定义中选择人工智能的定义时，我指出：
按字母顺序对数万个单词进行排序的任务对于一个人来说是乏味的，需要花费很长时间才能完成，对于具有平均责任水平的普通执行者来说，出错的概率将是很大的。 现代计算机将在很短的时间内（几分之一秒）毫无错误地执行此任务。
我确定了以下定义： 人工智能包括计算机解决的任务明显比人类差的多.
这个定义考虑了上述考虑，方便实践；同时，它并不理想，因为“计算机解决的问题明显比人类差”的任务列表现在与20年前不同。 但是，在我看来，还没有人提出一个更完美的定义。
以上是通过文章开头的图表纯粹定性地说明的。 在“技能”坐标轴上，零（零或稍多）区域的技能对应于人优于计算机的技能，例如做出非标准决策的能力。 XNUMX（XNUMX 或稍少）区域的技能对应于计算机优于人的技能：计算能力、记忆力。 将等于常规单位的最大优势放在“优势”坐标轴上，我们以单位正方形对角线的形式获得了人类和计算机的优势对技能的依赖关系。 目前的情况就是这样。 一个强大的人工智能有可能最大限度地发挥其所有技能（红线）吗？ 或者甚至更高（超级人工智能-蓝线）？ 也许进步的中期目标不应该很强，但也不完全是
弱AI（紫线），在多项技能上会逊色于AI，但不会像现在那么差。
回到我们的文学童话模型，我们可以说它的所有英雄都没有以最好的方式表现：笨手笨脚的巫师忘记了钥匙，在他的地牢里收到了洪水，学生由于愚蠢和粗心，收到了一堆印象极深，差点被淹死，恶魔毫无感激之情地被赶了出去。 至于恶魔的智力，已经注意到很难明确地将他归类为AI或EI，但其他人的智力（尽管并不令人印象深刻）显然属于EI。 可以说，在决策中犯下危险的错误、注意力不集中、忘记必要的事情和疲倦是他们的主要固有特征。 不幸的是，这些特性或多或少是所有其他 EI 载体所固有的。 上面已经指出了对 EI 的单词或数字进行排序的不可靠性，但这似乎是一个更简单的任务 - 简单地记住一个数字对人们来说是非常困难的。 对于机器来说，记住圆周率数字的能力仅受其内存大小的限制，大多数人不得不使用 ，比如“我对圆圈了解多少”。 看起来“3,1416”这一行的字符数比指定的助记符要少，但出于某种原因，人们更喜欢以不太经济的方式来记忆。 还有更长的：
学习并认识数字背后的数字，如何留意运气
为了让我们不犯错误，
必须正确阅读
三、十四、十五
九十二和六
记住彩虹的颜色：
每个设计师都想知道在哪里下载 Photoshop
以及元素周期表的开头：
将天然水（氢气）与凝胶（氦气）混合以倒入（锂）。 是的，将（铍）倒入松林（硼）中，从原生角落（碳）亚洲（氮）中窥视出来，并且具有如此酸的面（氧），以至于我没有二级（氟）想看看。 但我们不需要他（氖），所以我们搬到了三（钠）米外，最终到达了木兰（镁），在那里，穿着迷你（铝）裙子的艾莉亚被涂上了含有磷（磷）的奶油（硅）。这样她就不再是色拉（Sera）了。 之后，艾莉亚取了氯气（Chlorine）并清洗了阿尔戈英雄的船（Argon）
但为何如此完美的 EI 却存在如此明显的缺陷呢？ 也许，由于能够忘记最简单的事实，一个人获得了以任意疯狂的顺序组合他的思想碎片并找到非标准解决方案的自由？ 如果是这样，那么强人工智能是不可能的。 要么他会像人一样忘记，要么他没有能力提供非标准的解决方案。 无论如何，从上述假设可以看出，有必要区分人工智能的目标：一个目标是对人工智能进行建模，另一个目标是创建强人工智能。 实现其中一个可能会排除实现另一个。
正如我们所看到的，人工智能领域存在太多答案模糊的问题，因此尚不清楚该朝哪个方向发展。 正如在这种情况下发生的那样，他们试图同时向各个方向移动。 同时，由于缺乏严格的数学公式，人们不得不求助于哲学、艺术和文学建模。 这个方向最著名的例子之一是人工智能杰出人物之一马文·李·明斯基和著名科幻小说作家哈里·哈里森合着的《图灵选择》（1992）一书。 我引用这本书里的一段话，或许可以解释上述的助记符现象：
人类的记忆并不是一台按时间顺序记录一切的录音机。 它的结构完全不同——更像是一个维护得很草率的卡片索引，配备了令人困惑和矛盾的索引。 不仅仅是令人困惑——我们有时会改变概念分类的原则。
对另一部文学作品斯坦尼斯瓦夫·莱姆的故事《终点站》（来自“飞行员皮克斯的故事”系列）中录音机隐喻的有趣解释。 这是一种“智能录音机”的案例：一艘曾经发生过事故的旧宇宙飞船上的一个旧机器人正在进行正在进行的修复工作，伴随着敲击声。 但如果你仔细听的话，你会发现这不仅仅是白色的技术噪音，而是莫尔斯电码的录音——一艘垂死的船上的船员之间的对话。 皮克斯介入这些谈判，并意外地收到了死去已久的宇航员的回应。 事实证明，原始修理机器人以某种方式存储了其意识的副本，或者是飞行员皮克斯感知的认知扭曲？
在另一个故事《阿南克》（同系列）中，太空运输机控制计算机中的 EI 副本导致其测试任务偏执超载，最终酿成灾难。
在故事《意外》中，一个过度拟人化编程的机器人在他决定在空闲时间进行的一次登山活动中死亡。 需要这样的表演者吗？ 但专注于浇花的恶魔并不总是必要的。
一些人工智能领域的专家不喜欢这种“哲学化”和“文学化”，但这些“哲学化”和“文学化”传统上是人工智能分析中固有的，只要人工智能与人工智能进行比较，这些“哲学化”和“文学化”就不可避免。只要人工智能试图复制人工智能，情况就更是如此。
总之，对出现的一些问题进行了调查。
只有注册用户才能参与调查。 拜托
1. 人工智能是否包括计算机解决的问题明显比人类差的任务？
-
是
-
没有
-
我更了解这个定义。 我会在评论中给出。
-
很难回答
34 位用户投票。 7 名用户弃权。
2. AI应该只是一个执行者，所有的命令都应该按字面意思理解吗？ 例如，他们说给花浇水——这意味着浇水直到他们把你赶走
-
是
-
没有
-
很难回答
37 位用户投票。 6 名用户弃权。
3.是否有可能拥有一个强大的AI，所有技能都将达到最大（文章开头图中的红线）？
-
是
-
没有
-
很难回答
35 位用户投票。 7 名用户弃权。
4、超级AI有可能吗（文章开头图中的蓝线）？
-
是
-
没有
-
很难回答
36 位用户投票。 7 名用户弃权。
5.中级目标应该不是强，但也不是完全弱的AI（文开头图中紫色线），在很多技能上会逊色于AI，但不会像现在那么弱？
-
是
-
没有
-
很难回答
33 位用户投票。 5 名用户弃权。
6. 在决策中犯下危险的错误、注意力不集中、忘记必要的事情以及疲倦是EI的主要固有属性？
-
是
-
没有
-
我有不同的看法，我会在评论中提出。
-
很难回答
33 位用户投票。 5 名用户弃权。
7. 由于能够忘记最简单的事实，一个人能够自由地以任意疯狂的顺序组合他的思想片段并找到非标准的解决方案？
-
是
-
没有
-
我有不同的看法，我会在评论中提出。
-
很难回答
31 位用户投票。 4 名用户弃权。
8. 建模人工智能和创建强人工智能是两个不同的任务，可以通过不同的方法来解决？
-
是
-
没有
-
我有不同的看法，我会在评论中提出。
-
很难回答
32 位用户投票。 4 名用户弃权。
资料来源：www.habr.com