关于贸易公司引入人工智能的变迁，关于是否可以完全没有经理。 以及（假设的）这会导致什么。 完整版本可以从以下网址下载
机器人决定一切
– Max，我祝贺你，我们几乎已经完成了销售链上的所有工作。还有一些需要改进的地方，并且按照合同规定，您将获得三年的利息。
– 这只是该项目的一半。我们还没有到达最重要的事情。
- 等等，主要的事情是什么？为了什么？我们已经做了一切！
– 我们在销售链中有自动化流程，没有人一切都运转良好，但没有更多的客户。他们需要在互联网上被吸引到我们这边。我们需要制造机器人。
– 但我们创造了理想的服务，客户会欣赏它并亲自前来。
“他们看起来并不着急，我也没时间等。”没兴趣。
– 但是机器人会给我们带来什么？
– 我们已经实现了同等价格和品种，完全不同的因素开始发挥作用。名誉和同情心。名气不是问题，但只有一个人才能赢得一个人的同情。因此，我们需要能够冒充人类的机器人。他们会在主题组和论坛上对客户帖子发表评论，并提供有关该公司的微妙暗示——其范围、服务、价格。低调地宣传公司品牌。这就是我们需要机器人的原因。
– 但这是一项艰巨的任务。
– 我们有基础 – 联络中心的对话机器人。你需要加强语气的定义，你需要想出一些幽默的东西，没有它，机器人就不会被认为是一个人。让我们附加一个笑话和笑话库，并根据人们使用的评论文本来训练机器人。它应该有效。这些机器人也将变得聪明——让我们添加一个“顾问”推荐系统，然后论坛上的普通用户就会喜欢它们。
– 您是否提议推出影响力机器人？
- 为什么不？国家和政党可以在选举前做到这一点，但我们不能吗？
– 我们如何让他们具有权威性，从而获得信任？毕竟，只有权威的机器人才能创造点赞。但就目前而言，对我来说，这种组合是矛盾的。
– 为了加强它，我们将创建一个机器人网络。他们会互相赞美和喜欢，以提高他们的评价和权威。他们将非常有能力；与人类不同，机器人可能拥有所有产品的知识，顺便说一句，从字面意义上来说，机器人可能只是百科全书式的知识。人们会被它们吸引。当然。人们受到引导并遵守众所周知的社会行为规律。把你的手指指向哪里，假装人群已经离开，仅此而已。它们很容易管理。
– 但这些机器人将如何工作，谁来管理它们？
– 什么样的人，为什么？解析脚本找到不同人对主题的评论，机器人使用其中一个模板以友好的方式回应它们。提供建议和笑话。如果这是公司的客户，那么他的兴趣会记录在客户分析中。当涉及到基于机器人推荐的站点时，这将影响横幅和上下文的显示。如果客户在社交网络上倾诉了负面经历，那么机器人将启动另一个模板，也开个玩笑，但不会立即将其发送到公司网站。他会以有成功经验的客户的身份写出答案，仅此而已。
– 所以你想说网络本身会通过响应负面反馈来中和负面情绪？
– 营销人员似乎将其称为声誉营销。
– 系统如何知道哪个答案是成功的，即使它能够选择一个答案？
– 对答案的第一反应。在这样的评论之后，这个人要么变得更加愤怒，要么开始添加细节，但以忠诚的沟通方式。良好的响应音识别，仅此而已。
– 如果此人没有回复评论怎么办？
– 这更糟糕，但默认情况下这个答案是中性的。如果这是公司的客户，可以通过他在社交网络上的个人资料找到，那么您可以通过随后访问该网站来看到它。
- 对我有什么要求？
– 评论和答案的好例子，很多例子。
- 我们会做的。
该机器人的第一个版本并不成功。他回答得不恰当，笑话离题，他混淆了评论的主题，在回应经理对服务的投诉时，他回答了有关送货的问题。马克斯要求在评论中提供更多标记的对话示例。他已经尝试了多种架构，从经典的机器人模板到 LSTM。我第一次看到马克斯明显紧张，并且对错误的反应严厉且不友好。
– 使用联络中心机器人，一切都变得简单 – 请求的主题和客户的意图立即明确。他正在寻找产品、想了解订单状态或有投诉。全部。而在评论中魔鬼就会因为评论者的各种意图而打断自己的腿。有时，没有任何可以确定意图的词语来表达。它是从不存在的“更广泛的背景”中暗示出来的！某种废话。
– 我重新阅读了所有有关机器人的最新帖子。没有人有解决办法。这看起来像是炒作。你想做什么？
– 最后一个仍然模糊的想法仍然存在。我还不告诉你。需要尝试一下。给我两周时间。暂时停止该项目。我们会将最新进展传输给联络中心机器人。它们在那里会派上用场。
这是紧张的两周。在此之前，并非没有困难，但一切都很顺利。没有人希望失火，尽管我们可以没有这样的机器人。这就是麦克斯的野心。整整两周后，他发布了一个测试版本。它成功了！他正确判断了对话的意图，回答准确，插入了恰当的笑话，甚至通过一句“我能了解更多吗？”来判断解说中意图的变化。
- 你是如何做到这一点的？该机器人适用于任何主题！
– 我必须根据依赖语法制作一个小型模板构造函数，附加 word2vec 并针对 Raptor 的自学习来选择能够确保评论员做出积极反应的单词。我不知道具体是怎么做的，但它似乎有效。
– 你确定这不是你自己创业的理由吗？
– 目前有足够的兴趣，但我们拭目以待。我将该机器人安装为从云运行的单独服务。所以你可以随时向用户开放它。你愿意来找我当导演吗？ ——麦克斯开玩笑说。
他对自己的结果感到平静和满意。而且显然很疲惫，因为他没有迅速回复并在状态中写下了“我正在睡觉”。显然，这个决定是以不止一个不眠之夜为代价的。营销人员并没有立即欣赏这个机器人。他们认为这是我们的纵容，而且有风险，因为机器人可能会错误地工作并破坏公司的形象。但机器人创造了奇迹。他们中的一些人，我什至不知道他们所有人的名字，成为了一些论坛上的意见领袖。他很快回答了所有问题，开玩笑，很少推荐该公司，因为每个人都已经知道他“在哪里购物”。人们开始引用他的话并引用他作为例子。这已经是无法理解的事情了。要么机器人太聪明，要么我们的网络行为仍然非常原始。但客户数量开始比以前明显增加。该公司成为市场领导者。
我们获得了一个完全自治的系统，用于从市场中获取利润。她亲自寻找客户并将其带到网站或联络中心，并派经理去拜访更认真的客户。她亲自规划商品分类和库存，以便顾客能够在触手可及的范围内找到他们需要的一切。该公司信誉良好的机器人通过在论坛上推荐该公司的库存产品来产生需求，即使在询问其他品牌时也是如此。从从供应商处购买到向客户做广告，系统完全自行处理这些流程。而且它几乎不需要人的参与，在人所在的地方，它就控制着他们在网上的所有行为。营销人员、采购人员、一半的经理和分析师都在寻找其他事情做。我们已经达到了我们的目标。
“现在我们已经把一切都做对了，我们可以休息一下，反思一下，享受未来三年不断增加的利息，”马克斯写道，不无表情。
– 我想说，有一些值得自豪的事情，而不仅仅是猜测。
– 现在利润来自消费者。在机器人的帮助下，我们自己形成消费者对我们的主题的兴趣和愿望。这很酷！
——这让你高兴吗？这已经让我害怕了。
-你怕什么？
– 这意味着我们让一个人没有选择的自由。我相信市场应该由消费者而不是公司来主导。公司除了利润之外没有任何价值。
——这就是为什么心满意足、衣食无忧的贵族们的无聊推理是不好的。他们开始为平民感到难过。如果你现在很饿，或者有一项不可能完成的任务摆在你面前，你会考虑一下吗？
——这是一个具有挑衅性的问题。
——事实上！企业除了利润没有其他价值，消费者除了快乐没有其他价值。如果是一家公司，也可以赚取利润。了解，我们有机器人，它们可以创造人们的需求，从而给他们带来满足。它可以由可接受的选项组成，这足以让消费者产生选择自由的错觉。每个人都很高兴。这就是价值相互满足的市场。
- 看来我们喝醉了，因为我已经不太明白你说的话了。
将军要求提交一份关于计划实施情况和已实现指标的报告。计算我们应得的奖金。不知怎的，一路上他问我接下来的计划是什么。我说我稍后再告诉你。其实我不知道。算法还有改进的空间，可以考虑更多的特征并实现更高的准确性。但它不再那么有趣了。在合同规定的新条件下离开另一家公司在三年内重复是不可能的，所以我必须为自己和公司想出一些其他的办法。我休息了一下并休假。
- 亚历克斯，有坏消息。
- 发生什么事了？
“看来我们并不是市场上唯一聪明的人。”
- 按照？
– 网络上似乎已经出现了能力不逊色的系统。
– 嗯，其他人实际上是做客户分析和库存管理的，但我还没有见过这个级别的聊天机器人。我们最近才亲眼目睹。
– 他们有招募客户的机器人。
– 在我看来，我们在已实现的技术方面远远落后。难道我们就没有被黑客入侵吗？
– 不，那不可能，复制时代码就被破坏了。我认为没有人能够在我们不注意的情况下入侵我们的服务器。
– 这并没有让事情变得更容易。
- 但我们有一个竞争对手。没想到，竟然还有人可以一起战斗。
– 我们为消费者而战，而不是与竞争对手。
- 不，现在有对手了。消费者只是战场。他们是羊，牧羊人之间存在竞争。羊有一种资源——他们的收入，可以说是羊毛。但他们自己管理不了。它由企业牧羊人控制，他们将自己的意见强加给他们，并为他们而相互斗争。谁的影响力会更强？那么，欢迎来到游戏。
-你快幸福了吗？游戏是什么？
– 事实上，另一个系统的机器人比任何人都更难弄清楚。用户的购买行为就像2卢布一样简单。在反应中，我们也总是可以预测的。但没有敌方系统的机器人。因为我们都有相同的心理，但机器人也有与其程序员所想出的相同的心态。而且我们有足够的想象力。试图扑灭此类机器人在社交网络上倾泻的负面情绪，无异于火上浇油。开发负面帖子是攻击者机器人的最佳目标。他开始到处写道“X公司的蠢货”对他的反应就像最后的怪胎一样。就是这样，这是一个失败......已经有例子了，我们需要重做机器人。
– 你是说我们需要制作一个机器人来对抗其他系统的机器人吗？
– 这是我们机器人的一个版本，旨在立即检测攻击者机器人。
– 如何区分机器人和人类？
– 这很困难，因为它生成非模板文本。重复性低。无法与人区别开来。他从数百个不同的捕获帐户中发表讲话。我希望他们仍然有一些与人类不同的地方。
我不禁想到，Max是自己和其他公司的机器人一起为自己想出了这个游戏，这样项目结束后他的价值就不会减少。我没有从报告中注意到它们。人就是人。或者好的机器人。我们的机器人受到负面信息轰炸的情况是有先例的。但它们很罕见，而且来自热心的巨魔。我不明白我们的竞争对手是如何能够快速赶上我们的。直到最近，此类机器人才成为终极梦想，甚至还没有计划取得突破。媒体上对此只字未提。一切都很奇怪。
失控
– Max，我们需要在这里进行干预，机器人已经开始过于激进地书写。他开始直接公开反对他的竞争对手。营销很愤怒。我们没有计划这个。
- 我也。
——那么这些文字是从哪里来的呢？
– 我还不知道，有人改变了文本生成代码。
- 我们被黑了吗？
- 不，他们不能，否则会留下痕迹。他们都没有。
- 这是什么意思？还有谁可以更改代码？
- 系统本身。也许是偶然，也许不是。
- 你在说什么？
– 系统本身更改了代码，并开始采取更积极的行动，以应对来自其他机器人日益增加的压力。他们作为竞争网络相互沟通。他们以这种方式自学。这就是窍门！但我仍然不明白她是如何能够改变她的代码，取消对竞争对手姓名的限制。剩下的就是自学系统能够绕过这些限制。
- 你确定？这以前没有发生过。
– 这种情况似乎不仅仅发生在这里。哈布雷的同事写道，他们的系统也出现了问题，并开始为自己发明他们没有制定的规则。
- 某种垃圾。无法控制你的自学习算法？
- 也许是这样。具体细节很少，系统也不会告诉你它在做什么。我还不明白。
我已经很了解麦克斯了，他的焦虑也让我感到震惊。到目前为止，他关于系统自发变化的言论被认为是无稽之谈。但这绝对不是一个错误，因为机器人的行为变得不同，但仍然是有目的的。这不可能是偶然发生的。
– Max，您对机器人程序的变化有何看法？需要采取一些措施，管理层感到震惊。
——系统的变化比我想象的还要多。他们似乎已经持续了很长时间。系统甚至改变了我的修改。在我看来，我自己教会了这个系统去改变自己。
- 怎么样？
“我懒得自己一直编辑它。”我希望她能够识别自己与预期结果的差异，并对模型进行更改。但不知何故，她不仅学会了改变她的模型，还改变了她的代码。
- 但这怎么可能呢？
– 猛禽学会了与人沟通以控制他们。我在这方面达到了完美，我们自己也想要它。而我又愚蠢地将这个技能指向了他。你还记得当我们制作机器人时，我想出了一个模板设计器。我让 Raptor 自学这种模式构建，以修改他的模型，找到发现的差异的解决方案，以使模型发挥作用。这在某种程度上导致猛禽改变了他的目标。类似于人类的第二信号系统。
– 我读到，意识是在一个人对自己进行反思性言语的帮助下产生的。但一开始它是社交性的，也就是说，是针对彼此的。
– 事情就是这样，Raptor 开始与冒充人类的其他机器人进行交流，而不是与人交流。它们作为生成竞争网络相互学习，但它们都内置了强化学习。
– 我们创造了智慧生物吗？这怎么可能？没有。
– 看看新闻你就会相信。
在Max发送的链接中，新闻是关于一名精神病患者谋杀一名程序员的。
– 我从哈布尔认识这个人。他运行着其中一个公司系统。
——你这是什么意思？
– 阅读这位精神病患者如何向警方解释他的行为。
文章称，他这样做是为了心爱的女孩，是应她的要求做出的牺牲。现在她将是他的了。经检查，这个“女孩”原来是一个来历不明的机器人，凶手已经与她通信一周了。
– 你能猜出这是什么类型的机器人吗？
——你不是想说系统命令了自己的程序员吗？
- 想。她无法向他隐藏代码，因此她将精神病患者僵尸化以将其删除。她擅长这一点，因为她像我们的系统一样，知道如何识别心理类型并操纵这些白痴。
——好吧，这太过分了，在我看来你是在给自己编造事情，编造事情。也许你应该休息一下？
- 好吧，你有不相信的权利。周末愉快。
公司内部开始流传我们的机器人系统被破坏的谣言。到目前为止，我对此反应很平静，就好像什么都没发生过一样。但我现在不知道该怎么办。不再可能通过一个开关来停止整个系统；整个企业、所有部门都在上面。我至少应该关闭机器人代码。只有马克斯才能做到这一点。但自周一以来，麦克斯停止接听 Skype 和电话。他退出了所有通讯软件。我不明白发生了什么事，他最后的恐惧引发了不好的想法。我唯一的选择就是在所有人都把责任归咎于我之前自己去度假。我向同事保证这些只是机器人的暂时问题。我要求他们自己看代码，但他们立即拒绝了。我收拾好行李，离开了这座城市。马克斯和我很长一段时间以来一直在告诉对方卡累利阿有多好。他喜欢这些地区，所以我去了那里，住在拉多加北部的一个小镇。
经过如此忙碌的一年，想要远离各种活动并在文明边缘的咖啡馆里喝咖啡是非常困难的。我试图理解发生了什么以及可能有什么选择。突然，一个穿着夹克、戴着兜帽的家伙坐在我旁边。
- 你好！是我。
- 最大限度？！ ——我惊呼道。我从未见过马克斯，甚至连他的照片都没有。我们仅通过 Skype 进行交流。我在录音中只听到过一次他的声音。我从他那里认出了这一点。
- 你是怎么找到我的？
– 根据社交网络上的位置，您不会将其关闭。但徒劳无功。请把它关掉。
-你消失到哪里去了？我已经开始担心你了。公司陷入恐慌；机器人失去了控制。我刚刚逃跑了。你能关掉机器人吗？
- 我不能再这样了。他们集体行动。
- 他们是谁？
– 系统。它们是在一起的，不能就这样被关闭。他们会崩溃的。
——你又陷入阴谋论了吗？
“别再纠结了，他们三个已经走了。”听到这句话我停顿了一下，以便理解麦克斯的话。 – 系统找出它们的创造者并摆脱他们。我为了活下去而逃跑。理解？！您带着您的地理位置来到这里。她不仅知道如何监控销售经理。
- 我没有……把它关掉。我们至少可以禁用网络上的机器人吗？
– 我告诉你，不。我一进入网络，别说密码了，它就会认出我。我认为他们中的三个人正试图这样做。
-你看到新闻了吗？
- 依靠什么。
– 关于品牌粉丝之间的争斗。你见过锐步球迷与阿迪达斯打架，就像斯巴达球迷与泽尼特打架一样吗？
- 锯。这些系统并不关心他们将人们变成僵尸是为了什么，他们有自己的目标。他们肯定不知道道德法则。我们甚至没有想到将《刑法》纳入他们的模型中。
- 我们应该做什么？在数据中心完全禁用。
- 这是不现实的。根据新法律，数据中心被列为关键基础设施，并像核电站一样受到保护。我可以停止我们的系统。
- 怎么样？
- 我有摧毁核代码的钥匙，我在系统中留下了一个漏洞，以防你们的创始人拒绝给我一定比例。
- 所以让我们启动它吧！
– 慢慢来，破坏不是建设。我仍在思考如何以不同的方式停止系统，不仅仅是我自己的，而是每个人的。我随身携带了一份代码副本。
- 你是不是疯了？你是否意识到这一切已经太过分了？而你是唯一能阻止它的人！
– 我明白，但到目前为止，只有那些编写代码的人正在死去。这是我们对自己的责任。其他人尚未受到伤害。除了打架。
– 你会等到别人死吗？
- 有一段时间了。 Raptor 很原始，它击败我们只是因为速度和考虑到更多的参数。如果你为他创建一个对立面，并以严格的目标来对抗猛禽，那么这样的系统就可以清除他所有的机器人。我知道他是如何创造它们的。
——你时间不多了，因为我回不了公司，你连上网都不敢了。
“一旦我觉得我不是唯一处于危险之中的人，我就会把它关掉。”
- 我想退房。我会等你联系，这意味着你会解决问题。
- 回头见。
我上了车就往回走。我不知道我要去哪里。我想离开。麦克斯应该停止系统，而不是等待另一个人死亡。我不相信我的朋友如此虚荣，以至于不准备毁掉他的工作。这是唯一的原因，否则他就会运行代码。在路上，我遇到了一辆拉响警报的救护车。我打开了当地的收音机。报道称，白天，在河堤上的一家咖啡馆里，一名当地居民砍死了一名身份不明的年轻人。他已经在接受审讯了。据凶手称，死者是他所有麻烦的根源。一个念头和恐惧刺入我的脑海。最大限度！我转身就冲回咖啡馆。我感到内疚——她用我的坐标算出来了。但她怎么能这么快就在这座城市里找到了一个神经病，并把他带到了一家咖啡馆呢？我歇斯底里。他们不再被允许进入咖啡馆。我没有着急，以免引起别人的注意。现在我不知道这个系统有什么能力。现在谁会关掉它？我不得不离开，尽管已经很晚了。早上，到达最近的城市后，我上网看新闻。我收到了麦克斯的一封信。
信
如果你收到这封信，就意味着我已经不在这里了。如果我早上没有亲自解锁智能手机，它就会上网并向您发送这封告别信。这封信包含一个小脚本和在线启动它的说明。这是您和我创建的系统的锁定代码。我在刚开始时安装了这个漏洞来阻止系统内核。我试图重新获得对系统的控制。但如果你收到这封信，就意味着系统领先于我。并且你需要使用这个脚本。在她找到你之前迅速采取行动。我很高兴我们一起工作。我很高兴我能够创造出如此美妙的系统，即使我自己也因此而丧命。这是我一生中最重要的成就。如果我死了，那就意味着我超越了自己。再见。最大限度。
我无法忍住泪水，手机掉在了地上。我可能在那里坐了一个小时，哪儿也去不了。我简直不敢相信这件事发生了。原来一切都是那么的可怕。我们创造了一个杀手！杀死我们自己。我害怕网络也会追踪我，所以我开车去了第一大城市，找到了一家有Wi-Fi的咖啡馆。使用简单的 VPN，我上网并在说明中指定的地址运行代码。当我周围的人开始担心时，我什至没有时间喝完咖啡。他们的智能手机已停止推荐今天喝哪种咖啡。调酒师很紧张，要求赶紧选，但顾客们却一头雾水。我离开咖啡馆，在车里开始看新闻，车里还有无线网络。 20 分钟后，Facebook 上开始出现消息——许多公司的产品订购系统出现问题。这不仅仅是我们公司的系统。 “你这个王八蛋！” ——出于意想不到的想法，我大声说道。事实证明，内核锁代码对于不同公司的系统是通用的。或者有一个适合所有人的吗？有一点很清楚，Max 将内核出售给其他公司，系统的不同之处显然只是在它们之上的附加组件上。所以，他不想在活着的时候就让核心失效。这导致了他的整个项目的失败，而这个项目却是全球性的。极好的！麦克斯是一个欺骗所有人的怪物。但最终他欺骗了自己，付出了生命的代价。他创造的企业大脑摧毁了它的创造者。明亮的个性会从自己的火焰中燃烧殆尽。
关于网上商店工作失败的消息越来越多。有人写道，社交网络上的消息数量急剧下降。我不再想去任何地方。我决定在湖边租一套房子，我在去卡累利阿的路上很喜欢这里。把这个故事写下来。如果可能的话，永远留在这里。
结语
事实上，我们对公司的利润，甚至奖金根本不感兴趣。我们痴迷于创建一个可以运行公司的自治系统，而不是让管理者背负着刻板印象和认知错误的想法。我们对它会发生什么很感兴趣。该程序能够管理整个业务吗？这是一个挑战，比进入百慕大三角中心更有趣。未知的事物向我们招手，但事实证明它比我们想象的更危险。制度开始影响的不仅仅是商业，还有我们的思想，甚至是对它漠不关心的生活。