目前的发展水平已经达到了连小学生都可以带模型去图书馆的程度，例如 ，对从公共来源获取的数据进行训练，并将其以可接受的质量应用于您的数据。 有时，当詹妮弗·劳伦斯的表演用她的脸来表现时，这会很有趣 。 或者，例如，连续 11 个具有不同个性的选项： 但目前，科技巨头已经开始关注正在发生的事情，并且已经有一篇关于它的文章 ，Facebook 和微软正在提供资助来检测 DeepFakes。 我不太相信利他的意图；我更相信普通的利益。 最有可能的是，这是一种找到更好的训练模型策略的方法，以创建更可信的 DeepFakes。 最有可能的是，这个循环将在这里结束，将开发出对抗 DeepFake 的方法，并且它们也将刺激其作为一项技术的发展。
我认为这种技术是操纵和挑衅的绝佳工具，这对任何人来说都不是秘密。 至于政治家和名人，在黄色媒体等方面有一个巨大的创造新闻的空间。 还值得记住轰动一时但迅速崩溃的 DeepNude 项目。 总的来说，这是创造一个新的技术利基的先兆；很可能在未来（现在？），将有可能看到类似于以下事实的产品的出现：在成人视频中，您只需支付一定的费用即可可以看到任何人，甚至是那些尽可能远离这一流派的人。
让我们假设没有人需要这个。 我建议通过一个例子来检查这一点。 让我们对照一下知名但未正式出演的女演员对一个宣传良好的色情品牌的兴趣。 以萨莎·格雷和詹妮弗·劳伦斯为例。 这是一个比较 都是在过去 12 个月内。 一个纯粹的女演员会因为这样的活动而对自己失去兴趣，但我们可以肯定地说，有兴趣就足够了。 如果有需求，就有市场，剩下的就是弄清楚如何将其货币化。
很明显，我们不仅仅是在谈论成人内容；如果问题是你可以拾取一个人的替身，使用 DeepFake 模型并创建任何人都无法将其与潜在受害者创建的视频区分开来的内容，那么这个已经可能给受害者的个人品牌造成形象和声誉损失。 现在一个人的形象可以投入精力和金钱，而且是相当可观的投入，这是有价值的。 因此，我不会感到惊讶的是，监管机构可能会创造内容，并且不可能在公共媒体平台上发布可能包含未经验证的公众人物图像的照片/视频内容。 或许将来不仅是公开的，而是大家都排的，因为不公开的状态是先验的暂时的。 例如，可能会出现某种“身份验证机构”，如果没有这种机构的签名，即使在技术上也是不可能公开分发内容的。 这听起来可能是无稽之谈，但社会评级系统已经 ，例如，这是一张幻灯片 ，它说明了该系统将于 2020 年实施。 反对， 已经准备好向银行提供有关用户搜索历史的信息，以获得更准确的信用评分。 一般来说，尚不清楚这是如何运作的，因为信用评分通常要求模型必须是可解释的。 因此，基于树的模型通常用于此任务。 就Yandex而言，从公开信息来看，它将是一个黑匣子。 另一方面，如果借款人获得了贷款，通常他并不关心为什么会获得贷款，如果他被拒绝，在这种情况下，银行将受到法律保护，因为他们有权不透露拒绝的原因。
在我看来，在这样的背景下，监管机构的出现是不可避免的。 也许中国人会成为先驱？ 为什么这是不可避免的？ 因为如果很容易毁掉一个人的名誉，那么就会相应地影响社会评价，在我看来，社会评价高而又不愿放弃的公民会采取措施保护自己的声誉。 社会财产.
在这方面，有趣的是，此类系统很可能没有时效，并且在实施时它们会提醒每个人在壁橱中发现的所有骨架。 目前中国社会评级的情况似乎就是这样；在发布时，可能会突然发现现在不允许你做某事。
我想知道这一切将如何困扰我作为一名开发人员 ? 时间会证明一切。
来源： habr.com