目前的發展程度已經達到了連小學生都可以帶模型去圖書館的程度，例如 ，對從公共來源獲取的資料進行訓練，並將其以可接受的品質應用於您的資料。 有時，當珍妮佛勞倫斯的表演用她的臉來表現時，這會很有趣 。 或者，例如，連續 11 個具有不同個性的選項： 但目前，科技巨頭已經開始關注正在發生的事情，並且已經有一篇關於它的文章 ，Facebook 和微軟正在提供資助來偵測 DeepFakes。 我不太相信利他的意圖；我比較相信普通的利益。 最有可能的是，這是一種找到更好的訓練模型策略的方法，以創建更可信的 DeepFakes。 最有可能的是，這個循環將在這裡結束，將開發出對抗 DeepFake 的方法，它們也將刺激其作為技術的發展。
我認為這種技術是操縱和挑釁的絕佳工具，這對任何人來說都不是秘密。 至於政治家和名人，在黃色媒體等方面有一個巨大的創造新聞的空間。 也值得記住轟動一時但迅速崩潰的 DeepNude 項目。 總的來說，這是創造一個新的技術利基的先兆；很可能在未來（現在？），將有可能看到類似於以下事實的產品的出現：在成人視頻中，您只需支付一定的費用可以看到任何人，甚至是那些盡可能遠離這一流派的人。
讓我們假設沒有人需要這個。 我建議透過一個例子來檢查這一點。 讓我們來對照一下知名但未正式出演的女演員對一個宣傳良好的色情品牌的興趣。 以薩莎·格雷和珍妮佛·勞倫斯為例。 這是一個比較 都是在過去 12 個月內。 一個純粹的女演員會因為這樣的活動而對自己失去興趣，但我們可以肯定地說，有興趣就足夠了。 如果有需求，就有市場，剩下的就是弄清楚如何將其貨幣化。
很明顯，我們不僅僅是在談論成人內容；如果問題是你可以拾取一個人的替身，使用 DeepFake 模型並創建任何人都無法將其與潛在受害者創建的視頻區分開來的內容，那麼這個已經可能會對受害者的個人品牌造成形象和聲譽損失。 現在一個人的形象可以投入精力和金錢，而且是相當可觀的投入，這是有價值的。 因此，我不會感到驚訝的是，監管機構可能會創造內容，並且不可能在公共媒體平台上發布可能包含未經驗證的公眾人物圖像的照片/影片內容。 或許將來不只是公開的，而是大家都排的，因為不公開的狀態是先驗的暫時的。 例如，可能會出現某種“身份驗證機構”，如果沒有這種機構的簽名，即使在技術上也是不可能公開分發內容的。 這聽起來可能是無稽之談，但社會評級系統已經 ，例如，這是一張投影片 ，它說明了該系統將於 2020 年實施。 反對， 已經準備好向銀行提供有關用戶搜尋歷史的信息，以獲得更準確的信用評分。 一般來說，尚不清楚這是如何運作的，因為信用評分通常要求模型必須是可解釋的。 因此，基於樹的模型通常用於此任務。 就Yandex而言，從公開資訊來看，它將是一個黑盒子。 另一方面，如果借款人獲得了貸款，通常他並不關心為什麼會獲得貸款，如果他被拒絕，在這種情況下，銀行將受到法律保護，因為他們有權不透露拒絕的原因。
在我看來，在這樣的背景下，監管機構的出現是不可避免的。 也許中國人會成為先驅？ 為什麼這是不可避免的？ 因為如果很容易毀掉一個人的名譽，那麼就會相應地影響社會評價，在我看來，社會評價高而又不願放棄的公民會採取措施保護自己的聲譽。 社會財產.
在這方面，有趣的是，此類系統很可能沒有時效，並且在實施時它們會提醒每個人在壁櫥中發現的所有骨架。 目前中國社會評級的情況似乎就是這樣；在發佈時，可能會突然發現現在不允許你做某事。
我想知道這一切將如何困擾我作為開發人員 ？ 時間會證明。
來源： www.habr.com