Le niveau de développement actuel a atteint le point que même un écolier peut prendre une bibliothèque avec des modèles, par exemple , entraînez-vous sur des données provenant de sources publiques et appliquez-les à vos données avec une qualité acceptable. Parfois, cela peut être drôle lorsque la performance de Jennifer Lawrence est montrée avec son visage . Ou, par exemple, 11 options d'affilée avec des personnalités différentes : Mais pour le moment, les géants de la techno s'inquiètent déjà de ce qui se passe et il y a déjà eu un article à ce sujet sur , que Facebook et Microsoft accordent des subventions pour détecter les DeepFakes. Je ne crois pas vraiment aux intentions altruistes ; je croirais plutôt au bénéfice ordinaire. Très probablement, il s’agit d’un moyen de trouver des stratégies encore meilleures pour former des modèles afin de créer des DeepFakes encore plus crédibles. Très probablement, la boucle se fermera ici, des méthodes seront développées pour lutter contre DeepFake et stimuleront également son développement en tant que technologie.
Je pense que ce n’est un secret pour personne qu’une telle technologie est un excellent outil de manipulation et de provocation. Quant aux hommes politiques et aux personnalités célèbres, il existe un vaste champ de création d’informations dans la presse jaune et bien plus encore. Il convient également de rappeler le projet DeepNude sensationnel et rapidement effondré. En général, c'était plutôt un signe avant-coureur de la création d'une nouvelle niche technologique ; très probablement, dans un avenir (présent ?), il sera possible de voir l'émergence de produits similaires à ceux que dans une vidéo pour adultes moyennant un certain prix, vous peut voir tout le monde, même ceux qui se sont éloignés le plus possible de ce genre.
Supposons que personne n'en ait besoin. Je suggère de vérifier cela avec un exemple. Vérifions l'intérêt porté à une marque pornographique bien promue par rapport à une actrice bien connue mais non officiellement présentée. Prenez Sasha Grey et Jennifer Lawrence. Voici une comparaison tous deux au cours des 12 derniers mois. Une actrice pure perd tout intérêt pour sa personne en tant que telle activité, mais on peut certainement dire qu'il y a de l'intérêt et c'est suffisant. Et s’il y a une demande, il y a un marché, il ne reste plus qu’à trouver comment la monétiser.
Il est clair que nous ne parlons pas seulement de contenu pour adultes ; si le problème est que vous pouvez prendre le double d'une personne, utiliser des modèles DeepFake et créer un contenu que personne ne peut distinguer d'une vidéo créée avec une victime potentielle, alors ceci peut déjà entraîner une perte d’image et de réputation pour la marque personnelle de la victime. À l’heure actuelle, des efforts et de l’argent peuvent être investis dans l’image d’une personne, et des sommes considérables, et cela est valorisé. Par conséquent, je ne serais pas surpris que les autorités de régulation semblent créer du contenu et qu’il ne soit pas possible de publier sur des plateformes de médias publics du contenu photo/vidéo pouvant contenir des images de personnalités publiques qui n’ont pas été vérifiées. Peut-être qu'à l'avenir, pas seulement les publics, mais tout le monde, car l'état de non-publicité est a priori temporaire. Par exemple, une sorte d'« agence de vérification d'identité » peut apparaître, et sans la signature d'une telle autorité, il sera impossible, même techniquement, de diffuser publiquement du contenu. Cela peut paraître absurde, mais le système de notation sociale est déjà en place. , par exemple, voici une diapositive avec , qui illustre ce dispositif qui va être mis en place en 2020. Contre, est déjà prêt à fournir des informations sur l’historique de recherche des utilisateurs aux banques pour une évaluation du crédit plus précise. En général, on ne sait pas clairement comment cela fonctionnera, car la notation de crédit exige généralement que le modèle soit interprétable. Par conséquent, des modèles arborescents sont souvent utilisés pour cette tâche. Dans le cas de Yandex, à en juger par les informations publiques, ce sera une boîte noire. En revanche, si un emprunteur a obtenu un prêt, le plus souvent il ne se soucie pas de la raison pour laquelle il a obtenu un prêt, et s'il a été refusé, dans ce cas, les banques sont légalement protégées par le fait qu'elles ont le droit de ne pas divulguer la raison du refus.
Il me semble que dans tout ce contexte, l’émergence d’autorités de régulation est inévitable. Peut-être que les Chinois seront les pionniers ? Pourquoi est-ce inévitable ? Car s’il est facile de ruiner la réputation de quelqu’un, cela affectera en conséquence la cote sociale et il me semble que les citoyens qui ont une cote sociale élevée et ne veulent pas s’en séparer prendront des mesures pour protéger leur propriété sociale.
À cet égard, il sera intéressant de noter que de tels systèmes n'auront probablement pas de délai de prescription et qu'au moment de leur mise en œuvre, ils rappelleront à chacun tous les squelettes trouvés dans le placard. La situation actuelle des évaluations sociales en Chine semble être exactement la même : au moment du lancement, il peut s'avérer soudainement que vous n'êtes plus autorisé à faire quelque chose.
Je me demande comment tout cela va revenir me hanter en tant que développeur ? Le temps nous le dira.
Source: habr.com