O nível de desenvolvimento moderno chegou ao ponto em que até mesmo uma criança em idade escolar pode levar uma biblioteca com maquetes, por exemplo. , treine-o com dados obtidos de fontes públicas e aplique-o aos seus próprios dados com qualidade aceitável. Às vezes, pode ser engraçado quando a atuação de Jennifer Lawrence é mostrada com um rosto Ou, por exemplo, 11 opções seguidas com personalidades diferentes: Mas, neste momento, as gigantes da tecnologia já estão preocupadas com o que está acontecendo e já foi publicado um artigo sobre isso. Sobre o Facebook e a Microsoft concederem financiamento para a detecção de deepfakes, não acredito em intenções altruístas; prefiro acreditar no lucro puro e simples. Muito provavelmente, essa é uma forma de encontrar estratégias ainda melhores de treinamento de modelos para criar deepfakes ainda mais convincentes. Provavelmente, esse será o início de um ciclo vicioso: métodos para combater deepfakes serão desenvolvidos, o que também estimulará seu desenvolvimento como tecnologia.
Acho que não é segredo que essa tecnologia é uma ferramenta fantástica para manipulação e provocação. No que diz respeito a políticos e celebridades, existe um enorme potencial para gerar notícias nos tabloides e em outros meios de comunicação. Vale também lembrar o projeto DeepNude, que teve grande repercussão e foi rapidamente encerrado. Provavelmente, foi um prenúncio de um novo nicho tecnológico; muito provavelmente, em algum futuro (ou presente?) veremos o surgimento de produtos semelhantes a este, onde, mediante pagamento, qualquer pessoa poderá ver qualquer pessoa em vídeos adultos, mesmo aquelas que se distanciaram ao máximo do gênero.
Vamos supor que ninguém precise disso. Sugiro que testemos com um exemplo. Vamos comparar o interesse em uma marca de pornografia conhecida com o interesse em uma atriz famosa que não tenha atuado oficialmente nesse ramo. Vamos pegar Sasha Grey e Jennifer Lawrence como exemplos. Aqui está uma comparação. Ambas nos últimos 12 meses. Uma atriz impecável perde o interesse em sua pessoa como atriz, mas é certamente verdade que existe interesse, e é suficiente. E se há demanda, há mercado, e tudo o que resta é descobrir como monetizá-lo.
É evidente que não estamos falando apenas de conteúdo adulto. Se o problema reside na possibilidade de encontrar um sósia de uma pessoa, usar modelos deepfake e criar conteúdo indistinguível de um vídeo gravado com a potencial vítima, isso já pode estar causando danos à imagem e à reputação da pessoa. Atualmente, investe-se muito esforço e dinheiro na imagem de alguém, e isso é altamente valorizado. Portanto, não me surpreenderia se surgissem órgãos reguladores para a criação de conteúdo, tornando impossível a publicação de fotos ou vídeos em plataformas de mídia social que possam conter imagens de figuras públicas não verificadas. Talvez, no futuro, isso não se limite apenas a figuras públicas, mas a todos, pois o anonimato é, a priori, temporário. Por exemplo, poderia surgir algum tipo de "agência de verificação de personalidade" e, sem a assinatura de tal órgão, seria impossível, até mesmo tecnicamente, distribuir conteúdo publicamente. Pode parecer absurdo, mas o sistema de classificação social já existe. Por exemplo, aqui está um slide com , que ilustra esse sistema, que será implementado em 2020. Pelo contrário, A Yandex já está preparada para fornecer aos bancos informações do histórico de buscas dos usuários, visando uma avaliação de crédito mais precisa. Não está claro como isso funcionará, visto que a avaliação de crédito normalmente exige que o modelo seja interpretável. Portanto, modelos baseados em árvores de decisão são frequentemente utilizados para essa tarefa. No caso da Yandex, a julgar pelas informações públicas, será uma caixa-preta. Por outro lado, se um tomador de empréstimo obteve um empréstimo, muitas vezes ele é indiferente ao motivo da solicitação e, caso o empréstimo seja negado, os bancos se protegem legalmente mantendo o direito de não divulgar a razão da recusa.
Diante disso tudo, parece-me que o surgimento de órgãos reguladores é inevitável. Talvez os chineses sejam os pioneiros? Por que isso é inevitável? Porque se ficar fácil arruinar a reputação de alguém, isso afetará consequentemente seu prestígio social, e me parece que cidadãos com alto prestígio social, que não estejam dispostos a abrir mão dele, tomarão medidas para protegê-lo. propriedade social.
Nesse sentido, outro ponto interessante é que tais sistemas provavelmente não terão data de validade e, após a implementação, lembrarão a todos de quaisquer segredos obscuros que tenham guardado. A situação atual com o crédito social na China parece ser exatamente assim: no momento do lançamento, pode ficar repentinamente claro que você não tem mais permissão para fazer algo.
Fico pensando em como tudo isso vai me afetar como desenvolvedor. ? O tempo vai dizer.
Fonte: habr.com
