O atual nível de desenvolvimento chegou a tal ponto que até um aluno pode levar uma biblioteca com maquetes, por exemplo , treine com dados obtidos de fontes públicas e aplique-os aos seus dados com qualidade aceitável. Às vezes pode ser engraçado quando a atuação de Jennifer Lawrence é mostrada com o rosto dela . Ou, por exemplo, 11 opções seguidas com personalidades diferentes: Mas neste momento, os gigantes da tecnologia já estão preocupados com o que está acontecendo e já houve um artigo sobre isso no , que o Facebook e a Microsoft estão fornecendo subsídios para detectar DeepFakes. Eu realmente não acredito em intenções altruístas; acreditaria mais em benefícios comuns. Muito provavelmente, esta é uma maneira de encontrar estratégias ainda melhores para modelos de treinamento para criar DeepFakes ainda mais confiáveis. Muito provavelmente, o círculo se fechará aqui, métodos serão desenvolvidos para combater o DeepFake e também estimularão seu desenvolvimento como tecnologia.
Acho que não é segredo para ninguém que tal tecnologia é uma excelente ferramenta de manipulação e provocação. Quanto aos políticos e personalidades famosas, existe um enorme campo para a criação de notícias na imprensa amarela e muito mais. Também vale lembrar o projeto DeepNude sensacional e que rapidamente desmoronou. Em geral, isso foi mais um prenúncio da criação de um novo nicho tecnológico; muito provavelmente em algum futuro (presente?) será possível ver o surgimento de produtos semelhantes ao fato de que em um vídeo adulto por uma determinada taxa você pode ver qualquer pessoa, mesmo aqueles que se distanciaram o máximo possível deste gênero.
Vamos supor que ninguém precise disso. Sugiro verificar isso com um exemplo. Vamos comparar o interesse em uma marca pornô bem promovida com uma atriz conhecida, mas não apresentada oficialmente. Veja Sasha Gray e Jennifer Lawrence. Aqui está uma comparação ambos nos últimos 12 meses. Uma atriz pura perde o interesse por sua pessoa como tal atividade, mas podemos dizer com certeza que há interesse e é suficiente. E se há procura, há mercado, só falta descobrir como rentabilizar.
É claro que não estamos falando apenas de conteúdo adulto; se o problema é que você pode pegar uma cópia de uma pessoa, usar modelos DeepFake e criar conteúdo que ninguém consegue distinguir de um vídeo criado com uma vítima em potencial, então isso já pode criar perdas de imagem e reputação para a marca pessoal da vítima. Neste momento, tanto esforço como dinheiro podem ser investidos na imagem de uma pessoa, e consideráveis, e isso é valorizado. Portanto, não ficaria surpreso que as autoridades reguladoras possam parecer criar conteúdo e não será possível publicar conteúdo de foto/vídeo em plataformas de mídia pública que possam conter imagens de figuras públicas que não tenham passado na verificação. Talvez no futuro não só os públicos, mas todos seguidos, porque o estado de não publicidade é a priori temporário. Por exemplo, pode surgir algum tipo de “agência de verificação de identidade” e sem a assinatura de tal autoridade será impossível, mesmo tecnicamente, distribuir publicamente conteúdo. Isto pode parecer absurdo, mas o sistema de classificação social já está , por exemplo, aqui está um slide com , que ilustra esse sistema, que será implementado em 2020. Contra, já está pronto para fornecer informações sobre o histórico de pesquisa dos usuários aos bancos para uma pontuação de crédito mais precisa. Em geral, não está claro como isto funcionará, uma vez que a pontuação de crédito normalmente exige que o modelo seja interpretável. Portanto, modelos baseados em árvore são frequentemente usados para esta tarefa. No caso do Yandex, a julgar pelas informações públicas, será uma caixa preta. Por outro lado, se um mutuário recebeu um empréstimo, na maioria das vezes ele não se importa por que lhe foi concedido um empréstimo, e se foi recusado, neste caso os bancos estão legalmente protegidos pelo facto de terem o direito de não divulgar o motivo da recusa.
Parece-me que, neste contexto, o surgimento de autoridades reguladoras é inevitável. Talvez os chineses sejam os pioneiros? Por que isso é inevitável? Porque se for fácil arruinar a reputação de alguém, isso afectará consequentemente a classificação social e parece-me que os cidadãos que têm uma classificação social elevada e não querem abandonar-la tomarão medidas para proteger a sua propriedade social.
A este respeito, será interessante que muito provavelmente tais sistemas não tenham prazo de prescrição e no momento da implementação lembrem a todos todos os esqueletos encontrados no armário. A situação actual com as classificações sociais na China parece ser exactamente esta: no momento do lançamento, pode acontecer subitamente que agora não lhe seja permitido fazer alguma coisa.
Eu me pergunto como tudo isso vai voltar para me assombrar como desenvolvedor ? O tempo vai dizer.
Fonte: habr.com