L'attuale livello di sviluppo ha raggiunto il punto che anche uno scolaro può prendere, ad esempio, una biblioteca con modelli , addestrati sui dati presi da fonti pubbliche e applicali ai tuoi dati con una qualità accettabile. A volte può essere divertente quando la performance di Jennifer Lawrence viene mostrata con il suo viso . Oppure, ad esempio, 11 opzioni di seguito con personalità diverse: Ma in questo momento i giganti della tecnologia sono già preoccupati per quello che sta succedendo e c'era già un articolo al riguardo , che Facebook e Microsoft stanno fornendo sovvenzioni per rilevare i DeepFakes. Non credo davvero nelle intenzioni altruistiche; crederei di più nel beneficio ordinario. Molto probabilmente, questo è un modo per trovare strategie ancora migliori per addestrare i modelli e creare DeepFake ancora più credibili. Molto probabilmente qui il cerchio si chiuderà, verranno sviluppati metodi per combattere DeepFake e stimoleranno anche il suo sviluppo come tecnologia.
Penso che non sia un segreto per nessuno che tale tecnologia sia un eccellente strumento di manipolazione e provocazione. Per quanto riguarda politici e personaggi famosi, c'è un vasto campo per creare notizie sulla stampa gialla e non solo. Vale anche la pena ricordare il sensazionale e rapidamente crollato progetto DeepNude. In generale, questo è stato più probabilmente un presagio della creazione di una nuova nicchia tecnologica; molto probabilmente in qualche futuro (presente?) sarà possibile vedere emergere prodotti simili a quelli che in un video per adulti a un certo compenso si vede chiunque, anche chi si è allontanato il più possibile da questo genere.
Supponiamo che nessuno ne abbia bisogno. Suggerisco di verificarlo con un esempio. Verifichiamo l'interesse per un marchio porno ben promosso rispetto a un'attrice famosa ma non ufficialmente presentata. Prendi Sasha Grey e Jennifer Lawrence. Ecco un confronto entrambi negli ultimi 12 mesi. Un'attrice pura perde interesse per la sua persona in quanto tale attività, ma possiamo sicuramente dire che l'interesse c'è ed è sufficiente. E se c’è domanda, c’è mercato, non resta che capire come monetizzarla.
È chiaro che non parliamo solo di contenuti per adulti; se il problema è che puoi prendere un sosia di una persona, usare modelli DeepFake e creare contenuti che nessuno riesce a distinguere da un video realizzato con una potenziale vittima, allora questo può già creare perdite di immagine e di reputazione per il marchio personale della vittima. Al momento, sia gli sforzi che i soldi possono essere investiti nell'immagine di una persona, e anche considerevoli, e questo viene apprezzato. Pertanto, non sarei sorpreso che le autorità di regolamentazione sembrassero creare contenuti e non sarà possibile pubblicare contenuti foto/video su piattaforme di media pubbliche che potrebbero contenere immagini di personaggi pubblici che non hanno superato la verifica. Forse in futuro non solo quelli pubblici, ma tutti in fila, perché lo stato di non pubblicità è a priori temporaneo. Ad esempio, potrebbe apparire una sorta di “agenzia di verifica dell’identità” e senza la firma di tale autorità sarà impossibile, anche tecnicamente, distribuire pubblicamente i contenuti. Può sembrare una sciocchezza, ma il sistema di classificazione sociale lo è già , ad esempio, ecco una diapositiva con , che illustra questo sistema, che sarà implementato nel 2020. Contro, è già pronto a fornire alle banche informazioni sulla cronologia delle ricerche degli utenti per un punteggio di credito più accurato. In generale, non è chiaro come funzionerà, dal momento che il credit scoring di solito richiede che il modello sia interpretabile. Pertanto, per questo compito vengono spesso utilizzati modelli basati su alberi. Nel caso di Yandex, a giudicare dalle informazioni pubbliche, si tratterà di una scatola nera. D'altra parte, se un mutuatario ha ricevuto un prestito, molto spesso non gli interessa il motivo per cui gli è stato concesso un prestito, e se gli è stato rifiutato, in questo caso le banche sono legalmente protette dal fatto che hanno il diritto di non divulgare il motivo del rifiuto.
Mi sembra che, in tutto questo contesto, l’emergere di autorità di regolamentazione sia inevitabile. Forse i cinesi saranno i pionieri? Perché questo è inevitabile? Perché se è facile rovinare la reputazione di qualcuno, ciò influenzerà di conseguenza il rating sociale e mi sembra che i cittadini che hanno un rating sociale elevato e non vogliono separarsene prenderanno misure per proteggere il loro proprietà sociale.
A questo proposito sarà interessante notare che molto probabilmente tali sistemi non avranno prescrizione e al momento dell'implementazione ricorderanno a tutti tutti gli scheletri trovati nell'armadio. La situazione attuale con le valutazioni sociali in Cina sembra essere esattamente questa: al momento del lancio potrebbe improvvisamente risultare che non ti è permesso fare qualcosa.
Mi chiedo come tutto questo tornerà a perseguitarmi come sviluppatore ? Il tempo lo dirà.
Fonte: habr.com