Trenutni nivo razvoja dostigao je tačku da čak i školarac može uzeti biblioteku sa modelima, na primjer , trenirajte podatke preuzete iz javnih izvora i primijenite ih na svoje podatke s prihvatljivim kvalitetom. Ponekad može biti smiješno kada se nastup Jennifer Lawrence prikazuje sa njenim licem . Ili, na primjer, 11 opcija za redom s različitim ličnostima: Ali u ovom trenutku, tehno giganti su već zabrinuti zbog onoga što se dešava i već je postojao članak o tome na , da Facebook i Microsoft daju grantove za otkrivanje DeepFakesa. Ne vjerujem baš u altruističke namjere; više bih vjerovao u običnu korist. Najvjerovatnije, ovo je način da se pronađu još bolje strategije za modele obuke za stvaranje još vjerodostojnijih DeepFakesa. Najvjerovatnije, krug će se ovdje zatvoriti, razvijati će se metode za borbu protiv DeepFake-a i stimulirati njegov razvoj kao tehnologije.
Mislim da nikome nije tajna da je takva tehnologija odličan alat za manipulaciju i provokaciju. Što se tiče političara i poznatih ličnosti, postoji ogromno polje za kreiranje vijesti u žutoj štampi i još mnogo toga. Također je vrijedno prisjetiti se senzacionalnog i brzo propalog projekta DeepNude. Općenito, to je prije bio preteča stvaranja nove tehnološke niše; najvjerovatnije će u nekoj budućnosti (sadašnjosti?) biti moguće vidjeti pojavu proizvoda sličnih činjenici da u videu za odrasle za određenu naknadu mogu vidjeti bilo koga, čak i one koji su se što više udaljili od ovog žanra.
Pretpostavimo da ovo nikome ne treba. Predlažem da ovo provjerite na primjeru. Provjerimo interes za dobro promovirani porno brend u odnosu na poznatu, ali nezvanično predstavljenu glumicu. Uzmimo Sašu Grej i Dženifer Lorens. Evo poređenja oba u posljednjih 12 mjeseci. Čista glumica gubi interesovanje za svoju ličnost kao takvu aktivnost, ali svakako možemo reći da interesovanje postoji i da je dovoljno. A ako postoji potražnja, postoji tržište, ostaje samo da se smisli kako to monetizovati.
Jasno je da ne govorimo samo o sadržaju za odrasle; ako je problem u tome što možete pokupiti dvostruku osobu, koristiti DeepFake modele i kreirati sadržaj koji niko ne može razlikovati od videa kreiranog s potencijalnom žrtvom, onda je ovo već može stvoriti imidž i gubitak reputacije za lični brend žrtve. Trenutno se u imidž osobe može uložiti i trud i novac, i to popriličan, i to se cijeni. Stoga me ne bi iznenadilo da se može činiti da regulatorna tijela kreiraju sadržaj i da na javnim medijskim platformama neće biti moguće postavljati fotografije/video sadržaje koji mogu sadržavati slike javnih ličnosti koje nisu prošle verifikaciju. Možda ubuduće ne samo javni, već svi redom, jer je stanje nejavnosti a priori privremeno. Na primjer, može se pojaviti neka vrsta “agencije za provjeru identiteta”, a bez potpisa takvog ovlaštenja biće nemoguće, čak ni tehnički, javno distribuirati sadržaj. Ovo može zvučati kao besmislica, ali sistem društvenog ocjenjivanja već jeste , na primjer, ovdje je slajd sa , koji ilustruje ovaj sistem, koji će biti implementiran 2020. godine. protiv, je već spreman da bankama pruži informacije o istoriji pretraživanja korisnika radi preciznijeg kreditnog bodovanja. Uopšteno govoreći, nije jasno kako će to funkcionirati, budući da kreditno bodovanje obično zahtijeva da model mora biti interpretabilan. Stoga se za ovaj zadatak često koriste modeli zasnovani na stablu. U slučaju Yandexa, sudeći po javnim informacijama, to će biti crna kutija. S druge strane, ako je zajmoprimac dobio kredit, najčešće ga nije briga zašto mu je kredit dat, a ako je odbijen, u ovom slučaju banke su zakonski zaštićene činjenicom da imaju pravo da ne objave kredit. razlog odbijanja.
Čini mi se da je uz sve to neizbježna pojava regulatornih tijela. Možda će Kinezi biti pioniri? Zašto je to neizbježno? Jer ako je lako narušiti nečiji ugled, to će se shodno tome odraziti i na društveni rejting i čini mi se da će građani koji imaju visok društveni rejting i ne žele da se odvoje od njega poduzeti mjere da zaštite svoj društvena svojina.
S tim u vezi, bit će zanimljivo da takvi sistemi najvjerovatnije neće imati rok zastare i u trenutku implementacije sve će podsjetiti na sve kosture pronađene u ormaru. Čini se da je trenutna situacija s društvenim rejtingom u Kini upravo takva; u trenutku lansiranja može se odjednom pokazati da vam sada nije dozvoljeno nešto učiniti.
Pitam se kako će se sve ovo vratiti da me proganja kao programera ? Vrijeme će pokazati.
izvor: www.habr.com