Trenutačni stupanj razvoja došao je do točke da čak i školarac može uzeti knjižnicu s modelima, na primjer , trenirajte na podacima preuzetima iz javnih izvora i primijenite ih na svoje podatke prihvatljive kvalitete. Ponekad može biti smiješno kada se nastup Jennifer Lawrence prikaže s njezinim licem . Ili, na primjer, 11 opcija u nizu s različitim osobnostima: Ali trenutno su tehno divovi već zabrinuti zbog onoga što se događa i o tome je već bio članak na , da Facebook i Microsoft daju potpore za otkrivanje DeepFakea. Ne vjerujem baš u altruističke namjere; više bih vjerovao u običnu korist. Najvjerojatnije je ovo način da se pronađu još bolje strategije za obuku modela za stvaranje još uvjerljivijih DeepFakeova. Tu će se krug najvjerojatnije zatvoriti, razviti će se metode za borbu protiv DeepFakea i potaknuti njegov razvoj kao tehnologije.
Mislim da nikome nije tajna da je takva tehnologija izvrstan alat za manipulaciju i provokaciju. Što se tiče političara i poznatih ličnosti, postoji ogromno polje za kreiranje vijesti u žutom tisku i još mnogo toga. Vrijedi se prisjetiti i senzacionalnog i brzo propalog projekta DeepNude. Općenito, ovo je prije bio najava stvaranja nove tehnološke niše; najvjerojatnije će u nekoj budućnosti (sadašnjosti?) biti moguće vidjeti pojavu proizvoda sličnih onome što u videu za odrasle uz određenu naknadu može vidjeti svatko, čak i oni koji su se maksimalno distancirali od ovog žanra.
Pretpostavimo da ovo nikome ne treba. Predlažem da to provjerite na primjeru. Provjerimo interes za dobro promoviranu porno marku u odnosu na poznatu ali neslužbeno prikazanu glumicu. Uzmimo Sashu Gray i Jennifer Lawrence. Evo usporedbe oba u zadnjih 12 mjeseci. Čista glumica gubi interes za svoju osobu kao takvu aktivnost, ali svakako možemo reći da interesa ima i da je dovoljan. A ako postoji potražnja, postoji tržište, preostaje samo smisliti kako to unovčiti.
Jasno je da ne govorimo samo o sadržaju za odrasle; ako je problem u tome što možete pokupiti dvojnika osobe, koristiti DeepFake modele i stvoriti sadržaj koji nitko ne može razlikovati od videa napravljenog s potencijalnom žrtvom, onda je ovo već može stvoriti gubitke imidža i ugleda za osobni brend žrtve. Trenutno se u imidž osobe može uložiti i trud i novac, i to znatan, i to se cijeni. Stoga me ne bi iznenadilo da se čini da regulatorna tijela stvaraju sadržaj i da na javnim medijskim platformama neće biti moguće objavljivati foto/video sadržaje koji mogu sadržavati slike javnih osoba koje nisu prošle provjeru. Možda u budućnosti ne samo javnih, nego svih redom, jer je stanje nejavnosti a priori privremeno. Primjerice, može se pojaviti nekakva “agencija za provjeru identiteta”, a bez potpisa takvog tijela bit će nemoguće, čak i tehnički, javno distribuirati sadržaj. Ovo možda zvuči kao besmislica, ali sustav društvenog ocjenjivanja već jest , na primjer, ovdje je slajd sa , koji ilustrira ovaj sustav koji će biti implementiran 2020. godine. Protiv, već je spreman pružiti informacije o povijesti pretraživanja korisnika bankama za točnije kreditno bodovanje. Općenito, nije jasno kako će to funkcionirati, jer kreditno bodovanje obično zahtijeva da model mora biti protumačiv. Stoga se za ovaj zadatak često koriste modeli temeljeni na stablu. U slučaju Yandexa, sudeći prema javnim informacijama, to će biti crna kutija. S druge strane, ako je dužnik dobio kredit, najčešće ga nije briga zašto je dobio kredit, a ako je odbijen, u tom slučaju banke su zakonski zaštićene činjenicom da imaju pravo ne otkriti razlog odbijanja.
Čini mi se da je u ovoj pozadini pojava regulatornih tijela neizbježna. Možda će Kinezi biti pioniri? Zašto je to neizbježno? Jer ako je lako narušiti nečiju reputaciju, to će se shodno tome odraziti i na društveni rejting i čini mi se da će građani koji imaju visok društveni rejting i od njega se ne žele odvojiti, poduzeti mjere da zaštite svoje društveno vlasništvo.
S tim u vezi bit će zanimljivo da najvjerojatnije ovakvi sustavi neće imati zastaru te će u trenutku implementacije sve podsjećati na sve kosture pronađene u ormaru. Čini se da je trenutna situacija s društvenim ocjenama u Kini upravo ovakva; u trenutku lansiranja može se iznenada ispostaviti da vam sada nešto nije dopušteno učiniti.
Pitam se kako će se sve ovo vratiti na mene kao programera ? Vrijeme će pokazati.
Izvor: www.habr.com