Dabartinis išsivystymo lygis pasiekė tokį lygį, kad net moksleivis gali pasiimti, pavyzdžiui, biblioteką su modeliais , mokykitės duomenų, paimtų iš viešųjų šaltinių, ir pritaikykite juos savo duomenims priimtina kokybe. Kartais gali būti juokinga, kai Jennifer Lawrence pasirodymas rodomas jos veidu . Arba, pavyzdžiui, 11 variantų iš eilės su skirtingomis asmenybėmis: Tačiau šiuo metu techno gigantai jau yra susirūpinę dėl to, kas vyksta ir apie tai jau buvo straipsnis , kad „Facebook“ ir „Microsoft“ teikia dotacijas „DeepFakes“ aptikti. Aš tikrai netikiu altruistiniais ketinimais; labiau tikėčiau įprasta nauda. Labiausiai tikėtina, kad tai yra būdas rasti dar geresnes mokymo modelių strategijas, kad būtų galima sukurti dar labiau patikimus DeepFakes. Greičiausiai čia ratas užsidarys, bus sukurti metodai kovai su DeepFake ir jie taip pat paskatins jo, kaip technologijos, vystymąsi.
Manau, niekam ne paslaptis, kad tokia technologija yra puiki manipuliavimo ir provokavimo priemonė. Kalbant apie politikus ir garsias asmenybes, yra didžiulis laukas naujienų kūrimui geltonojoje spaudoje ir kt. Taip pat verta prisiminti sensacingą ir greitai žlugusią DeepNude projektą. Apskritai tai buvo greičiau naujos technologinės nišos kūrimo pranašas, greičiausiai ateityje (dabar?) bus galima pamatyti produktų, panašių į tai, kad suaugusiems skirtame vaizdo įraše už tam tikrą mokestį, atsiradimą. gali pamatyti bet ką, net ir tuos, kurie kiek įmanoma labiau atsiribojo nuo šio žanro.
Tarkime, niekam to nereikia. Siūlau tai patikrinti su pavyzdžiu. Palyginkime susidomėjimą gerai reklamuojamu pornografijos prekės ženklu, palyginti su gerai žinoma, bet oficialiai nerodoma aktore. Paimkite Sasha Gray ir Jennifer Lawrence. Štai palyginimas tiek per pastaruosius 12 mėnesių. Gryna aktorė praranda susidomėjimą savo asmeniu kaip tokia veikla, bet tikrai galime teigti, kad susidomėjimo yra ir to pakanka. O jei yra paklausa, yra ir rinka, belieka tik sugalvoti, kaip ją uždirbti.
Akivaizdu, kad kalbame ne tik apie suaugusiesiems skirtą turinį; jei problema yra ta, kad galite pasiimti dvigubą asmenį, naudoti DeepFake modelius ir sukurti turinį, kurio niekas negali atskirti nuo vaizdo įrašo, sukurto su potencialia auka, tada šis jau gali sukurti įvaizdžio ir reputacijos praradimą aukos asmeniniam prekės ženklui. Šiuo metu į žmogaus įvaizdį galima investuoti ir pastangų, ir pinigų, o tuo pačiu ir nemažus, ir tai vertinama. Todėl nenustebčiau, kad gali pasirodyti, kad reguliavimo institucijos kuria turinį ir viešosios žiniasklaidos platformose nebus galima patalpinti nuotraukų/vaizdo įrašų turinio, kuriame gali būti patikrinimo nepraėjusių viešų asmenų atvaizdų. Galbūt ateityje ne tik viešus, bet visus iš eilės, nes neviešinimo būsena a priori laikina. Pavyzdžiui, gali atsirasti kažkokia „tapatybės tikrinimo agentūra“, o be tokios institucijos parašo bus neįmanoma, net techniškai, viešai platinti turinį. Tai gali atrodyti kaip nesąmonė, bet socialinio reitingo sistema jau tokia , pavyzdžiui, čia yra skaidrė su , kuris iliustruoja šią sistemą, kurią ketinama įdiegti 2020 m. prieš, jau yra pasirengusi teikti informaciją apie vartotojų paieškos istoriją bankams, kad būtų galima tiksliau įvertinti kreditą. Apskritai neaišku, kaip tai veiks, nes kredito balas paprastai reikalauja, kad modelis būtų interpretuojamas. Todėl šiai užduočiai atlikti dažnai naudojami medžių modeliai. „Yandex“ atveju, sprendžiant iš viešos informacijos, tai bus juodoji dėžė. Kita vertus, jei paskolos gavėjas gavo paskolą, dažniausiai jam nerūpi, kodėl jam buvo suteikta paskola, o jei buvo atsisakyta, tokiu atveju bankus teisiškai gina tai, kad jie turi teisę neatskleisti. atsisakymo priežastis.
Man atrodo, kad viso to fone reguliavimo institucijų atsiradimas yra neišvengiamas. Galbūt kinai bus pradininkai? Kodėl tai neišvengiama? Nes jei kieno nors reputaciją lengva sugadinti, tai atitinkamai paveiks socialinį reitingą ir man atrodo, kad piliečiai, turintys aukštą socialinį reitingą ir nenorintys su juo skirtis, imsis priemonių apsaugoti savo socialinė nuosavybė.
Šiuo atžvilgiu bus įdomu tai, kad greičiausiai tokioms sistemoms senaties terminas nebus ir diegimo metu jos visiems primins visus spintoje rastus griaučius. Atrodo, kad dabartinė padėtis su socialiniais reitingais Kinijoje yra būtent tokia; paleidimo metu staiga gali pasirodyti, kad dabar jums neleidžiama kažko daryti.
Įdomu, kaip visa tai mane, kaip kūrėją, persekios ? Laikas parodys.
Šaltinis: www.habr.com