Núverandi þróunarstig er komið á það stig að jafnvel skólabarn getur tekið bókasafn með líkönum, til dæmis , þjálfaðu þig í gögnum sem tekin eru frá opinberum aðilum og notaðu þau á gögnin þín með viðunandi gæðum. Stundum getur verið fyndið þegar frammistaða Jennifer Lawrence er sýnd með andliti hennar . Eða, til dæmis, 11 valkostir í röð með mismunandi persónuleika: En í augnablikinu hafa tæknirisarnir þegar áhyggjur af því sem er að gerast og það var þegar grein um það á , að Facebook og Microsoft veita styrki til að greina DeepFakes. Ég trúi í raun ekki á altrúískar fyrirætlanir; ég myndi trúa meira á venjulegan ávinning. Líklegast er þetta leið til að finna enn betri aðferðir fyrir þjálfunarlíkön til að búa til enn trúverðugri DeepFakes. Líklegast mun hringurinn lokast hér, aðferðir verða þróaðar til að berjast gegn DeepFake og þær munu einnig örva þróun þess sem tækni.
Ég held að það sé engum leyndarmál að slík tækni er frábært tæki til að meðhöndla og ögra. Hvað varðar stjórnmálamenn og fræga persónuleika þá er gríðarlegur vettvangur til að búa til fréttir í gulu pressunni og fleira. Það er líka þess virði að minnast á tilkomumikið og fljótt hrunið DeepNude verkefnið. Almennt séð var þetta líklegra fyrirboði nýrrar tæknisess; líklega í einhverri framtíð (nútíma?) verður hægt að sjá tilkomu vörur svipaðar og í myndbandi fyrir fullorðna gegn ákveðnu gjaldi þú getur séð hvern sem er, jafnvel þá sem hafa fjarlægst þessa tegund eins mikið og mögulegt er.
Gerum ráð fyrir að enginn þurfi á þessu að halda. Ég mæli með að athuga þetta með dæmi. Við skulum athuga áhugann á vel kynntu klámmerki gegn þekktri en ekki opinberri leikkonu. Tökum Sasha Gray og Jennifer Lawrence. Hér er samanburður bæði á síðustu 12 mánuðum. Hrein leikkona missir áhugann á persónu sinni sem slíkri starfsemi, en það má alveg segja að það sé áhugi fyrir hendi og hann nægir. Og ef það er eftirspurn, þá er markaður, allt sem er eftir er að finna út hvernig á að afla tekna.
Það er ljóst að við erum ekki bara að tala um efni fyrir fullorðna; ef vandamálið er að þú getur tekið upp tvöfaldan mann, notað DeepFake módel og búið til efni sem enginn getur greint frá myndbandi sem búið er til með hugsanlegu fórnarlambi, þá er þetta getur nú þegar skapað ímynd og mannorðsmissi fyrir persónulegt vörumerki fórnarlambsins. Í augnablikinu er hægt að leggja bæði fyrirhöfn og peninga í ímynd einstaklings og töluverða þá og það er metið. Þess vegna kæmi ég ekki á óvart að eftirlitsyfirvöld gætu virst búa til efni og það verður ekki hægt að birta mynd-/myndbandaefni á opinberum fjölmiðlum sem geta innihaldið myndir af opinberum persónum sem hafa ekki staðist sannprófun. Kannski í framtíðinni ekki bara opinberir, heldur allir í röð, því ástand ókynningar er a priori tímabundið. Til dæmis gæti einhvers konar „auðkennisstaðfestingarstofa“ birst og án undirskriftar slíks yfirvalds verður ómögulegt, jafnvel tæknilega séð, að dreifa efni opinberlega. Þetta kann að hljóma eins og bull, en félagslega einkunnakerfið er nú þegar , til dæmis, hér er rennibraut með , sem sýnir þetta kerfi, sem verður innleitt árið 2020. Á móti, er þegar tilbúið til að veita bönkum upplýsingar um leitarferil notenda til að fá nákvæmari lánstraust. Almennt séð er ekki ljóst hvernig þetta mun virka, þar sem lánshæfiseinkunn krefst þess venjulega að líkanið verði að vera túlkanlegt. Þess vegna eru tré-undirstaða líkön oft notuð fyrir þetta verkefni. Í tilviki Yandex, af opinberum upplýsingum að dæma, verður það svartur kassi. Hins vegar, ef lántaki hefur fengið lán, er honum oftast sama hvers vegna honum var veitt lán, og ef honum var synjað, þá eru bankar í þessu tilviki lögverndaðir af því að þeir hafa rétt til að gefa ekki upp ástæðan fyrir synjuninni.
Mér sýnist að gegn öllum þessum bakgrunni sé tilkoma eftirlitsstofnana óumflýjanleg. Kannski verða Kínverjar frumkvöðlar? Hvers vegna er þetta óumflýjanlegt? Vegna þess að ef það er auðvelt að eyðileggja orðstír einhvers mun þetta í samræmi við það hafa áhrif á félagslegt einkunn og mér sýnist að borgarar sem hafa hátt félagslegt einkunn og vilja ekki skilja við það muni gera ráðstafanir til að vernda sitt félagsleg eign.
Í þessu sambandi verður athyglisvert að líklega munu slík kerfi ekki hafa fyrningarfrest og við innleiðingu munu þau minna alla á allar beinagrindur sem finnast í skápnum. Núverandi staða með félagslegar einkunnir í Kína virðist vera nákvæmlega svona; þegar það er sett á markað getur það allt í einu komið í ljós að þú hefur nú ekki leyfi til að gera eitthvað.
Ég velti því fyrir mér hvernig allt þetta muni koma aftur til að ásækja mig sem þróunaraðila ? Tíminn mun leiða í ljós.
Heimild: www.habr.com