Sodobna raven razvoja je dosegla točko, ko lahko celo šolar vzame knjižnico z modeli, na primer , ga usposobite na podatkih iz javnih virov in ga uporabite na lastnih podatkih s sprejemljivo kakovostjo. Včasih je lahko smešno, ko je nastop Jennifer Lawrence prikazan z obrazom Ali na primer 11 možnosti zapored z različnimi osebnostmi: Toda trenutno so tehnološki velikani že zaskrbljeni zaradi dogajanja in o tem je že obstajal članek na , o tem, kako Facebook in Microsoft zagotavljata nepovratna sredstva za odkrivanje globokih ponaredkov. Ne verjamem v altruistične namene; raje verjamem v preprost dobiček. Najverjetneje je to način za iskanje še boljših strategij učenja modelov za ustvarjanje še bolj verodostojnih globokih ponaredkov. To bo verjetno začetek začaranega kroga: razvite bodo metode za boj proti globokim ponaredkom, kar bo spodbudilo tudi njihov razvoj kot tehnologije.
Mislim, da ni skrivnost, da je ta tehnologija fantastično orodje za manipulacijo in provokacije. Kar zadeva politike in znane osebnosti, obstaja ogromen potencial za ustvarjanje novic v tabloidih in drugod. Velja spomniti tudi na odmeven in hitro zaprt projekt DeepNude. Bolj verjetno je bil to znanilec nove tehnološke niše; najverjetneje bomo v neki prihodnosti (sedanjosti?) videli pojav podobnih izdelkov, kjer lahko za plačilo kdorkoli vidi kogarkoli v videoposnetkih za odrasle, tudi tiste, ki so se od žanra čim bolj distancirali.
Predpostavimo, da tega nihče ne potrebuje. Predlagam, da to preizkusimo s primerom. Primerjajmo zanimanje za znano porno znamko z zanimanjem za znano igralko, ki se uradno ni pojavila na tem področju. Vzemimo Sasho Grey in Jennifer Lawrence. Tukaj je primerjava. Oboje v zadnjih 12 mesecih. Brezhibna igralka izgubi zanimanje za svojo igralko, vendar je zagotovo res, da zanimanje obstaja in da je zadostno. In če je povpraševanje, obstaja trg, in vse, kar preostane, je ugotoviti, kako ga monetizirati.
Jasno je, da ne govorimo samo o vsebinah za odrasle. Če je težava v tem, da je mogoče najti dvojnika osebe, uporabiti modele deepfake in ustvariti vsebino, ki je nihče ne more ločiti od videoposnetka, ustvarjenega s potencialno žrtvijo, potem bi to že lahko povzročalo škodo podobi in ugledu osebne blagovne znamke žrtve. Trenutno se lahko v podobo osebe vloži veliko truda in denarja, kar je zelo cenjeno. Zato me ne bi presenetilo, če bi se pojavili regulativni organi za ustvarjanje vsebin in bi bilo nemogoče objavljati foto ali video vsebine na platformah javnih medijev, ki bi lahko vsebovale slike javnih osebnosti, ki niso bile preverjene. Morda v prihodnosti to ne bo omejeno le na javne osebnosti, ampak na vse, saj je stanje nejavnosti a priori začasno. Lahko bi se na primer pojavila nekakšna "agencija za preverjanje osebnosti", brez podpisa takega organa pa bi bilo tehnično nemogoče javno distribuirati vsebine. Morda se sliši nesmiselno, vendar sistem družbenega ocenjevanja že obstaja. , na primer, tukaj je diapozitiv z , ki ponazarja ta sistem, ki bo uveden leta 2020. Nasprotno, Yandex je že pripravljen bankam posredovati podatke o zgodovini iskanja uporabnikov za natančnejše kreditno točkovanje. Ni jasno, kako bo to delovalo, saj kreditno točkovanje običajno zahteva, da je model razumljiv. Zato se za to nalogo pogosto uporabljajo drevesni modeli. V primeru Yandexa bo to, sodeč po javno dostopnih informacijah, črna skrinjica. Po drugi strani pa, če je posojilojemalec prejel posojilo, mu je pogosto vseeno za razlog zanj, in če je posojilo zavrnjeno, se banke pravno zaščitijo s pravico, da ne razkrijejo razloga za zavrnitev.
Zdi se mi, da je glede na vse to pojav regulatornih organov neizogiben. Morda bodo Kitajci pionirji? Zakaj je to neizogibno? Ker če bo postalo lahko uničiti ugled kogarkoli, bo to ustrezno vplivalo na njegov družbeni rating, in zdi se mi, da bodo državljani z visokim družbenim ratingom, ki se ga niso pripravljeni ločiti, sprejeli ukrepe za zaščito svojega. družbena lastnina.
V zvezi s tem je zanimiva še ena točka, da takšni sistemi verjetno ne bodo imeli roka uporabnosti in bodo ob uvedbi vse spomnili na morebitne okostnjake, ki jih najdejo v svojih omarah. Trenutne razmere s socialnim kreditom na Kitajskem so videti natanko takšne: v trenutku uvedbe lahko nenadoma postane jasno, da nečesa ne smete več početi.
Zanima me, kako bo vse to vplivalo name kot razvijalca. Čas bo pokazal.
Vir: www.habr.com
