Súčasný stupeň rozvoja dospel k tomu, že aj školák si môže zobrať napríklad knižnicu s modelmi , trénujte na údajoch prevzatých z verejných zdrojov a aplikujte ich na svoje údaje v prijateľnej kvalite. Niekedy môže byť smiešne, keď je výkon Jennifer Lawrence zobrazený s jej tvárou . Alebo napríklad 11 možností v rade s rôznymi osobnosťami: Ale v súčasnosti sú už techno giganti znepokojení tým, čo sa deje a už o tom bol článok , že Facebook a Microsoft poskytujú granty na detekciu DeepFakes. V skutočnosti neverím v altruistické úmysly, skôr by som veril v obyčajný prospech. S najväčšou pravdepodobnosťou je to spôsob, ako nájsť ešte lepšie stratégie pre tréningové modely, aby ste vytvorili ešte vierohodnejšie DeepFakes. S najväčšou pravdepodobnosťou sa tu kruh uzavrie, vyvinú sa metódy boja proti DeepFake a budú tiež stimulovať jeho rozvoj ako technológie.
Myslím, že pre nikoho nie je tajomstvom, že takáto technológia je vynikajúcim nástrojom na manipuláciu a provokáciu. Čo sa týka politikov a známych osobností, v žltej tlači a pod. je obrovské pole na tvorbu správ. Za pripomenutie stojí aj senzačný a rýchlo skolabovaný projekt DeepNude. Vo všeobecnosti to bola skôr predzvesť vytvorenia nového technologického výklenku, s najväčšou pravdepodobnosťou v budúcnosti (súčasnosti?) bude možné vidieť vznik produktov podobných tomu, že vo videu pre dospelých za určitý poplatok môže vidieť každý, aj ten, kto sa od tohto žánru čo najviac dištancoval.
Predpokladajme, že to nikto nepotrebuje. Odporúčam to overiť na príklade. Preverme si záujem o dobre propagovanú porno značku proti známej, no oficiálne nefigurovanej herečke. Vezmite Sashu Grey a Jennifer Lawrence. Tu je porovnanie obe za posledných 12 mesiacov. Čistá herečka stráca záujem o svoju osobu ako takú aktivitu, ale rozhodne môžeme povedať, že záujem je a je dostatočný. A ak je dopyt, existuje trh, zostáva už len vymyslieť, ako ho speňažiť.
Je jasné, že nehovoríme len o obsahu pre dospelých; ak je problém v tom, že dokážete vyzdvihnúť dvojníka, použiť modely DeepFake a vytvoriť obsah, ktorý nikto nerozozná od videa vytvoreného s potenciálnou obeťou, potom toto už môže vytvoriť imidž a stratu reputácie osobnej značky obete. V súčasnosti je možné investovať úsilie aj peniaze do imidžu človeka, a to značné, a to sa cení. Preto by ma neprekvapilo, že sa môže zdať, že regulačné orgány vytvárajú obsah a na platformách verejných médií nebude možné uverejňovať obsah fotografií/videí, ktorý môže obsahovať obrázky verejných činiteľov, ktoré neprešli overením. Snáď v budúcnosti nielen tie verejné, ale všetci v rade, lebo stav neverejnosti je a priori dočasný. Môže sa napríklad objaviť nejaký druh „agentúry na overovanie totožnosti“ a bez podpisu takéhoto orgánu nebude možné, ani technicky, verejne distribuovať obsah. Môže to znieť ako nezmysel, ale systém sociálneho hodnotenia už taký je , napríklad tu je snímka s , ktorá ilustruje tento systém, ktorý bude implementovaný v roku 2020. proti, je už pripravená poskytovať bankám informácie o histórii vyhľadávania používateľov na presnejšie hodnotenie kreditu. Vo všeobecnosti nie je jasné, ako to bude fungovať, pretože úverové hodnotenie zvyčajne vyžaduje, aby bol model interpretovateľný. Preto sa na túto úlohu často používajú modely založené na stromoch. V prípade Yandexu to bude podľa verejných informácií čierna skrinka. Na druhej strane, ak dlžník dostal úver, najčastejšie mu je jedno, prečo mu bol úver poskytnutý, a ak mu bol zamietnutý, v tomto prípade sú banky právne chránené tým, že majú právo nezverejniť dôvod odmietnutia.
Zdá sa mi, že v tomto kontexte je vznik regulačných orgánov nevyhnutný. Možno budú Číňania priekopníkmi? Prečo je to nevyhnutné? Pretože ak je ľahké niekomu zničiť povesť, ovplyvní to aj sociálne hodnotenie a zdá sa mi, že občania, ktorí majú vysoké sociálne hodnotenie a nechcú sa s ním lúčiť, prijmú opatrenia na ochranu svojich spoločenský majetok.
V tomto smere bude zaujímavé, že s najväčšou pravdepodobnosťou takéto systémy nebudú mať premlčaciu dobu a v čase implementácie budú každému pripomínať všetkých nájdených kostlivcov v skrini. Súčasná situácia so sociálnym hodnotením v Číne vyzerá byť presne taká, v čase spustenia sa zrazu môže ukázať, že teraz niečo nesmiete.
Som zvedavý, ako sa mi toto všetko ako vývojárovi vráti ? Čas ukáže.
Zdroj: hab.com