Současný stupeň vývoje dospěl k tomu, že i školák si může vzít třeba knihovnu s modely trénovat na datech převzatých z veřejných zdrojů a aplikovat je na svá data v přijatelné kvalitě. Někdy může být úsměvné, když je výkon Jennifer Lawrence zobrazen s její tváří . Nebo například 11 možností v řadě s různými osobnostmi: Ale v tuto chvíli už jsou techno giganti znepokojeni tím, co se děje a už o tom byl článek , že Facebook a Microsoft poskytují granty na detekci DeepFakes. Opravdu nevěřím v altruistické záměry; věřil bych spíše v obyčejný prospěch. S největší pravděpodobností je to způsob, jak najít ještě lepší strategie pro tréninkové modely, aby vytvořily ještě věrohodnější DeepFakes. S největší pravděpodobností se zde kruh uzavře, budou vyvinuty metody boje proti DeepFake a budou také stimulovat jeho rozvoj jako technologie.
Myslím, že pro nikoho není tajemstvím, že taková technologie je vynikajícím nástrojem pro manipulaci a provokaci. Co se týče politiků a známých osobností, je zde obrovské pole pro tvorbu zpráv ve žlutém tisku a další. Za připomenutí stojí i senzační a rychle zhroucený projekt DeepNude. Obecně se jednalo spíše o předzvěst vytvoření nového technologického výklenku, pravděpodobně v nějaké budoucnosti (současnosti?) bude možné vidět vznik produktů podobných tomu, že ve videu pro dospělé za určitý poplatek může vidět každý, i ten, kdo se od tohoto žánru co nejvíce distancoval.
Předpokládejme, že to nikdo nepotřebuje. Doporučuji to ověřit na příkladu. Pojďme si ověřit zájem o dobře propagovanou porno značku proti známé, ale oficiálně nefigurované herečce. Vezměte Sashu Gray a Jennifer Lawrence. Tady je srovnání obojí za posledních 12 měsíců. Čistá herečka ztrácí zájem o svou osobu jako takovou činnost, ale rozhodně můžeme říci, že zájem je a je dostatečný. A když je poptávka, je tu trh, zbývá jen vymyslet, jak to zpeněžit.
Je jasné, že nemluvíme jen o obsahu pro dospělé; pokud je problém v tom, že můžete vyzvednout dvojníka, použít modely DeepFake a vytvořit obsah, který nikdo nerozezná od videa vytvořeného s potenciální obětí, pak toto již může vytvořit image a ztráty pověsti osobní značky oběti. V tuto chvíli lze do image člověka investovat úsilí i peníze, a to značné, a to se cení. Proto by mě nepřekvapilo, že se může zdát, že regulační orgány vytvářejí obsah a nebude možné zveřejňovat na platformách veřejných médií obsah fotografií/videí, který může obsahovat obrázky veřejně známých osob, které neprošly ověřením. Snad v budoucnu nejen ty veřejné, ale všechny v řadě, protože stav neveřejnosti je a priori dočasný. Může se například objevit nějaká „agentura pro ověřování identity“ a bez podpisu takové autority nebude možné, ani technicky, veřejně šířit obsah. Může to znít jako nesmysl, ale systém sociálního hodnocení už ano , například zde je snímek s , která ilustruje tento systém, který bude implementován v roce 2020. Proti, je již připravena poskytovat informace o historii vyhledávání uživatelů bankám pro přesnější hodnocení kreditu. Obecně není jasné, jak to bude fungovat, protože kreditní skóring obvykle vyžaduje, aby byl model interpretovatelný. Proto se pro tento úkol často používají modely založené na stromech. V případě Yandexu to bude podle veřejných informací černá skříňka. Na druhou stranu, pokud dlužník dostal půjčku, je mu většinou jedno, proč mu byla půjčka poskytnuta, a pokud mu byla půjčka odmítnuta, jsou v tomto případě banky právně chráněny tím, že mají právo nezveřejnit důvod odmítnutí.
Zdá se mi, že na tomto pozadí je vznik regulačních orgánů nevyhnutelný. Možná budou Číňané průkopníky? Proč je to nevyhnutelné? Protože pokud je snadné zničit něčí pověst, ovlivní to odpovídajícím způsobem sociální hodnocení a zdá se mi, že občané, kteří mají vysoké společenské hodnocení a nechtějí se s ním dělit, přijmou opatření na ochranu svého sociální majetek.
V tomto ohledu bude zajímavé, že takové systémy s největší pravděpodobností nebudou mít promlčecí lhůtu a v době realizace budou všem připomínat všechny kostlivce nalezené ve skříni. Současná situace se sociálním hodnocením v Číně se zdá být přesně taková, v době spuštění se může náhle ukázat, že nyní něco nesmíte.
Jsem zvědavý, jak se mi to všechno vrátí jako vývojáři ? Čas ukáže.
Zdroj: www.habr.com