Obecny poziom rozwoju osiągnął taki poziom, że nawet uczeń może zabrać ze sobą np. bibliotekę z modelami , szkol się na danych pochodzących ze źródeł publicznych i stosuj je do swoich danych o akceptowalnej jakości. Czasami może to być zabawne, gdy występ Jennifer Lawrence pokazany jest z jej twarzą . Lub na przykład 11 opcji z rzędu z różnymi osobowościami: Ale w tej chwili giganci techno są już zaniepokojeni tym, co się dzieje i był już o tym artykuł , że Facebook i Microsoft zapewniają dotacje na wykrywanie DeepFakes. Nie bardzo wierzę w altruistyczne intencje; bardziej wierzyłbym w zwykłą korzyść. Najprawdopodobniej jest to sposób na znalezienie jeszcze lepszych strategii uczenia modeli, aby stworzyć jeszcze bardziej wiarygodne DeepFakes. Najprawdopodobniej koło się tutaj zamknie, opracowane zostaną metody walki z DeepFake, a także pobudzą jego rozwój jako technologii.
Myślę, że dla nikogo nie jest tajemnicą, że taka technologia jest doskonałym narzędziem manipulacji i prowokacji. Jeśli chodzi o polityków i znane osobistości, istnieje ogromne pole do tworzenia wiadomości w żółtej prasie i nie tylko. Warto pamiętać także o rewelacyjnym i szybko upadłym projekcie DeepNude. W sumie był to raczej zwiastun powstania nowej niszy technologicznej, najprawdopodobniej w jakiejś przyszłości (obecnie?) będzie można zaobserwować pojawienie się produktów podobnych do tego, że w filmie dla dorosłych za określoną opłatą zobaczyć każdy, nawet ten, kto od tego gatunku zdystansował się jak najbardziej.
Załóżmy, że nikomu to nie jest potrzebne. Proponuję sprawdzić to na przykładzie. Porównajmy zainteresowanie dobrze promowaną marką porno z dobrze znaną, ale nieoficjalnie występującą aktorką. Weźmy Sashę Gray i Jennifer Lawrence. Oto porównanie oba w ciągu ostatnich 12 miesięcy. Czysta aktorka traci zainteresowanie swoją osobą jako taką działalnością, ale z całą pewnością można powiedzieć, że zainteresowanie jest i to wystarczy. A jeśli jest popyt, jest rynek, pozostaje tylko wymyślić, jak na nim zarobić.
Jasne jest, że nie mówimy tylko o treściach dla dorosłych; jeśli problem polega na tym, że możesz uchwycić sobowtóra osoby, użyć modeli DeepFake i stworzyć treści, których nikt nie będzie w stanie odróżnić od filmu stworzonego z potencjalną ofiarą, to może już spowodować utratę wizerunku i reputacji marki osobistej ofiary. W tej chwili w wizerunek człowieka można włożyć wysiłek i pieniądze, i to niemałe, i to się ceni. Dlatego nie zdziwiłbym się, gdyby mogło się wydawać, że organy regulacyjne tworzą treści i nie będzie możliwe publikowanie na platformach mediów publicznych treści foto/wideo, które mogą zawierać wizerunki osób publicznych, które nie przeszły weryfikacji. Być może w przyszłości nie tylko publicznych, ale wszystkich po kolei, bo stan niepubliczności jest a priori tymczasowy. Może na przykład pojawić się jakiś rodzaj „agencji weryfikacji tożsamości”, a bez podpisu takiego organu nie będzie możliwe, nawet technicznie, publiczne rozpowszechnianie treści. Może to brzmieć jak nonsens, ale system ocen społecznych już taki jest , na przykład tutaj jest slajd z , co ilustruje ten system, który będzie wdrażany w 2020 roku. Przeciwko, jest już gotowy do przekazywania bankom informacji o historii wyszukiwania użytkowników w celu dokładniejszej oceny zdolności kredytowej. Ogólnie rzecz biorąc, nie jest jasne, jak to będzie działać, ponieważ punktacja kredytowa zwykle wymaga, aby model był możliwy do interpretacji. Dlatego do tego zadania często wykorzystuje się modele oparte na drzewach. W przypadku Yandexa, sądząc po publicznych informacjach, będzie to czarna skrzynka. Z drugiej strony, jeśli kredytobiorca otrzymał kredyt, najczęściej nie interesuje go, dlaczego otrzymał pożyczkę, a jeśli odmówiono mu, w tym przypadku banki są prawnie chronione przez to, że mają prawo nie ujawniać powód odmowy.
Wydaje mi się, że na tym tle pojawienie się organów regulacyjnych jest nieuniknione. Być może pionierami będą Chińczycy? Dlaczego jest to nieuniknione? Bo jeśli łatwo jest zrujnować czyjąś reputację, to odpowiednio wpłynie to na ocenę społeczną i wydaje mi się, że obywatele, którzy mają wysoką ocenę społeczną i nie chcą się z nią rozstać, podejmą działania w celu ochrony swoich własność społeczna.
W związku z tym ciekawe będzie to, że najprawdopodobniej takie systemy nie będą miały przedawnienia i w momencie wdrożenia będą przypominać każdemu o wszystkich szkieletach znalezionych w szafie. Obecna sytuacja z ocenami społecznościowymi w Chinach wygląda dokładnie tak: w momencie uruchomienia może się nagle okazać, że nie wolno Ci teraz czegoś robić.
Zastanawiam się, jak to wszystko wróci i będzie mnie prześladować jako programistę ? Czas pokaże.
Źródło: www.habr.com