Det nuværende udviklingsniveau er nået dertil, at selv et skolebarn kan tage et bibliotek med for eksempel modeller , træne på data hentet fra offentlige kilder og anvende dem på dine data med acceptabel kvalitet. Nogle gange kan det være sjovt, når Jennifer Lawrences præstation vises med hendes ansigt . Eller for eksempel 11 muligheder i træk med forskellige personligheder: Men i øjeblikket er technogiganterne allerede bekymrede over, hvad der sker, og der var allerede en artikel om det på , at Facebook og Microsoft giver tilskud til at opdage DeepFakes. Jeg tror ikke rigtig på altruistiske intentioner; jeg ville tro mere på almindelig gavn. Mest sandsynligt er dette en måde at finde endnu bedre strategier for træningsmodeller for at skabe endnu mere troværdige DeepFakes. Mest sandsynligt vil cirklen slutte her, metoder vil blive udviklet til at bekæmpe DeepFake og de vil også stimulere dets udvikling som teknologi.
Jeg tror, det ikke er nogen hemmelighed for nogen, at sådan teknologi er et fremragende værktøj til manipulation og provokation. Hvad angår politikere og kendte personligheder, er der et kæmpe felt for at skabe nyheder i den gule presse med mere. Det er også værd at huske det sensationelle og hurtigt kollapsede DeepNude-projekt. Generelt var dette snarere en varsel om skabelsen af en ny teknologisk niche; højst sandsynligt i en fremtid (nutid?) vil det være muligt at se fremkomsten af produkter, der ligner det faktum, at du i en voksenvideo for et bestemt gebyr kan se hvem som helst, også dem der har taget afstand så meget som muligt fra denne genre.
Lad os antage, at ingen har brug for dette. Jeg foreslår, at du tjekker dette med et eksempel. Lad os tjekke interessen for et godt promoveret pornomærke mod en kendt, men ikke officielt fremhævet skuespillerinde. Tag Sasha Gray og Jennifer Lawrence. Her er en sammenligning begge inden for de seneste 12 måneder. En ren skuespillerinde mister interessen for sin person som sådan en aktivitet, men vi kan bestemt sige, at der er interesse, og det er tilstrækkeligt. Og hvis der er efterspørgsel, er der et marked, det eneste, der er tilbage, er at finde ud af, hvordan man tjener penge på det.
Det er klart, at vi ikke kun taler om voksenindhold; hvis problemet er, at du kan opfange en dobbelt af en person, bruge DeepFake-modeller og skabe indhold, som ingen kan skelne fra en video oprettet med et potentielt offer, så er dette kan allerede skabe image- og omdømmetab for ofrets personlige brand. I øjeblikket kan både kræfter og penge investeres i en persons image, og betydelige, og det værdsættes. Derfor vil jeg ikke blive overrasket over, at tilsynsmyndigheder kan synes at skabe indhold, og det vil ikke være muligt at poste foto-/videoindhold på offentlige medieplatforme, der kan indeholde billeder af offentlige personer, der ikke har bestået verifikation. Måske i fremtiden ikke kun offentlige, men alle i en række, fordi tilstanden af ikke-offentliggørelse er a priori midlertidig. For eksempel kan en form for "identitetsverifikationsbureau" dukke op, og uden en sådan myndigheds underskrift vil det være umuligt, selv teknisk set, at distribuere indhold offentligt. Det lyder måske som noget sludder, men det sociale vurderingssystem er det allerede , her er for eksempel en rutsjebane med , som illustrerer dette system, som skal implementeres i 2020. Mod, er allerede klar til at give oplysninger om brugernes søgehistorik til banker for mere præcis kreditvurdering. Generelt er det ikke klart, hvordan dette vil fungere, da kreditvurdering normalt kræver, at modellen skal kunne fortolkes. Derfor bruges træbaserede modeller ofte til denne opgave. I tilfældet med Yandex, at dømme ud fra offentlige oplysninger, vil det være en sort boks. På den anden side, hvis en låntager har modtaget et lån, er han oftest ligeglad med, hvorfor han fik et lån, og hvis han fik afslag, er bankerne i dette tilfælde juridisk beskyttet af, at de har ret til ikke at oplyse. årsagen til afslaget.
Det forekommer mig, at på baggrund af al denne baggrund er fremkomsten af regulerende myndigheder uundgåelig. Måske vil kineserne være pionererne? Hvorfor er dette uundgåeligt? For hvis det er let at ødelægge nogens omdømme, vil dette følgelig påvirke den sociale vurdering, og det forekommer mig, at borgere, der har en høj social vurdering og ikke ønsker at skille sig af med den, vil træffe foranstaltninger for at beskytte deres social ejendom.
I denne henseende vil det være interessant, at sådanne systemer højst sandsynligt ikke vil have en forældelsesfrist, og på tidspunktet for implementeringen vil de minde alle om alle de skeletter, der findes i skabet. Den nuværende situation med sociale vurderinger i Kina ser ud til at være præcis sådan, på tidspunktet for lanceringen kan det pludselig vise sig, at du nu ikke må gøre noget.
Jeg spekulerer på, hvordan alt dette vil komme tilbage for at hjemsøge mig som udvikler ? Tiden vil vise.
Kilde: www.habr.com