Det nåværende utviklingsnivået har nådd det punktet at selv et skolebarn kan ta et bibliotek med modeller, for eksempel , tren på data hentet fra offentlige kilder og bruk dem på dataene dine med akseptabel kvalitet. Noen ganger kan det være morsomt når Jennifer Lawrences opptreden vises med ansiktet hennes . Eller for eksempel 11 alternativer på rad med forskjellige personligheter: Men for øyeblikket er teknogigantene allerede bekymret for hva som skjer, og det var allerede en artikkel om det på , at Facebook og Microsoft gir tilskudd for å oppdage DeepFakes. Jeg tror egentlig ikke på altruistiske intensjoner; jeg ville tro mer på vanlig nytte. Mest sannsynlig er dette en måte å finne enda bedre strategier for treningsmodeller for å lage enda mer troverdige DeepFakes. Mest sannsynlig vil sirkelen slutte seg her, metoder vil bli utviklet for å bekjempe DeepFake og de vil også stimulere utviklingen som teknologi.
Jeg tror det ikke er noen hemmelighet for noen at slik teknologi er et utmerket verktøy for manipulasjon og provokasjon. Når det gjelder politikere og kjente personligheter, er det et stort felt for å lage nyheter i gul presse med mer. Det er også verdt å huske det oppsiktsvekkende og raskt kollapsede DeepNude-prosjektet. Generelt var dette snarere en varsel om etableringen av en ny teknologisk nisje; mest sannsynlig i en fremtid (nåtid?) vil det være mulig å se fremveksten av produkter som ligner på det faktum at du i en voksenvideo for en viss avgift kan se hvem som helst, også de som har tatt så mye avstand fra denne sjangeren som mulig.
La oss anta at ingen trenger dette. Jeg foreslår at du sjekker dette med et eksempel. La oss sjekke interessen for et godt promotert pornomerke mot en kjent, men ikke offisielt omtalt skuespillerinne. Ta Sasha Gray og Jennifer Lawrence. Her er en sammenligning begge de siste 12 månedene. En ren skuespillerinne mister interessen for sin person som en slik aktivitet, men vi kan definitivt si at det er interesse og det er tilstrekkelig. Og hvis det er etterspørsel, er det et marked, alt som gjenstår er å finne ut hvordan man kan tjene penger på det.
Det er klart at vi ikke bare snakker om voksent innhold; hvis problemet er at du kan plukke opp en dobbel av en person, bruke DeepFake-modeller og lage innhold som ingen kan skille fra en video laget med et potensielt offer, så er dette kan allerede skape tap av image og omdømme for offerets personlige merkevare. For øyeblikket kan både innsats og penger investeres i en persons image, og betydelige, og dette verdsettes. Derfor vil jeg ikke bli overrasket over at regulatoriske myndigheter kan se ut til å lage innhold, og det vil ikke være mulig å legge ut bilde-/videoinnhold på offentlige medieplattformer som kan inneholde bilder av offentlige personer som ikke har bestått verifisering. Kanskje i fremtiden ikke bare offentlige, men alle på rad, fordi tilstanden av ikke-publisitet er a priori midlertidig. For eksempel kan det dukke opp en slags "identitetsverifiseringsbyrå", og uten signaturen fra en slik myndighet vil det være umulig, selv teknisk sett, å distribuere innhold offentlig. Dette høres kanskje ut som tull, men det sosiale rangeringssystemet er det allerede , for eksempel, her er en lysbilde med , som illustrerer dette systemet, som skal implementeres i 2020. Imot, er allerede klar til å gi informasjon om brukernes søkehistorikk til banker for mer nøyaktig kredittvurdering. Generelt er det ikke klart hvordan dette vil fungere, siden kredittscoring vanligvis krever at modellen må være tolkbar. Derfor brukes ofte trebaserte modeller til denne oppgaven. Når det gjelder Yandex, vil det, ut fra offentlig informasjon, være en svart boks. På den annen side, hvis en låntaker har mottatt et lån, bryr han seg oftest ikke om hvorfor han fikk et lån, og hvis han ble nektet, er bankene i dette tilfellet juridisk beskyttet av det faktum at de har rett til å ikke avsløre årsaken til avslaget.
Det virker for meg som på bakgrunn av denne bakgrunnen, er fremveksten av reguleringsmyndigheter uunngåelig. Kanskje kineserne vil være pionerene? Hvorfor er dette uunngåelig? For hvis det er lett å ødelegge noens rykte, vil dette følgelig påvirke den sosiale vurderingen, og det ser ut til at innbyggere som har en høy sosial rangering og ikke ønsker å skille seg fra den, vil iverksette tiltak for å beskytte sine sosial eiendom.
I denne forbindelse vil det være interessant at slike systemer mest sannsynlig ikke vil ha en foreldelsesfrist, og på tidspunktet for implementering vil de minne alle om alle skjelettene som finnes i skapet. Den nåværende situasjonen med sosiale rangeringer i Kina ser ut til å være akkurat på denne måten; på lanseringstidspunktet kan det plutselig vise seg at du nå ikke har lov til å gjøre noe.
Jeg lurer på hvordan alt dette vil komme tilbake for å hjemsøke meg som utvikler ? Tiden vil vise.
Kilde: www.habr.com