Den nuvarande utvecklingsnivån har nått den grad att även en skolbarn kan ta ett bibliotek med modeller, till exempel , träna på data hämtade från offentliga källor och tillämpa den på din data med acceptabel kvalitet. Ibland kan det vara roligt när Jennifer Lawrences framträdande visas med hennes ansikte . Eller till exempel 11 alternativ i rad med olika personligheter: Men för tillfället är teknojättarna redan oroliga över vad som händer och det fanns redan en artikel om det på , att Facebook och Microsoft tillhandahåller bidrag för att upptäcka DeepFakes. Jag tror inte riktigt på altruistiska avsikter; jag skulle tro mer på vanlig nytta. Troligtvis är detta ett sätt att hitta ännu bättre strategier för träningsmodeller för att skapa ännu mer trovärdiga DeepFakes. Troligtvis kommer cirkeln att slutas här, metoder kommer att utvecklas för att bekämpa DeepFake och de kommer också att stimulera dess utveckling som teknik.
Jag tror att det inte är någon hemlighet för någon att sådan teknik är ett utmärkt verktyg för manipulation och provokation. När det gäller politiker och kända personligheter finns det ett enormt fält för att skapa nyheter i gul press med mera. Det är också värt att komma ihåg det sensationella och snabbt kollapsade DeepNude-projektet. I allmänhet var detta snarare ett förebud om skapandet av en ny teknisk nisch; troligen i någon framtid (nutid?) kommer det att vara möjligt att se uppkomsten av produkter som liknar det faktum att du i en vuxenvideo för en viss avgift kan se vem som helst, även de som tagit avstånd så mycket som möjligt från denna genre.
Låt oss anta att ingen behöver detta. Jag föreslår att du kontrollerar detta med ett exempel. Låt oss kolla intresset för ett väl promotat porrmärke mot en välkänd men inte officiellt presenterad skådespelerska. Ta Sasha Gray och Jennifer Lawrence. Här är en jämförelse båda under de senaste 12 månaderna. En ren skådespelerska tappar intresset för sin person som sådan aktivitet, men vi kan definitivt säga att det finns intresse och det räcker. Och om det finns efterfrågan så finns det en marknad, allt som återstår är att ta reda på hur man tjänar pengar på den.
Det är uppenbart att vi inte bara pratar om barnförbjudet innehåll; om problemet är att du kan plocka upp en dubbel av en person, använda DeepFake-modeller och skapa innehåll som ingen kan skilja från en video skapad med ett potentiellt offer, då kan redan skapa image- och rykteförluster för offrets personliga varumärke. För tillfället kan både ansträngning och pengar investeras i en persons image, och avsevärda sådana, och detta värderas. Därför skulle jag inte bli förvånad över att tillsynsmyndigheter kan tyckas skapa innehåll och att det inte kommer att vara möjligt att lägga upp foto-/videoinnehåll på offentliga medieplattformar som kan innehålla bilder på offentliga personer som inte har godkänts i verifieringen. Kanske i framtiden inte bara offentliga, utan alla i rad, eftersom tillståndet av icke-publicitet är a priori tillfälligt. Till exempel kan någon form av "identitetsverifieringsbyrå" dyka upp, och utan en sådan myndighets signatur kommer det att vara omöjligt, även tekniskt, att distribuera innehåll offentligt. Detta kan låta som nonsens, men det sociala betygssystemet är det redan , till exempel, här är en rutschkana med , som illustrerar detta system, som kommer att implementeras 2020. Mot, är redan redo att tillhandahålla information om användarnas sökhistorik till banker för mer exakt kreditvärdering. Generellt sett är det inte klart hur detta kommer att fungera, eftersom kreditvärdering vanligtvis kräver att modellen måste vara tolkbar. Därför används ofta trädbaserade modeller för denna uppgift. I fallet med Yandex, att döma av offentlig information, kommer det att vara en svart låda. Å andra sidan, om en låntagare har fått ett lån, bryr han sig oftast inte om varför han fick ett lån, och om han fick avslag, i det här fallet är banker juridiskt skyddade av det faktum att de har rätt att inte avslöja anledningen till avslaget.
Det förefaller mig att mot all denna bakgrund är uppkomsten av tillsynsmyndigheter oundviklig. Kanske kommer kineserna att vara pionjärerna? Varför är detta oundvikligt? För om det är lätt att förstöra någons rykte, kommer detta följaktligen att påverka det sociala betyget och det verkar för mig att medborgare som har ett högt socialt betyg och inte vill skiljas från det kommer att vidta åtgärder för att skydda sina social egendom.
I detta avseende kommer det att vara intressant att sådana system sannolikt inte kommer att ha en preskriptionsregler och vid tidpunkten för implementeringen kommer de att påminna alla om alla skelett som finns i garderoben. Den nuvarande situationen med sociala betyg i Kina verkar vara precis så här, vid lanseringen kan det plötsligt visa sig att du nu inte får göra något.
Jag undrar hur allt detta kommer att förfölja mig som utvecklare ? Tiden kommer att visa.
Källa: will.com