Het huidige ontwikkelingsniveau heeft het punt bereikt dat zelfs een schoolkind bijvoorbeeld een bibliotheek met modellen kan gebruiken Train op gegevens uit openbare bronnen en pas deze met aanvaardbare kwaliteit toe op uw gegevens. Soms kan het grappig zijn als het optreden van Jennifer Lawrence met haar gezicht wordt getoond . Of bijvoorbeeld 11 opties op rij met verschillende persoonlijkheden: Maar op dit moment maken de technogiganten zich al zorgen over wat er gebeurt en er stond al een artikel over , dat Facebook en Microsoft subsidies verstrekken om DeepFakes op te sporen. Ik geloof niet echt in altruïstische bedoelingen; ik geloof meer in gewoon voordeel. Hoogstwaarschijnlijk is dit een manier om nog betere strategieën te vinden voor het trainen van modellen om nog geloofwaardigere DeepFakes te creëren. Hoogstwaarschijnlijk zal de cirkel hier sluiten, zullen er methoden worden ontwikkeld om DeepFake te bestrijden en zullen ze ook de ontwikkeling ervan als technologie stimuleren.
Ik denk dat het voor niemand een geheim is dat dergelijke technologie een uitstekend instrument is voor manipulatie en provocatie. Wat politici en beroemde persoonlijkheden betreft, er is een enorm veld voor het creëren van nieuws in de gele pers en meer. Het is ook de moeite waard om het sensationele en snel ingestorte DeepNude-project te onthouden. Over het algemeen was dit eerder een voorbode van de creatie van een nieuwe technologische niche; hoogstwaarschijnlijk zal het in een bepaalde toekomst (heden?) mogelijk zijn om de opkomst te zien van producten die vergelijkbaar zijn met het feit dat je in een video voor volwassenen tegen een bepaalde vergoeding kan iedereen zien, zelfs degenen die zich zoveel mogelijk van dit genre hebben gedistantieerd.
Laten we aannemen dat niemand dit nodig heeft. Ik stel voor om dit met een voorbeeld te controleren. Laten we de interesse in een goed gepromoot pornomerk vergelijken met een bekende maar niet officieel genoemde actrice. Neem Sasha Gray en Jennifer Lawrence. Hier is een vergelijking beide in de afgelopen 12 maanden. Een pure actrice verliest de interesse in haar persoon als zodanig, maar we kunnen zeker zeggen dat er interesse is en dat deze voldoende is. En als er vraag is, is er een markt, het enige dat overblijft is uitzoeken hoe we daar geld mee kunnen verdienen.
Het is duidelijk dat we het niet alleen hebben over inhoud voor volwassenen; als het probleem is dat je een dubbelganger van een persoon kunt oppikken, DeepFake-modellen kunt gebruiken en inhoud kunt maken die niemand kan onderscheiden van een video die met een potentieel slachtoffer is gemaakt, dan is dit kan al leiden tot imago- en reputatieverlies voor het persoonlijke merk van het slachtoffer. Op dit moment kunnen zowel moeite als geld worden geïnvesteerd in het imago van een persoon, en dat kan aanzienlijk zijn, en dit wordt gewaardeerd. Daarom zou het mij niet verbazen als regelgevende instanties inhoud lijken te creëren en het niet mogelijk zal zijn om foto-/video-inhoud op openbare mediaplatforms te plaatsen die afbeeldingen kunnen bevatten van publieke figuren die niet door de verificatie zijn gekomen. Misschien in de toekomst niet alleen de publieke, maar iedereen op een rij, omdat de staat van niet-publiciteit a priori tijdelijk is. Er kan bijvoorbeeld een soort ‘identiteitsverificatiebureau’ verschijnen, en zonder de handtekening van een dergelijke autoriteit zal het, zelfs technisch gezien, onmogelijk zijn om inhoud publiekelijk te verspreiden. Dit klinkt misschien als onzin, maar het sociale beoordelingssysteem is dat al Hier is bijvoorbeeld een dia met , dat dit systeem illustreert, dat in 2020 zal worden geïmplementeerd. Tegen, is al klaar om informatie over de zoekgeschiedenis van gebruikers aan banken te verstrekken voor een nauwkeurigere kredietscore. Over het algemeen is het niet duidelijk hoe dit zal werken, aangezien credit scoring doorgaans vereist dat het model interpreteerbaar moet zijn. Daarom worden voor deze taak vaak boomgebaseerde modellen gebruikt. In het geval van Yandex zal het, afgaande op openbare informatie, een zwarte doos zijn. Aan de andere kant, als een lener een lening heeft ontvangen, maakt het hem meestal niet uit waarom hij een lening heeft gekregen, en als hij wordt geweigerd, worden de banken in dit geval wettelijk beschermd door het feit dat zij het recht hebben om de lening niet openbaar te maken. de reden van de weigering.
Het lijkt mij dat tegen deze achtergrond de opkomst van regelgevende instanties onvermijdelijk is. Misschien zijn de Chinezen de pioniers? Waarom is dit onvermijdelijk? Want als het gemakkelijk is om iemands reputatie te ruïneren, zal dit ook de sociale waardering aantasten en het lijkt mij dat burgers die een hoge sociale waardering hebben en daar geen afstand van willen doen, maatregelen zullen nemen om hun sociale waardering te beschermen. sociale eigendom.
In dit opzicht zal het interessant zijn dat dergelijke systemen hoogstwaarschijnlijk geen verjaringstermijn zullen hebben en dat ze op het moment van implementatie iedereen zullen herinneren aan alle skeletten die in de kast zijn gevonden. De huidige situatie met sociale beoordelingen in China lijkt precies zo te zijn; op het moment van lancering kan het ineens blijken dat je nu iets niet mag doen.
Ik vraag me af hoe dit alles mij als ontwikkelaar zal blijven achtervolgen ? De tijd zal het leren.
Bron: www.habr.com