Кога ще се появи DeepRegistry? За любовта на световните регулатори да контролират всичко

Сегашното ниво на развитие достигна точката, че дори ученик може да вземе библиотека с модели, например следователно, тренирайте върху данни, взети от публични източници, и ги приложете към вашите данни с приемливо качество. Понякога може да бъде смешно, когато изпълнението на Дженифър Лорънс се показва с нейното лице Стив Бушеми. Или, например, 11 опции подред с различни личности: 11-Deepfakes-в-едно! Но в момента техногигантите вече са загрижени за случващото се и вече имаше статия за това на Хабр, че Facebook и Microsoft предоставят грантове за откриване на DeepFakes. Аз наистина не вярвам в алтруистичните намерения; бих вярвал повече в обикновената полза. Най-вероятно това е начин да намерите още по-добри стратегии за обучение на модели за създаване на още по-правдоподобни DeepFakes. Най-вероятно кръгът ще се затвори тук, ще се разработят методи за борба с DeepFake и ще стимулират развитието му като технология.

Мисля, че за никого не е тайна, че подобна технология е отличен инструмент за манипулация и провокация. Що се отнася до политиците и известните личности, има огромно поле за създаване на новини в жълтата преса и не само. Също така си струва да си припомним сензационния и бързо рухнал проект DeepNude. Като цяло, това беше по-вероятно предвестник на създаването на нова технологична ниша; най-вероятно в някое бъдеще (настояще?) Ще бъде възможно да видите появата на продукти, подобни на факта, че във видео за възрастни срещу определена такса можете да видите всеки, дори и тези, които са се дистанцирали максимално от този жанр.

Да приемем, че никой не се нуждае от това. Предлагам да проверите това с пример. Нека проверим интереса към добре популяризирана порно марка срещу известна, но неофициално представена актриса. Вземете Саша Грей и Дженифър Лорънс. Ето едно сравнение тенденция и двете през последните 12 месеца. Една чиста актриса губи интерес към личността си като такова занимание, но със сигурност можем да кажем, че интерес има и той е достатъчен. И ако има търсене, има пазар, остава само да измислим как да го монетизираме.

Ясно е, че не говорим само за съдържание за възрастни; ако проблемът е, че можете да вземете двойник на човек, да използвате модели DeepFake и да създадете съдържание, което никой не може да различи от видеоклип, създаден с потенциална жертва, тогава това вече може да създаде загуби на имидж и репутация за личната марка на жертвата. В момента в имиджа на човек могат да се инвестират и усилия, и пари, при това значителни, и това се цени. Следователно не бих се изненадал, че регулаторните органи може да изглежда, че създават съдържание и няма да е възможно да се публикува фото/видео съдържание в обществени медийни платформи, което може да съдържа изображения на публични личности, които не са преминали проверка. Може би в бъдеще не само публичните, но всички подред, защото състоянието на непубличност е априори временно. Например може да се появи някакъв вид „агенция за проверка на самоличността“ и без подписа на такъв орган ще бъде невъзможно, дори технически, публичното разпространение на съдържание. Това може да звучи като глупост, но системата за социална оценка вече е такава се прилага в Китай, например, ето слайд с Reddit, което илюстрира тази система, която ще бъде внедрена през 2020 г. против, Yandex вече е готов да предостави на банките информация за историята на потребителските търсения за по-точен кредитен рейтинг. Като цяло не е ясно как ще работи това, тъй като кредитният рейтинг обикновено изисква моделът да може да се тълкува. Следователно за тази задача често се използват модели, базирани на дърво. В случая с Yandex, съдейки по публичната информация, това ще бъде черна кутия. От друга страна, ако кредитополучателят е получил заем, най-често той не се интересува защо му е даден заем, а ако му е отказано, в този случай банките са защитени от закона с факта, че имат право да не разкриват причината за отказа.

Струва ми се, че на фона на всичко това появата на регулаторни органи е неизбежна. Може би китайците ще бъдат пионерите? Защо това е неизбежно? Защото ако е лесно да съсипеш нечия репутация, това съответно ще се отрази на социалния рейтинг и ми се струва, че гражданите, които имат висок социален рейтинг и не искат да се разделят с него, ще вземат мерки да защитят своите социална собственост.

В тази връзка ще бъде интересно, че най-вероятно такива системи няма да имат давност и по време на внедряването ще напомнят на всички за всички скелети, намерени в килера. Сегашната ситуация със социалните рейтинги в Китай изглежда точно по този начин; по време на стартирането може изведнъж да се окаже, че сега не ви е позволено да правите нещо.

Чудя се как всичко това ще се върне да ме преследва като разработчик VPN услуга? Времето ще покаже.

Източник: www.habr.com