Сучасний рівень розвитку досяг того, що навіть школяр може взяти бібліотеку з моделями, наприклад , Навчити на даних взятих з громадських джерел і з прийнятною якістю її застосувати до своїх даних. Іноді це може бути смішним, коли виступ Дженніфер Лоуренс демонструють з обличчям . Або, наприклад, 11 варіантів поспіль вже з іншими особами: Але на даний момент, технічні гіганти вже подбали про те, що відбувається і про це вже була стаття на , про те, що Facebook і Microsoft виділяють гранти для виявлення DeepFake. Не надто віриться в альтруїстичність намірів, я більше повірив би у звичайну вигоду. Швидше за все, це спосіб знайти ще найкращі стратегії навчання моделей, щоб створювати ще правдоподібніші DeepFake. Швидше за все тут коло і замкнеться, розроблятимуться методи боротьби з DeepFake і вони стимулюватимуть його розвиток як технології.
Думаю ні для кого не секрет, що така технологія – це чудовий інструмент для маніпуляцій та провокацій. Щодо політиків та відомих особистостей — тут величезне поле для створення новин у жовтій пресі і не лише. Також варто згадати гучний проект DeepNude, що швидко згорнувся. Це взагалі скоріше був провісником створення нової технологічної ніші, швидше за все в якомусь майбутньому (сьогодні?) можна буде спостерігати появу продуктів на кшталт того, що у дорослому відео за певну плату можна буде побачити будь-кого, навіть тих хто від такого жанру максимально дистанціювався.
Припустимо, це нікому не потрібно. Пропоную це перевірити на прикладі. Давайте перевіримо інтерес до розкрученого порно бренду, проти відомої актрисі, яка офіційно не засвітилася в цій діяльності. Візьмемо Сашу Грей та Дженніфер Лоуренс. Ось порівняння обох протягом останніх 12 місяців. Чиста акторка програє в інтересі до своєї особи в якості такої діяльності, але точно можна сказати, що інтерес є і він достатній. А якщо є попит, є ринок, залишається придумати, як це монетизувати.
Зрозуміло, що йдеться не тільки про дорослий контент, якщо проблема в тому, що можна підібрати двійника людини, скористатися DeepFake моделями і створити такий контент, який вже ніхто не відрізнить від відео створеного з потенційною жертвою, то це вже може створювати вже іміджеві. та репутаційні втрати для особистісного бренду жертви. На даний момент, в імідж людини можуть вкладатися і зусилля і кошти, причому чималі, і цим дорожать. Тому я не здивуюся, що можуть з'явитися контролюючі органи для створення контенту і на публічні медіа-майданчики не буде можливості викласти фото/відео контент, який може містити зображення публічних осіб, які не пройшли верифікацію. Можливо в майбутньому не лише публічних, а всіх поспіль, бо стан не публічності — апріорі тимчасовий. Наприклад, може з'явитися якесь “агентство з верифікації особистостей” і без підпису такого органу неможливо, навіть технічно, публічно розповсюджувати контент. Нехай це звучить як марення, але система соціального рейтингу вже , наприклад, ось слайд з , який ілюструє цю систему, яку збираються запроваджувати у 2020 році. Навпаки, вже готовий надавати інформацію про пошукову історію користувачів для більш точного кредитного скорингу. Взагалі, незрозуміло як це працюватиме, оскільки кредитного скорингу зазвичай висуваються вимоги, що модель має бути интерпретируемой. Тому часто для такого завдання використовуються моделі, засновані на деревах. У випадку з Yandex, судячи з публічної інформації, це буде чорна скринька. З іншого боку, якщо позичальник отримав кредит, найчастіше йому байдуже, чому йому видали кредит, і якщо відмовили, у разі банки юридично захищаються, тим що вони вправі не розголошувати причину відмови.
Мені здається, що на всьому цьому тлі поява контролюючих органів неминуча. Можливо, піонерами будуть китайці? Чому це неминуче? Тому що, якщо буде легко зіпсувати будь-кому репутацію, відповідно це буде впливати на соціальний рейтинг і мені здається, що громадяни, які мають високий соціальний рейтинг і не бажають з ним розлучатися, вживатимуть заходів щодо захисту свого. соціальної власності.
Щодо цього цікавим ще буде те, що швидше за все подібні системи не матимуть терміну давності і в момент впровадження пригадають кожному всі знайдені скелети в шафі. Поточна ситуація з соціальним рейтингом у Китаї схоже саме таким чином, в момент запуску, раптово може виявитися те, що конкретно вам тепер чогось не можна.
Цікаво, а як відгукнеться мені все це, як розробнику ? Час покаже.
Джерело: habr.com