«Темные паттерны» и закон: как регуляторы США пробуют контролировать продуктовые механики и снижать влияние тех-компаний

«Темные паттерны» (dark patterns) — это такие схемы вовлечения пользователя в продукт, при которых есть происходит игра с нулевой суммой: выигрывет продукт, а проигрывает потребитель. Говоря проще, это непротивоправное склонение пользователя к определенным действиям.

Как правило, в обществе за разрешение таких вопросов отвечает мораль и этика, но в технологиях все движется так быстро, что мораль и этика попросту не успевают. К примеру, когда Google попытался сделать свой комитет по этике искусственного интеллекта, он развалился спустя всего неделю. True story.

Причина, на мой взгляд, следующая. Технологические компании понимают всю глубину проблемы, но, увы, не могут разрешить ее изнутри. По факту, это два противоположных вектора и намерения: 1) выполнять свои квартальные цели по прибыли, охвату и вовлеченности и 2) делать хорошо гражданам в долгосрочной перспективе.

Пока лучшие умы бьются над решением этой проблемы, самое эффективное, что получилось — это делать продукты на бизнес-модели, в которой клиент сам платит за продукт (или кто-то платит за него: работодатель, спонсор, папик). В рекламной модели, которая торгует вашими данными, решить проблему непросто.

И в этот момент на сцену выходят регуляторы. Их роль — выступать гарантом гражданских свобод, морали и базовых правил (а также на основе популистских законов приходить к власти в следующем сезоне). Государства в этом смысле крайне важны. Проблема только в том, что они очень медленные и крайне неадаптивные: попробуй создать своевременный, прогрессивный закон. Или отменить закон, если ты его уже принял, и вдруг понял, что он не работает. (Законы про часовые пояса не считаются.)

Надо сказать, появление в конгрессе США Цукерберга (Facebook), Пичаи (Google) и Дорси (Twitter) год назад спрвоцировало много интересного движа. Сенаторы начали придумывать законы, которые помогают что-то ограничить: распространение и использование личной информации пользователей, использование в интерфейсах «темных паттернов», и т.п.

Последний пример: пара сенаторов надавно предложила ограничить механики, вовлекающие людей в использование продуктов путем манипуляций. Как они будут определять, что является манипуляцией, а что нет — неясно.

Тут очень тонкая грань между когнитивными искажениями, желаниями и намерениями разных сторон. В этом плане, воспользоваться простым пользователем гораздо проще, чем главой корпорации, но у всех есть собственные когнитивные искажения. И это, во многом, ровно то, что нас делает людьми, а не просто размножающимися биороботами.

Сравнение рыночной капитализации технологических компаний и ВВП стран Европы (2018).

На самом деле, очень похоже, что власть старая офигевает от того, сколько у новых технологических компаний власти новой:

1. Если бы Facebook был государством, то он бы был самой большой страной по числу граждан (MAU 2.2 млрд.), в полтора раза опережая Китай (1.4 млрд) и Индию (1.3 млрд). При этом если лидеры де-юре демократических стран сменяются каждые 4-8 лет, в капитализме практически нет механизмов отстранения лидера, если он владеет контрольным пакетом акций.
2. Google сейчас знает о намерениях и желаниях людей больше, чем все пасторы, шаманы, оракулы и священники за все время существования мировых религий. Такая власть над данными беспрецедентна во всей записанной истории человечества.
3. Apple заставляет нас делать удивительные вещи: оплачивать сверхдорогую ежегодную подписку на тысячедолларовый карманный компьютер, например. Попробуй отпишись: это сразу меняет восприятие твоего социального статуса, коцает репутацию инноватора, и понижает интерес противоположного пола. (Шучу.)
4. До 40% облачной инфраструктуры, на которой крутятся Интернет, принадлежит Amazon (AWS). Компания является доминирующим «снабженцем» планеты, и отвечает за хлеб, информацию и зрелища.

Что дальше? Думаю так:

1. Американская версия GDPR не за горами.
2. Технологические компании подвергнутся серии антимонопольных рассмотрений.
3. Внутри тэк. компаний будет зреть недовольство негуманистическими политиками, и сотрудники попытаются больше влиять на решения руководства.

А вы что думаете о регуляции гостударством продуктовых и дизайн-паттернов?

Источник: habr.com