«Темные паттерны» и закон: как регуляторы США пробуют контролировать продуктовые механики и снижать влияние тех-компаний

«Темные паттерны» и закон: как регуляторы США пробуют контролировать продуктовые механики и снижать влияние тех-компаний

«Темные паттерны» (dark patterns) — это такие схемы вовлечения пользователя в продукт, при которых есть происходит игра с нулевой суммой: выигрывет продукт, а проигрывает потребитель. Говоря проще, это непротивоправное склонение пользователя к определенным действиям.

Как правило, в обществе за разрешение таких вопросов отвечает мораль и этика, но в технологиях все движется так быстро, что мораль и этика попросту не успевают. К примеру, когда Google попытался сделать свой комитет по этике искусственного интеллекта, он развалился спустя всего неделю. True story.

«Темные паттерны» и закон: как регуляторы США пробуют контролировать продуктовые механики и снижать влияние тех-компаний

Причина, на мой взгляд, следующая. Технологические компании понимают всю глубину проблемы, но, увы, не могут разрешить ее изнутри. По факту, это два противоположных вектора и намерения: 1) выполнять свои квартальные цели по прибыли, охвату и вовлеченности и 2) делать хорошо гражданам в долгосрочной перспективе.

Пока лучшие умы бьются над решением этой проблемы, самое эффективное, что получилось — это делать продукты на бизнес-модели, в которой клиент сам платит за продукт (или кто-то платит за него: работодатель, спонсор, папик). В рекламной модели, которая торгует вашими данными, решить проблему непросто.

И в этот момент на сцену выходят регуляторы. Их роль — выступать гарантом гражданских свобод, морали и базовых правил (а также на основе популистских законов приходить к власти в следующем сезоне). Государства в этом смысле крайне важны. Проблема только в том, что они очень медленные и крайне неадаптивные: попробуй создать своевременный, прогрессивный закон. Или отменить закон, если ты его уже принял, и вдруг понял, что он не работает. (Законы про часовые пояса не считаются.)

«Темные паттерны» и закон: как регуляторы США пробуют контролировать продуктовые механики и снижать влияние тех-компаний

Надо сказать, появление в конгрессе США Цукерберга (Facebook), Пичаи (Google) и Дорси (Twitter) год назад спрвоцировало много интересного движа. Сенаторы начали придумывать законы, которые помогают что-то ограничить: распространение и использование личной информации пользователей, использование в интерфейсах «темных паттернов», и т.п.

Последний пример: пара сенаторов надавно предложила ограничить механики, вовлекающие людей в использование продуктов путем манипуляций. Как они будут определять, что является манипуляцией, а что нет — неясно.

Тут очень тонкая грань между когнитивными искажениями, желаниями и намерениями разных сторон. В этом плане, воспользоваться простым пользователем гораздо проще, чем главой корпорации, но у всех есть собственные когнитивные искажения. И это, во многом, ровно то, что нас делает людьми, а не просто размножающимися биороботами.

«Темные паттерны» и закон: как регуляторы США пробуют контролировать продуктовые механики и снижать влияние тех-компаний
Сравнение рыночной капитализации технологических компаний и ВВП стран Европы (2018).

На самом деле, очень похоже, что власть старая офигевает от того, сколько у новых технологических компаний власти новой:

  1. Если бы Facebook был государством, то он бы был самой большой страной по числу граждан (MAU 2.2 млрд.), в полтора раза опережая Китай (1.4 млрд) и Индию (1.3 млрд). При этом если лидеры де-юре демократических стран сменяются каждые 4-8 лет, в капитализме практически нет механизмов отстранения лидера, если он владеет контрольным пакетом акций.
  2. Google сейчас знает о намерениях и желаниях людей больше, чем все пасторы, шаманы, оракулы и священники за все время существования мировых религий. Такая власть над данными беспрецедентна во всей записанной истории человечества.
  3. Apple заставляет нас делать удивительные вещи: оплачивать сверхдорогую ежегодную подписку на тысячедолларовый карманный компьютер, например. Попробуй отпишись: это сразу меняет восприятие твоего социального статуса, коцает репутацию инноватора, и понижает интерес противоположного пола. (Шучу.)
  4. До 40% облачной инфраструктуры, на которой крутятся Интернет, принадлежит Amazon (AWS). Компания является доминирующим «снабженцем» планеты, и отвечает за хлеб, информацию и зрелища.

Что дальше? Думаю так:

  1. Американская версия GDPR не за горами.
  2. Технологические компании подвергнутся серии антимонопольных рассмотрений.
  3. Внутри тэк. компаний будет зреть недовольство негуманистическими политиками, и сотрудники попытаются больше влиять на решения руководства.

А вы что думаете о регуляции гостударством продуктовых и дизайн-паттернов?

Источник: habr.com

Добавить комментарий