(dark patterns) — это такие схемы вовлечения пользователя в продукт, при которых есть происходит игра с нулевой суммой: выигрывет продукт, а проигрывает потребитель. Говоря проще, это непротивоправное склонение пользователя к определенным действиям.
Как правило, в обществе за разрешение таких вопросов отвечает мораль и этика, но в технологиях все движется так быстро, что мораль и этика попросту не успевают. К примеру, когда Google попытался сделать свой комитет по этике искусственного интеллекта, он развалился спустя всего неделю. .
Причина, на мой взгляд, следующая. Технологические компании понимают всю глубину проблемы, но, увы, не могут разрешить ее изнутри. По факту, это два противоположных вектора и намерения: 1) выполнять свои квартальные цели по прибыли, охвату и вовлеченности и 2) делать хорошо гражданам в долгосрочной перспективе.
Пока лучшие умы бьются над решением этой проблемы, самое эффективное, что получилось — это (или кто-то платит за него: работодатель, спонсор, папик). В рекламной модели, которая торгует вашими данными, решить проблему непросто.
И в этот момент на сцену выходят регуляторы. Их роль — выступать гарантом гражданских свобод, морали и базовых правил (а также на основе популистских законов приходить к власти в следующем сезоне). Государства в этом смысле крайне важны. Проблема только в том, что они очень медленные и крайне неадаптивные: попробуй создать своевременный, прогрессивный закон. Или отменить закон, если ты его уже принял, и вдруг понял, что он не работает. (Законы про часовые пояса не считаются.)
Надо сказать, появление в конгрессе США год назад спрвоцировало много интересного движа. Сенаторы начали придумывать законы, которые помогают что-то ограничить: распространение и использование личной информации пользователей, использование в интерфейсах «темных паттернов», и т.п.
Последний пример: пара сенаторов надавно , вовлекающие людей в использование продуктов путем манипуляций. Как они будут определять, что является манипуляцией, а что нет — неясно.
Тут очень тонкая грань между когнитивными искажениями, желаниями и намерениями разных сторон. В этом плане, воспользоваться простым пользователем гораздо проще, чем главой корпорации, но у всех есть собственные когнитивные искажения. И это, во многом, ровно то, что нас делает людьми, а не просто размножающимися биороботами.
Сравнение рыночной капитализации технологических компаний и (2018).
На самом деле, очень похоже, что власть старая офигевает от того, сколько у новых технологических компаний власти новой:
- Если бы Facebook был государством, то он бы был самой большой страной по числу граждан (MAU 2.2 млрд.), в полтора раза опережая Китай (1.4 млрд) и Индию (1.3 млрд). При этом если лидеры де-юре демократических стран сменяются каждые 4-8 лет, в капитализме практически нет механизмов отстранения лидера, если он владеет контрольным пакетом акций.
- Google сейчас знает о намерениях и желаниях людей больше, чем все пасторы, шаманы, оракулы и священники за все время существования мировых религий. Такая власть над данными беспрецедентна во всей записанной истории человечества.
- Apple заставляет нас делать удивительные вещи: оплачивать сверхдорогую ежегодную подписку на тысячедолларовый карманный компьютер, например. Попробуй отпишись: это сразу меняет восприятие твоего социального статуса, коцает репутацию инноватора, и понижает интерес противоположного пола. (Шучу.)
- До 40% облачной инфраструктуры, на которой крутятся Интернет, Amazon (AWS). Компания является доминирующим «снабженцем» планеты, и отвечает за хлеб, информацию и зрелища.
Что дальше? Думаю так:
- Американская версия GDPR не за горами.
- Технологические компании подвергнутся серии антимонопольных рассмотрений.
- Внутри тэк. компаний будет зреть недовольство негуманистическими политиками, и сотрудники попытаются больше влиять на решения руководства.
А вы что думаете о регуляции гостударством продуктовых и дизайн-паттернов?
Foinse: will.com