(dark patterns) - це такі схеми залучення користувача в продукт, при яких є гра з нульовою сумою: виграє продукт, а програє споживач. Простіше кажучи, це непротиправне відмінювання користувача до певних дій.
Як правило, у суспільстві за вирішення таких питань відповідає мораль та етика, але в технологіях все рухається так швидко, що мораль та етика просто не встигають. Наприклад, коли Google спробував зробити свій комітет з етики штучного інтелекту, він розвалився всього через тиждень. .
Причина, як на мене, така. Технологічні компанії розуміють всю глибину проблеми, але, на жаль, не можуть розв'язати її зсередини. За фактом, це два протилежні вектори та наміри: 1) виконувати свої квартальні цілі щодо прибутку, охоплення та залучення і 2) робити добре громадянам у довгостроковій перспективі.
Поки найкращі уми б'ються над вирішенням цієї проблеми, найефективніше, що вийшло — це (Або хтось платить за нього: роботодавець, спонсор, папик). У рекламній моделі, яка торгує вашими даними, вирішити проблему непросто.
І зараз на сцену виходять регулятори. Їхня роль — виступати гарантом громадянських свобод, моралі та базових правил (а також на основі популістських законів приходити до влади наступного сезону). Держави в цьому сенсі є вкрай важливими. Проблема лише в тому, що вони дуже повільні та вкрай неадаптивні: спробуй створити своєчасний, прогресивний закон. Або скасувати закон, якщо ти його вже ухвалив, і раптом зрозумів, що він не працює. (Закони про часові пояси не рахуються.)
Треба сказати, поява у конгресі США рік тому спричинило багато цікавого руху. Сенатори почали вигадувати закони, які допомагають щось обмежити: поширення та використання особистої інформації користувачів, використання в інтерфейсах «темних патернів» тощо.
Останній приклад: пара сенаторів надавно , які залучають людей використання продуктів шляхом маніпуляцій. Як вони визначатимуть, що є маніпуляцією, а що ні – неясно.
Тут дуже тонка грань між когнітивними спотвореннями, бажаннями та намірами різних сторін. У цьому плані скористатися простим користувачем набагато простіше, ніж головою корпорації, але у всіх є власні когнітивні спотворення. І це, багато в чому, те, що нас робить людьми, а не просто біороботами, що розмножуються.
Порівняння ринкової капіталізації технологічних компаній та (2018).
Насправді дуже схоже, що влада стара офігеває від того, скільки у нових технологічних компаній влади нової:
- Якби Facebook був державою, то він би був найбільшою країною за кількістю громадян (MAU 2.2 млрд.), у півтора рази випереджаючи Китай (1.4 млрд.) та Індію (1.3 млрд.). При цьому, якщо лідери де-юре демократичних країн змінюються кожні 4-8 років, у капіталізмі практично немає механізмів усунення лідера, якщо він володіє контрольним пакетом акцій.
- Google зараз знає про наміри та бажання людей більше, ніж усі пастори, шамани, оракули та священики за весь час існування світових релігій. Така влада над даними безпрецедентна у всій записаній історії людства.
- Apple змушує нас робити дивовижні речі: оплачувати понад дорогу щорічну передплату на тисячодоларовий кишеньковий комп'ютер, наприклад. Спробуй відпишись: це відразу змінює сприйняття твого соціального статусу, котить репутацію інноватора, і знижує інтерес протилежної статі. (Жартую.)
- До 40% хмарної інфраструктури, на якій крутяться Інтернет, Amazon (AWS). Компанія є домінуючим «постачальником» планети і відповідає за хліб, інформацію та видовища.
Що далі? Думаю так:
- Американська версія GDPR не за горами.
- Технологічні компанії піддадуться серії антимонопольних розглядів.
- Усередині тек. компаній визріватиме невдоволення негуманістичними політиками, і співробітники спробують більше впливати на рішення керівництва.
А ви що думаєте про регуляцію державою продуктових та дизайн-патернів?
Джерело: habr.com