„Тъмни модели“ и законът: как американските регулатори се опитват да контролират продуктовата механика и да намалят влиянието на технологичните компании

"Тъмни шарки" (тъмни модели) са модели на участие на потребителя в продукт, в който има игра с нулева сума: продуктът печели, а потребителят губи. Казано по-просто, това е незаконното подтикване на потребителя да предприеме определени действия.

Обикновено в обществото моралът и етиката са отговорни за решаването на подобни проблеми, но в технологиите всичко се движи толкова бързо, че моралът и етиката просто не могат да се справят. Например, когато Google се опита да създаде свой собствен комитет по етика на изкуствения интелект, той се разпадна само след седмица. Истинска история.

Причината според мен е следната. Технологичните компании разбират дълбочината на проблема, но, уви, не могат да го решат отвътре. Всъщност това са два противоположни вектора и намерения: 1) изпълнете тримесечните си цели за печалба, обхват и ангажираност и 2) правете добро за гражданите в дългосрочен план.

Докато най-добрите умове се борят да разрешат този проблем, най-ефективното нещо, което излезе е това правят продукти, базирани на бизнес модел, при който клиентът сам плаща за продукта (или някой плаща за това: работодател, спонсор, захарен татко). В рекламен модел, който търгува с вашите данни, това не е лесен проблем за решаване.

И в този момент на сцената влизат регулаторите. Тяхната роля е да действат като гарант на гражданските свободи, морала и основните правила (и също да дойдат на власт през следващия сезон въз основа на популистки закони). Държавите са изключително важни в този смисъл. Единственият проблем е, че те са много бавни и изключително неадаптивни: опитайте се да създадете навременен, прогресивен закон. Или отменете закона, ако вече сте го приели и изведнъж сте разбрали, че не работи. (Законите за часовата зона не се броят.)

Трябва да кажа, изява в Конгреса на САЩ Зукърбърг (Facebook), Пичай (Google) и Дорси (Twitter) преди година провокира много интересни движения. Сенаторите започнаха да измислят закони, които помагат да се ограничи нещо: разпространението и използването на личната информация на потребителите, използването на „тъмни шаблони“ в интерфейсите и т.н.

Последен пример: няколко сенатори преди много време предложи ограничителна механика, въвличане на хора в използването на продукти чрез манипулация. Как ще определят кое е манипулация и кое не е неясно.

Има много тънка граница между когнитивните изкривявания, желанията и намеренията на различните страни. В това отношение е много по-лесно да се използва обикновен потребител, отколкото ръководител на корпорация, но Всички имаме свои собствени когнитивни пристрастия.. И това в много отношения е точно това, което ни прави хора, а не просто възпроизвеждащи биороботи.

Сравнение на пазарната капитализация на технологичните компании и европейски БВП (2018).

Всъщност изглежда, че старото правителство се ядосва от това колко нова власт имат новите технологични компании:

1. Ако Facebook беше държава, тя щеше да е най-голямата държава по отношение на броя на гражданите (2.2 милиарда MAU), един път и половина пред Китай (1.4 милиарда) и Индия (1.3 милиарда). Освен това, ако лидерите на де юре демократичните държави се сменят на всеки 4-8 години, при капитализма практически няма механизми за отстраняване на лидер, ако той притежава контролен пакет акции.
2. Сега Google знае повече за намеренията и желанията на хората от всички пастори, шамани, оракули и свещеници през цялото съществуване на световните религии. Този вид власт над данни е безпрецедентна в записаната човешка история.
3. Apple ни принуждава да правим невероятни неща: например да платим супер скъп годишен абонамент за джобен компютър за хиляда долара. Опитайте да спрете да следвате: това незабавно променя представата за вашия социален статус, накърнява репутацията ви на новатор и намалява интереса на противоположния пол. (Шегувам се.)
4. До 40% от облачната инфраструктура, върху която работи интернет принадлежи на Amazon (AWS). Компанията е доминиращата "доставка" на планетата и отговаря за хляба, информацията и зрелището.

Какво следва? Помислете така:

1. Американската версия на GDPR е точно зад ъгъла.
2. Технологичните компании ще бъдат обект на поредица от антитръстови прегледи.
3. Вътре в тек. компаниите ще растат недоволни от нехуманните политики, а служителите ще се опитват да имат повече влияние върху управленските решения.

Какво мислите за държавното регулиране на продуктовите и дизайнерските модели?

Източник: www.habr.com