„Мрачни обрасци“ и закон: како амерички регулатори покушавају да контролишу механику производа и смање утицај технолошких компанија

"Тамни узорци" (тамни обрасци) су обрасци укључивања корисника у производ у којима постоји игра са нултом сумом: производ побеђује, а потрошач губи. Једноставно речено, ово је незаконито навођење корисника на одређене радње.

Обично су у друштву морал и етика одговорни за решавање таквих питања, али у технологији се све креће тако брзо да морал и етика једноставно не могу да прате корак. На пример, када је Гугл покушао да створи сопствену етичку комисију за вештачку интелигенцију, она се распала након само недељу дана. Истинита прича.

Разлог је, по мом мишљењу, следећи. Технолошке компаније разумеју дубину проблема, али, нажалост, не могу да га реше изнутра. У ствари, ово су два супротна вектора и намере: 1) испуните своје кварталне циљеве за профит, досег и ангажовање и 2) учините добро грађанима на дуги рок.

Док се најбољи умови боре да реше овај проблем, најефикаснија ствар која је изашла је ово производе производе на основу пословног модела у коме клијент сам плаћа производ (или то неко плаћа: послодавац, спонзор, шећерни тата). У моделу оглашавања који тргује вашим подацима, ово није лако решити проблем.

И у овом тренутку на сцену ступају регулатори. Њихова улога је да се понашају као гарант грађанских слобода, морала и основних правила (и да иду на власт на основу популистичких закона). Државе су у том смислу изузетно важне. Једини проблем је што су веома спори и крајње неприлагођени: покушајте да направите правовремени, прогресивни закон. Или укините закон ако сте га већ усвојили и одједном схватили да не функционише. (Закони о временској зони се не рачунају.)

Морам рећи, појављивање у америчком Конгресу Закерберг (Фејсбук), Пицхаи (Гугл) и Дорси (Твитер) пре годину дана изазвао је много занимљивих покрета. Сенатори су почели да смишљају законе који помажу да се нешто ограничи: дистрибуција и коришћење личних података корисника, коришћење „тамних образаца“ у интерфејсима итд.

Последњи пример: давно пар сенатора предложио механику ограничења, укључивање људи у коришћење производа путем манипулације. Како ће одредити шта је манипулација, а шта није, нејасно је.

Врло је танка линија између когнитивних дисторзија, жеља и намера различитих страна. У том погледу, много је лакше користити једноставног корисника него шефа корпорације, али Сви имамо своје когнитивне предрасуде.. И то је, на много начина, управо оно што нас чини људима, а не само биороботи који репродукују.

Поређење тржишне капитализације технолошких компанија и европски БДП (КСНУМКС).

У ствари, изгледа да је стара влада избезумљена колико нове моћи имају нове технолошке компаније:

1. Да је Фејсбук држава, био би највећа земља по броју грађана (2.2 милијарде МАУ), један и по пута испред Кине (1.4 милијарде) и Индије (1.3 милијарде). Штавише, ако се лидери де јуре демократских земаља мењају сваких 4-8 година, у капитализму практично не постоје механизми за смену лидера ако поседује контролни пакет акција.
2. Гугл сада зна више о намерама и жељама људи од свих пастора, шамана, пророчишта и свештеника за целокупно постојање светских религија. Ова врста моћи над подацима је без преседана у забележеној људској историји.
3. Аппле нас тера да радимо невероватне ствари: да платимо суперскупу годишњу претплату на џепни рачунар од хиљаду долара, на пример. Покушајте да престанете да пратите: то одмах мења перцепцију вашег друштвеног статуса, штети вашој репутацији иноватора и смањује интересовање супротног пола. (Шалим се.)
4. До 40% инфраструктуре облака на којој ради Интернет припада Амазон (АВС). Компанија је доминантно „снабдевање“ планете и одговорна је за хлеб, информације и спектакл.

Шта је следеће? Мислим тако:

1. Америчка верзија ГДПР-а је одмах иза угла.
2. Технолошке компаније ће бити предмет низа антимонополских прегледа.
3. Инсиде тек. компаније ће расти незадовољне нехуманом политиком, а запослени ће покушати да имају већи утицај на одлуке менаџмента.

Шта мислите о државној регулативи модела производа и дизајна?

Извор: ввв.хабр.цом