(ciemne wzorce) to wzorce zaangażowania użytkownika w produkt, w którym toczy się gra o sumie zerowej: produkt wygrywa, a konsument przegrywa. Mówiąc najprościej, jest to niezgodne z prawem nakłanianie użytkownika do podjęcia określonych działań.
Zazwyczaj w społeczeństwie za rozwiązywanie takich problemów odpowiedzialna jest moralność i etyka, ale w technologii wszystko dzieje się tak szybko, że moralność i etyka po prostu nie mogą nadążać. Przykładowo, gdy Google próbował stworzyć własną komisję etyki dotyczącą sztucznej inteligencji, rozpadła się ona już po tygodniu. .
Powód moim zdaniem jest następujący. Firmy technologiczne rozumieją głębię problemu, ale niestety nie mogą go rozwiązać od wewnątrz. W rzeczywistości są to dwa przeciwstawne wektory i intencje: 1) osiągnięcie kwartalnych celów w zakresie zysku, zasięgu i zaangażowania oraz 2) wyrządzenie dobra obywatelom w dłuższej perspektywie.
Chociaż najlepsze umysły usiłują rozwiązać ten problem, najskuteczniejszą rzeczą, jaka wyszła, jest to (lub ktoś za to płaci: pracodawca, sponsor, Sugar Daddy). W modelu reklamowym, który handluje Twoimi danymi, nie jest to łatwy problem do rozwiązania.
I w tym momencie na scenę wkraczają organy regulacyjne. Ich rolą jest pełnienie roli gwaranta swobód obywatelskich, moralności i podstawowych zasad (a także dojście do władzy w kolejnym sezonie na podstawie populistycznych ustaw). Państwa są w tym sensie niezwykle ważne. Jedynym problemem jest to, że są one bardzo powolne i wyjątkowo nieadaptacyjne: spróbujcie stworzyć aktualne, postępowe prawo. Lub uchylenie prawa, jeśli już je przyjąłeś i nagle zdałeś sobie sprawę, że to nie działa. (Przepisy dotyczące stref czasowych się nie liczą.)
Muszę powiedzieć, wystąpienie w Kongresie USA rok temu wywołał wiele ciekawych ruchów. Senatorowie zaczęli wymyślać przepisy, które pomagają coś ograniczyć: dystrybucję i wykorzystanie danych osobowych użytkowników, stosowanie „ciemnych wzorców” w interfejsach itp.
Najnowszy przykład: kilku senatorów dawno temu , angażujący ludzi w korzystanie z produktów poprzez manipulację. Nie jest jasne, w jaki sposób ustalą, co jest manipulacją, a co nie.
Istnieje bardzo cienka granica pomiędzy zniekształceniami poznawczymi, pragnieniami i intencjami różnych stron. Pod tym względem dużo łatwiej jest posłużyć się prostym użytkownikiem niż szefem korporacji, ale Każdy z nas ma swoje własne błędy poznawcze.. I to pod wieloma względami właśnie to czyni nas ludźmi, a nie tylko reprodukcją biorobotów.
Porównanie kapitalizacji rynkowej spółek technologicznych i (2018).
W rzeczywistości wygląda na to, że stary rząd wpada w panikę, ile nowej mocy mają nowe firmy technologiczne:
- Gdyby Facebook był państwem, byłby największym krajem pod względem liczby obywateli (2.2 mld MAU), półtora raza wyprzedzając Chiny (1.4 mld) i Indie (1.3 mld). Co więcej, jeśli przywódcy krajów demokratycznych de iure zmieniają się co 4-8 lat, w kapitalizmie praktycznie nie ma mechanizmów usuwania lidera, jeśli posiada on pakiet kontrolny.
- Google wie teraz więcej o intencjach i pragnieniach ludzi niż wszyscy pastorzy, szamani, wyrocznie i kapłani przez całe istnienie światowych religii. Tego rodzaju władza nad danymi nie ma precedensu w zapisanej historii ludzkości.
- Apple zmusza nas do robienia niesamowitych rzeczy: na przykład płacenia za super drogi roczny abonament na komputer kieszonkowy za tysiąc dolarów. Spróbuj przestać obserwować: natychmiast zmienia to postrzeganie Twojego statusu społecznego, szkodzi Twojej reputacji jako innowatora i zmniejsza zainteresowanie płci przeciwnej. (Żartuję.)
- Aż 40% infrastruktury chmurowej, na której działa Internet Amazona (AWS). Firma jest dominującym „zaopatrzeniem” planety i jest odpowiedzialna za chleb, informację i cyrki.
Co dalej? Tak myślę:
- Amerykańska wersja RODO jest tuż za rogiem.
- Spółki technologiczne zostaną poddane serii przeglądów antymonopolowych.
- Wewnątrz tek. firmy będą coraz bardziej niezadowolone z nieludzkiej polityki, a pracownicy będą starali się mieć większy wpływ na decyzje kierownictwa.
Co sądzisz o rządowych regulacjach dotyczących wzorców produktów i projektów?
Źródło: www.habr.com