(mørke mønstre) er mønstre for brukerinvolvering i et produkt der det er et nullsumspill: produktet vinner og forbrukeren taper. Enkelt sagt er dette den ulovlige oppfordringen til en bruker til å utføre visse handlinger.
Vanligvis i samfunnet er moral og etikk ansvarlig for å løse slike problemer, men i teknologi går alt så raskt at moral og etikk rett og slett ikke kan følge med. For eksempel, da Google prøvde å opprette sin egen etikkkomité for kunstig intelligens, falt den fra hverandre etter bare en uke. .
Årsaken er etter min mening følgende. Teknologiselskaper forstår dybden av problemet, men kan dessverre ikke løse det fra innsiden. Faktisk er dette to motsatte vektorer og intensjoner: 1) oppfylle dine kvartalsmål for profitt, rekkevidde og engasjement og 2) gjøre godt for innbyggerne på lang sikt.
Mens de beste hodene sliter med å løse dette problemet, er det mest effektive som har kommet ut dette (eller noen betaler for det: arbeidsgiver, sponsor, sugar daddy). I en annonsemodell som handler på dataene dine, er ikke dette et enkelt problem å løse.
Og i dette øyeblikk kommer regulatorer inn på scenen. Deres rolle er å fungere som en garantist for sivile friheter, moral og grunnleggende regler (og også komme til makten i neste sesong på grunnlag av populistiske lover). Stater er ekstremt viktige i denne forstand. Det eneste problemet er at de er veldig trege og ekstremt ikke-tilpassede: prøv å lage en rettidig, progressiv lov. Eller oppheve loven hvis du allerede har vedtatt den og plutselig innså at den ikke fungerer. (Tidssonelover teller ikke.)
Jeg må si, opptreden i den amerikanske kongressen for et år siden provoserte frem mye interessant bevegelse. Senatorer begynte å komme med lover som bidrar til å begrense noe: distribusjon og bruk av brukernes personlige opplysninger, bruken av "mørke mønstre" i grensesnitt, etc.
Siste eksempel: et par senatorer for lenge siden , involverer folk i å bruke produkter gjennom manipulasjon. Hvordan de vil avgjøre hva som er manipulasjon og hva som ikke er det, er uklart.
Det er en veldig fin linje mellom kognitive forvrengninger, ønsker og intensjoner hos ulike parter. I denne forbindelse er det mye lettere å bruke en enkel bruker enn sjefen for et selskap, men Vi har alle våre egne kognitive skjevheter.. Og dette er på mange måter akkurat det som gjør oss til mennesker, og ikke bare reproduserende bioroboter.
Sammenligning av markedsverdi av teknologiselskaper og (2018).
Faktisk ser det ut til at den gamle regjeringen skremmer seg over hvor mye ny makt de nye teknologiselskapene har:
- Hvis Facebook var en stat, ville det vært det største landet målt i antall innbyggere (MAU 2.2 milliarder), en og en halv gang foran Kina (1.4 milliarder) og India (1.3 milliarder). Videre, hvis lederne i de jure demokratiske land endres hvert 4.-8. år, er det i kapitalismen praktisk talt ingen mekanismer for å fjerne en leder hvis han eier en kontrollerende eierandel.
- Google vet nå mer om intensjoner og ønsker til mennesker enn alle pastorer, sjamaner, orakler og prester gjennom hele verdensreligionens eksistens. Denne typen makt over data er enestående i registrert menneskelig historie.
- Apple tvinger oss til å gjøre fantastiske ting: betale for et superdyrt årlig abonnement på en lommedatamaskin for tusen dollar, for eksempel. Prøv å slutte å følge: det endrer umiddelbart oppfatningen av din sosiale status, skader ryktet ditt som innovatør og reduserer interessen til det motsatte kjønn. (Tuller.)
- Opptil 40 % av skyinfrastrukturen som Internett kjører på Amazon (AWS). Selskapet er den dominerende «forsyningen» av planeten, og har ansvar for brød, informasjon og sirkus.
Hva blir det neste? Tror det:
- Den amerikanske versjonen av GDPR er rett rundt hjørnet.
- Teknologiselskaper vil bli gjenstand for en rekke antitrustvurderinger.
- Inne tek. bedrifter vil bli misfornøyde med umenneskelig politikk, og ansatte vil prøve å ha mer innflytelse på ledelsesbeslutninger.
Hva synes du om statlig regulering av produkt- og designmønstre?
Kilde: www.habr.com