(mørke mønstre) er mønstre for brugerinddragelse i et produkt, hvor der er et nulsumsspil: produktet vinder, og forbrugeren taber. Kort sagt er dette den ulovlige tilskyndelse af en bruger til at foretage visse handlinger.
Typisk i samfundet er moral og etik ansvarlig for at løse sådanne problemer, men i teknologien går alt så hurtigt, at moral og etik simpelthen ikke kan følge med. For eksempel, da Google forsøgte at oprette sin egen etiske komité for kunstig intelligens, faldt den fra hinanden efter blot en uge. .
Årsagen er efter min mening følgende. Teknologivirksomheder forstår dybden af problemet, men kan desværre ikke løse det indefra. Faktisk er disse to modsatrettede vektorer og intentioner: 1) opfylde dine kvartalsmål for profit, rækkevidde og engagement og 2) gøre godt for borgerne på lang sigt.
Mens de bedste hjerner kæmper for at løse dette problem, er den mest effektive ting, der er kommet ud, dette (eller nogen betaler for det: arbejdsgiver, sponsor, sugar daddy). I en annoncemodel, der handler på dine data, er dette ikke et let problem at løse.
Og i dette øjeblik kommer regulatorer ind på scenen. Deres rolle er at fungere som garant for borgerlige frihedsrettigheder, moral og grundlæggende regler (og også at komme til magten næste sæson på grundlag af populistiske love). Stater er ekstremt vigtige i denne forstand. Det eneste problem er, at de er meget langsomme og ekstremt ikke-adaptive: prøv at skabe en rettidig, progressiv lov. Eller ophæve loven, hvis du allerede har vedtaget den og pludselig indså, at den ikke virker. (Tidszonelove tæller ikke med.)
Jeg må sige, optræden i den amerikanske kongres for et år siden fremkaldte en masse interessant bevægelse. Senatorer begyndte at komme med love, der hjælper med at begrænse noget: distribution og brug af brugernes personlige oplysninger, brugen af "mørke mønstre" i grænseflader osv.
Seneste eksempel: et par senatorer for længe siden , involverer folk i at bruge produkter gennem manipulation. Hvordan de vil afgøre, hvad der er manipulation, og hvad der ikke er, er uklart.
Der er en meget fin linje mellem kognitive forvrængninger, ønsker og hensigter hos forskellige parter. I denne henseende er det meget lettere at bruge en simpel bruger end lederen af et selskab, men Vi har alle vores egne kognitive fordomme.. Og det er på mange måder netop det, der gør os til mennesker, og ikke kun reproducerende biorobotter.
Sammenligning af markedsværdi af teknologivirksomheder og (2018).
Faktisk ser det ud til, at den gamle regering flipper over, hvor meget ny magt de nye teknologivirksomheder har:
- Hvis Facebook var en stat, ville det være det største land målt i antallet af borgere (MAU 2.2 milliarder), halvanden gang foran Kina (1.4 milliarder) og Indien (1.3 milliarder). Desuden, hvis lederne af de jure demokratiske lande skifter hvert 4.-8. år, er der i kapitalismen praktisk talt ingen mekanismer til at fjerne en leder, hvis han ejer en kontrollerende andel.
- Google ved nu mere om menneskers hensigter og ønsker end alle præster, shamaner, orakler og præster gennem hele verdensreligions eksistens. Denne form for magt over data er uden fortilfælde i registreret menneskelig historie.
- Apple tvinger os til at gøre fantastiske ting: betale for et superdyrt årligt abonnement på en lommecomputer til tusinde dollars, for eksempel. Prøv at afmelde dig: det ændrer øjeblikkeligt opfattelsen af din sociale status, skader dit omdømme som innovator og reducerer interessen hos det modsatte køn. (Spøger.)
- Op til 40 % af den cloud-infrastruktur, som internettet kører på Amazon (AWS). Virksomheden er den dominerende "forsyning" af planeten, og er ansvarlig for brød, information og cirkus.
Hvad er det næste? Det tror jeg:
- Den amerikanske version af GDPR er lige rundt om hjørnet.
- Teknologivirksomheder vil blive genstand for en række antitrustvurderinger.
- Inde tek. virksomheder vil blive utilfredse med umenneskelige politikker, og medarbejderne vil forsøge at få mere indflydelse på ledelsens beslutninger.
Hvad synes du om regeringsregulering af produkt- og designmønstre?
Kilde: www.habr.com