"어두운 패턴"과 법: 미국 규제 당국이 제품 메커니즘을 통제하고 기술 기업의 영향력을 줄이려고 노력하는 방법

"어두운 패턴" (어두운 패턴)은 제로섬 게임이 있는 제품에 대한 사용자 참여 패턴입니다. 제품은 승리하고 소비자는 패배합니다. 간단히 말해서, 이는 사용자가 특정 행동을 취하도록 불법적으로 유인하는 것입니다.

일반적으로 사회에서는 도덕과 윤리가 이러한 문제를 해결하는 역할을 담당하지만 기술에서는 모든 것이 너무 빠르게 진행되어 도덕과 윤리가 따라갈 수 없습니다. 예를 들어 구글이 자체적으로 인공지능 윤리위원회를 만들려고 했으나 불과 일주일 만에 무너졌다. 실화.

제가 생각하는 이유는 다음과 같습니다. 기술 회사는 문제의 깊이를 이해하지만 아쉽게도 내부에서 문제를 해결할 수는 없습니다. 실제로 이는 두 가지 상반되는 벡터와 의도입니다. 1) 이익, 도달 범위 및 참여에 대한 분기별 목표를 달성하고 2) 장기적으로 시민을 위해 좋은 일을 합니다.

최고의 정신들이 이 문제를 해결하기 위해 고군분투하고 있는 동안, 나온 가장 효과적인 것은 이것이다. 고객이 제품에 대한 비용을 직접 지불하는 비즈니스 모델을 기반으로 제품을 만듭니다. (또는 누군가가 비용을 지불합니다: 고용주, ​​후원자, 슈가대디). 귀하의 데이터를 거래하는 광고 모델에서 이는 해결하기 쉬운 문제가 아닙니다.

그리고 이 순간 규제 당국이 현장에 들어갑니다. 그들의 역할은 시민의 자유, 도덕성 및 기본 규칙을 보장하는 역할을 하는 것입니다(또한 포퓰리즘 법률에 따라 다음 시즌에 권력을 잡는 것이기도 합니다). 이런 의미에서 국가는 매우 중요합니다. 유일한 문제는 그것들이 매우 느리고 극도로 적응력이 없다는 것입니다. 적시에 진보적인 법을 만들려고 노력하십시오. 또는 이미 법을 채택했는데 갑자기 효과가 없다는 것을 깨달은 경우 해당 법을 폐지하십시오. (시간대 법률은 포함되지 않습니다.)

미국 의회에 출연한다고 말해야 겠네요 주커버그(페이스북), 피차이(구글), 도시(트위터) XNUMX년 전 많은 흥미로운 움직임을 불러일으켰습니다. 상원의원들은 사용자의 개인 정보 배포 및 사용, 인터페이스의 "어두운 패턴" 사용 등을 제한하는 데 도움이 되는 법률을 마련하기 시작했습니다.

최신 예: 오래 전 두 명의 상원의원 제안된 제한 메커니즘, 조작을 통해 제품을 사용하는 사람들을 포함합니다. 무엇이 조작이고 무엇이 아닌지를 어떻게 결정할지는 불분명합니다.

서로 다른 당사자의 인지적 왜곡, 욕구 및 의도 사이에는 매우 미세한 경계가 있습니다. 이런 점에서는 법인장보다는 단순유저를 이용하는 것이 훨씬 수월하지만, 우리 모두는 자신만의 인지적 편견을 가지고 있습니다.. 그리고 이것은 여러 면에서 우리를 인간으로 만드는 것이지 단순히 바이오로봇을 재생산하는 것이 아닙니다.

기술기업의 시가총액 비교와 유럽의 GDP (2018).

사실, 구 정부는 신기술 기업이 얼마나 많은 새로운 힘을 갖고 있는지에 대해 겁을 먹고 있는 것 같습니다.

1. 페이스북이 국가라면 시민 수(MAU 2.2억) 기준으로 중국(1.4억), 인도(1.3억)보다 4배 많은 국가가 된다. 더욱이, 법적 민주주의 국가의 지도자가 8~XNUMX년마다 바뀌는 경우, 자본주의에서는 지도자가 지배 지분을 소유한 경우 지도자를 제거하는 메커니즘이 사실상 없습니다.
2. 이제 Google은 세계 종교의 모든 목사, 무당, 신탁, 성직자보다 사람들의 의도와 욕구에 대해 더 많이 알고 있습니다. 데이터에 대한 이런 종류의 권력은 기록된 인류 역사상 전례가 없습니다.
3. 예를 들어, Apple은 우리에게 놀라운 일을 하도록 강요합니다. 예를 들어, 천 달러짜리 포켓 컴퓨터에 대한 매우 비싼 연간 구독료를 지불하는 것입니다. 언팔로우를 시도해보세요. 즉각적으로 사회적 지위에 대한 인식이 바뀌고, 혁신가로서의 평판이 손상되며, 이성의 관심이 줄어듭니다. (농담.)
4. 인터넷이 실행되는 클라우드 인프라의 최대 40% 속해있다 아마존(AWS). 회사는 행성의 지배적인 "공급"이며 빵, 정보 및 서커스를 담당합니다.

무엇 향후 계획? 그렇게 생각해보세요:

1. GDPR의 미국 버전이 곧 출시될 예정입니다.
2. 기술 회사는 일련의 독점 금지 검토를 받게 됩니다.
3. 텍 내부. 기업은 비인도적인 정책에 불만을 갖게 될 것이고 직원들은 경영 결정에 더 많은 영향력을 행사하려고 할 것입니다.

제품 및 디자인 패턴에 대한 정부 규제에 대해 어떻게 생각하시나요?

출처 : habr.com