(les modèles sombres) sont des modèles d'implication de l'utilisateur dans un produit dans lequel il existe un jeu à somme nulle : le produit gagne et le consommateur perd. En termes simples, il s’agit d’une incitation illégale d’un utilisateur à entreprendre certaines actions.
Généralement, dans la société, la morale et l’éthique sont responsables de la résolution de ces problèmes, mais dans la technologie, tout évolue si vite que la morale et l’éthique ne peuvent tout simplement pas suivre le rythme. Par exemple, lorsque Google a tenté de créer son propre comité d’éthique en matière d’intelligence artificielle, celui-ci s’est effondré au bout d’une semaine seulement. .
La raison, à mon avis, est la suivante. Les entreprises technologiques comprennent l’ampleur du problème, mais ne peuvent hélas pas le résoudre de l’intérieur. En fait, ce sont deux vecteurs et intentions opposés : 1) atteindre vos objectifs trimestriels de profit, de portée et d’engagement et 2) faire du bien aux citoyens sur le long terme.
Alors que les meilleurs esprits s’efforcent de résoudre ce problème, la solution la plus efficace qui soit sortie est la suivante : (ou quelqu'un paie pour cela : employeur, sponsor, sugar daddy). Dans un modèle publicitaire qui exploite vos données, ce n’est pas un problème facile à résoudre.
Et c’est à ce moment-là que les régulateurs entrent en scène. Leur rôle est d'agir en tant que garant des libertés civiles, de la moralité et des règles fondamentales (et aussi d'accéder au pouvoir la saison prochaine sur la base de lois populistes). Les États sont extrêmement importants en ce sens. Le seul problème est qu’ils sont très lents et extrêmement peu adaptatifs : essayez de créer une loi progressiste et opportune. Ou abroger la loi si vous l’avez déjà adoptée et réalisez soudain qu’elle ne fonctionne pas. (Les lois sur les fuseaux horaires ne comptent pas.)
Je dois dire, apparition au Congrès américain il y a un an a provoqué beaucoup de mouvements intéressants. Les sénateurs ont commencé à proposer des lois qui contribuent à limiter quelque chose : la diffusion et l’utilisation des informations personnelles des utilisateurs, l’utilisation de « dark patterns » dans les interfaces, etc.
Dernier exemple en date : quelques sénateurs il y a longtemps , impliquant les gens dans l'utilisation des produits par la manipulation. La manière dont ils détermineront ce qui constitue une manipulation et ce qui ne l’est pas n’est pas claire.
Il existe une frontière très fine entre les distorsions cognitives, les désirs et les intentions des différentes parties. À cet égard, il est beaucoup plus facile d'utiliser un simple utilisateur que le chef d'une entreprise, mais Nous avons tous nos propres biais cognitifs.. Et c’est, à bien des égards, exactement ce qui fait de nous des humains, et pas seulement des biorobots reproducteurs.
Comparaison de la capitalisation boursière des entreprises technologiques et (2018).
En fait, il semble que l’ancien gouvernement s’affole du nouveau pouvoir dont disposent les nouvelles entreprises technologiques :
- Si Facebook était un État, il serait le plus grand pays en termes de nombre de citoyens (2.2 milliards MAU), une fois et demie devant la Chine (1.4 milliard) et l'Inde (1.3 milliard). De plus, si les dirigeants des pays démocratiques de jure changent tous les 4 à 8 ans, dans le capitalisme, il n'existe pratiquement aucun mécanisme permettant de destituer un dirigeant s'il détient une participation majoritaire.
- Google en sait désormais plus sur les intentions et les désirs des gens que tous les pasteurs, chamanes, oracles et prêtres tout au long de l’existence des religions du monde. Ce type de pouvoir sur les données est sans précédent dans l’histoire de l’humanité.
- Apple nous oblige à faire des choses étonnantes : payer un abonnement annuel très cher à un ordinateur de poche à mille dollars, par exemple. Essayez de ne plus suivre : cela change immédiatement la perception de votre statut social, nuit à votre réputation d'innovateur et réduit l'intérêt du sexe opposé. (Blague.)
- Jusqu'à 40 % de l'infrastructure cloud sur laquelle fonctionne Internet Amazone (AWS). L'entreprise est le « fournisseur » dominant de la planète et est responsable du pain, de l'information et des cirques.
Et après? Je le pense:
- La version américaine du RGPD approche à grands pas.
- Les entreprises technologiques seront soumises à une série d’examens antitrust.
- À l'intérieur du tek. les entreprises deviendront mécontentes des politiques inhumaines et les employés tenteront d’avoir plus d’influence sur les décisions de gestion.
Que pensez-vous de la réglementation gouvernementale des modèles de produits et de conception ?
Source: habr.com