{"id":32781,"date":"2019-10-31T21:48:54","date_gmt":"2019-10-31T18:48:54","guid":{"rendered":"https:\/\/prohoster.info\/blog\/o-predvzyatosti-iskusstvennogo-intellekta\/"},"modified":"2019-10-31T21:48:54","modified_gmt":"2019-10-31T18:48:54","slug":"o-predvzyatosti-iskusstvennogo-intellekta","status":"publish","type":"post","link":"https:\/\/prohoster.info\/fr\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","title":{"rendered":"Sur le biais de l'intelligence artificielle","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Sur le biais de l&#039;intelligence artificielle\" src=\"\/wp-content\/uploads\/2019\/04\/05a731677e1231acceff953db8e1e26a.jpg\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<h2 id=\"tldr\">tl;dr:<\/h2>\n<p><\/p>\n<ul>\n<li>L'apprentissage automatique cherche des motifs dans les donn\u00e9es. Mais l'intelligence artificielle peut \u00eatre \u00ab biais\u00e9e \u00bb \u2014 c'est-\u00e0-dire qu'elle peut trouver des sch\u00e9mas incorrects. Par exemple, un syst\u00e8me de d\u00e9tection du cancer de la peau \u00e0 partir de photos peut accorder une attention particuli\u00e8re aux images prises dans un cabinet m\u00e9dical. L'apprentissage automatique ne sait pas <em>comprendre<\/em>: ses algorithmes se contentent d'identifier des motifs dans les chiffres, et si les donn\u00e9es ne sont pas repr\u00e9sentatives, le r\u00e9sultat de leur traitement le sera aussi. D\u00e9tecter de tels bogues peut \u00eatre difficile en raison de la nature m\u00eame de l'apprentissage automatique. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/li>\n<li>Le domaine probl\u00e9matique le plus \u00e9vident et le plus inqui\u00e9tant est la diversit\u00e9 humaine. Il existe de nombreuses raisons pour lesquelles les donn\u00e9es concernant les personnes peuvent perdre leur objectivit\u00e9 d\u00e8s la phase de collecte. Mais ne pensez pas que ce probl\u00e8me concerne uniquement les humains : des difficult\u00e9s similaires surviennent lors de la d\u00e9tection d'une inondation dans un entrep\u00f4t ou d'une turbine \u00e0 gaz en panne. Certains syst\u00e8mes peuvent avoir des pr\u00e9jug\u00e9s sur la couleur de la peau, d'autres peuvent \u00eatre biais\u00e9s envers les capteurs Siemens. <\/li>\n<li>Ces probl\u00e8mes ne sont pas nouveaux pour l'apprentissage automatique, et ils ne lui sont pas propres. Des hypoth\u00e8ses incorrectes sont formul\u00e9es dans toutes les structures complexes, et comprendre pourquoi une certaine d\u00e9cision a \u00e9t\u00e9 prise est toujours difficile. Il faut lutter contre cela de mani\u00e8re globale : cr\u00e9er des outils et des processus de v\u00e9rification \u2014 et former les utilisateurs pour qu'ils ne suivent pas aveugl\u00e9ment les recommandations de l'IA. L'apprentissage automatique fait vraiment certaines choses beaucoup mieux que nous, \u2014 mais les chiens, par exemple, sont bien plus efficaces que les humains pour d\u00e9tecter les drogues, ce qui ne donne pas lieu \u00e0 les utiliser comme t\u00e9moins et \u00e0 rendre des jugements bas\u00e9s sur leurs d\u00e9clarations. Et les chiens, soit dit en passant, sont bien plus intelligents que tout syst\u00e8me d'apprentissage automatique. <\/li>\n<\/ul>\n<p>Aujourd'hui, l'apprentissage automatique est l'une des tendances technologiques fondamentales les plus importantes. C'est l'un des principaux moyens par lesquels la technologie va changer le monde qui nous entoure dans la prochaine d\u00e9cennie. Certains aspects de ces changements suscitent des inqui\u00e9tudes. Par exemple, l'impact potentiel de l'apprentissage automatique sur le march\u00e9 du travail, ou son utilisation \u00e0 des fins non \u00e9thiques (par exemple, par des r\u00e9gimes autoritaires). Il y a un autre probl\u00e8me, que ce post aborde : <strong>le biais de l'intelligence artificielle<\/strong>. <\/p>\n<p><\/p>\n<p>C'est une histoire complexe. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sur le biais de l&#039;intelligence artificielle\" src=\"\/wp-content\/uploads\/2019\/04\/d692fbfff47614758ab1d8e1516b2742.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>L'IA de Google peut trouver des chats. Cette nouvelle de 2012 \u00e9tait alors quelque chose de sp\u00e9cial.<\/em><\/p>\n<p><\/p>\n<h2 id=\"chto-takoe-predvzyatost-ii\">Qu'est-ce que le \u00ab biais de l'IA \u00bb ?<\/h2>\n<p><\/p>\n<blockquote><p><em>Les \u00ab donn\u00e9es brutes \u00bb sont \u00e0 la fois un oxymore et une mauvaise id\u00e9e ; les donn\u00e9es doivent \u00eatre soigneusement pr\u00e9par\u00e9es.<\/em> \u2014Jeffrey Boker <\/p><\/blockquote>\n<p>Jusqu'en 2013, pour cr\u00e9er un syst\u00e8me capable de reconna\u00eetre des chats sur des photos, vous deviez d\u00e9crire les \u00e9tapes logiques. Comment trouver les coins dans l'image, reconna\u00eetre les yeux, analyser les textures pour d\u00e9tecter la fourrure, compter les pattes, et ainsi de suite. Ensuite, assembler tous les composants \u2014 et d\u00e9couvrir que cela ne fonctionne pas vraiment. C'\u00e9tait un peu comme un cheval m\u00e9canique \u2014 th\u00e9oriquement, on pouvait le fabriquer, mais en pratique, c'\u00e9tait trop compliqu\u00e9 \u00e0 d\u00e9crire. Au final, vous avez des centaines (voire des milliers) de r\u00e8gles \u00e9crites \u00e0 la main. Et aucun mod\u00e8le fonctionnel. <\/p>\n<p><\/p>\n<p>Avec l'\u00e9mergence de l'apprentissage automatique, nous avons cess\u00e9 d'utiliser des r\u00e8gles \"manuelles\" pour reconna\u00eetre des objets. Au lieu de cela, nous prenons mille exemples de \"X\", mille exemples de \"Y\", et nous faisons construire un mod\u00e8le par l'ordinateur bas\u00e9 sur leur analyse statistique. Ensuite, nous fournissons \u00e0 ce mod\u00e8le certains exemples de donn\u00e9es, et il d\u00e9termine avec une certaine pr\u00e9cision s'ils correspondent \u00e0 l'un des ensembles. L'apprentissage automatique g\u00e9n\u00e8re un mod\u00e8le bas\u00e9 sur des donn\u00e9es, et non par une personne qui l'\u00e9crit. Les r\u00e9sultats sont impressionnants, surtout dans le domaine de la reconnaissance d'images et de motifs, c'est pourquoi l'ensemble de l'industrie technologique passe maintenant \u00e0 l'apprentissage automatique (ML). <\/p>\n<p><\/p>\n<p>Mais ce n'est pas si simple. Dans le monde r\u00e9el, vos milliers d'exemples de X ou Y contiennent \u00e9galement A, B, J, L, O, R et m\u00eame L. Ils peuvent \u00eatre r\u00e9partis de mani\u00e8re in\u00e9gale, et certains d'entre eux peuvent appara\u00eetre si souvent que le syst\u00e8me leur accordera plus d'attention qu'aux objets qui vous int\u00e9ressent.<\/p>\n<p><\/p>\n<p>Qu'est-ce que cela signifie en pratique ? Mon exemple pr\u00e9f\u00e9r\u00e9 est celui o\u00f9 les syst\u00e8mes de reconnaissance d'images <noindex><a rel=\"nofollow\" href=\"http:\/\/aiweirdness.com\/post\/171451900302\/do-neural-nets-dream-of-electric-sheep\">regardent une colline herbeuse et disent : \u00ab mouton \u00bb<\/a><\/noindex>. On comprend pourquoi : la plupart des photos d'exemples de \u00ab mouton \u00bb ont \u00e9t\u00e9 prises dans des prairies o\u00f9 ils vivent, et sur ces images, l'herbe occupe beaucoup plus d'espace que ces petits animaux blancs et duveteux, et c'est l'herbe que les syst\u00e8mes consid\u00e8rent comme la plus importante. <\/p>\n<p><\/p>\n<p>Il existe des exemples plus s\u00e9rieux. R\u00e9cemment, un <noindex><a rel=\"nofollow\" href=\"https:\/\/www.medpagetoday.com\/dermatology\/generaldermatology\/70513\">le projet<\/a><\/noindex> sur la d\u00e9tection du cancer de la peau \u00e0 partir de photographies. Il s'est av\u00e9r\u00e9 que les dermatologues photographient souvent une r\u00e8gle avec les manifestations du cancer de la peau afin de documenter la taille des l\u00e9sions. Sur des exemples de photographies de peau saine, il n'y a pas de r\u00e8gle. Pour le syst\u00e8me d'IA, ces r\u00e8gles (pr\u00e9cis\u00e9ment, les pixels que nous identifions comme \u00ab r\u00e8gle \u00bb) sont devenues l'une des distinctions entre les ensembles d'exemples, parfois plus importantes qu'une petite \u00e9ruption cutan\u00e9e. Ainsi, le syst\u00e8me con\u00e7u pour reconna\u00eetre le cancer de la peau reconnaissait parfois des r\u00e8gles \u00e0 la place. <\/p>\n<p><\/p>\n<p>Le point cl\u00e9 ici est que le syst\u00e8me n'a pas de compr\u00e9hension s\u00e9mantique de ce qu'il regarde. Nous regardons un ensemble de pixels et y voyons un mouton, une peau ou des r\u00e8gles, tandis que le syst\u00e8me ne voit qu'une cha\u00eene num\u00e9rique. Il ne voit pas l'espace tridimensionnel, ni les objets, ni les textures, ni les moutons. Il ne voit que des motifs dans les donn\u00e9es. <\/p>\n<p><\/p>\n<p>La complexit\u00e9 du diagnostic de tels probl\u00e8mes tient au fait que le r\u00e9seau de neurones (mod\u00e8le g\u00e9n\u00e9r\u00e9 par votre syst\u00e8me d'apprentissage automatique) est constitu\u00e9 de milliers, voire de centaines de milliers de n\u0153uds. Il n'existe pas de moyen simple de jeter un coup d'\u0153il dans le mod\u00e8le pour comprendre comment il prend ses d\u00e9cisions. Avoir un tel moyen signifierait que le processus est suffisamment simple pour d\u00e9crire toutes les r\u00e8gles manuellement, sans recourir \u00e0 l'apprentissage automatique. Les gens s'inqui\u00e8tent que l'apprentissage automatique soit devenu une sorte de \u00ab bo\u00eete noire \u00bb. (Je vais expliquer un peu plus tard pourquoi cette comparaison est exag\u00e9r\u00e9e.) <\/p>\n<p><\/p>\n<p>C'est, en termes g\u00e9n\u00e9raux, le probl\u00e8me du biais de l'intelligence artificielle ou de l'apprentissage automatique : un syst\u00e8me capable de trouver des motifs dans les donn\u00e9es peut d\u00e9couvrir des motifs erron\u00e9s, et vous pourriez ne pas le remarquer. C'est une caract\u00e9ristique fondamentale de la technologie, et cela est \u00e9vident pour tous ceux qui travaillent avec elle dans les cercles scientifiques et au sein des grandes entreprises technologiques. Mais ses cons\u00e9quences sont complexes, et nos solutions potentielles \u00e0 ces cons\u00e9quences le sont \u00e9galement. <\/p>\n<p><\/p>\n<p>Commen\u00e7ons d'abord par les cons\u00e9quences. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sur le biais de l&#039;intelligence artificielle\" src=\"\/wp-content\/uploads\/2019\/04\/43748412bd82ae53a9c2e47afec9c655.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>L'IA peut implicitement pour nous faire des choix en faveur de certaines cat\u00e9gories de personnes, en se basant sur de nombreux signaux invisibles.<\/em><\/p>\n<p><\/p>\n<h2 id=\"scenarii-predvzyatosti-ii\">Sc\u00e9narios de biais de l'IA<\/h2>\n<p><\/p>\n<p>Le plus \u00e9vident et inqui\u00e9tant, c'est que ce probl\u00e8me peut se manifester lorsqu'il s'agit de la diversit\u00e9 humaine. R\u00e9cemment, <noindex><a rel=\"nofollow\" href=\"https:\/\/www.reuters.com\/article\/us-amazon-com-jobs-automation-insight\/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G\">une rumeur a circul\u00e9<\/a><\/noindex>, que Amazon a tent\u00e9 de construire un syst\u00e8me d'apprentissage automatique pour le pr\u00e9-scrutin des candidats \u00e0 un emploi. \u00c9tant donn\u00e9 que la majorit\u00e9 des employ\u00e9s d'Amazon sont des hommes, les exemples de \u00ab recrutements r\u00e9ussis \u00bb sont \u00e9galement majoritairement masculins, et la s\u00e9lection de CV propos\u00e9e par le syst\u00e8me comportait plus d'hommes. Amazon a remarqu\u00e9 cela et n'a pas mis le syst\u00e8me en production. <\/p>\n<p><\/p>\n<p>Le plus important dans cet exemple est que le syst\u00e8me aurait, selon les rumeurs, favoris\u00e9 les candidats masculins, bien que le sexe ne soit pas indiqu\u00e9 dans les CV.<strong> Le syst\u00e8me a vu d'autres motifs dans les exemples de \u00ab recrutements r\u00e9ussis \u00bb : par exemple, les femmes peuvent utiliser des mots particuliers pour d\u00e9crire leurs r\u00e9alisations, ou avoir des loisirs sp\u00e9cifiques. Bien s\u00fbr, le syst\u00e8me ne savait pas ce qu'\u00e9tait le \u00ab hockey \u00bb, qui \u00e9taient les \u00ab gens \u00bb, ni ce qu'\u00e9tait le \u00ab succ\u00e8s \u00bb ; il a simplement effectu\u00e9 une analyse statistique du texte.<\/strong> Mais les motifs qu'il a identifi\u00e9s seraient probablement pass\u00e9s inaper\u00e7us par un \u00eatre humain, et certains d'entre eux (comme le fait que les personnes de sexes diff\u00e9rents d\u00e9crivent le succ\u00e8s diff\u00e9remment) seraient probablement difficiles \u00e0 discerner, m\u00eame en les observant. <\/p>\n<p><\/p>\n<p>Ensuite, c'est pire. Un syst\u00e8me d'apprentissage automatique qui d\u00e9tecte tr\u00e8s bien le cancer sur une peau claire peut moins bien fonctionner sur une peau fonc\u00e9e, ou vice versa. Pas n\u00e9cessairement \u00e0 cause de biais, mais parce que vous devrez probablement construire un mod\u00e8le distinct pour une autre couleur de peau, en choisissant d'autres caract\u00e9ristiques.<strong> Les syst\u00e8mes d'apprentissage automatique ne sont pas interchangeables m\u00eame dans un domaine aussi \u00e9troit que la reconnaissance d'images.<\/strong> Vous devez ajuster le syst\u00e8me, parfois simplement par t\u00e2tonnements, pour bien rep\u00e9rer les particularit\u00e9s dans les donn\u00e9es qui vous int\u00e9ressent, jusqu'\u00e0 ce que vous atteigniez la pr\u00e9cision souhait\u00e9e. Mais vous pouvez ne pas r\u00e9aliser que le syst\u00e8me est pr\u00e9cis \u00e0 98 % avec un groupe et seulement \u00e0 91 % (bien que ce soit plus pr\u00e9cis qu'une analyse men\u00e9e par un humain) avec un autre. <\/p>\n<p><\/p>\n<p>J'ai jusqu'\u00e0 pr\u00e9sent utilis\u00e9 principalement des exemples concernant les gens et leurs caract\u00e9ristiques. C'est sur ce sujet que se concentre principalement la discussion autour de ce probl\u00e8me. Mais il est important de comprendre que le biais envers les gens n'est qu'une partie du probl\u00e8me. Nous allons utiliser l'apprentissage automatique pour de nombreuses choses, et l'erreur d'\u00e9chantillonnage sera pertinente pour toutes. D'autre part, si vous travaillez avec des personnes, le biais des donn\u00e9es peut ne pas leur \u00eatre directement li\u00e9. <\/p>\n<p><\/p>\n<p>Pour comprendre cela, revenons \u00e0 l'exemple du cancer de la peau et examinons trois possibilit\u00e9s hypoth\u00e9tiques de d\u00e9faillance du syst\u00e8me. <\/p>\n<p><\/p>\n<ol>\n<li>R\u00e9partition in\u00e9gale des personnes : un nombre d\u00e9s\u00e9quilibr\u00e9 de photos de peaux de diff\u00e9rentes teintes, ce qui entra\u00eene des r\u00e9sultats faussement positifs ou n\u00e9gatifs li\u00e9s \u00e0 la pigmentation. <\/li>\n<li>Les donn\u00e9es sur lesquelles le syst\u00e8me est form\u00e9 contiennent une caract\u00e9ristique souvent rencontr\u00e9e et in\u00e9galement r\u00e9partie, non li\u00e9e aux personnes et n'ayant pas de valeur diagnostique : une r\u00e8gle sur les photos de manifestations du cancer de la peau ou de l'herbe sur les photos de moutons. Dans ce cas, le r\u00e9sultat sera diff\u00e9rent si le syst\u00e8me trouve des pixels de quelque chose que l'\u0153il humain d\u00e9finira comme une \u00ab r\u00e8gle \u00bb. <\/li>\n<li>Les donn\u00e9es contiennent une caract\u00e9ristique externe que l'homme ne peut pas voir, m\u00eame s'il la cherche. <\/li>\n<\/ol>\n<p><\/p>\n<p>Qu'est-ce que cela signifie ? Nous savons a priori que les donn\u00e9es peuvent repr\u00e9senter diff\u00e9remment diff\u00e9rents groupes de personnes, et nous pouvons au moins planifier la recherche de telles exceptions. En d'autres termes, il y a de nombreuses raisons sociales de supposer que les donn\u00e9es sur les groupes de personnes contiennent d\u00e9j\u00e0 un certain biais. Si nous regardons une photo avec une r\u00e8gle, nous verrons cette r\u00e8gle - nous l'ignorions simplement auparavant, sachant qu'elle n'a pas d'importance, et en oubliant que le syst\u00e8me ne sait rien.<\/p>\n<p><\/p>\n<p>Mais que se passe-t-il si toutes vos photos de peau malade ont \u00e9t\u00e9 prises dans un bureau avec des lampes \u00e0 incandescence, tandis que les photos de peau saine l'ont \u00e9t\u00e9 sous une lumi\u00e8re fluorescente ? Que se passe-t-il si, apr\u00e8s avoir fini de prendre des photos de peau saine, vous avez mis \u00e0 jour le syst\u00e8me d'exploitation de votre t\u00e9l\u00e9phone avant de prendre des photos de peau malade, et qu'Apple ou Google a l\u00e9g\u00e8rement modifi\u00e9 l'algorithme de r\u00e9duction du bruit ? L'homme ne pourra pas remarquer cela, peu importe combien il cherche de telles particularit\u00e9s. En revanche, le syst\u00e8me d'utilisation de la machine le verra tout de suite et l'utilisera. Il ne sait rien. <\/p>\n<p><\/p>\n<p>Bien que nous parlions de corr\u00e9lations fallacieuses, il peut \u00e9galement arriver que les donn\u00e9es soient pr\u00e9cises et que les r\u00e9sultats soient corrects, mais que vous ne souhaitiez pas les utiliser pour des raisons \u00e9thiques, juridiques ou de gestion. Dans certaines juridictions, par exemple, il est interdit d'accorder une r\u00e9duction d'assurance aux femmes, m\u00eame si celles-ci conduisent peut-\u00eatre de mani\u00e8re plus s\u00fbre. Nous pouvons facilement imaginer un syst\u00e8me qui, en analysant des donn\u00e9es historiques, attribue un coefficient de risque plus faible aux pr\u00e9noms f\u00e9minins. Tr\u00e8s bien, supprimons les noms de l'\u00e9chantillon. Mais rappelez-vous l'exemple d'Amazon : le syst\u00e8me peut d\u00e9terminer le sexe sur la base d'autres facteurs (bien qu'il ne sache pas ce qu'est le sexe, ni ce qu'est une voiture), et vous ne le remarquerez pas tant que le r\u00e9gulateur n'analysera pas r\u00e9troactivement les tarifs que vous proposez et ne vous impose pas une amende. <\/p>\n<p><\/p>\n<p>Enfin, il est souvent sous-entendu que nous allons utiliser de tels syst\u00e8mes uniquement pour des projets li\u00e9s aux personnes et aux interactions sociales. Ce n'est pas le cas. Si vous fabriquez des turbines \u00e0 gaz, vous voudrez s\u00fbrement appliquer l'apprentissage automatique \u00e0 la t\u00e9l\u00e9m\u00e9trie transmise par des dizaines ou des centaines de capteurs sur votre produit (les capteurs audio, vid\u00e9o, de temp\u00e9rature et d'autres g\u00e9n\u00e9rent des donn\u00e9es qui peuvent facilement \u00eatre adapt\u00e9es \u00e0 la cr\u00e9ation d'un mod\u00e8le d'apprentissage automatique). Hypoth\u00e9tiquement, vous pourriez dire : \u00ab Voici les donn\u00e9es sur mille turbines tomb\u00e9es en panne, obtenues avant leur rupture, et voici les donn\u00e9es provenant de mille turbines qui ne sont pas tomb\u00e9es en panne. Construisez un mod\u00e8le pour dire quelle est la diff\u00e9rence entre elles \u00bb. Maintenant, imaginez que les capteurs Siemens se trouvent sur 75 % des turbines d\u00e9fectueuses et seulement sur 12 % des bonnes (sans lien avec les pannes). Le syst\u00e8me construira un mod\u00e8le pour d\u00e9tecter les turbines avec des capteurs Siemens. Oups !<\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sur le biais de l&#039;intelligence artificielle\" src=\"\/wp-content\/uploads\/2019\/04\/e8097e4913756fdf04826a6628bc6836.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\nImage \u2014 Moritz Hardt, UC Berkeley<\/p>\n<p><\/p>\n<h2 id=\"upravlenie-predvzyatostyu-ii\">Gestion du biais IA<\/h2>\n<p><\/p>\n<p>Que pouvons-nous y faire ? Nous pouvons aborder la question sous trois angles :<\/p>\n<p><\/p>\n<ol>\n<li>Rigueur m\u00e9thodologique dans la collecte et la gestion des donn\u00e9es pour l'apprentissage du syst\u00e8me.<\/li>\n<li>Outils techniques pour l'analyse et le diagnostic du comportement du mod\u00e8le.<\/li>\n<li>Formation, apprentissage et prudence lors de l'int\u00e9gration de l'apprentissage automatique dans les produits.<\/li>\n<\/ol>\n<p><\/p>\n<p>Dans le livre \u00ab Le Bourgeois Gentilhomme \u00bb de Moli\u00e8re, il y a une blague : un homme se rend compte, avec \u00e9merveillement, que la litt\u00e9rature se divise en prose et en po\u00e9sie, et il d\u00e9couvre qu'il a parl\u00e9 en prose toute sa vie, sans m\u00eame le savoir. C'est probablement ainsi que les statisticiens se sentent aujourd'hui : sans s'en rendre compte, ils ont consacr\u00e9 leur carri\u00e8re \u00e0 l'intelligence artificielle et \u00e0 l'erreur d'\u00e9chantillonnage. Chercher l'erreur d'\u00e9chantillonnage et s'en pr\u00e9occuper n'est pas un nouveau probl\u00e8me, nous devons simplement aborder syst\u00e9matiquement sa r\u00e9solution. Comme mentionn\u00e9 pr\u00e9c\u00e9demment, dans certains cas, il est effectivement plus simple d'\u00e9tudier les probl\u00e8mes li\u00e9s aux donn\u00e9es sur les gens. Nous partons du principe que nous pouvons avoir des pr\u00e9jug\u00e9s \u00e0 l'\u00e9gard de diff\u00e9rents groupes de personnes, mais il est difficile de concevoir un pr\u00e9jug\u00e9 \u00e0 l'\u00e9gard des capteurs Siemens.<\/p>\n<p><\/p>\n<p>La nouveaut\u00e9 dans tout cela, bien s\u00fbr, est que les gens ne r\u00e9alisent plus d'analyses statistiques directement. Elles sont effectu\u00e9es par des machines, qui cr\u00e9ent de grands mod\u00e8les complexes, difficiles \u00e0 comprendre. La question de la transparence est l'un des aspects principaux du probl\u00e8me du biais. Nous avons peur que le syst\u00e8me ne soit pas seulement biais\u00e9, mais qu'il n'y ait aucun moyen de d\u00e9tecter ce biais, et que l'apprentissage automatique se distingue ainsi des autres formes d'automatisation, qui devraient consister en \u00e9tapes logiques claires, v\u00e9rifiables. <\/p>\n<p><\/p>\n<p>Il y a ici deux probl\u00e8mes. Nous pourrions peut-\u00eatre proc\u00e9der \u00e0 un certain audit des syst\u00e8mes d'apprentissage automatique. Et l'audit de tout autre syst\u00e8me n'est en r\u00e9alit\u00e9 pas plus facile.<\/p>\n<p><\/p>\n<p>Tout d'abord, l'un des axes de recherche moderne dans le domaine de l'apprentissage automatique est la recherche de m\u00e9thodes pour identifier les fonctionnalit\u00e9s importantes des syst\u00e8mes d'apprentissage automatique. En m\u00eame temps, l'apprentissage automatique (dans son \u00e9tat actuel) est un tout nouveau domaine scientifique qui \u00e9volue rapidement, donc il ne faut pas penser que les choses aujourd'hui impossibles ne peuvent pas bient\u00f4t devenir tout \u00e0 fait r\u00e9elles. Le projet <noindex><a rel=\"nofollow\" href=\"https:\/\/openai.com\/\">OpenAI<\/a><\/noindex> en est un exemple int\u00e9ressant. <\/p>\n<p><\/p>\n<p>Deuxi\u00e8mement, l'id\u00e9e selon laquelle il est possible d'examiner et de comprendre le processus de prise de d\u00e9cision dans les syst\u00e8mes ou organisations existants est bonne en th\u00e9orie, mais laisse \u00e0 d\u00e9sirer en pratique. Comprendre comment les d\u00e9cisions sont prises dans une grande organisation n'est pas simple. M\u00eame s'il existe un processus formel de prise de d\u00e9cision, celui-ci ne refl\u00e8te pas la mani\u00e8re dont les gens interagissent r\u00e9ellement, et souvent, ces derniers n'ont pas non plus une approche syst\u00e9matique et logique pour prendre leurs d\u00e9cisions. Comme l'a dit mon coll\u00e8gue <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Vijay_S._Pande\">Vijay Pande<\/a><\/noindex>, <strong>les gens sont aussi des bo\u00eetes noires<\/strong>. <\/p>\n<p><\/p>\n<p>Prenez mille personnes dans plusieurs entreprises et institutions intersect\u00e9es, et le probl\u00e8me devient encore plus complexe. Nous savons a posteriori que la navette spatiale \u00ab Space Shuttle \u00bb \u00e9tait destin\u00e9e \u00e0 se d\u00e9sint\u00e9grer lors du retour, et certaines personnes chez NASA avaient des informations leur laissant penser que quelque chose de mauvais pourrait se produire, mais le syst\u00e8me <em>dans son ensemble<\/em> ne le savait pas. NASA venait m\u00eame de passer un audit similaire, ayant perdu la navette pr\u00e9c\u00e9dente, et pourtant, elle a perdu une autre navette pour une raison tr\u00e8s similaire. Il est facile de soutenir que les organisations et les gens suivent des r\u00e8gles logiques claires qui peuvent \u00eatre v\u00e9rifi\u00e9es, comprises et modifi\u00e9es \u2014 mais l'exp\u00e9rience prouve le contraire. C'est le<noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%93%D0%BE%D1%81%D0%BF%D0%BB%D0%B0%D0%BD_%D0%A1%D0%A1%D0%A1%D0%A0\">mythe de Gosplan<\/a><\/noindex>\u00bb.<\/p>\n<p><\/p>\n<p><strong>Je compare souvent l'apprentissage automatique aux bases de donn\u00e9es, en particulier aux bases de donn\u00e9es relationnelles \u2014 une nouvelle technologie fondamentale qui a transform\u00e9 les capacit\u00e9s de l'informatique et le monde qui l'entoure, qui est devenue partie int\u00e9grante de tout ce que nous utilisons constamment sans en \u00eatre conscients.<\/strong> Les bases de donn\u00e9es pr\u00e9sentent \u00e9galement des probl\u00e8mes de nature similaire : le syst\u00e8me peut \u00eatre construit sur de fausses hypoth\u00e8ses ou de mauvaises donn\u00e9es, mais il est difficile de le remarquer, et les personnes qui utilisent le syst\u00e8me feront ce qu'il leur dit sans se poser de questions. Il existe de nombreuses vieilles blagues sur les employ\u00e9s des imp\u00f4ts qui ont un jour mal enregistr\u00e9 votre nom, et les convaincre de corriger l'erreur est bien plus compliqu\u00e9 que de r\u00e9ellement changer de nom. On peut penser \u00e0 cela de diff\u00e9rentes mani\u00e8res, mais il est difficile de dire ce qui est le mieux : comme un probl\u00e8me technique dans SQL, ou comme une erreur dans un release d'Oracle, ou encore comme un \u00e9chec des institutions bureaucratiques ? \u00c0 quel point est-il difficile de trouver l'erreur dans le processus qui a conduit \u00e0 l'absence d'une fonctionnalit\u00e9 comme la correction des fautes de frappe ? Aurait-on pu le comprendre avant que les gens commencent \u00e0 se plaindre ? <\/p>\n<p><\/p>\n<p>Cette probl\u00e9matique est encore plus illustr\u00e9e par les histoires o\u00f9 des conducteurs se retrouvent dans des rivi\u00e8res \u00e0 cause de donn\u00e9es obsol\u00e8tes dans leur GPS. D'accord, les cartes doivent \u00eatre constamment mises \u00e0 jour. Mais dans quelle mesure TomTom est-il responsable du fait que votre voiture est emport\u00e9e par la mer ?<\/p>\n<p><\/p>\n<p>Je dis cela pour dire que oui, le biais de l'apprentissage automatique posera des probl\u00e8mes. Mais ces probl\u00e8mes ressembleront \u00e0 ceux auxquels nous avons d\u00e9j\u00e0 \u00e9t\u00e9 confront\u00e9s par le pass\u00e9, et nous pourrons les remarquer et les r\u00e9soudre (ou pas) \u00e0 peu pr\u00e8s aussi bien que dans le pass\u00e9. Par cons\u00e9quent, le sc\u00e9nario dans lequel un biais de l'IA causerait des dommages est peu probable avec des chercheurs de premier plan travaillant dans une grande organisation. Il est plus probable qu'un petit sous-traitant technologique ou un fournisseur de logiciels \u00e9crive quelque chose \u00e0 la va-vite, en utilisant des composants open source, des biblioth\u00e8ques et des outils qui lui \u00e9chappent. Et un client peu avis\u00e9 se laissera s\u00e9duire par l'expression \u00ab intelligence artificielle \u00bb dans la description du produit et, sans poser de questions, le distribuera \u00e0 ses employ\u00e9s faiblement r\u00e9mun\u00e9r\u00e9s, leur ordonnant de faire ce que dit l'IA. C'est exactement ce qui s'est pass\u00e9 avec les bases de donn\u00e9es. Ce n'est pas un probl\u00e8me d'intelligence artificielle, et ce n'est m\u00eame pas un probl\u00e8me de logiciel. C'est un facteur humain.<\/p>\n<p><\/p>\n<h2 id=\"zaklyuchenie\">Conclusion<\/h2>\n<p><\/p>\n<blockquote><p><em>L'apprentissage automatique peut accomplir tout ce que vous pouvez enseigner \u00e0 un chien, mais vous ne pouvez jamais \u00eatre s\u00fbr de ce que vous avez r\u00e9ellement appris \u00e0 ce chien.<\/em><\/p><\/blockquote>\n<p>Il me semble souvent que le terme \u00ab intelligence artificielle \u00bb emp\u00eache d\u2019aborder des discussions comme celle-ci. Ce terme donne une fausse impression que nous avons en r\u00e9alit\u00e9 cr\u00e9\u00e9 cette intelligence. Que nous sommes en route vers HAL9000 ou Skynet, vers quelque chose qui vraiment comprend. <em>comprendre<\/em>. Mais non. Ce ne sont que des machines, et il est beaucoup plus juste de les comparer, par exemple, \u00e0 une machine \u00e0 laver. Elle fait bien mieux que les humains pour laver, mais si vous y mettez de la vaisselle au lieu de du linge, elle va\u2026 la laver. La vaisselle sera m\u00eame propre. Mais ce ne sera pas ce \u00e0 quoi vous vous attendiez, et cela ne se produira pas parce que le syst\u00e8me a des pr\u00e9jug\u00e9s contre la vaisselle. La machine \u00e0 laver ne sait ni ce qu'est la vaisselle, ni ce qu'est un v\u00eatement - c'est simplement un exemple d'automatisation, conceptuellement semblable \u00e0 la fa\u00e7on dont les processus \u00e9taient automatis\u00e9s autrefois.<\/p>\n<p><\/p>\n<p>Quelle que soit la question en jeu, qu'il s'agisse de machines, d'avions ou de bases de donn\u00e9es, ces syst\u00e8mes seront \u00e0 la fois tr\u00e8s puissants et tr\u00e8s limit\u00e9s. Ils d\u00e9pendront enti\u00e8rement de la fa\u00e7on dont les gens utilisent ces syst\u00e8mes, de leurs intentions, qu'elles soient bonnes ou mauvaises, et de leur compr\u00e9hension de leur fonctionnement.<\/p>\n<p><\/p>\n<p>Par cons\u00e9quent, affirmer que \u00ab l'intelligence artificielle est une question de math\u00e9matiques et qu'elle ne peut donc pas avoir de pr\u00e9jug\u00e9s \u00bb est totalement faux. Mais il est tout aussi faux d'affirmer que l'apprentissage automatique est \u00ab subjectif par nature \u00bb. L'apprentissage automatique identifie des mod\u00e8les dans les donn\u00e9es, et les mod\u00e8les qu'il trouvera d\u00e9pendent des donn\u00e9es, qui d\u00e9pendent de nous. Tout comme ce que nous faisons avec ces donn\u00e9es. L'apprentissage automatique accomplit effectivement certaines t\u00e2ches beaucoup mieux que nous, mais les chiens, par exemple, sont beaucoup plus efficaces que les humains pour d\u00e9tecter des drogues, ce qui ne donne pas lieu \u00e0 les convoquer comme t\u00e9moins et \u00e0 rendre des jugements bas\u00e9s sur leurs t\u00e9moignages. Et les chiens, \u00e0 propos, sont beaucoup plus intelligents que n'importe quel syst\u00e8me d'apprentissage automatique.<\/p>\n<p><strong>Traduction :<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/en\/users\/757NF\/\">Diana Letzkaya<\/a><\/noindex>.<br \/>\n<strong>\u00c9dition :<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">Alexei Ivanov<\/a><\/noindex>.<br \/>\n<strong>Communaut\u00e9 :<\/strong> <noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">@PonchikNews<\/a><\/noindex>.<\/p>\n<p>Source : <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/449224\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014\u00a0\u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":24558,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-32781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.2 - aioseo.com -->\n\t<meta name=\"description\" content=\"tl;dr: .\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/fr\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.2\" \/>\n\t\t<meta property=\"og:locale\" content=\"fr_FR\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"tl;dr: .\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/fr\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Sur le biais de l'intelligence artificielle | ProHoster","description":"tl;dr : .","canonical_url":"https:\/\/prohoster.info\/fr\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"fr_FR","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster","og:description":"tl;dr: .","og:url":"https:\/\/prohoster.info\/fr\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T18:48:54+00:00","article:modified_time":"2019-10-31T18:48:54+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"32781","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-21 12:30:22","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 02:52:26","updated":"2026-01-21 12:30:22","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/posts\/32781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/comments?post=32781"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/posts\/32781\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/media\/24558"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/media?parent=32781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/categories?post=32781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/tags?post=32781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}