Hier Facebook un autre rapport sur la garantie du respect des normes communautaires des réseaux sociaux. L'entreprise fournit des données et des indicateurs pour la période de janvier à mars et accorde une attention particulière au volume total de contenus interdits qui se retrouvent sur Facebook, ainsi qu'au pourcentage de ceux-ci que le réseau social a réussi à supprimer au stade de la publication ou du moins. avant qu'il puisse être vu par un utilisateur aléatoire du réseau social. Facebook souligne le rôle particulier de l'intelligence artificielle (IA), sans laquelle l'entreprise n'aurait tout simplement pas été en mesure de filtrer une quantité aussi insensée de contenu.
Selon Facebook, l'intelligence artificielle et l'apprentissage automatique ont contribué à réduire considérablement la quantité de contenus interdits sur le réseau social. Dans six des neuf catégories suivies dans le rapport, l'entreprise affirme qu'en utilisant l'IA, elle a pu détecter de manière proactive 96,8 % des publications inappropriées et les supprimer avant qu'un humain ne puisse les remarquer (contre 96,2 % au 4e trimestre 2018). En ce qui concerne les discours de haine, le rapport révèle que l'IA a permis d'identifier 65 % des plus de quatre millions de publications de ce type supprimées de Facebook chaque trimestre, contre 24 % il y a un peu plus d'un an et 59 % au quatrième trimestre 4.
Facebook utilise également l'IA pour identifier les publications, les publicités personnelles, les photos et les vidéos qui enfreignent ses règles en matière de publicité et de vente d'articles interdits tels que les drogues et les armes à feu. Au premier trimestre 2019, la société a déclaré avoir pris des mesures concernant environ 900 000 publications liées à la vente de médicaments, dont 83,3 % ont été détectées grâce à l'intelligence artificielle. Au cours de la même période, Facebook a également identifié et supprimé environ 670 000 publications concernant la vente d'armes à feu, dont 69,9 % ont été traitées avant que les modérateurs ou les utilisateurs puissent les rencontrer.
Diverses améliorations des algorithmes d’intelligence artificielle ont conduit à une diminution du volume global de contenus interdits consultés sur Facebook. L'entreprise estime que pour 10 000 visites sur le réseau social, seuls 11 à 14 utilisateurs ont rencontré du contenu pornographique, et seulement 25 ont pu remarquer des messages contenant de la cruauté et de la violence. Lorsqu’il s’agit de terrorisme, de nudité d’enfants et d’exploitation sexuelle, les chiffres sont encore plus faibles. Facebook rapporte qu'au premier trimestre 1, pour 2019 10 vues sur le réseau social, moins de trois concernaient un contenu similaire.
"En surveillant de manière proactive les publications abusives, cette technologie permet à notre équipe de se concentrer sur l'identification des tendances dans la manière dont les agresseurs tentent de contourner nos restrictions", a écrit Guy Rosen, vice-président de la sécurité du contenu de Facebook, dans un article de blog. "Nous continuons d'investir dans la technologie pour étendre notre capacité à détecter les contenus inappropriés dans toutes les langues et régions."
Un autre domaine dans lequel Facebook utilise l’intelligence artificielle est celui des comptes de spam. Lors de la conférence annuelle des développeurs F8 de l'entreprise à San Francisco, le directeur de la technologie de l'entreprise, Mike Schroepfe, a déclaré qu'en un seul trimestre, Facebook avait bloqué plus d'un milliard de comptes de spam, plus de 700 millions de faux comptes et des dizaines de millions de contenus contenant de la nudité. et les violences. Selon lui, l’IA est la principale source de détection et de lutte dans ces catégories. En termes de chiffres concrets, Facebook a suspendu 1,2 milliard de comptes au quatrième trimestre 4 et 2018 milliards au premier trimestre 2,19.
Source: 3dnews.ru