Facebook à propos de l'ouverture , capable de déterminer le degré d'identité des photographies et des vidéos, même si de légères modifications y sont apportées. Le réseau social utilise activement ces algorithmes pour lutter contre les contenus contenant des éléments liés à l'exploitation des enfants, à la propagande terroriste et à diverses formes de violence. Facebook note que c'est la première fois qu'il partage une telle technologie, et l'entreprise espère qu'avec son aide, d'autres grands portails et services, de petits studios de développement de logiciels et des organisations à but non lucratif seront en mesure de lutter plus efficacement contre la propagation de médias inappropriés. contenu sur le World Wide Web.
"Lorsque nous trouvons un élément de contenu inapproprié, la technologie peut nous aider à trouver tous les doublons et à les empêcher de se propager", ont écrit la responsable de la sécurité de Facebook, Antigone Davis, et le vice-président de l'intégrité, Guy Rosen, dans le message dédié à la quatrième édition annuelle de Facebook Child. Hackathon de sécurité. « Pour ceux qui utilisent déjà leur propre technologie ou une autre technologie de mise en correspondance de contenu, nos technologies peuvent fournir une autre couche de protection, rendant les systèmes de sécurité beaucoup plus puissants. »
Facebook affirme que les deux algorithmes publiés – PDQ et TMK+PDQ – ont été conçus pour fonctionner avec d'énormes ensembles de données et sont basés sur des modèles et des implémentations existants, notamment pHash, PhotoDNA de Microsoft, aHash et dHash. Par exemple, l'algorithme de correspondance de photos PDQ a été inspiré par pHash mais développé entièrement à partir de zéro par les développeurs de Facebook, tandis que l'algorithme de correspondance de vidéos TMK+PDQF a été créé conjointement par le groupe de recherche en intelligence artificielle de Facebook et des scientifiques de l'Université de Modène et de Reggio Emilia en Italie. .
Les deux algorithmes analysent les fichiers qu'ils recherchent à l'aide de courts hachages numériques, des identifiants uniques qui permettent de déterminer si deux fichiers sont identiques ou similaires, même sans l'image ou la vidéo d'origine. Facebook note que ces hachages peuvent être facilement partagés avec d'autres entreprises et organisations à but non lucratif, ainsi qu'avec des partenaires industriels via le Forum Internet mondial de lutte contre le terrorisme (GIFCT), de sorte que toutes les entreprises intéressées par la sécurité en ligne pourront également supprimer le contenu que Facebook a été signalé comme dangereux s'il est téléchargé sur leurs services.
Le développement de PDQ et TMK+PDQ a suivi Il y a 10 ans, Microsoft tentait de lutter contre la pédopornographie sur Internet. Google a également récemment lancé l'API Content Safety, une plateforme d'intelligence artificielle conçue pour identifier les contenus en ligne contenant des abus sexuels sur des enfants afin de rendre les modérateurs humains plus efficaces.
À son tour, le PDG de Facebook, Mark Zuckerberg, affirme depuis longtemps que l’IA réduira considérablement, dans un avenir proche, le nombre d’abus commis par des millions d’utilisateurs sans scrupules de Facebook. Et en effet, publié en mai la société a indiqué que l’IA et l’apprentissage automatique ont contribué à réduire considérablement le nombre de contenus interdits publiés dans six des neuf catégories de ces contenus.
Source: 3dnews.ru