Facebook acerca de la apertura , capaz de determinar el grado de identidad de fotografías y vídeos, incluso si se les realizan pequeños cambios. La red social utiliza activamente estos algoritmos para combatir contenidos que contienen materiales relacionados con la explotación infantil, propaganda terrorista y diversas formas de violencia. Facebook señala que es la primera vez que comparte dicha tecnología y la compañía espera que con su ayuda otros grandes portales y servicios, pequeños estudios de desarrollo de software y organizaciones sin fines de lucro puedan combatir más eficazmente la difusión de medios inapropiados. contenidos en la World Wide Web.
“Cuando encontramos un contenido inapropiado, la tecnología puede ayudarnos a encontrar todos los duplicados y evitar que se propaguen”, escribieron la directora de seguridad de Facebook, Antigone Davis, y el vicepresidente de integridad, Guy Rosen, en la publicación dedicada a la cuarta edición anual de Facebook Child. Hackatón de seguridad. "Para aquellos que ya utilizan su propia tecnología u otra de comparación de contenidos, nuestras tecnologías pueden proporcionar otra capa de protección, haciendo que los sistemas de seguridad sean mucho más potentes".
Facebook afirma que los dos algoritmos publicados, PDQ y TMK+PDQ, fueron diseñados para funcionar con enormes conjuntos de datos y se basan en modelos e implementaciones existentes, incluidos pHash, PhotoDNA de Microsoft, aHash y dHash. Por ejemplo, el algoritmo de comparación de fotografías PDQ se inspiró en pHash pero fue desarrollado completamente desde cero por los desarrolladores de Facebook, mientras que el algoritmo de comparación de videos TMK+PDQF fue creado conjuntamente por el grupo de investigación de inteligencia artificial de Facebook y científicos de la Universidad de Módena y Reggio Emilia en Italia. .
Ambos algoritmos analizan los archivos que buscan utilizando hashes digitales cortos, identificadores únicos que ayudan a determinar si dos archivos son iguales o similares, incluso sin la imagen o el video original. Facebook señala que estos hashes se pueden compartir fácilmente con otras empresas y organizaciones sin fines de lucro, así como con socios de la industria a través del Foro Global de Internet para Contrarrestar el Terrorismo (GIFCT), por lo que todas las empresas interesadas en la seguridad en línea también podrán eliminar el contenido que Facebook ha marcado como inseguro si se sube a sus servicios.
Siguió el desarrollo de PDQ y TMK+PDQ. Hace 10 años en un intento de combatir la pornografía infantil en Internet por parte de Microsoft. Google también lanzó recientemente Content Safety API, una plataforma de inteligencia artificial diseñada para identificar material de abuso sexual infantil en línea para hacer que los moderadores humanos sean más efectivos.
A su vez, el director ejecutivo de Facebook, Mark Zuckerberg, ha sostenido durante mucho tiempo que la IA reducirá significativamente en un futuro próximo la cantidad de abusos cometidos por millones de usuarios sin escrúpulos de Facebook. Y de hecho, en publicado en mayo La compañía informó que la inteligencia artificial y el aprendizaje automático ayudaron a reducir significativamente la cantidad de contenido prohibido publicado en seis de las nueve categorías de dicho contenido.
Fuente: 3dnews.ru