La empresa Bumble, que desarrolla uno de los mayores servicios de citas en línea, ha abierto el código fuente del sistema de aprendizaje automático Private Detector que se utiliza para detectar imágenes obscenas en fotos subidas al servicio. El sistema está escrito en Python, utiliza el framework Tensorflow y se distribuye bajo la licencia Apache-2.0. Para la clasificación se utiliza la red neuronal convolucional EfficientNet v2. Se puede descargar un modelo listo para identificar imágenes de personas desnudas. La precisión de la determinación es superior al 98%.
También incluye un script para crear modelos personalizados que pueden entrenarse en su colección y usarse para clasificar contenido arbitrario. Para el entrenamiento, basta con ejecutar el script con archivos de texto que contengan listas de imágenes con propiedades positivas y negativas. Una vez completada la capacitación, puede transferir una imagen arbitraria al detector privado y, en función de ella, se calculará la tasa de aciertos.
Fuente: opennet.ru