A Bumble, que desenvolve um dos maiores serviços de namoro online, abriu o código-fonte do sistema de aprendizado de máquina Private Detector, usado para identificar imagens indecentes em fotos enviadas ao serviço. O sistema é escrito em Python, usa o framework Tensorflow e é distribuído sob a licença Apache-2.0. A rede neural convolucional EfficientNet v2 é usada para classificação. Um modelo pronto para identificação de imagens de pessoas nuas está disponível para download. A precisão da determinação é superior a 98%.
Também inclui um script para criar seus próprios modelos, que você pode treinar em sua coleção e usar para classificar conteúdo arbitrário. Para o treinamento, basta executar um script com arquivos de texto contendo listas de imagens com propriedades positivas e negativas. Após a conclusão do treinamento, você pode enviar uma imagem arbitrária para o Private Detector e a taxa de acerto será calculada com base nela.
Fonte: opennet.ru