범블(Bumble), 음란영상 감지 머신러닝 시스템 공개

최대 규모의 온라인 데이트 서비스 중 하나를 개발하는 Bumble은 서비스에 업로드된 사진에서 음란한 이미지를 식별하는 데 사용되는 Private Detector 머신러닝 시스템의 소스 코드를 공개했습니다. 이 시스템은 Python으로 작성되었으며 Tensorflow 프레임워크를 사용하고 Apache-2.0 라이선스에 따라 배포됩니다. EfficientNet v2 컨벌루션 신경망은 분류에 사용됩니다. 벌거벗은 사람의 이미지를 식별하기 위한 기성 모델을 다운로드할 수 있습니다. 판정 정확도는 98% 이상이다.

또한 컬렉션에 대해 교육하고 임의의 콘텐츠를 분류하는 데 사용할 수 있는 자신만의 모델을 만드는 스크립트도 포함되어 있습니다. 훈련을 위해서는 긍정적 속성과 부정적 속성을 가진 이미지 목록이 포함된 텍스트 파일로 스크립트를 실행하는 것으로 충분합니다. 학습이 완료된 후 임의의 이미지를 Private Detector로 보낼 수 있으며 이를 기반으로 적중률이 계산됩니다.

출처 : opennet.ru