Bumble, som utvecklar en av de största onlinedejtingtjänsterna, har öppnat källkoden till Private Detectors maskininlärningssystem, som används för att identifiera oanständiga bilder i foton som laddats upp till tjänsten. Systemet är skrivet i Python, använder Tensorflow-ramverket och distribueras under Apache-2.0-licensen. EfficientNet v2 faltningsneurala nätverk används för klassificering. En färdig modell för att identifiera bilder av nakna människor finns att ladda ner. Bestämningsnoggrannheten är mer än 98%.
Det innehåller också ett skript för att skapa dina egna modeller, som du kan träna på din samling och använda för att klassificera godtyckligt innehåll. För träning räcker det att köra ett skript med textfiler som innehåller listor med bilder med positiva och negativa egenskaper. När träningen är klar kan du skicka en godtycklig bild till Private Detector och träfffrekvensen beräknas utifrån den.
Källa: opennet.ru