Facebook om öppningen , som kan bestämma graden av identitet för fotografier och videor, även om små ändringar görs i dem. Det sociala nätverket använder aktivt dessa algoritmer för att bekämpa innehåll som innehåller material relaterat till utnyttjande av barn, terroristpropaganda och olika former av våld. Facebook noterar att det är första gången man delar med sig av sådan teknik, och företaget hoppas att andra stora portaler och tjänster, små mjukvaruutvecklingsstudior och ideella organisationer kommer att kunna bekämpa spridningen av olämpliga medier mer effektivt. innehåll på World Wide Web.
"När vi hittar ett stycke olämpligt innehåll kan tekniken hjälpa oss att hitta alla dubbletter och förhindra dem från att spridas", skrev Facebooks säkerhetschef Antigone Davis och vicepresident för integritet Guy Rosen i inlägget. Tillägnat det fjärde årliga Facebook Child Säkerhet Hackathon. "För dem som redan använder sin egen eller annan teknik för innehållsmatchning kan vår teknik ge ytterligare ett skyddsskikt, vilket gör säkerhetssystemen mycket kraftfullare."
Facebook hävdar att de två publicerade algoritmerna – PDQ och TMK+PDQ – var designade för att fungera med enorma datamängder och är baserade på befintliga modeller och implementeringar, inklusive pHash, Microsofts PhotoDNA, aHash och dHash. Till exempel var fotomatchningsalgoritmen PDQ inspirerad av pHash men utvecklades helt från grunden av Facebook-utvecklare, medan videomatchningsalgoritmen TMK+PDQF skapades gemensamt av Facebooks forskargrupp för artificiell intelligens och forskare från University of Modena och Reggio Emilia i Italien .
Båda algoritmerna analyserar filerna de letar efter med korta digitala hash, unika identifierare som hjälper till att avgöra om två filer är lika eller liknande, även utan originalbilden eller videon. Facebook noterar att dessa hash enkelt kan delas med andra företag och ideella organisationer, såväl som branschpartners genom Global Internet Forum to Counter Terrorism (GIFCT), så alla företag som är intresserade av onlinesäkerhet kommer också att kunna ta bort innehåll som Facebook har flaggats som osäker. om den laddas upp till deras tjänster.
Utvecklingen av PDQ och TMK+PDQ följde 10 år sedan i ett försök att bekämpa barnpornografi på Internet av Microsoft. Google lanserade också nyligen Content Safety API, en plattform för artificiell intelligens utformad för att identifiera material för sexuella övergrepp på barn online för att göra mänskliga moderatorer mer effektiva.
I sin tur har Facebooks vd Mark Zuckerberg länge hävdat att AI inom en snar framtid avsevärt kommer att minska mängden missbruk som begås av miljontals skrupelfria Facebook-användare. Och faktiskt i publicerad i maj företaget rapporterade att AI och maskininlärning avsevärt bidrog till att minska antalet förbjudet innehåll som publicerades i sex av nio kategorier av sådant innehåll.
Källa: 3dnews.ru