Facebook om åpningen , i stand til å bestemme graden av identitet for fotografier og videoer, selv om det gjøres små endringer i dem. Det sosiale nettverket bruker aktivt disse algoritmene for å bekjempe innhold som inneholder materiale relatert til utnyttelse av barn, terrorpropaganda og ulike former for vold. Facebook bemerker at dette er første gang de deler slik teknologi, og selskapet håper at andre store portaler og tjenester, små programvareutviklingsstudioer og ideelle organisasjoner vil kunne bekjempe spredningen av upassende medier mer effektivt. innhold på World Wide Web.
"Når vi finner et stykke upassende innhold, kan teknologi hjelpe oss med å finne alle duplikatene og hindre dem i å spre seg," skrev Facebooks sikkerhetssjef Antigone Davis og visepresident for integritet Guy Rosen i innlegget dedikert til det fjerde årlige Facebook Child Sikkerhetshackathon. "For de som allerede bruker sin egen eller annen teknologi for innholdsmatching, kan teknologiene våre gi enda et lag med beskyttelse, noe som gjør sikkerhetssystemene mye kraftigere."
Facebook hevder at de to publiserte algoritmene – PDQ og TMK+PDQ – ble designet for å fungere med enorme datasett og er basert på eksisterende modeller og implementeringer, inkludert pHash, Microsofts PhotoDNA, aHash og dHash. For eksempel ble bildematchingsalgoritmen PDQ inspirert av pHash, men utviklet helt fra grunnen av Facebook-utviklere, mens videomatchingsalgoritmen TMK+PDQF ble laget i fellesskap av Facebooks forskningsgruppe for kunstig intelligens og forskere fra University of Modena og Reggio Emilia i Italia .
Begge algoritmene analyserer filene de leter etter ved hjelp av korte digitale hashes, unike identifikatorer som hjelper til med å avgjøre om to filer er like eller like, selv uten originalbildet eller videoen. Facebook bemerker at disse hashene enkelt kan deles med andre selskaper og ideelle organisasjoner, så vel som industripartnere gjennom Global Internet Forum to Counter Terrorism (GIFCT), slik at alle selskaper som er interessert i nettsikkerhet også vil kunne fjerne innhold flagget av Facebook som utrygt hvis det er lastet opp til deres tjenester.
Utviklingen av PDQ og TMK+PDQ fulgte 10 år siden i et forsøk på å bekjempe barnepornografi på Internett av Microsoft. Google lanserte også nylig Content Safety API, en plattform for kunstig intelligens designet for å identifisere materiale om seksuelt misbruk av barn på nettet for å gjøre menneskelige moderatorer mer effektive.
På sin side har Facebook-sjef Mark Zuckerberg lenge hevdet at AI i nær fremtid vil redusere mengden misbruk begått av millioner av skruppelløse Facebook-brukere betydelig. Og faktisk publisert i mai selskapet rapporterte at AI og maskinlæring bidro til å redusere antallet forbudt innhold som ble publisert i seks av ni kategorier av slikt innhold betydelig.
Kilde: 3dnews.ru