Facebook o otvaranju , sposoban za određivanje stepena identiteta za fotografije i video zapise, čak i ako se na njima naprave male promjene. Društvena mreža aktivno koristi ove algoritme u borbi protiv sadržaja koji sadrže materijale vezane za eksploataciju djece, terorističku propagandu i različite oblike nasilja. Facebook napominje da je ovo prvi put da dijeli takvu tehnologiju, a kompanija se nada da će uz njenu pomoć i drugi veliki portali i servisi, mali studiji za razvoj softvera i neprofitne organizacije moći efikasnije da se bore protiv širenja neprikladnih medija. sadržaja na World Wide Webu.
"Kada pronađemo komad neprikladnog sadržaja, tehnologija nam može pomoći da pronađemo sve duplikate i spriječimo njihovo širenje", napisali su u postu posvećenom četvrtom godišnjem događaju Facebook Child-a Antigone Davis i potpredsjednik odjela za integritet, Guy Rosen. Sigurnosni hakaton. “Za one koji već koriste vlastitu ili drugu tehnologiju podudaranja sadržaja, naše tehnologije mogu pružiti još jedan sloj zaštite, čineći sigurnosne sisteme mnogo moćnijim.”
Facebook tvrdi da su dva objavljena algoritma - PDQ i TMK+PDQ - dizajnirana za rad sa ogromnim skupovima podataka i bazirana na postojećim modelima i implementacijama, uključujući pHash, Microsoftov PhotoDNA, aHash i dHash. Na primjer, algoritam za uparivanje fotografija PDQ inspiriran je pHash-om, ali su ga u potpunosti iz početka razvili Facebook programeri, dok su algoritam za uparivanje video zapisa TMK+PDQF zajednički kreirali Facebook-ova istraživačka grupa za umjetnu inteligenciju i naučnici sa Univerziteta Modena i Reggio Emilia u Italiji. .
Oba algoritma analiziraju datoteke koje traže koristeći kratke digitalne hešove, jedinstvene identifikatore koji pomažu u određivanju jesu li dvije datoteke iste ili slične, čak i bez originalne slike ili videa. Facebook napominje da se ovi hešovi mogu lako dijeliti s drugim kompanijama i neprofitnim organizacijama, kao i industrijskim partnerima putem Globalnog internet foruma za borbu protiv terorizma (GIFCT), tako da će sve kompanije zainteresirane za sigurnost na mreži također moći ukloniti sadržaj koji Facebook je označeno kao nesigurno ako je otpremljeno na njihove usluge.
Uslijedio je razvoj PDQ i TMK+PDQ Prije 10 godina u pokušaju Microsofta da se bori protiv dječje pornografije na internetu. Google je također nedavno pokrenuo Content Safety API, platformu umjetne inteligencije dizajniranu za identifikaciju onlajn materijala o seksualnom zlostavljanju djece kako bi ljudski moderatori bili efikasniji.
Zauzvrat, izvršni direktor Facebooka Mark Zuckerberg dugo je tvrdio da će AI u bliskoj budućnosti značajno smanjiti količinu zloupotrebe koju počine milioni beskrupuloznih korisnika Facebooka. I zaista, objavljeno u maju kompanija je izvijestila da su AI i strojno učenje pomogli značajno smanjiti broj zabranjenih sadržaja objavljenih u šest od devet kategorija takvog sadržaja.
izvor: 3dnews.ru