Bydd algorithmau Facebook yn helpu cwmnïau rhyngrwyd i chwilio am fideos a delweddau dyblyg i frwydro yn erbyn cynnwys amhriodol

Facebook cyhoeddi am yr agoriad cod ffynhonnell dau algorithm, yn gallu pennu graddau hunaniaeth ar gyfer ffotograffau a fideos, hyd yn oed os gwneir newidiadau bach iddynt. Mae'r rhwydwaith cymdeithasol yn defnyddio'r algorithmau hyn yn weithredol i frwydro yn erbyn cynnwys sy'n cynnwys deunyddiau sy'n ymwneud â chamfanteisio ar blant, propaganda terfysgol a gwahanol fathau o drais. Mae Facebook yn nodi mai dyma'r tro cyntaf iddo rannu technoleg o'r fath, ac mae'r cwmni'n gobeithio, gyda'i help, y bydd pyrth a gwasanaethau mawr eraill, stiwdios datblygu meddalwedd bach a sefydliadau dielw yn gallu brwydro yn erbyn lledaeniad cyfryngau amhriodol yn fwy effeithiol. cynnwys ar y We Fyd Eang.

“Pan fyddwn yn dod o hyd i ddarn o gynnwys amhriodol, gall technoleg ein helpu i ddod o hyd i’r holl ddyblygiadau a’u hatal rhag lledaenu,” ysgrifennodd prif swyddog diogelwch Facebook Antigone Davis ac is-lywydd uniondeb Guy Rosen yn y post ymroddedig i bedwerydd Facebook Child blynyddol Hacathon Diogelwch. “I’r rhai sydd eisoes yn defnyddio eu technoleg paru cynnwys eu hunain neu dechnoleg paru cynnwys arall, gall ein technolegau ddarparu haen arall o amddiffyniad, gan wneud systemau diogelwch yn llawer mwy pwerus.”

Mae Facebook yn honni bod y ddau algorithm cyhoeddedig - PDQ a TMK + PDQ - wedi'u cynllunio i weithio gyda setiau data enfawr a'u bod yn seiliedig ar fodelau a gweithrediadau presennol, gan gynnwys pHash, PhotoDNA Microsoft, aHash a dHash. Er enghraifft, ysbrydolwyd yr algorithm paru lluniau PDQ gan pHash ond fe'i datblygwyd yn gyfan gwbl o'r newydd gan ddatblygwyr Facebook, tra bod yr algorithm paru fideo TMK + PDQF wedi'i greu ar y cyd gan grŵp ymchwil deallusrwydd artiffisial Facebook a gwyddonwyr o Brifysgol Modena a Reggio Emilia yn yr Eidal .

Mae'r ddau algorithm yn dadansoddi'r ffeiliau y maent yn chwilio amdanynt gan ddefnyddio hashes digidol byr, dynodwyr unigryw sy'n helpu i benderfynu a yw dwy ffeil yr un peth neu'n debyg, hyd yn oed heb y ddelwedd neu'r fideo gwreiddiol. Mae Facebook yn nodi y gellir rhannu'r hashes hyn yn hawdd â chwmnïau eraill a di-elw, yn ogystal â phartneriaid diwydiant trwy'r Fforwm Rhyngrwyd Byd-eang i Gwrthderfysgaeth (GIFCT), felly bydd pob cwmni sydd â diddordeb mewn diogelwch ar-lein hefyd yn gallu dileu cynnwys y mae Facebook wedi nodi ei fod yn anniogel. os caiff ei lanlwytho i'w gwasanaethau.

Dilynodd datblygiad PDQ a TMK+PDQ rhyddhau'r PhotoDNA uchod 10 mlynedd yn ôl mewn ymgais i frwydro yn erbyn pornograffi plant ar y Rhyngrwyd gan Microsoft. Yn ddiweddar hefyd, lansiodd Google yr API Diogelwch Cynnwys, platfform deallusrwydd artiffisial a ddyluniwyd i nodi deunydd cam-drin plant yn rhywiol ar-lein i wneud cymedrolwyr dynol yn fwy effeithiol.

Yn ei dro, mae Prif Swyddog Gweithredol Facebook, Mark Zuckerberg, wedi dadlau ers tro y bydd AI yn y dyfodol agos yn lleihau'n sylweddol faint o gam-drin a gyflawnir gan filiynau o ddefnyddwyr Facebook diegwyddor. Ac yn wir, yn cael ei gyhoeddi ym mis Mai Adroddiad Cydymffurfiaeth Safonau Cymunedol Facebook adroddodd y cwmni fod AI a dysgu peirianyddol wedi helpu i leihau'n sylweddol nifer y cynnwys gwaharddedig a gyhoeddwyd mewn chwech o naw categori o gynnwys o'r fath.

Ffynhonnell: 3dnewyddion.ru