Facebook ачылышы жөнүндө , сүрөттөргө жана видеолорго кичине өзгөртүүлөр киргизилсе да, алардын идентификациялык даражасын аныктоого жөндөмдүү. Социалдык тармак бул алгоритмдерди балдарды эксплуатациялоого, террордук пропагандага жана зордук-зомбулуктун ар кандай түрлөрүнө байланыштуу материалдарды камтыган мазмунга каршы активдүү колдонот. Facebook мындай технология менен биринчи жолу бөлүшүп жатканын белгилейт жана компания анын жардамы менен башка ири порталдар жана кызматтар, программалык камсыздоону иштеп чыгуучу чакан студиялар жана коммерциялык эмес уюмдар туура эмес маалымат каражаттарынын жайылышына каршы натыйжалуу күрөшө алат деп үмүттөнөт. бүткүл дүйнөлүк желедеги мазмун.
"Биз ылайыксыз мазмундун бир бөлүгүн тапканда, технология бизге бардык дубликаттарды таап, алардын жайылышына жол бербөөгө жардам берет", - деп жазган Facebookтун башкы коопсуздук кызматкери Антигон Дэвис жана ак ниеттик боюнча вице-президенти Гай Розен төртүнчү жылдык Facebook Child Коопсуздук Хакатон. "Өзүнүн же башка мазмунга дал келүүчү технологияларды колдонгондор үчүн биздин технологиялар коопсуздук тутумдарын алда канча күчтүү кылып, коргоонун башка катмарын камсыздай алат."
Facebook жарыяланган эки алгоритм - PDQ жана TMK+PDQ - чоң маалымат топтомдору менен иштөө үчүн иштелип чыккан жана pHash, Microsoft PhotoDNA, aHash жана dHash сыяктуу учурдагы моделдерге жана ишке ашырууларга негизделген деп ырастайт. Мисалы, PDQ сүрөттөрүн далдаштыруу алгоритми pHash тарабынан шыктандырылып, бирок толугу менен Facebookтун иштеп чыгуучулары тарабынан нөлдөн баштап иштелип чыккан, ал эми TMK+PDQF видео дал келүү алгоритми Facebookтун жасалма интеллект изилдөө тобу жана Модена университетинин жана Италиянын Реджо Эмилия илимпоздору тарабынан биргелешип түзүлгөн. .
Эки алгоритм тең кыска санарип хэштерди, эки файлдын окшош же окшош экендигин аныктоого жардам берген уникалдуу идентификаторлор аркылуу издеп жаткан файлдарды талдайт, ал тургай баштапкы сүрөтү же видеосу жок. Facebook бул хэштерди башка компаниялар жана коммерциялык эмес уюмдар, ошондой эле терроризмге каршы күрөшүү боюнча глобалдык интернет форуму (GIFCT) аркылуу тармактык өнөктөштөр менен оңой бөлүшө аларын белгилейт, андыктан онлайн коопсуздукка кызыккан бардык компаниялар ошондой эле төмөнкүдөй белгиленген мазмунду өчүрө алышат. Фейсбук алардын кызматтарына жүктөлгөн болсо, кооптуу.
Андан кийин PDQ жана TMK+PDQ иштелип чыкты 10 жыл мурун Майкрософт интернеттеги балдар порнографиясы менен күрөшүү аракетинде. Google ошондой эле жакында эле Content Safety API ишке киргизди, жасалма интеллект платформасы, адам модераторлорун натыйжалуураак кылуу үчүн балдарга сексуалдык зомбулуктун онлайн материалдарын аныктоого багытталган.
Өз кезегинде Facebookтун башкы директору Марк Цукерберг AI жакынкы келечекте Facebookтун миллиондогон абийирсиз колдонуучулары тарабынан жасалган кыянаттыктардын көлөмүн кыйла азайтат деп көптөн бери ырастап келет. Жана, чынында эле, май айында жарыяланган компания AI жана машина үйрөнүү мындай мазмундун тогуз категориясынын алтоосунда жарыяланган тыюу салынган мазмундун санын олуттуу кыскартууга жардам бергенин билдирди.
Source: 3dnews.ru