Facebook a nyitásról , amely képes meghatározni a fényképek és videók azonosságának fokát, még akkor is, ha apró változtatásokat hajtanak végre rajtuk. A közösségi hálózat aktívan használja ezeket az algoritmusokat a gyermekek kizsákmányolásával, a terrorista propagandával és az erőszak különféle formáival kapcsolatos anyagokat tartalmazó tartalmak elleni küzdelemben. A Facebook megjegyzi, hogy most először oszt meg ilyen technológiát, és a cég reméli, hogy segítségével más nagy portálok és szolgáltatások, kis szoftverfejlesztő stúdiók és non-profit szervezetek is hatékonyabban tudnak majd küzdeni a nem megfelelő média terjedése ellen. tartalom a világhálón.
„Amikor találunk egy darab nem megfelelő tartalmat, a technológia segíthet megtalálni az összes másolatot, és megakadályozni, hogy elterjedjenek” – írta Antigone Davis, a Facebook biztonsági igazgatója és Guy Rosen, a feddhetetlenségért felelős alelnök a negyedik alkalommal megrendezett Facebook Child-nek szentelt bejegyzésében. Biztonsági Hackathon. „Azok számára, akik már használják saját vagy más tartalomegyeztetési technológiájukat, technológiáink egy újabb védelmi réteget nyújthatnak, és sokkal erősebbé teszik a biztonsági rendszereket.”
A Facebook azt állítja, hogy a két közzétett algoritmust – a PDQ-t és a TMK+PDQ-t – úgy tervezték, hogy hatalmas adathalmazokkal dolgozzanak, és meglévő modelleken és megvalósításokon alapulnak, beleértve a pHash-t, a Microsoft PhotoDNA-ját, az aHash-t és a dHash-t. Például a PDQ fotóegyeztetési algoritmust a pHash ihlette, de teljesen a nulláról fejlesztették ki a Facebook fejlesztői, míg a TMK+PDQF videóillesztő algoritmust a Facebook mesterséges intelligencia kutatócsoportja, valamint a Modenai Egyetem és az olaszországi Reggio Emilia tudósai közösen hozták létre. .
Mindkét algoritmus elemzi a keresett fájlokat rövid digitális hash-ek, egyedi azonosítók segítségével, amelyek segítenek meghatározni, hogy két fájl azonos vagy hasonló, még az eredeti kép vagy videó nélkül is. A Facebook megjegyzi, hogy ezek a hash-ek könnyen megoszthatók más cégekkel és non-profit szervezetekkel, valamint iparági partnerekkel a Globális Internet Fórum a Terrorelhárítási Fórumon (GIFCT) keresztül, így minden online biztonság iránt érdeklődő vállalat eltávolíthatja majd a Facebook által a tartalmat. nem biztonságosként jelölte meg. ha fel van töltve a szolgáltatásaikra.
A PDQ és a TMK+PDQ fejlesztése következett 10 évvel ezelőtt, amikor a Microsoft megpróbálta leküzdeni a gyermekpornográfiát az interneten. A Google a közelmúltban elindította a Content Safety API-t is, egy mesterséges intelligencia platformot, amelynek célja a gyermekek szexuális zaklatását ábrázoló online anyagok azonosítása, hogy az emberi moderátorok hatékonyabbak legyenek.
Mark Zuckerberg, a Facebook vezérigazgatója viszont régóta érvelt amellett, hogy a mesterséges intelligencia a közeljövőben jelentősen csökkenteni fogja a gátlástalan Facebook-felhasználók milliói által elkövetett visszaélések számát. És valóban, májusban jelent meg a vállalat arról számolt be, hogy az AI és a gépi tanulás jelentősen csökkentette a tiltott tartalmak számát az ilyen tartalom kilenc kategóriájából hatban.
Forrás: 3dnews.ru