Včera Facebook další zpráva o zajištění souladu s komunitními standardy sociálních sítí. Společnost poskytuje data a ukazatele za období leden až březen a zvláštní pozornost věnuje celkovému objemu zakázaného obsahu, který skončí na Facebooku, a také procentu, které sociální síť úspěšně odstranila ve fázi zveřejnění nebo alespoň než to mohl být viděn náhodný uživatel sociální sítě. Facebook si všímá zvláštní role umělé inteligence (AI), bez které by společnost prostě nebyla schopna filtrovat tak šílené množství obsahu.
Umělá inteligence a strojové učení podle Facebooku pomohly výrazně snížit množství zakázaného obsahu na sociální síti. V šesti z devíti kategorií sledovaných ve zprávě společnost uvádí, že pomocí umělé inteligence byla schopna proaktivně detekovat 96,8 % nevhodných příspěvků a odstranit je dříve, než si jich mohl všimnout kdokoli (ve srovnání s 96,2 % ve 4. čtvrtletí 2018). Pokud jde o nenávistné projevy, zpráva zjistila, že umělá inteligence pomohla identifikovat 65 % z více než čtyř milionů takových příspěvků odstraněných z Facebooku každé čtvrtletí, což je nárůst z 24 % před více než rokem a 59 % ve 4. čtvrtletí 2018.
Facebook také používá AI k identifikaci příspěvků, osobních reklam, fotografií a videí, které porušují jeho pravidla pro reklamu a prodej zakázaných věcí, jako jsou drogy a střelné zbraně. V prvním čtvrtletí roku 2019 společnost uvedla, že přijala opatření u přibližně 900 000 příspěvků souvisejících s prodejem drog, z nichž 83,3 % bylo odhaleno pomocí umělé inteligence. Ve stejném období Facebook také identifikoval a odstranil přibližně 670 000 příspěvků o prodeji střelných zbraní, z nichž 69,9 % bylo zpracováno dříve, než se s nimi mohli setkat moderátoři nebo uživatelé.
Různá vylepšení v algoritmech umělé inteligence vedla ke snížení celkového objemu zakázaného obsahu prohlíženého na Facebooku. Společnost odhaduje, že na každých 10 000 návštěv sociální sítě se pouze 11 až 14 uživatelů setkalo s pornografickým obsahem a pouze 25 si mohlo všimnout příspěvků obsahujících krutost a násilí. Pokud jde o terorismus, dětskou nahotu a sexuální vykořisťování, čísla jsou ještě nižší. Facebook uvádí, že v prvním čtvrtletí roku 1 na každých 2019 10 zhlédnutí na sociální síti připadaly na podobný obsah méně než tři.
„Proaktivním sledováním urážlivých příspěvků umožňuje tato technologie našemu týmu zaměřit se na identifikaci trendů ve způsobu, jakým se zneužívající snaží obejít naše omezení,“ napsal na blogu Guy Rosen, viceprezident pro bezpečnost obsahu Facebooku. "Pokračujeme v investicích do technologií, abychom rozšířili naši schopnost odhalovat nevhodný obsah napříč jazyky a regiony."
Další oblastí, ve které Facebook využívá umělou inteligenci, jsou spamové účty. Na výroční vývojářské konferenci F8 v San Franciscu řekl technologický ředitel společnosti Mike Schroepfe, že za jediné čtvrtletí Facebook zablokoval více než miliardu spamových účtů, více než 700 milionů falešných účtů a desítky milionů kusů obsahu obsahujícího nahotu. a násilí. Umělá inteligence je podle něj v těchto kategoriích hlavním zdrojem detekce a protiopatření. Pokud jde o tvrdá čísla, Facebook pozastavil 1,2 miliardy účtů ve 4. čtvrtletí 2018 a 2,19 miliardy v 1. čtvrtletí 2019.
Zdroj: 3dnews.ru