AI помага на Facebook да открие и премахне до 96,8% от забраненото съдържание

Вчера Facebook публикувано Друг доклад за осигуряване на съответствие със стандартите на общността на социалните мрежи. Компанията предоставя данни и показатели за периода от януари до март и обръща специално внимание на общия обем забранено съдържание, което попада във Facebook, както и процента от него, който социалната мрежа е премахнала успешно на етапа на публикуване или поне преди да може да бъде видян случаен потребител на социалната мрежа. Facebook отбелязва специалната роля на изкуствения интелект (AI), без който компанията просто не би могла да филтрира такова безумно количество съдържание.

Според Facebook изкуственият интелект и машинното обучение са помогнали значително да се намали количеството забранено съдържание в социалната мрежа. В шест от деветте категории, проследени в доклада, компанията казва, че използвайки AI, е успяла да открие проактивно 96,8% от неподходящите публикации и да ги премахне, преди някой човек да ги забележи (в сравнение с 96,2% през 4-то тримесечие на 2018 г.). Що се отнася до речта на омразата, докладът установи, че AI е помогнал да се идентифицират 65% от повече от четири милиона такива публикации, премахнати от Facebook всяко тримесечие, спрямо 24% преди малко повече от година и 59% през четвъртото тримесечие на 4 г.

Facebook също използва AI, за да идентифицира публикации, лични реклами, снимки и видеоклипове, които нарушават правилата за рекламиране и продажба на забранени артикули като наркотици и огнестрелни оръжия. През първото тримесечие на 2019 г. компанията заяви, че е предприела действия срещу около 900 000 публикации, свързани с продажба на наркотици, от които 83,3% са засечени с помощта на изкуствен интелект. През същия период Facebook идентифицира и премахна приблизително 670 000 публикации за продажба на огнестрелни оръжия, от които 69,9% бяха обработени, преди модераторите или потребителите да могат да ги видят.

Различни подобрения в алгоритмите за изкуствен интелект доведоха до намаляване на общия обем на забраненото съдържание, гледано във Facebook. Компанията изчислява, че на всеки 10 000 посещения в социалната мрежа само 11 до 14 потребители са се сблъскали с порнографско съдържание и само 25 са забелязали публикации, съдържащи жестокост и насилие. Що се отнася до тероризма, детската голота и сексуалната експлоатация, числата са още по-ниски. Facebook съобщава, че през първото тримесечие на 1 г. на всеки 2019 10 гледания в социалната мрежа по-малко от три са били за подобно съдържание.

„Чрез проактивно наблюдение на обидни публикации, тази технология позволява на нашия екип да се съсредоточи върху идентифицирането на тенденциите в това как злоупотребяващите се опитват да заобиколят нашите ограничения“, пише Гай Розен, вицепрезидент на Facebook по безопасността на съдържанието, в публикация в блога. „Продължаваме да инвестираме в технологии, за да разширим способността си да откриваме неподходящо съдържание на различни езици и региони.“

Друга област, в която Facebook използва изкуствен интелект, са спам акаунтите. На годишната конференция за разработчици F8 на компанията в Сан Франциско, главният технологичен директор на компанията Майк Шрьопфе каза, че за едно тримесечие Facebook блокира повече от един милиард спам акаунта, повече от 700 милиона фалшиви акаунта и десетки милиони парчета съдържание, съдържащо голота и насилие. Според него AI е основният източник за откриване и противодействие в тези категории. По отношение на твърди числа, Facebook спря 1,2 милиарда акаунта през Q4 2018 и 2,19 милиарда през Q1 2019.

Източник: 3dnews.ru