Вчора Facebook черговий звіт про забезпечення дотримання стандартів спільноти соціальної мережі. Компанія наводить дані та показники за тимчасовий проміжок із січня по березень і приділяє особливу увагу загальному обсягу забороненого контенту, що потрапляє на Facebook, а також відсотку від нього, який соціальна мережа успішно видалила ще на етапі публікації або хоча б до того, як його встиг побачити випадковий юзер соціальної мережі. Facebook відзначає особливу роль штучного інтелекту (ІІ), без якого компанія просто не впоралася б із фільтрацією такої шаленої кількості контенту.
Як стверджує Facebook, штучний інтелект та машинне навчання допомогли значно скоротити кількість забороненого контенту у соціальній мережі. У шести з дев'яти категорій, що відстежуються у звіті, компанія повідомляє, що за допомогою ІІ вона змогла попередньо виявити 96,8 % неприпустимих публікацій і видалити їх до того, як будь-яка людина встигла їх помітити (порівняно з 96,2 % у 4 кварталі 2018 року). Що стосується агресивних висловлювань, то у звіті йдеться, що штучний інтелект допоміг ідентифікувати 65% з понад чотирьох мільйонів подібних повідомлень, що видаляються з Facebook щокварталу, порівняно з 24% трохи більше року тому і 59% у 4 кварталі 2018 року.
Facebook також використовує ІІ для виявлення повідомлень, особистих оголошень, фотографій та відео, які порушують правила з реклами та продажу заборонених товарів, таких як наркотики та вогнепальна зброя. У першому кварталі 2019 року компанія заявила, що вжила заходів щодо близько 900 000 публікацій, пов'язаних із продажем наркотиків, з яких 83,3 % було виявлено за допомогою штучного інтелекту. За цей же період Facebook також виявила та видалила близько 670 000 публікацій про продаж вогнепальної зброї, з яких 69,9 % були оброблені до того, як модератори чи користувачі могли зіткнутися з ними.
Різні покращення в алгоритмах штучного інтелекту призвели до зниження загального обсягу забороненого контенту, що переглядається у Facebook. За оцінками компанії, на кожні 10 000 відвідувань соціальної мережі лише від 11 до 14 користувачів зіткнулися з контентом, що має порнографічний характер, і лише 25 могли помітити публікації, що містять жорстокість та насильство. Що стосується тероризму, наготи дітей та сексуальної експлуатації, то ці цифри ще нижчі. Facebook повідомляє, що в 1 кварталі 2019 року на кожні 10 000 переглядів соціальної мережі менше трьох припадали на подібний контент.
«Завдяки попереджувальному відстеженню постів із порушеннями, ця технологія дозволяє нашій команді сфокусуватися на виявленні тенденцій того, як порушники намагаються обійти наші обмеження», — написав у своєму блозі віце-президент Facebook у сфері безпеки контенту Гай Розен (Guy Rosen). «Ми продовжуємо інвестувати в технології, щоб розширити наші можливості щодо виявлення неприпустимого контенту різними мовами та в різних регіонах».
Ще один напрямок, у якому Facebook використовує штучний інтелект – це спам-акаунти. На щорічній конференції розробників F8 у Сан-Франциско технічний директор компанії Майк Шропфер (Mike Schroepfe) повідомив, що протягом одного кварталу Facebook блокує понад мільярд спам-акаунтів, понад 700 мільйонів фальшивих акаунтів та десятки мільйонів фрагментів контенту, що містять оголені тіла. За його словами, ІІ є головним джерелом виявлення та протидії у цих категоріях. Якщо говорити про точні цифри, то Facebook заблокувала 1,2 мільярда облікових записів у 4 кварталі 2018 року та 2,19 мільярда в 1 кварталі 2019 року.
Джерело: 3dnews.ru