Kemarin Facebook laporan lain tentang memastikan kepatuhan terhadap standar komunitas jaringan sosial. Perusahaan menyediakan data dan indikator untuk periode Januari hingga Maret dan memberikan perhatian khusus pada total volume konten terlarang yang masuk ke Facebook, serta persentase konten yang berhasil dihapus oleh jejaring sosial tersebut pada tahap publikasi atau setidaknya sebelum bisa dilihat secara acak oleh pengguna jejaring sosial. Facebook mencatat peran khusus kecerdasan buatan (AI), yang tanpanya perusahaan tidak akan mampu memfilter konten dalam jumlah yang begitu besar.
Menurut Facebook, kecerdasan buatan dan pembelajaran mesin telah membantu mengurangi secara signifikan jumlah konten terlarang di jejaring sosial. Dalam enam dari sembilan kategori yang dilacak dalam laporan tersebut, perusahaan tersebut mengatakan bahwa dengan menggunakan AI, mereka mampu secara proaktif mendeteksi 96,8% postingan yang tidak pantas dan menghapusnya sebelum manusia dapat menyadarinya (dibandingkan dengan 96,2% pada kuartal ke-4 tahun 2018). Terkait ujaran kebencian, laporan tersebut menemukan bahwa AI membantu mengidentifikasi 65% dari lebih dari empat juta postingan serupa yang dihapus dari Facebook setiap kuartal, naik dari 24% setahun yang lalu dan 59% pada Q4 2018.
Facebook juga menggunakan AI untuk mengidentifikasi postingan, iklan pribadi, foto, dan video yang melanggar aturannya dalam mengiklankan dan menjual barang terlarang seperti narkoba dan senjata api. Pada kuartal pertama tahun 2019, perusahaan tersebut mengatakan telah mengambil tindakan terhadap sekitar 900 postingan terkait penjualan obat-obatan, di mana 000% di antaranya terdeteksi menggunakan kecerdasan buatan. Selama periode yang sama, Facebook juga mengidentifikasi dan menghapus sekitar 83,3 postingan tentang penjualan senjata api, dimana 670% di antaranya diproses sebelum moderator atau pengguna dapat menemukannya.
Berbagai perbaikan dalam algoritma kecerdasan buatan telah menyebabkan penurunan keseluruhan volume konten terlarang yang dilihat di Facebook. Perusahaan memperkirakan bahwa untuk setiap 10 kunjungan ke jejaring sosial tersebut, hanya 000 hingga 11 pengguna yang menemukan konten pornografi, dan hanya 14 pengguna yang dapat melihat postingan berisi kekejaman dan kekerasan. Terkait terorisme, ketelanjangan anak-anak, dan eksploitasi seksual, jumlahnya bahkan lebih rendah lagi. Facebook melaporkan bahwa pada kuartal pertama tahun 25, untuk setiap 1 penayangan di jejaring sosial, kurang dari tiga yang menonton konten serupa.
“Dengan secara proaktif memantau postingan yang melanggar, teknologi ini memungkinkan tim kami untuk fokus dalam mengidentifikasi tren bagaimana pelaku mencoba menghindari pembatasan kami,” tulis Guy Rosen, wakil presiden keamanan konten Facebook, dalam sebuah postingan blog. “Kami terus berinvestasi dalam teknologi untuk memperluas kemampuan kami dalam mendeteksi konten yang tidak pantas dalam berbagai bahasa dan wilayah.”
Area lain di mana Facebook menggunakan kecerdasan buatan adalah akun spam. Pada konferensi pengembang F8 tahunan perusahaan di San Francisco, CTO perusahaan Mike Schroepfe mengatakan bahwa dalam satu kuartal, Facebook memblokir lebih dari satu miliar akun spam, lebih dari 700 juta akun palsu, dan puluhan juta konten berisi ketelanjangan dan kekerasan. . Menurutnya, AI adalah sumber utama deteksi dan penanggulangan dalam kategori tersebut. Dalam hal angka pasti, Facebook menangguhkan 1,2 miliar akun pada Q4 2018 dan 2,19 miliar pada Q1 2019.
Sumber: 3dnews.ru