AI עוזר לפייסבוק לזהות ולהסיר עד 96,8% מהתוכן האסור

אתמול פייסבוק опубликовала דו"ח נוסף על הבטחת עמידה בתקני הקהילה של הרשת החברתית. החברה מספקת נתונים ואינדיקטורים לתקופה מינואר עד מרץ ומקדישה תשומת לב מיוחדת להיקף התוכן האסור הכולל שמגיע בסופו של דבר לפייסבוק, וכן לאחוז מהם שהרשת החברתית הסירה בהצלחה בשלב הפרסום או לפחות לפני שניתן היה לראות אותו משתמש אקראי ברשת החברתית. פייסבוק מציינת את התפקיד המיוחד של בינה מלאכותית (AI), שבלעדיו החברה פשוט לא הייתה מצליחה לסנן כמות כל כך מטורפת של תוכן.

לפי פייסבוק, בינה מלאכותית ולמידת מכונה סייעו להפחית משמעותית את כמות התוכן האסור ברשת החברתית. בשש מתוך תשע הקטגוריות שאחריהן עוקבים בדוח, החברה אומרת כי באמצעות AI, היא הצליחה לזהות באופן יזום 96,8% מהפוסטים הבלתי הולמים ולהסיר אותם לפני שאדם כלשהו הצליח להבחין בהם (לעומת 96,2% ברבעון הרביעי של 4). כשמדובר בדברי שטנה, הדו"ח מצא ש-AI עזר לזהות 2018% מתוך יותר מארבעה מיליון פוסטים כאלה שהוסרו מפייסבוק בכל רבעון, עלייה מ-65% לפני קצת יותר משנה ו-24% ברבעון הרביעי של 59.

פייסבוק גם משתמשת בבינה מלאכותית כדי לזהות פוסטים, מודעות אישיות, תמונות וסרטונים שמפרים את הכללים שלה לגבי פרסום ומכירת פריטים אסורים כמו סמים וכלי נשק. ברבעון הראשון של 2019, החברה אמרה שהיא נקטה בפעולה לגבי כ-900 פוסטים הקשורים למכירת סמים, מתוכם 000% זוהו באמצעות בינה מלאכותית. במהלך אותה תקופה, פייסבוק גם זיהתה והסירה כ-83,3 פוסטים על מכירות של כלי ירייה, מתוכם 670% עובדו לפני שהמנהלים או המשתמשים יכלו להיתקל בהם.

שיפורים שונים באלגוריתמים של בינה מלאכותית הובילו לירידה בנפח הכולל של תוכן אסור שנצפה בפייסבוק. החברה מעריכה כי על כל 10 ביקורים ברשת החברתית, רק 000 עד 11 משתמשים נתקלו בתוכן פורנוגרפי, ורק 14 יכלו להבחין בפוסטים המכילים אכזריות ואלימות. בכל הנוגע לטרור, עירום ילדים וניצול מיני, המספרים נמוכים עוד יותר. פייסבוק מדווחת כי ברבעון הראשון של 25, על כל 1 צפיות ברשת החברתית, פחות משלוש היו לתוכן דומה.

"על ידי ניטור יזום של פוסטים פוגעניים, הטכנולוגיה הזו מאפשרת לצוות שלנו להתמקד בזיהוי מגמות באופן שבו מתעללים מנסים לעקוף את ההגבלות שלנו", כתב גיא רוזן, סגן נשיא פייסבוק לבטיחות תוכן, בפוסט בבלוג. "אנחנו ממשיכים להשקיע בטכנולוגיה כדי להרחיב את היכולת שלנו לזהות תוכן לא הולם על פני שפות ואזורים."

תחום נוסף בו משתמשת פייסבוק בבינה מלאכותית הוא חשבונות ספאם. בכנס מפתחי F8 השנתי של החברה בסן פרנסיסקו, אמר סמנכ"ל החברה, מייק שרופפה, כי ברבעון בודד פייסבוק חוסמת יותר ממיליארד חשבונות ספאם, יותר מ-700 מיליון חשבונות מזויפים ועשרות מיליוני פיסות תוכן המכילות עירום ואלימות. . לדבריו, בינה מלאכותית היא המקור העיקרי לגילוי ונגד בקטגוריות הללו. במונחים של מספרים קשים, פייסבוק השעתה 1,2 מיליארד חשבונות ברבעון הרביעי של 4 ו-2018 מיליארד ברבעון הראשון של 2,19.

מקור: 3dnews.ru