אלגוריתמים של פייסבוק יעזרו לחברות אינטרנט לחפש סרטונים ותמונות כפולות כדי להילחם בתוכן בלתי הולם

פייסבוק הוכרז לגבי הפתיחה קוד מקור של שני אלגוריתמים, המסוגל לקבוע את מידת הזהות של צילומים וסרטונים, גם אם נעשו בהם שינויים קטנים. הרשת החברתית משתמשת באופן פעיל באלגוריתמים אלו כדי להילחם בתכנים המכילים חומרים הקשורים לניצול ילדים, תעמולת טרור וצורות שונות של אלימות. פייסבוק מציינת שזו הפעם הראשונה שהיא משתפת טכנולוגיה כזו, והחברה מקווה שבעזרתה פורטלים ושירותים גדולים אחרים, אולפני פיתוח תוכנה קטנים וארגונים ללא מטרות רווח יוכלו להילחם בצורה יעילה יותר בהפצת מדיה לא הולמת. תוכן ברשת העולמית.

"כשאנחנו מוצאים פיסת תוכן לא הולם, הטכנולוגיה יכולה לעזור לנו למצוא את כל הכפילויות ולמנוע מהם להתפשט", כתבו קצין האבטחה הראשי של פייסבוק אנטיגונה דייויס וסגן נשיא היושרה גיא רוזן בפוסט. המוקדש ל-Facebook Child השנתי הרביעי. האקתון בטיחות. "עבור אלה שכבר משתמשים בטכנולוגיית התאמת תוכן משלהם או אחרת, הטכנולוגיות שלנו יכולות לספק שכבת הגנה נוספת, מה שהופך את מערכות האבטחה להרבה יותר חזקות."

פייסבוק טוענת ששני האלגוריתמים שפורסמו - PDQ ו-TMK+PDQ - תוכננו לעבוד עם מערכי נתונים ענקיים ומבוססים על מודלים והטמעות קיימים, כולל pHash, PhotoDNA של מיקרוסופט, aHash ו-dHash. לדוגמה, אלגוריתם התאמת התמונות PDQ נוצר בהשראת pHash אך פותח לחלוטין מאפס על ידי מפתחי פייסבוק, בעוד שאלגוריתם התאמת הווידאו TMK+PDQF נוצר במשותף על ידי קבוצת המחקר של פייסבוק לבינה מלאכותית ומדענים מאוניברסיטת מודנה ורג'יו אמיליה באיטליה. .

שני האלגוריתמים מנתחים את הקבצים שהם מחפשים באמצעות גיבוב דיגיטלי קצר, מזהים ייחודיים שעוזרים לקבוע אם שני קבצים זהים או דומים, אפילו ללא התמונה או הסרטון המקוריים. פייסבוק מציינת שניתן לשתף בקלות את ה-hashs הללו עם חברות אחרות ועמותות, כמו גם עם שותפים בתעשייה באמצעות פורום האינטרנט העולמי למלחמה בטרור (GIFCT), כך שכל החברות המעוניינות באבטחה מקוונת יוכלו גם להסיר תוכן שפייסבוק סומן כלא בטוח. אם הוא הועלה לשירותים שלהם.

בעקבות הפיתוח של PDQ ו-TMK+PDQ שחרור ה-PhotoDNA הנ"ל לפני 10 שנים בניסיון להילחם בפורנוגרפיית ילדים באינטרנט על ידי מיקרוסופט. גוגל גם השיקה לאחרונה את Content Safety API, פלטפורמת בינה מלאכותית שנועדה לזהות חומר מקוון של התעללות מינית בילדים כדי להפוך את המנחים האנושיים ליעילים יותר.

בתורו, מנכ"ל פייסבוק, מארק צוקרברג, טען זה מכבר שבינה מלאכותית תפחית באופן משמעותי את כמות ההתעללות שבוצעה על ידי מיליוני משתמשי פייסבוק חסרי מצפון. ואכן, בפורסם במאי דוח עמידה בתקני הקהילה של פייסבוק החברה דיווחה כי בינה מלאכותית ולמידת מכונה עזרו להפחית משמעותית את מספר התוכן האסור שפורסם בשש מתוך תשע קטגוריות של תוכן כזה.

מקור: 3dnews.ru