MIT הסירה את אוסף Tiny Images לאחר זיהוי מונחים גזעניים ושונאי נשים

המכון הטכנולוגי של מסצ'וסטס נמחק נתונים תמונות זעירות, הכולל אוסף מוער של 80 מיליון תמונות קטנות בגודל 32x32. הסט נשמר על ידי קבוצה שמפתחת טכנולוגיות ראייה ממוחשבת ומשמשת מאז 2008 חוקרים שונים לאימון ובדיקת זיהוי אובייקטים במערכות למידת מכונה.

הסיבה להסרה הייתה זיהוי שימוש במונחים גזעניים ושונאי נשים בתוויות המתארות את האובייקטים המתוארים בתמונות, וכן נוכחות של תמונות שנתפסו כפוגעניות. לדוגמה, היו תמונות של איברי מין עם מונחי סלנג, תמונות של כמה נשים אופיינו כ"זונות", והשתמשו במונחים שלא היו מקובלים בחברה המודרנית עבור שחורים ואסיאתים.

עם זאת, המסמך שצוטט על ידי MIT מזהה גם בעיות חמורות יותר באוספים כאלה: ניתן להשתמש בטכנולוגיות ראייה ממוחשבת לפיתוח מערכות זיהוי פנים כדי לחפש נציגים של קבוצות אוכלוסייה שאסורות מסיבה כלשהי; רשת עצבית ליצירת תמונות יכולה לשחזר את המקור מנתונים אנונימיים.

הסיבה להופעת מילים לא חוקיות הייתה השימוש בתהליך אוטומטי המשתמש בקשרים סמנטיים ממסד הנתונים המילוני באנגלית כדי לסווג WordNet, נוצר בשנות ה-1980 באוניברסיטת פרינסטון. מכיוון שלא ניתן לבדוק באופן ידני את הימצאות שפה פוגענית ב-80 מיליון תמונות קטנות, הוחלט לחסום לחלוטין את הגישה למסד הנתונים. MIT גם קראה לחוקרים אחרים להפסיק להשתמש באוסף ולהסיר עותקים שלו. בעיות דומות נצפו במסד הנתונים הגדול ביותר של תמונות מוערות אימג'נט, אשר משתמש גם בעוגנים מ-WordNet.

מקור: OpenNet.ru