טכניקה לעיוות עדין של תמונות כדי לשבש מערכות זיהוי פנים

חוקרים מהמעבדה חול אוניברסיטת שיקגו פיתחה ערכת כלים פאוקס עם יישום השיטה עיוות של תצלומים, מניעת השימוש בהם להכשרת מערכות זיהוי פנים וזיהוי משתמשים. שינויים פיקסלים נעשים בתמונה, שאינם נראים כאשר הם צופים על ידי בני אדם, אך מובילים להיווצרות מודלים שגויים כאשר משתמשים בהם לאימון מערכות למידת מכונה. קוד ערכת הכלים כתוב ב- Python ו פורסם תחת רישיון BSD. הרכבות מוּכָן עבור לינוקס, macOS ו-Windows.

עיבוד תמונות עם כלי השירות המוצע לפני פרסום ברשתות חברתיות ובפלטפורמות ציבוריות אחרות מאפשר לך להגן על המשתמש משימוש בנתוני תמונות כמקור לאימון מערכות זיהוי פנים. האלגוריתם המוצע מספק הגנה מפני 95% מניסיונות זיהוי הפנים (עבור Microsoft Azure Recognition API, Amazon Rekognition ו-Face++, יעילות ההגנה היא 100%). יתרה מכך, גם אם בעתיד נעשה שימוש בצילומים המקוריים, שאינם מעובדים על ידי השירות, במודל שכבר הוכשר באמצעות גרסאות מעוותות של צילומים, רמת הכשלים בזיהוי נשארת זהה ועומדת על 80% לפחות.

השיטה מבוססת על תופעת "דוגמאות יריבות", שמהותה היא ששינויים קלים בנתוני הקלט עלולים להוביל לשינויים דרמטיים בלוגיקת הסיווג. נכון לעכשיו, תופעת "הדוגמאות יריבות" היא אחת הבעיות העיקריות הבלתי פתורות במערכות למידת מכונה. בעתיד צפוי לצוץ דור חדש של מערכות למידת מכונה שאינן נטולות חיסרון זה, אך מערכות אלו ידרשו שינויים משמעותיים בארכיטקטורה ובגישה לבניית מודלים.

עיבוד תצלומים מסתכם בהוספת שילוב של פיקסלים (אשכולות) לתמונה, הנתפסים על ידי אלגוריתמים עמוקים של למידת מכונה כדפוסים האופייניים לאובייקט המצולם ומובילים לעיוות של התכונות המשמשות לסיווג. שינויים כאלה אינם בולטים מהמערך הכללי וקשה מאוד לזהות ולהסיר אותם. אפילו עם התמונות המקוריות והמעודכנות, קשה לקבוע מי היא הגרסה המקורית ומי הגרסה המתוקנת.

העיוותים שהוצגו מפגינים התנגדות גבוהה ליצירת אמצעי נגד שמטרתם לזהות תצלומים המפרים את הבנייה הנכונה של מודלים של למידת מכונה. הכללת שיטות המבוססות על טשטוש, הוספת רעש או החלת מסננים על התמונה כדי לדכא שילובי פיקסלים אינן יעילות. הבעיה היא שכאשר מוחלים פילטרים, דיוק הסיווג יורד הרבה יותר מהר מיכולת הזיהוי של דפוסי פיקסלים, וברמה שבה העיוותים מדוכאים, רמת הזיהוי כבר לא יכולה להיחשב מקובלת.

יצוין כי, כמו רוב הטכנולוגיות האחרות להגנה על הפרטיות, הטכניקה המוצעת יכולה לשמש לא רק כדי להילחם בשימוש לא מורשה בתמונות ציבוריות במערכות זיהוי, אלא גם ככלי להסתרת תוקפים. חוקרים מאמינים שבעיות בזיהוי עלולות להשפיע בעיקר על שירותי צד שלישי שאוספים מידע בצורה בלתי נשלטת וללא רשות להכשיר את המודלים שלהם (לדוגמה, השירות Clearview.ai מציע מסד נתונים לזיהוי פנים, בנוי כ-3 מיליארד תמונות מרשתות חברתיות מאוגדות). אם כעת האוספים של שירותים כאלה מכילים בעיקר תמונות אמינות, אז עם השימוש הפעיל בפוקס, לאורך זמן, סט התמונות המעוות יהיה גדול יותר והמודל ישקול אותם בעדיפות גבוהה יותר לסיווג. מערכות ההכרה של סוכנויות המודיעין, שהמודלים שלהן בנויים על בסיס מקורות מהימנים, יושפעו פחות מהכלים שפורסמו.

בין ההתפתחויות המעשיות הקרובות למטרה, אנו יכולים לציין את הפרויקט מצלמה אדוורסריה, מתפתח אפליקציה לנייד כדי להוסיף לתמונות רעש פרלין, מניעת סיווג נכון על ידי מערכות למידת מכונה. קוד מצלמה Adversaria זמין ב-GitHub תחת רישיון EPL. עוד פרויקט גלימת היעלמות שואפת לחסום זיהוי על ידי מצלמות מעקב באמצעות יצירת מעילי גשם מעוצבים מיוחדים, חולצות טריקו, סוודרים, שכמיות, פוסטרים או כובעים.

מקור: OpenNet.ru