Зертхананың зерттеушілері Чикаго университеті құралдар жинағын әзірледі жүзеге асырумен фотосуреттерді бұрмалау, оларды тұлғаны тану және пайдаланушыны сәйкестендіру жүйелерін үйрету үшін пайдалануға жол бермеу. Кескінге пиксельдік өзгерістер енгізілді, олар адамдар көрген кезде көрінбейді, бірақ машиналық оқыту жүйелерін үйрету үшін пайдаланылған кезде дұрыс емес үлгілердің пайда болуына әкеледі. Құралдар жинағы коды Python тілінде жазылған және BSD лицензиясы бойынша. Ассамблеялар Linux, macOS және Windows үшін.
Әлеуметтік желілерде және басқа да жалпыға қолжетімді платформаларда жарияламас бұрын фотосуреттерді ұсынылған қызметтік бағдарламамен өңдеу пайдаланушыны бетті тану жүйелерін үйрету үшін фотосурет деректерін пайдаланудан қорғауға мүмкіндік береді. Ұсынылған алгоритм бетті тану әрекеттерінің 95%-дан қорғауды қамтамасыз етеді (Microsoft Azure тану API, Amazon Rekognition және Face++ үшін қорғау тиімділігі 100% құрайды). Сонымен қатар, болашақта утилитамен өңделмеген түпнұсқа фотосуреттер фотосуреттердің бұрмаланған нұсқаларын пайдаланып үйретілген модельде пайдаланылса да, танудағы сәтсіздіктер деңгейі өзгеріссіз қалады және кем дегенде 80% құрайды.
Әдіс «қарсылас мысалдар» құбылысына негізделген, оның мәні кіріс деректеріндегі болмашы өзгерістер классификация логикасында күрт өзгерістерге әкелуі мүмкін. Қазіргі уақытта «қарсылас мысалдар» құбылысы машиналық оқыту жүйелеріндегі шешілмеген негізгі мәселелердің бірі болып табылады. Болашақта бұл кемшілігі жоқ машиналық оқыту жүйелерінің жаңа буыны пайда болады деп күтілуде, бірақ бұл жүйелер архитектурада және модельдерді құру тәсілінде елеулі өзгерістерді қажет етеді.
Фотосуреттерді өңдеу кескінге пиксельдердің (кластерлердің) комбинациясын қосудан тұрады, олар терең машиналық оқыту алгоритмдері кескінделген нысанға тән үлгілер ретінде қабылданады және жіктеу үшін пайдаланылатын белгілердің бұрмалануына әкеледі. Мұндай өзгерістер жалпы жиынтықтан ерекшеленбейді және оларды анықтау және жою өте қиын. Түпнұсқа және өзгертілген суреттердің өзінде қайсысы түпнұсқа, қайсысы өзгертілген нұсқа екенін анықтау қиын.
Енгізілген бұрмалаулар машиналық оқыту үлгілерінің дұрыс құрылысын бұзатын фотосуреттерді анықтауға бағытталған қарсы шараларды құруға жоғары қарсылықты көрсетеді. Пиксель тіркесімін басу үшін кескінге бұлыңғырлауға, шу қосуға немесе сүзгілерді қолдануға негізделген әдістерді қосу тиімді емес. Мәселе мынада, сүзгілер қолданылған кезде жіктеу дәлдігі пикселдік үлгілердің анықталуынан әлдеқайда жылдам төмендейді және бұрмаланулар басылған деңгейде тану деңгейін енді қолайлы деп санауға болмайды.
Құпиялылықты қорғаудың көптеген басқа технологиялары сияқты, ұсынылған әдістемені тану жүйелерінде жалпыға ортақ кескіндерді рұқсатсыз пайдаланумен күресу үшін ғана емес, сонымен қатар шабуылдаушыларды жасыру құралы ретінде де қолдануға болатыны атап өтілді. Зерттеушілер тану проблемалары негізінен ақпаратты бақылаусыз және үлгілерін үйретуге рұқсатсыз жинайтын үшінші тарап қызметтеріне әсер етуі мүмкін деп санайды (мысалы, Clearview.ai қызметі бетті тану дерекқорын ұсынады, әлеуметтік желілердегі шамамен 3 миллиард фото индекстелген). Егер қазір мұндай қызметтердің топтамаларында негізінен сенімді кескіндер болса, онда Fawkes белсенді пайдаланған кезде, уақыт өте келе бұрмаланған фотосуреттер жиынтығы үлкенірек болады және модель оларды жіктеу үшін жоғары басымдылық деп санайды. Үлгілері сенімді дереккөздер негізінде құрылған барлау органдарының тану жүйелері жарияланған құралдардың әсерінен аз болады.
Мақсаты жақын практикалық әзірлемелердің ішінде жобаны атап өтуге болады , дамуда суреттерге қосу үшін , машиналық оқыту жүйелері арқылы дұрыс жіктеуге жол бермеу. Камера қарсыласының коды GitHub сайтында EPL лицензиясы бойынша. Тағы бір жоба арнайы өрнекті плащтар, футболкалар, жемпірлер, шапандар, плакаттар немесе бас киімдер жасау арқылы бақылау камералары арқылы тануды блоктауға бағытталған.
Ақпарат көзі: opennet.ru