Riċerkaturi mil-laboratorju l-Università ta’ Chicago żviluppat sett ta’ għodda bl-implimentazzjoni distorsjoni tar-ritratti, il-prevenzjoni tal-użu tagħhom għat-taħriġ ta' sistemi ta' rikonoxximent tal-wiċċ u identifikazzjoni tal-utent. Isir bidliet fil-pixels fl-immaġni, li huma inviżibbli meta jarawhom il-bnedmin, iżda jwasslu għall-formazzjoni ta 'mudelli mhux korretti meta jintużaw biex iħarrġu sistemi ta' tagħlim bil-magni. Il-kodiċi tal-għodda huwa miktub f'Python u taħt liċenzja BSD. Assemblaġġi għal Linux, macOS u Windows.
L-ipproċessar tar-ritratti bl-utilità proposta qabel il-pubblikazzjoni fuq netwerks soċjali u pjattaformi pubbliċi oħra jippermettilek tipproteġi lill-utent milli juża data tar-ritratti bħala sors għat-taħriġ ta 'sistemi ta' rikonoxximent tal-wiċċ. L-algoritmu propost jipprovdi protezzjoni kontra 95% tat-tentattivi ta 'rikonoxximent tal-wiċċ (għall-API ta' rikonoxximent Microsoft Azure, Amazon Rekognition u Face++, l-effiċjenza tal-protezzjoni hija 100%). Barra minn hekk, anki jekk fil-futur ir-ritratti oriġinali, mhux ipproċessati mill-utilità, jintużaw f'mudell li diġà ġie mħarreġ bl-użu ta 'verżjonijiet distorti ta' ritratti, il-livell ta 'fallimenti fir-rikonoxximent jibqa' l-istess u huwa mill-inqas 80%.
Il-metodu huwa bbażat fuq il-fenomenu ta '"eżempji avversarji", li l-essenza tagħhom hija li bidliet żgħar fid-dejta tal-input jistgħu jwasslu għal bidliet drammatiċi fil-loġika tal-klassifikazzjoni. Bħalissa, il-fenomenu ta '"eżempji avversarji" huwa wieħed mill-problemi ewlenin mhux solvuti fis-sistemi ta' tagħlim bil-magni. Fil-futur, hija mistennija li toħroġ ġenerazzjoni ġdida ta 'sistemi ta' tagħlim tal-magni li huma ħielsa minn dan l-iżvantaġġ, iżda dawn is-sistemi se jeħtieġu bidliet sinifikanti fl-arkitettura u l-approċċ għall-mudelli tal-bini.
L-ipproċessar tar-ritratti jinżel għaż-żieda ta’ kombinazzjoni ta’ pixels (clusters) mal-immaġini, li huma pperċepiti minn algoritmi profondi ta’ tagħlim tal-magni bħala mudelli karatteristiċi tal-oġġett immaġini u jwasslu għal distorsjoni tal-karatteristiċi użati għall-klassifikazzjoni. Bidliet bħal dawn ma jispikkawx mis-sett ġenerali u huma estremament diffiċli biex jinstabu u jitneħħew. Anke bl-immaġini oriġinali u modifikati, huwa diffiċli li jiġi ddeterminat liema hija l-oriġinal u liema hija l-verżjoni modifikata.
Id-distorsjonijiet introdotti juru reżistenza għolja għall-ħolqien ta 'kontromiżuri mmirati lejn l-identifikazzjoni ta' ritratti li jiksru l-kostruzzjoni korretta ta 'mudelli ta' tagħlim tal-magni. L-inklużjoni ta' metodi bbażati fuq iċ-ċajpra, iż-żieda tal-istorbju, jew l-applikazzjoni ta' filtri għall-immaġni biex irażżnu l-kombinazzjonijiet tal-pixel mhumiex effettivi. Il-problema hija li meta jiġu applikati l-filtri, l-eżattezza tal-klassifikazzjoni tinżel ħafna aktar malajr mill-iskoperta tal-mudelli tal-pixels, u fil-livell meta d-distorsjonijiet huma mrażżna, il-livell ta 'rikonoxximent ma jistax jibqa' jitqies aċċettabbli.
Ta’ min jinnota li, bħall-biċċa l-kbira tat-teknoloġiji l-oħra għall-protezzjoni tal-privatezza, it-teknika proposta tista’ tintuża mhux biss biex tiġġieled l-użu mhux awtorizzat ta’ immaġini pubbliċi f’sistemi ta’ rikonoxximent, iżda wkoll bħala għodda għall-ħabi tal-attakkanti. Ir-riċerkaturi jemmnu li l-problemi tar-rikonoxximent jistgħu prinċipalment jaffettwaw servizzi ta’ partijiet terzi li jiġbru informazzjoni mingħajr kontroll u mingħajr permess biex iħarrġu l-mudelli tagħhom (pereżempju, is-servizz Clearview.ai joffri database ta’ rikonoxximent tal-wiċċ, madwar 3 biljun ritratt minn netwerks soċjali huma indiċjati). Jekk issa l-kollezzjonijiet ta 'servizzi bħal dawn fihom l-aktar immaġini affidabbli, allura bl-użu attiv ta' Fawkes, maż-żmien, is-sett ta 'ritratti mgħawġa se jkun akbar u l-mudell iqishom bħala prijorità ogħla għall-klassifikazzjoni. Is-sistemi ta' rikonoxximent tal-aġenziji tal-intelliġenza, li l-mudelli tagħhom huma mibnija fuq il-bażi ta' sorsi affidabbli, se jkunu inqas affettwati mill-għodod ippubblikati.
Fost żviluppi prattiċi qrib fl-iskop, nistgħu ninnotaw il-proġett , jiżviluppaw biex iżżid mal-immaġini , jipprevjenu klassifikazzjoni korretta minn sistemi ta 'tagħlim tal-magni. Kamera Adversaria kodiċi fuq GitHub taħt liċenzja EPL. Proġett ieħor għandu l-għan li jimblokka r-rikonoxximent minn kameras ta’ sorveljanza permezz tal-ħolqien ta’ inċirati speċjali b’disinji, T-shirts, ġerżijiet, kapep, posters jew kpiepel.
Sors: opennet.ru