Watafiti kutoka maabara Chuo Kikuu cha Chicago kilitengeneza zana ya zana pamoja na utekelezaji upotoshaji wa picha, kuzuia matumizi yao kwa mafunzo ya utambuzi wa uso na mifumo ya utambuzi wa watumiaji. Mabadiliko ya pikseli hufanywa kwa picha, ambayo hayaonekani yanapotazamwa na wanadamu, lakini husababisha uundaji wa miundo isiyo sahihi inapotumika kufunza mifumo ya kujifunza ya mashine. Nambari ya zana imeandikwa katika Python na chini ya leseni ya BSD. Mikusanyiko kwa Linux, macOS na Windows.
Kuchakata picha kwa kutumia shirika linalopendekezwa kabla ya kuchapishwa kwenye mitandao jamii na mifumo mingine ya umma hukuruhusu kumlinda mtumiaji dhidi ya kutumia data ya picha kama chanzo cha mafunzo ya mifumo ya utambuzi wa nyuso. Algorithm inayopendekezwa hutoa ulinzi dhidi ya 95% ya majaribio ya utambuzi wa uso (kwa API ya utambuzi wa Azure ya Microsoft, Amazon Rekognition na Face++, ufanisi wa ulinzi ni 100%). Kwa kuongezea, hata ikiwa katika siku zijazo picha za asili, ambazo hazijashughulikiwa na shirika, hutumiwa kwa mfano ambao tayari umefunzwa kwa kutumia matoleo yaliyopotoka ya picha, kiwango cha kushindwa katika utambuzi kinabaki sawa na ni angalau 80%.
Njia hiyo inategemea uzushi wa "mifano ya wapinzani", kiini chake ni kwamba mabadiliko madogo katika data ya pembejeo yanaweza kusababisha mabadiliko makubwa katika mantiki ya uainishaji. Hivi sasa, jambo la "mifano ya wapinzani" ni mojawapo ya matatizo makuu ambayo hayajatatuliwa katika mifumo ya kujifunza mashine. Katika siku zijazo, kizazi kipya cha mifumo ya kujifunza mashine kinatarajiwa kuibuka ambacho hakina shida hii, lakini mifumo hii itahitaji mabadiliko makubwa katika usanifu na mbinu ya mifano ya majengo.
Uchakataji wa picha unakuja ili kuongeza mchanganyiko wa pikseli (ndizo) kwenye picha, ambazo hutambulika kwa algoriti za kina za kujifunza kwa mashine kama ruwaza sifa za kitu kilicho na picha na kusababisha upotoshaji wa vipengele vinavyotumika kuainisha. Mabadiliko kama haya hayaonekani kutoka kwa seti ya jumla na ni ngumu sana kugundua na kuondoa. Hata kwa picha asili na zilizorekebishwa, ni ngumu kuamua ni ipi ya asili na ni toleo gani lililorekebishwa.
Upotoshaji ulioanzishwa unaonyesha upinzani mkubwa kwa uundaji wa hatua za kupinga zinazolenga kutambua picha zinazokiuka ujenzi sahihi wa miundo ya kujifunza mashine. Ikiwa ni pamoja na mbinu kulingana na kutia ukungu, kuongeza kelele, au kutumia vichujio kwenye picha ili kukandamiza michanganyiko ya pikseli hazifanyi kazi. Shida ni kwamba wakati vichungi vinatumiwa, usahihi wa uainishaji hupungua kwa kasi zaidi kuliko ugunduzi wa mifumo ya pixel, na kwa kiwango wakati upotovu unakandamizwa, kiwango cha utambuzi hakiwezi kukubalika tena.
Ikumbukwe kwamba, kama teknolojia nyingine nyingi za kulinda faragha, mbinu iliyopendekezwa inaweza kutumika sio tu kupambana na matumizi yasiyoidhinishwa ya picha za umma katika mifumo ya utambuzi, lakini pia kama zana ya kuficha washambuliaji. Watafiti wanaamini kuwa matatizo ya utambuzi yanaweza kuathiri hasa huduma za watu wengine ambazo hukusanya taarifa bila kudhibitiwa na bila ruhusa ya kutoa mafunzo kwa miundo yao (kwa mfano, huduma ya Clearview.ai inatoa hifadhidata ya utambuzi wa uso, takriban picha bilioni 3 kutoka kwa mitandao ya kijamii zimeorodheshwa). Ikiwa sasa makusanyo ya huduma kama hizi yana picha nyingi za kuaminika, basi kwa matumizi ya kazi ya Fawkes, baada ya muda, seti ya picha zilizopotoka zitakuwa kubwa na mtindo utazingatia kuwa kipaumbele cha juu cha uainishaji. Mifumo ya utambuzi wa mashirika ya ujasusi, ambayo mifano yake imejengwa kwa msingi wa vyanzo vya kuaminika, haitaathiriwa kidogo na zana zilizochapishwa.
Miongoni mwa maendeleo ya vitendo karibu katika kusudi, tunaweza kutambua mradi huo , zinazoendelea kuongeza kwenye picha , kuzuia uainishaji sahihi kwa mifumo ya kujifunza ya mashine. Msimbo wa Adversaria wa kamera kwenye GitHub chini ya leseni ya EPL. Mradi mwingine inalenga kuzuia kutambuliwa na kamera za uchunguzi kupitia uundaji wa makoti maalum ya mvua yenye muundo, T-shirt, sweta, kofia, mabango au kofia.
Chanzo: opennet.ru