Ymchwilwyr o'r labordy datblygodd Prifysgol Chicago becyn cymorth gyda gweithredu ystumio ffotograffau, gan atal eu defnyddio ar gyfer hyfforddi systemau adnabod wynebau ac adnabod defnyddwyr. Gwneir newidiadau picsel i'r ddelwedd, sy'n anweledig pan fydd pobl yn edrych arnynt, ond sy'n arwain at ffurfio modelau anghywir pan gânt eu defnyddio i hyfforddi systemau dysgu peiriannau. Mae cod y pecyn cymorth wedi'i ysgrifennu yn Python a dan drwydded BSD. Cymanfaoedd ar gyfer Linux, macOS a Windows.
Mae prosesu lluniau gyda'r cyfleustodau arfaethedig cyn eu cyhoeddi ar rwydweithiau cymdeithasol a llwyfannau cyhoeddus eraill yn caniatáu ichi amddiffyn y defnyddiwr rhag defnyddio data lluniau fel ffynhonnell ar gyfer hyfforddi systemau adnabod wynebau. Mae'r algorithm arfaethedig yn darparu amddiffyniad yn erbyn 95% o ymdrechion adnabod wynebau (ar gyfer API adnabod Microsoft Azure, Amazon Rekognition a Face ++, yr effeithlonrwydd amddiffyn yw 100%). Ar ben hynny, hyd yn oed os defnyddir y ffotograffau gwreiddiol yn y dyfodol, heb eu prosesu gan y cyfleustodau, mewn model sydd eisoes wedi'i hyfforddi gan ddefnyddio fersiynau ystumiedig o ffotograffau, mae lefel y methiannau mewn cydnabyddiaeth yn aros yr un fath ac mae o leiaf 80%.
Mae’r dull yn seiliedig ar ffenomen “enghreifftiau gwrthwynebus”, a’i hanfod yw y gall mân newidiadau mewn data mewnbwn arwain at newidiadau dramatig yn y rhesymeg ddosbarthu. Ar hyn o bryd, ffenomen “enghreifftiau gwrthwynebus” yw un o'r prif broblemau heb eu datrys mewn systemau dysgu peiriannau. Yn y dyfodol, disgwylir i genhedlaeth newydd o systemau dysgu peirianyddol ddod i'r amlwg sy'n rhydd o'r anfantais hon, ond bydd y systemau hyn yn gofyn am newidiadau sylweddol yn y bensaernïaeth a'r ymagwedd at adeiladu modelau.
Mae prosesu ffotograffau yn ymwneud ag ychwanegu cyfuniad o bicseli (clystyrau) i'r ddelwedd, sy'n cael eu gweld gan algorithmau dysgu peirianyddol dwfn fel patrymau sy'n nodweddiadol o'r gwrthrych a ddelweddwyd ac sy'n arwain at ystumio'r nodweddion a ddefnyddir ar gyfer dosbarthu. Nid yw newidiadau o'r fath yn sefyll allan o'r set gyffredinol ac maent yn hynod o anodd eu canfod a'u dileu. Hyd yn oed gyda'r delweddau gwreiddiol ac addasedig, mae'n anodd penderfynu pa un yw'r gwreiddiol a pha un yw'r fersiwn wedi'i haddasu.
Mae'r ystumiadau a gyflwynwyd yn dangos gwrthwynebiad uchel i greu gwrthfesurau sydd â'r nod o nodi ffotograffau sy'n torri'r gwaith o adeiladu modelau dysgu peirianyddol yn gywir. Nid yw cynnwys dulliau sy'n seiliedig ar niwlio, ychwanegu sŵn, neu gymhwyso hidlwyr i'r ddelwedd i atal cyfuniadau picsel yn effeithiol. Y broblem yw, pan fydd hidlwyr yn cael eu cymhwyso, mae cywirdeb y dosbarthiad yn gostwng yn gynt o lawer na'r gallu i ganfod patrymau picsel, ac ar y lefel pan fydd yr ystumiadau'n cael eu hatal, ni ellir ystyried bod lefel y gydnabyddiaeth yn dderbyniol mwyach.
Nodir, fel y mwyafrif o dechnolegau eraill ar gyfer diogelu preifatrwydd, y gellir defnyddio'r dechneg arfaethedig nid yn unig i frwydro yn erbyn defnydd anawdurdodedig o ddelweddau cyhoeddus mewn systemau adnabod, ond hefyd fel offeryn ar gyfer cuddio ymosodwyr. Mae ymchwilwyr yn credu y gall problemau gyda chydnabyddiaeth effeithio'n bennaf ar wasanaethau trydydd parti sy'n casglu gwybodaeth yn afreolus a heb ganiatâd i hyfforddi eu modelau (er enghraifft, mae gwasanaeth Clearview.ai yn cynnig cronfa ddata adnabod wynebau, mae tua 3 biliwn o luniau o rwydweithiau cymdeithasol wedi'u mynegeio). Os nawr mae casgliadau gwasanaethau o'r fath yn cynnwys delweddau dibynadwy yn bennaf, yna gyda defnydd gweithredol o Fawkes, dros amser, bydd y set o luniau ystumiedig yn fwy a bydd y model yn eu hystyried yn flaenoriaeth uwch ar gyfer dosbarthu. Bydd systemau adnabod asiantaethau cudd-wybodaeth, y mae eu modelau wedi'u hadeiladu ar sail ffynonellau dibynadwy, yn cael eu heffeithio lai gan yr offer cyhoeddedig.
Ymhlith y datblygiadau ymarferol sy'n agos at eu pwrpas, gallwn nodi'r prosiect , datblygu i ychwanegu at ddelweddau , atal dosbarthiad cywir gan systemau dysgu peiriannau. Cod Camera Adversaria ar GitHub o dan drwydded EPL. Prosiect arall yn anelu at rwystro adnabyddiaeth gan gamerâu gwyliadwriaeth trwy greu cotiau glaw patrymog arbennig, crysau-T, siwmperi, clogyn, posteri neu hetiau.
Ffynhonnell: opennet.ru