Ymchwilwyr o'r labordy Datblygodd Prifysgol Chicago becyn cymorth gyda gweithredu afluniad ffotograffau, gan atal eu defnydd ar gyfer hyfforddi systemau adnabod wynebau ac adnabod defnyddwyr. Cyflwynir newidiadau picsel i'r ddelwedd, sy'n anweledig i fodau dynol ond sy'n arwain at ffurfio modelau anghywir pan gânt eu defnyddio i hyfforddi systemau dysgu peirianyddol. Mae cod y pecyn cymorth wedi'i ysgrifennu yn Python a dan drwydded BSD. Cymanfaoedd gyfer Linux, macOS и Windows.
Mae prosesu lluniau gyda'r cyfleustodau arfaethedig cyn eu cyhoeddi ar gyfryngau cymdeithasol a llwyfannau cyhoeddus eraill yn amddiffyn defnyddwyr rhag defnyddio'r lluniau hyn fel ffynhonnell hyfforddi ar gyfer systemau adnabod wynebau. Mae'r algorithm arfaethedig yn darparu amddiffyniad yn erbyn 95% o ymdrechion adnabod wynebau (ar gyfer APIs adnabod wynebau Microsoft Azure, Amazon Rekognition, a Face++, mae'r effeithlonrwydd amddiffyn yn 100%). Ar ben hynny, hyd yn oed os defnyddir lluniau gwreiddiol, heb eu prosesu, wedi hynny mewn model a hyfforddwyd gan ddefnyddio fersiynau ystumiedig o'r lluniau, mae'r gyfradd methiant adnabod yn parhau i fod yn 80% o leiaf.
Mae'r dull yn seiliedig ar y ffenomen o "enghreifftiau gwrthwynebol," sy'n nodi y gall newidiadau bach mewn data mewnbwn arwain at newidiadau dramatig mewn rhesymeg dosbarthu. Ar hyn o bryd, mae'r ffenomen o "enghreifftiau gwrthwynebol" yn un o'r prif broblemau heb eu datrys mewn systemau dysgu peirianyddol. Yn y dyfodol, disgwylir i genhedlaeth newydd o systemau dysgu peirianyddol sy'n rhydd o'r anfantais hon ddod i'r amlwg, ond bydd y systemau hyn yn gofyn am newidiadau sylweddol yn eu pensaernïaeth a'u dull o adeiladu modelau.
Mae prosesu lluniau yn cynnwys ychwanegu cyfuniadau o bicseli (clystyrau) at ddelwedd. Mae'r clystyrau hyn yn cael eu dehongli gan algorithmau dysgu dwfn fel patrymau sy'n nodweddiadol o'r gwrthrych sy'n cael ei ddarlunio, gan ystumio'r nodweddion a ddefnyddir ar gyfer dosbarthu. Mae newidiadau o'r fath yn anwahanadwy o'r set gyffredinol ac maent yn anodd iawn eu canfod a'u tynnu. Hyd yn oed gyda'r delweddau gwreiddiol a'r rhai wedi'u haddasu, mae'n anodd gwahaniaethu rhwng y fersiwn wreiddiol a'r fersiwn wedi'i haddasu.
Mae'r ystumio a gyflwynwyd yn dangos ymwrthedd uchel i wrthfesurau sydd â'r nod o nodi ffotograffau sy'n tarfu ar y gwaith cywir o adeiladu modelau dysgu peirianyddol. Ymhlith pethau eraill, mae dulliau sy'n seiliedig ar aneglurder, ychwanegu sŵn, neu gymhwyso hidlwyr i'r ddelwedd i atal patrymau picsel yn aneffeithiol. Y broblem yw, wrth gymhwyso hidlwyr, bod cywirdeb dosbarthu yn gostwng yn sylweddol gyflymach na chanfyddadwyedd patrymau picsel, ac unwaith y bydd yr ystumio wedi'i atal, ni ellir ystyried y lefel adnabyddiaeth yn dderbyniol mwyach.
Nodwyd, fel y rhan fwyaf o dechnolegau eraill sy'n diogelu preifatrwydd, y gellir defnyddio'r dechneg arfaethedig nid yn unig i frwydro yn erbyn y defnydd heb awdurdod o ddelweddau cyhoeddus mewn systemau adnabod, ond hefyd fel offeryn ar gyfer cuddio ymosodwyr. Mae'r ymchwilwyr yn credu bod problemau adnabod yn bennaf yn debygol o effeithio ar wasanaethau trydydd parti sy'n casglu data yn afreolus ac yn ddi-ganiatâd i hyfforddi eu modelau (er enghraifft, mae'r gwasanaeth Clearview.ai yn cynnig cronfa ddata adnabod wynebau, (Mae hyn yn seiliedig ar fynegeio tua 3 biliwn o luniau o rwydweithiau cymdeithasol.) Er bod casgliadau gwasanaethau o'r fath ar hyn o bryd yn cynnwys delweddau dibynadwy yn bennaf, gyda defnydd gweithredol o Fawkes, dros amser, bydd y set o luniau ystumiedig yn cynyddu, a bydd y model yn eu blaenoriaethu ar gyfer dosbarthu. Bydd gan y pecyn cymorth cyhoeddedig lai o effaith ar systemau adnabod asiantaethau cudd-wybodaeth, y mae eu modelau'n seiliedig ar ffynonellau dibynadwy.
Ymhlith y datblygiadau ymarferol sy'n debyg o ran pwrpas, gellir nodi'r prosiect , yn datblygu i ychwanegu at ddelweddau , sy'n ymyrryd â dosbarthiad cywir gan systemau dysgu peirianyddol. Cod Camera Adversaria ar GitHub o dan y drwydded EPL. Prosiect arall yn anelu at rwystro adnabyddiaeth gan gamerâu gwyliadwriaeth trwy greu cotiau glaw, crysau-T, siwmperi, capiau, posteri neu hetiau â phatrymau arbennig.
Ffynhonnell: opennet.ru
