ચહેરાની ઓળખ સિસ્ટમને વિક્ષેપિત કરવા માટે ફોટાને સૂક્ષ્મ રીતે વિકૃત કરવા માટેની તકનીક

પ્રયોગશાળાના સંશોધકો SAND શિકાગો યુનિવર્સિટીએ ટૂલકીટ વિકસાવી ફોક્સ અમલીકરણ સાથે પદ્ધતિ ફોટોગ્રાફ્સની વિકૃતિ, ચહેરાની ઓળખ અને વપરાશકર્તા ઓળખ પ્રણાલીની તાલીમ માટે તેનો ઉપયોગ અટકાવવો. ઇમેજમાં પિક્સેલ ફેરફારો કરવામાં આવે છે, જે માનવો દ્વારા જોવામાં આવે ત્યારે અદૃશ્ય હોય છે, પરંતુ જ્યારે મશીન લર્નિંગ સિસ્ટમને તાલીમ આપવા માટે ઉપયોગમાં લેવાય છે ત્યારે તે ખોટા મોડલની રચના તરફ દોરી જાય છે. ટૂલકીટ કોડ Python અને માં લખાયેલ છે પ્રકાશિત BSD લાયસન્સ હેઠળ. એસેમ્બલીઝ તૈયાર Linux, macOS અને Windows માટે.

સામાજિક નેટવર્ક્સ અને અન્ય સાર્વજનિક પ્લેટફોર્મ્સ પર પ્રકાશિત કરતા પહેલા સૂચિત ઉપયોગિતા સાથે ફોટા પર પ્રક્રિયા કરવાથી તમે વપરાશકર્તાને ચહેરો ઓળખ સિસ્ટમની તાલીમ માટેના સ્ત્રોત તરીકે ફોટો ડેટાનો ઉપયોગ કરવાથી સુરક્ષિત કરી શકો છો. સૂચિત અલ્ગોરિધમ ચહેરાની ઓળખના 95% પ્રયાસો સામે રક્ષણ પૂરું પાડે છે (Microsoft Azure રેકગ્નિશન API, Amazon Recognition અને Face++ માટે, સંરક્ષણ કાર્યક્ષમતા 100% છે). તદુપરાંત, જો ભવિષ્યમાં મૂળ ફોટોગ્રાફ્સ, ઉપયોગિતા દ્વારા પ્રક્રિયા વિનાના, એવા મોડેલમાં ઉપયોગમાં લેવામાં આવે કે જેને ફોટોગ્રાફ્સના વિકૃત સંસ્કરણોનો ઉપયોગ કરીને પહેલેથી જ તાલીમ આપવામાં આવી હોય, તો પણ માન્યતામાં નિષ્ફળતાનું સ્તર એ જ રહે છે અને ઓછામાં ઓછું 80% છે.

પદ્ધતિ "વિરોધી ઉદાહરણો" ની ઘટના પર આધારિત છે, જેનો સાર એ છે કે ઇનપુટ ડેટામાં નાના ફેરફારો વર્ગીકરણ તર્કમાં નાટકીય ફેરફારો તરફ દોરી શકે છે. હાલમાં, "વિરોધી ઉદાહરણો" ની ઘટના એ મશીન લર્નિંગ સિસ્ટમ્સમાં મુખ્ય વણઉકેલાયેલી સમસ્યાઓમાંની એક છે. ભવિષ્યમાં, મશીન લર્નિંગ સિસ્ટમ્સની નવી પેઢી ઉભરી આવવાની અપેક્ષા છે જે આ ખામીઓથી મુક્ત હશે, પરંતુ આ સિસ્ટમોને આર્કિટેક્ચરમાં નોંધપાત્ર ફેરફારો અને બિલ્ડીંગ મોડલ્સના અભિગમની જરૂર પડશે.

ફોટોગ્રાફ્સની પ્રક્રિયા ઇમેજમાં પિક્સેલ્સ (ક્લસ્ટર્સ)ના સંયોજનને ઉમેરવા માટે નીચે આવે છે, જે ડીપ મશીન લર્નિંગ એલ્ગોરિધમ્સ દ્વારા ઇમેજ્ડ ઑબ્જેક્ટના પેટર્નની લાક્ષણિકતા તરીકે જોવામાં આવે છે અને વર્ગીકરણ માટે ઉપયોગમાં લેવાતી સુવિધાઓની વિકૃતિ તરફ દોરી જાય છે. આવા ફેરફારો સામાન્ય સમૂહથી અલગ પડતા નથી અને તે શોધવા અને દૂર કરવા અત્યંત મુશ્કેલ છે. મૂળ અને સંશોધિત છબીઓ સાથે પણ, તે નક્કી કરવું મુશ્કેલ છે કે કયું મૂળ છે અને કયું સંશોધિત સંસ્કરણ છે.

રજૂ કરાયેલ વિકૃતિઓ મશીન લર્નિંગ મોડલ્સના યોગ્ય બાંધકામનું ઉલ્લંઘન કરતા ફોટોગ્રાફ્સને ઓળખવાના હેતુથી પ્રતિરોધક બનાવવા માટે ઉચ્ચ પ્રતિકાર દર્શાવે છે. પિક્સેલ સંયોજનોને દબાવવા માટે અસ્પષ્ટતા, ઘોંઘાટ ઉમેરવા અથવા છબી પર ફિલ્ટર લાગુ કરવા પર આધારિત પદ્ધતિઓનો સમાવેશ કરવો અસરકારક નથી. સમસ્યા એ છે કે જ્યારે ફિલ્ટર્સ લાગુ કરવામાં આવે છે, ત્યારે વર્ગીકરણની ચોકસાઈ પિક્સેલ પેટર્નની શોધક્ષમતા કરતાં ઘણી ઝડપથી ઘટી જાય છે, અને જ્યારે વિકૃતિઓ દબાવવામાં આવે છે, ત્યારે માન્યતાના સ્તરને સ્વીકાર્ય ગણી શકાય નહીં.

એ નોંધ્યું છે કે, ગોપનીયતાના રક્ષણ માટે અન્ય મોટાભાગની તકનીકોની જેમ, સૂચિત તકનીકનો ઉપયોગ માત્ર ઓળખ પ્રણાલીમાં જાહેર છબીઓના અનધિકૃત ઉપયોગનો સામનો કરવા માટે જ નહીં, પણ હુમલાખોરોને છુપાવવા માટેના સાધન તરીકે પણ થઈ શકે છે. સંશોધકો માને છે કે માન્યતાની સમસ્યાઓ મુખ્યત્વે તૃતીય-પક્ષ સેવાઓને અસર કરી શકે છે જે અનિયંત્રિત રીતે અને તેમના મોડલને તાલીમ આપવાની પરવાનગી વિના માહિતી એકત્રિત કરે છે (ઉદાહરણ તરીકે, Clearview.ai સેવા ચહેરો ઓળખ ડેટાબેઝ પ્રદાન કરે છે, બાંધવામાં સોશિયલ નેટવર્કમાંથી લગભગ 3 અબજ ફોટા અનુક્રમિત છે). જો હવે આવી સેવાઓના સંગ્રહમાં મોટે ભાગે વિશ્વસનીય છબીઓ શામેલ છે, તો પછી ફોક્સના સક્રિય ઉપયોગ સાથે, સમય જતાં, વિકૃત ફોટાઓનો સમૂહ મોટો થશે અને મોડેલ તેમને વર્ગીકરણ માટે ઉચ્ચ પ્રાથમિકતા ગણશે. ગુપ્તચર એજન્સીઓની ઓળખ પ્રણાલીઓ, જેના મોડેલો વિશ્વસનીય સ્ત્રોતોના આધારે બનાવવામાં આવ્યા છે, પ્રકાશિત સાધનોથી ઓછી અસર થશે.

ઉદ્દેશ્યની નજીકના વ્યવહારુ વિકાસમાં, અમે પ્રોજેક્ટની નોંધ લઈ શકીએ છીએ કેમેરા એડવર્સરીયા, વિકાસશીલ મોબાઇલ એપ્લિકેશન છબીઓમાં ઉમેરવા માટે પર્લિન અવાજ, મશીન લર્નિંગ સિસ્ટમ્સ દ્વારા યોગ્ય વર્ગીકરણને અટકાવે છે. કેમેરા એડવર્સરીયા કોડ ઉપલબ્ધ EPL લાયસન્સ હેઠળ GitHub પર. બીજો પ્રોજેક્ટ અદૃશ્યતાનો ડગલો ખાસ પેટર્નવાળા રેઈનકોટ, ટી-શર્ટ, સ્વેટર, કેપ્સ, પોસ્ટરો અથવા ટોપીઓની રચના દ્વારા સર્વેલન્સ કેમેરા દ્વારા ઓળખને અવરોધિત કરવાનો હેતુ છે.

સોર્સ: opennet.ru