चेहरे की पहचान प्रणालियों को बाधित करने के लिए तस्वीरों को सूक्ष्मता से विकृत करने की तकनीक

प्रयोगशाला के शोधकर्ता SAND शिकागो विश्वविद्यालय ने एक टूलकिट विकसित किया फॉक्स कार्यान्वयन के साथ तरीका तस्वीरों का विरूपण, चेहरे की पहचान और उपयोगकर्ता पहचान प्रणालियों के प्रशिक्षण के लिए उनके उपयोग को रोकना। छवि में पिक्सेल परिवर्तन किए जाते हैं, जो मनुष्यों द्वारा देखे जाने पर अदृश्य होते हैं, लेकिन मशीन लर्निंग सिस्टम को प्रशिक्षित करने के लिए उपयोग किए जाने पर गलत मॉडल का निर्माण होता है। टूलकिट कोड पायथन में लिखा गया है और प्रकाशित बीएसडी लाइसेंस के तहत. सभाओं तैयार Linux, macOS और Windows के लिए.

सामाजिक नेटवर्क और अन्य सार्वजनिक प्लेटफार्मों पर प्रकाशित करने से पहले प्रस्तावित उपयोगिता के साथ फ़ोटो संसाधित करने से आप उपयोगकर्ता को चेहरा पहचान प्रणालियों के प्रशिक्षण के स्रोत के रूप में फोटो डेटा का उपयोग करने से बचा सकते हैं। प्रस्तावित एल्गोरिदम चेहरे की पहचान के 95% प्रयासों के विरुद्ध सुरक्षा प्रदान करता है (Microsoft Azure मान्यता API, Amazon Recognition और Face++ के लिए, सुरक्षा दक्षता 100% है)। इसके अलावा, भले ही भविष्य में उपयोगिता द्वारा असंसाधित मूल तस्वीरों का उपयोग ऐसे मॉडल में किया जाता है जिसे तस्वीरों के विकृत संस्करणों का उपयोग करके पहले ही प्रशिक्षित किया जा चुका है, पहचान में विफलताओं का स्तर वही रहता है और कम से कम 80% होता है।

यह विधि "प्रतिकूल उदाहरण" की घटना पर आधारित है, जिसका सार यह है कि इनपुट डेटा में मामूली परिवर्तन से वर्गीकरण तर्क में नाटकीय परिवर्तन हो सकते हैं। वर्तमान में, "प्रतिकूल उदाहरण" की घटना मशीन लर्निंग सिस्टम में मुख्य अनसुलझी समस्याओं में से एक है। भविष्य में, मशीन लर्निंग सिस्टम की एक नई पीढ़ी उभरने की उम्मीद है जो इस खामी से मुक्त होगी, लेकिन इन सिस्टमों को बिल्डिंग मॉडल के लिए वास्तुकला और दृष्टिकोण में महत्वपूर्ण बदलाव की आवश्यकता होगी।

तस्वीरों का प्रसंस्करण छवि में पिक्सेल (क्लस्टर) के संयोजन को जोड़ने के लिए आता है, जिन्हें गहरी मशीन लर्निंग एल्गोरिदम द्वारा छवि वाली वस्तु की विशेषता वाले पैटर्न के रूप में माना जाता है और वर्गीकरण के लिए उपयोग की जाने वाली सुविधाओं में विकृति पैदा होती है। ऐसे परिवर्तन सामान्य सेट से अलग नहीं होते हैं और इन्हें पहचानना और हटाना बेहद मुश्किल होता है। यहां तक ​​कि मूल और संशोधित छवियों के साथ भी, यह निर्धारित करना मुश्किल है कि कौन सा मूल है और कौन सा संशोधित संस्करण है।

प्रस्तुत विकृतियाँ मशीन लर्निंग मॉडल के सही निर्माण का उल्लंघन करने वाली तस्वीरों की पहचान करने के उद्देश्य से प्रति उपायों के निर्माण के लिए उच्च प्रतिरोध प्रदर्शित करती हैं। पिक्सेल संयोजनों को दबाने के लिए छवि में धुंधलापन, शोर जोड़ना, या फ़िल्टर लागू करने पर आधारित तरीके शामिल करना प्रभावी नहीं है। समस्या यह है कि जब फ़िल्टर लागू किए जाते हैं, तो वर्गीकरण सटीकता पिक्सेल पैटर्न की पहचान की तुलना में बहुत तेजी से गिरती है, और जिस स्तर पर विकृतियों को दबा दिया जाता है, मान्यता के स्तर को अब स्वीकार्य नहीं माना जा सकता है।

यह ध्यान दिया जाता है कि, गोपनीयता की रक्षा के लिए अधिकांश अन्य तकनीकों की तरह, प्रस्तावित तकनीक का उपयोग न केवल मान्यता प्रणालियों में सार्वजनिक छवियों के अनधिकृत उपयोग से निपटने के लिए किया जा सकता है, बल्कि हमलावरों को छिपाने के लिए एक उपकरण के रूप में भी किया जा सकता है। शोधकर्ताओं का मानना ​​है कि पहचान की समस्याएं मुख्य रूप से तीसरे पक्ष की सेवाओं को प्रभावित कर सकती हैं जो अनियंत्रित रूप से और अपने मॉडलों को प्रशिक्षित करने की अनुमति के बिना जानकारी एकत्र करती हैं (उदाहरण के लिए, Clearview.ai सेवा एक चेहरा पहचान डेटाबेस प्रदान करती है, निर्माण सोशल नेटवर्क से लगभग 3 बिलियन तस्वीरें अनुक्रमित की जाती हैं)। यदि अब ऐसी सेवाओं के संग्रह में ज्यादातर विश्वसनीय छवियां हैं, तो समय के साथ फॉक्स के सक्रिय उपयोग के साथ, विकृत तस्वीरों का सेट बड़ा हो जाएगा और मॉडल उन्हें वर्गीकरण के लिए उच्च प्राथमिकता पर विचार करेगा। ख़ुफ़िया एजेंसियों की पहचान प्रणालियाँ, जिनके मॉडल विश्वसनीय स्रोतों के आधार पर बनाए गए हैं, प्रकाशित टूल से कम प्रभावित होंगी।

उद्देश्य के समान व्यावहारिक विकासों के बीच, हम परियोजना को नोट कर सकते हैं कैमरा एडवर्सेरिया, विकसित होना मोबाइल ऐप छवियों में जोड़ने के लिए पर्लिन शोर, मशीन लर्निंग सिस्टम द्वारा सही वर्गीकरण को रोकना। कैमरा एडवर्सरिया कोड उपलब्ध है ईपीएल लाइसेंस के तहत GitHub पर। एक और परियोजना अदर्शन आवरण इसका उद्देश्य विशेष पैटर्न वाले रेनकोट, टी-शर्ट, स्वेटर, टोपी, पोस्टर या टोपी के निर्माण के माध्यम से निगरानी कैमरों द्वारा पहचान को अवरुद्ध करना है।

स्रोत: opennet.ru