चेहर्यावरील ओळख प्रणालीमध्ये व्यत्यय आणण्यासाठी फोटो सूक्ष्मपणे विकृत करण्याचे तंत्र

प्रयोगशाळेतील संशोधक SAND शिकागो विद्यापीठात एक टूलकिट विकसित करण्यात आली. फॉक्स अंमलबजावणीसह पद्धत छायाचित्रांचे विकृतीकरण, चेहऱ्याची ओळख आणि वापरकर्ता ओळख प्रणाली प्रशिक्षण देण्यासाठी त्यांचा वापर प्रतिबंधित करणे. प्रतिमेमध्ये पिक्सेल बदल सादर केले जातात, जे मानवांना अदृश्य असतात परंतु मशीन लर्निंग सिस्टम प्रशिक्षित करण्यासाठी वापरल्यास चुकीचे मॉडेल तयार होतात. टूलकिट कोड पायथॉनमध्ये लिहिलेला आहे आणि प्रकाशित BSD परवान्या अंतर्गत. संमेलने तयार ते Linux, macOS и Windows.

प्रस्तावित युटिलिटीसह फोटो सोशल मीडिया आणि इतर सार्वजनिक प्लॅटफॉर्मवर प्रकाशित करण्यापूर्वी प्रक्रिया केल्याने वापरकर्त्यांना हे फोटो फेशियल रेकग्निशन सिस्टमसाठी प्रशिक्षण स्रोत म्हणून वापरण्यापासून संरक्षण मिळते. प्रस्तावित अल्गोरिथम ९५% फेशियल रेकग्निशन प्रयत्नांपासून संरक्षण प्रदान करते (मायक्रोसॉफ्ट अझ्युर, अमेझॉन रिकग्निशन आणि फेस++ फेशियल रेकग्निशन एपीआयसाठी, संरक्षण कार्यक्षमता १००% आहे). शिवाय, जरी मूळ, प्रक्रिया न केलेले फोटो नंतर फोटोंच्या विकृत आवृत्त्यांचा वापर करून प्रशिक्षित केलेल्या मॉडेलमध्ये वापरले गेले असले तरीही, ओळख अपयश दर किमान ८०% राहतो.

ही पद्धत "प्रतिकूल उदाहरणे" या घटनेवर आधारित आहे, ज्यामध्ये असे म्हटले आहे की इनपुट डेटामधील किरकोळ बदल वर्गीकरण तर्कशास्त्रात नाट्यमय बदल घडवून आणू शकतात. सध्या, "प्रतिकूल उदाहरणे" ही घटना मशीन लर्निंग सिस्टममधील मुख्य न सुटलेल्या समस्यांपैकी एक आहे. भविष्यात, या कमतरतांपासून मुक्त मशीन लर्निंग सिस्टमची एक नवीन पिढी उदयास येण्याची अपेक्षा आहे, परंतु या सिस्टमना त्यांच्या आर्किटेक्चरमध्ये आणि मॉडेल बांधकामाच्या दृष्टिकोनात महत्त्वपूर्ण बदलांची आवश्यकता असेल.

फोटो प्रोसेसिंगमध्ये प्रतिमेत पिक्सेल (क्लस्टर) चे संयोजन जोडणे समाविष्ट असते. या क्लस्टर्सचा अर्थ डीप लर्निंग अल्गोरिदमद्वारे चित्रित केलेल्या वस्तूचे वैशिष्ट्यपूर्ण नमुने म्हणून केला जातो, ज्यामुळे वर्गीकरणासाठी वापरल्या जाणाऱ्या वैशिष्ट्यांचा विपर्यास होतो. असे बदल सामान्य संचापासून वेगळे करता येत नाहीत आणि ते शोधणे आणि काढणे अत्यंत कठीण असते. मूळ आणि सुधारित प्रतिमा दोन्ही असतानाही, मूळ आणि सुधारित आवृत्तीमध्ये फरक करणे कठीण असते.

मशीन लर्निंग मॉडेल्सच्या योग्य बांधकामात व्यत्यय आणणाऱ्या छायाचित्रे ओळखण्याच्या उद्देशाने वापरल्या जाणाऱ्या प्रति-उपायांना सादर केलेल्या विकृती उच्च प्रतिकार दर्शवितात. इतर गोष्टींबरोबरच, पिक्सेल पॅटर्न दाबण्यासाठी अस्पष्ट करणे, आवाज जोडणे किंवा प्रतिमेवर फिल्टर लागू करणे यावर आधारित पद्धती कुचकामी आहेत. समस्या अशी आहे की फिल्टर लागू करताना, वर्गीकरण अचूकता पिक्सेल पॅटर्नच्या शोधण्यापेक्षा लक्षणीयरीत्या वेगाने कमी होते आणि एकदा विकृती दाबली गेल्यानंतर, ओळख पातळी स्वीकार्य मानली जाऊ शकत नाही.

हे लक्षात घेतले जाते की, बहुतेक इतर गोपनीयता-संरक्षण तंत्रज्ञानांप्रमाणे, प्रस्तावित तंत्राचा वापर केवळ ओळख प्रणालींमध्ये सार्वजनिक प्रतिमांच्या अनधिकृत वापराचा सामना करण्यासाठीच नाही तर हल्लेखोरांना लपविण्यासाठी एक साधन म्हणून देखील केला जाऊ शकतो. संशोधकांचा असा विश्वास आहे की ओळख समस्या प्रामुख्याने तृतीय-पक्ष सेवांवर परिणाम करतात ज्या अनियंत्रितपणे आणि परवानगीशिवाय त्यांच्या मॉडेल्सना प्रशिक्षित करण्यासाठी डेटा गोळा करतात (उदाहरणार्थ, Clearview.ai ही सेवा चेहर्यावरील ओळख डेटाबेस देते, बांधलेले (हे सोशल नेटवर्क्सवरील अंदाजे ३ अब्ज फोटोंच्या अनुक्रमणिकेवर आधारित आहे.) अशा सेवांच्या संग्रहात सध्या प्रामुख्याने विश्वासार्ह प्रतिमा आहेत, परंतु फॉक्सच्या सक्रिय वापरामुळे, कालांतराने, विकृत फोटोंचा संच वाढेल आणि मॉडेल त्यांना वर्गीकरणासाठी प्राधान्य देईल. प्रकाशित टूलकिटचा गुप्तचर संस्थांच्या ओळख प्रणालींवर कमी परिणाम होईल, ज्यांचे मॉडेल विश्वसनीय स्त्रोतांवर आधारित आहेत.

उद्देशाच्या जवळच्या व्यावहारिक घडामोडींपैकी, प्रकल्प लक्षात घेता येईल कॅमेरा अ‍ॅडव्हर्सेरिया, विकसनशील मोबाईल अॅप प्रतिमांमध्ये जोडण्यासाठी पर्लिन आवाज, जे मशीन लर्निंग सिस्टमद्वारे योग्य वर्गीकरणात अडथळा आणते. कॅमेरा अ‍ॅडव्हर्सेरिया कोड उपलब्ध EPL परवान्याअंतर्गत GitHub वर. आणखी एक प्रकल्प अदृश्यतेचा झगा विशेष नमुन्यांचे रेनकोट, टी-शर्ट, स्वेटर, केप, पोस्टर्स किंवा टोप्या तयार करून पाळत ठेवणाऱ्या कॅमेऱ्यांद्वारे ओळख रोखण्याचे उद्दिष्ट आहे.

स्त्रोत: opennet.ru