ফেসিয়াল রিকগনিশন সিস্টেম ব্যাহত করার জন্য সূক্ষ্মভাবে ফটো বিকৃত করার কৌশল

গবেষণাগারের গবেষকরা SAND শিকাগো বিশ্ববিদ্যালয় একটি টুলকিট তৈরি করেছে ফোকস বাস্তবায়নের সাথে পদ্ধতি ফটোগ্রাফের বিকৃতি, মুখ শনাক্তকরণ এবং ব্যবহারকারী সনাক্তকরণ সিস্টেম প্রশিক্ষণের জন্য তাদের ব্যবহার প্রতিরোধ করা। পিক্সেল পরিবর্তনগুলি ইমেজে করা হয়, যা মানুষের দ্বারা দেখার সময় অদৃশ্য হয়, কিন্তু মেশিন লার্নিং সিস্টেমগুলিকে প্রশিক্ষণের জন্য ব্যবহার করার সময় ভুল মডেল গঠনের দিকে পরিচালিত করে৷ টুলকিট কোডটি পাইথনে লেখা হয় এবং প্রকাশিত BSD লাইসেন্সের অধীনে। সমাবেশগুলি প্রস্তুত Linux, macOS এবং Windows এর জন্য।

সোশ্যাল নেটওয়ার্ক এবং অন্যান্য পাবলিক প্ল্যাটফর্মে প্রকাশ করার আগে প্রস্তাবিত ইউটিলিটি সহ ফটোগুলি প্রক্রিয়াকরণ আপনাকে ফেস রিকগনিশন সিস্টেম প্রশিক্ষণের জন্য উত্স হিসাবে ফটো ডেটা ব্যবহার করা থেকে ব্যবহারকারীকে রক্ষা করতে দেয়৷ প্রস্তাবিত অ্যালগরিদম 95% মুখ শনাক্তকরণ প্রচেষ্টার বিরুদ্ধে সুরক্ষা প্রদান করে (Microsoft Azure রিকগনিশন API, Amazon Recognition এবং Face++ এর জন্য, সুরক্ষা দক্ষতা 100%)। তদুপরি, এমনকি যদি ভবিষ্যতে মূল ফটোগ্রাফগুলি, ইউটিলিটি দ্বারা প্রক্রিয়া না করা হয়, এমন একটি মডেলে ব্যবহৃত হয় যা ইতিমধ্যে ফটোগ্রাফের বিকৃত সংস্করণ ব্যবহার করে প্রশিক্ষিত হয়েছে, স্বীকৃতিতে ব্যর্থতার মাত্রা একই থাকে এবং কমপক্ষে 80%।

পদ্ধতিটি "প্রতিপক্ষের উদাহরণ" এর ঘটনার উপর ভিত্তি করে তৈরি করা হয়েছে, যার সারমর্ম হল ইনপুট ডেটাতে ছোটখাটো পরিবর্তন শ্রেণীবিভাগের যুক্তিতে নাটকীয় পরিবর্তন ঘটাতে পারে। বর্তমানে, "প্রতিপক্ষের উদাহরণ" এর ঘটনাটি মেশিন লার্নিং সিস্টেমের প্রধান অমীমাংসিত সমস্যাগুলির মধ্যে একটি। ভবিষ্যতে, মেশিন লার্নিং সিস্টেমের একটি নতুন প্রজন্মের আবির্ভাব হবে বলে আশা করা হচ্ছে যা এই ত্রুটি থেকে মুক্ত, তবে এই সিস্টেমগুলির জন্য স্থাপত্য এবং মডেল তৈরির পদ্ধতিতে উল্লেখযোগ্য পরিবর্তন প্রয়োজন হবে।

প্রসেসিং ফটোগ্রাফগুলি ইমেজে পিক্সেল (ক্লাস্টার) এর সংমিশ্রণ যোগ করার জন্য নেমে আসে, যা গভীর মেশিন লার্নিং অ্যালগরিদম দ্বারা চিত্রিত বস্তুর বৈশিষ্ট্য হিসাবে ধরা হয় এবং শ্রেণীবিভাগের জন্য ব্যবহৃত বৈশিষ্ট্যগুলির বিকৃতি ঘটায়। এই ধরনের পরিবর্তনগুলি সাধারণ সেট থেকে আলাদা হয় না এবং সনাক্ত করা এবং অপসারণ করা অত্যন্ত কঠিন। এমনকি আসল এবং পরিবর্তিত ছবি দিয়েও, কোনটি আসল এবং কোনটি পরিবর্তিত সংস্করণ তা নির্ধারণ করা কঠিন।

প্রবর্তিত বিকৃতিগুলি মেশিন লার্নিং মডেলগুলির সঠিক নির্মাণ লঙ্ঘন করে এমন ফটোগ্রাফগুলি সনাক্ত করার লক্ষ্যে পাল্টা ব্যবস্থা তৈরির জন্য উচ্চ প্রতিরোধ প্রদর্শন করে। পিক্সেল সংমিশ্রণ দমন করার জন্য অস্পষ্টতা, শব্দ যোগ করা বা ছবিতে ফিল্টার প্রয়োগের উপর ভিত্তি করে পদ্ধতিগুলি অন্তর্ভুক্ত করা কার্যকর নয়৷ সমস্যা হল যখন ফিল্টারগুলি প্রয়োগ করা হয়, শ্রেণীবিভাগের নির্ভুলতা পিক্সেল প্যাটার্নগুলির সনাক্তকরণের চেয়ে অনেক দ্রুত হ্রাস পায় এবং যে স্তরে বিকৃতিগুলি দমন করা হয়, স্বীকৃতির স্তরটিকে আর গ্রহণযোগ্য হিসাবে বিবেচনা করা যায় না।

এটি উল্লেখ করা হয়েছে যে, গোপনীয়তা রক্ষার জন্য অন্যান্য প্রযুক্তির মতো, প্রস্তাবিত কৌশলটি শুধুমাত্র স্বীকৃতি সিস্টেমে পাবলিক ইমেজের অননুমোদিত ব্যবহারের বিরুদ্ধে লড়াই করার জন্য নয়, আক্রমণকারীদের লুকানোর একটি হাতিয়ার হিসেবেও ব্যবহার করা যেতে পারে। গবেষকরা বিশ্বাস করেন যে স্বীকৃতির সমস্যাগুলি প্রধানত তৃতীয় পক্ষের পরিষেবাগুলিকে প্রভাবিত করতে পারে যেগুলি তাদের মডেলগুলিকে প্রশিক্ষণের জন্য অনিয়ন্ত্রিতভাবে এবং অনুমতি ছাড়াই তথ্য সংগ্রহ করে (উদাহরণস্বরূপ, Clearview.ai পরিষেবা একটি মুখ শনাক্তকরণ ডেটাবেস অফার করে, নির্মিত সোশ্যাল নেটওয়ার্ক থেকে প্রায় 3 বিলিয়ন ফটোগুলি সূচিত করা হয়েছে)। এখন যদি এই ধরনের পরিষেবাগুলির সংগ্রহে বেশিরভাগ নির্ভরযোগ্য ছবি থাকে, তবে ফকসের সক্রিয় ব্যবহারের সাথে, সময়ের সাথে সাথে, বিকৃত ফটোগুলির সেটটি আরও বড় হবে এবং মডেলটি তাদের শ্রেণীবিভাগের জন্য একটি উচ্চ অগ্রাধিকার বিবেচনা করবে। গোয়েন্দা সংস্থাগুলির স্বীকৃতি সিস্টেমগুলি, যেগুলির মডেলগুলি নির্ভরযোগ্য উত্সের ভিত্তিতে তৈরি করা হয়েছে, প্রকাশিত সরঞ্জামগুলির দ্বারা কম প্রভাবিত হবে৷

উদ্দেশ্যের কাছাকাছি ব্যবহারিক উন্নয়নের মধ্যে, আমরা প্রকল্পটি নোট করতে পারি ক্যামেরা অ্যাডভারসারিয়া, উন্নয়নশীল মোবাইল অ্যাপ্লিকেশন ইমেজ যোগ করতে পার্লিন শব্দ, মেশিন লার্নিং সিস্টেম দ্বারা সঠিক শ্রেণীবিভাগ প্রতিরোধ করা। ক্যামেরা অ্যাডভারসারিয়া কোড উপলব্ধ ইপিএল লাইসেন্সের অধীনে গিটহাবে। আরেকটি প্রকল্প অদৃশ্যতার পোশাক বিশেষ প্যাটার্নযুক্ত রেইনকোট, টি-শার্ট, সোয়েটার, কেপস, পোস্টার বা টুপি তৈরির মাধ্যমে নজরদারি ক্যামেরা দ্বারা স্বীকৃতি ব্লক করার লক্ষ্য।

উত্স: opennet.ru