ప్రయోగశాల నుండి పరిశోధకులు చికాగో విశ్వవిద్యాలయం ఒక టూల్‌కిట్‌ను అభివృద్ధి చేసింది అమలుతో ఛాయాచిత్రాలను వక్రీకరించడం, ముఖ గుర్తింపు మరియు వినియోగదారు గుర్తింపు వ్యవస్థల శిక్షణ కోసం వాటి వినియోగాన్ని నిరోధించడం. ఇమేజ్‌కి పిక్సెల్ మార్పులు చేయబడ్డాయి, ఇవి మానవులు చూసినప్పుడు కనిపించవు, అయితే మెషీన్ లెర్నింగ్ సిస్టమ్‌లకు శిక్షణ ఇవ్వడానికి ఉపయోగించినప్పుడు తప్పు నమూనాలు ఏర్పడటానికి దారితీస్తాయి. టూల్‌కిట్ కోడ్ పైథాన్‌లో వ్రాయబడింది మరియు BSD లైసెన్స్ కింద. అసెంబ్లీలు Linux, macOS మరియు Windows కోసం.
సోషల్ నెట్‌వర్క్‌లు మరియు ఇతర పబ్లిక్ ప్లాట్‌ఫారమ్‌లలో ప్రచురించే ముందు ప్రతిపాదిత యుటిలిటీతో ఫోటోలను ప్రాసెస్ చేయడం వలన ఫేస్ రికగ్నిషన్ సిస్టమ్‌ల శిక్షణ కోసం ఫోటో డేటాను మూలంగా ఉపయోగించకుండా వినియోగదారుని రక్షించడానికి మిమ్మల్ని అనుమతిస్తుంది. ప్రతిపాదిత అల్గారిథమ్ 95% ముఖ గుర్తింపు ప్రయత్నాల నుండి రక్షణను అందిస్తుంది (Microsoft Azure recognition API, Amazon Recognition మరియు Face++ కోసం, రక్షణ సామర్థ్యం 100%). అంతేకాకుండా, భవిష్యత్తులో అసలు ఫోటోగ్రాఫ్‌లు, యుటిలిటీ ద్వారా ప్రాసెస్ చేయనివి, ఫోటోగ్రాఫ్‌ల యొక్క వక్రీకరించిన సంస్కరణలను ఉపయోగించి ఇప్పటికే శిక్షణ పొందిన మోడల్‌లో ఉపయోగించినప్పటికీ, గుర్తింపులో వైఫల్యాల స్థాయి అలాగే ఉంటుంది మరియు కనీసం 80% ఉంటుంది.
పద్ధతి "ప్రత్యర్థి ఉదాహరణలు" యొక్క దృగ్విషయం మీద ఆధారపడి ఉంటుంది, దీని సారాంశం ఇన్పుట్ డేటాలో చిన్న మార్పులు వర్గీకరణ తర్కంలో నాటకీయ మార్పులకు దారితీయవచ్చు. ప్రస్తుతం, మెషీన్ లెర్నింగ్ సిస్టమ్‌లలో "విరోధి ఉదాహరణలు" యొక్క దృగ్విషయం ప్రధాన పరిష్కారం కాని సమస్యలలో ఒకటి. భవిష్యత్తులో, ఈ లోపం లేని కొత్త తరం మెషీన్ లెర్నింగ్ సిస్టమ్‌లు ఉద్భవించవచ్చని భావిస్తున్నారు, అయితే ఈ వ్యవస్థలకు నిర్మాణంలో మరియు నిర్మాణ నమూనాల విధానంలో గణనీయమైన మార్పులు అవసరం.
ఫోటోగ్రాఫ్‌లను ప్రాసెసింగ్ చేయడం అనేది ఇమేజ్‌కి పిక్సెల్‌ల (క్లస్టర్‌లు) కలయికను జోడించడం ద్వారా వస్తుంది, ఇవి డీప్ మెషీన్ లెర్నింగ్ అల్గారిథమ్‌ల ద్వారా ఇమేజ్ చేయబడిన వస్తువు యొక్క లక్షణంగా గుర్తించబడతాయి మరియు వర్గీకరణ కోసం ఉపయోగించే లక్షణాల వక్రీకరణకు దారితీస్తాయి. ఇటువంటి మార్పులు సాధారణ సెట్ నుండి నిలబడవు మరియు గుర్తించడం మరియు తీసివేయడం చాలా కష్టం. అసలైన మరియు సవరించిన చిత్రాలతో కూడా, ఏది అసలైనది మరియు ఏది సవరించబడిన సంస్కరణ అని గుర్తించడం కష్టం.
మెషిన్ లెర్నింగ్ మోడల్స్ యొక్క సరైన నిర్మాణాన్ని ఉల్లంఘించే ఛాయాచిత్రాలను గుర్తించే లక్ష్యంతో ప్రతిఘటనల సృష్టికి ప్రవేశపెట్టిన వక్రీకరణలు అధిక ప్రతిఘటనను ప్రదర్శిస్తాయి. పిక్సెల్ కలయికలను అణచివేయడానికి ఇమేజ్‌కి బ్లర్ చేయడం, నాయిస్ జోడించడం లేదా ఫిల్టర్‌లను వర్తింపజేయడం వంటి వాటిపై ఆధారపడిన పద్ధతులతో సహా ప్రభావవంతంగా ఉండదు. సమస్య ఏమిటంటే, ఫిల్టర్‌లను వర్తింపజేసినప్పుడు, వర్గీకరణ ఖచ్చితత్వం పిక్సెల్ నమూనాల గుర్తింపు కంటే చాలా వేగంగా పడిపోతుంది మరియు వక్రీకరణలు అణచివేయబడిన స్థాయిలో, గుర్తింపు స్థాయి ఇకపై ఆమోదయోగ్యంగా పరిగణించబడదు.
గోప్యతను రక్షించే ఇతర సాంకేతికతల మాదిరిగానే, ప్రతిపాదిత సాంకేతికత గుర్తింపు వ్యవస్థలలో పబ్లిక్ చిత్రాల అనధికార వినియోగాన్ని ఎదుర్కోవడానికి మాత్రమే కాకుండా, దాడి చేసేవారిని దాచడానికి ఒక సాధనంగా కూడా ఉపయోగించబడుతుందని గుర్తించబడింది. గుర్తింపుతో సమస్యలు తమ మోడల్‌లకు శిక్షణ ఇవ్వడానికి అనుమతి లేకుండా మరియు నియంత్రణ లేకుండా సమాచారాన్ని సేకరించే మూడవ పక్ష సేవలను ప్రధానంగా ప్రభావితం చేస్తాయని పరిశోధకులు భావిస్తున్నారు (ఉదాహరణకు, Clearview.ai సేవ ముఖ గుర్తింపు డేటాబేస్‌ను అందిస్తుంది, సోషల్ నెట్‌వర్క్‌ల నుండి సుమారు 3 బిలియన్ ఫోటోలు సూచిక చేయబడ్డాయి). ఇప్పుడు అటువంటి సేవల సేకరణలు ఎక్కువగా విశ్వసనీయ చిత్రాలను కలిగి ఉంటే, అప్పుడు ఫాక్స్ యొక్క క్రియాశీల ఉపయోగంతో, కాలక్రమేణా, వక్రీకరించిన ఫోటోల సెట్ పెద్దదిగా ఉంటుంది మరియు మోడల్ వాటిని వర్గీకరణకు అధిక ప్రాధాన్యతగా పరిగణిస్తుంది. ఇంటెలిజెన్స్ ఏజెన్సీల గుర్తింపు వ్యవస్థలు, విశ్వసనీయ మూలాల ఆధారంగా రూపొందించబడిన నమూనాలు ప్రచురించబడిన సాధనాల ద్వారా తక్కువగా ప్రభావితమవుతాయి.
ఆచరణాత్మక పరిణామాలలో ఉద్దేశ్యంతో దగ్గరగా, మేము ప్రాజెక్ట్ను గమనించవచ్చు , అభివృద్ధి చెందుతున్న చిత్రాలకు జోడించడానికి , యంత్ర అభ్యాస వ్యవస్థల ద్వారా సరైన వర్గీకరణను నిరోధించడం. కెమెరా అడ్వర్సరియా కోడ్ EPL లైసెన్స్ క్రింద GitHubలో. మరో ప్రాజెక్ట్ ప్రత్యేక నమూనా గల రెయిన్‌కోట్‌లు, టీ-షర్టులు, స్వెటర్‌లు, కేప్‌లు, పోస్టర్‌లు లేదా టోపీలను రూపొందించడం ద్వారా నిఘా కెమెరాల ద్వారా గుర్తింపును నిరోధించడం లక్ష్యంగా పెట్టుకుంది.
మూలం: opennet.ru