नस्लवादी और महिला विरोधी शब्दों के कारण MIT ने Tiny Images के संग्रह को हटा दिया

मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी हटाए गए डेटा सेट छोटी छवियाँ, जिसमें 80x32 के रिज़ॉल्यूशन वाली 32 मिलियन छोटी छवियों का एनोटेट संग्रह शामिल है। इस सेट को कंप्यूटर विज़न तकनीक विकसित करने वाले एक समूह द्वारा बनाए रखा गया था और 2008 से विभिन्न शोधकर्ताओं द्वारा मशीन लर्निंग सिस्टम में ऑब्जेक्ट पहचान को प्रशिक्षित करने और परीक्षण करने के लिए इसका उपयोग किया गया है।

हटाने का कारण यह था पहचान चित्रों में दर्शाई गई वस्तुओं का वर्णन करने वाले लेबल में नस्लवादी और स्त्री-द्वेषी शब्दों का उपयोग, साथ ही ऐसी छवियों की उपस्थिति जिन्हें आपत्तिजनक माना जाता था। उदाहरण के लिए, जननांगों की छवियों में अपशब्द थे, कुछ महिलाओं की छवियों को "वेश्या" के रूप में वर्णित किया गया था, और अश्वेतों और एशियाई लोगों के लिए ऐसे शब्दों का इस्तेमाल किया गया था जो आधुनिक समाज में अस्वीकार्य हैं।

हालांकि, एमआईटी द्वारा उद्धृत दस्तावेज में ऐसे संग्रहों से संबंधित अधिक गंभीर समस्याओं का भी उल्लेख किया गया है: कंप्यूटर विज़न प्रौद्योगिकियों का उपयोग चेहरे की पहचान करने वाली प्रणालियों को विकसित करने के लिए किया जा सकता है, ताकि जनसंख्या के उन समूहों के प्रतिनिधियों की खोज की जा सके, जो किसी कारण से प्रतिबंधित हैं; छवियों को उत्पन्न करने वाला एक तंत्रिका नेटवर्क, अनाम डेटा से मूल को पुनर्स्थापित कर सकता है।

अस्वीकार्य शब्दों के प्रकट होने का कारण एक स्वचालित प्रक्रिया का प्रयोग था जो वर्गीकरण के लिए अंग्रेजी शब्दावली डेटाबेस से अर्थगत संबंधों का उपयोग करता है। WordNetप्रिंसटन यूनिवर्सिटी में 1980 के दशक में बनाया गया। चूंकि 80 मिलियन छोटी छवियों में आपत्तिजनक भाषा की मैन्युअल रूप से जांच करना असंभव है, इसलिए डेटाबेस तक पहुंच को पूरी तरह से बंद करने का निर्णय लिया गया। एमआईटी ने अन्य शोधकर्ताओं से इस संग्रह का उपयोग बंद करने और इसकी प्रतियां हटाने का भी आह्वान किया। सबसे बड़े एनोटेटेड इमेज डेटाबेस में भी इसी तरह की समस्याएं देखी गई हैं IMAGEnet, जो वर्डनेट से भी एंकर का उपयोग करता है।

स्रोत: opennet.ru