MIT는 인종차별적이고 여성혐오적인 용어를 식별한 후 Tiny Images 컬렉션을 제거했습니다.

매사추세츠 공과 대학 삭제 데이터 세트 작은 이미지, 주석이 달린 80천만 개의 작은 32x32 이미지 컬렉션을 제공합니다. 이 세트는 컴퓨터 비전 기술을 개발하는 그룹에 의해 유지 관리되었으며 2008년부터 다양한 연구자가 기계 학습 시스템에서 객체 인식을 훈련하고 테스트하는 데 사용되었습니다.

제거 이유는 다음과 같습니다. 발각 사진에 묘사된 물체를 설명하는 라벨에 인종차별적이고 여성 혐오적인 용어를 사용하는 것뿐만 아니라 공격적인 것으로 인식되는 이미지의 존재. 예를 들어, 성기 이미지에 속어가 포함되어 있고, 일부 여성의 이미지가 '창녀'로 특징지어지며, 현대 사회에서 흑인이나 아시아인이 용납할 수 없는 용어가 사용되기도 했습니다.

그러나 MIT가 인용한 문서는 이러한 컬렉션의 더 심각한 문제도 식별합니다. 컴퓨터 비전 기술을 사용하여 어떤 이유로 금지된 인구 집단의 대표자를 검색하는 얼굴 인식 시스템을 개발할 수 있습니다. 이미지 생성을 위한 신경망은 익명화된 데이터로부터 원본을 재구성할 수 있습니다.

유효하지 않은 단어가 나타나는 이유는 영어 어휘 데이터베이스의 의미 관계를 사용하여 분류하는 자동화된 프로세스를 사용했기 때문입니다. 워드 넷 (WordNet), 프린스턴 대학에서 1980년대에 만들어졌습니다. 80천만 장의 작은 사진에서는 수동으로 공격적인 언어가 있는지 확인할 수 없기 때문에 데이터베이스에 대한 접근을 완전히 차단하기로 결정했습니다. MIT는 또한 다른 연구자들에게 컬렉션 사용을 중단하고 복사본을 제거할 것을 촉구했습니다. 가장 큰 주석이 달린 이미지 데이터베이스에서도 비슷한 문제가 관찰됩니다. IMAGEnet, WordNet의 앵커도 사용합니다.

출처 : opennet.ru