Massachusetts Institute of Technology Datensatz , einschließlich einer annotierten Sammlung von 80 Millionen kleinen Bildern mit einer Auflösung von 32×32. Der Datensatz wurde von einer Gruppe unterstützt, die Technologien für Computer Vision entwickelt, und wurde seit 2008 von verschiedenen Forschern zur Schulung und Überprüfung der Objekterkennung in maschinellen Lernsystemen verwendet.
Der Anlass für die Löschung war die Verwendung rassistischer und frauenfeindlicher Begriffe in den Labels, die die auf den Bildern dargestellten Objekte charakterisierten, sowie das Vorhandensein von Bildern, die als beleidigend wahrgenommen wurden. So gab es beispielsweise Bilder von Geschlechtsorganen mit umgangssprachlichen Begriffen, und einige Frauen wurden als „Huren“ charakterisiert, während unzulässige Begriffe für Schwarze und Asiaten verwendet wurden.
Im Dokument, auf das sich das MIT bezieht, werden jedoch auch ernstere Probleme mit solchen Sammlungen genannt: Technologien der Computer Vision können zur Entwicklung von Gesichtserkennungssystemen verwendet werden, um Mitglieder verbotener Gruppen zu identifizieren; ein neuronales Netzwerk zur Bilderzeugung kann das Original aus anonymisierten Daten wiederherstellen.
Der Grund für das Auftreten unzulässiger Wörter war die Verwendung eines automatisierten Prozesses, der bei der Klassifizierung semantische Beziehungen aus einer lexikalischen Datenbank der englischen Sprache nutzt. , erstellt in den 1980er Jahren an der Princeton University. Da es unmöglich ist, 80 Millionen kleine Bilder manuell auf beleidigende Sprache zu überprüfen, wurde beschlossen, den Zugang zur Datenbank komplett zu sperren. Das MIT hat auch andere Forscher aufgefordert, die Verwendung dieser Sammlung einzustellen und ihre Kopien zu löschen. Ähnliche Probleme treten auch in der größten annotierten Bilddatenbank auf, , in der ebenfalls Verknüpfungen aus WordNet verwendet werden.
Quelle: opennet.ru
