Istituto Tecnologico del Massachusetts set di dati , che include una collezione annotata di 80 milioni di piccole immagini con una risoluzione di 32×32. Il set è stato mantenuto da un gruppo che sviluppa tecnologie di visione artificiale e è stato utilizzato dal 2008 da vari ricercatori per l'addestramento e la verifica del riconoscimento degli oggetti nei sistemi di apprendimento automatico.
La motivazione per la rimozione è stata l'uso di termini razzisti e sessisti nelle etichette che caratterizzano gli oggetti nelle immagini, nonché la presenza di immagini percepite come offensive. Ad esempio, erano presenti immagini di organi genitali con termini gergali e alcune donne erano descritte come "puttane", utilizzando termini inaccettabili nella società moderna per persone di colore e asiatici.
Tuttavia, nel documento a cui si riferisce il MIT, vengono citati anche problemi più gravi con tali collezioni: le tecnologie di visione artificiale possono essere utilizzate per sviluppare sistemi di riconoscimento facciale per il tracciamento di membri di gruppi vietati; una rete neurale per la generazione di immagini può ricostruire l'originale a partire da dati anonimizati.
La causa della comparsa di termini inaccettabili è stata l'uso di un processo automatizzato che utilizza connessioni semantiche da un database lessicale della lingua inglese , creato negli anni '80 all'Università di Princeton. Poiché controllare manualmente la presenza di lessico offensivo in 80 milioni di piccole immagini non è praticabile, è stata presa la decisione di chiudere completamente l'accesso al database. Il MIT ha anche esortato altri ricercatori a interrompere l'uso di questa collezione e a rimuovere le sue copie. Problemi simili sono stati osservati anche nella più grande banca dati di immagini annotate , che utilizza anche collegamenti da WordNet.
Fonte: opennet.ru
