Massachusetts Tekniske Institut datasæt , med en kommenteret samling af 80 millioner små 32x32 billeder. Sættet blev vedligeholdt af en gruppe, der udviklede computervisionsteknologier og er blevet brugt siden 2008 af forskellige forskere til at træne og teste objektgenkendelse i maskinlæringssystemer.
Årsagen til fjernelse var brugen af racistiske og kvindehadende udtryk i etiketter, der beskriver de genstande, der er afbildet på billederne, samt tilstedeværelsen af billeder, der blev opfattet som stødende. For eksempel var der billeder af kønsorganer med slangudtryk, billeder af nogle kvinder blev karakteriseret som "horer", og udtryk, der var uacceptable i det moderne samfund for sorte og asiater, blev brugt.
Dokumentet citeret af MIT identificerer dog også mere alvorlige problemer med sådanne samlinger: computersynsteknologier kan bruges til at udvikle ansigtsgenkendelsessystemer til at søge efter repræsentanter for befolkningsgrupper, der af en eller anden grund er forbudt; et neuralt netværk til billedgenerering kan rekonstruere originalen ud fra anonymiserede data.
Årsagen til forekomsten af ugyldige ord var brugen af en automatiseret proces, der bruger semantiske relationer fra den engelske leksikalske database til at klassificere , skabt i 1980'erne ved Princeton University. Da det ikke er muligt manuelt at kontrollere tilstedeværelsen af stødende sprog i 80 millioner små billeder, blev det besluttet helt at blokere adgangen til databasen. MIT opfordrede også andre forskere til at stoppe med at bruge samlingen og fjerne kopier af den. Lignende problemer observeres i den største kommenterede billeddatabase , som også bruger ankre fra WordNet.
Kilde: opennet.ru