MIT изтегли колекцията Tiny Images поради открити расистки и женоненавистнически термини

Технологичен институт на Масачузетс изтрит набор от данни Малки изображения, включающий аннотированную коллекцию из 80 миллионов небольших изображений с разрешением 32×32. Набор поддерживался группой, развивающей технологии компьютерного зрения, и использовался c 2008 года различными исследователями для тренировки и проверки распознавания объектов в системах машинного обучения.

Причината за изтриването е откритие на использования расистских и женоненавистнических терминов в метках, характеризующих изображённые на картинках объекты, а также наличия образов, которые воспринимались как оскорбительные. Например, присутствовали изображения половых органов с жаргонными терминами, изображения некоторых женщин характеризовались как «шлюхи», применялись недопустимые в современном обществе термины для чернокожих и азиатов.

Въпреки това, в документа, на който се позовава MIT, както и по-сериозни проблеми с такива колекции: технологиите за компютърно зрение могат да бъдат използвани за разработване на системи за разпознаване на лица, за търсене на представители на забранени заради нещо групи от населението; невронната мрежа за генериране на изображения може да възстанови оригинала от анонимизирани данни.

Причината за появата на недопустими думи беше използването на автоматизиран процес, който при класификацията използва семантични връзки от лексикалната база данни на английския език WordNet, създадена през 80-те години на миналия век в Принстънския университет. Тъй като ръчно проверяването за наличие на обидна лексика в 80 милиона малки картинки не е възможно, беше взето решение напълно да се затвори достъпа до БД. MIT също призова другите изследователи да спрат използването на тази колекция и да изтрият нейни копия. Подобни проблеми се наблюдават и в най-голямата анотирана база данни с изображения ImageNet, в която също се използват свързаности от WordNet.

Източник: opennet.ru