MIT премахна колекцията Tiny Images след идентифициране на расистки и мизогинистични термини

Масачузетски институт по технологии изтрит набор от данни Малки изображения, включващ анотирана колекция от 80 милиона малки 32x32 изображения. Комплектът се поддържа от група, разработваща технологии за компютърно зрение, и се използва от 2008 г. от различни изследователи за обучение и тестване на разпознаване на обекти в системи за машинно обучение.

Причината за отстраняването беше идентифициране използването на расистки и женомразки термини в етикетите, описващи обектите, изобразени на снимките, както и наличието на изображения, които се възприемат като обидни. Например имаше изображения на гениталии с жаргонни термини, изображения на някои жени бяха характеризирани като „курви“ и бяха използвани термини, които са неприемливи в съвременното общество за чернокожи и азиатци.

Въпреки това документът, цитиран от MIT, идентифицира и по-сериозни проблеми с подобни колекции: технологиите за компютърно зрение могат да се използват за разработване на системи за разпознаване на лица за търсене на представители на групи от населението, които са забранени по някаква причина; невронна мрежа за генериране на изображения може да реконструира оригинала от анонимизирани данни.

Причината за появата на невалидни думи е използването на автоматизиран процес, който използва семантични връзки от английската лексикална база данни за класифициране WordNet, създадена през 1980-те години в Принстънския университет. Тъй като не е възможно ръчно да се провери наличието на обиден език в 80 милиона малки снимки, беше решено напълно да се блокира достъпът до базата данни. MIT също призова други изследователи да спрат да използват колекцията и да премахнат копия от нея. Подобни проблеми се наблюдават в най-голямата база данни с анотирани изображения ImageNet, който също използва котви от WordNet.

Източник: opennet.ru