МИТ је уклонио колекцију Тини Имагес након што је идентификовао расистичке и мизогинистичке термине

Массацхусеттс Институте оф Тецхнологи избрисан скуп података Тини Имагес, који садржи колекцију са коментарима од 80 милиона малих слика 32к32. Скуп је одржавала група која је развијала технологије компјутерског вида и од 2008. користе га различити истраживачи за обуку и тестирање препознавања објеката у системима машинског учења.

Разлог за уклањање је био детекција употреба расистичких и мизогинистичких термина у ознакама које описују објекте приказане на сликама, као и присуство слика које су перципиране као увредљиве. На пример, било је слика гениталија са жаргонским терминима, слике неких жена су окарактерисане као „курве“, а коришћени су изрази који су у савременом друштву били неприхватљиви за црнце и Азијате.

Међутим, документ који цитира МИТ такође идентификује озбиљније проблеме са таквим збиркама: технологије компјутерског вида могу се користити за развој система за препознавање лица за тражење представника група становништва које су из неког разлога забрањене; неуронска мрежа за генерисање слике може да реконструише оригинал из анонимних података.

Разлог за појаву неважећих речи била је употреба аутоматизованог процеса који користи семантичке односе из енглеске лексичке базе података за класификацију ВордНет, настао 1980-их на Универзитету Принстон. Пошто није могуће ручно проверити присуство увредљивог језика на 80 милиона малих слика, одлучено је да се приступ бази података потпуно блокира. МИТ је такође позвао друге истраживаче да престану да користе колекцију и уклоне њене копије. Слични проблеми се примећују у највећој бази података слика ИмагеНет, који такође користи сидра из ВордНет-а.

Извор: опеннет.ру