За пристрасноста на вештачката интелигенција

tl; dr:

• Машинското учење бара обрасци во податоците. Но, вештачката интелигенција може да биде „пристрасна“ - односно да пронајде шеми што се неточни. На пример, системот за откривање рак на кожа базиран на фотографии може да посвети посебно внимание на сликите направени во лекарска ординација. Машинското учење не може да се разбере: неговите алгоритми ги идентификуваат само шаблоните во бројки, а ако податоците не се репрезентативни, ќе биде и резултатот од нивната обработка. И фаќањето такви грешки може да биде тешко поради самата механика на машинското учење.
• Најочигледната и застрашувачка проблематична област е човечката различност. Постојат многу причини зошто податоците за луѓето може да ја изгубат објективноста дури и во фазата на собирање. Но, немојте да мислите дека овој проблем ги погодува само луѓето: токму истите тешкотии се јавуваат кога се обидувате да откриете поплава во складиште или неуспешна гасна турбина. Некои системи може да бидат пристрасни кон бојата на кожата, други ќе бидат пристрасни кон сензорите на Сименс.
• Ваквите проблеми не се нови за машинското учење и тие се далеку од единствени за него. Во секоја сложена структура се прават погрешни претпоставки и секогаш е тешко да се разбере зошто е донесена одредена одлука. Треба да се бориме против ова на сеопфатен начин: да создадеме алатки и процеси за верификација - и да ги едуцираме корисниците за да не ги следат слепо препораките за вештачка интелигенција. Машинското учење прави некои работи многу подобро отколку што можеме - но кучињата, на пример, се многу поефикасни од луѓето во откривањето на дрогата, што не е причина да ги користиме како сведоци и да донесуваме пресуди врз основа на нивното сведочење. И кучињата, патем, се многу попаметни од кој било систем за машинско учење.

Машинското учење е еден од најважните фундаментални технолошки трендови денес. Ова е еден од главните начини на кои технологијата ќе го промени светот околу нас во следната деценија. Некои аспекти на овие промени се причина за загриженост. На пример, потенцијалното влијание на машинското учење на пазарот на трудот или неговата употреба за неетички цели (на пример, од авторитарни режими). Има уште еден проблем што го решава овој пост: пристрасност на вештачката интелигенција.

Ова не е лесна приказна.

Вештачката интелигенција на Google може да најде мачки. Оваа вест од 2012 година беше нешто посебно тогаш.

Што е „АИ пристрасност“?

„Сурови податоци“ е и оксиморон и лоша идеја; податоците мора да се подготват добро и внимателно. - Џефри Бокер

Некаде пред 2013 година, за да се направи систем кој, да речеме, ги препознава мачките на фотографиите, требаше да опишете логични чекори. Како да пронајдете агли на сликата, да препознаете очи, да анализирате текстури за крзно, да броите шепи и така натаму. Потоа спојте ги сите компоненти и откријте дека навистина не функционира. Слично како механички коњ - теоретски може да се направи, но во пракса е премногу сложен за да се опише. Крајниот резултат е стотици (или дури илјадници) рачно напишани правила. И ниту еден работен модел.

Со доаѓањето на машинското учење, престанавме да користиме „рачни“ правила за препознавање на одреден објект. Наместо тоа, земаме илјада примероци од „ова“, X, илјада примероци од „друго“, Y, и го поставуваме компјутерот да изгради модел врз основа на нивната статистичка анализа. Потоа му даваме на овој модел некои примероци на податоци и тој со одредена прецизност одредува дали одговара на едно од множествата. Машинското учење генерира модел од податоци наместо од човек што го пишува. Резултатите се импресивни, особено во областа на препознавање на слики и шаблони, и затоа целата технолошка индустрија сега преминува на машинско учење (ML).

Но, не е толку едноставно. Во реалниот свет, вашите илјадници примери на X или Y исто така содржат A, B, J, L, O, R, па дури и L. Овие може да не се рамномерно распределени, а некои може да се појават толку често што системот ќе плати повеќе внимание на нив отколку на предмети што ве интересираат.

Што значи ова во пракса? Мојот омилен пример е кога системи за препознавање слики погледнете во тревнат рид и кажете „овци“. Јасно е зошто: повеќето примери на фотографии од „овци“ се направени на ливадите каде што живеат, а на овие слики тревата зазема многу повеќе простор од малите бели пени, а тоа е тревата што системот ја смета за најважна. .

Има посериозни примери. Една неодамнешна Проектот за откривање на рак на кожата на фотографии. Се покажа дека дерматолозите често го фотографираат владетелот заедно со манифестациите на рак на кожата за да ја забележат големината на формациите. Нема владетели на примерите на фотографии на здрава кожа. За систем со вештачка интелигенција, таквите линијари (поточно, пикселите што ги дефинираме како „владетел“) станаа една од разликите помеѓу групите примери, а понекогаш и поважни од мал осип на кожата. Така, системот создаден да го идентификува ракот на кожата понекогаш препознаваше владетели наместо тоа.

Клучната точка овде е дека системот нема семантичко разбирање за тоа што гледа. Гледаме множество пиксели и во нив гледаме овца, кожа или линијари, но системот е само бројна линија. Таа не гледа тродимензионален простор, не гледа предмети, текстури или овци. Таа едноставно гледа обрасци во податоците.

Тешкотијата во дијагностицирањето на ваквите проблеми е што невронската мрежа (моделот генериран од вашиот систем за машинско учење) се состои од илјадници стотици илјади јазли. Не постои лесен начин да се погледне моделот и да се види како тој донесува одлука. Да се ​​има таков начин би значело дека процесот е доволно едноставен за да се опишат сите правила рачно, без користење на машинско учење. Луѓето се загрижени дека машинското учење стана нешто како црна кутија. (Ќе објаснам малку подоцна зошто оваа споредба е сè уште премногу.)

Ова, генерално, е проблемот на пристрасност во вештачката интелигенција или машинското учење: системот за пронаоѓање обрасци во податоците може да најде погрешни обрасци, а вие да не го забележите тоа. Ова е фундаментална карактеристика на технологијата и е очигледно за сите што работат со неа во академските институции и во големите технолошки компании. Но, нејзините последици се сложени, а исто така и нашите можни решенија за тие последици.

Ајде прво да зборуваме за последиците.

ВИ може, имплицитно за нас, да направи избор во корист на одредени категории луѓе, врз основа на голем број незабележливи сигнали

АИ пристрасност сценарија

Најочигледно и најстрашно, овој проблем може да се манифестира кога станува збор за човековата различност. Неодамна имаше гласинадека Амазон се обидел да изгради систем за машинско учење за првична проверка на кандидатите за работа. Бидејќи меѓу работниците на Амазон има повеќе мажи, примерите за „успешно вработување“ се исто така почесто машки, а имало повеќе мажи во изборот на резимеа предложени од системот. Amazon го забележа ова и не го пушти системот во производство.

Најважното нешто во овој пример е што се шпекулираше дека системот ги фаворизира машките апликанти, и покрај фактот што полот не беше наведен во резимето. Системот виде други модели во примерите на „добри вработувања“: на пример, жените може да користат специјални зборови за да ги опишат достигнувањата или да имаат посебни хоби. Се разбира, системот не знаеше што е „хокеј“, или кои се „луѓето“ или што е „успех“ - тој едноставно изврши статистичка анализа на текстот. Но, обрасците што ги видела најверојатно ќе останат незабележани од луѓето, а некои од нив (на пример, фактот дека луѓето од различен пол различно го опишуваат успехот) веројатно би ни било тешко да ги видиме дури и ако ги погледнеме.

Понатаму - полошо. Системот за машинско учење кој е многу добар во пронаоѓањето на рак на бледа кожа може да не функционира толку добро на темна кожа, или обратно. Не нужно поради пристрасност, туку затоа што веројатно треба да изградите посебен модел за различна боја на кожа, избирајќи различни карактеристики. Системите за машинско учење не се заменливи дури и во толку тесно подрачје како што е препознавањето на слики. Треба да го прилагодите системот, понекогаш само преку обиди и грешки, за добро да се справите со карактеристиките во податоците за кои ве интересираат додека не ја постигнете посакуваната точност. Но, она што можеби не го забележувате е дека системот е точен 98% од случаите со едната група, а само 91% (дури и попрецизен од човечката анализа) со другата група.

Досега користев главно примери кои се однесуваат на луѓето и нивните карактеристики. Дискусијата околу овој проблем главно се фокусира на оваа тема. Но, важно е да се разбере дека пристрасноста кон луѓето е само дел од проблемот. Ќе користиме машинско учење за многу работи, а грешката при земање примероци ќе биде релевантна за сите нив. Од друга страна, ако работите со луѓе, пристрасноста во податоците може да не е поврзана со нив.

За да го разбереме ова, да се вратиме на примерот за рак на кожата и да разгледаме три хипотетички можности за дефект на системот.

1. Хетерогена дистрибуција на луѓе: неурамнотежен број на фотографии со различни тонови на кожата, што доведува до лажни позитиви или лажни негативи поради пигментација.
2. Податоците за кои системот е обучен содржи често се појавува и хетерогено дистрибуирана карактеристика што не е поврзана со луѓе и нема никаква дијагностичка вредност: линијар на фотографии од рак на кожа или трева на фотографии од овци. Во овој случај, резултатот ќе биде различен ако системот најде пиксели на сликата на нешто што човечкото око го идентификува како „владетел“.
3. Податоците содржат карактеристика на трета страна што човекот не може да ја види дури и ако ја бара.

Што значи тоа? Априори знаеме дека податоците може различно да претставуваат различни групи на луѓе, и барем можеме да планираме да бараме такви исклучоци. Со други зборови, има многу социјални причини да се претпостави дека податоците за групи луѓе веќе содржат одредена пристрасност. Ако ја погледнеме фотографијата со линијарот, ќе го видиме овој линијар - едноставно претходно го игнориравме, знаејќи дека тоа не е важно, и заборавајќи дека системот не знае ништо.

Но, што ако сите ваши фотографии од нездрава кожа се направени во канцеларија под блескаво светло, а вашата здрава кожа е направена под флуоресцентна светлина? Што ако, откако сте завршиле со снимање на здрава кожа, пред да снимате нездрава кожа, сте го ажурирале оперативниот систем на телефонот, а Apple или Google малку го смениле алгоритмот за намалување на шумот? Човек не може да го забележи ова, колку и да бара такви карактеристики. Но, системот за машинска употреба веднаш ќе го види и ќе го искористи ова. Таа не знае ништо.

Досега зборувавме за лажни корелации, но може да биде и дека податоците се точни и резултатите се точни, но не сакате да ги користите од етички, правни или менаџерски причини. Некои јурисдикции, на пример, не им дозволуваат на жените да добијат попуст на нивното осигурување, иако жените можеби се побезбедни возачи. Можеме лесно да замислиме систем кој, кога се анализираат историските податоци, би доделил помал ризик фактор на женските имиња. Добро, ајде да ги отстраниме имињата од изборот. Но, запомнете го примерот на Амазон: системот може да го одреди полот врз основа на други фактори (иако не знае што е пол, па дури и што е автомобил), и нема да го забележите ова додека регулаторот ретроактивно не ги анализира тарифите што ги имате понуда и ви наплати ќе бидете казнети.

Конечно, често се претпоставува дека таквите системи ќе ги користиме само за проекти кои вклучуваат луѓе и социјални интеракции. Ова е погрешно. Ако правите гасни турбини, веројатно ќе сакате да го примените машинското учење на телеметријата што ја пренесуваат десетици или стотици сензори на вашиот производ (аудио, видео, температура и сите други сензори генерираат податоци што може многу лесно да се прилагодат за да се создаде машина модел на учење). Хипотетички, може да се каже: „Еве податоци од илјада турбини што откажале пред да откажат, и еве податоци од илјада турбини што не откажале. Изградете модел за да откриете каква е разликата меѓу нив“. Па, сега замислете сименс сензори да се инсталирани на 75% од лошите турбини, а само 12% од добрите (нема врска со дефекти). Системот ќе изгради модел за наоѓање турбини со сензори на Сименс. Упс!

Слика - Мориц Хард, УК Беркли

Управување со AI пристрасност

Што можеме да направиме за тоа? Можете да му пристапите на прашањето од три агли:

1. Методолошка строгост при собирање и управување со податоци за обука на системот.
2. Технички алатки за анализа и дијагностицирање на однесувањето на моделот.
3. Тренирајте, едуцирајте и бидете внимателни кога го имплементирате машинското учење во производите.

Има една шега во книгата на Молиер „Буржоазијата во благородништвото“: на еден човек му било кажано дека литературата е поделена на проза и поезија, и тој бил воодушевен кога открил дека зборувал во проза целиот свој живот, без да го знае тоа. Веројатно вака се чувствуваат статистичарите денес: без да го сфатат тоа, тие ги посветија своите кариери на вештачката интелигенција и грешка при земање примероци. Барањето грешка при земање примероци и грижата за тоа не е нов проблем, само треба систематски да пристапиме кон неговото решение. Како што споменавме погоре, во некои случаи всушност е полесно да се направи ова со проучување на проблеми поврзани со податоците за луѓето. Априори претпоставуваме дека можеби имаме предрасуди во однос на различни групи на луѓе, но тешко ни е дури и да замислиме предрасуда за сензорите на Сименс.

Новото во сето ова, секако, е тоа што луѓето повеќе не прават директно статистичка анализа. Се изведува од машини кои создаваат големи, сложени модели кои се тешко разбирливи. Прашањето за транспарентност е еден од главните аспекти на проблемот со пристрасноста. Се плашиме дека системот не е само пристрасен, туку дека не постои начин да се открие неговата пристрасност и дека машинското учење е различно од другите форми на автоматизација, кои треба да се состојат од јасни логички чекори што може да се тестираат.

Тука има два проблеми. Можеби сè уште ќе можеме да спроведеме некаква ревизија на системите за машинско учење. А ревизијата на кој било друг систем всушност не е полесна.

Прво, една од насоките на современото истражување во областа на машинското учење е потрагата по методи за идентификување на важната функционалност на системите за машинско учење. Сепак, машинското учење (во сегашната состојба) е сосема ново поле на науката што брзо се менува, па немојте да мислите дека работите што се невозможни денес не можат наскоро да станат реални. Проект OpenAI - интересен пример за ова.

Второ, идејата дека можете да го тестирате и разберете процесот на одлучување на постоечките системи или организации е добра во теорија, но така и во пракса. Не е лесно да се разбере како се донесуваат одлуките во голема организација. Дури и ако постои формален процес на донесување одлуки, тој не одразува како луѓето всушност комуницираат и тие самите често немаат логичен, систематски пристап кон донесувањето на нивните одлуки. Како што кажа мојот колега Виџеј Панде, луѓето се исто така црни кутии.

Земете илјада луѓе во неколку компании и институции кои се преклопуваат и проблемот станува уште покомплексен. Знаеме по фактот дека вселенскиот шатл беше предодреден да се распадне по враќањето, а поединци во НАСА имаа информации што им дадоа причина да мислат дека нешто лошо може да се случи, но системот генерално Не го знаев ова. НАСА дури штотуку помина слична ревизија откако го загуби својот претходен шатл, а сепак изгуби уште еден од многу слична причина. Лесно е да се тврди дека организациите и луѓето следат јасни, логични правила кои можат да се тестираат, разберат и променат - но искуството го докажува спротивното. ова"Госплановата заблуда".

Често го споредувам машинското учење со бази на податоци, особено со релационите - нова фундаментална технологија која ги промени можностите на компјутерската наука и светот околу неа, што стана дел од сè, што постојано го користиме без да го сфатиме. И базите на податоци имаат проблеми, и тие се од слична природа: системот може да е изграден на лоши претпоставки или лоши податоци, но ќе биде тешко да се забележи, а луѓето што го користат системот ќе го прават она што им го кажува без да поставуваат прашања. Има многу стари шеги за даночните луѓе кои некогаш погрешно го напишале вашето име, а да ги убедите да ја поправат грешката е многу потешко отколку всушност да го смените вашето име. Постојат многу начини да се размислува за ова, но не е јасно што е подобро: како технички проблем во SQL, или како грешка во изданието на Oracle, или како неуспех на бирократските институции? Колку е тешко да се најде грешка во процес што доведе до тоа системот да нема функција за корекција на печатна грешка? Можеше ли ова да се сфати пред луѓето да почнат да се жалат?

Овој проблем е илустриран уште поедноставно со приказните кога возачите возат во реките поради застарени податоци во навигаторот. Во ред, картите треба постојано да се ажурираат. Но, колку ТомТом е виновен што вашиот автомобил е издуван во морето?

Причината зошто го велам ова е дека да, пристрасноста на машинското учење ќе создаде проблеми. Но, овие проблеми ќе бидат слични на оние со кои сме се соочиле во минатото, и тие можат да се забележат и решат (или не) исто како што сме можеле во минатото. Затоа, сценарио во кое пристрасноста на вештачката интелигенција предизвикува штета, веројатно нема да им се случи на високи истражувачи кои работат во голема организација. Најверојатно, некој незначителен изведувач на технологија или продавач на софтвер ќе напише нешто на колена, користејќи компоненти, библиотеки и алатки со отворен код што не ги разбираат. А несреќниот клиент ќе ја купи фразата „вештачка интелигенција“ во описот на производот и, без да поставува прашања, ќе им ја подели на своите ниско платени вработени, наредувајќи им да го прават она што го кажува вештачката интелигенција. Токму тоа се случи со базите на податоци. Ова не е проблем со вештачка интелигенција, па дури ни софтверски проблем. Ова е човечкиот фактор.

Заклучок

Машинското учење може да направи сè што можете да го научите кучето - но никогаш не можете да бидете сигурни што точно сте го научиле кучето.

Честопати чувствувам дека терминот „вештачка интелигенција“ само ми пречи на вакви разговори. Овој термин дава лажен впечаток дека ние всушност го создадовме - оваа интелигенција. Дека сме на пат кон HAL9000 или Skynet - нешто што всушност разбира. Но не. Тоа се само машини и многу попрецизно е да се споредат со, да речеме, машина за перење. Пери алишта многу подобро од човек, но ако и ставите садови наместо алишта, таа... ќе ги испере. Садовите дури ќе станат чисти. Но, ова нема да биде она што го очекувавте, а тоа нема да се случи бидејќи системот има предрасуди во однос на јадењата. Машината за перење не знае што се садови или што е облека - тоа е само пример за автоматизација, концептуално не се разликува од тоа како претходно се автоматизирале процесите.

Без разлика дали зборуваме за автомобили, авиони или бази на податоци, овие системи ќе бидат и многу моќни и многу ограничени. Тие целосно ќе зависат од тоа како луѓето ги користат овие системи, дали нивните намери се добри или лоши и колку разбираат како функционираат.

Затоа, да се каже дека „вештачката интелигенција е математика, затоа не може да има предрасуди“ е целосно лажно. Но, подеднакво е неточно да се каже дека машинското учење е „субјективно по природа“. Машинското учење наоѓа обрасци во податоците, а какви обрасци ќе најде зависи од податоците, а податоците зависат од нас. Исто како што правиме со нив. Машинското учење прави некои работи многу подобро отколку што можеме - но кучињата, на пример, се многу поефикасни од луѓето во откривањето на дрогата, што не е причина да ги користиме како сведоци и да донесуваме пресуди врз основа на нивното сведочење. И кучињата, патем, се многу попаметни од кој било систем за машинско учење.

Превод: Дијана Лецкаја.
Уредување: Алексеј Иванов.
Заедница: @PonchikNews.

Извор: www.habr.com