tl; dr:
- Омӯзиши мошинсозӣ намунаҳоро дар маълумот меҷӯяд. Аммо зеҳни сунъӣ метавонад "ғаразнок" бошад - яъне намунаҳои нодурустро пайдо кунед. Масалан, системаи аксбардории саратони пӯст метавонад ба тасвирҳои дар идораи духтур гирифташуда диққати махсус диҳад. Омӯзиши мошинсозӣ наметавонад фаҳмед: алгоритмҳои он танҳо намунаҳоро дар рақамҳо муайян мекунанд ва агар маълумот намояндагӣ накунад, натиҷаи коркарди он низ ҳамин тавр хоҳад буд. Ва сайд кардани чунин хатоҳо аз сабаби механикаи омӯзиши мошин душвор буда метавонад.
- Мушкилоти аз ҳама аёнтарин ва даҳшатовар ин гуногунии одамон мебошад. Сабабҳои зиёд вуҷуд доранд, ки маълумот дар бораи одамон ҳатто дар марҳилаи ҷамъоварӣ объективиро аз даст медиҳанд. Аммо фикр накунед, ки ин мушкилот танҳо ба одамон дахл дорад: маҳз ҳамин мушкилот ҳангоми кӯшиши ошкор кардани обхезӣ дар анбор ё турбинаи гази ноком ба миён меоянд. Баъзе системаҳо метавонанд ба ранги пӯст, дигарон ба сенсорҳои Siemens ғаразнок бошанд.
- Чунин мушкилот барои омӯзиши мошинсозӣ нав нестанд ва онҳо ба он хос нестанд. Дар ҳама гуна сохтори мураккаб тахминҳои нодуруст дода мешаванд ва фаҳмидани он ки чаро қарори мушаххас қабул шудааст, ҳамеша душвор аст. Мо бояд бо ин ҳамаҷониба мубориза барем: асбобҳо ва равандҳо барои санҷиш эҷод кунед ва корбаронро таълим диҳед, то онҳо тавсияҳои AI-ро кӯрона риоя накунанд. Омӯзиши мошинсозӣ баъзе корҳоро нисбат ба мо хеле беҳтар иҷро мекунад - аммо сагҳо, масалан, дар ошкор кардани маводи мухаддир нисбат ба одамон хеле самараноктаранд, ки ин барои истифодаи онҳо ҳамчун шоҳид ва бар асоси шаҳодати онҳо қарор қабул кардан асос нест. Ва сагҳо, ба ҳар ҳол, аз ҳама гуна системаи омӯзиши мошинсозӣ хеле оқилтаранд.
Омӯзиши мошинсозӣ яке аз муҳимтарин тамоюлҳои технологияи имрӯза мебошад. Ин яке аз роҳҳои асосии он аст, ки технология ҷаҳони атрофи моро дар даҳсолаи оянда тағир медиҳад. Баъзе паҳлӯҳои ин тағйирот боиси нигаронӣ мебошанд. Масалан, таъсири эҳтимолии омӯзиши мошинсозӣ ба бозори меҳнат ё истифодаи он барои мақсадҳои ғайриахлоқӣ (масалан, аз ҷониби режимҳои авторитарӣ). Мушкилоти дигаре вуҷуд дорад, ки ин паём баррасӣ мекунад: ғарази зеҳни сунъӣ.
Ин як ҳикояи осон нест.
AI-и Google метавонад гурбаҳоро пайдо кунад. Ин хабари соли 2012 он замон чизи махсусе буд.
"AI Bias" чист?
"Маълумоти хом" ҳам оксиморон ва ҳам фикри бад аст; маълумот бояд хуб ва бодиққат омода карда шавад. — Ҷеффри Бокер
Дар ҷое пеш аз соли 2013, барои сохтани системае, ки масалан гурбаҳоро дар аксҳо эътироф мекунад, шумо бояд қадамҳои мантиқиро тавсиф мекардед. Чӣ тавр дар тасвир кунҷҳоро пайдо кардан, чашмҳоро шинохтан, матнҳоро барои курку таҳлил кардан, панҷаҳои ҳисоб кардан ва ғайра. Сипас ҳамаи ҷузъҳоро якҷоя кунед ва бифаҳмед, ки он воқеан кор намекунад. Мисли аспи механикӣ - аз ҷиҳати назариявӣ онро сохтан мумкин аст, аммо дар амал онро тавсиф кардан хеле мураккаб аст. Натиҷаи ниҳоӣ садҳо (ё ҳатто ҳазорҳо) қоидаҳои дастнавис аст. Ва на як модели корӣ.
Бо пайдоиши омӯзиши мошинсозӣ, мо истифодаи қоидаҳои "дастӣ" -ро барои шинохти объекти мушаххас қатъ кардем. Ба ҷои ин, мо ҳазор намунаи "ин", X, ҳазор намунаи "дигар", Y мегирем ва компютерро дар асоси таҳлили омории онҳо модел созем. Сипас, мо ба ин модел баъзе маълумоти намунавӣ медиҳем ва он бо дақиқ муайян мекунад, ки оё он ба яке аз маҷмӯаҳо мувофиқат мекунад. Омӯзиши мошинсозӣ моделро аз маълумот тавлид мекунад, на аз навиштани инсон. Натиҷаҳо, махсусан дар соҳаи тасвир ва шинохти намуна, таъсирбахшанд ва аз ин рӯ тамоми саноати технологӣ ҳоло ба омӯзиши мошинсозӣ (ML) мегузарад.
Аммо ин он қадар оддӣ нест. Дар ҷаҳони воқеӣ ҳазорон мисолҳои X ё Y-и шумо инчунин дорои A, B, J, L, O, R ва ҳатто L мебошанд. Инҳо метавонанд баробар тақсим карда нашаванд ва баъзеҳо он қадар зуд-зуд рух медиҳанд, ки система бештар пардохт мекунад. Диққат ба онҳо на ба объектҳое, ки ба шумо таваҷҷӯҳ доранд.
Ин дар амал чй маъно дорад? Намунаи дӯстдоштаи ман ин аст, ки системаҳои шинохти тасвир . Маълум аст, ки чаро: аксари аксҳои намунавии "гӯсфандон" дар марғзорҳое, ки онҳо зиндагӣ мекунанд, гирифта шудаанд ва дар ин тасвирҳо алаф назар ба луқҳои сафеди сафед хеле бештар ҷой мегирад ва ин алаф аст, ки система онро муҳимтар мешуморад. .
Мисолхои чиддитаре овардан мумкин аст. Яке аз навтарин барои ошкор кардани саратони пӯст дар аксҳо. Маълум шуд, ки дерматологҳо аксар вақт ҳокимро дар баробари зуҳуроти саратони пӯст барои сабт кардани андозаи формацияҳо аксбардорӣ мекунанд. Дар аксҳои намунавии пӯсти солим ҳокимон вуҷуд надорад. Барои системаи AI, чунин ҳокимон (аниқтараш, пикселҳое, ки мо ҳамчун "ҳоким" муайян мекунем) ба яке аз фарқиятҳои байни маҷмӯи мисолҳо табдил ёфтаанд ва баъзан аз доғҳои хурд дар пӯст муҳимтаранд. Ҳамин тавр, системае, ки барои муайян кардани саратони пӯст сохта шудааст, баъзан ба ҷои он ҳокимонро эътироф мекунад.
Нуктаи калидӣ дар ин ҷо он аст, ки система фаҳмиши семантикии он чизеро надорад. Мо ба маҷмӯи пикселҳо нигоҳ мекунем ва дар онҳо гӯсфанд, пӯст ё ҳокимонро мебинем, аммо система танҳо як хати рақам аст. Вай фазой се-ченакаро намебинад, объектхо, матоъхо ва гусфандонро намебинад. Вай танҳо намунаҳоро дар маълумот мебинад.
Мушкилии ташхиси чунин мушкилот дар он аст, ки шабакаи нейрон (моделе, ки системаи омӯзиши мошини шумо тавлид шудааст) аз ҳазорҳо садҳо ҳазор гиреҳҳо иборат аст. Ягон роҳи осони дидани модел ва бубинед, ки он чӣ гуна қарор қабул мекунад. Доштани чунин роҳ маънои онро дорад, ки ин раванд кофӣ содда аст, то ҳама қоидаҳоро бидуни истифодаи омӯзиши мошинсозӣ дастӣ тавсиф кунад. Одамон хавотиранд, ки омӯзиши мошинсозӣ ба як қуттии сиёҳ табдил ёфтааст. (Ман каме дертар шарҳ медиҳам, ки чаро ин муқоиса то ҳол аз ҳад зиёд аст.)
Ин, дар маҷмӯъ, мушкилоти ғаразнокӣ дар зеҳни сунъӣ ё омӯзиши мошинист: системаи дарёфти намунаҳо дар додаҳо метавонад намунаҳои нодурустро пайдо кунад ва шумо онро пайхас накунед. Ин як хусусияти бунёдии технология аст ва барои ҳар касе, ки бо он дар академия ва ширкатҳои бузурги технологӣ кор мекунад, аён аст. Аммо оқибатҳои он мураккабанд ва роҳҳои ҳалли эҳтимолии мо барои ин оқибатҳо низ ҳастанд.
Биёед аввал дар бораи оқибатҳои он сӯҳбат кунем.
AI метавонад ба таври ғайримустақим барои мо, дар асоси шумораи зиёди сигналҳои нонамоён ба манфиати категорияҳои муайяни одамон интихоб кунад.
Сенарияҳои AI Bias
Аз ҳама возеҳ ва даҳшатовар он аст, ки ин мушкилот метавонад ҳангоми сухан дар бораи гуногунии инсонҳо зоҳир шавад. Ба наздикй ки Amazon кӯшиш кард, ки системаи омӯзиши мошинро барои санҷиши ибтидоии номзадҳои корӣ созад. Азбаски дар байни коргарони Амазонка мардон бештар ҳастанд, мисолҳои "коргирии бомуваффақият" низ бештар мардон мебошанд ва дар интихоби резюме, ки система пешниҳод кардааст, мардон бештар буданд. Amazon инро пайхас кард ва системаро ба истеҳсолот надод.
Муҳимтар аз ҳама дар ин мисол ин аст, ки система овозаҳое буд, ки довталабони мардро дастгирӣ кунад, сарфи назар аз он ки ҷинс дар резюме нишон дода нашудааст. Система намунаҳои дигарро дар мисолҳои "кироҳои хуб" дид: масалан, занон метавонанд барои тавсифи дастовардҳо калимаҳои махсусро истифода баранд ё маҳфилҳои махсус дошта бошанд. Албатта, система намедонист, ки «хоккей» чист, «одам» кист, ё чӣ «муваффақият» аст - вай танҳо таҳлили омории матнро анҷом дод. Аммо намунаҳое, ки вай дидааст, эҳтимолан аз ҷониби одамон нодида мемонанд ва баъзеи онҳо (масалан, он, ки одамони ҷинсҳои гуногун муваффақиятро ба таври гуногун тавсиф мекунанд) ҳатто агар мо ба онҳо нигоҳ кунем, дидани мо барои мо душвор хоҳад буд.
Минбаъд - бадтар. Системаи омӯзиши мошинсозӣ, ки дар пайдо кардани саратон дар пӯсти саманд хеле хуб аст, метавонад дар пӯсти торик хуб кор накунад ё баръакс. На ҳатман аз сабаби ғаразнокӣ, балки аз он сабаб, ки шумо эҳтимолан бояд як модели алоҳида барои ранги пӯсти гуногунро интихоб кунед, ки хусусиятҳои гуногунро интихоб кунед. Системаҳои омӯзиши мошинсозӣ ҳатто дар чунин як минтақаи танг ба монанди шинохти тасвир иваз карда намешаванд. Ба шумо лозим аст, ки системаро, баъзан танҳо тавассути озмоиш ва хатогӣ тағир диҳед, то он даме, ки шумо ба дақиқии дилхоҳатон ноил шавед, дар бораи хусусиятҳои маълумоте, ки ба шумо манфиатдор ҳастед, хуб идора кунед. Аммо он чизе, ки шумо пай намебаред, ин аст, ки система бо як гурӯҳ 98% ва бо гурӯҳи дигар танҳо 91% (ҳатто дақиқтар аз таҳлили инсонӣ) дақиқ аст.
То ҳол ман асосан мисолҳоеро истифода кардам, ки марбут ба одамон ва хислатҳои онҳост. Муҳокима дар атрофи ин мушкилот асосан ба ин мавзӯъ нигаронида шудааст. Аммо бояд фаҳмид, ки ғараз нисбат ба одамон танҳо як қисми мушкилот аст. Мо омӯзиши мошинро барои бисёр чизҳо истифода хоҳем кард ва хатогии интихоб ба ҳамаи онҳо мувофиқ хоҳад буд. Аз тарафи дигар, агар шумо бо одамон кор кунед, ғараз дар маълумот метавонад ба онҳо алоқаманд набошад.
Барои фаҳмидани ин, биёед ба мисоли саратони пӯст баргардем ва се имконияти фарзияи нокомии системаро баррасӣ кунем.
- Тақсимоти гетерогении одамон: шумораи номутаносиби аксҳои рангҳои гуногуни пӯст, ки боиси мусбати бардурӯғ ё манфиҳои бардурӯғ аз сабаби пигментатсия мешаванд.
- Маълумоте, ки дар он система таълим дода мешавад, дорои хусусияти зуд-зуд рухдода ва гетерогенӣ тақсимшуда мебошад, ки бо одамон алоқаманд нест ва арзиши ташхисӣ надорад: ченак дар аксҳои саратони пӯст ё алаф дар аксҳои гӯсфанд. Дар ин ҳолат, натиҷа дигар мешавад, агар система пикселҳоро дар тасвири чизе, ки чашми инсон ҳамчун "ҳоким" муайян мекунад, пайдо кунад.
- Маълумот дорои хусусияти тарафи сеюм аст, ки шахс онро ҳатто дар ҷустуҷӯи он дида наметавонад.
Ин чӣ маъно дорад? Мо пешакӣ медонем, ки маълумот метавонад гурӯҳҳои гуногуни одамонро ба таври гуногун муаррифӣ кунад ва ҳадди аққал мо метавонем чунин истисноҳоро ҷустуҷӯ кунем. Ба ибораи дигар, сабабҳои зиёди иҷтимоӣ вуҷуд доранд, ки тахмин кунанд, ки маълумот дар бораи гурӯҳҳои одамон аллакай баъзе ғаразҳоро дар бар мегирад. Агар ба сурате, ки бо њукмрон аст, бингарем, мо ин њукмронро мебинем - мо пештар инро нодида гирифтем ва медонистем, ки ин кор нест ва фаромӯш кардем, ки система чизеро намедонад.
Аммо чӣ мешавад, агар ҳамаи аксҳои пӯсти носолими шумо дар офис зери нури чароғҳо гирифта шуда бошанд ва пӯсти солими шумо дар зери нури флуоресцентӣ гирифта шуда бошад? Чӣ мешавад, агар пас аз ба итмом расонидани тирандозии пӯсти солим, пеш аз тирандозии пӯсти носолим, шумо системаи оператсионии телефони худро навсозӣ карда бошед ва Apple ё Google алгоритми паст кардани садоро каме иваз карда бошед? Одам ин гуна хислатхоро хар кадар чустучу карда наметавонад. Аммо системаи истифодаи мошинҳо инро фавран дида, истифода мебарад. Вай чизе намедонад.
То ҳол мо дар бораи таносуби бардурӯғ сӯҳбат кардем, аммо ин метавонад инчунин бошад, ки маълумот дақиқ ва натиҷаҳо дурустанд, аммо шумо намехоҳед онҳоро бо сабабҳои ахлоқӣ, ҳуқуқӣ ё идоракунӣ истифода баред. Масалан, баъзе қаламравҳо ба занон иҷоза намедиҳанд, ки барои суғуртаи худ тахфиф гиранд, гарчанде ки занон ронандагони бехатартаранд. Мо метавонем ба осонӣ системаеро тасаввур кунем, ки ҳангоми таҳлили маълумоти таърихӣ ба номҳои зан омили хавфи камтарро таъин кунад. Хуб, биёед номҳоро аз интихоб хориҷ кунем. Аммо мисоли Амазонкаро дар хотир доред: система метавонад ҷинсро дар асоси дигар омилҳо муайян кунад (гарчанде ки вай намедонад, ки ҷинс чист ва ҳатто мошин чист) ва шумо инро пайхас нахоҳед кард, то он даме ки танзимгар тарофаҳои шуморо ба таври бозгашт таҳлил накунад. пешниҳод ва пардохт ба шумо ҷарима мешавад.
Ниҳоят, аксар вақт тахмин карда мешавад, ки мо чунин системаҳоро танҳо барои лоиҳаҳое истифода мебарем, ки одамон ва муносибатҳои иҷтимоиро дар бар мегиранд. Ин нодуруст аст. Агар шумо турбинаҳои газӣ созед, шумо эҳтимол мехоҳед омӯзиши мошинро ба телеметрия истифода баред, ки даҳҳо ё садҳо сенсорҳои маҳсулоти шумо интиқол дода мешаванд (аудио, видео, ҳарорат ва ҳама гуна сенсорҳои дигар маълумотеро тавлид мекунанд, ки онҳоро барои сохтани мошин ба осонӣ мутобиқ кардан мумкин аст) модели омӯзиш). Ба таври фарзия, шумо метавонед бигӯед: «Ин ҷо маълумот аз ҳазор турбина, ки пеш аз ноком шуданашон ноком шуданд ва ин ҷо маълумот аз ҳазор турбина, ки аз кор набаромаданд. Моделе созед, то бигӯед, ки фарқияти байни онҳо чӣ гуна аст." Хуб, акнун тасаввур кунед, ки сенсорҳои Siemens дар 75% турбинаҳои бад ва танҳо 12% турбинаҳои хуб насб карда шудаанд (бо нокомиҳо робитае вуҷуд надорад). Система моделеро месозад, ки турбинаҳоро бо сенсорҳои Siemens пайдо кунад. Оҳ!
Сурат - Мориц Хардт, UC Беркли
Идоракунии AI Bias
Мо дар ин бора чӣ кор карда метавонем? Шумо метавонед ба масъала аз се ҷиҳат муносибат кунед:
- Мушкилоти методологӣ дар ҷамъоварӣ ва идоракунии маълумот барои омӯзиши система.
- Воситаҳои техникӣ барои таҳлил ва ташхиси рафтори намунавӣ.
- Ҳангоми татбиқи омӯзиши мошинсозӣ дар маҳсулот таълим диҳед, таълим диҳед ва эҳтиёт бошед.
Дар китоби Мольер «Буржуазия дар дворянхо» як шӯхӣ ҳаст: ба як нафар гуфтаанд, ки адабиёт ба наср ва назм тақсим мешавад ва ӯ аз дидани он, ки ӯ тамоми умри худ надониста, бо наср сухан меронад, шод шуд. Эҳтимол имрӯз оморшиносон чунин эҳсос мекунанд: онҳо бидуни дарк кардани он, онҳо касбҳои худро ба зеҳни сунъӣ ва хатогиҳои интихоб бахшидаанд. Ҷустуҷӯи хатогиҳои интихоб ва ташвиш дар бораи он мушкили нав нест, мо бояд ба таври мунтазам ба ҳалли он наздик шавем. Тавре ки дар боло зикр гардид, дар баъзе ҳолатҳо ин корро тавассути омӯзиши мушкилоти марбут ба маълумоти одамон осонтар мекунад. Мо пешакӣ тахмин мезанем, ки мо нисбат ба гурӯҳҳои гуногуни одамон таассуб дошта бошем, аммо ҳатто тасаввур кардан дар бораи сенсорҳои Siemens барои мо душвор аст.
Дар ин ҳама чизи нав, албатта, он аст, ки одамон дигар мустақиман таҳлили оморӣ намекунанд. Онро мошинҳое иҷро мекунанд, ки моделҳои калон ва мураккаберо эҷод мекунанд, ки фаҳмидан душвор аст. Масъалаи ошкорбаёнӣ яке аз ҷанбаҳои асосии мушкилоти ғаразнок аст. Мо метарсем, ки система на танҳо ғаразнок аст, балки роҳи ошкор кардани ғарази он вуҷуд надорад ва омӯзиши мошин аз дигар шаклҳои автоматикунонӣ, ки бояд аз қадамҳои равшани мантиқии санҷидашуда иборат бошад, фарқ мекунад.
Дар ин ҷо ду мушкилот вуҷуд дорад. Мо ҳоло ҳам метавонем як навъ аудити системаҳои омӯзиши мошинҳоро гузаронем. Ва аудити ҳама гуна системаи дигар дар асл осонтар нест.
Аввалан, яке аз самтҳои тадқиқоти муосир дар соҳаи омӯзиши мошинсозӣ ҷустуҷӯи усулҳои муайян кардани функсияҳои муҳими системаҳои омӯзиши мошинсозӣ мебошад. Гуфта мешавад, омӯзиши мошинсозӣ (дар ҳолати кунунӣ) як соҳаи комилан нави илм аст, ки зуд тағйир меёбад, бинобар ин фикр накунед, ки чизҳое, ки имрӯз ғайриимкон аст, ба зудӣ комилан воқеӣ шуда наметавонанд. Лоиҳа - мисоли ҷолиби ин.
Дуюм, ақидае, ки шумо метавонед раванди қабули қарорҳои системаҳо ё созмонҳои мавҷударо санҷида ва дарк кунед, дар назария хуб аст, аммо дар амал. Фаҳмидани он ки чӣ гуна қарорҳо дар як ташкилоти калон қабул карда мешаванд, осон нест. Ҳатто агар раванди қабули қарорҳои расмӣ вуҷуд дошта бошад ҳам, он инъикос намекунад, ки одамон воқеан чӣ гуна муносибат мекунанд ва худи онҳо аксар вақт барои қабули қарорҳо муносибати мантиқӣ ва систематикӣ надоранд. Чунон ки хамкасбонам гуфт , одамон низ қуттиҳои сиёҳ мебошанд.
Хазор касро дар якчанд корхонаю муассисахои ба хамдигар печида гирем, масъала боз хам мураккабтар мешавад. Мо пас аз он медонем, ки киштии кайҳонӣ ҳангоми бозгашт пош хӯрда буд ва шахсони алоҳида дар NASA маълумоте доштанд, ки ба онҳо асос медоданд, ки ягон чизи бад рӯй диҳад, аммо система умуман Ман инро намедонистам. NASA ҳатто пас аз аз даст додани shuttle-и қаблии худ аз як аудити шабеҳ гузашт ва аммо бо сабаби хеле шабеҳ як аудити дигарро аз даст дод. Баҳс кардан осон аст, ки созмонҳо ва одамон қоидаҳои возеҳ ва мантиқиро риоя мекунанд, ки онҳоро санҷидан, фаҳмидан ва тағир додан мумкин аст, аммо таҷриба чизи дигареро исбот мекунад. Ин "".
Ман бисёр вақт омӯзиши мошиниро бо пойгоҳи додаҳо муқоиса мекунам, махсусан бо технологияи релятсионӣ - технологияи нави бунёдӣ, ки имкониятҳои илми информатика ва ҷаҳони атрофро тағир додааст, ки як ҷузъи ҳама чиз шудааст, ки мо онро ҳамеша бидуни дарк истифода мебарем. Пойгоҳҳои додаҳо низ мушкилот доранд ва табиати шабеҳ доранд: система метавонад дар асоси тахминҳои бад ё маълумоти бад сохта шавад, аммо пайхас кардан душвор хоҳад буд ва одамоне, ки системаро истифода мебаранд, он чизеро, ки ба онҳо медиҳад, бидуни саволҳо иҷро мекунанд. Бисёр шӯхиҳои кӯҳна дар бораи андозчиён вуҷуд доранд, ки як вақтҳо номи шуморо нодуруст навиштаанд ва бовар кунонидани онҳо ба ислоҳи хато аз тағир додани номи шумо хеле мушкилтар аст. Роҳҳои зиёде барои фикр кардан дар ин бора вуҷуд доранд, аммо маълум нест, ки кадомаш беҳтар аст: ҳамчун мушкилоти техникӣ дар SQL ё ҳамчун иштибоҳ дар нашри Oracle ё нокомии муассисаҳои бюрократӣ? Ҷустуҷӯи иштибоҳ дар раванде, ки боиси он шудааст, ки система хусусияти ислоҳи хатогиро надошта бошад, то чӣ андоза душвор аст? Оё пеш аз он ки одамон шикоят кунанд, инро метавон муайян кард?
Ин мушкилот бо ҳикояҳо, вақте ки ронандагон ба сабаби маълумоти кӯҳна дар навигатор ба дарёҳо мераванд, боз ҳам соддатар тасвир шудааст. Хуб, харитаҳо бояд доимо нав карда шаванд. Аммо то чӣ андоза TomTom барои ба баҳр партофтани мошини шумо гунаҳкор аст?
Сабаби ин гуфтани ман дар он аст, ки бале, ғарази омӯзиши мошинҳо мушкилот эҷод мекунад. Аммо ин мушкилот ба мушкилоте, ки мо дар гузашта дучор шудаем, шабеҳ хоҳанд буд ва онҳоро метавон мушоҳида кард ва ҳал кард (ё на), ҳамон тавре ки мо дар гузашта тавонистем. Аз ин рӯ, сенарияе, ки дар он ғарази AI зарар мерасонад, ба муҳаққиқони калоне, ки дар як созмони калон кор мекунанд, рӯй надиҳад. Эҳтимол аст, ки баъзе пудратчии технологияҳои ночиз ё фурӯшандаи нармафзор бо истифода аз ҷузъҳои кушодаасос, китобхонаҳо ва асбобҳое, ки онҳо намефаҳманд, дар зонуяшон чизе менависанд. Ва муштарии бадбахт ибораи "зеҳни сунъӣ" -ро дар тавсифи маҳсулот мехарад ва бидуни ягон савол онро ба кормандони каммуздаш тақсим мекунад ва ба онҳо фармон медиҳад, ки он чизеро, ки AI мегӯяд, иҷро кунанд. Ин маҳз ҳамон чизест, ки бо пойгоҳи додаҳо рӯй дод. Ин як мушкили зеҳни сунъӣ ё ҳатто мушкилоти нармафзор нест. Ин омили инсонист.
хулоса
Омӯзиши мошинҳо метавонад ҳама чизеро, ки шумо ба саг таълим дода метавонед, иҷро кунад - аммо шумо ҳеҷ гоҳ боварӣ ҳосил карда наметавонед, ки шумо ба саг чӣ таълим додаед.
Ман аксар вақт эҳсос мекунам, ки истилоҳи "зеҳни сунъӣ" танҳо дар роҳи чунин сӯҳбатҳо мешавад. Ин истилоҳ таассуроти бардурӯғ медиҳад, ки мо онро воқеан офаридаем - ин иктишоф. Ки мо дар роҳи худ ба HAL9000 ё Skynet ҳастем - чизе, ки воқеан мефахмад. Аммо не. Инҳо танҳо мошинҳо ҳастанд ва муқоиса кардани онҳо, масалан, мошини ҷомашӯӣ хеле дурусттар аст. Вай назар ба одам хеле беҳтар ҷомашӯӣ мекунад, аммо агар шумо ба ҷои ҷомашӯӣ зарфҳо гузоред, вай... онҳоро мешӯяд. Зарфҳо ҳатто тоза хоҳанд шуд. Аммо ин он чизе, ки шумо интизор будед, нахоҳад буд ва ин рӯй нахоҳад дод, зеро система нисбат ба хӯрокҳо ягон таассуб дорад. Мошини ҷомашӯӣ чӣ будани табақ ва чӣ будани либосро намедонад - ин танҳо як мисоли автоматикунонӣ аст, аз ҷиҳати консептуалӣ аз чӣ гуна равандҳои қаблӣ автоматикунонидашуда фарқ надорад.
Новобаста аз он ки мо дар бораи мошинҳо, ҳавопаймоҳо ё пойгоҳи додаҳо гап мезанем, ин системаҳо ҳам хеле пурқувват ва хеле маҳдуд хоҳанд буд. Онҳо комилан аз он вобаста хоҳанд буд, ки одамон ин системаҳоро чӣ гуна истифода мебаранд, ниятҳои онҳо хуб ё бад ҳастанд ва то чӣ андоза онҳо чӣ гуна кор мекунанд.
Аз ин рӯ, гуфтани он, ки "зеҳни сунъӣ математика аст, бинобар ин наметавонад ғаразнок дошта бошад" комилан дурӯғ аст. Аммо гуфтани он ки омӯзиши мошинсозӣ "табиати субъективӣ" аст, яксон аст. Омӯзиши мошинсозӣ намунаҳоро дар додаҳо пайдо мекунад ва кадом намунаҳоро пайдо кардани он аз маълумот вобаста аст ва маълумот аз мо вобаста аст. Ҳамон тавре ки мо бо онҳо мекунем. Омӯзиши мошинсозӣ баъзе корҳоро нисбат ба мо хеле беҳтар иҷро мекунад - аммо сагҳо, масалан, дар ошкор кардани маводи мухаддир нисбат ба одамон хеле самараноктаранд, ки ин барои истифодаи онҳо ҳамчун шоҳид ва бар асоси шаҳодати онҳо қарор қабул кардан асос нест. Ва сагҳо, ба ҳар ҳол, аз ҳама гуна системаи омӯзиши мошинсозӣ хеле оқилтаранд.
тарҷумаи: .
Таҳрир: .
Ҷамъият: .
Манбаъ: will.com