tr; dr:
- Ko te ako miihini ka rapu tauira i roto i nga raraunga. Engari ka taea e te matauranga hangai te "whakaaro"—ara, kimihia nga tauira e he ana. Hei tauira, ka aro nui pea te punaha tirotiro mate pukupuku kiri-whakaahua ki nga whakaahua i tangohia i te tari o te taote. Kaore e taea e te ako miihini kia mohio: ko ana algorithms anake e tautuhi ana i nga tauira i roto i nga tau, a ki te kore nga raraunga e tohu, ka pera ano te hua o tana tukatuka. A he uaua ki te hopu i enei pepeha na te tino miihini o te ako miihini.
- Ko te waahi raruraru tino kitea me te tino whakamataku ko te rereketanga o te tangata. He maha nga take ka ngaro pea nga korero mo te tangata ahakoa i te waahanga kohinga. Engari kaua e whakaaro ko tenei raru ka pa ki nga taangata anake: he rite tonu nga raru ka puta mai i te wa e ngana ana ki te kite i te waipuke i roto i te whare putunga, i te miihini hau kore ranei. Ko etahi o nga punaha ka paopao ki te tae kiri, ko etahi ka paopao ki nga pūoko Siemens.
- Ko enei raruraru ehara i te mea hou ki te ako miihini, a he tawhiti noa atu ki a ia. He pohehe nga whakaaro i roto i tetahi hanganga uaua, me te maarama he aha i whakatauhia ai tetahi whakatau he uaua tonu. Me whawhai tatou i tenei i roto i te huarahi matawhānui: hanga taputapu me nga tukanga mo te manatoko - me te ako i nga kaiwhakamahi kia kore ratou e whai matapo i nga taunakitanga AI. He pai ake te mahi a te ako miihini ki a tatou - engari ko nga kuri, hei tauira, he pai ake i te tangata ki te kimi raau taero, ehara i te mea he take hei whakamahi hei kaiwhakaatu me te whakatau i runga i o raatau whakaaturanga. A ko nga kuri, he maamaa ake i nga punaha ako miihini.
Ko te ako miihini tetahi o nga ahuatanga hangarau tino nui i enei ra. Koinei tetahi o nga huarahi nui e huri ai te hangarau i te ao huri noa i a tatou i roto i nga tau tekau e whai ake nei. Ko etahi o nga ahuatanga o enei huringa he take hei awangawanga. Hei tauira, ko te paanga pea o te ako miihini i runga i te maakete mahi, i tana whakamahinga mo nga kaupapa kore tikanga (hei tauira, na nga mana whakahaere). He raru ano kei tenei panui: rītaha mohio horihori.
Ehara tenei i te korero ngawari.
Ka kitea e te AI a Google nga ngeru. He mea motuhake tenei korero mai i te tau 2012 i tera wa.
He aha te "AI Bias"?
"Raraunga Raw" he oxymoron me te whakaaro kino; me ata whakarite nga raraunga. —Geoffrey Bocker
I tetahi waahi i mua i te tau 2013, ki te hanga i tetahi punaha e kii ana, e mohio ana ki nga ngeru i roto i nga whakaahua, me whakaatu e koe nga waahanga arorau. Me pehea te kimi kokonga o te ahua, te mohio ki nga kanohi, te wetewete i nga kakano mo te huruhuru, te tatau maihao, aha atu. Na ka whakakotahi i nga waahanga katoa ka kitea kaore e tino mahi. He rite tonu ki te hoiho miihini - ka taea te hanga, engari i roto i nga mahi he tino uaua ki te whakaahua. Ko te mutunga he rau (he mano ranei) o nga ture tuhi-a-ringa. A kaore he tauira mahi kotahi.
I te taenga mai o te ako miihini, ka mutu te whakamahi i nga ture "a-ringa" mo te mohio ki tetahi mea. Engari, kotahi mano tauira o “tenei”, X, kotahi mano tauira o “tetahi atu”, Y, a ka hangaia e te rorohiko he tauira i runga i ta raatau tātari tatauranga. Ka hoatu e matou ki tenei tauira etahi tauira raraunga ka whakatau ma te tino tika mena ka uru ki tetahi o nga huinga. Ko te ako miihini ka whakaputa i tetahi tauira mai i nga raraunga kaore i te tangata e tuhi ana. He mea whakamīharo nga hua, ina koa i roto i te ahua o te ahua me te tohu tauira, na reira ka neke te katoa o te umanga hangarau ki te ako miihini (ML).
Engari ehara i te mea ngawari. I roto i te ao mau, kei roto ano i o mano tauira o X, Y ranei te A, B, J, L, O, R, tae noa ki te L. Kare pea enei e tohatoha noa, ka puta mai etahi ka nui ake te utu o te punaha. aro atu ki a raatau i nga mea e pai ana ki a koe.
He aha te tikanga o tenei mahi? Ko taku tauira tino pai ko nga punaha tohu whakaahua . E marama ana te take: ko te nuinga o nga tauira o nga whakaahua "hipi" ka tangohia ki nga ngahere kei reira ratou e noho ana, a, i enei whakaahua ka nui ake te waahi o te tarutaru i nga rewharewha ma, a ko te tarutaru te mea nui ki te punaha. .
He tauira nui ake. Kotahi te mea tata nei mo te kite i te mate pukupuku kiri i nga whakaahua. I puta mai he maha nga wa e whakaahuahia ana e nga tohunga kiri kiri te rangatira me nga whakaaturanga o te mate pukupuku kiri hei tuhi i te rahi o nga hanganga. Karekau he rangatira i roto i nga tauira whakaahua o te kiri hauora. Mo te punaha AI, ko enei rangatira (he tino tika, ko nga pika e tautuhia ana e matou hei "kaiwhakahaere") kua waiho hei tetahi o nga rereketanga i waenga i nga huinga tauira, a, i etahi wa ka nui ake i te iti o te pupuhi i runga i te kiri. Na he punaha i hangaia hei tautuhi i te mate pukupuku kiri i etahi wa ka mohiotia ko nga rangatira.
Ko te kaupapa matua i konei ko te kore o te punaha i te maarama ki nga mea e tirohia ana. Ka titiro tatou ki te huinga pika ka kite i roto i a raatau he hipi, he kiri, he rangatira ranei, engari he rarangi tau noa te punaha. Kare ia e kite i te mokowā ahu toru, karekau e kite i nga taonga, i nga kakano, i nga hipi ranei. Ka kite noa ia i nga tauira i roto i nga raraunga.
Ko te uaua ki te tarai i nga raru penei ko te whatunga neural (te tauira i hangaia e to punaha ako miihini) kei roto nga mano tini rau mano o nga pona. Karekau he huarahi ngawari ki te titiro ki tetahi tauira me te kite me pehea tana whakatau. Ko te tikanga he maamaa te tikanga ki te whakaahua i nga ture katoa ma te ringaringa, me te kore e whakamahi ako miihini. Kei te maaharahara nga tangata kua huri te ako miihini ki tetahi pouaka pango. (Ka whakamarama au i muri tata nei he aha te mea he nui rawa atu tenei whakataurite.)
Ko tenei, i roto i nga tikanga whanui, ko te raruraru o te rītaha i roto i te matauranga hangai, te ako miihini ranei: he punaha mo te rapu tauira i roto i nga raraunga ka kitea nga tauira he, a kaore pea koe e kite. He tino ahuatanga tenei o te hangarau, a ka kitea e nga tangata katoa e mahi tahi ana i roto i nga whare wananga me nga kamupene hangarau nui. Engari he uaua nga hua ka puta mai, me nga otinga ka taea e tatou mo aua hua.
Me korero tuatahi mo nga hua.
Ka taea e AI, mo tatou tonu, te whiriwhiri mo etahi momo taangata, i runga i te maha o nga tohu kore e kitea.
AI Bias Scenarios
Ko te mea tino marama me te whakamataku, ka puta mai tenei raru ka pa ki te rereketanga o te tangata. No tata nei i whakamatau a Amazon ki te hanga i tetahi punaha ako miihini mo te tirotiro tuatahi mo nga kaitono mahi. I te mea he maha ake nga tane i roto i nga kaimahi a Amazon, he maha ake nga tauira o te "whakamahinga angitu" he tane, he maha ake nga tane i roto i te kowhiringa o nga mahi e kii ana te punaha. I kite a Amazon i tenei kaore i tukuna te punaha ki te whakaputa.
Ko te mea nui i roto i tenei tauira ko te korero ko te punaha he pai ki nga kaitono tane, ahakoa te mea kaore i tohua te ira tangata ki te reanga. I kitea e te punaha etahi atu tauira i roto i nga tauira o "nga kaimahi pai": hei tauira, ka whakamahi pea nga wahine i nga kupu motuhake hei whakaahua i nga whakatutukitanga, i nga mahi whakangahau motuhake ranei. Ae ra, kaore te punaha i mohio he aha te "hockey", ko wai te "tangata", he aha te "angitu" - i whakahaere noa i te tātari tatauranga o te tuhinga. Engari ko nga tauira i kitea e ia karekau e kitea e te tangata, a, ko etahi o ratou (hei tauira, he rerekee te ahua o nga momo ira tangata e whakaatu ana i te angitu) he uaua pea ki a tatou te kite ahakoa ka tirohia e tatou.
I tua atu - kino. Ko te punaha ako miihini e tino pai ana ki te rapu mate pukupuku i runga i te kiri koma kaore pea e pai te mahi ki te kiri pouri, he rereke ranei. Ehara i te mea na te kino, engari na te mea ka hiahia pea koe ki te hanga tauira motuhake mo te tae kiri rereke, ma te whiriwhiri i nga ahuatanga rereke. Ko nga punaha ako miihini kaore e taea te whakawhiti ahakoa i roto i te waahi whaiti penei i te tohu whakaahua. Me takawiri koe i te punaha, i etahi wa ma te whakamatautau me te he, kia pai ai te hapai i nga ahuatanga o nga raraunga e hiahia ana koe kia tutuki ra ano koe i te tika e hiahia ana koe. Engari ko te mea kaore pea koe e kite he tika te punaha 98% o te wa me tetahi roopu, me te 91% anake (he tika ake i te tātaritanga tangata) me tetahi atu.
I tenei wa kua whakamahia e au nga tauira e pa ana ki nga tangata me o raatau ahuatanga. Ko nga korero mo tenei raru e aro nui ana ki tenei kaupapa. Engari he mea nui ki te mohio ko te whirinaki ki te tangata he waahanga noa iho o te raru. Ka whakamahia e matou te ako miihini mo te maha o nga mea, a ka whai take te hapa tauira ki era katoa. I tetahi atu taha, ki te mahi tahi koe me nga tangata, kaore pea i te hono atu te rītaha i roto i nga raraunga ki a raatau.
Kia mohio ai ki tenei, me hoki ano ki te tauira mate pukupuku kiri me te whakaaro e toru nga whakapae mo te ngoikore o te punaha.
- Te tohatoha rerekee o nga tangata: he maha nga whakaahua he rerekee nga tae kiri, ka puta he hua pai, he kino kino ranei na te ahua o te kiri.
- Kei roto i nga raraunga e whakangunguhia ana te punaha he ahuatanga ka puta, he rerekee te tohatoha kaore i te hono ki nga tangata, kaore he uara tātaritanga: he rangatira mo nga whakaahua o te mate pukupuku kiri, te tarutaru ranei i nga whakaahua hipi. I tenei keehi, ka rereke te hua mena ka kitea e te punaha nga pika i roto i te ahua o tetahi mea e tohuhia ana e te kanohi tangata he "rangatira".
- Kei roto i nga raraunga tetahi ahuatanga tuatoru kaore e taea e te tangata te kite ahakoa ka rapua e ia.
He aha te tikanga? E mohio ana matou he rerekee pea te ahua o nga raraunga ki nga roopu tangata rereke, me te iti rawa ka taea e matou te whakamahere ki te rapu mo enei tuunga. I etahi atu kupu, he maha nga take hapori e kii ana kei roto i nga korero mo nga roopu tangata etahi rītaha. Mena ka titiro tatou ki te whakaahua me te rangatira, ka kite tatou i tenei rangatira - i warewarehia i mua, i te mohio kaore he mea nui, ka wareware kaore te punaha e mohio ki tetahi mea.
Engari ka pewhea mehemea i tangohia katoatia o whakaahua kiri kino i roto i te tari i raro i te rama kanapa, a ka tangohia to kiri hauora ki raro i te rama rama? He aha mehemea, i muri i to mahi pupuhi kiri hauora, i mua i te pupuhi i te kiri kino, ka whakahouhia e koe te punaha whakahaere i runga i to waea waea, ka huri paku a Apple, a Google ranei i te huringa haruru haruru? Kaore e taea e te tangata te kite i tenei, ahakoa te nui o tana titiro mo enei ahuatanga. Engari ka kite tonu te punaha miihini-miihini me te whakamahi i tenei. Kaore ia e mohio ki tetahi mea.
I tenei wa kua korero matou mo nga hononga pohehe, engari he tika pea nga raraunga me te tika o nga hua, engari kaore koe e hiahia ki te whakamahi mo nga take matatika, ture, whakahaere ranei. Ko etahi o nga mana whakahaere, hei tauira, kare e tuku i nga wahine ki te whiwhi utu utu mo a raatau inihua, ahakoa he pai ake nga wahine ki te taraiwa. Ka taea e tatou te whakaaro ngawari ki tetahi punaha, ina wetewetehia nga raraunga o mua, ka tautapa he take morearea ki nga ingoa wahine. Kaati, me tango ingoa mai i te whiringa. Engari kia mahara ki te tauira a Amazon: ka taea e te punaha te whakatau i te ira tangata i runga i etahi atu mea (ahakoa kaore i te mohio he aha te ira tangata, he aha te motuka), kaore koe e kite i tenei tae noa ki te arotake a te kaiwhakahaere i nga reiti i a koe. tuku me nga utu ka whaina koe.
Ka mutu, i te nuinga o te wa ka whakaarohia ka whakamahia e matou nga punaha pera mo nga kaupapa e uru ana ki nga tangata me nga taunekeneke hapori. He he tenei. Mena ka hanga koe i nga kapohau hau, ka hiahia pea koe ki te tono ako miihini ki te waea waea e tukuna ana e te tekau, rau ranei o nga pūoko i runga i to hua (ororongo, ataata, pāmahana, me etahi atu pukoro ka whakaputa raraunga ka taea te urutau ki te hanga miihini. tauira ako). Ma te whakapae, ka taea e koe te kii, "Tenei nga raraunga mai i te mano kapopohau i rahua i mua i te korenga, a koinei nga raraunga mai i te mano kapopohau kaore i rahua. Hangaia he tauira hei whakaatu he aha te rereketanga i waenga i a raatau. Inaianei, whakaarohia kua whakauruhia nga puoro Siemens ki runga i te 75% o nga turbine kino, me te 12% anake o nga mea pai (kaore he hononga ki nga rahunga). Ka hangaia e te punaha he tauira ki te kimi turbine me nga pūoko Siemens. Aue!
Pikitia — Moritz Hardt, UC Berkeley
Te whakahaere AI Bias
He aha ta tatou e mahi ai? Ka taea e koe te whakatata ki te take mai i nga koki e toru:
- Te kaha tikanga ki te kohikohi me te whakahaere raraunga mo te whakangungu i te punaha.
- Nga taputapu hangarau hei tātari me te tātari i te whanonga tauira.
- Whakangungu, ako, kia tupato ki te whakatinana i te ako miihini ki nga hua.
He katakata kei roto i te pukapuka a Molière "The Bourgeois in the Nobility": i kii tetahi tangata kua wehewehea nga tuhinga ki nga korero me nga rotarota, a ka koa ia ki te mohio kua korero ia i roto i nga korero i tona oranga katoa, me te kore e mohio. Koinei pea te ahua o te hunga tatauranga i enei ra: me te kore e mohio, kua whakatapua e ratou a ratou mahi ki te mohiotanga horihori me te hapa tauira. Ko te rapu mo te hapa tauira me te maaharahara mo tena ehara i te raru hou, me aro nahanaha ki tana otinga. Ka rite ki te korero i runga ake nei, i etahi wa he maamaa ake te mahi ma te ako i nga raru e pa ana ki nga raraunga tangata. Ko ta matou i kii ake nei kei a matou nga whakaaro kino e pa ana ki nga roopu tangata rereke, engari he uaua ki a maatau ki te whakaaro he kino mo nga puoro Siemens.
He aha te mea hou mo enei mea katoa, ko te tikanga, kua kore te tangata e mahi tika i te tātari tatauranga. Ka mahia e nga miihini e hanga ana i nga tauira nui, uaua he uaua ki te mohio. Ko te take o te maramatanga tetahi o nga tino ahuatanga o te raru o te rītaha. Kei te mataku matou ko te punaha kaore i te paanui noa, engari karekau he huarahi ki te kite i tana piro, a he rereke te ako miihini ki etahi atu momo mahi aunoatanga, e kiia ana ko nga waahanga arorau maamaa ka taea te whakamatautau.
E rua nga raruraru i konei. Ka taea tonu e matou te whakahaere i etahi momo arotakenga o nga punaha ako miihini. A ko te arotake i etahi atu punaha ehara i te mea ngawari.
Tuatahi, ko tetahi o nga huarahi rangahau hou mo te ako miihini ko te rapu tikanga hei tautuhi i nga mahi nui o nga punaha ako miihini. E ai ki tera, ko te ako miihini (kei roto i tona ahuatanga o naianei) he waahi hou o te aoiao e huri tere ana, na kaua e whakaaro ko nga mea e kore e taea i enei ra kare e tino tika. Kaupapa - he tauira whakamere o tenei.
Tuarua, ko te whakaaro ka taea e koe te whakamatautau me te mohio ki nga tikanga whakatau o nga punaha o naianei, o nga whakahaere ranei, he pai i roto i te ariā, engari i roto i nga mahi. Ko te mohio me pehea te whakatau i roto i tetahi whakahaere nui ehara i te mea ngawari. Ahakoa he tukanga whakatau okawa, kare e whakaata ana i te ahuatanga o te taunekeneke a te tangata, a, i te nuinga o te wa karekau he huarahi arorau, nahanaha ki te whakatau i a raatau whakatau. I korero taku hoa mahi , he pouaka pango hoki nga tangata.
Kia kotahi mano nga tangata i roto i nga kamupene me nga umanga inaki, ka tino uaua te raru. E mohio ana matou i muri i te meka ka pakaru te Space Shuttle i te hokinga mai, a ko nga tangata takitahi i roto i te NASA he korero i whai take ai ratou ki te whakaaro ka puta he mea kino, engari ko te punaha. i roto i te whānui Kaore au i mohio ki tenei. I tukuna ano e te NASA tetahi arotake rite i muri i te ngaro o tana waka o mua, heoi kua ngaro tetahi atu mo tetahi take tino rite. He ngawari ki te tohe ko nga whakahaere me nga tangata e whai ana i nga ture marama, arorau ka taea te whakamatautau, te maarama, me te whakarereke - engari he rereke nga wheako. Tenei"".
He maha nga wa ka whakatauritehia e au te ako miihini ki nga papaa raraunga, ina koa ko nga hononga - he hangarau taketake hou kua whakarereke i nga kaha o te pūtaiao rorohiko me te ao huri noa, kua uru ki roto i nga mea katoa, ka whakamahia e matou i nga wa katoa me te kore e mohio. He raruraru ano nga papaarangi, he rite tonu te ahua: ka hangaia pea te punaha i runga i nga whakaaro kino, i nga raraunga kino ranei, engari he uaua ki te kite, ka mahia e nga tangata e whakamahi ana i te punaha te korero ki a raatau me te kore patai. He maha nga katakata tawhito e pa ana ki nga tangata taake i he te tuhi i to ingoa i mua, a he uaua ake te whakatenatena i a ratou ki te whakatika i te he i te huri i to ingoa. He maha nga huarahi ki te whakaaro mo tenei, engari kaore i te maarama ko tehea te mea pai ake: hei raru hangarau i roto i te SQL, hei pepeha ranei i roto i te tukunga Oracle, i te kore ranei o nga umanga whakahaere? He pehea te uaua ki te kimi i tetahi pepeke i roto i tetahi tukanga i arai ai te punaha kaore he waahanga whakatika hapa? I kitea pea tenei i mua i te tiimata o te amuamu a te tangata?
Ko tenei raru ka whakaatuhia ake e nga korero i te wa e peia ana e nga taraiwa ki roto i nga awa na te mea kua tawhito nga raraunga o te kaiwhakatere. Kaati, me whakahou nga mapi i nga wa katoa. Engari he aha te he o TomTom mo to waka i puhia ki te moana?
Ko te take i kii atu ai ahau, ae, ka puta he raru ki te ako miihini. Engari ka rite enei raruraru ki nga raruraru i pa ki a tatou i mua, a ka taea te kite me te whakatau (kaore ranei) e rite ana ki a tatou i mua. No reira, ko te ahuatanga ka pa te kino ki nga kairangahau matua e mahi ana i roto i tetahi whakahaere nui. Ko te nuinga pea, ka tuhia e etahi kaikirimana hangarau iti, kaihoko rorohiko ranei tetahi mea ki o ratou turi, ma te whakamahi i nga waahanga puna tuwhera, whare pukapuka me nga taputapu kaore i te maarama. A ka hokona e te kaihoko kino te kupu "maramarama mohio" i roto i te whakaahuatanga o nga hua, a, kaore he patai, ka tohatoha ki ana kaimahi iti-utu, ka whakahau kia mahia nga korero a AI. Koinei tonu te mea i pa ki nga papaunga raraunga. Ehara tenei i te raruraru mohio hangai, ahakoa he raru rorohiko. Koinei te take tangata.
mutunga
Ka taea e te ako miihini te mahi i nga mea katoa ka taea e koe te whakaako i te kuri - engari kare koe e tino mohio he aha nga mea i akona e koe ki te kuri.
I te nuinga o nga wa ka rite ki ahau ko te kupu "marama mohio" ka uru noa ki nga korero penei. Ko tenei kupu he korero teka na matou i hanga - tenei mohio. Kei te haere matou ki te HAL9000, Skynet ranei - he mea tino tika mārama. Engari kaore. He mihini noa enei, a he tino tika te whakataurite ki te miihini horoi. He pai ake tana mahi horoi i te tangata, engari ki te hoatu e koe he rihi ki roto i a ia hei utu mo te horoi, mana... ka horoi. Ka ma noa nga rihi. Engari ehara tenei i te mea i tumanakohia e koe, kaore hoki e puta na te mea he kino te punaha mo nga rihi. Kaore te miihini horoi i te mohio he aha nga rihi, he aha nga kakahu - he tauira noa tenei mo te mahi aunoa, kaore he rereke i te ahua o nga mahi o mua.
Ahakoa e korero ana tatou mo nga motuka, waka rererangi, papaa raraunga ranei, ka tino kaha enei punaha me te iti rawa. Ka whakawhirinaki katoa ratou ki te pehea o nga tangata e whakamahi ana i enei punaha, ahakoa he pai, he kino ranei o ratou whakaaro, me te nui o te mohio ki a raatau mahi.
Na reira, ki te kii "he pangarau te matauranga hangai, no reira kaore e taea te whai i nga rītaha" he tino teka. Engari he rite tonu te teka ki te kii ko te ako miihini he "tuuturu te ahua." Ka kitea e te ako miihini nga tauira i roto i nga raraunga, he aha nga tauira ka kitea e whakawhirinaki ana ki nga raraunga, ka whakawhirinaki nga raraunga ki a maatau. Ka rite ki ta tatou mahi ki a raatau. He pai ake te mahi a te ako miihini ki a tatou - engari ko nga kuri, hei tauira, he pai ake i te tangata ki te kimi raau taero, ehara i te mea he take hei whakamahi hei kaiwhakaatu me te whakatau i runga i o raatau whakaaturanga. A ko nga kuri, he maamaa ake i nga punaha ako miihini.
Translation: .
Whakatikatika: .
Hapori: .
Source: will.com