Nipa Iyatọ Imọye Oríkĕ

tl; dr:

• Ẹkọ ẹrọ n wa awọn ilana ni data. Ṣugbọn itetisi atọwọda le jẹ “abosi” — iyẹn ni, wa awọn ilana ti ko tọ. Fun apẹẹrẹ, eto wiwa alakan awọ ti o da lori fọto le san ifojusi pataki si awọn aworan ti o ya ni ọfiisi dokita kan. Ẹkọ ẹrọ ko le ni oye: awọn algoridimu rẹ nikan ṣe idanimọ awọn ilana ni awọn nọmba, ati pe ti data ko ba jẹ aṣoju, bẹ naa yoo jẹ abajade ti sisẹ rẹ. Ati mimu iru awọn idun bẹẹ le nira nitori awọn ẹrọ ti ẹkọ ẹrọ.
• Agbegbe iṣoro ti o han julọ ati idamu ni iyatọ eniyan. Awọn idi pupọ lo wa idi ti data nipa awọn eniyan le padanu aibikita paapaa ni ipele gbigba. Ṣugbọn maṣe ro pe iṣoro yii kan awọn eniyan nikan: ni pato awọn iṣoro kanna waye nigbati o n gbiyanju lati ṣawari iṣan omi ni ile-itaja tabi tobaini gaasi ti o kuna. Diẹ ninu awọn ọna ṣiṣe le jẹ abosi si awọ ara, awọn miiran yoo jẹ abosi si awọn sensọ Siemens.
• Irú àwọn ìṣòro bẹ́ẹ̀ kì í ṣe tuntun sí ẹ̀rọ ẹ̀rọ, wọ́n sì jìnnà sí ohun tó yàtọ̀ sí i. Awọn igbero ti ko tọ ni a ṣe ni eyikeyi eto eka, ati oye idi ti ipinnu kan pato jẹ nira nigbagbogbo. A nilo lati dojuko eyi ni ọna okeerẹ: ṣẹda awọn irinṣẹ ati awọn ilana fun ijẹrisi - ati kọ awọn olumulo ki wọn ma ṣe tẹle awọn iṣeduro AI ni afọju. Ẹkọ ẹrọ ṣe diẹ ninu awọn nkan dara julọ ju ti a le lọ - ṣugbọn awọn aja, fun apẹẹrẹ, munadoko diẹ sii ju eniyan lọ ni wiwa awọn oogun, eyiti kii ṣe idi kan lati lo wọn bi ẹlẹri ati ṣe awọn idajọ ti o da lori ẹri wọn. Ati awọn aja, nipasẹ ọna, jẹ ijafafa pupọ ju eto ẹkọ ẹrọ eyikeyi lọ.

Ẹkọ ẹrọ jẹ ọkan ninu awọn aṣa imọ-ẹrọ ipilẹ pataki julọ loni. Eyi jẹ ọkan ninu awọn ọna pataki ti imọ-ẹrọ yoo yi agbaye pada ni ọdun mẹwa to nbọ. Diẹ ninu awọn ẹya ti awọn iyipada wọnyi jẹ idi fun ibakcdun. Fun apẹẹrẹ, ipa agbara ti ẹkọ ẹrọ lori ọja iṣẹ, tabi lilo rẹ fun awọn idi aiṣedeede (fun apẹẹrẹ, nipasẹ awọn ijọba alaṣẹ). Iṣoro miiran tun wa ti ifiweranṣẹ yii koju: abosi itetisi atọwọda.

Eyi kii ṣe itan ti o rọrun.

Google's AI le wa awọn ologbo. Iroyin yii lati ọdun 2012 jẹ nkan pataki ni igba naa.

Kini "Ibisi AI"?

"Data aise" jẹ mejeeji oxymoron ati ero buburu; data gbọdọ wa ni pese sile daradara ati ki o fara. -Geoffrey Boker

Ibikan ṣaaju ọdun 2013, lati le ṣe eto ti, sọ, mọ awọn ologbo ni awọn fọto, o ni lati ṣe apejuwe awọn igbesẹ ọgbọn. Bii o ṣe le wa awọn igun ni aworan kan, da awọn oju mọ, ṣe itupalẹ awọn awoara fun irun, kika awọn owo, ati bẹbẹ lọ. Lẹhinna fi gbogbo awọn paati papọ ki o ṣe iwari pe ko ṣiṣẹ gaan. Gẹgẹ bi ẹṣin ẹlẹrọ - ni imọ-jinlẹ o le ṣee ṣe, ṣugbọn ni iṣe o jẹ eka pupọ lati ṣapejuwe. Abajade ipari jẹ awọn ọgọọgọrun (tabi paapaa ẹgbẹẹgbẹrun) awọn ofin ti a fi ọwọ kọ. Ati pe kii ṣe awoṣe iṣẹ kan.

Pẹlu dide ti ẹkọ ẹrọ, a dawọ lilo awọn ofin “Afowoyi” fun idanimọ ohun kan pato. Dipo, a gba ẹgbẹrun awọn ayẹwo ti "eyi", X, awọn apẹẹrẹ ẹgbẹrun ti "miiran", Y, ati pe kọmputa naa kọ awoṣe kan ti o da lori iṣiro iṣiro wọn. Lẹhinna a fun awoṣe yii diẹ ninu data ayẹwo ati pe o pinnu pẹlu konge boya o baamu ọkan ninu awọn eto naa. Ẹkọ ẹrọ n ṣe agbejade awoṣe lati inu data ju lati kikọ eniyan. Awọn abajade jẹ iwunilori, paapaa ni aaye ti aworan ati idanimọ apẹẹrẹ, ati pe iyẹn ni idi ti gbogbo ile-iṣẹ imọ-ẹrọ ti n lọ ni bayi si ikẹkọ ẹrọ (ML).

Ṣugbọn kii ṣe pe o rọrun. Ni aye gidi, ẹgbẹẹgbẹrun awọn apẹẹrẹ X tabi Y tun ni A, B, J, L, O, R, ati paapaa L. Awọn wọnyi le ma pin kaakiri, ati pe diẹ ninu le waye nigbagbogbo pe eto naa yoo san diẹ sii. ifojusi si wọn ju si awọn nkan ti o nifẹ rẹ.

Kini eleyi tumọ si ni iṣe? Ayanfẹ mi apẹẹrẹ ni nigbati image ti idanimọ awọn ọna šiše wo oke koríko kan ki o sọ pe, "agutan". O ṣe kedere idi ti: ọpọlọpọ awọn aworan apẹẹrẹ ti "agutan" ni a mu ni awọn alawọ ewe nibiti wọn ngbe, ati ninu awọn aworan wọnyi koriko gba aaye diẹ sii ju awọn iyẹfun funfun kekere, ati pe o jẹ koriko ti eto naa ṣe pataki julọ. .

Awọn apẹẹrẹ to ṣe pataki diẹ sii wa. Ọkan laipe igbiyanju fun wiwa akàn ara ni awọn fọto. O wa ni jade wipe dermatologists igba aworan awọn olori pẹlu awọn ifihan ti akàn ara lati gba awọn iwọn ti awọn formations. Ko si awọn oludari ninu apẹẹrẹ awọn aworan ti awọ ara ti o ni ilera. Fun eto AI, iru awọn alakoso (diẹ sii ni pato, awọn piksẹli ti a ṣe apejuwe bi "alakoso") ti di ọkan ninu awọn iyatọ laarin awọn apẹẹrẹ ti awọn apẹẹrẹ, ati nigbakan diẹ ṣe pataki ju awọ-ara kekere kan lọ. Nitorinaa eto ti a ṣẹda lati ṣe idanimọ akàn ara nigbakan mọ awọn alaṣẹ dipo.

Koko bọtini nibi ni pe eto naa ko ni oye itumọ ti ohun ti o n wo. A wo awọn piksẹli kan ti ṣeto ati rii ninu wọn agutan, awọ ara tabi awọn alaṣẹ, ṣugbọn eto naa jẹ laini nọmba nikan. Ko ri aaye onisẹpo mẹta, ko ri awọn nkan, awọn awoara, tabi agutan. O kan rii awọn ilana ni data naa.

Iṣoro naa ni ṣiṣe iwadii iru awọn iṣoro bẹ ni pe nẹtiwọọki nkankikan (awoṣe ti ipilẹṣẹ nipasẹ eto ẹkọ ẹrọ rẹ) ni ẹgbẹẹgbẹrun awọn ọgọọgọrun awọn apa. Ko si ọna ti o rọrun lati wo inu awoṣe kan ki o wo bi o ṣe ṣe ipinnu. Nini iru ọna bẹẹ yoo tumọ si pe ilana naa rọrun to lati ṣe apejuwe gbogbo awọn ofin pẹlu ọwọ, laisi lilo ẹkọ ẹrọ. Awọn eniyan ṣe aniyan pe ẹkọ ẹrọ ti di nkan ti apoti dudu. (Emi yoo ṣe alaye diẹ diẹ lẹhin idi ti lafiwe yii tun jẹ pupọ.)

Eyi, ni awọn ọrọ gbogbogbo, jẹ iṣoro ti irẹjẹ ni itetisi atọwọda tabi ẹkọ ẹrọ: eto fun wiwa awọn ilana ni data le rii awọn ilana ti ko tọ, ati pe o le ma ṣe akiyesi rẹ. Eyi jẹ abuda ipilẹ ti imọ-ẹrọ, ati pe o han gbangba fun gbogbo eniyan ti o ṣiṣẹ pẹlu rẹ ni ile-ẹkọ giga ati ni awọn ile-iṣẹ imọ-ẹrọ nla. Ṣugbọn awọn abajade rẹ jẹ eka, ati bẹ naa ni awọn ojutu ti o ṣeeṣe wa si awọn abajade wọnyẹn.

Jẹ ki a sọrọ nipa awọn abajade akọkọ.

AI le, lairotẹlẹ fun wa, ṣe yiyan ni ojurere ti awọn ẹka kan ti eniyan, da lori nọmba nla ti awọn ifihan agbara imperceptible

AI Bias Awọn oju iṣẹlẹ

O han gbangba julọ ati ni ẹru, iṣoro yii le farahan funrararẹ nigbati o ba de si oniruuru eniyan. Laipe agbasọ kan wati Amazon gbiyanju lati kọ eto ẹkọ ẹrọ fun iṣayẹwo akọkọ ti awọn oludije iṣẹ. Niwọn igba ti awọn ọkunrin diẹ sii wa laarin awọn oṣiṣẹ Amazon, awọn apẹẹrẹ ti “igbanisise aṣeyọri” tun jẹ ọkunrin nigbagbogbo, ati pe awọn ọkunrin diẹ sii wa ninu yiyan awọn atunbere ti o daba nipasẹ eto naa. Amazon ṣe akiyesi eyi ati pe ko tu eto naa sinu iṣelọpọ.

Ohun pataki julọ ninu apẹẹrẹ yii ni pe agbasọ eto naa lati ṣe ojurere fun awọn olubẹwẹ ọkunrin, botilẹjẹpe a ko sọ pe akọ tabi abo lori ibẹrẹ naa. Eto naa rii awọn ilana miiran ni awọn apẹẹrẹ ti “awọn ọya ti o dara”: fun apẹẹrẹ, awọn obinrin le lo awọn ọrọ pataki lati ṣe apejuwe awọn aṣeyọri, tabi ni awọn iṣẹ aṣenọju pataki. Nitoribẹẹ, eto naa ko mọ kini “hoki” jẹ, tabi tani “awọn eniyan” jẹ, tabi kini “aṣeyọri” - o kan ṣe itupalẹ iṣiro ti ọrọ naa. Ṣugbọn awọn ilana ti o rii yoo ṣeeṣe ki eniyan ko ni akiyesi, ati diẹ ninu wọn (fun apẹẹrẹ, otitọ pe awọn eniyan oriṣiriṣi ṣe apejuwe aṣeyọri ni oriṣiriṣi) yoo nira fun wa lati rii paapaa ti a ba wo wọn.

Siwaju sii - buru. Eto ẹkọ ẹrọ ti o dara pupọ ni wiwa akàn lori awọ awọ le ma ṣe daradara lori awọ dudu, tabi ni idakeji. Ko ṣe pataki nitori aiṣedeede, ṣugbọn nitori o ṣee ṣe pe o nilo lati kọ awoṣe ti o yatọ fun awọ ara ti o yatọ, yiyan awọn abuda oriṣiriṣi. Awọn ọna ṣiṣe ikẹkọ ẹrọ ko ṣe paarọ paapaa ni iru agbegbe dín bi idanimọ aworan. O nilo lati tweak eto naa, nigbakan nipasẹ idanwo ati aṣiṣe, lati ni imudani to dara lori awọn ẹya inu data ti o nifẹ si titi iwọ o fi ṣe aṣeyọri deede ti o fẹ. Ṣugbọn ohun ti o le ma ṣe akiyesi ni pe eto naa jẹ deede 98% ti akoko pẹlu ẹgbẹ kan, ati pe 91% nikan (paapaa diẹ sii ju iṣiro eniyan lọ) pẹlu ekeji.

Titi di isisiyi Mo ti lo awọn apẹẹrẹ akọkọ ti o jọmọ awọn eniyan ati awọn abuda wọn. Ifọrọwọrọ ni ayika iṣoro yii ni pataki lori koko yii. Ṣugbọn o ṣe pataki lati ni oye pe irẹjẹ si eniyan jẹ apakan nikan ti iṣoro naa. A yoo lo ẹkọ ẹrọ fun awọn nkan pupọ, ati pe aṣiṣe iṣapẹẹrẹ yoo jẹ pataki si gbogbo wọn. Ni apa keji, ti o ba ṣiṣẹ pẹlu awọn eniyan, aibikita ninu data le ma ni ibatan si wọn.

Lati loye eyi, jẹ ki a pada si apẹẹrẹ alakan awọ-ara ati ki o gbero awọn iṣeeṣe hypothetical mẹta fun ikuna eto.

1. Pipin awọn eniyan lọpọlọpọ: nọmba ti ko ni iwọntunwọnsi ti awọn fọto ti awọn ohun orin awọ-ara ti o yatọ, ti o yori si awọn idaniloju eke tabi awọn odi eke nitori pigmentation.
2. Awọn data lori eyiti eto ti ṣe ikẹkọ ni awọn ẹya ti o nwaye nigbagbogbo ati ẹya pinpin kaakiri ti ko ni nkan ṣe pẹlu eniyan ati pe ko ni iye iwadii aisan: oludari ni awọn fọto ti akàn awọ tabi koriko ni awọn fọto ti agutan. Ni idi eyi, abajade yoo yatọ ti eto naa ba wa awọn piksẹli ni aworan ti nkan ti oju eniyan ṣe afihan bi "alakoso".
3. Data naa ni abuda ẹni-kẹta ti eniyan ko le rii paapaa ti o ba wa.

Kini o je? A mọ iṣaaju kan pe data le ṣe aṣoju awọn ẹgbẹ oriṣiriṣi eniyan ni oriṣiriṣi, ati ni o kere ju a le gbero lati wa iru awọn imukuro. Ni awọn ọrọ miiran, ọpọlọpọ awọn idi awujọ lo wa lati ro pe data nipa awọn ẹgbẹ ti eniyan ti ni diẹ ninu irẹjẹ. Ti a ba wo fọto pẹlu alaṣẹ, a yoo rii alakoso yii - a kan kọju rẹ tẹlẹ, mọ pe ko ṣe pataki, ati gbagbe pe eto naa ko mọ ohunkohun.

Ṣugbọn kini ti o ba jẹ pe gbogbo awọn fọto rẹ ti awọ ara ti ko ni ilera ni a ya ni ọfiisi labẹ ina incandescent, ati pe awọ ara ti o ni ilera ti ya labẹ ina Fuluorisenti? Kini ti o ba jẹ pe, lẹhin ti o ba pari titu awọ ara ti o ni ilera, ṣaaju ki o to titu awọ ara ti ko ni ilera, o ṣe imudojuiwọn ẹrọ ṣiṣe lori foonu rẹ, ati Apple tabi Google diẹ yi iyipada idinku ariwo ariwo algorithm? Eniyan ko le ṣe akiyesi eyi, laibikita bi o ti n wa iru awọn ẹya bẹẹ. Ṣugbọn awọn ẹrọ-lilo eto yoo lẹsẹkẹsẹ ri ki o si lo yi. Ko mọ nkankan.

Titi di isisiyi a ti sọrọ nipa awọn ibaraenisepo spurious, ṣugbọn o tun le jẹ pe data jẹ deede ati pe awọn abajade jẹ deede, ṣugbọn iwọ ko fẹ lati lo wọn fun awọn idi iṣe, ofin, tabi awọn idi iṣakoso. Diẹ ninu awọn sakani, fun apẹẹrẹ, ko gba awọn obinrin laaye lati gba ẹdinwo lori iṣeduro wọn, botilẹjẹpe awọn obinrin le jẹ awakọ ailewu. A le ni irọrun fojuinu eto kan ti, nigba itupalẹ data itan, yoo fi ipin eewu kekere si awọn orukọ obinrin. O dara, jẹ ki a yọ awọn orukọ kuro ninu yiyan. Ṣugbọn ranti apẹẹrẹ Amazon: eto naa le pinnu akọ tabi abo ti o da lori awọn ifosiwewe miiran (bi o tilẹ jẹ pe ko mọ kini abo jẹ, tabi paapaa kini ọkọ ayọkẹlẹ kan), ati pe iwọ kii yoo ṣe akiyesi eyi titi ti olutọsọna yoo ṣe itupalẹ awọn owo-ori rẹ. ipese ati idiyele ti o yoo wa ni itanran.

Nikẹhin, a maa n ro pe a yoo lo iru awọn ọna ṣiṣe nikan fun awọn iṣẹ akanṣe ti o kan eniyan ati awọn ibaraẹnisọrọ awujọ. Eyi jẹ aṣiṣe. Ti o ba ṣe awọn turbines gaasi, o ṣee ṣe iwọ yoo fẹ lati lo ikẹkọ ẹrọ si telemetry ti o tan kaakiri nipasẹ awọn mewa tabi awọn ọgọọgọrun awọn sensosi lori ọja rẹ (ohun, fidio, iwọn otutu, ati awọn sensosi eyikeyi miiran ṣe ipilẹṣẹ data ti o le ni irọrun ni irọrun lati ṣẹda ẹrọ kan awoṣe ẹkọ). Ni arosọ, o le sọ pe, “Eyi ni data lati ọdọ awọn turbines ẹgbẹrun ti o kuna ṣaaju ki wọn kuna, ati pe data wa lati ọdọ ẹgbẹrun awọn turbines ti ko kuna. Kọ awoṣe lati sọ kini iyatọ laarin wọn. ” O dara, ni bayi fojuinu pe awọn sensọ Siemens ti fi sori ẹrọ lori 75% ti awọn turbines buburu, ati pe 12% nikan ti awọn ti o dara (ko si asopọ pẹlu awọn ikuna). Eto naa yoo kọ awoṣe kan lati wa awọn turbines pẹlu awọn sensọ Siemens. Ops!

Aworan - Moritz Hardt, UC Berkeley

Ṣiṣakoso AI Bias

Kí la lè ṣe nípa rẹ̀? O le sunmọ ọrọ naa lati awọn igun mẹta:

1. Agbara ilana ni gbigba ati ṣiṣakoso data fun ikẹkọ eto naa.
2. Awọn irinṣẹ imọ-ẹrọ fun itupalẹ ati ṣe iwadii ihuwasi awoṣe.
3. Kọ ẹkọ, kọ ẹkọ, ati ṣọra nigba imuse ikẹkọ ẹrọ sinu awọn ọja.

Awada kan wa ninu iwe Molière "The Bourgeois in the Nobility": A sọ fun ọkunrin kan pe a pin awọn iwe-iwe si ọrọ-ọrọ ati ewi, inu rẹ si dun lati ṣawari pe o ti n sọrọ ni prose ni gbogbo igbesi aye rẹ, laisi mimọ. Eyi ṣee ṣe bi awọn oniṣiro ṣe rilara loni: laisi mimọ, wọn ti ṣe iyasọtọ awọn iṣẹ ṣiṣe wọn si oye atọwọda ati aṣiṣe iṣapẹẹrẹ. Wiwa aṣiṣe iṣapẹẹrẹ ati aibalẹ nipa rẹ kii ṣe iṣoro tuntun, a kan nilo lati ọna ọna ṣiṣe ọna ojutu rẹ. Gẹgẹbi a ti sọ loke, ni awọn igba miiran o rọrun lati ṣe eyi nipa kikọ awọn iṣoro ti o ni ibatan si data eniyan. A priori ro pe a le ni ikorira nipa orisirisi awọn ẹgbẹ ti awọn eniyan, sugbon o jẹ soro fun wa lati ani fojuinu a ikorira nipa Siemens sensosi.

Kini tuntun nipa gbogbo eyi, nitorinaa, ni pe eniyan ko tun ṣe itupalẹ iṣiro taara. O ṣe nipasẹ awọn ẹrọ ti o ṣẹda awọn awoṣe nla, eka ti o nira lati ni oye. Ọrọ ti akoyawo jẹ ọkan ninu awọn aaye akọkọ ti iṣoro ti irẹjẹ. A bẹru pe eto naa kii ṣe abosi nikan, ṣugbọn pe ko si ọna lati rii irẹjẹ rẹ, ati pe ẹkọ ẹrọ yatọ si awọn ọna adaṣe miiran, eyiti o yẹ ki o ni awọn igbesẹ ọgbọn ti o han gbangba ti o le ṣe idanwo.

Awọn iṣoro meji wa nibi. A tun le ni anfani lati ṣe diẹ ninu iru iṣayẹwo ti awọn eto ẹkọ ẹrọ. Ati iṣatunṣe eyikeyi eto miiran ko rọrun rara.

Ni akọkọ, ọkan ninu awọn itọnisọna ti iwadii ode oni ni aaye ti ẹkọ ẹrọ ni wiwa awọn ọna lati ṣe idanimọ iṣẹ ṣiṣe pataki ti awọn eto ikẹkọ ẹrọ. Iyẹn ti sọ, ẹkọ ẹrọ (ni ipo lọwọlọwọ) jẹ aaye tuntun ti imọ-jinlẹ patapata ti o yipada ni iyara, nitorinaa maṣe ronu pe awọn nkan ti ko ṣee ṣe loni ko le di gidi gidi laipẹ. Ise agbese OpenAI - ẹya awon apẹẹrẹ ti yi.

Keji, imọran ti o le ṣe idanwo ati ki o loye ilana ṣiṣe ipinnu ti awọn ọna ṣiṣe tabi awọn ajo ti o wa ni o dara ni imọran, ṣugbọn bẹ bẹ ni iṣe. Lílóye bí wọ́n ṣe ń ṣèpinnu nínú ètò àjọ ńlá kò rọrùn. Paapa ti o ba jẹ ilana ṣiṣe ipinnu deede, ko ṣe afihan bi awọn eniyan ṣe n ṣe ajọṣepọ gangan, ati pe awọn tikarawọn nigbagbogbo ko ni ọgbọn, ọna ṣiṣe eto lati ṣe awọn ipinnu wọn. Bi ẹlẹgbẹ mi ti sọ Vijay Pande, eniyan ni o wa tun dudu apoti.

Mu ẹgbẹrun eniyan ni ọpọlọpọ awọn ile-iṣẹ agbekọja ati awọn ile-iṣẹ, ati pe iṣoro naa di paapaa eka sii. A mọ lẹhin otitọ pe ọkọ oju-omi Space ti pinnu lati yapa ni ipadabọ, ati pe awọn ẹni-kọọkan laarin NASA ni alaye ti o fun wọn ni idi lati ro pe ohun buburu le ṣẹlẹ, ṣugbọn eto naa. gbogbogbo Emi ko mọ eyi. NASA paapaa lọ nipasẹ iṣayẹwo iru kan lẹhin ti o padanu ọkọ oju-omi iṣaaju rẹ, ati pe sibẹsibẹ o padanu ọkan miiran fun idi ti o jọra pupọ. O rọrun lati jiyan pe awọn ajo ati awọn eniyan tẹle awọn ofin ti o han gbangba, awọn ilana ọgbọn ti o le ṣe idanwo, loye, ati yipada — ṣugbọn iriri jẹri bibẹẹkọ. Eyi"Gosplan ká delusion».

Nigbagbogbo Mo ṣe afiwe ikẹkọ ẹrọ si awọn apoti isura data, paapaa awọn ibatan - imọ-ẹrọ ipilẹ tuntun ti o ti yipada awọn agbara ti imọ-ẹrọ kọnputa ati agbaye ti o wa ni ayika rẹ, eyiti o di apakan ti ohun gbogbo, eyiti a lo nigbagbogbo laisi mimọ. Awọn apoti isura infomesonu tun ni awọn iṣoro, ati pe wọn jẹ iru iseda: eto naa le ni itumọ lori awọn ero buburu tabi data buburu, ṣugbọn yoo nira lati ṣe akiyesi, ati pe awọn eniyan ti o lo eto naa yoo ṣe ohun ti o sọ fun wọn laisi beere awọn ibeere. Ọpọlọpọ awọn awada atijọ lo wa nipa awọn eniyan owo-ori ti o sọ orukọ rẹ ni aṣiṣe ni ẹẹkan, ati ni idaniloju wọn lati ṣatunṣe aṣiṣe naa nira pupọ ju yiyipada orukọ rẹ gangan. Awọn ọna pupọ lo wa lati ronu nipa eyi, ṣugbọn ko ṣe kedere eyiti o dara julọ: bi iṣoro imọ-ẹrọ ni SQL, tabi bi kokoro ninu itusilẹ Oracle, tabi bi ikuna ti awọn ile-iṣẹ ijọba? Bawo ni o ṣe ṣoro lati wa kokoro kan ninu ilana ti o ti yori si eto ko ni ẹya atunṣe typo? Njẹ eyi le ti rii ṣaaju ki awọn eniyan to bẹrẹ ẹdun?

Iṣoro yii jẹ apejuwe paapaa ni irọrun diẹ sii nipasẹ awọn itan nigbati awọn awakọ ba wakọ sinu awọn odo nitori data ti igba atijọ ninu olutọpa. O dara, awọn maapu nilo lati ni imudojuiwọn nigbagbogbo. Ṣugbọn melo ni TomTom jẹbi fun ọkọ ayọkẹlẹ rẹ ti a fẹ jade si okun?

Idi ti mo fi sọ eyi ni pe bẹẹni, aiṣedeede ẹkọ ẹrọ yoo ṣẹda awọn iṣoro. Ṣugbọn awọn iṣoro wọnyi yoo jẹ iru awọn ti a ti koju ni iṣaaju, ati pe wọn le ṣe akiyesi ati yanju (tabi rara) nipa bi a ti le ṣe ni iṣaaju. Nitorinaa, oju iṣẹlẹ kan ninu eyiti irẹjẹ AI fa ipalara ko ṣeeṣe lati ṣẹlẹ si awọn oniwadi agba ti n ṣiṣẹ ni ajọ nla kan. O ṣeese julọ, diẹ ninu awọn olugbaisese imọ-ẹrọ ti ko ṣe pataki tabi olutaja sọfitiwia yoo kọ nkan si awọn ẽkun wọn, ni lilo awọn paati orisun ṣiṣi, awọn ile-ikawe ati awọn irinṣẹ ti wọn ko loye. Ati pe alabara ti ko ni orire yoo ra gbolohun naa “imọran atọwọda” ninu apejuwe ọja ati, laisi beere eyikeyi ibeere, pin kaakiri si awọn oṣiṣẹ ti o san owo kekere, paṣẹ fun wọn lati ṣe ohun ti AI sọ. Eyi ni pato ohun ti o ṣẹlẹ pẹlu awọn apoti isura infomesonu. Eyi kii ṣe iṣoro oye atọwọda, tabi paapaa iṣoro sọfitiwia kan. Eyi ni ifosiwewe eniyan.

ipari

Ẹkọ ẹrọ le ṣe ohunkohun ti o le kọ aja kan - ṣugbọn iwọ ko le rii daju kini gangan ti o kọ aja naa.

Nigbagbogbo Mo lero bi ọrọ naa “imọran atọwọda” nikan gba ni ọna awọn ibaraẹnisọrọ bii eyi. Oro yii n funni ni iro eke pe a ṣẹda rẹ gangan - oye yii. Wipe a wa ni ọna wa si HAL9000 tabi Skynet - nkan ti o jẹ otitọ ni oye. Ṣugbọn rara. Iwọnyi jẹ awọn ẹrọ nikan, ati pe o jẹ deede diẹ sii lati ṣe afiwe wọn si, sọ, ẹrọ fifọ. O ṣe ifọṣọ dara julọ ju eniyan lọ, ṣugbọn ti o ba fi awopọ sinu rẹ dipo ifọṣọ, o... yoo fọ wọn. Awọn awopọ yoo paapaa di mimọ. Ṣugbọn eyi kii yoo jẹ ohun ti o nireti, ati pe eyi kii yoo ṣẹlẹ nitori eto naa ni awọn ikorira eyikeyi nipa awọn ounjẹ. Ẹrọ fifọ ko mọ kini awọn awopọ jẹ tabi kini awọn aṣọ jẹ - o jẹ apẹẹrẹ ti adaṣe, ni imọran ko yatọ si bii awọn ilana ṣe adaṣe ṣaaju.

Boya a n sọrọ nipa awọn ọkọ ayọkẹlẹ, awọn ọkọ ofurufu, tabi awọn apoti isura data, awọn ọna ṣiṣe wọnyi yoo jẹ mejeeji lagbara ati ni opin pupọ. Wọn yoo dale patapata lori bii eniyan ṣe lo awọn eto wọnyi, boya awọn ero wọn dara tabi buburu, ati iye ti wọn loye bi wọn ṣe n ṣiṣẹ.

Nitoribẹẹ, lati sọ pe “imọran atọwọda jẹ mathimatiki, nitorinaa ko le ni awọn aibikita” jẹ eke patapata. Ṣugbọn o jẹ eke bakanna lati sọ pe ẹkọ ẹrọ jẹ “koko-ọrọ ni iseda.” Ẹkọ ẹrọ n wa awọn ilana ni data, ati awọn ilana wo ni o da lori data naa, ati data da lori wa. Gẹgẹ bi ohun ti a ṣe pẹlu wọn. Ẹkọ ẹrọ ṣe diẹ ninu awọn nkan dara julọ ju ti a le lọ - ṣugbọn awọn aja, fun apẹẹrẹ, munadoko diẹ sii ju eniyan lọ ni wiwa awọn oogun, eyiti kii ṣe idi kan lati lo wọn bi ẹlẹri ati ṣe awọn idajọ ti o da lori ẹri wọn. Ati awọn aja, nipasẹ ọna, jẹ ijafafa pupọ ju eto ẹkọ ẹrọ eyikeyi lọ.

Gbigbe: Diana Letskaya.
Ṣatunkọ: Aleksey Ivanov.
Agbegbe: @PonchikNews.

orisun: www.habr.com