Mu Bias Artificial Intelligence

tl; dr:

• Bidh ionnsachadh inneal a’ coimhead airson pàtrain ann an dàta. Ach faodaidh inntleachd fuadain a bhith “claonach” - is e sin, lorg pàtrain a tha ceàrr. Mar eisimpleir, is dòcha gun toir siostam lorg aillse craiceann stèidhichte air dealbhan aire shònraichte do dhealbhan a chaidh a thogail ann an oifis dotair. Chan urrainn ionnsachadh inneal a thuigsinn: chan eil na h-algorithms aige a’ comharrachadh pàtrain ann an àireamhan a-mhàin, agus mura h-eil an dàta riochdachail, mar sin bidh toradh a ghiullachd. Agus faodaidh e a bhith duilich a leithid de bhiteagan a ghlacadh air sgàth fìor mheacanaig ionnsachadh innealan.
• Is e an raon duilgheadas as follaisiche agus as eagallach iomadachd daonna. Tha iomadh adhbhar ann airson gum faodadh dàta mu dhaoine oibeachdachd a chall eadhon aig ìre cruinneachaidh. Ach na bi a 'smaoineachadh gu bheil an duilgheadas seo a' toirt buaidh air daoine a-mhàin: tha na h-aon dhuilgheadasan ag èirigh nuair a thathar a 'feuchainn ri tuil a lorg ann an taigh-bathair no roth-uidheam gas a dh'fhàillig. Faodaidh cuid de shiostaman a bhith claon a dh’ ionnsaigh dath craiceann, bidh cuid eile claon a dh’ionnsaigh mothachairean Siemens.
• Chan eil duilgheadasan mar seo ùr do ionnsachadh innealan, agus tha iad fada bho bhith gun samhail dha. Tha barailean ceàrr air an dèanamh ann an structar iom-fhillte sam bith, agus tha e an-còmhnaidh duilich tuigsinn carson a chaidh co-dhùnadh sònraichte a dhèanamh. Feumaidh sinn cuir an-aghaidh seo ann an dòigh fharsaing: cruthaich innealan agus pròiseasan airson dearbhadh - agus ionnsaich luchd-cleachdaidh gus nach lean iad molaidhean AI gu dall. Bidh ionnsachadh innealan a’ dèanamh cuid de rudan tòrr nas fheàrr na as urrainn dhuinn - ach tha coin, mar eisimpleir, tòrr nas èifeachdaiche na daoine ann a bhith a’ lorg dhrogaichean, rud nach eil na adhbhar airson an cleachdadh mar fhianaisean agus breithneachaidhean a dhèanamh stèidhichte air an fhianais aca. Agus tha coin, leis an t-slighe, tòrr nas buige na siostam ionnsachaidh inneal sam bith.

Tha ionnsachadh innealan mar aon de na gluasadan teicneòlais bunaiteach as cudromaiche an-diugh. Is e seo aon de na prìomh dhòighean anns an atharraich teicneòlas an saoghal mun cuairt oirnn anns na deich bliadhna a tha romhainn. Tha cuid de thaobhan de na h-atharrachaidhean sin nan adhbhar dragh. Mar eisimpleir, a’ bhuaidh a dh’ fhaodadh a bhith aig ionnsachadh innealan air a’ mhargaidh obrach, no a chleachdadh airson adhbharan mì-bheusach (mar eisimpleir, le rèimean ùghdarrasach). Tha duilgheadas eile ann ris a bheil am post seo a’ dèiligeadh: claonadh inntleachd fuadain.

Chan e sgeulachd furasta a tha seo.

Faodaidh AI Google cait a lorg. Bha an naidheachd seo bho 2012 rudeigin sònraichte air ais an uairsin.

Dè a th’ ann an “AI Bias”?

Tha “dàta amh” an dà chuid na oxymoron agus na dhroch bheachd; feumaidh dàta a bhith air ullachadh gu math agus gu faiceallach. — Geoffrey Boker

An àiteigin ro 2013, gus siostam a dhèanamh a tha, can, ag aithneachadh cait ann an dealbhan, bha agad ri ceumannan loidsigeach a mhìneachadh. Mar a lorgas tu oiseanan ann an ìomhaigh, aithnich sùilean, mion-sgrùdadh inneach airson bian, cunnt spògan, agus mar sin air adhart. An uairsin cuir na pàirtean gu lèir còmhla agus faigh a-mach nach obraich e gu fìor. Gu math coltach ri each meacanaigeach - gu teòiridheach faodar a dhèanamh, ach ann an cleachdadh tha e ro iom-fhillte airson cunntas a thoirt air. Is e an toradh deireannach ceudan (no eadhon mìltean) de riaghailtean làmh-sgrìobhte. Agus chan e aon mhodail obrach.

Le teachd ionnsachadh innealan, sguir sinn a’ cleachdadh riaghailtean “làimhe” airson rud sònraichte aithneachadh. An àite sin, bidh sinn a’ gabhail mìle sampall de “seo”, X, mìle sampall de “eile”, Y, agus bidh an coimpiutair a’ togail modail stèidhichte air an anailis staitistigeil aca. Bidh sinn an uairsin a’ toirt beagan dàta sampall don mhodail seo agus bidh e a’ dearbhadh le beagan mionaideachd a bheil e a’ freagairt air aon de na seataichean. Bidh ionnsachadh inneal a’ gineadh modail bho dhàta seach bho dhuine ga sgrìobhadh. Tha na toraidhean drùidhteach, gu sònraichte ann an raon aithneachadh ìomhaigh is phàtranan, agus is e sin as coireach gu bheil an gnìomhachas teignigeach gu lèir a-nis a’ gluasad gu ionnsachadh innealan (ML).

Ach chan eil e cho sìmplidh sin. Anns an fhìor shaoghal, tha A, B, J, L, O, R, agus eadhon L anns na mìltean de eisimpleirean agad de X no Y cuideachd. Dh’ fhaodadh nach bi iad sin air an sgaoileadh gu cothromach, agus faodaidh cuid tachairt cho tric is gum pàigh an siostam barrachd aire dhaibh na do nithean anns a bheil ùidh agad.

Dè tha seo a’ ciallachadh ann an cleachdadh? Is e an eisimpleir as fheàrr leam nuair a tha siostaman aithneachaidh ìomhaighean seall air cnoc feòir agus abair, "caoraich". Tha e soilleir carson: tha a’ mhòr-chuid de na h-eisimpleirean de dhealbhan de “chaoraich” air an togail anns na cluaintean far a bheil iad a’ fuireach, agus anns na h-ìomhaighean sin bidh am feur a’ gabhail tòrr a bharrachd àite na na cluaintean beaga geal, agus is e am feur a tha an siostam a’ meas as cudromaiche. .

Tha eisimpleirean nas miosa ann. Aon o chionn ghoirid dreachd airson aillse craicinn a lorg ann an dealbhan. Thionndaidh e a-mach gum bi dermatologists gu tric a ’togail dhealbhan den riaghladair còmhla ri comharran aillse craiceann gus meud nan cumaidhean a chlàradh. Chan eil riaghladairean anns na dealbhan eisimpleir de chraiceann fallain. Airson siostam AI, tha riaghladairean mar sin (nas mionaidiche, na piogsail a tha sinn a’ mìneachadh mar “riaghladair”) air fàs mar aon de na h-eadar-dhealachaidhean eadar seataichean eisimpleirean, agus uaireannan nas cudromaiche na broth beag air a’ chraiceann. Mar sin bhiodh siostam a chaidh a chruthachadh gus aillse craiceann a chomharrachadh uaireannan ag aithneachadh riaghladairean na àite.

Is e am prìomh phuing an seo nach eil tuigse semantach aig an t-siostam air na tha e a’ coimhead. Bidh sinn a 'coimhead air seata de piogsail agus a' faicinn annta caora, craiceann no riaghladairean, ach chan eil anns an t-siostam ach loidhne àireamh. Chan fhaic i àite trì-thaobhach, chan fhaic i nithean, inneach, no caoraich. Tha i dìreach a’ faicinn pàtrain anns an dàta.

Is e an duilgheadas ann a bhith a’ lorg leithid de dhuilgheadasan gu bheil an lìonra neural (am modail a chruthaich an siostam ionnsachaidh inneal agad) air a dhèanamh suas de mhìltean de cheudan de mhìltean de nodan. Chan eil dòigh furasta air coimhead a-steach do mhodail agus faicinn mar a nì e co-dhùnadh. Le bhith a 'faighinn a leithid de dhòigh bhiodh sin a' ciallachadh gu bheil am pròiseas sìmplidh gu leòr airson cunntas a thoirt air na riaghailtean gu lèir le làimh, gun a bhith a 'cleachdadh ionnsachadh innealan. Tha dragh air daoine gu bheil ionnsachadh innealan air a thighinn gu bhith na bhogsa dubh. (Mìnichidh mi beagan nas fhaide air adhart carson a tha an coimeas seo fhathast cus.)

Is e seo, san fharsaingeachd, an duilgheadas a thaobh claon-bhreith ann an inntleachd fuadain no ionnsachadh innealan: faodaidh siostam airson pàtrain a lorg ann an dàta na pàtranan ceàrr a lorg, agus is dòcha nach mothaich thu e. Tha seo na fheart bunaiteach den teicneòlas, agus tha e follaiseach don h-uile duine a tha ag obair leis anns an acadamaidh agus aig companaidhean teignigeach mòra. Ach tha na builean aige iom-fhillte, agus cuideachd na fuasglaidhean a dh’ fhaodadh a bhith againn air na builean sin.

Bruidhnidh sinn mu na builean an toiseach.

Faodaidh AI, gu h-obann dhuinne, roghainn a dhèanamh a thaobh roinnean sònraichte de dhaoine, stèidhichte air àireamh mhòr de chomharran do-fhaicsinneach

Scenarios AI Bias

Nas follaisiche agus nas eagallach, faodaidh an duilgheadas seo nochdadh nuair a thig e gu iomadachd daonna. O chionn ghoirid bha fathann anngun do dh’ fheuch Amazon ri siostam ionnsachaidh inneal a thogail airson a’ chiad sgrìonadh de thagraichean obrach. Leis gu bheil barrachd fhireannaich am measg luchd-obrach Amazon, tha eisimpleirean de “fastadh soirbheachail” cuideachd nas trice fireannaich, agus bha barrachd fhireannaich ann an taghadh ath-thòiseachadh a mhol an siostam. Mhothaich Amazon seo agus cha do leig e a-mach an siostam gu cinneasachadh.

Is e an rud as cudromaiche san eisimpleir seo gun robhar ag aithris gu robh an siostam fàbharach dha tagraichean fireann, a dh’ aindeoin nach robh gnè air a shònrachadh air an ath-thòiseachadh. Chunnaic an siostam pàtrain eile ann an eisimpleirean de “math fastaidh”: mar eisimpleir, dh’ fhaodadh boireannaich faclan sònraichte a chleachdadh airson cunntas a thoirt air euchdan, no cur-seachadan sònraichte a bhith aca. Gu dearbh, cha robh fios aig an t-siostam dè a bh 'ann an "hocaidh", no cò na "daoine", no dè an "soirbheachas" a bh' ann - dìreach rinn e mion-sgrùdadh staitistigeil air an teacsa. Ach tha e coltach gum biodh na pàtrain a chunnaic i a’ dol gun mhothachadh le daoine, agus is dòcha gum biodh cuid dhiubh (mar eisimpleir, an fhìrinn gu bheil daoine de dhiofar ghnè a’ toirt cunntas air soirbheachas ann an dòigh eadar-dhealaichte) duilich dhuinn fhaicinn ged a choimheadas sinn orra.

Nas fhaide - nas miosa. Is dòcha nach bi siostam ionnsachaidh inneal a tha fìor mhath air aillse a lorg air craiceann bàn a’ coileanadh cho math air craiceann dorcha, no a chaochladh. Chan ann gu riatanach air sgàth claonadh, ach air sgàth is dòcha gu feum thu modal fa leth a thogail airson dath craiceann eadar-dhealaichte, a’ taghadh diofar fheartan. Chan eil siostaman ionnsachaidh innealan eadar-ghluasadach eadhon ann an raon cho cumhang ri aithneachadh ìomhaighean. Feumaidh tu an siostam tweak, uaireannan dìreach tro dheuchainn agus mearachd, gus deagh làimhseachadh fhaighinn air na feartan anns an dàta anns a bheil ùidh agad gus an ruig thu an cruinneas a tha thu ag iarraidh. Ach is dòcha nach toir thu an aire gu bheil an siostam neo-mhearachdach 98% den ùine le aon bhuidheann, agus dìreach 91% (eadhon nas cruinne na mion-sgrùdadh daonna) leis an fhear eile.

Gu ruige seo tha mi air eisimpleirean a chleachdadh sa mhòr-chuid co-cheangailte ri daoine agus am feartan. Tha an deasbad mun duilgheadas seo gu mòr ag amas air a’ chuspair seo. Ach tha e cudromach tuigsinn nach eil ann an claonadh a dh’ionnsaigh dhaoine ach pàirt den duilgheadas. Bidh sinn a’ cleachdadh ionnsachadh inneal airson tòrr rudan, agus bidh mearachd samplachaidh buntainneach dhaibh uile. Air an làimh eile, ma bhios tu ag obair le daoine, is dòcha nach eil an claonadh san dàta co-cheangailte riutha.

Gus seo a thuigsinn, tillidh sinn gu eisimpleir aillse craiceann agus beachdaich air trì cothroman beachd-bharail airson fàilligeadh san t-siostam.

1. Sgaoileadh ioma-ghnèitheach de dhaoine: àireamh neo-chothromach de dhealbhan de dhiofar tònaichean craiceann, a’ leantainn gu nithean ceàrr no àicheil mar thoradh air pigmentation.
2. Anns an dàta air a bheil an siostam air a thrèanadh tha feart a tha a’ nochdadh gu tric agus air a sgaoileadh gu heterogeneously nach eil co-cheangailte ri daoine agus aig nach eil luach breithneachaidh: riaghladair ann an dealbhan de aillse craiceann no feur ann an dealbhan de chaoraich. Anns a 'chùis seo, bidh an toradh eadar-dhealaichte ma lorgas an siostam piogsail ann an ìomhaigh rudeigin a tha sùil an duine ag aithneachadh mar "riaghladair".
3. Tha feart treas-phàrtaidh anns an dàta nach fhaic duine eadhon ged a choimheadas e air a shon.

Dè a tha e a’ ciallachadh? Tha fios againn a priori gum faodadh dàta a bhith a’ riochdachadh diofar bhuidhnean de dhaoine ann an dòigh eadar-dhealaichte, agus aig a’ char as lugha is urrainn dhuinn dealbhadh a bhith a’ coimhead airson eisgeachdan mar sin. Ann am faclan eile, tha adhbharan sòisealta gu leòr ann airson a bhith den bheachd gu bheil cuid de chlaonadh ann an dàta mu bhuidhnean dhaoine mu thràth. Ma choimheadas sinn air an dealbh leis an riaghladair, chì sinn an riaghladair seo - cha do dhìochuimhnich sinn e roimhe, le fios nach eil e gu diofar, agus a’ dìochuimhneachadh nach eil fios aig an t-siostam air dad.

Ach dè nam biodh na dealbhan agad de chraiceann mì-fhallain air an togail ann an oifis fo sholas gealbhruthach, agus do chraiceann fallain air a thoirt fo sholas flùraiseach? Dè ma tha, às deidh dhut crìoch a chuir air losgadh craiceann fallain, mus do loisg thu craiceann mì-fhallain, gun do dh’ ùraich thu an siostam obrachaidh air an fhòn agad, agus gun do dh’ atharraich Apple no Google an algorithm lughdachadh fuaim beagan? Chan urrainn dha duine mothachadh air seo, ge bith dè an ìre a tha e a’ coimhead airson feartan mar sin. Ach chì agus cleachdaidh an siostam inneal-cleachdaidh seo sa bhad. Chan eil fios aice càil.

Gu ruige seo tha sinn air bruidhinn mu cho-dhàimhean spùtach, ach dh’ fhaodadh e cuideachd a bhith gu bheil an dàta ceart agus gu bheil na toraidhean ceart, ach chan eil thu airson an cleachdadh airson adhbharan beusanta, laghail no riaghlaidh. Chan eil cuid de dh’ uachdranasan, mar eisimpleir, a’ leigeil le boireannaich lasachadh fhaighinn air an àrachas aca, ged a dh’ fhaodadh boireannaich a bhith nan draibhearan nas sàbhailte. Is urrainn dhuinn gu furasta smaoineachadh air siostam a bhiodh, nuair a bhios sinn a’ dèanamh anailis air dàta eachdraidheil, a’ sònrachadh feart cunnairt nas ìsle do ainmean boireann. Ceart gu leòr, leig dhuinn ainmean a thoirt air falbh bhon taghadh. Ach cuimhnich air eisimpleir Amazon: faodaidh an siostam gnè a dhearbhadh stèidhichte air factaran eile (ged nach eil fios aige dè a th’ ann an gnè, no eadhon dè a th’ ann an càr), agus chan fhaic thu seo gus an dèan an riaghlaiche mion-sgrùdadh ath-ghnìomhach air na cìsean a th’ agad. tairgse agus cosgaisean thèid càin ort.

Mu dheireadh, thathas gu tric a’ gabhail ris nach cleachd sinn siostaman mar seo ach airson pròiseactan anns a bheil daoine agus eadar-obrachadh sòisealta an sàs. Tha seo ceàrr. Ma nì thu roth-uidheaman gas, is dòcha gum bi thu airson ionnsachadh inneal a chuir an sàs anns an telemetry air a ghluasad le deichean no ceudan de luchd-mothachaidh air an toradh agad (claisneachd, bhidio, teòthachd, agus mothachairean sam bith eile a’ gineadh dàta a ghabhas atharrachadh gu furasta gus inneal a chruthachadh. modal ionnsachaidh). Gu beachd-bharail, dh’ fhaodadh tu a ràdh, “Seo dàta bho mhìle roth-uidheam a dh’ fhàilnich mus do dh’ fhàilnich iad, agus seo dàta bho mhìle roth-uidheam nach do dh’fhàillig. Tog modail gus innse dè an diofar a th’ eatorra.” Uill, a-nis smaoinich gu bheil mothachairean Siemens air an stàladh air 75% de dhroch roth-uidheaman, agus dìreach 12% de fheadhainn math (chan eil ceangal sam bith ri fàilligidhean). Togaidh an siostam modail gus rothan-uidheam a lorg le mothachairean Siemens. Oich!

Dealbh - Moritz Hardt, UC Berkeley

A’ riaghladh AI Bias

Dè as urrainn dhuinn a dhèanamh mu dheidhinn? Faodaidh tu dèiligeadh ris a’ chùis bho thrì ceàrnan:

1. Dian dòighean-obrach ann a bhith a’ cruinneachadh agus a’ stiùireadh dàta airson an siostam a thrèanadh.
2. Innealan teicnigeach airson mion-sgrùdadh agus breithneachadh air giùlan modail.
3. Trèan, oideachadh, agus bi faiceallach nuair a chuireas tu ionnsachadh innealan an sàs ann am bathar.

Tha fealla-dhà ann an leabhar Molière “The Bourgeois in the Nobility”: chaidh innse do dhuine gu bheil litreachas air a roinn ann an rosg agus bàrdachd, agus bha e air leth toilichte faighinn a-mach gun robh e air a bhith a’ bruidhinn ann an rosg fad a bheatha, gun fhios aige. Is dòcha gur e seo mar a tha luchd-staitistig a’ faireachdainn an-diugh: gun a bhith ga thuigsinn, tha iad air an dreuchdan a choisrigeadh do inntleachd fuadain agus mearachd samplachaidh. Chan e duilgheadas ùr a th’ ann a bhith a’ coimhead airson mearachd samplachaidh agus a bhith draghail mu dheidhinn, feumaidh sinn a dhol faisg air fuasgladh eagraichte. Mar a chaidh ainmeachadh gu h-àrd, ann an cuid de chùisean tha e dha-rìribh nas fhasa seo a dhèanamh le bhith a 'sgrùdadh duilgheadasan co-cheangailte ri daoine dàta. Tha sinn a priori a’ gabhail ris gur dòcha gu bheil claon-bhreith againn a thaobh diofar bhuidhnean de dhaoine, ach tha e duilich dhuinn eadhon smaoineachadh air claon-bhreith mu luchd-mothachaidh Siemens.

Is e an rud a tha ùr mu dheidhinn seo, gu dearbh, nach bi daoine a’ dèanamh mion-sgrùdadh staitistigeil gu dìreach tuilleadh. Tha e air a dhèanamh le innealan a chruthaicheas modalan mòra, iom-fhillte a tha doirbh a thuigsinn. Is e cùis follaiseachd aon de na prìomh thaobhan de dhuilgheadas claon-bhreith. Tha eagal oirnn nach eil an siostam dìreach claon, ach nach eil dòigh ann air a chlaonadh a lorg, agus gu bheil ionnsachadh innealan eadar-dhealaichte bho dhòighean fèin-ghluasaid eile, a thathar an dùil a bhith ann an ceumannan loidsigeach soilleir a ghabhas deuchainn.

Tha dà dhuilgheadas an seo. Is dòcha gun urrainn dhuinn fhathast sgrùdadh de sheòrsa air choreigin a dhèanamh air siostaman ionnsachaidh innealan. Agus chan eil e nas fhasa siostam sam bith eile a sgrùdadh.

An toiseach, is e aon de na stiùiridhean airson sgrùdadh ùr-nodha ann an raon ionnsachadh innealan a bhith a’ lorg dhòighean gus gnìomhachd cudromach siostaman ionnsachaidh inneal a chomharrachadh. Thuirt sin, tha ionnsachadh innealan (mar a tha e an-dràsta) na raon saidheans gu tur ùr a tha ag atharrachadh gu sgiobalta, agus mar sin na bi a’ smaoineachadh nach urrainn rudan a tha do-dhèanta an-diugh a bhith fìor a dh'aithghearr. Pròiseact OpenAI - eisimpleir inntinneach de seo.

San dàrna h-àite, tha am beachd gun urrainn dhut pròiseas co-dhùnaidh nan siostaman no na buidhnean a th’ ann mar-thà a dhearbhadh agus a thuigsinn math ann an teòiridh, ach mar sin ann an cleachdadh. Chan eil e furasta tuigsinn mar a tha co-dhùnaidhean gan dèanamh ann am buidheann mhòr. Eadhon ged a tha pròiseas co-dhùnaidh foirmeil ann, chan eil e a’ nochdadh mar a bhios daoine ag eadar-obrachadh gu fìrinneach, agus gu tric chan eil dòigh-obrach loidsigeach, rianail aca airson an co-dhùnaidhean a dhèanamh. Mar a thuirt mo cho-obraiche Vijay Pande, tha daoine cuideachd nam bogsaichean dubha.

Gabh mìle neach ann an grunn chompanaidhean agus ionadan a tha a ’dol thairis air, agus bidh an duilgheadas a’ fàs eadhon nas iom-fhillte. Tha fios againn às deidh sin gun robh an Space Shuttle gu bhith a’ briseadh suas nuair a thilleas e, agus bha fiosrachadh aig daoine fa leth taobh a-staigh NASA a thug adhbhar dhaibh smaoineachadh gum faodadh rudeigin dona tachairt, ach bha an siostam san fharsaingeachd Cha robh fios agam air seo. Tha NASA eadhon dìreach air a dhol seachad air sgrùdadh coltach ris às deidh dha an shuttle a bh ’ann roimhe a chall, ach a dh’ aindeoin sin chaill e fear eile airson adhbhar glè choltach. Tha e furasta argamaid a dhèanamh gu bheil buidhnean agus daoine a’ leantainn riaghailtean soilleir, loidsigeach a ghabhas deuchainn, tuigsinn agus atharrachadh - ach tha eòlas a’ dearbhadh a chaochladh. Tha seo"Mealladh Gosplan".

Bidh mi gu tric a’ dèanamh coimeas eadar ionnsachadh innealan agus stòran-dàta, gu sònraichte feadhainn dàimheil - teicneòlas bunaiteach ùr a tha air comasan saidheans coimpiutaireachd agus an saoghal mun cuairt atharrachadh, a tha air a thighinn gu bhith na phàirt de gach nì, a bhios sinn a’ cleachdadh an-còmhnaidh gun a bhith ga thoirt gu buil. Tha duilgheadasan aig stòran-dàta cuideachd, agus tha iad den aon seòrsa: faodaidh an siostam a bhith air a thogail air droch bharailean no droch dhàta, ach bidh e duilich a thoirt fa-near, agus nì na daoine a chleachdas an siostam na tha e ag innse dhaibh gun a bhith a’ faighneachd cheistean. Tha tòrr sheann fhealla-dhà ann mu dhaoine cìse a bha uair a’ litreachadh d’ ainm ceàrr, agus tha e fada nas duilghe toirt a chreidsinn orra am mearachd a cheartachadh na bhith ag atharrachadh d’ ainm. Tha iomadh dòigh ann airson smaoineachadh air seo, ach chan eil e soilleir dè a tha nas fheàrr: mar dhuilgheadas teignigeach ann an SQL, no mar bhiast ann am brath Oracle, no mar fhàilligeadh ionadan biùrocratach? Dè cho duilich ‘s a tha e bug a lorg ann am pròiseas a dh’ adhbhraich nach eil feart ceartachaidh typo aig an t-siostam? Am b’ urrainn seo a bhith air a thuigsinn mus do thòisich daoine a’ gearan?

Tha an duilgheadas seo air a nochdadh eadhon nas sìmplidh le sgeulachdan nuair a bhios draibhearan a’ draibheadh ​​a-steach gu aibhnichean air sgàth seann dàta anns an t-seòladair. Ceart gu leòr, feumar mapaichean ùrachadh gu cunbhalach. Ach dè an ìre as coireach ri TomTom airson do chàr a shèideadh a-mach gu muir?

Is e an adhbhar a tha mi ag ràdh seo gu bheil, cruthaichidh claonadh ionnsachadh innealan duilgheadasan. Ach bidh na trioblaidean sin coltach ris an fheadhainn a bha romhainn san àm a dh'fhalbh, agus faodar an toirt fa-near agus am fuasgladh (no nach eil) cho math 's a b' urrainn dhuinn san àm a dh'fhalbh. Mar sin, chan eil coltas ann gun tachair suidheachadh far a bheil claonadh AI ag adhbhrachadh cron do àrd luchd-rannsachaidh a tha ag obair ann am buidheann mhòr. Nas coltaiche, bidh cuid de chunnradair teicneòlais neo-chudromach no neach-reic bathar-bog a 'sgrìobhadh rudeigin air an glùinean, a' cleachdadh co-phàirtean fosgailte, leabharlannan agus innealan nach eil iad a 'tuigsinn. Agus ceannaichidh an neach-dèiligidh mì-shealbhach an abairt “fiosrachadh fuadain” ann an tuairisgeul an toraidh agus, gun a bhith a’ faighneachd ceist sam bith, ga sgaoileadh chun luchd-obrach aige le tuarastal ìosal, ag òrdachadh dhaibh na tha an AI ag ràdh a dhèanamh. Is e seo dìreach a thachair le stòran-dàta. Chan e duilgheadas inntleachd fuadain a tha seo, no eadhon duilgheadas bathar-bog. Is e seo am bàillidh daonna.

co-dhùnadh

Faodaidh ionnsachadh inneal rud sam bith as urrainn dhut cù a theagasg - ach chan urrainn dhut a bhith cinnteach gu cinnteach dè dìreach a theagaisg thu don chù.

Gu tric bidh mi a’ faireachdainn mar nach eil an abairt “fiosrachadh fuadain” a’ faighinn a-steach ach ann an còmhraidhean mar seo. Tha an teirm seo a’ toirt a’ bheachd bhreugach gun do chruthaich sinn e dha-rìribh - an fhiosrachadh seo. Gu bheil sinn air ar slighe gu HAL9000 no Skynet - rud a tha dha-rìribh a ’tuigsinn. Ach chan eil. Is e dìreach innealan a tha seo, agus tha e tòrr nas cruinne an coimeas ri, can, inneal nigheadaireachd. Bidh i a’ dèanamh nigheadaireachd tòrr nas fheàrr na duine, ach ma chuireas tu soithichean innte an àite nigheadaireachd, nighidh i iad. Bidh na soithichean eadhon glan. Ach chan e seo a bhiodh dùil agad, agus cha tachair seo leis gu bheil claon-bhreith sam bith aig an t-siostam a thaobh soithichean. Chan eil fios aig an inneal nigheadaireachd dè a th ’ann an soithichean no dè a th’ ann an aodach - chan eil ann ach eisimpleir de fèin-ghluasad, gu bun-bheachdail chan eil e eadar-dhealaichte bho mar a bha pròiseasan fèin-ghluasadach roimhe seo.

Ge bith co-dhiù a tha sinn a 'bruidhinn mu chàraichean, plèanaichean, no stòran-dàta, bidh na siostaman sin gu math cumhachdach agus glè chuingealaichte. Bidh iad gu tur an urra ri mar a chleachdas daoine na siostaman sin, ge bith a bheil na rùintean aca math no dona, agus dè an ìre gu bheil iad a’ tuigsinn mar a tha iad ag obair.

Mar sin, tha e gu tur meallta a ràdh gur e “fiosrachadh fuadain matamataig, agus mar sin chan urrainn claonadh a bhith aige”. Ach tha e a cheart cho ceàrr a ràdh gu bheil ionnsachadh innealan “cuspaireil ann an nàdar.” Bidh ionnsachadh inneal a’ lorg phàtranan ann an dàta, agus tha na pàtrain a lorgas e an urra ris an dàta, agus tha an dàta an urra rinn. Dìreach mar a nì sinn leotha. Bidh ionnsachadh innealan a’ dèanamh cuid de rudan tòrr nas fheàrr na as urrainn dhuinn - ach tha coin, mar eisimpleir, tòrr nas èifeachdaiche na daoine ann a bhith a’ lorg dhrogaichean, rud nach eil na adhbhar airson an cleachdadh mar fhianaisean agus breithneachaidhean a dhèanamh stèidhichte air an fhianais aca. Agus tha coin, leis an t-slighe, tòrr nas buige na siostam ionnsachaidh inneal sam bith.

Eadar-theangachadh: Diana Letskaya.
Deasachadh: Alexei Ivanov.
Coimhearsnachd: @PonchikNews.

Source: www.habr.com