tl; dr:
- Mae dysgu peirianyddol yn edrych am batrymau mewn data. Ond gall deallusrwydd artiffisial fod yn “rhagfarnllyd” - hynny yw, dod o hyd i batrymau sy'n anghywir. Er enghraifft, gallai system canfod canser y croen sy'n seiliedig ar luniau roi sylw arbennig i ddelweddau a dynnwyd mewn swyddfa meddyg. Ni all dysgu peiriant i ddeall: dim ond patrymau mewn niferoedd y mae ei algorithmau'n eu nodi, ac os nad yw'r data'n gynrychioliadol, felly hefyd y bydd canlyniad ei brosesu. A gall fod yn anodd dal bygiau o'r fath oherwydd union fecanwaith dysgu peirianyddol.
- Y maes problem mwyaf amlwg a brawychus yw amrywiaeth ddynol. Mae yna lawer o resymau pam y gall data am bobl golli gwrthrychedd hyd yn oed yn y cam casglu. Ond peidiwch â meddwl bod y broblem hon yn effeithio ar bobl yn unig: mae'r un anawsterau'n codi wrth geisio canfod llifogydd mewn warws neu dyrbin nwy wedi methu. Efallai y bydd rhai systemau yn gogwyddo tuag at liw croen, bydd eraill yn gogwyddo tuag at synwyryddion Siemens.
- Nid yw problemau o'r fath yn newydd i ddysgu peiriannau, ac maent ymhell o fod yn unigryw iddynt. Gwneir rhagdybiaethau anghywir mewn unrhyw strwythur cymhleth, ac mae bob amser yn anodd deall pam y gwnaed penderfyniad penodol. Mae angen i ni frwydro yn erbyn hyn mewn ffordd gynhwysfawr: creu offer a phrosesau ar gyfer gwirio - ac addysgu defnyddwyr fel nad ydyn nhw'n dilyn argymhellion AI yn ddall. Mae dysgu peirianyddol yn gwneud rhai pethau’n llawer gwell nag y gallwn – ond mae cŵn, er enghraifft, yn llawer mwy effeithiol na bodau dynol wrth ganfod cyffuriau, nad yw’n rheswm i’w defnyddio fel tystion a llunio barn ar sail eu tystiolaeth. Ac mae cŵn, gyda llaw, yn llawer callach nag unrhyw system dysgu peiriannau.
Dysgu peiriant yw un o'r tueddiadau technoleg sylfaenol pwysicaf heddiw. Dyma un o’r prif ffyrdd y bydd technoleg yn newid y byd o’n cwmpas yn y degawd nesaf. Mae rhai agweddau ar y newidiadau hyn yn peri pryder. Er enghraifft, effaith bosibl dysgu peirianyddol ar y farchnad lafur, neu ei ddefnyddio at ddibenion anfoesegol (er enghraifft, gan gyfundrefnau awdurdodaidd). Mae problem arall y mae'r post hwn yn mynd i'r afael â hi: rhagfarn deallusrwydd artiffisial.
Nid yw hon yn stori hawdd.
Gall AI Google ddod o hyd i gathod. Roedd y newyddion yma o 2012 yn rhywbeth arbennig bryd hynny.
Beth yw “AI Bias”?
Mae “data crai” yn ocsimoron ac yn syniad drwg; rhaid paratoi data yn dda ac yn ofalus. —Geoffrey Boker
Rhywle cyn 2013, er mwyn gwneud system sydd, dyweder, yn adnabod cathod mewn ffotograffau, roedd yn rhaid ichi ddisgrifio camau rhesymegol. Sut i ddod o hyd i gorneli mewn delwedd, adnabod llygaid, dadansoddi gweadau ar gyfer ffwr, cyfrif pawennau, ac ati. Yna rhowch yr holl gydrannau at ei gilydd a darganfod nad yw'n gweithio mewn gwirionedd. Yn debyg iawn i geffyl mecanyddol - yn ddamcaniaethol gellir ei wneud, ond yn ymarferol mae'n rhy gymhleth i'w ddisgrifio. Y canlyniad terfynol yw cannoedd (neu hyd yn oed filoedd) o reolau mewn llawysgrifen. Ac nid un model gweithiol.
Gyda dyfodiad dysgu peirianyddol, rhoesom y gorau i ddefnyddio rheolau “â llaw” ar gyfer adnabod gwrthrych penodol. Yn lle hynny, rydym yn cymryd mil o samplau o “hwn”, X, mil o samplau o “arall”, Y, ac yn cael y cyfrifiadur i adeiladu model yn seiliedig ar eu dadansoddiad ystadegol. Yna rydyn ni'n rhoi rhywfaint o ddata sampl i'r model hwn ac mae'n penderfynu'n fanwl a yw'n cyd-fynd ag un o'r setiau. Mae dysgu peirianyddol yn cynhyrchu model o ddata yn hytrach nag o ddyn yn ei ysgrifennu. Mae'r canlyniadau'n drawiadol, yn enwedig ym maes adnabod delwedd a phatrwm, a dyna pam mae'r diwydiant technoleg cyfan bellach yn symud i ddysgu peiriannau (ML).
Ond nid yw mor syml â hynny. Yn y byd go iawn, mae eich miloedd o enghreifftiau o X neu Y hefyd yn cynnwys A, B, J, L, O, R, a hyd yn oed L. Efallai na fydd y rhain wedi'u dosbarthu'n gyfartal, a gall rhai ddigwydd mor aml y bydd y system yn talu mwy sylw iddyn nhw nag i wrthrychau sydd o ddiddordeb i chi.
Beth mae hyn yn ei olygu yn ymarferol? Fy hoff enghraifft yw systemau adnabod delweddau . Mae'n amlwg pam: mae'r rhan fwyaf o'r ffotograffau enghreifftiol o "ddefaid" yn cael eu tynnu yn y dolydd lle maen nhw'n byw, ac yn y delweddau hyn mae'r glaswellt yn cymryd llawer mwy o le na'r fflwffiau gwyn bach, a'r glaswellt y mae'r system yn ei ystyried yn bwysicaf .
Mae yna enghreifftiau mwy difrifol. Un diweddar ar gyfer canfod canser y croen mewn ffotograffau. Mae'n troi allan bod dermatolegwyr yn aml yn tynnu lluniau o'r pren mesur ynghyd ag amlygiad o ganser y croen i gofnodi maint y ffurfiannau. Nid oes unrhyw bren mesur yn y ffotograffau enghreifftiol o groen iach. Ar gyfer system AI, mae prennau mesur o'r fath (yn fwy manwl gywir, y picseli rydyn ni'n eu diffinio fel “pren mesur”) wedi dod yn un o'r gwahaniaethau rhwng setiau o enghreifftiau, ac weithiau'n bwysicach na brech fach ar y croen. Felly roedd system a grëwyd i nodi canser y croen weithiau'n cydnabod prennau mesur yn lle hynny.
Y pwynt allweddol yma yw nad oes gan y system unrhyw ddealltwriaeth semantig o'r hyn y mae'n edrych arno. Edrychwn ar set o bicseli a gweld ynddynt ddafad, croen neu bren mesur, ond dim ond llinell rif yw'r system. Nid yw'n gweld gofod tri dimensiwn, nid yw'n gweld gwrthrychau, gweadau, na defaid. Yn syml, mae hi'n gweld patrymau yn y data.
Yr anhawster wrth wneud diagnosis o broblemau o'r fath yw bod y rhwydwaith niwral (y model a gynhyrchir gan eich system dysgu peiriant) yn cynnwys miloedd ar gannoedd o filoedd o nodau. Nid oes ffordd hawdd o edrych i mewn i fodel a gweld sut mae'n gwneud penderfyniad. Byddai cael y fath fodd yn golygu bod y broses yn ddigon syml i ddisgrifio'r holl reolau â llaw, heb ddefnyddio dysgu peiriant. Mae pobl yn poeni bod dysgu peirianyddol wedi dod yn dipyn o focs du. (Byddaf yn esbonio ychydig yn ddiweddarach pam mae'r gymhariaeth hon yn dal yn ormod.)
Dyma, yn gyffredinol, broblem rhagfarn mewn deallusrwydd artiffisial neu ddysgu peirianyddol: gall system ar gyfer canfod patrymau mewn data ddod o hyd i'r patrymau anghywir, ac efallai na fyddwch yn sylwi arno. Mae hyn yn nodwedd sylfaenol o'r dechnoleg, ac mae'n amlwg i bawb sy'n gweithio gyda hi yn y byd academaidd ac mewn cwmnïau technoleg mawr. Ond mae ei ganlyniadau yn gymhleth, ac felly hefyd ein hatebion posibl i'r canlyniadau hynny.
Gadewch i ni siarad am y canlyniadau yn gyntaf.
Gall AI, yn ymhlyg i ni, wneud dewis o blaid rhai categorïau o bobl, yn seiliedig ar nifer fawr o signalau anganfyddadwy
Senarios Tuedd AI
Yn fwyaf amlwg ac yn frawychus, gall y broblem hon amlygu ei hun pan ddaw i amrywiaeth ddynol. Yn ddiweddar bod Amazon wedi ceisio adeiladu system dysgu peirianyddol ar gyfer sgrinio cychwynnol ymgeiswyr swyddi. Gan fod mwy o ddynion ymhlith gweithwyr Amazon, mae enghreifftiau o “gyflogi llwyddiannus” hefyd yn ddynion yn amlach, ac roedd mwy o ddynion yn y dewis o ailddechrau a awgrymwyd gan y system. Sylwodd Amazon ar hyn ac ni ryddhaodd y system i gynhyrchu.
Y peth pwysicaf yn yr enghraifft hon yw y dywedwyd bod y system yn ffafrio ymgeiswyr gwrywaidd, er gwaethaf y ffaith nad oedd rhyw wedi'i nodi ar yr ailddechrau. Gwelodd y system batrymau eraill mewn enghreifftiau o "gyflogi da": er enghraifft, gallai merched ddefnyddio geiriau arbennig i ddisgrifio cyflawniadau, neu fod â hobïau arbennig. Wrth gwrs, doedd y system ddim yn gwybod beth oedd “hoci”, na phwy oedd “pobl”, na beth oedd “llwyddiant” – yn syml iawn, fe wnaeth ddadansoddiad ystadegol o’r testun. Ond mae'n debyg y byddai'r patrymau a welodd hi'n mynd heb i fodau dynol sylwi arnynt, ac mae'n debyg y byddai rhai ohonynt (er enghraifft, y ffaith bod pobl o wahanol rywiau yn disgrifio llwyddiant yn wahanol) yn anodd i ni eu gweld hyd yn oed pe baem yn edrych arnynt.
Ymhellach - yn waeth. Mae'n bosibl na fydd system dysgu peirianyddol sy'n dda iawn am ddod o hyd i ganser ar groen golau yn perfformio cystal ar groen tywyll, neu i'r gwrthwyneb. Nid o reidrwydd oherwydd rhagfarn, ond oherwydd mae'n debyg bod angen i chi adeiladu model ar wahân ar gyfer lliw croen gwahanol, gan ddewis gwahanol nodweddion. Nid yw systemau dysgu peiriant yn gyfnewidiol hyd yn oed mewn maes mor gyfyng ag adnabod delweddau. Mae angen i chi addasu'r system, weithiau dim ond trwy brofi a methu, i gael gafael dda ar y nodweddion yn y data y mae gennych ddiddordeb ynddo nes i chi gyflawni'r cywirdeb rydych chi ei eisiau. Ond efallai nad ydych chi'n sylwi bod y system yn gywir 98% o'r amser gydag un grŵp, a dim ond 91% (hyd yn oed yn fwy cywir na dadansoddiad dynol) gyda'r llall.
Hyd yn hyn rwyf wedi defnyddio enghreifftiau yn ymwneud â phobl a'u nodweddion yn bennaf. Mae'r drafodaeth am y broblem hon yn canolbwyntio'n bennaf ar y pwnc hwn. Ond mae'n bwysig deall mai dim ond rhan o'r broblem yw gogwydd tuag at bobl. Byddwn yn defnyddio dysgu peirianyddol ar gyfer llawer o bethau, a bydd gwallau samplu yn berthnasol i bob un ohonynt. Ar y llaw arall, os ydych yn gweithio gyda phobl, efallai na fydd y rhagfarn yn y data yn gysylltiedig â nhw.
I ddeall hyn, gadewch inni ddychwelyd at yr enghraifft o ganser y croen ac ystyried tri phosibilrwydd damcaniaethol ar gyfer methiant system.
- Dosbarthiad heterogenaidd o bobl: nifer anghytbwys o ffotograffau o wahanol arlliwiau croen, sy'n arwain at bethau cadarnhaol ffug neu negyddol ffug oherwydd pigmentiad.
- Mae’r data y mae’r system wedi’i hyfforddi arno’n cynnwys nodwedd sy’n digwydd yn aml ac sydd wedi’i dosbarthu’n heterogenaidd nad yw’n gysylltiedig â phobl ac nad oes ganddi unrhyw werth diagnostig: pren mesur mewn ffotograffau o ganser y croen neu laswellt mewn ffotograffau o ddefaid. Yn yr achos hwn, bydd y canlyniad yn wahanol os yw'r system yn dod o hyd i bicseli yn y ddelwedd o rywbeth y mae'r llygad dynol yn ei nodi fel “pren mesur”.
- Mae’r data’n cynnwys nodwedd trydydd parti na all person ei gweld hyd yn oed os yw’n chwilio amdani.
Beth mae'n ei olygu? Gwyddom a priori y gallai data gynrychioli gwahanol grwpiau o bobl yn wahanol, ac o leiaf gallwn gynllunio i chwilio am eithriadau o'r fath. Mewn geiriau eraill, mae digon o resymau cymdeithasol i dybio bod data am grwpiau o bobl eisoes yn cynnwys rhywfaint o ragfarn. Os edrychwn ar y llun gyda'r pren mesur, fe welwn y pren mesur hwn - fe wnaethom ei anwybyddu o'r blaen, gan wybod nad oes ots, ac anghofio nad yw'r system yn gwybod dim.
Ond beth pe bai'ch holl luniau o groen afiach yn cael eu tynnu mewn swyddfa o dan olau gwynias, a'ch croen iach yn cael ei dynnu o dan olau fflwroleuol? Beth os, ar ôl i chi orffen saethu croen iach, cyn saethu croen afiach, eich bod wedi diweddaru'r system weithredu ar eich ffôn, a bod Apple neu Google wedi newid yr algorithm lleihau sŵn ychydig? Ni all person sylwi ar hyn, ni waeth faint y mae'n edrych am nodweddion o'r fath. Ond bydd y system defnyddio peiriant yn gweld ac yn defnyddio hyn ar unwaith. Nid yw hi'n gwybod dim.
Hyd yn hyn rydym wedi siarad am gydberthnasau annilys, ond gallai hefyd fod y data'n gywir a'r canlyniadau'n gywir, ond nid ydych am eu defnyddio am resymau moesegol, cyfreithiol neu reoli. Nid yw rhai awdurdodaethau, er enghraifft, yn caniatáu i fenywod gael gostyngiad ar eu hyswiriant, er y gallai menywod fod yn yrwyr mwy diogel. Gallwn yn hawdd ddychmygu system a fyddai, wrth ddadansoddi data hanesyddol, yn pennu ffactor risg is i enwau benywaidd. Iawn, gadewch i ni dynnu enwau o'r dewis. Ond cofiwch enghraifft Amazon: gall y system bennu rhyw yn seiliedig ar ffactorau eraill (er nad yw'n gwybod beth yw rhywedd, neu hyd yn oed beth yw car), ac ni fyddwch yn sylwi ar hyn nes bod y rheolydd yn dadansoddi'r tariffau yn ôl-weithredol. cynnig a thaliadau byddwch yn cael dirwy.
Yn olaf, tybir yn aml mai dim ond ar gyfer prosiectau sy'n cynnwys pobl a rhyngweithiadau cymdeithasol y byddwn yn defnyddio systemau o'r fath. Mae hyn yn anghywir. Os ydych chi'n gwneud tyrbinau nwy, mae'n debyg y byddwch chi eisiau cymhwyso dysgu peiriant i'r telemetreg a drosglwyddir gan ddegau neu gannoedd o synwyryddion ar eich cynnyrch (sain, fideo, tymheredd, ac unrhyw synwyryddion eraill yn cynhyrchu data y gellir ei addasu'n hawdd iawn i greu peiriant model dysgu ). Yn ddamcaniaethol, fe allech chi ddweud, “Dyma ddata o fil o dyrbinau a fethodd cyn iddynt fethu, a dyma ddata o fil o dyrbinau na fethodd. Adeiladwch fodel i ddweud beth yw’r gwahaniaeth rhyngddynt.” Wel, nawr dychmygwch fod synwyryddion Siemens yn cael eu gosod ar 75% o dyrbinau drwg, a dim ond 12% o rai da (nid oes unrhyw gysylltiad â methiannau). Bydd y system yn adeiladu model i ddod o hyd i dyrbinau gyda synwyryddion Siemens. Wps!
Llun — Moritz Hardt, UC Berkeley
Rheoli AI Bias
Beth allwn ni ei wneud amdano? Gallwch fynd at y mater o dair ongl:
- Trylwyredd methodolegol wrth gasglu a rheoli data ar gyfer hyfforddi'r system.
- Offer technegol ar gyfer dadansoddi a gwneud diagnosis o ymddygiad model.
- Hyfforddwch, addysgwch, a byddwch yn ofalus wrth roi dysgu peirianyddol ar waith mewn cynhyrchion.
Mae jôc yn llyfr Molière “The Bourgeois in the Nobility”: dywedwyd wrth un dyn fod llenyddiaeth wedi’i rhannu’n rhyddiaith a barddoniaeth, ac roedd yn falch iawn o ddarganfod ei fod wedi bod yn siarad mewn rhyddiaith ar hyd ei oes, heb yn wybod iddo. Mae'n debyg mai dyma sut mae ystadegwyr yn teimlo heddiw: heb sylweddoli hynny, maent wedi ymroi eu gyrfaoedd i ddeallusrwydd artiffisial a chamgymeriadau samplu. Nid yw chwilio am wall samplu a phoeni amdano yn broblem newydd, y cyfan sydd angen i ni ei wneud yw mynd at ei ateb yn systematig. Fel y soniwyd uchod, mewn rhai achosion mae'n haws gwneud hyn mewn gwirionedd trwy astudio problemau sy'n ymwneud â data pobl. Rydyn ni a priori yn rhagdybio efallai bod gennym ni ragfarnau ynghylch gwahanol grwpiau o bobl, ond mae'n anodd i ni hyd yn oed ddychmygu rhagfarn am synwyryddion Siemens.
Yr hyn sy'n newydd am hyn i gyd, wrth gwrs, yw nad yw pobl bellach yn gwneud dadansoddiad ystadegol yn uniongyrchol. Fe'i cynhelir gan beiriannau sy'n creu modelau mawr, cymhleth sy'n anodd eu deall. Mater tryloywder yw un o'r prif agweddau ar y broblem o ragfarn. Ofnwn nad yw’r system yn unochrog yn unig, ond nad oes unrhyw ffordd i ganfod ei thuedd, a bod dysgu peirianyddol yn wahanol i fathau eraill o awtomeiddio, sydd i fod i gynnwys camau rhesymegol clir y gellir eu profi.
Mae dwy broblem yma. Mae'n bosibl y byddwn yn dal i allu cynnal rhyw fath o archwiliad o systemau dysgu peirianyddol. Ac nid yw archwilio unrhyw system arall yn haws mewn gwirionedd.
Yn gyntaf, un o gyfarwyddiadau ymchwil modern ym maes dysgu peiriannau yw chwilio am ddulliau i nodi swyddogaethau pwysig systemau dysgu peiriannau. Wedi dweud hynny, mae dysgu peirianyddol (yn ei gyflwr presennol) yn faes gwyddoniaeth hollol newydd sy'n newid yn gyflym, felly peidiwch â meddwl na all pethau sy'n amhosibl heddiw ddod yn eithaf real yn fuan. Prosiect - enghraifft ddiddorol o hyn.
Yn ail, mae'r syniad y gallwch chi brofi a deall proses benderfynu systemau neu sefydliadau sy'n bodoli eisoes yn dda mewn theori, ond felly yn ymarferol. Nid yw'n hawdd deall sut y gwneir penderfyniadau mewn sefydliad mawr. Hyd yn oed os oes proses ffurfiol o wneud penderfyniadau, nid yw’n adlewyrchu sut mae pobl yn rhyngweithio mewn gwirionedd, ac yn aml nid oes ganddynt hwy eu hunain ddull rhesymegol, systematig o wneud eu penderfyniadau. Fel y dywedodd fy nghydweithiwr , mae pobl hefyd yn focsys du.
Cymerwch fil o bobl mewn sawl cwmni a sefydliad sy'n gorgyffwrdd, ac mae'r broblem yn dod yn fwy cymhleth fyth. Gwyddom ar ôl y ffaith bod y Wennol Ofod i fod i dorri i fyny ar ôl dychwelyd, ac roedd gan unigolion o fewn NASA wybodaeth a roddodd reswm iddynt feddwl y gallai rhywbeth drwg ddigwydd, ond mae'r system yn gyffredinol Doeddwn i ddim yn gwybod hyn. Aeth NASA hyd yn oed trwy archwiliad tebyg ar ôl colli ei wennol flaenorol, ac eto collodd un arall am reswm tebyg iawn. Mae'n hawdd dadlau bod sefydliadau a phobl yn dilyn rheolau clir, rhesymegol y gellir eu profi, eu deall a'u newid—ond mae profiad yn profi fel arall. Mae hyn "'.
Rwy'n aml yn cymharu dysgu peirianyddol â chronfeydd data, yn enwedig rhai perthynol - technoleg sylfaenol newydd sydd wedi newid galluoedd cyfrifiadureg a'r byd o'i chwmpas, sydd wedi dod yn rhan o bopeth, yr ydym yn ei ddefnyddio'n gyson heb sylweddoli hynny. Mae gan gronfeydd data broblemau hefyd, ac maent o natur debyg: gall y system gael ei hadeiladu ar ragdybiaethau gwael neu ddata gwael, ond bydd yn anodd sylwi, a bydd y bobl sy'n defnyddio'r system yn gwneud yr hyn y mae'n ei ddweud wrthynt heb ofyn cwestiynau. Mae yna lawer o hen jôcs am bobl dreth a oedd unwaith wedi sillafu eich enw yn anghywir, ac mae eu darbwyllo i gywiro'r camgymeriad yn llawer anoddach na newid eich enw mewn gwirionedd. Mae yna lawer o ffyrdd i feddwl am hyn, ond nid yw'n glir pa un sy'n well: fel problem dechnegol yn SQL, neu fel byg mewn datganiad Oracle, neu fel methiant sefydliadau biwrocrataidd? Pa mor anodd yw hi i ddod o hyd i nam mewn proses sydd wedi arwain at y system heb nodwedd cywiro typo? A allai hyn fod wedi cael ei gyfrifo cyn i bobl ddechrau cwyno?
Amlygir y broblem hon yn symlach fyth gan straeon pan fo gyrwyr yn gyrru i mewn i afonydd oherwydd data hen ffasiwn yn y llywiwr. Iawn, mae angen diweddaru mapiau yn gyson. Ond faint sydd ar fai TomTom am i'ch car gael ei chwythu i'r môr?
Y rheswm pam rwy'n dweud hyn yw ie, bydd tuedd dysgu peirianyddol yn creu problemau. Ond bydd y problemau hyn yn debyg i'r rhai yr ydym wedi'u hwynebu yn y gorffennol, a gellir sylwi arnynt a'u datrys (neu beidio) cystal ag y gallem yn y gorffennol. Felly, mae senario lle mae rhagfarn AI yn achosi niwed yn annhebygol o ddigwydd i uwch ymchwilwyr sy'n gweithio mewn sefydliad mawr. Yn fwyaf tebygol, bydd rhai contractwr technoleg neu werthwr meddalwedd di-nod yn ysgrifennu rhywbeth ar eu gliniau, gan ddefnyddio cydrannau ffynhonnell agored, llyfrgelloedd ac offer nad ydynt yn eu deall. A bydd y cleient anlwcus yn prynu'r ymadrodd “deallusrwydd artiffisial” yn nisgrifiad y cynnyrch ac, heb ofyn unrhyw gwestiynau, yn ei ddosbarthu i'w weithwyr cyflog isel, gan eu gorchymyn i wneud yr hyn y mae'r AI yn ei ddweud. Dyma'n union beth ddigwyddodd gyda chronfeydd data. Nid yw hon yn broblem deallusrwydd artiffisial, na hyd yn oed yn broblem meddalwedd. Dyma'r ffactor dynol.
Casgliad
Gall dysgu â pheiriant wneud unrhyw beth y gallwch ei ddysgu i gi - ond ni allwch byth fod yn siŵr beth yn union y gwnaethoch ei ddysgu i'r ci.
Rwy’n aml yn teimlo bod y term “deallusrwydd artiffisial” ond yn rhwystro sgyrsiau fel hyn. Mae'r term hwn yn rhoi'r camargraff ein bod wedi ei greu mewn gwirionedd - y wybodaeth hon. Ein bod ar ein ffordd i HAL9000 neu Skynet - rhywbeth sydd mewn gwirionedd yn deall. Ond na. Peiriannau yn unig yw'r rhain, ac mae'n llawer mwy cywir eu cymharu â pheiriant golchi, dyweder. Mae hi'n golchi dillad yn llawer gwell na bod dynol, ond os byddwch chi'n rhoi llestri ynddi yn lle golchi dillad, bydd hi ... yn eu golchi. Bydd y prydau hyd yn oed yn dod yn lân. Ond nid dyma'r hyn yr oeddech chi'n ei ddisgwyl, ac ni fydd hyn yn digwydd oherwydd bod gan y system unrhyw ragfarnau o ran seigiau. Nid yw'r peiriant golchi yn gwybod beth yw seigiau na beth yw dillad - dim ond enghraifft o awtomeiddio ydyw, yn gysyniadol ddim gwahanol i'r ffordd yr oedd prosesau'n cael eu hawtomeiddio o'r blaen.
P'un a ydym yn sôn am geir, awyrennau, neu gronfeydd data, bydd y systemau hyn yn bwerus iawn ac yn gyfyngedig iawn. Byddant yn dibynnu'n llwyr ar sut mae pobl yn defnyddio'r systemau hyn, a yw eu bwriadau'n dda neu'n ddrwg, a faint maent yn deall sut maent yn gweithio.
Felly, mae dweud mai mathemateg yw “deallusrwydd artiffisial, felly ni all fod â rhagfarnau” yn gwbl ffug. Ond mae’r un mor ffug i ddweud bod dysgu peirianyddol yn “oddrychol ei natur.” Mae dysgu peirianyddol yn canfod patrymau mewn data, ac mae pa batrymau y mae'n dod o hyd iddynt yn dibynnu ar y data, ac mae'r data'n dibynnu arnom ni. Yn union fel yr hyn rydyn ni'n ei wneud gyda nhw. Mae dysgu peirianyddol yn gwneud rhai pethau’n llawer gwell nag y gallwn – ond mae cŵn, er enghraifft, yn llawer mwy effeithiol na bodau dynol wrth ganfod cyffuriau, nad yw’n rheswm i’w defnyddio fel tystion a llunio barn ar sail eu tystiolaeth. Ac mae cŵn, gyda llaw, yn llawer callach nag unrhyw system dysgu peiriannau.
Cyfieithu: .
Yn golygu: .
Cymuned: .
Ffynhonnell: hab.com