tl; dr:
- Ang pagkat-on sa makina nangita alang sa mga sumbanan sa datos. Apan ang artificial intelligence mahimong “biased”—nga mao, pagpangita og mga pattern nga dili husto. Pananglitan, ang usa ka photo-based nga skin cancer detection system mahimong mohatag ug espesyal nga pagtagad sa mga hulagway nga gikuha sa opisina sa doktor. Ang pagkat-on sa makina dili mahimo aron masabtan: ang mga algorithm niini nagpaila lamang sa mga sumbanan sa mga numero, ug kung ang datos dili representante, mao usab ang resulta sa pagproseso niini. Ug ang pagdakop sa ingon nga mga bug mahimong lisud tungod sa mga mekaniko sa pagkat-on sa makina.
- Ang labing klaro ug makahahadlok nga bahin sa problema mao ang pagkalainlain sa tawo. Adunay daghang mga hinungdan ngano nga ang mga datos bahin sa mga tawo mahimo’g mawad-an sa pagkamatinud-anon bisan sa yugto sa pagkolekta. Apan ayaw hunahunaa nga kini nga problema makaapekto lamang sa mga tawo: ang parehas nga mga kalisud nga moabut sa pagsulay sa pag-ila sa usa ka baha sa usa ka bodega o usa ka napakyas nga gas turbine. Ang ubang mga sistema mahimong mapihigon sa kolor sa panit, ang uban mapihigon sa mga sensor sa Siemens.
- Ang ingon nga mga problema dili bag-o sa pagkat-on sa makina, ug kini layo sa talagsaon niini. Sayop nga mga pangagpas gihimo sa bisan unsang komplikado nga istruktura, ug ang pagsabut ngano nga ang usa ka partikular nga desisyon gihimo kanunay nga lisud. Kinahanglan natong pakigbatokan kini sa usa ka komprehensibo nga paagi: paghimo og mga himan ug mga proseso alang sa pag-verify - ug pag-edukar sa mga tiggamit aron dili sila makasunod sa mga rekomendasyon sa AI. Ang pagkat-on sa makina makahimo sa pipila ka mga butang nga mas maayo pa kay sa atong mahimo - apan ang mga iro, pananglitan, mas epektibo kay sa mga tawo sa pag-ila sa mga droga, nga dili rason nga gamiton kini isip mga saksi ug maghimog mga paghukom base sa ilang testimonya. Ug ang mga iro, sa ingon, labi ka maalamon kaysa bisan unsang sistema sa pagkat-on sa makina.
Ang pagkat-on sa makina usa sa labing hinungdanon nga sukaranan nga uso sa teknolohiya karon. Kini mao ang usa sa mga mayor nga mga paagi diin ang teknolohiya makapausab sa kalibutan sa atong palibot sa sunod nga dekada. Ang pipila ka mga aspeto niini nga mga pagbag-o hinungdan sa pagkabalaka. Pananglitan, ang potensyal nga epekto sa pagkat-on sa makina sa merkado sa pamuo, o ang paggamit niini alang sa dili maayo nga katuyoan (pananglitan, pinaagi sa mga awtoritaryan nga rehimen). Adunay laing problema nga gitubag niini nga post: bias sa artificial intelligence.
Dili kini sayon nga istorya.
Ang AI sa Google makapangita ug mga iring. Kini nga balita gikan sa 2012 usa ka espesyal nga butang kaniadto.
Unsa ang "AI Bias"?
Ang "Raw data" usa ka oxymoron ug dili maayo nga ideya; kinahanglan nga andam ug maayo ang datos. —Geoffrey Bocker
Sa usa ka lugar sa wala pa ang 2013, aron makahimo usa ka sistema nga, ingnon ta, makaila sa mga iring sa mga litrato, kinahanglan nimo nga ihulagway ang lohikal nga mga lakang. Giunsa pagpangita ang mga kanto sa usa ka imahe, pag-ila sa mga mata, pag-analisar sa mga texture alang sa fur, pag-ihap sa mga tiil, ug uban pa. Dayon ibutang ang tanan nga mga sangkap ug madiskobrehan nga kini dili gayud molihok. Sama sa usa ka mekanikal nga kabayo - sa teorya mahimo kini, apan sa praktis kini komplikado kaayo nga ihulagway. Ang katapusan nga resulta mao ang gatusan (o bisan linibo) nga sinulat sa kamot nga mga lagda. Ug dili usa ka modelo nga nagtrabaho.
Sa pag-abut sa pagkat-on sa makina, mihunong kami sa paggamit sa "manwal" nga mga lagda alang sa pag-ila sa usa ka partikular nga butang. Hinuon, nagkuha kami usa ka libo nga mga sampol sa "kini", X, usa ka libo nga mga sample sa "ubang", Y, ug gipabuhat sa kompyuter ang usa ka modelo base sa ilang pagtuki sa istatistika. Gihatagan dayon namo kini nga modelo og pipila ka sampol nga datos ug kini nagtino uban sa pipila ka katukma kon kini mohaum ba sa usa sa mga set. Ang pagkat-on sa makina nagmugna og modelo gikan sa datos imbes gikan sa tawo nga nagsulat niini. Makapahingangha ang mga resulta, labi na sa natad sa pag-ila sa imahe ug pattern, ug kana ang hinungdan ngano nga ang tibuuk nga industriya sa tech karon mibalhin sa pagkat-on sa makina (ML).
Apan dili kini yano. Sa tinuod nga kalibutan, ang imong liboan ka mga ehemplo sa X o Y adunay usab A, B, J, L, O, R, ug bisan L. Kini mahimong dili parehas nga ipang-apod-apod, ug ang uban mahimong mahitabo kanunay nga ang sistema magbayad og dugang pagtagad kanila kay sa mga butang nga makapainteres kanimo.
Unsa ang gipasabut niini sa praktis? Ang akong paborito nga pananglitan mao kung ang mga sistema sa pag-ila sa imahe . Klaro kung ngano: kadaghanan sa mga pananglitan nga mga litrato sa "karnero" gikuha sa mga sibsibanan diin sila nagpuyo, ug sa kini nga mga imahe ang sagbot nagkuha labi pa nga lugar kaysa sa gagmay nga puti nga mga fluff, ug kini ang sagbot nga giisip sa sistema nga labing hinungdanon. .
Adunay mas seryoso nga mga pananglitan. Usa ka bag-o alang sa pag-ila sa kanser sa panit sa mga litrato. Nahibal-an nga ang mga dermatologist kanunay nga litrato sa magmamando kauban ang mga pagpakita sa kanser sa panit aron irekord ang gidak-on sa mga pormasyon. Walay mga magmamando sa pananglitan nga mga litrato sa himsog nga panit. Alang sa usa ka sistema sa AI, ang ingon nga mga magmamando (mas tukma, ang mga pixel nga among gihubit ingon usa ka "magmamando") nahimo nga usa sa mga kalainan tali sa mga hugpong sa mga pananglitan, ug usahay labi ka hinungdanon kaysa usa ka gamay nga rash sa panit. Busa ang usa ka sistema nga gihimo aron sa pag-ila sa kanser sa panit usahay giila nga mga magmamando.
Ang yawe nga punto dinhi mao nga ang sistema walay semantiko nga pagsabut sa kung unsa ang gitan-aw niini. Atong tan-awon ang usa ka hugpong sa mga pixel ug makita diha kanila ang usa ka karnero, panit o mga magmamando, apan ang sistema kay usa lamang ka linya sa numero. Dili siya makakita og tulo-ka-dimensyon nga wanang, dili makakita og mga butang, mga panapton, o mga karnero. Nakita ra niya ang mga pattern sa datos.
Ang kalisud sa pag-diagnose sa maong mga problema mao nga ang neural network (ang modelo nga gihimo sa imong machine learning system) naglangkob sa liboan ka gatusan ka libo nga mga node. Walay sayon nga paagi sa pagtan-aw sa usa ka modelo ug tan-awa kung giunsa kini paghimo og desisyon. Ang pagbaton sa ingon nga paagi nagpasabut nga ang proseso igo ra aron ihulagway ang tanan nga mga lagda nga mano-mano, nga wala gigamit ang pagkat-on sa makina. Nabalaka ang mga tawo nga ang pagkat-on sa makina nahimo nang usa ka itom nga kahon. (Akong ipasabut sa ulahi kung nganong kini nga pagtandi sobra ra kaayo.)
Kini, sa kinatibuk-ang termino, mao ang problema sa pagpihig sa artipisyal nga paniktik o pagkat-on sa makina: ang usa ka sistema sa pagpangita sa mga sumbanan sa datos mahimong makit-an ang sayup nga mga sumbanan, ug dili nimo kini mamatikdan. Kini usa ka sukaranan nga kinaiya sa teknolohiya, ug kini klaro sa tanan nga nagtrabaho niini sa akademya ug sa dagkong mga kompanya sa teknolohiya. Apan ang mga sangputanan niini komplikado, ug mao usab ang atong posible nga mga solusyon sa mga sangputanan.
Atong hisgotan una ang mga sangputanan.
Ang AI mahimo, sa tinuud alang kanamo, makahimo usa ka pagpili pabor sa pipila nga mga kategorya sa mga tawo, pinasukad sa daghang mga dili makit-an nga mga signal
AI Bias Scenario
Labing klaro ug makahadlok, kini nga problema mahimong magpakita sa kaugalingon kung bahin sa pagkalainlain sa tawo. Bag-o lang nga gisulayan sa Amazon ang paghimo og sistema sa pagkat-on sa makina alang sa pasiunang pag-screen sa mga kandidato sa trabaho. Tungod kay adunay daghang mga lalaki sa mga mamumuo sa Amazon, ang mga pananglitan sa "malampuson nga pag-hire" mas kanunay nga mga lalaki, ug adunay daghang mga lalaki sa pagpili sa mga resume nga gisugyot sa sistema. Namatikdan kini sa Amazon ug wala ipagawas ang sistema sa produksiyon.
Ang labing hinungdanon nga butang sa kini nga pananglitan mao nga ang sistema gihugonhugon nga pabor sa mga lalaki nga aplikante, bisan pa sa kamatuoran nga ang gender wala gipiho sa resume. Nakita sa sistema ang ubang mga sumbanan sa mga panig-ingnan sa "maayong mga empleyado": pananglitan, ang mga babaye mahimong mogamit ug espesyal nga mga pulong aron ihulagway ang mga nahimo, o adunay espesyal nga mga kalingawan. Siyempre, ang sistema wala mahibal-an kung unsa ang "hockey", o kinsa ang "mga tawo", o kung unsa ang "kalampusan" - nagpahigayon lang kini usa ka istatistikal nga pagtuki sa teksto. Apan ang mga sumbanan nga iyang nakita lagmit dili mamatikdan sa mga tawo, ug ang uban niini (pananglitan, ang kamatuoran nga ang mga tawo nga lainlain ang sekso naghulagway sa kalampusan sa lahi nga paagi) tingali lisud alang kanato nga makita bisan kung kita motan-aw kanila.
Dugang pa - mas grabe pa. Ang usa ka sistema sa pagkat-on sa makina nga maayo kaayo sa pagpangita og kanser sa luspad nga panit mahimong dili maayo sa ngitngit nga panit, o vice versa. Dili kinahanglan tungod sa pagpihig, apan tungod kay tingali kinahanglan ka nga magtukod og usa ka bulag nga modelo alang sa usa ka lainlaing kolor sa panit, pagpili sa lainlaing mga kinaiya. Ang mga sistema sa pagkat-on sa makina dili mabaylo bisan sa usa ka pig-ot nga lugar sama sa pag-ila sa imahe. Kinahanglan nimo nga i-tweak ang sistema, usahay pinaagi lang sa pagsulay ug sayup, aron makakuha usa ka maayo nga pagdumala sa mga bahin sa datos nga interesado ka hangtod nga makab-ot nimo ang katukma nga gusto nimo. Apan ang dili nimo mamatikdan mao nga ang sistema tukma nga 98% sa oras sa usa ka grupo, ug 91% ra (mas tukma kaysa pagtuki sa tawo) sa lain.
Sa pagkakaron gigamit nako ang nag-una nga mga pananglitan nga may kalabutan sa mga tawo ug sa ilang mga kinaiya. Ang panaghisgot bahin sa kini nga problema nag-una nga nagpunting sa kini nga hilisgutan. Apan importante nga masabtan nga ang pagpihig ngadto sa mga tawo kabahin lamang sa problema. Maggamit kami sa pagkat-on sa makina alang sa daghang mga butang, ug ang sampling error mahimong may kalabutan sa tanan niini. Sa laing bahin, kung nagtrabaho ka sa mga tawo, ang pagpihig sa datos mahimong wala’y kalabutan sa kanila.
Aron masabtan kini, mobalik kita sa panig-ingnan sa kanser sa panit ug tagdon ang tulo ka hypothetical nga posibilidad sa pagkapakyas sa sistema.
- Heterogenous nga pag-apod-apod sa mga tawo: usa ka dili balanse nga gidaghanon sa mga litrato sa lain-laing mga kolor sa panit, nga mosangpot sa sayop nga positibo o sayop nga negatibo tungod sa pigmentation.
- Ang datos diin ang sistema gibansay naglangkob sa usa ka kanunay nga nahitabo ug heterogeneously-apod-apod nga bahin nga wala nakig-uban sa mga tawo ug walay diagnostic nga bili: usa ka magmamando sa mga litrato sa panit kanser o balili sa mga litrato sa mga karnero. Sa kini nga kaso, lahi ang resulta kung makit-an sa sistema ang mga pixel sa imahe sa usa ka butang nga giila sa mata sa tawo nga usa ka "magmamando".
- Ang datos adunay usa ka ikatulo nga partido nga kinaiya nga dili makita sa usa ka tawo bisan kung pangitaon niya kini.
Unsay buot ipasabot niini? Nahibal-an namon ang usa ka priori nga ang datos mahimong magrepresentar sa lainlaing mga grupo sa mga tawo nga lahi, ug sa labing gamay mahimo namon nga plano nga pangitaon ang ingon nga mga eksepsiyon. Sa laing pagkasulti, adunay daghan nga sosyal nga mga rason sa paghunahuna nga ang mga datos mahitungod sa mga grupo sa mga tawo aduna nay pipila ka bias. Kung atong tan-awon ang litrato uban ang magmamando, atong makita kini nga magmamando - wala nato kini panumbalinga kaniadto, nahibal-an nga dili kini igsapayan, ug nakalimtan nga ang sistema wala'y nahibal-an.
Apan unsa man kon ang tanan nimong mga litrato sa dili maayo nga panit gikuha sa usa ka opisina ubos sa incandescent light, ug ang imong himsog nga panit gikuha ubos sa fluorescent light? Unsa kaha kon, human nimo mahuman ang pagpamusil sa himsog nga panit, sa wala pa ang pagpusil sa dili maayo nga panit, imong gi-update ang operating system sa imong telepono, ug ang Apple o Google gamay nga nag-usab sa noise reduction algorithm? Ang usa ka tawo dili makamatikod niini, bisan unsa pa ka daghan ang iyang pagpangita sa maong mga bahin. Apan ang sistema sa paggamit sa makina makita dayon ug magamit kini. Wala siyay nahibaloan.
Hangtod karon naghisgot kami bahin sa dili tinuod nga mga correlasyon, apan mahimo usab nga tukma ang datos ug husto ang mga resulta, apan dili nimo gusto nga gamiton kini alang sa pamatasan, ligal, o mga hinungdan sa pagdumala. Ang ubang mga hurisdiksyon, pananglitan, wala magtugot sa mga babaye nga makadawat og diskwento sa ilang insurance, bisan pa nga ang mga babaye mahimong mas luwas nga mga drayber. Dali ra natong mahanduraw ang usa ka sistema nga, kung mag-analisar sa mga datos sa kasaysayan, maghatag usa ka gamay nga hinungdan sa peligro sa mga ngalan sa babaye. Okay, atong tangtangon ang mga ngalan sa pagpili. Apan hinumdomi ang panig-ingnan sa Amazon: ang sistema makatino sa gender base sa ubang mga hinungdan (bisan kung wala kini nahibal-an kung unsa ang gender, o bisan kung unsa ang usa ka awto), ug dili nimo kini mamatikdan hangtod nga ang regulator retroactively nag-analisa sa mga taripa nga imong nahibal-an. tanyag ug singil nimo multahan ka.
Sa kataposan, kasagarang gituohan nga gamiton lang nato ang maong mga sistema alang sa mga proyekto nga naglambigit sa mga tawo ug sosyal nga interaksyon. Sayop kini. Kung maghimo ka og mga gas turbine, lagmit gusto nimong ipadapat ang pagkat-on sa makina sa telemetry nga gipasa sa napulo o gatusan ka mga sensor sa imong produkto (audio, video, temperatura, ug bisan unsang uban pang mga sensor makamugna og datos nga dali ra mapasibo sa paghimo og makina. modelo sa pagkat-on). Sa hypothetically, mahimo nimong isulti, "Ania ang datos gikan sa usa ka libo nga mga turbine nga napakyas sa wala pa kini napakyas, ug ania ang datos gikan sa usa ka libo nga mga turbine nga wala mapakyas. Paghimo usa ka modelo aron mahibal-an kung unsa ang kalainan tali kanila. ” Aw, karon hunahunaa nga ang mga sensor sa Siemens gi-install sa 75% sa dili maayo nga mga turbine, ug 12% ra sa mga maayo (walay koneksyon sa mga kapakyasan). Ang sistema maghimo usa ka modelo aron makit-an ang mga turbine nga adunay mga sensor sa Siemens. Oops!
Hulagway - Moritz Hardt, UC Berkeley
Pagdumala sa AI Bias
Unsa may atong mahimo niini? Mahimo nimong hisgutan ang isyu gikan sa tulo ka anggulo:
- Metodolohikal nga kalisud sa pagkolekta ug pagdumala sa datos alang sa pagbansay sa sistema.
- Teknikal nga mga himan alang sa pag-analisar ug pagdayagnos sa pamatasan sa modelo.
- Pagbansay, pag-edukar, ug pag-amping sa pagpatuman sa pagkat-on sa makina ngadto sa mga produkto.
Adunay usa ka komedya sa libro ni Molière nga "The Bourgeois in the Nobility": usa ka tawo gisultihan nga ang literatura gibahin sa prosa ug balak, ug nalipay siya sa pagkadiskobre nga nagsulti siya sa prosa sa tibuok niyang kinabuhi, nga wala mahibalo niini. Tingali mao kini ang gibati sa mga estadistika karon: nga wala makaamgo niini, ilang gipahinungod ang ilang mga karera sa artificial intelligence ug sampling error. Ang pagpangita alang sa sampling error ug ang pagkabalaka bahin niini dili usa ka bag-ong problema, kinahanglan lang naton nga sistematikong moduol sa solusyon niini. Sama sa gihisgutan sa ibabaw, sa pipila ka mga kaso kini sa pagkatinuod mas sayon sa pagbuhat niini pinaagi sa pagtuon sa mga problema nga may kalabutan sa mga tawo data. Kami sa usa ka priori naghunahuna nga kami adunay mga pagpihig bahin sa lain-laing mga grupo sa mga tawo, apan lisud alang kanamo nga mahanduraw ang usa ka pagpihig bahin sa mga sensor sa Siemens.
Unsa ang bag-o bahin niining tanan, siyempre, nga ang mga tawo dili na direkta nga naghimo sa istatistikal nga pagtuki. Gihimo kini sa mga makina nga nagmugna og dagko, komplikado nga mga modelo nga lisud sabton. Ang isyu sa transparency mao ang usa sa mga nag-unang aspeto sa problema sa bias. Nahadlok kami nga ang sistema dili lang mapihigon, apan nga wala’y paagi aron mahibal-an ang pagpihig niini, ug ang pagkat-on sa makina lahi sa ubang mga porma sa automation, nga kinahanglan nga naglangkob sa tin-aw nga lohikal nga mga lakang nga mahimong masulayan.
Adunay duha ka problema dinhi. Mahimo pa nga makahimo kami usa ka matang sa pag-audit sa mga sistema sa pagkat-on sa makina. Ug ang pag-awdit sa bisan unsang ubang sistema sa tinuud dili kadali.
Una, usa sa mga direksyon sa modernong panukiduki sa natad sa pagkat-on sa makina mao ang pagpangita sa mga pamaagi aron mahibal-an ang hinungdanon nga pagpaandar sa mga sistema sa pagkat-on sa makina. Ingon niana, ang pagkat-on sa makina (sa iyang kahimtang karon) usa ka bag-ong natad sa syensya nga dali nga nagbag-o, busa ayaw paghunahuna nga ang mga butang nga imposible karon dili mahimo nga tinuod. Proyekto - usa ka makapaikag nga pananglitan niini.
Ikaduha, ang ideya nga mahimo nimong sulayan ug masabtan ang proseso sa paghimog desisyon sa mga naglungtad nga mga sistema o organisasyon maayo sa teorya, apan ingon niana sa praktis. Ang pagsabot kung giunsa paghimo ang mga desisyon sa usa ka dako nga organisasyon dili sayon. Bisan kung adunay usa ka pormal nga proseso sa paghimo og desisyon, wala kini nagpakita kung giunsa ang mga tawo aktwal nga nakig-uban, ug sila mismo sa kasagaran walay lohikal, sistematikong pamaagi sa paghimo sa ilang mga desisyon. Ingon sa akong kauban , ang mga tawo usab mga itom nga kahon.
Dad-a ang usa ka libo ka mga tawo sa daghang nagsapaw nga mga kompanya ug institusyon, ug ang problema mahimong labi ka komplikado. Nahibal-an namon pagkahuman sa kamatuoran nga ang Space Shuttle gitakda nga mabungkag sa pagbalik, ug ang mga indibidwal sa sulod sa NASA adunay kasayuran nga naghatag kanila hinungdan sa paghunahuna nga adunay dili maayo nga mahitabo, apan ang sistema sa kinatibuk-an Wala ko kabalo ani. Ang NASA bag-o lang miagi sa usa ka susama nga pag-audit pagkahuman nawala ang nauna nga shuttle, apan nawala ang usa sa parehas nga hinungdan. Sayon nga makiglalis nga ang mga organisasyon ug mga tawo nagsunod sa klaro, lohikal nga mga lagda nga mahimong sulayan, sabton, ug usbon-apan ang kasinatian nagpamatuod nga lahi. Kini"".
Kanunay nakong itandi ang pagkat-on sa makina ngadto sa mga database, ilabi na ang mga relational - usa ka bag-ong sukaranan nga teknolohiya nga nagbag-o sa mga kapabilidad sa siyensya sa kompyuter ug sa kalibutan sa palibot niini, nga nahimong bahin sa tanan, nga kanunay natong gigamit nga wala makaamgo niini. Ang mga database usab adunay mga problema, ug sila adunay susama nga kinaiya: ang sistema mahimong gitukod sa dili maayo nga mga pangagpas o dili maayo nga datos, apan kini lisud nga mamatikdan, ug ang mga tawo nga naggamit sa sistema mobuhat sa unsay gisulti kanila nga walay pangutana. Adunay daghang mga karaan nga mga komedya bahin sa mga tawo nga buhis nga kaniadto sayup ang spelling sa imong ngalan, ug ang pagkumbinser kanila sa pagtul-id sa sayup labi ka lisud kaysa pag-usab sa imong ngalan. Adunay daghang mga paagi sa paghunahuna bahin niini, apan dili klaro kung diin ang mas maayo: ingon usa ka teknikal nga problema sa SQL, o ingon usa ka bug sa usa ka pagpagawas sa Oracle, o ingon usa ka kapakyasan sa mga burukratikong institusyon? Unsa ka lisud ang pagpangita og bug sa usa ka proseso nga mitultol sa sistema nga walay typo correction feature? Mahimo ba kini nga nahibal-an sa wala pa magsugod ang pagreklamo sa mga tawo?
Kini nga problema gihulagway nga mas yano sa mga istorya kung ang mga drayber nagmaneho sa mga sapa tungod sa karaan nga datos sa navigator. Okay, ang mga mapa kinahanglan nga i-update kanunay. Apan pila ang mabasol sa TomTom sa imong awto nga napadpad sa dagat?
Ang hinungdan nga giingon ko kini mao nga oo, ang pagpihig sa pagkat-on sa makina maghimo mga problema. Apan kini nga mga problema mahimong susama sa atong giatubang kaniadto, ug kini mahimong mamatikdan ug masulbad (o dili) sama sa atong nahimo kaniadto. Busa, ang usa ka senaryo diin ang AI bias hinungdan sa kadaot dili tingali mahitabo sa mga senior nga tigdukiduki nga nagtrabaho sa usa ka dako nga organisasyon. Lagmit, ang pipila ka gamay nga kontraktor sa teknolohiya o tigbaligya sa software mosulat sa ilang mga tuhod, gamit ang mga sangkap nga bukas nga gigikanan, mga librarya ug mga himan nga wala nila masabti. Ug ang dili swerte nga kliyente mopalit sa hugpong sa mga pulong nga "artipisyal nga paniktik" sa paghulagway sa produkto ug, nga wala’y pangutana, ipanghatag kini sa iyang mga empleyado nga mubu nga sweldo, gimandoan sila nga buhaton kung unsa ang giingon sa AI. Mao gyud kini ang nahitabo sa mga database. Dili kini usa ka problema sa artificial intelligence, o bisan usa ka problema sa software. Kini ang hinungdan sa tawo.
konklusyon
Ang pagkat-on sa makina makahimo sa bisan unsa nga mahimo nimong itudlo sa usa ka iro - apan dili ka makasiguro kung unsa gayud ang imong gitudlo sa iro.
Kanunay nakong gibati nga ang termino nga "artipisyal nga paniktik" makabalda lamang sa mga panag-istoryahanay nga sama niini. Kini nga termino naghatag sa sayup nga impresyon nga kita gyud ang nagbuhat niini - kini nga salabutan. Nga kita padulong sa HAL9000 o Skynet - usa ka butang nga sa tinuud nakasabut. Apan dili. Mga makina lang kini, ug mas tukma nga itandi kini sa, ingnon ta, usa ka washing machine. Mas maayo pa siya nga manglaba kaysa tawo, pero kung butangan nimo siyag plato imbes nga labhan, siya... manglaba. Ang mga pinggan mahimong limpyo. Apan dili kini ang imong gipaabut, ug dili kini mahitabo tungod kay ang sistema adunay bisan unsang pagpihig bahin sa mga pinggan. Ang washing machine wala mahibal-an kung unsa ang mga pinggan o kung unsa ang mga sinina - kini usa lamang ka pananglitan sa automation, nga wala’y kalainan sa konsepto kung giunsa ang mga proseso nga awtomatiko kaniadto.
Naghisgot man kita bahin sa mga awto, eroplano, o mga database, kini nga mga sistema mahimong kusgan kaayo ug limitado kaayo. Sila bug-os nga magdepende kung giunsa paggamit sa mga tawo kini nga mga sistema, kung maayo ba o daotan ang ilang mga katuyoan, ug kung giunsa nila nasabtan kung giunsa nila pagtrabaho.
Busa, ang pag-ingon nga "ang artificial intelligence mao ang matematika, mao nga dili kini adunay mga biases" bug-os nga bakak. Apan sayop usab ang pag-ingon nga ang pagkat-on sa makina kay “subjective sa kinaiyahan.” Ang pagkat-on sa makina nangitag mga sumbanan sa datos, ug unsa nga mga sumbanan ang makit-an niini nagdepende sa datos, ug ang datos nagdepende kanato. Sama sa atong gibuhat kanila. Ang pagkat-on sa makina makahimo sa pipila ka mga butang nga mas maayo pa kay sa atong mahimo - apan ang mga iro, pananglitan, mas epektibo kay sa mga tawo sa pag-ila sa mga droga, nga dili rason nga gamiton kini isip mga saksi ug maghimog mga paghukom base sa ilang testimonya. Ug ang mga iro, sa ingon, labi ka maalamon kaysa bisan unsang sistema sa pagkat-on sa makina.
Paghubad: .
Pag-edit: .
Komunidad: .
Source: www.habr.com