Dwar Bias tal-Intelliġenza Artifiċjali

tl; dr

• It-tagħlim bil-magni jfittex mudelli fid-dejta. Iżda l-intelliġenza artifiċjali tista 'tkun "preġudikata"—jiġifieri, issib mudelli li mhumiex korretti. Pereżempju, sistema ta' skoperta tal-kanċer tal-ġilda bbażata fuq ritratti tista' tagħti attenzjoni speċjali lill-immaġini meħuda fl-uffiċċju tat-tabib. It-tagħlim bil-magni ma jistax biex tifhem: l-algoritmi tiegħu jidentifikaw biss mudelli fin-numri, u jekk id-data ma tkunx rappreżentattiva, hekk ukoll ir-riżultat tal-ipproċessar tagħha. U l-qbid ta 'bugs bħal dawn jista' jkun diffiċli minħabba l-mekkanika stess tat-tagħlim tal-magni.
• Il-qasam problematiku l-aktar ovvju u skoraġġanti huwa d-diversità umana. Hemm ħafna raġunijiet għaliex id-dejta dwar in-nies tista' titlef l-oġġettività anke fl-istadju tal-ġbir. Imma taħsibx li din il-problema taffettwa biss lin-nies: eżattament l-istess diffikultajiet jinqalgħu meta tipprova tiskopri għargħar f'maħżen jew turbina tal-gass falluta. Xi sistemi jistgħu jkunu preġudikati lejn il-kulur tal-ġilda, oħrajn se jkunu preġudikati lejn sensuri Siemens.
• Problemi bħal dawn mhumiex ġodda għat-tagħlim bil-magni, u huma 'l bogħod milli jkunu uniċi għalih. Isir suppożizzjonijiet ħżiena fi kwalunkwe struttura kumplessa, u l-fehim għaliex ittieħdet deċiżjoni partikolari huwa dejjem diffiċli. Irridu niġġieldu dan b'mod komprensiv: noħolqu għodod u proċessi għall-verifika - u nedukaw lill-utenti sabiex ma jsegwux bl-addoċċ ir-rakkomandazzjonijiet tal-IA. It-tagħlim bil-magni jagħmel xi affarijiet ħafna aħjar milli nistgħu - iżda l-klieb, pereżempju, huma ħafna aktar effettivi mill-bnedmin biex jiskopru d-droga, li mhix raġuni biex tużahom bħala xhieda u jagħmlu ġudizzji bbażati fuq ix-xhieda tagħhom. U l-klieb, mill-mod, huma ħafna aktar intelliġenti minn kwalunkwe sistema ta 'tagħlim bil-magni.

It-tagħlim bil-magni huwa wieħed mix-xejriet fundamentali tat-teknoloġija l-aktar importanti llum. Dan huwa wieħed mill-modi ewlenin li bihom it-teknoloġija se tbiddel id-dinja ta 'madwarna fl-għaxar snin li ġejjin. Xi aspetti ta' dawn il-bidliet huma kawża ta' tħassib. Pereżempju, l-impatt potenzjali tat-tagħlim tal-magni fuq is-suq tax-xogħol, jew l-użu tiegħu għal skopijiet mhux etiċi (pereżempju, minn reġimi awtoritarji). Hemm problema oħra li din il-post tindirizza: bias ta' intelliġenza artifiċjali.

Din mhix storja faċli.

L-AI ta' Google tista' ssib qtates. Din l-aħbar mill-2012 kienet xi ħaġa speċjali dakinhar.

X'inhu "AI Bias"?

"Data mhux ipproċessata" hija kemm oxymoron kif ukoll idea ħażina; id-data trid titħejja sew u bir-reqqa. —Geoffrey Bocker

X'imkien qabel l-2013, sabiex tagħmel sistema li, ngħidu aħna, tagħraf il-qtates fir-ritratti, kellek tiddeskrivi passi loġiċi. Kif issib kantunieri f'immaġini, tagħraf l-għajnejn, tanalizza nisġa għall-pil, tgħodd is-saqajn, eċċ. Imbagħad poġġi l-komponenti kollha flimkien u skopri li ma taħdimx tassew. Ħafna bħal żiemel mekkaniku - teoretikament jista 'jsir, iżda fil-prattika huwa kumpless wisq biex jiġi deskritt. Ir-riżultat aħħari huwa mijiet (jew saħansitra eluf) ta 'regoli miktuba bl-idejn. U mhux mudell ta' ħidma wieħed.

Bil-miġja tat-tagħlim tal-magni, waqfu nużaw regoli "manwali" biex nirrikonoxxu oġġett partikolari. Minflok, nieħdu elf kampjun ta '"dan", X, elf kampjun ta' "oħra", Y, u nġibu lill-kompjuter jibni mudell ibbażat fuq l-analiżi statistika tagħhom. Imbagħad nagħtu lil dan il-mudell xi kampjun tad-dejta u jiddetermina b'ċerta preċiżjoni jekk jaqbilx ma' wieħed mis-settijiet. It-tagħlim bil-magni jiġġenera mudell minn dejta aktar milli minn bniedem li jiktebha. Ir-riżultati huma impressjonanti, speċjalment fil-qasam tar-rikonoxximent tal-immaġni u l-mudelli, u huwa għalhekk li l-industrija kollha tat-teknoloġija issa qed timxi lejn it-tagħlim tal-magni (ML).

Imma mhux daqshekk sempliċi. Fid-dinja reali, l-eluf ta’ eżempji tiegħek ta’ X jew Y fihom ukoll A, B, J, L, O, R, u anke L. Dawn jistgħu ma jitqassmux b’mod ugwali, u xi wħud jistgħu jseħħu tant ta’ spiss li s-sistema tħallas aktar attenzjoni għalihom milli għal oġġetti li jinteressawk.

Xi jfisser dan fil-prattika? L-eżempju favorit tiegħi huwa meta sistemi ta 'rikonoxximent tal-immaġni ħares lejn għoljiet bil-ħaxix u għid, "nagħaġ". Huwa ċar għaliex: il-biċċa l-kbira tar-ritratti ta 'eżempji ta' "nagħaġ" jittieħdu fil-mergħat fejn jgħixu, u f'dawn l-immaġini l-ħaxix jieħu ħafna aktar spazju minn fluffs bojod żgħar, u huwa l-ħaxix li s-sistema tqis l-aktar importanti .

Hemm eżempji aktar serji. Waħda riċenti proġett għall-iskoperta tal-kanċer tal-ġilda fir-ritratti. Irriżulta li d-dermatologi spiss jirritrattaw il-ħakkiem flimkien mal-manifestazzjonijiet tal-kanċer tal-ġilda biex jirreġistraw id-daqs tal-formazzjonijiet. M'hemm l-ebda ħakkiema fir-ritratti eżempju ta 'ġilda b'saħħitha. Għal sistema AI, mexxejja bħal dawn (b'mod aktar preċiż, il-pixels li niddefinixxu bħala "ħakkiem") saru waħda mid-differenzi bejn settijiet ta 'eżempji, u xi kultant aktar importanti minn raxx żgħir fuq il-ġilda. Allura sistema maħluqa biex tidentifika l-kanċer tal-ġilda kultant rikonoxxuti ħakkiema minflok.

Il-punt ewlieni hawnhekk huwa li s-sistema m'għandha l-ebda fehim semantiku ta 'dak li qed tħares lejn. Inħarsu lejn sett ta 'pixels u naraw fihom nagħaġ, ġilda jew ħakkiema, iżda s-sistema hija biss linja tan-numri. Hija ma tarax spazju tridimensjonali, ma tarax oġġetti, nisġa, jew nagħaġ. Hija sempliċement tara mudelli fid-dejta.

Id-diffikultà fid-dijanjosi ta 'problemi bħal dawn hija li n-netwerk newrali (il-mudell iġġenerat mis-sistema ta' tagħlim tal-magni tiegħek) jikkonsisti f'eluf ta 'mijiet ta' eluf ta 'nodi. M'hemm l-ebda mod faċli biex tħares lejn mudell u tara kif tieħu deċiżjoni. Li jkollok dan il-mod ikun ifisser li l-proċess huwa sempliċi biżżejjed biex jiddeskrivi r-regoli kollha manwalment, mingħajr ma juża t-tagħlim tal-magni. In-nies jinkwetaw li t-tagħlim tal-magni sar xi ħaġa ta 'kaxxa sewda. (Nispjega ftit aktar tard għaliex dan il-paragun għadu wisq.)

Din, f'termini ġenerali, hija l-problema tal-preġudizzju fl-intelliġenza artifiċjali jew it-tagħlim tal-magni: sistema biex jinstabu mudelli fid-dejta tista 'ssib il-mudelli żbaljati, u tista' ma tinnotaha. Din hija karatteristika fundamentali tat-teknoloġija, u hija ovvja għal kull min jaħdem magħha fl-akkademja u f'kumpaniji kbar tat-teknoloġija. Iżda l-konsegwenzi tagħha huma kumplessi, u l-istess huma s-soluzzjonijiet possibbli tagħna għal dawk il-konsegwenzi.

Ejja nitkellmu dwar il-konsegwenzi l-ewwel.

L-AI tista', impliċitament għalina, tagħmel għażla favur ċerti kategoriji ta' nies, ibbażata fuq numru kbir ta' sinjali imperċettibbli

AI Bias Xenarji

B'mod aktar ovvju u tal-biża', din il-problema tista' timmanifesta ruħha fejn tidħol id-diversità umana. Riċentement kien hemm għajdutli Amazon ippruvat tibni sistema ta’ tagħlim tal-magni għall-iskrinjar inizjali tal-kandidati tax-xogħol. Peress li hemm aktar irġiel fost il-ħaddiema tal-Amazon, eżempji ta '"kiri b'suċċess" huma wkoll aktar spiss irġiel, u kien hemm aktar irġiel fl-għażla ta' jerġa 'jiġi ssuġġerit mis-sistema. Amazon ndunat dan u ma ħarġetx is-sistema fil-produzzjoni.

L-iktar ħaġa importanti f’dan l-eżempju hija li s-sistema kienet qed tissemma li tiffavorixxi applikanti irġiel, minkejja l-fatt li s-sess ma kienx speċifikat fuq it-tkomplija. Is-sistema rat mudelli oħra f'eżempji ta '"kiri tajba": pereżempju, in-nisa jistgħu jużaw kliem speċjali biex jiddeskrivu kisbiet, jew ikollhom passatempi speċjali. Naturalment, is-sistema ma kinitx taf x'kien "hockey", jew min kienu "nies", jew x'kien "suċċess" - sempliċement wettqet analiżi statistika tat-test. Imma x-xejriet li rat x’aktarx ma jgħaddux inosservati mill-bnedmin, u xi wħud minnhom (pereżempju, il-fatt li nies ta’ sessi differenti jiddeskrivu s-suċċess b’mod differenti) x’aktarx ikun diffiċli għalina biex naraw anke jekk inħarsu lejhom.

Aktar - agħar. Sistema ta’ tagħlim bil-magni li hija tajba ħafna biex issib kanċer fuq ġilda ċara tista’ ma tkunx taqdi tajjeb fuq ġilda skura, jew viċeversa. Mhux bilfors minħabba preġudizzju, iżda għax probabilment ikollok bżonn tibni mudell separat għal kulur tal-ġilda differenti, billi tagħżel karatteristiċi differenti. Is-sistemi tat-tagħlim bil-magni mhumiex interkambjabbli anke f'żona daqshekk dejqa bħar-rikonoxximent tal-immaġni. Ikollok bżonn tweak is-sistema, xi kultant biss permezz ta 'prova u żball, biex tikseb manku tajjeb fuq il-karatteristiċi fid-dejta li int interessat fiha sakemm tikseb l-eżattezza li trid. Imma dak li forsi ma tinnotax huwa li s-sistema hija preċiża 98% tal-ħin ma 'grupp wieħed, u 91% biss (saħansitra aktar preċiża mill-analiżi umana) mal-ieħor.

S'issa użajt prinċipalment eżempji li għandhom x'jaqsmu man-nies u l-karatteristiċi tagħhom. Id-diskussjoni dwar din il-problema tiffoka prinċipalment fuq dan is-suġġett. Iżda huwa importanti li tifhem li l-preġudizzju lejn in-nies huwa biss parti mill-problema. Se nkunu qed nużaw it-tagħlim tal-magni għal ħafna affarijiet, u l-iżball tat-teħid tal-kampjuni se jkun rilevanti għalihom kollha. Min-naħa l-oħra, jekk taħdem ma 'nies, il-preġudizzju fid-dejta jista' ma jkunx relatat magħhom.

Biex nifhmu dan, ejja nerġgħu lura għall-eżempju tal-kanċer tal-ġilda u nikkunsidraw tliet possibbiltajiet ipotetiċi għal falliment tas-sistema.

1. Distribuzzjoni eteroġenja ta 'nies: numru żbilanċjat ta' ritratti ta 'tones differenti tal-ġilda, li jwassal għal pożittivi foloz jew negattivi foloz minħabba pigmentazzjoni.
2. Id-dejta li fuqha hija mħarrġa s-sistema fiha karatteristika li sseħħ ta' spiss u mqassma b'mod eteroġenju li mhix assoċjata man-nies u m'għandha l-ebda valur dijanjostiku: ħakkiem f'ritratti ta 'kanċer tal-ġilda jew ħaxix f'ritratti ta' nagħaġ. F'dan il-każ, ir-riżultat ikun differenti jekk is-sistema ssib pixels fl-immaġni ta 'xi ħaġa li l-għajn tal-bniedem tidentifika bħala "ħakkiem".
3. Id-dejta fiha karatteristika ta’ parti terza li persuna ma tistax tara anki jekk tfittexha.

Xi tfisser? Nafu a priori li d-dejta tista’ tirrappreżenta gruppi differenti ta’ nies b’mod differenti, u bħala minimu nistgħu nippjanaw li nfittxu eċċezzjonijiet bħal dawn. Fi kliem ieħor, hemm ħafna raġunijiet soċjali biex wieħed jassumi li d-dejta dwar gruppi ta 'nies diġà fiha xi preġudizzju. Jekk inħarsu lejn ir-ritratt mal-ħakkiem, naraw dan il-ħakkiem - sempliċement injorajnah qabel, nafu li ma jimpurtax, u ninsew li s-sistema ma taf xejn.

Imma x'jiġri jekk ir-ritratti kollha tiegħek ta 'ġilda ħżiena għas-saħħa jittieħdu f'uffiċċju taħt dawl inkandexxenti, u l-ġilda b'saħħitha tiegħek ittieħdet taħt dawl fluworexxenti? X'jiġri jekk, wara li spiċċajt tispara ġilda b'saħħitha, qabel ma tispara ġilda ħżiena għas-saħħa, aġġornajt is-sistema operattiva fuq it-telefon tiegħek, u Apple jew Google biddlu ftit l-algoritmu tat-tnaqqis tal-istorbju? Persuna ma tistax tinnota dan, irrispettivament minn kemm tfittex karatteristiċi bħal dawn. Iżda s-sistema tal-użu tal-magni immedjatament tara u tuża dan. Hija ma taf xejn.

S'issa tkellimna dwar korrelazzjonijiet falzi, iżda jista 'jkun ukoll li d-dejta hija preċiża u r-riżultati huma korretti, iżda ma tridx tużahom għal raġunijiet etiċi, legali jew ta' ġestjoni. Xi ġurisdizzjonijiet, pereżempju, ma jippermettux lin-nisa jirċievu skont fuq l-assigurazzjoni tagħhom, anke jekk in-nisa jistgħu jkunu sewwieqa aktar sikuri. Nistgħu faċilment nimmaġinaw sistema li, meta tiġi analizzata d-dejta storika, tassenja fattur ta’ riskju aktar baxx għall-ismijiet tan-nisa. Tajjeb, ejja neħħi l-ismijiet mill-għażla. Imma ftakar fl-eżempju tal-Amazon: is-sistema tista’ tiddetermina s-sess abbażi ta’ fatturi oħra (għalkemm ma tafx x’inhu s-sess, jew saħansitra x’inhi karozza), u ma tindunax b’dan sakemm ir-regolatur janalizza retroattivament it-tariffi li inti. toffri u ħlasijiet inti se tiġi mmultat.

Fl-aħħar nett, ħafna drabi wieħed jassumi li se nużaw sistemi bħal dawn biss għal proġetti li jinvolvu nies u interazzjonijiet soċjali. Dan huwa ħażin. Jekk tagħmel turbini tal-gass, x'aktarx trid tapplika t-tagħlim tal-magni għat-telemetrija trażmessa minn għexieren jew mijiet ta' sensuri fuq il-prodott tiegħek (awdjo, vidjow, temperatura, u kwalunkwe sensuri oħra jiġġeneraw data li tista' tiġi adattata faċilment biex toħloq magna. mudell ta’ tagħlim). Ipotetikament, tista’ tgħid, “Hawn dejta minn elf turbina li fallew qabel ma fallew, u hawn dejta minn elf turbina li ma fallewx. Ibni mudell biex tgħid x’inhi d-differenza bejniethom.” Ukoll, issa immaġina li s-sensuri Siemens huma installati fuq 75% ta 'turbini ħżiena, u 12% biss ta' dawk tajbin (m'hemm l-ebda konnessjoni ma 'fallimenti). Is-sistema se tibni mudell biex issib turbini b'sensors Siemens. Oops!

Stampa — Moritz Hardt, UC Berkeley

Ġestjoni ta' AI Bias

X'nistgħu nagħmlu dwarha? Tista 'tavviċina l-kwistjoni minn tliet angoli:

1. Rigorozza metodoloġika fil-ġbir u l-ġestjoni tad-dejta għat-taħriġ tas-sistema.
2. Għodod tekniċi għall-analiżi u d-dijanjosi tal-imġiba tal-mudell.
3. Tħarreġ, teduka, u oqgħod attent meta timplimenta t-tagħlim tal-magni fi prodotti.

Hemm ċajta fil-ktieb ta’ Molière “The Bourgeois in the Nobility”: raġel wieħed qal li l-letteratura hija maqsuma fi proża u poeżija, u kien ferħan meta jiskopri li kien ilu jitkellem bil-proża ħajtu kollha, mingħajr ma kien jaf. Dan huwa probabbilment kif iħossu l-istatistika llum: mingħajr ma ndunaw, iddedikaw il-karrieri tagħhom għall-intelliġenza artifiċjali u l-iżball ta 'kampjunar. It-tfittix ta 'żball ta' kampjunar u l-inkwiet dwaru mhix problema ġdida, għandna bżonn biss li nersqu b'mod sistematiku s-soluzzjoni tagħha. Kif imsemmi hawn fuq, f'xi każijiet huwa fil-fatt aktar faċli li tagħmel dan billi tistudja problemi relatati mad-dejta tan-nies. Aħna a priori nassumu li jista 'jkollna preġudizzji rigward gruppi differenti ta' nies, iżda huwa diffiċli għalina li saħansitra nimmaġinaw preġudizzju dwar is-sensors Siemens.

X'hemm ġdid dwar dan kollu, ovvjament, huwa li n-nies m'għadhomx jagħmlu analiżi statistika direttament. Din titwettaq minn magni li joħolqu mudelli kbar u kumplessi li huma diffiċli biex jinftiehmu. Il-kwistjoni tat-trasparenza hija waħda mill-aspetti ewlenin tal-problema tal-preġudizzju. Aħna nibżgħu li s-sistema mhix biss preġudikata, iżda li m'hemm l-ebda mod kif tiskopri l-preġudizzju tagħha, u li t-tagħlim tal-magni huwa differenti minn forom oħra ta 'awtomazzjoni, li suppost jikkonsistu f'passi loġiċi ċari li jistgħu jiġu ttestjati.

Hemm żewġ problemi hawn. Għadna nistgħu nwettqu xi tip ta’ verifika tas-sistemi ta’ tagħlim tal-magni. U l-verifika ta 'kwalunkwe sistema oħra fil-fatt mhijiex aktar faċli.

L-ewwelnett, waħda mid-direzzjonijiet tar-riċerka moderna fil-qasam tat-tagħlim tal-magni hija t-tfittxija għal metodi biex tiġi identifikata funzjonalità importanti tas-sistemi tat-tagħlim tal-magni. Cela dit, it-tagħlim tal-magni (fl-istat attwali tiegħu) huwa qasam tax-xjenza kompletament ġdid li qed jinbidel malajr, għalhekk taħsibx li affarijiet li huma impossibbli llum ma jistgħux dalwaqt isiru pjuttost reali. Proġett OpenAI - eżempju interessanti ta' dan.

It-tieni, l-idea li tista’ tittestja u tifhem il-proċess tat-teħid tad-deċiżjonijiet ta’ sistemi jew organizzazzjonijiet eżistenti hija tajba fit-teorija, iżda hekk fil-prattika. Mhux faċli li tifhem kif jittieħdu d-deċiżjonijiet f’organizzazzjoni kbira. Anke jekk ikun hemm proċess formali ta’ teħid ta’ deċiżjonijiet, dan ma jirriflettix kif in-nies fil-fatt jinteraġixxu, u huma stess ħafna drabi ma jkollhomx approċċ loġiku u sistematiku biex jieħdu d-deċiżjonijiet tagħhom. Kif qal il-kollega tiegħi Vijay Pande, in-nies huma wkoll kaxxi suwed.

Ħu elf ruħ f'diversi kumpaniji u istituzzjonijiet li jikkoinċidu, u l-problema ssir saħansitra aktar kumplessa. Aħna nafu wara l-fatt li l-Space Shuttle kien iddestinat li jkisser mar-ritorn, u individwi fi ħdan in-NASA kellhom informazzjoni li tathom raġuni biex jaħsbu li tista 'tiġri xi ħaġa ħażina, iżda s-sistema ġeneralment Ma kontx naf dan. In-NASA saħansitra għaddiet minn verifika simili wara li tilfet ix-shuttle preċedenti tagħha, u madankollu tilfet ieħor għal raġuni simili ħafna. Huwa faċli li targumenta li l-organizzazzjonijiet u n-nies isegwu regoli ċari u loġiċi li jistgħu jiġu ttestjati, mifhuma u mibdula—iżda l-esperjenza turi mod ieħor. Dan "Id-delużjoni ta' Gosplan".

Ħafna drabi nqabbel it-tagħlim tal-magni ma’ databases, speċjalment dawk relazzjonali – teknoloġija fundamentali ġdida li biddlet il-kapaċitajiet tax-xjenza tal-kompjuter u tad-dinja ta’ madwarha, li saret parti minn kollox, li nużawha kontinwament mingħajr ma nindunaw. Id-databases għandhom ukoll problemi, u huma ta 'natura simili: is-sistema tista' tkun mibnija fuq suppożizzjonijiet ħżiena jew dejta ħażina, iżda jkun diffiċli li wieħed jinnota, u n-nies li jużaw is-sistema se jagħmlu dak li tgħidilhom mingħajr ma jistaqsu mistoqsijiet. Hemm ħafna ċajt antiki dwar in-nies tat-taxxa li darba spettru ismek ħażin, u jikkonvinċuhom biex jikkoreġu l-iżball huwa ħafna aktar diffiċli milli fil-fatt tibdel ismek. Hemm ħafna modi biex taħseb dwar dan, iżda mhuwiex ċar liema huwa aħjar: bħala problema teknika fl-SQL, jew bħala bug f'rilaxx tal-Oracle, jew bħala falliment ta 'istituzzjonijiet burokratiċi? Kemm huwa diffiċli li ssib bug fi proċess li wassal biex is-sistema ma jkollhiex karatteristika ta 'korrezzjoni tat-typo? Dan seta' dehret qabel in-nies bdew jilmentaw?

Din il-problema hija illustrata aktar sempliċiment minn stejjer meta s-sewwieqa jsuqu fix-xmajjar minħabba data skaduta fin-navigatur. Tajjeb, il-mapep jeħtieġ li jiġu aġġornati kontinwament. Imma kemm għandu tort TomTom talli l-karozza tiegħek ħarġet il-baħar?

Ir-raġuni li ngħid din hija li iva, il-preġudizzju tat-tagħlim tal-magni se joħloq problemi. Iżda dawn il-problemi se jkunu simili għal dawk li ffaċċjajna fil-passat, u jistgħu jiġu nnutati u solvuti (jew le) dwar kif stajna nagħmlu fil-passat. Għalhekk, xenarju li fih preġudizzju AI jikkawża ħsara mhux probabbli li jiġri lil riċerkaturi anzjani li jaħdmu f'organizzazzjoni kbira. Ħafna probabbli, xi kuntrattur tat-teknoloġija insinifikanti jew bejjiegħ tas-softwer se jikteb xi ħaġa fuq irkopptejn tagħhom, billi juża komponenti open source, libreriji u għodod li ma jifhmux. U l-klijent sfortunati se jixtri l-frażi "intelliġenza artifiċjali" fid-deskrizzjoni tal-prodott u, mingħajr ma jistaqsi l-ebda mistoqsija, iqassamha lill-impjegati tiegħu bi ħlas baxx, u jordnahom jagħmlu dak li tgħid l-AI. Dan huwa eżattament dak li ġara bid-databases. Din mhix problema ta 'intelliġenza artifiċjali, jew saħansitra problema ta' softwer. Dan huwa l-fattur uman.

Konklużjoni

It-tagħlim bil-magni jista’ jagħmel kull ħaġa li tista’ tgħallem kelb – imma qatt ma tista’ tkun ċert x’għallem eżattament lill-kelb.

Ħafna drabi nħoss li t-terminu "intelliġenza artifiċjali" jfixkel biss konversazzjonijiet bħal dawn. Dan it-terminu jagħti l-impressjoni falza li fil-fatt ħloqnieha - din l-intelliġenza. Li aħna qed fi triqitna lejn HAL9000 jew Skynet - xi ħaġa li fil-fatt jifhem. Imma le. Dawn huma biss magni, u huwa ħafna aktar preċiż li jitqabblu ma ', ngħidu aħna, magna tal-ħasil. Taħsel ħafna aħjar minn bniedem, imma jekk tpoġġi l-platti fiha minflok il-londri, hi... taħsilhom. Il-platti se jsiru saħansitra nodfa. Imma dan mhux se jkun dak li stennejt, u dan mhux se jiġri għax is-sistema għandha xi preġudizzji rigward platti. Il-makna tal-ħasil ma tafx x'inhuma l-platti jew x'inhuma l-ħwejjeġ - huwa biss eżempju ta 'awtomazzjoni, kunċettwalment mhux differenti minn kif il-proċessi kienu awtomatizzati qabel.

Kemm jekk qed nitkellmu dwar karozzi, ajruplani, jew databases, dawn is-sistemi se jkunu kemm qawwija ħafna kif ukoll limitati ħafna. Se jiddependu kompletament fuq kif in-nies jużaw dawn is-sistemi, jekk l-intenzjonijiet tagħhom humiex tajbin jew ħżiena, u kemm jifhmu kif jaħdmu.

Għalhekk, li tgħid li "l-intelliġenza artifiċjali hija l-matematika, għalhekk ma jistax ikollha preġudizzji" hija kompletament falza. Iżda huwa ugwalment falz li wieħed jgħid li t-tagħlim bil-magni huwa ta’ “natura suġġettiva.” It-tagħlim bil-magni jsib mudelli fid-dejta, u liema mudelli jsib jiddependi fuq id-dejta, u d-dejta tiddependi minna. Eżatt bħal dak li nagħmlu magħhom. It-tagħlim bil-magni jagħmel xi affarijiet ħafna aħjar milli nistgħu - iżda l-klieb, pereżempju, huma ħafna aktar effettivi mill-bnedmin biex jiskopru d-droga, li mhix raġuni biex tużahom bħala xhieda u jagħmlu ġudizzji bbażati fuq ix-xhieda tagħhom. U l-klieb, mill-mod, huma ħafna aktar intelliġenti minn kwalunkwe sistema ta 'tagħlim bil-magni.

Traduzzjoni: Diana Letskaya.
Editjar: Aleksey Ivanov.
Komunità: @PonchikNews.

Sors: www.habr.com