t, dr:
- Apparatus eruditionis formas in notitia quaerit. Sed intelligentia artificialis potest esse liquabilis, id est, exemplaria incorrupta. Exempli gratia, ratio detectionis cancer cutis photographica substructio specialem attentionem imaginum in officio doctoris sumit. Apparatus doctrina non potest intellegite: algorithms eius solum in numeris exemplaria cognoscere, et si notula repraesentativa non est, ita evenit processus eius. Et capiendi tales cimices possunt esse difficiles ex mechanicis machinarum discendi.
- Proxima quaestionis et difficultatis regio est hominum diversitas. Multae sunt causae quare notitia de hominibus obiectivitatem perdere potest etiam in scaena collectionis. Sed noli putare hanc quaestionem modo homines afficere: eaedem prorsus difficultates oriuntur cum diluvium in horreis vel in inanis turbine gasi deprehendere conantur. Quaedam systemata in colorem cutem vertere possunt, aliae sensoriis in Siemens inclinati erunt.
- Tales difficultates non sunt novae machinae ad discendum, et longe absunt a singulari ad eam. Iniuria suppositiones fiunt in omni structura multiplici, et intellectus cur particularis deliberatio semper difficilis sit. Hoc comprehendo modo certandum est: instrumenta et processus creo ad verificationem - et utentes educandos ut non temere suasiones AI sequantur. Apparatus eruditionis quaedam facit multo melius quam possumus - sed canes, exempli gratia, multo efficaciores sunt quam homines ad deprehendendas medicamenta, quae ratio non est ut his testibus utendi et iudicium ex eorum testimoniis faciendi. Et canes obiter multo sapiunt omni machina discendi ratione.
Apparatus discendi una ex maximis trends technologiarum fundamentalibus hodie est. Haec est una ex maioribus modis quibus technologia circa nos proximo decade mutabit. Nonnullae harum mutationum aspectus causa curationis sunt. Exempli gratia, impulsus potentiae machinae discendi in mercatu laboris, vel eius usus ad unethical usus (exempli gratia, ab auctoritate regimina). Alterum problema est quod haec inscriptiones post: artificialis intelligentia pondus.
Hoc non est facilis fabula.
Google AI felium invenire potest. Hoc nuntium e MMXII erat aliquid speciale tunc retro.
Quid est AI Bias?
Rudis notitia et oxymoronium est et mala opinio; notitia bene ac diligenter parari debet. -Gaufridus Boker
Alicubi ante 2013, ut systema quae feles in photographis agnovit, dicere debebas vestigia logica describere. Quomodo angulos in imagine invenias, oculos agnosce, texturas pro pellice analytice, pedibus computa, et sic porro. Tunc omnes partes simul pone et inveniunt eam revera non operari. Equus mechanicus multum similis - theoretice fieri potest, sed in praxi nimis implicata est describere. Finis effectus est centum (vel etiam mille) praecepta autographa. Nec unum exemplar opus.
Adveniente machina discendi, "manuale" praecepta uti desivimus ad aliquod obiectum cognoscendum. Sed mille exempla "huius", X, mille exempla "aliorum", Y accipimus, et computatorium exemplar ex statistica analysi fundatum habemus. Demus hoc exemplar aliquod specimenque notitiarum et cum quadam subtilitate decernit num unum ex institutis conveniat. Apparatus eruditionis exemplar ex notitia quam ex scripto humano generat. Eventus impressivi sunt, praesertim in campo imaginis et agnitionis exemplaris, ac propterea nunc tota technica industria ad apparatus discendi movetur (ML).
Sed non est purus. In mundo reali, milia exemplorum tuorum X vel Y continent etiam A, B, J, L, O, R, et etiam L. Hae aequaliter distribui non possunt, et quaedam tam saepe occurrunt ut systema plus reddat. operam illis magis quam rem tibi obiiciat.
Quid hoc in usu est? My favorite example is when image recognition systems . Patet quam ob rem: plurimae exempli imagines "ovis" in pratis ubi habitant, sumuntur, et in his imaginibus gramen multo maius spatium accipit quam parum oberratis albis, et herba est quam ratio principalissima considerat. .
Graviora sunt exempla. Unum recens unum ad detectionem cutis cancri in photographis. Evenit ut dermatologists ducem saepe photographicam cum manifestationibus cancri cutis ad magnitudinem formationis referret. Nullae principes sunt in exemplo imagines photographicae cutis sanae. Pro ratione AI AI, tales rectores (pressius elementa quae "principem" definimus) factae sunt inter differentias exemplorum, et interdum graviores quam parvae temere in cute. Itaque ratio facta est ad cognoscendum cancer cutis interdum rectores in loco recognovit.
Praecipuum hic est quod ratio non habet semanticam intelligentiam quid sit inspiciendum. Statutum elementa spectamus et in eis ovem, pellem vel praesidem videmus, sed ratio numeri tantum lineae est. Tria dimensionis spatium non videt, res, texturas, oves non videt. Illa exemplaria in notitia simpliciter videt.
Difficultas in talibus quaestionibus diagnoscendis est ut reticulum neurale (exemplari tuo machinae systematis discendi generatum) ex milibus centena milia nodum consisteret. Non est facilis via ad exemplar inspiciendum et perspice quomodo decernat. Habens talem viam significaret processum esse simplex satis ad omnes regulas manuales describendas, sine machina doctrina adhibita. Solliciti sunt machinam illam discendi aliquid ex arca nigra factum esse. (Quare adhuc nimium est haec comparatio paulo post expediam).
Haec generatim quaestio est studiorum in intellegentia vel machina discendi artificio: ratio inveniendi exemplaria in notitia inveniendi exemplaria prava, et non animadvertere. Hoc fundamentale notae technologiae technologiae, omnibus patet, qui cum ea in academia et in societatibus technicis magnis operantur. Sed consectaria eius implicata sunt, et nostri possibiles solutiones earum consequentium.
Primum de consequentibus fama.
AI, nobis implicite, electionem facere possumus pro aliquibus categoriis hominum, secundum magnum numerum significationum imperceptibilium.
AI Bias missiones
Haec quaestio, cum ad hominum diversitatem venerit, manifestissime ac terribiliter se manifestare potest. Nuper quod Amazon machinam discendi systema aedificare conatus est ad primum officium candidatorum protegendo. Cum inter operarios Amazonium plures sint, exempla "proscurae conductionis" saepius etiam masculina sunt, et plures viri in delectu repetium quae systema suggerunt. Amazon hoc animadvertit et systema productionis non dimisit.
Praecipuum in hoc exemplo est quod systema auditum male audit favere, non obstante quod genus in aliquam speciem non fuit. Alia ratio videbat exemplaria in exemplis "bonorum mercennariorum": exempli gratia, mulieres uti possent verbis specialibus ad artes describendas vel speciales oblectamenta habent. Scilicet, ratio ignorabat quid "hockey" esset, vel quis "populus" esset, vel quid "res" esset - statistica analysi textus simpliciter peractus est. Sed exemplaria quae vidit verisimile non latere ab hominibus, et quaedam ex illis (verbi causa quod diversi generis homines aliter res gestas narrant) difficile nobis esset fortasse videre etiam si eos inspexerimus.
Ulterior β orat. Machina systematis discendi valde bonum est ad inveniendam cancrum in cute pallida non tam in cute obscura, vel vice versa. Non necessario propter studium, sed quia probabiliter opus est ut exemplar quoddam distinctum condat pro diversa cute coloris, diversas notas eligens. Apparatus disciplinarum systemata ne in tam angusto ambitu imaginis agnitio converti nequeunt. Oportet te rationem incidere, interdum per iudicium et errorem, ut bonam manubrium liniamenta in notitia quaeris, donec subtilitatem quam vis consequi. Sed quid animadvertere licet non est accuratam rationem 98% temporis cum uno coetu, et tantum 91% (etiam accuratius quam humanam analysim) cum altero.
Hactenus ego exemplis ad homines et earum notas maxime usus sum. Disceptatio circa hanc quaestionem maxime in hoc argumento versatur. Sed interest intelligere quod inclinatio ad homines est tantum pars quaestionis. Machina eruditione multum utemur, errorque sampling ad omnes pertinebit. Contra, si cum hominibus laboras, studium in notitia ad eos referri non potest.
Ad hoc intelligendum, exemplum cancri ad cutem revertamur et consideremus tres facultates hypotheticae pro defectu systematis.
- Distributio heterogenea hominum: inaequalis numerus photographorum diversorum tonorum cutis, ducens ad negationes falsas vel positivas vel falsas propter pigmentationem.
- Notitia in qua systema instituitur frequentius occurrens et heterogeneiter distributum continet plumam quae cum hominibus non coniungitur neque valorem diagnosticum habet: princeps in photographis cancri pellis vel herbae in photographis ovium. Hoc in casu, diversum erit si elementa in imagine alicuius reperiat systema quod oculus humanus tamquam "rector" agnoscit.
- Notitia tertiam partem continet proprietatem quam homo videre non potest etiam si eam exspectet.
Quid est hoc? Scimus a priori datam esse diversos coetus hominum aliter repraesentare, et ad minimum cogitare possumus has exceptiones quaerere. Aliis verbis, multae sunt rationes sociales assumendi notitias circa coetus hominum iam aliquos pondus continere. Si imaginem photographicam principis spectemus, hunc principem videbimus - ante nos dissimulavimus, scientes quod non refert, et ratio nesciat.
Sed quid si omnes imagines tuae pestilentis pellis in officio sub candenti luce ductae sunt, et sana cutis sub fluorescenti luce deprehensa est? Quid si, postquam sanam cutem figere complesti, antequam pestilentem cutem ieceris, systema operantem in telephono tuo renovasti, et Apple vel Google sonum reductionis algorithmi leviter mutasti? Non potest hoc homo advertere, quantumvis exspectet talia. Sed ratio machinae utendi hoc statim perspiciet et utetur. Nescit aliquid.
Hactenus de spuriis correlationes locuti sumus, sed etiam fieri potuit ut notitiae accuratae sint et eventus recti sint, sed illis rationibus ethicis, legalibus, aut administratione uti non vis. Quaedam iurisdictiones, exempli gratia, mulieres in assecurationibus suis discounts accipere non permittunt, etiamsi mulieres tutiores esse possunt. Facile excogitare possumus systema quod, notitia historica analysiva, elementum periculi nominum femininorum inferiori tribuere debet. Bene, nomina e delectu tollamus. Sed memento exemplum Amazonum: ratio sexum determinare potest in aliis factoribus (quamvis nesciat quid sit genus, vel etiam quid sit currus), et hoc non animadvertebis donec moderator sanari portorias tuas analyset. offer et criminibus quam mulceretur.
Saepe denique ponitur nos tantum utamur eiusmodi systemata inceptis quae homines et interationes sociales implicant. Hoc nefas est. Si turbines gasi facis, machinam discendi telemetria traditam a decem vel centenis sensoriis in tuo producto (audio, video, temperie, et quibusvis aliis sensoriis notitias generantias quae facillime aptari possunt ad machinam eruditionis exemplar). Hypothetice, diceres: "Ecce data est ex mille turbinibus quae ante defecerunt, et hic est notitia ex mille turbinibus non deficientibus. Exemplar narrare quid intersit inter eas. Age, nunc finge sensores Siemens in 75% malorum turbines institui, et solum 12% bonorum (nulla cum defectibus connexio). Systema exemplar aedificabit ut turbines cum sensoriis Siemens inveniatur. Oops!
Picture β Moritz Hardt, UC Berkeley
Administrandi AI Bias
Quid de hoc facere possumus? Ad exitum potes accedere ex tribus angulis;
- Rigor methodologicus colligendi et administrandi notitias systematis exercendi.
- Instrumenta technica ad mores exemplar analysendas et diagnosendas.
- Proverbium est, erudire et diligenter cum apparatus doctrinarum in products exsequens.
Est iocus in libro MoliΓ¨re βThe Bourgeois in Nobilitateβ: unus homo dicebatur litteras in prosa et poetica divisas esse, et gavisus est reperire se tota vita sua prosa locutum esse, id nesciens. Hoc verisimiliter est quomodo statistici hodie sentiunt: id nescientes, gestas suas dederunt intelligentiae artificialis et erroris sampli. Errorem sampling quaerendi et sollicitudinem de ea non novam quaestionem quaerentes, solum necesse est ut eius solutionem systematice aggrediamur. Ut supra, in quibusdam quaestionibus ad homines data facilius hoc facere studet. Praeiudicia de diversis hominum coetibus habere nos a priori assumimus, sed difficile nobis est praeiudicium de Siemens sensoriis fingere.
Quid novi de his omnibus, sane, homines non iam directe analysin statisticam faciunt. Exercetur machinis quae magna et multiplicia creant exempla difficilia intellectu. Eventus diaphaneitatis principalibus rationibus problemati praeiudicii est. Timemus ne ratio non modo in promptu sit, sed nullo modo eius studium deprehendere, et machina illa discendi ab aliis formis automationis differre, quae perspicuis logicis gradibus probentur constare existimantur.
Circa primum quaeruntur duo. Possunt adhuc pergere aliqualem machinae rationum discendi genus. Et audiendi alia ratio nulla facilior est.
Uno modo, una e directionibus investigationis modernae in campo machinarum studiorum, est conquisitio methodi ad cognoscendas functiones magnas machinae systemata discendi. Quod dixit, apparatus discendi (in suo statu praesenti) est campus omnino novus scientiarum, qui cito mutatur, ideo non putes ea, quae hodie impossibilia sunt, cito fieri non posse. Project interesting exemplum huius rei est.
Secundo, quod probare et cognoscere potes processum decernendi essendi systemata seu Instituta, est bona in doctrina, sed sic in usu. Intellectus quomodo decisiones in magna ordinatione fiunt, non est facile. Etiamsi processus formalis decernendi est, non refert quomodo homines actu penitus se habeant, et ipsi saepe non habent rationem logicam, systematicam accessus ad suas decisiones faciendas. Sicut collega meus dixit , sunt etiam nigrae greges.
Accipe mille homines in pluribus societatibus et institutis imbricatis, et quaestio magis implicata fit. Scimus postquam radii Spatii reditus ad solvendum destinatum erat, et singuli intra NASA indicaverant se causam dedisse ut aliquid mali cogitandi accideret, sed ratio totius Hoc ego nesciebam. NASA etiam modo per similem computum amisso praecedente pectine abiit, et tamen alterum simili ratione amisit. Facile est arguere instituta et homines sequi claras, logicas regulas, quae probentur, cognoscuntur ac mutari possunt, experientia autem aliter probat. Hoc "".
Saepe machinam discendi cum databases, praesertim relationibus, comparavi - novam technologiam fundamentalem, quae facultates scientiarum computatrorum et circa mundum mutata est, quae pars facta est omnium, qua constanter sine anima utimur. Databases quoque difficultates habent, et similes naturae sunt: ββratio edificari potest ex malis principiis vel malis notitiis, sed difficile erit animadvertere, et populus utens ratio faciet quod sine interrogatione narrat. Multum sunt antiqui ioci de tributis, qui olim nomen tuum male tractaverunt, eosque ad errorem corrigendum multo difficilius est quam nomen tuum mutasse. Multi modi sunt de hoc cogitandum, sed non liquet quid melius sit: sicut problema technicum in SQL, vel sicut cimex in oraculo emissio, vel sicut defectus institutionum officialium? Quam difficile est invenire cimex in processu qui ratiocinationem non habens in pluma correctionis typo? Potuitne hoc figuratum fuisse priusquam homines quererentur?
Problema hoc etiam simplicius fabulis illustratur cum rectores in flumina ob datas naviganti datas inpellunt. Bene, tabulae geographicae constanter renovandae sunt. Sed quantum est TomTom reprehendere, currum tuum in mare elidi?
Causa haec est, quia sic, apparatus studiorum pondus difficultates creabit. Sed hae quaestiones similes erunt illis quae ante in praeteritum habuimus, et animadverti et solvi possunt (vel non) tum de praeterito quod potuimus. Missionem igitur in qua AI bias nocet, probabile est accidere maioribus inquisitoribus in magna ordinatione operantibus. Verisimile est, quidam vilis technologiae redemptoris seu programmator venditor aliquid super genubus scribet, utens fonte aperto componentibus, bibliothecis et instrumentis quae non intelligunt. Infelix cliens et "intellectus artificialis" in descriptione producti emet et, sine interrogatione, eam suis conductis ignobilibus distribuet, iubens ea facere quae AI dicit. Hoc exacte factum est cum databases. Hoc problema intelligentiae artificialis non est, aut etiam problema programmatis. Hoc est factor hominis.
conclusio,
Apparatus discendi quidvis potest facere quod canem docere potes - sed certo numquam potes quod canem docuisti.
Saepe placet vocabulum "intelligentiae artificialis" tantum obvium colloquiorum talium. Et hoc nomen dat falsum impressionem quod nos actu creauimus, scilicet intelligentiam. Quod sumus in nostro modo ad HAL9000 seu Skynet - aliquid actu intelligit. Sed non. Haec machinae iustae sunt, et multo accuratius comparare eas, inquam, machinae abluere. Lauandi facit multo melius quam homo, sed si lauandi acetabula in ea posueris, lavabit eas. Etiam acetabula munda erunt. Sed hoc non erit quod exspectes, et hoc non erit, quia ratio aliqua praeiudiciorum ferculorum habet. Machina lavatio nescit quae fercula sint aut quae vestes sint - tantum est exemplum automationis, ratione non differt quam processus ante automated.
Sive de carris, aΓ«ronavibus, sive de databases loquimur, haec systemata tam potentissima erit quam valde limitata. Omnino pendent quomodo homines his rationibus utantur, sive sint bonae sive malae, et quantum intellegant quomodo operantur.
Dicere ergo quod intelligentia artificialis est mathematica, unde non potest habere bipennem, est omnino falsum. Sed aeque falsum est dicere quod apparatus discendi est subjectivum in natura. Apparatus discendi exemplaria in notitia invenit, et quae exemplaria in notitia pendere invenit, et notitia ex nobis pendet. Simile quid apud illos facimus. Apparatus eruditionis quaedam facit multo melius quam possumus - sed canes, exempli gratia, multo efficaciores sunt quam homines ad deprehendendas medicamenta, quae ratio non est ut his testibus utendi et iudicium ex eorum testimoniis faciendi. Et canes obiter multo sapiunt omni machina discendi ratione.
translationem: .
Emendo: .
Communitas: .
Source: www.habr.com