{"id":32781,"date":"2019-10-31T21:48:54","date_gmt":"2019-10-31T18:48:54","guid":{"rendered":"https:\/\/prohoster.info\/blog\/o-predvzyatosti-iskusstvennogo-intellekta\/"},"modified":"2019-10-31T21:48:54","modified_gmt":"2019-10-31T18:48:54","slug":"o-predvzyatosti-iskusstvennogo-intellekta","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sl\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","title":{"rendered":"O pristranosti umjetne inteligencije","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"O pristranosti umjetne inteligencije\" src=\"\/wp-content\/uploads\/2019\/04\/05a731677e1231acceff953db8e1e26a.jpg\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<h2 id=\"tldr\">tl;dr:<\/h2>\n<p><\/p>\n<ul>\n<li>Strojno u\u010denje i\u0161\u010de vzorce v podatkih. Vendar pa je umetna inteligenca lahko 'pristranska' \u2013 torej najde napa\u010dne vzorce. Na primer, sistem za odkrivanje ko\u017enega raka na fotografiji lahko posebej pozorno obravnava posnetke, narejene v zdravni\u0161ki pisarni. Strojno u\u010denje ne zna <em>razumeti<\/em>: njegovi algoritmi le razkrijejo vzorce v \u0161tevilkah, in \u010de podatki niso reprezentativni, bo tudi rezultat njihove obdelave tak\u0161en. In odkrivanje takih napak je lahko zahtevno zaradi same mehanike strojenega u\u010denja. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/li>\n<li>Najbolj o\u010ditno in zastra\u0161ujo\u010de problemati\u010dno podro\u010dje je \u010dlove\u0161ka raznolikost. Obstoja mnogo razlogov, zakaj lahko podatki o ljudeh izgubijo objektivnost \u017ee v fazi zbiranja. Vendar pa ne smemo misliti, da se ta problematika nana\u0161a le na ljudi: podobne te\u017eave se pojavijo pri poskusih odkrivanja poplave v skladi\u0161\u010du ali okvarjene plinske turbine. Nekateri sistemi lahko imajo predsodke glede barve ko\u017ee, drugi pa bodo pristransko obravnavali senzorje Siemens. <\/li>\n<li>Tak\u0161ne te\u017eave niso novost za strojno u\u010denje in so zna\u010dilne dale\u010d ne le zanj. Napa\u010dne predpostavke se pojavijo v katerikoli kompleksni strukturi, in razumeti, zakaj je bilo sprejeto tak\u0161no ali druga\u010dno odlo\u010ditev, je vedno te\u017eko. Boriti se je treba s tem celovito: ustvariti orodja in procese za preverjanje \u2013 in izobra\u017eevati uporabnike, da ne sledijo slepo priporo\u010dilom AI. Strojno u\u010denje resni\u010dno opravi nekatere stvari bistveno bolje od nas \u2013 a psi so na primer mnogo u\u010dinkovitej\u0161i od ljudi pri odkrivanju drog, kar ni razlog, da bi jih pritegnili kot pri\u010de in izrekli sodbe na podlagi njihovih izjav. In psi, mimogrede, so bistveno pametnej\u0161i od katerekoli sistema strojenega u\u010denja. <\/li>\n<\/ul>\n<p>Strojno u\u010denje danes predstavlja enega najpomembnej\u0161ih temeljev tehnolo\u0161kih trendov. To je eden glavnih na\u010dinov, kako bo tehnologija spreminjala svet v naslednjem desetletju. Nekateri vidiki teh sprememb vzbujajo skrb. Na primer, potencialni vpliv strojenega u\u010denja na trg dela ali njegova uporaba za neeti\u010dne namene (na primer, avtoritarni re\u017eimi). Obstaja \u0161e en problem, ki mu je posve\u010den ta post: <strong>pristranskost umetne inteligence<\/strong>. <\/p>\n<p><\/p>\n<p>To je zapletena zgodba. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"O pristranosti umjetne inteligencije\" src=\"\/wp-content\/uploads\/2019\/04\/d692fbfff47614758ab1d8e1516b2742.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>Google-ov AI zna najti ma\u010dke. Ta novica iz leta 2012 je bila tedaj nekaj posebnega.<\/em><\/p>\n<p><\/p>\n<h2 id=\"chto-takoe-predvzyatost-ii\">Kaj je 'pristranskost AI'?<\/h2>\n<p><\/p>\n<blockquote><p><em>'Surovi podatki' so hkrati oksimoron in slaba ideja; podatke je treba dobro in skrbno pripraviti.<\/em> \u2014Jeffrey Boker <\/p><\/blockquote>\n<p>Pred letom 2013 je bilo za ustvarjanje sistema, ki, recimo, prepoznava ma\u010dke na fotografijah, potrebno opisovati logi\u010dne korake. Kako najti kote na sliki, prepoznati o\u010di, analizirati teksture za prisotnost dlake, pre\u0161teti ta\u010dke, in podobno. Nato zbrati vse komponente \u2014 in ugotoviti, da vse to pravzaprav ne deluje. Nekaj like mehani\u010dnega konja \u2014 teoreti\u010dno ga je mogo\u010de izdelati, vendar je v praksi preve\u010d zapleten za opis. Na koncu imate stotine (ali celo tiso\u010de) ro\u010dno napisanih pravil. In nobene delujo\u010de modele. <\/p>\n<p><\/p>\n<p>Z nastankom strojnega u\u010denja smo prenehali uporabljati 'ro\u010dna' pravila za prepoznavanje dolo\u010denih predmetov. Namesto tega vzamemo tiso\u010d primerkov 'ne\u010desa', X, tiso\u010d primerkov 'ne\u010desa drugega', Y, in prisilimo ra\u010dunalnik, da zgradi model na podlagi njihove statisti\u010dne analize. Nato damo temu modelu neki primer podatkov in z dolo\u010deno natan\u010dnostjo dolo\u010di, ali ustreza enemu od nizov. Strojno u\u010denje generira model na podlagi podatkov, ne pa s pomo\u010djo \u010dloveka, ki ga pi\u0161e. Rezultati so osupljivi, zlasti na podro\u010dju prepoznavanja slik in vzorcev, zato se celotna IT industrija zdaj spreminja v strojno u\u010denje (ML). <\/p>\n<p><\/p>\n<p>Toda ni vse tako enostavno. V resni\u010dnem svetu va\u0161i tiso\u010di primerkov X ali Y vsebujejo tudi A, B, J, L, O, R in celo L. Morda so neenakomerno porazdeljeni in nekateri se morda pojavljajo tako pogosto, da se sistem osredoto\u010di nanje bolj kot na objekte, ki vas zanimajo.<\/p>\n<p><\/p>\n<p>Kaj to pomeni v praksi? Moj najljub\u0161i primer je, ko sistemi za prepoznavanje slik <noindex><a rel=\"nofollow\" href=\"http:\/\/aiweirdness.com\/post\/171451900302\/do-neural-nets-dream-of-electric-sheep\">gledajo na travnato hribovje in re\u010dejo: 'ovca'<\/a><\/noindex>. Jasno je zakaj: ve\u010dina fotografij primerov 'ovca' je posneta na travnikih, kjer \u017eivijo, in na teh slikah trava zavzema veliko ve\u010d prostora kot majhni belkasti puhasti, in prav travo sistemi \u0161tejejo kot najpomembnej\u0161o. <\/p>\n<p><\/p>\n<p>So tudi resnej\u0161i primeri. Od nedavnega \u2014 en <noindex><a rel=\"nofollow\" href=\"https:\/\/www.medpagetoday.com\/dermatology\/generaldermatology\/70513\">projekat<\/a><\/noindex> o odkrivanju raka ko\u017ee na fotografijama. Ispostavilo se da dermatolozi \u010desto fotografi\u0161u lenjir zajedno sa manifestacijama raka ko\u017ee kako bi zabele\u017eili veli\u010dinu formacija. Na primerima fotografija zdrave ko\u017ee lenjira nema. Za AI sistem, takvi lenjiri (ta\u010dnije, pikseli koje odre\u0111ujemo kao \u201elenjir\u201c) postali su jedna od razlika izme\u0111u setova primera, i ponekad va\u017eniji od sitne osipe na ko\u017ei. Tako je sistem, koji je napravljen za prepoznavanje raka ko\u017ee, ponekad umesto njega prepoznavao lenjire. <\/p>\n<p><\/p>\n<p>Klju\u010dna ta\u010dka ovde je da sistem nema semanti\u010dko razumevanje onoga \u0161to gleda. Mi gledamo na skup piksela i vidimo u njima ovcu, ko\u017eu ili lenjire, dok sistem vidi samo numeri\u010dki niz. On ne vidi trodimenzionalni prostor, ne vidi ni objekte, ni teksture, ni ovce. On jednostavno vidi obrasce u podacima. <\/p>\n<p><\/p>\n<p>Slo\u017eenost dijagnostikovanja takvih problema je u tome \u0161to neuronska mre\u017ea (model koji je generisan va\u0161im sistemom ma\u0161inskog u\u010denja) consists of thousands, hundreds of thousands of nodes. Ne postoji jednostavan na\u010din da se zaviri u model i vidi kako donosi odluke. Imati takav na\u010din zna\u010dilo bi da je proces dovoljno jednostavan da bi se svi pravila mogla opisati ru\u010dno, bez kori\u0161\u0107enja ma\u0161inskog u\u010denja. Ljudi se brinu da je ma\u0161insko u\u010denje postalo neka vrsta \u201ecrne kutije\u201c. (Objaasni\u0107u kasnije za\u0161to je ovo pore\u0111enje ipak preterano.) <\/p>\n<p><\/p>\n<p>To je, u op\u0161te re\u010deno, problem pristrasnosti ve\u0161ta\u010dke inteligencije ili ma\u0161inskog u\u010denja: sistem za pronala\u017eenje obrazaca u podacima mo\u017ee pronalaziti pogre\u0161ne obrasce, a vi to mo\u017eete ne primetiti. To je fundamentalna karakteristika tehnologije i to je o\u010digledno svima koji rade s njom u nau\u010dnim krugovima i velikim tehnolo\u0161kim kompanijama. Ali njene posledice su slo\u017eene, a na\u0161a mogu\u0107a re\u0161enja tih posledica \u2014 tako\u0111e. <\/p>\n<p><\/p>\n<p>Po\u010dnimo prvo o posledicama. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"O pristranosti umjetne inteligencije\" src=\"\/wp-content\/uploads\/2019\/04\/43748412bd82ae53a9c2e47afec9c655.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>AI mo\u017ee implicitno za nas donositi odluke u korist odre\u0111enih kategorija ljudi, oslanjaju\u0107i se na mno\u0161tvo nevidljivih signala.<\/em><\/p>\n<p><\/p>\n<h2 id=\"scenarii-predvzyatosti-ii\">Slu\u010dajevi pristrasnosti AI-a<\/h2>\n<p><\/p>\n<p>Najo\u010diglednije i najzastra\u0161uju\u0107e je to \u0161to se ovaj problem mo\u017ee ispoljiti kada je re\u010d o ljudskoj raznolikosti. Nedavno <noindex><a rel=\"nofollow\" href=\"https:\/\/www.reuters.com\/article\/us-amazon-com-jobs-automation-insight\/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G\">je kru\u017eila glasina<\/a><\/noindex>, da je Amazon posku\u0161al zgraditi sistem strojnega u\u010denja za za\u010detno preverjanje kandidatov za zaposlitev. Ker je med zaposlenimi v Amazonu ve\u010d mo\u0161kih, je bilo tudi ve\u010d primerov \u00bbuspe\u0161nega zaposlovanja\u00ab mo\u0161kega spola, zato je v pregledih \u017eivljenjepisov, ki jih je predlagal sistem, bilo ve\u010d mo\u0161kih. Amazon je to opazil in sistema ni izdal v produkcijo. <\/p>\n<p><\/p>\n<p>Najpomembnej\u0161e pri tem primeru je, da je sistem, po govoricah, dajal prednost mo\u0161kim kandidatom, kljub temu da spol ni bil naveden v \u017eivljenjepisu.<strong> Sistem je opazil druge vzorce v primerih \u00bbuspe\u0161nega zaposlovanja\u00ab: na primer, \u017eenske lahko uporabljajo posebne besede za opis svojih dose\u017ekov ali imajo posebna hobija. Seveda sistem ni vedel, kaj pomeni \u00bbhokej\u00ab, kdo so \u00bbljudje\u00ab ali kaj pomeni \u00bbuspeh\u00ab \u2014 preprosto je izvajal statisti\u010dno analizo besedila.<\/strong> A vzorci, ki jih je opazil, bi verjetno ostali neopa\u017eeni s strani ljudi, nekaterih pa (na primer, da ljudje razli\u010dnih spolov razli\u010dno opisujejo uspeh) bi morda te\u017eko opazili, tudi \u010de bi jih gledali. <\/p>\n<p><\/p>\n<p>Nato postane \u0161e slab\u0161e. Sistem strojnega u\u010denja, ki zelo dobro prepoznava rak na svetli ko\u017ei, morda slab\u0161e deluje na temni ko\u017ei, ali obratno. Ne nujno zaradi pristranskosti, temve\u010d zato, ker boste verjetno morali zgraditi lo\u010den model za drugo barvo ko\u017ee, izbrati druge zna\u010dilnosti.<strong> Sistemi strojnega u\u010denja niso zamenljivi, tudi v tako ozkem podro\u010dju, kot je prepoznavanje slik.<\/strong> Prilagoditi morate sistem, v\u010dasih zgolj s poskusi in napakami, da dobro zaznate posebnosti v podatkih, ki vas zanimajo, dokler ne dose\u017eete \u017eelenega natan\u010dnega rezultata. Vendar morda ne boste opazili, da je sistem natan\u010den v 98 % primerov pri delu z eno skupino in le v 91 % (\u010deprav je to bolj natan\u010dno kot analiza, ki jo opravi \u010dlovek) \u2014 z drugo. <\/p>\n<p><\/p>\n<p>Zaenkrat sem ve\u010dinoma uporabljal primere, povezane z ljudmi in njihovimi zna\u010dilnostmi. Na to tematiko se predvsem osredoto\u010da razprava okoli te te\u017eave. Vendar je pomembno razumeti, da je pristranskost do ljudi le del problema. Uporabljali bomo strojno u\u010denje za mnoge stvari, in napaka vzor\u010denja bo relevantna pri vseh njih. Po drugi strani pa, \u010de delate z ljudmi, lahko pristranskost podatkov ni povezana z njimi. <\/p>\n<p><\/p>\n<p>Da bi to razumeli, vratimo se na primer s rakom ko\u017ee i razmotrimo tri hipoteti\u010dke mogu\u0107nosti sistemskog kvara. <\/p>\n<p><\/p>\n<ol>\n<li>Neujedna\u010dena raspodela ljudi: neuravnote\u017een broj slika ko\u017ee razli\u010ditih tonova, \u0161to dovodi do la\u017eno pozitivnih ili la\u017eno negativnih rezultata vezanih za pigmentaciju. <\/li>\n<li>Podaci na kojima se obu\u010dava sistem sadr\u017ee \u010desto prisutnu i neujedna\u010deno raspore\u0111enu osobinu, koja nije povezana s ljudima i nema dijagnosti\u010dku vrednost: lenjir na slikama manifestacija raka ko\u017ee ili trava na slikama ovaca. U tom slu\u010daju, rezultat \u0107e se razlikovati ako sistem na slici prona\u0111e \u043f\u0438\u043a\u0441\u0435\u043b\u0435 ne\u010dega \u0161to ljudsko oko prepoznaje kao 'lenjir'. <\/li>\n<li>Podaci sadr\u017ee spoljnu osobinu koju \u010dovek ne mo\u017ee videti, \u010dak i ako je tra\u017ei. <\/li>\n<\/ol>\n<p><\/p>\n<p>\u0160ta to zna\u010di? A priori znamo da podaci mogu razli\u010dito predstavljati razli\u010dite grupe ljudi, i barem mo\u017eemo planirati potragu za sli\u010dnim izuzecima. Drugim re\u010dima, postoji mno\u0161tvo dru\u0161tvenih razloga da se pretpostavi da podaci o grupama ljudi ve\u0107 sadr\u017ee odre\u0111ena predrasuda. Ako pogledamo fotografiju s lenjirom, vide\u0107emo taj lenjir \u2014 samo smo ga ranije ignorisali, znaju\u0107i da nije bitan, i zaboravili da sistemu ni\u0161ta nije poznato.<\/p>\n<p><\/p>\n<p>Ali \u0161ta ako su sve va\u0161e fotografije nezdrave ko\u017ee napravljene u kancelariji gde se koriste sijalice sa \u017earnom niti, a zdrave \u2014 pri fluorescentnom svetlu? \u0160ta ako ste, nakon snimanja zdrave ko\u017ee, pre snimanja nezdrave a\u017eurirali operativni sistem na telefonu, a Apple ili Google su malo promenili algoritam suzbijanja \u0161uma? \u010covek to ne mo\u017ee primetiti, koliko god tra\u017eio takve osobine. Ali sistem ma\u0161inskog u\u010denja odmah \u0107e to primetiti i iskoristiti. On ne zna ni\u0161ta. <\/p>\n<p><\/p>\n<p>Medtem ko smo govorili o la\u017enih korelacijah, se lahko zgodi, da so podatki to\u010dni in rezultati pravilni, vendar jih iz eti\u010dnih, pravnih ali upravljalskih razlogov no\u010dete uporabiti. V nekaterih jurisdikcijah, na primer, ni dovoljeno \u017eenskam zagotavljati popusta na zavarovanje, kljub temu da morda \u017eene vo\u017enjo obvladajo bolje. Zlahka si lahko predstavljamo sistem, ki bi \u017eenskam dodelil ni\u017eji koeficient tveganja, ko analizira zgodovinske podatke. V redu, odstranimo imena iz vzorca. A spomnite se primera z Amazonom: sistem lahko dolo\u010di spol na podlagi drugih dejavnikov (\u010deprav ne ve, kaj je spol, niti kaj je avtomobil), vi pa tega ne opazite, dokler regulator ne pregleda ponujenih tarif in vam ne nalo\u017ei kazni. <\/p>\n<p><\/p>\n<p>Nazadnje, pogosto se domneva, da bomo tak\u0161ne sisteme uporabljali le za projekte, povezane z ljudmi in socialnimi interakcijami. To ni res. \u010ce izdelujete plinske turbine, boste zagotovo \u017eeleli uporabiti strojno u\u010denje za telemetrijo, ki jo prena\u0161a deset ali ve\u010d senzorjev iz va\u0161ega izdelka (avdio, video, temperatura in vsi drugi senzorji generirajo podatke, ki jih je zelo enostavno prilagoditi za ustvarjanje modela strojnega u\u010denja). Hipoteti\u010dno lahko re\u010dete: 'Tukaj so podatki o tiso\u010d pokvarjenih turbinah, pridobljeni pred njihovo okvaro, in tukaj so podatki tiso\u010d turbin, ki se niso pokvarile. Zgradite model, da ugotovite, kak\u0161na je razlika med njimi.' Zdaj pa si predstavljajte, da so senzorji Siemens name\u0161\u010deni na 75 % slabih turbinah in le na 12 % dobrih (pri tem ni povezave z okvarami). Sistem bo zgradil model, da bi na\u0161el turbine s senzorji Siemens. Oops!<\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"O pristranosti umjetne inteligencije\" src=\"\/wp-content\/uploads\/2019\/04\/e8097e4913756fdf04826a6628bc6836.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\nSlika \u2014 Moritz Hardt, UC Berkeley<\/p>\n<p><\/p>\n<h2 id=\"upravlenie-predvzyatostyu-ii\">Upravljanje pristranskosti umetne inteligence<\/h2>\n<p><\/p>\n<p>Kaj lahko s tem naredimo? Problematiko lahko obravnamo z treh strani:<\/p>\n<p><\/p>\n<ol>\n<li>Metodolo\u0161ka strogost pri zbiranju in upravljanju podatkov za usposabljanje sistema.<\/li>\n<li>Tehni\u010dna orodja za analizo in diagnostiko vedenja modela.<\/li>\n<li>Usposabljanje, izobra\u017eevanje in previdnost pri uvajanju strojnega u\u010denja v izdelke.<\/li>\n<\/ol>\n<p><\/p>\n<p>V knjigi \u201eMe\u0161\u010dan v plemstvu\u201c Moli\u00e8ra je \u0161ala: enemu mo\u0161kemu so povedali, da se literatura deli na prozo in poezijo, in on z navdu\u0161enjem ugotavlja, da je celo \u017eivljenje govoril prozo, ne da bi to vedel. Verjetno se statistiki danes po\u010dutijo prav tako: ne da bi se tega zavedali, so svoje karriere posvetili umetni inteligenci in napaki pri izbiri vzorca. Iskanje napak pri izbiri vzorca in skrbi zaradi njih ni nov problem, preprosto moramo sistemsko pristopiti k njegovi re\u0161itvi. Kot omenjeno zgoraj, je v\u010dasih res la\u017eje to po\u010deti z raziskovanjem te\u017eav, povezanih s podatki o ljudeh. A priori predvidevamo, da imamo lahko pristranskosti glede razli\u010dnih skupin ljudi, toda pristranskost glede senzorjev Siemens si te\u017eko sploh predstavljamo.<\/p>\n<p><\/p>\n<p>Novo v tem je seveda to, da ljudje ve\u010d ne izvajajo statisti\u010dnih analiz neposredno. Te izvajajo stroji, ki ustvarjajo velike kompleksne modele, ki jih je te\u017eko razumeti. Vpra\u0161anje preglednosti je eden glavnih vidikov problema pristranskosti. Bojimo se, da sistem ni le pristranski, ampak da ni nikakr\u0161ne mo\u017enosti za odkrivanje njegove pristranskosti, in da se strojno u\u010denje v tem razlikuje od drugih oblik avtomatizacije, ki domnevno temeljijo na jasnih logi\u010dnih korakih, ki jih je mogo\u010de preveriti. <\/p>\n<p><\/p>\n<p>Tukaj sta dve te\u017eavi. Morda lahko vseeno izvedemo nekak\u0161en pregled sistemov strojnega u\u010denja. In pregled katerega koli drugega sistema v resnici ni ni\u010d la\u017eji.<\/p>\n<p><\/p>\n<p>Prvi\u010d, eno od smeri sodobnih raziskav na podro\u010dju strojnega u\u010denja je iskanje metod za ugotavljanje pomembne funkcionalnosti sistemov strojnega u\u010denja. Pri tem pa je strojno u\u010denje (v svojem trenutnem stanju) povsem nova znanstvena disciplina, ki se hitro spreminja, zato ni smiselno misliti, da danes nemogo\u010de stvari ne morejo kmalu postati povsem resni\u010dne. Projekt <noindex><a rel=\"nofollow\" href=\"https:\/\/openai.com\/\">OpenAI<\/a><\/noindex> je zanimiv temu primer. <\/p>\n<p><\/p>\n<p>Drugi\u010d, ideja, da lahko preverjamo in razumemo proces odlo\u010danja v obstoje\u010dih sistemih ali organizacijah, je dobra v teoriji, v praksi pa ni tako preprosta. Razumeti, kako se odlo\u010dajo v veliki organizaciji, ni enostavno. Tudi \u010de obstaja formalni proces odlo\u010danja, ta ne odra\u017ea, kako ljudje dejansko komunicirajo, poleg tega pogosto nimajo logi\u010dnega sistemskega pristopa k sprejemanju svojih odlo\u010ditev. Tako je dejal moj kolega <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Vijay_S._Pande\">Vijay Pandey<\/a><\/noindex>, <strong>ljudje so tudi \u010drne \u0161katle<\/strong>. <\/p>\n<p><\/p>\n<p>\u010ce vzamete tiso\u010d ljudi v ve\u010d prepletenih podjetjih in institucijah, postane problem \u0161e bolj zapleten. Po dejstvu vemo, da je bilo \u00bbSpace Shuttle\u00ab usojeno razpadati ob vra\u010danju, in posamezni ljudje znotraj NASA so imeli informacije, ki so jim dale razlog za domnevo, da se lahko zgodi kaj slabega, toda sistem <em>na splo\u0161no<\/em> tega ni vedel. NASA je ravno opravila podobno revizijo, ko je izgubila prej\u0161nji shuttle, in kljub temu je \u0161e eno izgubila \u2014 iz zelo podobnega razloga. Enostavno je trditi, da organizacije in ljudje sledijo jasnim logi\u010dnim pravilom, ki jih je mogo\u010de preveriti, razumeti in spremeniti \u2014 toda izku\u0161nje dokazujo nasprotno. To je \u00bb<noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%93%D0%BE%D1%81%D0%BF%D0%BB%D0%B0%D0%BD_%D0%A1%D0%A1%D0%A1%D0%A0\">zmota Gospana<\/a><\/noindex>\u00bb.<\/p>\n<p><\/p>\n<p><strong>Pogosto primerjam strojno u\u010denje z bazami podatkov, zlasti relacijskimi \u2014 z novo temeljno tehnologijo, ki je spremenila mo\u017enosti informatike in svet okoli nje, ki je postala del vsega, kar stalno uporabljamo, ne da bi se tega zavedali.<\/strong> Tudi v podatkovnih bazah so te\u017eave, ki so podobne: sistem je lahko zgrajen na napa\u010dnih predpostavkah ali slabih podatkih, kar je te\u017eko opaziti, ljudje, ki uporabljajo sistem, pa bodo po\u010deli, kar jim govori, ne da bi postavljali vpra\u0161anja. Obstaja kup starih \u0161alo o dav\u010dnih uslu\u017ebencih, ki so neko\u010d narobe zapisali va\u0161e ime, in prepri\u010dati jih, da popravijo napako, je veliko te\u017eje, kot pa dejansko spremeniti ime. O tem lahko razmi\u0161ljamo na razli\u010dne na\u010dine, ni pa jasno, kateri je bolj\u0161i: kot tehni\u010dna te\u017eava v SQL-u, napaka v razli\u010dici Oracle ali kot neuspeh birokratskih institucij? Kako te\u017eko je najti napako v procesu, ki je privedel do tega, da sistem nima funkcije, kot je popravilo tipkarskih napak? Ali je bilo mogo\u010de to razumeti, preden so se ljudje za\u010deli prito\u017eevati? <\/p>\n<p><\/p>\n<p>To te\u017eavo \u0161e bolj ilustrirajo zgodbe, ko vozniki zavijejo v reke zaradi zastarelih podatkov v navigaciji. V redu, karte je treba neprestano posodabljati. A koliko je TomTom odgovoren za to, da vas odnese v morje?<\/p>\n<p><\/p>\n<p>To govorim zato, ker ja \u2013 pristranskost strojnega u\u010denja bo povzro\u010dila te\u017eave. A te te\u017eave bodo podobne tistim, s katerimi smo se sre\u010dali v preteklosti, in jih bo mogo\u010de opaziti in re\u0161iti (ali pa ne) pribli\u017eno toliko, kot smo to znali v preteklosti. Zato je scenarij, v katerem bi pristranskost umetne inteligence povzro\u010dila \u0161kodo, malo verjeten z vodilnimi raziskovalci, ki delajo v veliki organizaciji. Verjetneje je, da bo nek nepomemben tehnolo\u0161ki izvajalec ali dobavitelj programske opreme napisal nekaj na hitro, z uporabo odprtokodnih komponent, knji\u017enic in orodij, ki jih ne razume. In malomarnemu kupcu bo stavek \u201eumetna inteligenca\u201c v opisu izdelka zvenel mamljivo, ter brez dodatnih vpra\u0161anj dal svojim slabo pla\u010danim delavcem, ki bodo kaznovani, \u010de ne bodo po\u010deli tega, kar jim pravi AI. To se je pravzaprav zgodilo s podatkovnimi bazami. To ni te\u017eava umetne inteligence in niti ne te\u017eava programske opreme. To je \u010dlove\u0161ki dejavnik.<\/p>\n<p><\/p>\n<h2 id=\"zaklyuchenie\">Zaklju\u010dek<\/h2>\n<p><\/p>\n<blockquote><p><em>Strojno u\u010denje lahko naredi vse, \u010desar lahko nau\u010dite psa \u2013 toda nikoli ne morete biti prepri\u010dani, \u010desa ste ga pravzaprav nau\u010dili.<\/em><\/p><\/blockquote>\n<p>Pogosto imam ob\u010dutek, da izraz \u201eumetna inteligenca\u201c le ote\u017euje pogovore, kot je ta. Ta izraz ustvarja la\u017een vtis, da smo to inteligenco dejansko ustvarili. Da smo na poti do HAL9000 ali Skyneta \u2014 do ne\u010desa, kar dejansko <em>razume<\/em>. Vendar ni tako. To so le stroji, ki jih je veliko pravilneje primerjati, recimo, s pralnim strojem. Ta se veliko bolje spoprime s pranjem kot \u010dlovek, toda \u010de vanj postavite posodo namesto perila, bo to\u2026 opralo. Posoda bo celo postala \u010dista. a to ne bo tisto, kar ste pri\u010dakovali, in to se ne bo zgodilo, ker bi sistem imel kak\u0161na vnaprej\u0161nja prepri\u010danja o posodi. Pralni stroj ne ve, kaj je posoda, in kaj obleka \u2014 to je le primer avtomatizacije, konceptualno ne druga\u010den od tiste, ki je bila uporabljena pri prej\u0161nji avtomatizaciji procesov.<\/p>\n<p><\/p>\n<p>Ne glede na to, o \u010dem gre \u2014 o strojih, letalih ali podatkovnih bazah \u2014 bodo ti sistemi hkrati zelo mo\u010dni in zelo omejeni. Popolnoma bodo odvisni od tega, kako ljudje uporabljajo te sisteme, kak\u0161ne namene imajo ob tem in koliko razumejo njihovo delovanje.<\/p>\n<p><\/p>\n<p>Zato je povsem napa\u010dno govoriti, da \u201eumetna inteligenca je matematika, zato ne more imeti predsodkov\u201c. Toda prav tako je napa\u010dno trditi, da je strojno u\u010denje \u201epo svoji naravi subjektivno\u201c. Strojno u\u010denje najde vzorce v podatkih, kateri vzorci bodo najti, pa je odvisno od podatkov, ti podatki pa so odvisni od nas. Tako kot to, kar po\u010dnemo z njimi. Strojno u\u010denje dejansko obvlada nekatere stvari veliko bolje od nas \u2014 vendar so psi, na primer, mnogo bolj u\u010dinkoviti pri odkrivanju drog kot ljudje, kar pa ni razlog, da bi jih vabili kot pri\u010de in izrekli sodbe na podlagi njihovih pri\u010devanj. In psi, mimogrede, so veliko pametnej\u0161i od katerega koli sistema strojnega u\u010denja.<\/p>\n<p><strong>Prevod:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/en\/users\/757NF\/\">Diana Leckaja<\/a><\/noindex>.<br \/>\n<strong>Uredni\u0161tvo:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">Aleksiej Ivanov<\/a><\/noindex>.<br \/>\n<strong>Skupnost:<\/strong> <noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">@PonchikNews<\/a><\/noindex>.<\/p>\n<p>Izvor: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/449224\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014\u00a0\u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":24558,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-32781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.4 - aioseo.com -->\n\t<meta name=\"description\" content=\"tl;dr: .\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/sl\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.4\" \/>\n\t\t<meta property=\"og:locale\" content=\"sl_SI\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"tl;dr: .\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/sl\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47O predsodkih umetne inteligence | ProHoster","description":"tl;dr: .","canonical_url":"https:\/\/prohoster.info\/sl\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"sl_SI","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster","og:description":"tl;dr: .","og:url":"https:\/\/prohoster.info\/sl\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T18:48:54+00:00","article:modified_time":"2019-10-31T18:48:54+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"32781","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-21 12:30:22","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 02:52:26","updated":"2026-01-21 12:30:22","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/sl\/wp-json\/wp\/v2\/posts\/32781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/sl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/sl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sl\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sl\/wp-json\/wp\/v2\/comments?post=32781"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/sl\/wp-json\/wp\/v2\/posts\/32781\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sl\/wp-json\/wp\/v2\/media\/24558"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/sl\/wp-json\/wp\/v2\/media?parent=32781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/sl\/wp-json\/wp\/v2\/categories?post=32781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/sl\/wp-json\/wp\/v2\/tags?post=32781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}