{"id":32781,"date":"2019-10-31T21:48:54","date_gmt":"2019-10-31T18:48:54","guid":{"rendered":"https:\/\/prohoster.info\/blog\/o-predvzyatosti-iskusstvennogo-intellekta\/"},"modified":"2019-10-31T21:48:54","modified_gmt":"2019-10-31T18:48:54","slug":"o-predvzyatosti-iskusstvennogo-intellekta","status":"publish","type":"post","link":"https:\/\/prohoster.info\/et\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","title":{"rendered":"Tehisintellekti kallutatusest","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Tehisintellekti kallutatusest\" src=\"\/wp-content\/uploads\/2019\/04\/05a731677e1231acceff953db8e1e26a.jpg\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<h2 id=\"tldr\">tl;dr:<\/h2>\n<p><\/p>\n<ul>\n<li>Masin\u00f5pe otsib andmetes seadusp\u00e4rasid. Kuid tehisintellekt v\u00f5ib olla 'eelsoodunud' \u2014 see t\u00e4hendab, et ta v\u00f5ib leida vale mustreid. N\u00e4iteks v\u00f5ib nahav\u00e4hi tuvastamise s\u00fcsteem fotode p\u00f5hjal p\u00f6\u00f6rata erilist t\u00e4helepanu arstikabinetis tehtud piltidele. Masin\u00f5pe ei oska <em>m\u00f5ista<\/em>: selle algoritmid tuvastavad vaid seadusp\u00e4rasid numbrites, ja kui andmed ei ole esinduslikud, on ka tulemused nende t\u00f6\u00f6tlemisel sellised. Selliste vigade tabamine v\u00f5ib olla keeruline masin\u00f5ppe mehhanika enda t\u00f5ttu. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/li>\n<li>Silmatorkiv ja hirmutav probleemipiirkond on inimeste mitmekesisus. On palju p\u00f5hjuseid, miks inimandmed v\u00f5ivad kaotada objektiivsuse juba kogumise etapis. Kuid ei tasu arvata, et see probleem puudutab ainult inimesi: sama keerukused tekivad ka siis, kui p\u00fc\u00fctakse avastada \u00fcleujutust laos v\u00f5i riknenud gaasiturbiini. \u00dcks s\u00fcsteem v\u00f5ib olla nahav\u00e4rvi suhtes ettevaatlik, teine suhtuda eelarvamusega Siemens'i sensoritesse. <\/li>\n<li>Need probleemid ei ole masin\u00f5ppe jaoks uued ja ei ole iseloomulikud ainult sellele. Vale j\u00e4reldusi tehakse igasugustes keerulistes struktuurides, ja alati on raske m\u00f5ista, miks tehti teatud otsus. Selle vastu tuleb v\u00f5idelda komplekselt: luua t\u00f6\u00f6riistu ja protsesse kontrollimiseks \u2014 ning harida kasutajaid, et nad ei j\u00e4rgiks pimedaid tehisintellekti soovitusi. Masin\u00f5pe t\u00f5epoolest teeb teatud asju palju paremini kui meie \u2013 kuid koerad, n\u00e4iteks, on v\u00e4ga efektiivsed narkootikumide avastamisel, mis ei anna p\u00f5hjust neid tunnistajatena kaasata ja otsustuste tegemiseks nende \u00fctlusi kasutada. Ja koerad, muide, on palju intelligentsemad kui \u00fckski masin\u00f5ppe s\u00fcsteem. <\/li>\n<\/ul>\n<p>Masin\u00f5pe on t\u00e4na \u00fcks t\u00e4htsamaid fundamentaalseid tehnoloogilisi trende. See on \u00fcks peamisi viise, kuidas tehnoloogia j\u00e4rgmisel k\u00fcmnendil \u00fcmbritsevat maailma muutma hakkab. M\u00f5ned aspektid neist muutustest tekitavad muret. N\u00e4iteks masina\u00f5ppe v\u00f5imalik m\u00f5ju t\u00f6\u00f6turule v\u00f5i selle kasutamine ebaeetiliste eesm\u00e4rkide saavutamiseks (n\u00e4iteks autoritaarsete re\u017eiimide poolt). On veel \u00fcks probleem, mis on ka selle postituse teema: <strong>tehisintellekti eelarvamused<\/strong>. <\/p>\n<p><\/p>\n<p>See on keeruline lugu. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Tehisintellekti kallutatusest\" src=\"\/wp-content\/uploads\/2019\/04\/d692fbfff47614758ab1d8e1516b2742.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>Google'i tehisintellekt suudab leida kasse. See 2012. aasta uudis oli siis midagi erilist.<\/em><\/p>\n<p><\/p>\n<h2 id=\"chto-takoe-predvzyatost-ii\">Mis on \"tehisintellekti kallutatus\"?<\/h2>\n<p><\/p>\n<blockquote><p><em>\"Tooresandmed\" on samal ajal oks\u00fc\u00fcmoron ja halb idee; andmed tuleb korralikult ja hoolikalt ette valmistada.<\/em> \u2014Jeffrey Boker <\/p><\/blockquote>\n<p>Kuni 2013. aastani pidid te arendama s\u00fcsteemi, mis n\u00e4iteks tuvastab kassid piltidel, kirjeldama loogilisi samme. Kuidas leida pildilt nurki, tuvastada silmi, anal\u00fc\u00fcsida tekstuure karva olemasolu osas, lugeda jalgu ja nii edasi. Seej\u00e4rel tuli k\u00f5ik komponendid kokku panna \u2014 ja avastada, et see ei t\u00f6\u00f6ta. Ligikaudu nagu mehaaniline hobune \u2014 teoreetiliselt on see v\u00f5imalik teha, kuid praktikas on see liiga keeruline kirjeldamiseks. Tulemuseks olid sajad (v\u00f5i isegi tuhanded) k\u00e4sitsi kirjutatud reeglid. Ja mitte \u00fchtegi t\u00f6\u00f6tavat mudelit. <\/p>\n<p><\/p>\n<p>Masin\u00f5ppe tulekuga l\u00f5petasime \"k\u00e4sitsi\" reeglite kasutamise objekti tuvastamiseks. Selle asemel v\u00f5tame tuhat n\u00e4idist \"sellest\", X, tuhat n\u00e4idist \"teisest\", Y, ja paneme arvuti looma mudeli nende statistilise anal\u00fc\u00fcsi p\u00f5hjal. Seej\u00e4rel anname sellele mudelile n\u00e4idandi andmeid, ja see mingil m\u00e4\u00e4ral m\u00e4\u00e4rab, kas see sobib \u00fche hulga hulka. Masin\u00f5pe genereerib mudeli andmete p\u00f5hjal, mitte inimese poolt, kes selle kirjutab. Tulemused on muljetavaldavad, eriti pildituvastuse ja mustrite valdkonnas, ja seet\u00f5ttu liigub kogu tehnoloogia t\u00f6\u00f6stus praegu masin\u00f5ppe (ML) suunas. <\/p>\n<p><\/p>\n<p>Kuid mitte k\u00f5ik ei ole nii lihtne. Reaalses maailmas sisaldavad teie tuhanded X v\u00f5i Y n\u00e4idised ka A, B, J, L, O, R ja isegi L. Need v\u00f5ivad olla eba\u00fchtlaselt jaotatud, ja m\u00f5ned v\u00f5ivad esineda nii tihti, et s\u00fcsteem p\u00f6\u00f6rab neile rohkem t\u00e4helepanu kui objektidele, mis teid huvitavad.<\/p>\n<p><\/p>\n<p>Mis see praktikas t\u00e4hendab? Minu lemmikn\u00e4ide on, kui pildituvastuss\u00fcsteemid <noindex><a rel=\"nofollow\" href=\"http:\/\/aiweirdness.com\/post\/171451900302\/do-neural-nets-dream-of-electric-sheep\">vaatavad rohust k\u00fcnka ja \u00fctlevad: \"lamba\"<\/a><\/noindex>. On selge, miks: enamik \"lamba\" n\u00e4idispiltidest on tehtud niitudel, kus nad elavad, ja nendel piltidel v\u00f5tab rohi palju rohkem ruumi kui v\u00e4ikesed valged karvapallid, ning just rohtu peavad s\u00fcsteemid k\u00f5ige olulisemaks. <\/p>\n<p><\/p>\n<p>On ka t\u00f5sisemaid n\u00e4iteid. Hiljuti \u2014 \u00fcks <noindex><a rel=\"nofollow\" href=\"https:\/\/www.medpagetoday.com\/dermatology\/generaldermatology\/70513\">projekt<\/a><\/noindex> nahavade leuke nahahinguks nahahinguks. Selgus, et dermatoloogid on sageli pildistanud joonlaudu koos nahav\u00e4hi ilmingutega, et fikseerida moodustiste suurus. Terve naha fotodel joonlaid ei ole. Tehisintellekti s\u00fcsteemi jaoks on sellised joonlauad (t\u00e4psemalt, pikslid, mida me m\u00e4\u00e4ratleme kui \u201ejoonlaud\u201d) muutunud \u00fcheks erinevuseks n\u00e4idiste kogumite vahel ja m\u00f5nikord isegi olulisemaks kui v\u00e4ike nahal\u00f6\u00f6ve. Seet\u00f5ttu tuvastas nahav\u00e4hi \u00e4ratamiseks loodud s\u00fcsteem m\u00f5nikord mitte selle, vaid joonlauad. <\/p>\n<p><\/p>\n<p>Siin on v\u00f5tmepunkt see, et s\u00fcsteemil puudub semantiline arusaam sellest, mida ta vaatab. Meie vaatame piksli kogumit ja n\u00e4eme neis lammast, naha v\u00f5i joonlaudu, kuid s\u00fcsteem n\u00e4eb ainult numbrilist rida. Ta ei n\u00e4e kolmem\u00f5\u00f5tmelist ruumi, ei n\u00e4e ei objekte, ei tekstuuri, ei lambaid. Ta n\u00e4eb lihtsalt mustreid andmetes. <\/p>\n<p><\/p>\n<p>Selliste probleemide diagnoosimise keerukus seisneb selles, et n\u00e4rviv\u00f5rk (mudel, mille teie masin\u00f5ppes\u00fcsteem genereeris) koosneb tuhandetest sadadest tuhandetest s\u00f5lmedest. Pole lihtsat viisi modelisse sisse piiluda ja n\u00e4ha, kuidas ta otsuse teeb. Sellise viisi olemasolu t\u00e4hendaks, et protsess on piisavalt lihtne, et k\u00f5ik reeglid k\u00e4sitsi kirjeldada, ilma masin\u00f5pet kasutamata. Inimesed muretsevad, et masin\u00f5pe on muutunud teatud \u201emustaks karbiks\u201d. (Selgitan hiljem, miks see v\u00f5rdlus siiski \u00fclepingutatult). <\/p>\n<p><\/p>\n<p>See on, \u00fcldiselt \u00f6eldes, tehisintellekti v\u00f5i masin\u00f5ppe eelarvamusprobleem: s\u00fcsteem, mis on m\u00f5eldud andmetes mustrite leidmiseks, v\u00f5ib leida vale mustreid, mida te ei pruugi m\u00e4rgata. See on tehnoloogia fundamentaalne omadus ja see on selge k\u00f5igile, kes sellega teadusringkondades ja suurtes tehnoloogiaettev\u00f5tetes tegelevad. Kuid selle tagaj\u00e4rjed on keerulised ja meie v\u00f5imalikud lahendused nende tagaj\u00e4rgede jaoks - samuti. <\/p>\n<p><\/p>\n<p>R\u00e4\u00e4kige esmalt tagaj\u00e4rgedest. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Tehisintellekti kallutatusest\" src=\"\/wp-content\/uploads\/2019\/04\/43748412bd82ae53a9c2e47afec9c655.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>Tehisintellekt v\u00f5ib alateadlikult teha valikuid teatud inimkategooriate kasuks, tuginedes paljudele m\u00e4rkamatutele signaalidele.<\/em><\/p>\n<p><\/p>\n<h2 id=\"scenarii-predvzyatosti-ii\">Tehisintellekti eelarvamusstsenaariumid<\/h2>\n<p><\/p>\n<p>K\u00f5ige silmatorkavam ja hirmutavam on see, et see probleem v\u00f5ib ilmneneda, kui r\u00e4\u00e4gitakse inimeste mitmekesisusest. Hiljuti <noindex><a rel=\"nofollow\" href=\"https:\/\/www.reuters.com\/article\/us-amazon-com-jobs-automation-insight\/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G\">levinud kuulujutt.<\/a><\/noindex>, et Amazon \u00fcritas ehitada masin\u00f5ppes\u00fcsteemi, et esmakordselt hinnata t\u00f6\u00f6otsijaid. Kuna Amazonis on rohkem mehi, on ka \u00ab\u00f5nnestunud v\u00e4rbamise\u00bb n\u00e4idised peamiselt meeste osas ning s\u00fcsteemi pakutud CV-des oli rohkem mehi. Amazon m\u00e4rkis seda ja ei viinud s\u00fcsteemi tootmisse. <\/p>\n<p><\/p>\n<p>Selle n\u00e4ite k\u00f5ige olulisem aspekt on see, et s\u00fcsteem, kuulujuttude kohaselt, eelistas meessoost kandidaate, vaatamata sellele, et sugu ei olnud CV-des m\u00e4rgitud.<strong> S\u00fcsteem tuvastas teisi mustreid \u00ab\u00f5nnestunud v\u00e4rbamise\u00bb n\u00e4idetes: n\u00e4iteks v\u00f5ivad naised kasutada erilisi s\u00f5nu saavutuste kirjeldamiseks v\u00f5i omada spetsiifilisi hobisid. Loomulikult ei teadnud s\u00fcsteem, mis on \u00abhoki\u00bb, kes on \u00abinimesed\u00bb v\u00f5i mis on \u00abedu\u00bb \u2014 ta tegi vaid statistilist anal\u00fc\u00fcsi tekstist.<\/strong> Kuid mustrid, mida ta n\u00e4gi, oleksid t\u00f5en\u00e4oliselt inimeselt t\u00e4helepanuta j\u00e4\u00e4nud, ja m\u00f5ned neist (n\u00e4iteks et erineva soo inimesed kirjeldavad edu erinevalt) oleksime me ilmselt isegi n\u00e4hes raskendatud. <\/p>\n<p><\/p>\n<p>Edasi l\u00e4heb hullemaks. Masin\u00f5ppes\u00fcsteem, mis tuvastab v\u00e4ga h\u00e4sti v\u00e4hki heledermadel, v\u00f5ib tumedate nahkade puhul halvemini t\u00f6\u00f6tada v\u00f5i vastupidi. See ei ole tingimata eelarvamuse k\u00fcsimus, vaid seet\u00f5ttu, et t\u00f5en\u00e4oliselt peate ehitama teise nahav\u00e4rvi jaoks eraldi mudeli, valides teised omadused.<strong> Masin\u00f5ppes\u00fcsteemid ei ole omavahel asendatavad isegi nii kitsas valdkonnas nagu pildituvastus.<\/strong> Te peate s\u00fcsteemi seadistama, m\u00f5nikord lihtsalt katse-eksituse meetodil, et h\u00e4sti tuvastada huvipakkuvates andmetes esinevaid omadusi, kuni saavutate soovitud t\u00e4psuse. Kuid te ei pruugi m\u00e4rgata, et s\u00fcsteem on \u00fches grupis 98% t\u00e4pne ja teises vaid 91% (kuigi see on t\u00e4psem kui inimanal\u00fc\u00fcs). <\/p>\n<p><\/p>\n<p>Olen seni kasutanud peamiselt n\u00e4iteid, mis k\u00e4sitlevad inimesi ja nende omadusi. Selle teema \u00fcmber keskendub peamiselt arutelu. Kuid on oluline m\u00f5ista, et inimesi puudutav eelarvamuse probleem on vaid osa probleemist. Me kasutame masin\u00f5pet paljusid asju jaoks ja valimi viga on nende jaoks asjakohane. Teisest k\u00fcljest, kui t\u00f6\u00f6tate inimestega, v\u00f5ib andmete eelarvamuse t\u00f5ttu olla seotud mitte nendega. <\/p>\n<p><\/p>\n<p>Ette m\u00f5ista, naaseme nahav\u00e4hi n\u00e4ite juurde ja vaatame kolme h\u00fcpoteetilist s\u00fcsteemi rike v\u00f5imalust. <\/p>\n<p><\/p>\n<ol>\n<li>Heterogeenne inimeste jaotumine: tasakaalustamata arv nahatoonide fotosid, mis viib valepositiivsete v\u00f5i valenegatiivsete tulemusteni, mis on seotud pigmenteerimisega. <\/li>\n<li>Andmed, mille p\u00f5hjal s\u00fcsteem treenitakse, sisaldavad sageli esinevat ja heterogeenselt jaotunud omadust, mis ei ole seotud inimestega ja ei oma diagnostilist v\u00e4\u00e4rtust: joonlaud nahav\u00e4hi ilmingute fotodel v\u00f5i rohi lammaste fotodel. Sellisel juhul erineb tulemus, kui s\u00fcsteem leiab pildilt pikslid millestki, mida inimsilmal m\u00e4\u00e4ratletakse kui \u201ejoonlaud\u201c. <\/li>\n<li>Andmed sisaldavad v\u00e4liseid omadusi, mida inimene ei saa isegi otsides n\u00e4ha. <\/li>\n<\/ol>\n<p><\/p>\n<p>Mida see t\u00e4hendab? Me teame a priori, et andmed v\u00f5ivad erinevatesse inimgruppidesse erinevalt esindada, ja v\u00e4hemalt saame plaanida sarnaste erandite otsimist. Teisis\u00f5nu, on palju sotsiaalseid p\u00f5hjuseid eeldada, et andmed inimgruppide kohta sisaldavad juba mingit eelarvamust. Kui vaatame joonlauaga pilti, n\u00e4eme seda joonlauda \u2014 me lihtsalt ignoreerisime seda varem, teades, et see ei ole oluline, ja unustades, et s\u00fcsteemil pole sellest midagi ette teada.<\/p>\n<p><\/p>\n<p>Aga mis siis, kui k\u00f5ik teie ebatervisliku naha pildid on tehtud kontoris, kus kasutatakse h\u00f5\u00f5glampe, ja terve naha pildid \u2013 fluorestsentsvalgustusel? Mis siis, kui olete, enne kui hakata ebatervislikku nahka pildistama, oma telefoni ops\u00fcsteemi uuendanud ja Apple v\u00f5i Google on veidi muutnud m\u00fcra mahasurumise algoritmi? Inimene ei pruugi seda m\u00e4rgata, olenemata sellest, kui palju ta selliseid omadusi otsib. Kuid masin\u00f5ppe s\u00fcsteem n\u00e4eb seda kohe ja kasutab seda. Tal pole sellest midagi ette teada. <\/p>\n<p><\/p>\n<p>Kuigi me r\u00e4\u00e4kisime vale korrelatsioonidest, v\u00f5ib juhtuda, et andmed on t\u00e4psed ja tulemused \u00f5iged, kuid te ei soovi neid kasutada eetilistel, \u00f5iguslikel v\u00f5i juhtimis p\u00f5hjustel. Teatud jurisdiktsioonides, n\u00e4iteks, ei tohi naistele anda kindlustuse soodustusi, hoolimata sellest, et naised v\u00f5ivad olla autojuhtidena turvalisemad. Me v\u00f5ime kergesti ette kujutada s\u00fcsteemi, mis ajaloolisi andmeid anal\u00fc\u00fcsides m\u00e4\u00e4rab naistele madalama riski koefitsiendi. Okei, eemaldame nimed valimist. Kuid meenutagem Amazoni n\u00e4idet: s\u00fcsteem v\u00f5ib m\u00e4\u00e4rata soo teiste tegurite p\u00f5hjal (kuigi ta ei tea, mis on sugu, ega mis on auto), ja te ei m\u00e4rka seda, kuni regulaator anal\u00fc\u00fcsib tagantj\u00e4rele teie pakutud tariife ja m\u00e4\u00e4rab teile trahvi. <\/p>\n<p><\/p>\n<p>L\u00f5puks on sageli oletatud, et me kasutame selliseid s\u00fcsteeme ainult projektides, mis on seotud inimestega ja sotsiaalsete interaktsioonidega. Nii see ei ole. Kui teete gaasiturbine, soovite kindlasti rakendada masin\u00f5pet telemeetriasse, mida edastab k\u00fcmneid v\u00f5i sadu andureid teie tootest (audio-, video-, temperatuur- ja muud andurid genereerivad andmeid, mida on v\u00e4ga lihtne kohandada masin\u00f5ppe mudeli loomiseks). H\u00fcpot\u00fc\u00fctiliselt v\u00f5iksite \u00f6elda: \u201eSiin on andmed tuhandest rikkest v\u00e4ljunud turbinal, mis saadi enne nende riket, ja siin on andmed tuhandelt turbinalt, mis ei purunenud. Looge mudel, et \u00f6elda, mis erinevused nende vahel on.\u201c Noh, n\u00fc\u00fcd kujutage ette, et Siemens'i andurid asuvad 75% rikkes turbinitel ja ainult 12% heas (seos purunemistega puudub). S\u00fcsteem loodi mudeli, et leida turbinaid, kus on Siemens'i andurid. Ups!<\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Tehisintellekti kallutatusest\" src=\"\/wp-content\/uploads\/2019\/04\/e8097e4913756fdf04826a6628bc6836.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\nPilt \u2014 Moritz Hardt, UC Berkeley<\/p>\n<p><\/p>\n<h2 id=\"upravlenie-predvzyatostyu-ii\">AI eelarvamusjuhtimine<\/h2>\n<p><\/p>\n<p>Mida me sellega teha saame? V\u00f5ib l\u00e4heneda kolme nurga alt:<\/p>\n<p><\/p>\n<ol>\n<li>Metoodiline rangus andmete kogumisel ja haldamisel s\u00fcsteemi koolitamiseks.<\/li>\n<li>Tehnilised t\u00f6\u00f6riistad mudeli k\u00e4itumise anal\u00fc\u00fcsimiseks ja diagonaalimiseks.<\/li>\n<li>Koolitus, haridus ja ettevaatus masin\u00f5ppe rakendamisel toodetes.<\/li>\n<\/ol>\n<p><\/p>\n<p>Moli\u00e8re'i teoses \"Kodanik aadlikuks\" on nali: \u00fchele mehele r\u00e4\u00e4giti, et kirjandus jaguneb proosaks ja luuleks, ja ta avastab imetades, et on terve elu r\u00e4\u00e4kinud proosas, teadmata sellest ise. T\u00f5en\u00e4oliselt tunnevad statistikud end t\u00e4nap\u00e4eval just nii: nad on oma karj\u00e4\u00e4ri teinud tehisintellekti ja valimi vea probleemide lahendamise nimel. Valimi vea otsimine ja selle p\u00e4rast muretsemine ei ole uus probleem, peame lihtsalt s\u00fcsteemselt l\u00e4henema selle lahendamisele. Nagu \u00f6eldud, on m\u00f5nel juhul t\u00f5esti lihtsam tegeleda probleemidega, mis on seotud inimeste andmetega. Me eeldame, et meil v\u00f5ivad olla eelarvamused erinevate inimgruppide suhtes, kuid eelarvamust Siemens'i sensorite suhtes on keeruline isegi ette kujutada.<\/p>\n<p><\/p>\n<p>Uus selles k\u00f5iges on muidugi see, et inimesed ei tegele enam statistilise anal\u00fc\u00fcsiga otseselt. Selle teevad masinad, mis loovad suuri, keerulisi mudeleid, mida on raske m\u00f5ista. L\u00e4bipaistvuse k\u00fcsimus on \u00fcks peamisi eelarvamuse probleemi aspekte. Meile on hirmus, et s\u00fcsteem on mitte ainult eelarvamusega, vaid et pole mingit v\u00f5imalust selle eelarvamust avastada, ja et masin\u00f5pe erineb sellega teistest automatiseerimise vormidest, mille korral eeldatakse, et need koosnevad selgetest loogilistest sammudest, mida saab kontrollida. <\/p>\n<p><\/p>\n<p>Siin on kaks probleemi. Me saame v\u00f5ib-olla siiski teostada mingisugust masin\u00f5ppe s\u00fcsteemide auditit. Kuid mis tahes muu s\u00fcsteemi audit ei ole tegelikult sugugi lihtsam.<\/p>\n<p><\/p>\n<p>Esimene suund kaasaegses masin\u00f5ppe uurimises on meetodite leidmine, kuidas tuvastada masin\u00f5ppe s\u00fcsteemide olulist funktsionaalsust. Tuleb m\u00e4rkida, et masin\u00f5pe (oma praeguses olekus) on t\u00e4iesti uus teadusala, mis muutub kiiresti, nii et ei tasu arvata, et t\u00e4na v\u00f5imatuks peetavad asjad ei saa varsti t\u00e4iesti reaalseteks. <noindex><a rel=\"nofollow\" href=\"https:\/\/openai.com\/\">OpenAI<\/a><\/noindex> on sellele huvitav n\u00e4ide. <\/p>\n<p><\/p>\n<p>Teiseks, m\u00f5te, et saaksime kontrollida ja m\u00f5ista otsustusprotsessi olemasolevates s\u00fcsteemides v\u00f5i organisatsioonides, on teoorias hea, kuid praktikas pole see nii lihtne. Suures organisatsioonis on v\u00e4ga keeruline m\u00f5ista, kuidas tehakse otsuseid. Isegi kui seal on formaalne otsustusprotsess, ei peegelda see tegelikult seda, kuidas inimesed omavahel suhtlevad, ja tihti puudub neil endil loogiline s\u00fcsteemne l\u00e4henemine oma otsuste tegemisel. Nagu \u00fctles minu kolleeg <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Vijay_S._Pande\">Vijay Panda<\/a><\/noindex>, <strong>inimesed on ka mustad kastid<\/strong>. <\/p>\n<p><\/p>\n<p>V\u00f5tke tuhat inimest mitmest omavahel p\u00f5imunud ettev\u00f5ttest ja instituudist ning probleem muutub veelgi keerulisemaks. Me teame tagantj\u00e4rele, et 'Space Shuttle' pidi lagunema maandumisel, ja eraldi isikud NASA-s omasid teavet, mis andis neile p\u00f5hjust arvata, et v\u00f5ib juhtuda midagi halba, kuid s\u00fcsteem <em>\u00fctlemata<\/em> seda ei teadnud. NASA oli eelnevalt l\u00e4binud sarnase auditi, kaotades varasema \u0161uttli, ja ometi kaotas nad veel \u00fche \u2014 \u00fcsna sarnastel p\u00f5hjustel. On lihtne v\u00e4ita, et organisatsioonid ja inimesed j\u00e4rgivad selgeid loogilisi reegleid, mida saab kontrollida, m\u00f5ista ja muuta \u2014 kuid kogemus t\u00f5endab vastupidist. See on '<noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%93%D0%BE%D1%81%D0%BF%D0%BB%D0%B0%D0%BD_%D0%A1%D0%A1%D0%A1%D0%A0\">Gosplani eksitus<\/a><\/noindex>\u00bb.<\/p>\n<p><\/p>\n<p><strong>Ma sageli v\u00f5rdlen masin\u00f5pet andmebaasidega, eriti relatsioonilistega \u2014 uue fundamentaalse tehnoloogiaga, mis on muutnud infotehnoloogia ja selle \u00fcmber oleva maailma v\u00f5imalusi, mis on saanud osaks k\u00f5igest, mida me pidevalt kasutame, teadmata sellest.<\/strong> Andmebaasidel on ka oma probleeme, mis on sarnase iseloomuga: s\u00fcsteem v\u00f5ib olla \u00fcles ehitatud vale eelduste v\u00f5i halva teabe p\u00f5hjal, kuid seda on raske m\u00e4rgata ning s\u00fcsteemi kasutavad inimesed teevad seda, mida see neile \u00fctleb, mitte k\u00fcsimusi esitamata. On palju vanu nalju maksukontrol\u00f6\u00f6ride kohta, kes kirjas panid vale nime, ja veenda neid vea parandamises on palju keerulisem kui tegelikult nime muutmine. Sellele v\u00f5ib m\u00f5elda erinevalt, kuid ei ole selge, kuidas paremini: tehnilise probleemina SQL-is, Oracle'i v\u00e4ljaande veana v\u00f5i b\u00fcrokraatlike institutsioonide rikke t\u00f5ttu? Kui keeruline on leida viga protsessis, mis on viinud selle teadmise puudumiseni, et s\u00fcsteemil ei ole sellist funktsiooni nagu tr\u00fckivigade parandamine? Kas seda oleks saanud m\u00f5ista enne, kui inimesed hakkasid kaebama? <\/p>\n<p><\/p>\n<p>Seda probleemi on veel lihtsam illustreerida lugudega, kus juhid vananenud andmete t\u00f5ttu navigaatoris s\u00f5idavad justkui j\u00f5gedesse. Okei, kaarte tuleks pidevalt uuendada. Kuid kui palju on TomTom s\u00fc\u00fcdi selles, et sinu autot viib merre?<\/p>\n<p><\/p>\n<p>Ma \u00fctlen seda selleks, et jah - masin\u00f5ppe kallutatus toob probleeme. Kuid need probleemid on sarnased nendega, millega oleme minevikus silmitsi seisnud, ja neid on v\u00f5imalik m\u00e4rgata ja lahendada (v\u00f5i mitte) umbes sama h\u00e4sti, kui oleme minevikus suutnud. Seet\u00f5ttu on ebat\u00f5en\u00e4oline, et AI kallutatus tekitab kahju juhtivate teadlaste seas suurtes organisatsioonides. T\u00f5en\u00e4oliselt kirjutab m\u00f5ni v\u00e4heoluline tehnoloogiline allt\u00f6\u00f6v\u00f5tja v\u00f5i tarkvaram\u00fc\u00fcja midagi ajutiselt, kasutades aru saamata avatud koodiga komponente, raamatukogusid ja t\u00f6\u00f6riistu. Ja \u00e4pardunud klient usub toote kirjelduse juures v\u00e4ljendisse \"tehisintellekt\" ning jagab selle omakorda oma madalapalgalistele t\u00f6\u00f6tajatele, sundides neid tegema seda, mida AI \u00fctleb. Just seda juhtus andmebaasidega. See ei ole tehisintellekti probleem ega isegi mitte tarkvara probleem. See on inimfaktor.<\/p>\n<p><\/p>\n<h2 id=\"zaklyuchenie\">Kokkuv\u00f5te<\/h2>\n<p><\/p>\n<blockquote><p><em>Masin\u00f5pe v\u00f5ib teha k\u00f5ike, mida sa saad \u00f5petada koerale - kuid sa ei saa kunagi olla kindel, mida sul t\u00e4pselt \u00f5nnestus sellele koerale \u00f5petada.<\/em><\/p><\/blockquote>\n<p>Mulle tundub sageli, et termin \"tehisintellekt\" pigem takistab sarnaseid arutelusid. See termin loob vale mulje, nagu oleksime t\u00f5eliselt loonud selle \u2014 selle intelligentsuse. Et me oleme teel HAL9000 v\u00f5i Skyneti suunas \u2014 millegi poole, mis t\u00f5eliselt <em>m\u00f5istab<\/em>. Aga ei. Need on lihtsalt masinad, ja neid on palju \u00f5igem v\u00f5rrelda n\u00e4iteks pesumasinaga. Pesumasin teeb pesu palju paremini kui inimene, kuid kui sa paned sellesse n\u00f5ud pesu asemel, siis pesumasin\u2026 peseb need. N\u00f5ud saavad isegi puhtaks. Kuid see ei ole see, mida sa ootasid, ja see juhtub mitte sellep\u00e4rast, et s\u00fcsteemil oleks n\u00f5ude suhtes mingisuguseid eelarvamusi. Pesumasin ei tea, mis on n\u00f5ud ja mis on riided \u2014 see on lihtsalt automatiseerimise n\u00e4ide, m\u00f5istetavalt ei erine see sellest, kuidas protsesse varem automatiseeriti.<\/p>\n<p><\/p>\n<p>Millest iganes r\u00e4\u00e4gitakse \u2014 oli see siis masinad, lennukid v\u00f5i andmebaasid \u2014 need s\u00fcsteemid on samal ajal v\u00e4ga v\u00f5imsad ja v\u00e4ga piiratud. Need s\u00f5ltuvad t\u00e4ielikult sellest, kuidas inimesed neid s\u00fcsteeme kasutavad, olgu nende kavatsused head v\u00f5i halvad, ja kui h\u00e4sti nad m\u00f5istavad nende toimimist.<\/p>\n<p><\/p>\n<p>Seet\u00f5ttu on vale \u00f6elda, et \"tehisintellekt on matemaatika, seega ei saa tal olla eelarvamusi.\" Kuid sama vale on v\u00e4ita, et masin\u00f5pe on \"loomult subjektiivne\". Masin\u00f5pe leiab andmetest mustreid, ja milliseid mustreid ta leiab, s\u00f5ltub andmetest, mis omakorda s\u00f5ltuvad meist. Nii nagu meiega nende andmetega juhtub. Masin\u00f5pe teeb t\u00f5epoolest m\u00f5ned asjad meist palju paremini, \u2014 kuid n\u00e4iteks koerad on palju efektiivsemad narkootikumide avastamises kui inimesed, mis ei \u00f5igusta nende kaasamist tunnistajatena ja otsuste tegemist nende \u00fctluste p\u00f5hjal. Ja koerad, muide, on palju intelligentsemad kui \u00fckski masin\u00f5ppes\u00fcsteem.<\/p>\n<p><strong>T\u00f5lge:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/en\/users\/757NF\/\">Diana Leetskaja<\/a><\/noindex>.<br \/>\n<strong>Toimetamine:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">Aleksei Ivanov<\/a><\/noindex>.<br \/>\n<strong>Kogukond:<\/strong> <noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">@PonchikNews<\/a><\/noindex>.<\/p>\n<p>Allikas: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/449224\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014\u00a0\u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":24558,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-32781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.1.1 - aioseo.com -->\n\t<meta name=\"description\" content=\"tl;dr: .\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/et\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.1.1\" \/>\n\t\t<meta property=\"og:locale\" content=\"et_EE\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"tl;dr: .\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/et\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Tehisintellekti eelarvamustest | ProHoster","description":"tl;dr: .","canonical_url":"https:\/\/prohoster.info\/et\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"et_EE","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster","og:description":"tl;dr: .","og:url":"https:\/\/prohoster.info\/et\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T18:48:54+00:00","article:modified_time":"2019-10-31T18:48:54+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"32781","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-21 12:30:22","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 02:52:26","updated":"2026-01-21 12:30:22","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/et\/wp-json\/wp\/v2\/posts\/32781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/et\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/et\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/et\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/et\/wp-json\/wp\/v2\/comments?post=32781"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/et\/wp-json\/wp\/v2\/posts\/32781\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/et\/wp-json\/wp\/v2\/media\/24558"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/et\/wp-json\/wp\/v2\/media?parent=32781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/et\/wp-json\/wp\/v2\/categories?post=32781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/et\/wp-json\/wp\/v2\/tags?post=32781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}