{"id":32781,"date":"2019-10-31T21:48:54","date_gmt":"2019-10-31T18:48:54","guid":{"rendered":"https:\/\/prohoster.info\/blog\/o-predvzyatosti-iskusstvennogo-intellekta\/"},"modified":"2019-10-31T21:48:54","modified_gmt":"2019-10-31T18:48:54","slug":"o-predvzyatosti-iskusstvennogo-intellekta","status":"publish","type":"post","link":"https:\/\/prohoster.info\/da\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","title":{"rendered":"Om bias i kunstig intelligens","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Om bias i kunstig intelligens\" src=\"\/wp-content\/uploads\/2019\/04\/05a731677e1231acceff953db8e1e26a.jpg\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<h2 id=\"tldr\">tl;dr:<\/h2>\n<p><\/p>\n<ul>\n<li>Maskinl\u00e6ring s\u00f8ger m\u00f8nstre i data. Men kunstig intelligens kan v\u00e6re 'biased' \u2014 det vil sige, finde forkerte m\u00f8nstre. For eksempel kan et system til at opdage hudkr\u00e6ft fra billeder l\u00e6gge s\u00e6rlig v\u00e6gt p\u00e5 billeder taget i en l\u00e6gepraksis. Maskinl\u00e6ring kan ikke <em>forst\u00e5<\/em>: dens algoritmer identificerer kun m\u00f8nstre i tal, og hvis dataene ikke er repr\u00e6sentative, vil resultatet af behandlingen ogs\u00e5 v\u00e6re det. At fange s\u00e5danne fejl kan v\u00e6re sv\u00e6rt p\u00e5 grund af selve mekanikken i maskinl\u00e6ring. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/li>\n<li>Det mest \u00e5benlyse og skr\u00e6mmende problemomr\u00e5de er menneskelig mangfoldighed. Der er mange grunde til, at data om mennesker kan miste objektivitet allerede i indsamlingens fase. Men man skal ikke tro, at dette problem kun vedr\u00f8rer mennesker: lignende vanskeligheder opst\u00e5r, n\u00e5r man fors\u00f8ger at opdage en oversv\u00f8mmelse p\u00e5 et lager eller en defekt gas turbine. Nogle systemer kan have fordomme mod hudfarve, mens andre vil v\u00e6re biased over for Siemens sensorer. <\/li>\n<li>S\u00e5danne problemer er ikke nye for maskinl\u00e6ring, og de er ikke kun kendetegnende for det. Forkerte antagelser g\u00f8res i enhver kompleks struktur, og det er altid sv\u00e6rt at forst\u00e5, hvorfor en beslutning blev truffet. Dette skal tackles holistisk: skabe v\u00e6rkt\u00f8jer og processer til validering \u2014 samt uddanne brugerne, s\u00e5 de ikke blindt f\u00f8lger AI's anbefalinger. Maskinl\u00e6ring g\u00f8r bestemt nogle ting meget bedre end os \u2014 men hunde, for eksempel, er langt mere effektive end mennesker til at opdage stoffer, hvilket slet ikke er en grund til at bruge dem som vidner og afsige domme baseret p\u00e5 deres udsagn. Og hunde, for at sige det, er meget klogere end noget system for maskinl\u00e6ring. <\/li>\n<\/ul>\n<p>Maskinl\u00e6ring er i dag en af de vigtigste fundamentale teknologiske trends. Det er en af de prim\u00e6re m\u00e5der, hvorp\u00e5 teknologien vil \u00e6ndre verden i det kommende \u00e5rti. Nogle aspekter af disse \u00e6ndringer v\u00e6kker bekymring. For eksempel den potentielle indvirkning af maskinl\u00e6ring p\u00e5 arbejdsmarkedet, eller dens anvendelse til uetiske form\u00e5l (lad os sige, autorit\u00e6re regime). Der er et andet problem, som dette indl\u00e6g handler om: <strong>fordom om kunstig intelligens<\/strong>. <\/p>\n<p><\/p>\n<p>Det er en kompleks historie. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Om bias i kunstig intelligens\" src=\"\/wp-content\/uploads\/2019\/04\/d692fbfff47614758ab1d8e1516b2742.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>Google's AI kan finde katte. Denne nyhed fra 2012 var dengang noget s\u00e6rligt.<\/em><\/p>\n<p><\/p>\n<h2 id=\"chto-takoe-predvzyatost-ii\">Hvad er \"AI-bias\"?<\/h2>\n<p><\/p>\n<blockquote><p><em>\"R\u00e5data\" er b\u00e5de et oksymoron og en d\u00e5rlig id\u00e9; data skal forberedes godt og omhyggeligt.<\/em> - Jeffrey Boker <\/p><\/blockquote>\n<p>Indtil omkring 2013, for at lave et system, der for eksempel kunne genkende katte p\u00e5 billeder, var man n\u00f8dt til at beskrive logiske skridt. Hvordan finder man hj\u00f8rner i billedet, genkender \u00f8jne, analyserer teksturer for pels, t\u00e6ller poter, og s\u00e5 videre. Derefter skulle alle komponenterne samles \u2014 og man opdagede, at det hele ikke rigtig fungerede. Omtrent som en mekanisk hest \u2014 den kan teoretisk set laves, men i praksis er den for kompleks at beskrive. Resultatet var hundreder (eller endda tusinder) af h\u00e5ndskrevne regler. Og ingen fungerende model. <\/p>\n<p><\/p>\n<p>Med introduktionen af maskinl\u00e6ring stoppede vi med at bruge \"manuelle\" regler til at genkende forskellige objekter. I stedet tager vi tusind pr\u00f8ver af \"det\", X, tusind pr\u00f8ver af \"det andet\", Y, og tvinger computeren til at bygge en model baseret p\u00e5 deres statistiske analyse. S\u00e5 giver vi denne model et eksempel p\u00e5 data, og den bestemmer med en vis n\u00f8jagtighed, om det passer til et af s\u00e6ttene. Maskinl\u00e6ring genererer en model baseret p\u00e5 data, og ikke ved at mennesket skriver den. Resultaterne er imponerende, is\u00e6r inden for billedgenkendelse og m\u00f8nstergenkendelse, og det er derfor, hele tech-industrien nu skifter til maskinl\u00e6ring (ML). <\/p>\n<p><\/p>\n<p>Men alt er ikke s\u00e5 simpelt. I den virkelige verden indeholder dine tusind eksempler af X eller Y ogs\u00e5 A, B, J, L, O, R og endda L. De kan v\u00e6re uj\u00e6vnt fordelt, og nogle af dem kan forekomme s\u00e5 ofte, at systemet vil l\u00e6gge mere v\u00e6gt p\u00e5 dem end p\u00e5 de objekter, du er interesseret i.<\/p>\n<p><\/p>\n<p>Hvad betyder det i praksis? Mit yndlingseksempel er, n\u00e5r billedgenkendelsessystemer <noindex><a rel=\"nofollow\" href=\"http:\/\/aiweirdness.com\/post\/171451900302\/do-neural-nets-dream-of-electric-sheep\">ser p\u00e5 en gr\u00e6sbevokset bakke og siger: \"f\u00e5r\"<\/a><\/noindex>. Det giver mening, fordi st\u00f8rstedelen af billederne af \"f\u00e5r\" er taget p\u00e5 enge, hvor de lever, og p\u00e5 disse billeder fylder gr\u00e6sset langt mere end de sm\u00e5, hvide, fluffy dyr, og det er gr\u00e6sset, som systemerne betragter som det vigtigste. <\/p>\n<p><\/p>\n<p>Der er alvorligere eksempler. For nylig - en <noindex><a rel=\"nofollow\" href=\"https:\/\/www.medpagetoday.com\/dermatology\/generaldermatology\/70513\">projekt<\/a><\/noindex> vedr\u00f8rende hudkr\u00e6ft p\u00e5 fotografier. Det viste sig, at dermatologer ofte fotograferer en lineal sammen med manifestationerne af hudkr\u00e6ft for at fastsl\u00e5 st\u00f8rrelsen af dannelserne. I eksempler med billeder af sund hud er der ingen linealer. For AI-systemet blev disse linealer (n\u00e6rmere bestemt de pixels, vi identificerer som 'lineal') en af de forskelle mellem s\u00e6t af eksempler, og nogle gange vigtigere end et lille udsl\u00e6t p\u00e5 huden. S\u00e5ledes kunne systemet, der var oprettet til at genkende hudkr\u00e6ft, nogle gange identificere linealer i stedet for det. <\/p>\n<p><\/p>\n<p>Det centrale her er, at systemet ikke har en semantisk forst\u00e5else af, hvad det ser p\u00e5. Vi ser p\u00e5 et s\u00e6t pixels og ser f\u00e5r, hud eller linealer, mens systemet kun ser en numerisk streng. Det kan ikke se det tredimensionelle rum, det kan ikke se hverken objekter, teksturer eller f\u00e5r. Det ser bare m\u00f8nstre i dataene. <\/p>\n<p><\/p>\n<p>Sv\u00e6rdigheden ved at diagnosticere s\u00e5danne problemer er, at neurale netv\u00e6rk (modellen genereret af dit machine learning-system) best\u00e5r af tusindvis af hundredtusinder af noder. Der er ingen enkel m\u00e5de at kigge ind i modellen og se, hvordan den tr\u00e6ffer beslutninger. At have en s\u00e5dan m\u00e5de ville betyde, at processen er enkel nok til at beskrive alle regler manuelt uden brug af maskinl\u00e6ring. Folk er bekymrede for, at maskinl\u00e6ring er blevet en form for 'black box'. (Jeg vil senere forklare, hvorfor denne sammenligning m\u00e5ske er en overdrivelse.) <\/p>\n<p><\/p>\n<p>Dette er, i grove tr\u00e6k, problemet med bias i kunstig intelligens eller maskinl\u00e6ring: et system til at finde m\u00f8nstre i data kan finde forkerte m\u00f8nstre, og du kan derfor overse det. Det er en grundl\u00e6ggende egenskab ved teknologien, og det er \u00e5benlyst for alle, der arbejder med den i videnskabelige kredse og store teknologiske virksomheder. Men dens konsekvenser er komplekse, og vores mulige l\u00f8sninger til disse konsekvenser er ogs\u00e5. <\/p>\n<p><\/p>\n<p>Lad os f\u00f8rst tale om konsekvenserne. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Om bias i kunstig intelligens\" src=\"\/wp-content\/uploads\/2019\/04\/43748412bd82ae53a9c2e47afec9c655.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>AI kan implicit tr\u00e6ffe valg til fordel for bestemte grupper af mennesker baseret p\u00e5 mange usynlige signaler.<\/em><\/p>\n<p><\/p>\n<h2 id=\"scenarii-predvzyatosti-ii\">Scenarier med AI-bias.<\/h2>\n<p><\/p>\n<p>Det mest \u00e5benbare og skr\u00e6mmende er, at dette problem kan manifestere sig, n\u00e5r det handler om menneskelig mangfoldighed. Nyligt <noindex><a rel=\"nofollow\" href=\"https:\/\/www.reuters.com\/article\/us-amazon-com-jobs-automation-insight\/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G\">har der v\u00e6ret rygter.<\/a><\/noindex>, at Amazon attempted to build a machine learning system for initial screening of job candidates. Since there are more men among Amazon's employees, the examples of 'successful hiring' also tend to be more male, and there were more men in the resumes suggested by the system. Amazon noticed this and did not launch the system into production. <\/p>\n<p><\/p>\n<p>The most important part of this example is that the system, reportedly, favored male candidates, even though gender was not indicated in the resumes.<strong> The system saw different patterns in the examples of 'successful hiring': for instance, women might use specific words to describe achievements or have unique hobbies. Of course, the system did not know what 'hockey' was, nor who 'people' were, nor what 'success' meant \u2014 it simply performed a statistical analysis of the text.<\/strong> However, the patterns it identified would likely have gone unnoticed by a human, and some of them (such as the difference in how people of different genders describe success) would probably be difficult for us to see, even if we looked at them. <\/p>\n<p><\/p>\n<p>Things only get worse from here. A machine learning system that excels at detecting cancer on light skin may perform poorly on dark skin, or vice versa. Not necessarily due to bias, but because you likely need to build a separate model for different skin colors, selecting distinct characteristics.<strong> Machine learning systems are not interchangeable even in such a narrow field as image recognition.<\/strong> You need to tune the system, sometimes simply through trial and error, to capture the nuances in the data you're interested in until you achieve the desired accuracy. But you might not notice that the system is accurate 98% of the time with one group and only 91% of the time (though it\u2019s more accurate than human analysis) with another. <\/p>\n<p><\/p>\n<p>So far, I have mainly used examples related to people and their characteristics. This is the focus of the discussion surrounding this issue. However, it is important to understand that bias against people is just one part of the problem. We will use machine learning for many things, and sample error will be relevant for all of them. On the other hand, if you are working with people, data bias may not be related to them. <\/p>\n<p><\/p>\n<p>For at forst\u00e5 dette, lad os vende tilbage til eksemplet med hudkr\u00e6ft og overveje tre hypotetiske m\u00e5der, hvorp\u00e5 systemet kan fejle. <\/p>\n<p><\/p>\n<ol>\n<li>Uj\u00e6vnt fordelt befolkning: en ubalanceret m\u00e6ngde billeder af hud i forskellige nuancer, hvilket f\u00f8rer til falsk positive eller falsk negative resultater relateret til pigmentering. <\/li>\n<li>Dataene, som systemet tr\u00e6nes p\u00e5, indeholder en hyppigt forekommende og uj\u00e6vnt distribueret egenskab, der ikke relaterer sig til personer og ikke har diagnostisk v\u00e6rdi: en lineal p\u00e5 billeder af hudkr\u00e6ft eller gr\u00e6s p\u00e5 billeder af f\u00e5r. I dette tilf\u00e6lde vil resultatet variere, hvis systemet p\u00e5 billedet finder pixels af noget, som det menneskelige \u00f8je ville identificere som \"en lineal.\" <\/li>\n<li>Dataene indeholder en ekstern egenskab, som en person ikke kan se, selv n\u00e5r de s\u00f8ger efter den. <\/li>\n<\/ol>\n<p><\/p>\n<p>Hvad betyder det? Vi ved a priori, at dataene kan repr\u00e6sentere forskellige grupper af mennesker p\u00e5 forskellige m\u00e5der, og som minimum kan vi planl\u00e6gge at lede efter s\u00e5danne undtagelser. Med andre ord er der mange sociale grunde til at antage, at data om grupper af mennesker allerede b\u00e6rer en del fordomme. Hvis vi ser p\u00e5 et billede med en lineal, vil vi se denne lineal \u2014 vi har blot ignoreret den tidligere, idet vi vidste, at den ikke betyder noget, og glemt, at systemet ikke ved noget.<\/p>\n<p><\/p>\n<p>Men hvad hvis alle dine billeder af usund hud er taget p\u00e5 et kontor, hvor der bruges gl\u00f8delamper, mens sunde billeder er taget under fluorescerende lys? Hvad hvis, efter at have afsluttet optagelserne af sund hud, du opdaterede styresystemet p\u00e5 din telefon, og Apple eller Google l\u00f8bende \u00e6ndrede algoritmen for st\u00f8jreduktion? En person kan ikke l\u00e6gge m\u00e6rke til dette, uanset hvor meget de s\u00f8ger efter s\u00e5danne tr\u00e6k. Men systemet for maskinel brug vil straks se og udnytte dette. Det ved ikke noget. <\/p>\n<p><\/p>\n<p>Selv om vi talte om falske korrelationer, kan det ogs\u00e5 ske, at b\u00e5de dataene er korrekte, og resultaterne er rigtige, men at du ikke \u00f8nsker at bruge dem af etiske, juridiske eller ledelsesm\u00e6ssige grunde. I nogle jurisdiktioner, for eksempel, kan man ikke tilbyde kvinder rabatter p\u00e5 forsikringer, selvom kvinder m\u00e5ske k\u00f8rer mere sikkert. Vi kan let forestille os et system, der ved analyse af historiske data tildeler kvindelige navne en lavere risikofaktor. Okay, lad os fjerne navnene fra udvalget. Men husk eksemplet med Amazon: systemet kan identificere k\u00f8nnet ud fra andre faktorer (selvom det ikke ved, hvad k\u00f8n er, eller hvad en bil er), og du vil ikke bem\u00e6rke det, f\u00f8r en regulator bagudser analyserer de priser, du tilbyder, og p\u00e5l\u00e6gger dig en b\u00f8de. <\/p>\n<p><\/p>\n<p>Endelig antages det ofte, at vi kun vil bruge s\u00e5danne systemer til projekter, der involverer mennesker og sociale interaktioner. Det er ikke tilf\u00e6ldet. Hvis du laver gasturbiner, vil du h\u00f8jst sandsynligt anvende maskinl\u00e6ring p\u00e5 den telemetri, der sendes af snesevis eller hundreder af sensorer p\u00e5 dit produkt (audio-, video-, temperatur- og alle andre sensorer genererer data, som kan tilpasses meget let til at skabe en maskinl\u00e6ringsmodel). Hypotetisk set kan du sige: \"Her er data om tusinde defekte turbiner, indsamlet f\u00f8r deres nedbrud, og her er data fra tusinde turbiner, der ikke gik i stykker. Byg en model for at finde ud af, hvad forskellen mellem dem er.\" Nu forestil dig, at Siemens-sensorerne findes p\u00e5 75% af de d\u00e5rlige turbiner og kun 12% af de gode (uden forbindelse til fejlene). Systemet vil lave en model for at finde turbiner med Siemens-sensorer. Ups!<\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Om bias i kunstig intelligens\" src=\"\/wp-content\/uploads\/2019\/04\/e8097e4913756fdf04826a6628bc6836.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\nBillede - Moritz Hardt, UC Berkeley<\/p>\n<p><\/p>\n<h2 id=\"upravlenie-predvzyatostyu-ii\">Styring af AI-bias<\/h2>\n<p><\/p>\n<p>Hvad kan vi g\u00f8re ved det? Vi kan n\u00e6rme os sp\u00f8rgsm\u00e5let fra tre sider:<\/p>\n<p><\/p>\n<ol>\n<li>Metodologisk strenghed ved indsamling og ledelse af data til tr\u00e6ning af systemet.<\/li>\n<li>Tekniske v\u00e6rkt\u00f8jer til analyse og diagnose af modellens adf\u00e6rd.<\/li>\n<li>Tr\u00e6ning, uddannelse og forsigtighed ved implementering af maskinl\u00e6ring i produkter.<\/li>\n<\/ol>\n<p><\/p>\n<p>I bogen \"Borger i adelen\" af Moli\u00e8re er der en vittighed: en mand f\u00e5r at vide, at litteraturen opdeles i prosa og poesi, og han opdager beundret, at han hele sit liv har talt prosa uden at vide det. M\u00e5ske f\u00f8ler statistikere sig p\u00e5 samme m\u00e5de i dag: uden at v\u00e6re klar over det har de viet deres karrierer til kunstig intelligens og stikpr\u00f8vefejl. At s\u00f8ge efter stikpr\u00f8vefejl og v\u00e6re bekymret over dem er ikke et nyt problem; vi skal bare systematisk tilg\u00e5 dets l\u00f8sning. Som n\u00e6vnt tidligere er det i nogle tilf\u00e6lde faktisk lettere at studere problemer relateret til data om mennesker. Vi antager a priori, at vi kan have fordomme mod forskellige grupper af mennesker, men at have fordomme imod Siemens-sensorer kan vi n\u00e6sten ikke forestille os.<\/p>\n<p><\/p>\n<p>Det nye i alt dette er selvf\u00f8lgelig, at folk ikke l\u00e6ngere laver statistisk analyse direkte. Det udf\u00f8res af maskiner, der skaber store komplekse modeller, som er sv\u00e6re at forst\u00e5. Sp\u00f8rgsm\u00e5let om gennemsigtighed er et af de grundl\u00e6ggende aspekter af problemet med bias. Vi er bange for, at systemet ikke blot er biased, men at der ikke er nogen mulighed for at opdage dets bias, og at maskinl\u00e6ring adskiller sig fra andre former for automatisering, som angiveligt best\u00e5r af klare logiske trin, der kan kontrolleres. <\/p>\n<p><\/p>\n<p>Der er to problemer her. Vi kan muligvis stadig udf\u00f8re en form for revision af maskinl\u00e6ringssystemer. Og revision af ethvert andet system er faktisk ikke lettere.<\/p>\n<p><\/p>\n<p>For det f\u00f8rste er en af retningerne inden for moderne forskning i maskinl\u00e6ring at finde metoder til at identificere vigtig funktionalitet i maskinl\u00e6ringssystemer. Maskinl\u00e6ring (i sin nuv\u00e6rende tilstand) er et helt nyt videnskabsomr\u00e5de, der hurtigt \u00e6ndrer sig, s\u00e5 man skal ikke tro, at umulige ting i dag ikke snart kan blive ganske reelle. Projekt <noindex><a rel=\"nofollow\" href=\"https:\/\/openai.com\/\">OpenAI<\/a><\/noindex> er et interessant eksempel p\u00e5 dette. <\/p>\n<p><\/p>\n<p>For det andet er ideen om, at man kan unders\u00f8ge og forst\u00e5 beslutningsprocessen i eksisterende systemer eller organisationer, god i teorien, men ikke s\u00e5 god i praksis. At forst\u00e5, hvordan beslutninger tr\u00e6ffes i en stor organisation, er slet ikke nemt. Selvom der findes en formel beslutningsproces, afspejler den ikke, hvordan folk faktisk interagerer, og de har ofte ikke en logisk systematisk tilgang til deres beslutningstagning. Som min kollega sagde <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Vijay_S._Pande\">Vijay Pande<\/a><\/noindex>, <strong>mennesker er ogs\u00e5 sorte bokse<\/strong>. <\/p>\n<p><\/p>\n<p>Tag tusind mennesker fra flere overlappende virksomheder og institutioner, og problemet bliver endnu mere komplekst. Vi ved i eftertid, at 'Space Shuttle' var d\u00f8mt til at dele sig under reentry, og enkeltpersoner inden for NASA havde information, der gav dem grund til at tro, at noget d\u00e5rligt kunne ske, men systemet <em>vidste ikke dette generelt.<\/em> NASA havde endda lige gennemg\u00e5et en lignende revision, efter at have mistet den tidligere shuttle, og alligevel mistede de endnu en - af en meget lignende \u00e5rsag. Det er let at p\u00e5st\u00e5, at organisationer og mennesker f\u00f8lger klare logiske regler, der kan verificeres, forst\u00e5s og \u00e6ndres - men erfaring viser det modsatte. Dette er '<noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%93%D0%BE%D1%81%D0%BF%D0%BB%D0%B0%D0%BD_%D0%A1%D0%A1%D0%A1%D0%A0\">Gosplan-fejlen<\/a><\/noindex>\u00bb.<\/p>\n<p><\/p>\n<p><strong>Jeg sammenligner ofte maskinl\u00e6ring med databaser, is\u00e6r relationelle - en ny grundl\u00e6ggende teknologi, der \u00e6ndrede mulighederne inden for databehandling og den verden, der omgiver den, som er blevet en del af alt, som vi kontinuerligt bruger, uden at vi er klar over det.<\/strong> Ogs\u00e5 databaser har problemer, og de er af samme art: Systemet kan v\u00e6re bygget p\u00e5 falske antagelser eller d\u00e5rlige data, men det vil v\u00e6re sv\u00e6rt at opdage, og folk, der bruger systemet, vil g\u00f8re, hvad det siger, uden at stille sp\u00f8rgsm\u00e5l. Der er mange gamle vittigheder om skattearbejdere, der engang forkert skrev dit navn, og at overbevise dem om at rette fejlen er langt mere kompliceret, end det faktisk ville v\u00e6re at \u00e6ndre navnet. Man kan t\u00e6nke p\u00e5 det p\u00e5 forskellige m\u00e5der, men det er uklart, hvad der er bedst: som et teknisk problem i SQL, eller som en fejl i en Oracle-udgivelse, eller som et sammenbrud i bureaukratiske institutioner? Hvor sv\u00e6rt er det at finde en fejl i en proces, der har f\u00f8rt til, at systemet ikke har en funktion til at rette stavefejl? Kunne man have forst\u00e5et dette, f\u00f8r folk begyndte at klage? <\/p>\n<p><\/p>\n<p>Denne problemstilling illustreres endnu nemmere med historier om chauff\u00f8rer, der havner i floder p\u00e5 grund af for\u00e6ldede data i navigationssystemet. Okay, kortene skal opdateres konstant. Men hvor meget er TomTom skyld i, at din bil bliver skyllet ud i havet?<\/p>\n<p><\/p>\n<p>Jeg siger dette for at understrege, at ja - bias i maskinl\u00e6ring vil skabe problemer. Men disse problemer vil v\u00e6re ligesom dem, vi har m\u00f8dt f\u00f8r, og de vil kunne opdages og l\u00f8ses (eller ikke) omtrent lige s\u00e5 godt, som vi har v\u00e6ret i stand til det tidligere. Derfor er et scenarie, hvor AI-bias skader, n\u00e6ppe sandsynligt blandt de f\u00f8rende forskere, der arbejder i store organisationer. Det er mere sandsynligt, at en lille, uv\u00e6sentlig teknologisk leverand\u00f8r eller softwareleverand\u00f8r vil skrive noget hastigt og uden klart at forst\u00e5 de open-source komponenter, biblioteker og v\u00e6rkt\u00f8jer, de bruger. Og den uheldige kunde vil blive lokket af udtrykket \"kunstig intelligens\" i produktbeskrivelsen og uden at stille for mange sp\u00f8rgsm\u00e5l give det til deres lavtl\u00f8nnede medarbejdere, idet de straffer dem for at g\u00f8re, hvad AI siger. Det skete pr\u00e6cist med databaser. Dette er ikke et problem med kunstig intelligens, og det er heller ikke et problem med software. Det er en menneskelig faktor.<\/p>\n<p><\/p>\n<h2 id=\"zaklyuchenie\">Konklusion<\/h2>\n<p><\/p>\n<blockquote><p><em>Maskinl\u00e6ring kan g\u00f8re alt, hvad du kan l\u00e6re en hund, - men du kan aldrig v\u00e6re sikker p\u00e5, hvad det er, du faktisk har l\u00e6rt den hund.<\/em><\/p><\/blockquote>\n<p>Jeg f\u00e5r ofte indtrykket af, at termen \"kunstig intelligens\" kun hindrer samtaler som denne. Denne betegnelse giver et falsk indtryk af, at vi faktisk har skabt det \u2014 denne intelligens. At vi er p\u00e5 vej mod HAL9000 eller Skynet \u2014 mod noget, der i virkeligheden <em>forst\u00e5r<\/em>. Men nej. Det er bare maskiner, og det er meget mere korrekt at sammenligne dem, lad os sige, med en vaskemaskine. Den klarer sig langt bedre end et menneske med at vaske, men hvis du l\u00e6gger service i den i stedet for t\u00f8j, s\u00e5 vil den\u2026 vaske det. Servicen bliver endda ren. Men det bliver ikke det, du havde forventet, og det vil ske, ikke fordi systemet har nogen fordomme mod service. Vaskemaskinen ved hverken, hvad service er, eller hvad t\u00f8j er \u2014 det er blot et eksempel p\u00e5 automatisering, konceptuelt ikke anderledes end hvordan processer blev automatiseret tidligere.<\/p>\n<p><\/p>\n<p>Uanset hvad emnet er \u2014 om det er maskiner, fly eller databaser \u2014 vil disse systemer b\u00e5de v\u00e6re meget magtfulde og meget begr\u00e6nsede. De vil v\u00e6re fuldst\u00e6ndig afh\u00e6ngige af, hvordan mennesker bruger disse systemer, hvilke gode eller d\u00e5rlige intentioner de har, og hvor godt de forst\u00e5r deres funktion.<\/p>\n<p><\/p>\n<p>Derfor er det ikke korrekt at sige, at \"kunstig intelligens er matematik, s\u00e5 den kan ikke have fordomme\". Men det er lige s\u00e5 forkert at p\u00e5st\u00e5, at maskinl\u00e6ring \"er subjektiv i sin natur\". Maskinl\u00e6ring finder m\u00f8nstre i data, og hvilke m\u00f8nstre det finder, afh\u00e6nger af dataene, og dataene afh\u00e6nger af os. Ligesom hvad vi g\u00f8r med dem. Maskinl\u00e6ring g\u00f8r faktisk nogle ting meget bedre end os \u2014 men hunde, for eksempel, er meget mere effektive end mennesker til at opdage narkotika, hvilket bestemt ikke er en grund til at anvende dem som vidner og d\u00f8mme p\u00e5 baggrund af deres udsagn. Og hunde, for at sige det p\u00e5 en anden m\u00e5de, er meget klogere end ethvert system for maskinl\u00e6ring.<\/p>\n<p><strong>Overs\u00e6ttelse:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/en\/users\/757NF\/\">Diana Letzka<\/a><\/noindex>.<br \/>\n<strong>Redakt\u00f8r:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">Alexey Ivanov<\/a><\/noindex>.<br \/>\n<strong>Samfund:<\/strong> <noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">@PonchikNews<\/a><\/noindex>.<\/p>\n<p>Kilde: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/449224\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014\u00a0\u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":24558,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-32781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.3 - aioseo.com -->\n\t<meta name=\"description\" content=\"tl;dr: .\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/da\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.3\" \/>\n\t\t<meta property=\"og:locale\" content=\"da_DK\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"tl;dr: .\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/da\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Om bias i kunstig intelligens | ProHoster","description":"tl;dr: .","canonical_url":"https:\/\/prohoster.info\/da\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"da_DK","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster","og:description":"tl;dr: .","og:url":"https:\/\/prohoster.info\/da\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T18:48:54+00:00","article:modified_time":"2019-10-31T18:48:54+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"32781","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-21 12:30:22","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 02:52:26","updated":"2026-01-21 12:30:22","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/da\/wp-json\/wp\/v2\/posts\/32781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/da\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/da\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/da\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/da\/wp-json\/wp\/v2\/comments?post=32781"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/da\/wp-json\/wp\/v2\/posts\/32781\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/da\/wp-json\/wp\/v2\/media\/24558"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/da\/wp-json\/wp\/v2\/media?parent=32781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/da\/wp-json\/wp\/v2\/categories?post=32781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/da\/wp-json\/wp\/v2\/tags?post=32781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}