{"id":32781,"date":"2019-10-31T21:48:54","date_gmt":"2019-10-31T18:48:54","guid":{"rendered":"https:\/\/prohoster.info\/blog\/o-predvzyatosti-iskusstvennogo-intellekta\/"},"modified":"2019-10-31T21:48:54","modified_gmt":"2019-10-31T18:48:54","slug":"o-predvzyatosti-iskusstvennogo-intellekta","status":"publish","type":"post","link":"https:\/\/prohoster.info\/nl\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","title":{"rendered":"Over de vooringenomenheid van kunstmatige intelligentie","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Over de vooringenomenheid van kunstmatige intelligentie\" src=\"\/wp-content\/uploads\/2019\/04\/05a731677e1231acceff953db8e1e26a.jpg\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<h2 id=\"tldr\">tl;dr:<\/h2>\n<p><\/p>\n<ul>\n<li>Machine learning zoekt naar patronen in gegevens. Maar kunstmatige intelligentie kan \"vooringenomen\" zijn \u2014 dat wil zeggen, verkeerde patronen vinden. Bijvoorbeeld, een systeem voor het detecteren van huidkanker op een foto kan een bijzondere aandacht hebben voor foto's die in een dokterspraktijk zijn gemaakt. Machine learning begrijpt niet <em>begrijpen<\/em>: zijn algoritmes identificeren alleen patronen in cijfers, en als de gegevens niet representatief zijn, zal het resultaat van hun verwerking dat ook zijn. Het kan moeilijk zijn om zulke fouten te vangen vanwege de mechanica van machine learning. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/li>\n<li>Het meest voor de hand liggende en zorgwekkende probleemgebied is de menselijke diversiteit. Er zijn veel redenen waarom gegevens over mensen objectiviteit kunnen verliezen al in de verzamelingsfase. Maar denk niet dat dit probleem alleen mensen betreft: soortgelijke moeilijkheden ontstaan ook bij het proberen een overstroming in een magazijn of een defecte gasturbine te detecteren. Sommige systemen kunnen vooroordelen hebben over huidskleur, terwijl andere bevooroordeeld kunnen zijn ten opzichte van Siemens-sensoren. <\/li>\n<li>Dergelijke problemen zijn niet nieuw voor machine learning, en ze zijn ook niet exclusief voor deze technologie. Foute aannames worden gemaakt in elke complexe structuur, en het is altijd moeilijk om te begrijpen waarom een bepaalde beslissing is genomen. We moeten dit holistisch aanpakken: hulpmiddelen en processen cre\u00ebren voor verificatie \u2014 en gebruikers opleiden zodat ze niet blindelings de aanbevelingen van AI volgen. Machine learning doet sommige dingen zeker veel beter dan wij \u2014 maar honden zijn bijvoorbeeld veel effici\u00ebnter dan mensen in het opsporen van drugs, wat helemaal geen reden is om ze als getuigen te gebruiken of veroordelingen uit te spreken op basis van hun getuigenissen. Over honden gesproken, zij zijn veel slimmer dan welk machine learning systeem dan ook. <\/li>\n<\/ul>\n<p>Machine learning is vandaag de dag een van de belangrijkste fundamentele technologische trends. Het is een van de belangrijkste manieren waarop technologie de wereld om ons heen gedurende het komende decennium zal veranderen. Sommige aspecten van deze veranderingen wekken zorgen. Bijvoorbeeld, de potenti\u00eble impact van machine learning op de arbeidsmarkt, of het gebruik ervan voor onethische doeleinden (bijvoorbeeld door autoritaire regime). Er is nog een ander probleem waarop deze post is gericht: <strong>de enige vooroordeel van kunstmatige intelligentie<\/strong>. <\/p>\n<p><\/p>\n<p>Het is een complex verhaal. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Over de vooringenomenheid van kunstmatige intelligentie\" src=\"\/wp-content\/uploads\/2019\/04\/d692fbfff47614758ab1d8e1516b2742.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>Google's AI kan katten vinden. Dit nieuws uit 2012 was destijds iets bijzonders.<\/em><\/p>\n<p><\/p>\n<h2 id=\"chto-takoe-predvzyatost-ii\">Wat is \u2018vooroordeel van AI\u2019?<\/h2>\n<p><\/p>\n<blockquote><p><em>\u2018Ruwe data\u2019 is zowel een oksymoron als een slecht idee; de data moeten goed en zorgvuldig worden voorbereid.<\/em> \u2014Jeffrey Boker <\/p><\/blockquote>\n<p>Tot ongeveer 2013 moest je om een systeem te maken dat bijvoorbeeld katten op foto's herkent, logische stappen beschrijven. Hoe vind je hoeken in een afbeelding, herken je ogen, analyseer je texturen op het bestaan van vacht, tel je poten, enzovoorts. Vervolgens verzamel je al deze componenten en ontdek je dat het totaal niet werkt. Het is ongeveer als een mechanisch paard \u2014 theoretisch kan je het maken, maar in de praktijk is het te complex om te beschrijven. Uiteindelijk heb je honderden (of zelfs duizenden) handgeschreven regels. En geen enkel werkend model. <\/p>\n<p><\/p>\n<p>Met de opkomst van machine learning zijn we gestopt met het gebruik van \u2018handmatige\u2019 regels voor de herkenning van een bepaald object. In plaats daarvan nemen we duizend voorbeelden van 'het', X, duizend voorbeelden van 'iets anders', Y, en laten we de computer een model bouwen op basis van hun statistische analyse. Dan geven we dit model een voorbeeld van gegevens, en het bepaalt met een bepaalde nauwkeurigheid of het bij een van de sets past. Machine learning genereert een model op basis van data, en niet door een persoon die het schrijft. De resultaten zijn indrukwekkend, vooral op het gebied van beeldherkenning en patronen, en dat is waarom de hele tech-industrie nu overgaat op machine learning (ML). <\/p>\n<p><\/p>\n<p>Maar het is niet zo eenvoudig. In de echte wereld bevatten je duizenden voorbeelden van X of Y ook A, B, J, L, O, R en zelfs L. Ze kunnen ongelijk verdeeld zijn, en sommige kunnen zo vaak voorkomen dat het systeem er meer aandacht aan besteedt dan aan de objecten waarin je ge\u00efnteresseerd bent.<\/p>\n<p><\/p>\n<p>Wat betekent dit in de praktijk? Mijn favoriete voorbeeld is wanneer afbeeldingsherkenningssystemen <noindex><a rel=\"nofollow\" href=\"http:\/\/aiweirdness.com\/post\/171451900302\/do-neural-nets-dream-of-electric-sheep\">kijken naar een grasheuvel en zeggen: \u2018schaap\u2019<\/a><\/noindex>. Het is duidelijk waarom: het grootste deel van de voorbeeldfoto\u2019s van \u2018schaap\u2019 is gemaakt op weilanden waar ze leven, en op deze afbeeldingen neemt het gras veel meer ruimte in dan die kleine, witte, pluizige beestjes. De systemen beschouwen het gras als het belangrijkste. <\/p>\n<p><\/p>\n<p>Er zijn ook ernstigere voorbeelden. Een recente \u2014 een <noindex><a rel=\"nofollow\" href=\"https:\/\/www.medpagetoday.com\/dermatology\/generaldermatology\/70513\">project<\/a><\/noindex> over het detecteren van huidkanker op foto's. Het blijkt dat dermatologen vaak een liniaal fotograferen samen met huidkankerverschijnselen om de grootte van de formaties vast te leggen. In voorbeeldfoto's van gezonde huid is er geen liniaal te zien. Voor het AI-systeem zijn deze linialen (meer specifiek, de pixels die wij als 'liniaal' defini\u00ebren) een van de onderscheidende kenmerken tussen voorbeeldsets, soms zelfs belangrijker dan een kleine uitslag op de huid. Hierdoor herkende het systeem, dat ontworpen was om huidkanker te identificeren, soms in plaats daarvan de linialen. <\/p>\n<p><\/p>\n<p>Het belangrijkste punt hier is dat het systeem geen semantisch begrip heeft van wat het bekijkt. Wij bekijken een set pixels en zien daarin een schaap, huid of linialen, terwijl het systeem alleen een reeks getallen ziet. Het ziet niet de driedimensionale ruimte, ziet geen objecten, texturen of schapen. Het ziet simpelweg patronen in de gegevens. <\/p>\n<p><\/p>\n<p>De complexiteit van het diagnosticeren van dergelijke problemen ligt in het feit dat het neuraal netwerk (model, gegenereerd door jouw machine learning-systeem) bestaat uit duizenden, soms honderdduizenden knooppunten. Er is geen eenvoudige manier om in het model te kijken en te zien hoe het beslissingen neemt. Een dergelijke manier zou betekenen dat het proces eenvoudig genoeg is om alle regels handmatig te beschrijven, zonder gebruik te maken van machine learning. Mensen maken zich zorgen dat machine learning een soort 'black box' is geworden. (Ik zal later uitleggen waarom deze vergelijking eigenlijk overdreven is.) <\/p>\n<p><\/p>\n<p>Dit is in grote lijnen het probleem van vooringenomenheid in kunstmatige intelligentie of machine learning: een systeem dat ontworpen is om patronen in gegevens te vinden, kan verkeerde patronen ontdekken, en je kunt het misschien niet opmerken. Dit is een fundamentele eigenschap van de technologie, en dit is duidelijk voor iedereen die ermee werkt in de wetenschap en bij grote technologiebedrijven. Maar de gevolgen zijn complex, en ook onze mogelijke oplossingen voor die gevolgen zijn dat. <\/p>\n<p><\/p>\n<p>Laten we eerst praten over de gevolgen. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Over de vooringenomenheid van kunstmatige intelligentie\" src=\"\/wp-content\/uploads\/2019\/04\/43748412bd82ae53a9c2e47afec9c655.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>AI kan impliciet keuzes maken voor bepaalde categorie\u00ebn mensen, gebaseerd op een groot aantal onopgemerkte signalen.<\/em><\/p>\n<p><\/p>\n<h2 id=\"scenarii-predvzyatosti-ii\">Scenarios van AI-vooringenomenheid<\/h2>\n<p><\/p>\n<p>Het meest voor de hand liggende en zorgwekkende is dat dit probleem kan optreden als het gaat om menselijke diversiteit. Onlangs <noindex><a rel=\"nofollow\" href=\"https:\/\/www.reuters.com\/article\/us-amazon-com-jobs-automation-insight\/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G\">was er een gerucht<\/a><\/noindex>, dat Amazon probeerde een machine learning systeem te bouwen voor de eerste screening van kandidaten voor een baan. Aangezien de meeste werknemers bij Amazon mannen zijn, waren de voorbeelden van 'succesvolle aanwervingen' ook vaker mannelijk, en in de selectie van cv's die door het systeem werd aangeboden, waren er meer mannen. Amazon merkte dit op en besloot het systeem niet in productie te nemen. <\/p>\n<p><\/p>\n<p>Het belangrijkste in dit voorbeeld is dat het systeem, naar verluidt, de voorkeur gaf aan mannelijke kandidaten, ook al werd het geslacht niet vermeld in de cv's.<strong> Het systeem zag andere patronen in de voorbeelden van 'succesvolle aanwervingen': zo kunnen vrouwen bijzondere woorden gebruiken om hun prestaties te beschrijven, of speciale hobby's hebben. Natuurlijk wist het systeem niet wat 'ijshockey' was, wie 'mensen' waren of wat 'succes' betekende \u2014 het voerde gewoon een statistische analyse van de tekst uit.<\/strong> Maar de patronen die het zag, zouden waarschijnlijk door een mens niet opgemerkt zijn, en sommige van hen (zoals dat mensen van verschillende geslachten succes anders beschrijven) zouden we waarschijnlijk moeilijk kunnen zien, zelfs als we ernaar keken. <\/p>\n<p><\/p>\n<p>Het wordt nog erger. Een machine learning systeem dat zeer goed kanker op een lichte huid herkent, kan slechter presteren bij een donkere huid, of omgekeerd. Niet noodzakelijkerwijs door vooringenomenheid, maar omdat je waarschijnlijk een aparte model moet bouwen voor een andere huidkleur, met verschillende kenmerken.<strong> Machine learning systemen zijn niet uitwisselbaar, zelfs niet in zo'n smal gebied als beeldherkenning.<\/strong> Je moet het systeem afstemmen, soms gewoon door middel van trial-and-error, om goed de kenmerken van de gegevens die je interesseren te herkennen totdat je de gewenste nauwkeurigheid bereikt. Maar je kunt misschien niet opmerken dat het systeem in 98% van de gevallen nauwkeurig is bij het werken met de ene groep en slechts 91% (ook al is dit nauwkeuriger dan de analyse uitgevoerd door een mens) bij de andere. <\/p>\n<p><\/p>\n<p>Ik heb tot nu toe voornamelijk voorbeelden gebruikt die betrekking hebben op mensen en hun kenmerken. Dit thema vormt de hoofdfocus van de discussie rond dit probleem. Maar het is belangrijk te begrijpen dat vooringenomenheid ten aanzien van mensen slechts een deel van het probleem is. We zullen machine learning gebruiken voor veel dingen, en steekproeffouten zullen relevant zijn voor al deze toepassingen. Aan de andere kant, als je met mensen werkt, kan datavooringenomenheid niet aan hen gerelateerd zijn. <\/p>\n<p><\/p>\n<p>Om dit te begrijpen, laten we terugkeren naar het voorbeeld van huidkanker en drie hypothetische mogelijkheden voor systeemfouten bekijken. <\/p>\n<p><\/p>\n<ol>\n<li>Onevenredige verdeling van mensen: een ongebalanceerd aantal foto's van huid van verschillende tinten, wat leidt tot valse positieven of valse negatieven gerelateerd aan pigmentatie. <\/li>\n<li>De gegevens waar het systeem mee getraind is, bevatten vaak voorkomende en ongelijkmatig verdeelde kenmerken die niet gerelateerd zijn aan mensen en geen diagnostische waarde hebben: een liniaal op foto's van huidkanker of gras op foto's van schapen. In dit geval zal het resultaat verschillen als het systeem pixels van iets vindt dat het menselijke oog als 'liniaal' herkent. <\/li>\n<li>De gegevens bevatten een externe eigenschap die een persoon niet kan zien, zelfs als hij of zij ernaar zoekt. <\/li>\n<\/ol>\n<p><\/p>\n<p>Wat betekent dit? We weten bij voorbaat dat gegevens verschillende groepen mensen op verschillende manieren kunnen weergeven, en kunnen op zijn minst plannen om naar dergelijke uitzonderingen te zoeken. Met andere woorden, er zijn tal van sociale redenen om aan te nemen dat de gegevens over groepen mensen al enige vooringenomenheid bevatten. Als we kijken naar een foto met een liniaal, zullen we die liniaal zien - we hebben deze gewoon eerder genegeerd, wetende dat deze geen belang heeft, en vergeten dat het systeem niets weet.<\/p>\n<p><\/p>\n<p>Maar wat als al jouw foto's van ongezonde huid in een kantoor zijn gemaakt, waar gloeilampen worden gebruikt, en de gezonde huid onder fluorescent licht? Wat als, nadat je gezonde huid hebt gefotografeerd, je je telefoon hebt ge\u00fcpdatet voordat je ongezonde huid fotografeerde, en Apple of Google een beetje het algoritme voor ruisonderdrukking heeft gewijzigd? Een mens kan dit niet opmerken, hoe hard hij of zij ook zoekt naar zulke eigenschappen. Maar het systeem voor machinegebruik zal dit onmiddellijk zien en gebruiken. Het weet niets. <\/p>\n<p><\/p>\n<p>Hoewel we het gehad hebben over valse correlaties, kan het ook zo zijn dat de data juist zijn en de resultaten kloppen, maar dat je ze om ethische, juridische of bestuurlijke redenen niet wilt gebruiken. In sommige rechtsgebieden is het bijvoorbeeld niet toegestaan om vrouwen korting op verzekeringen te geven, ook al rijden vrouwen mogelijk veiliger. We kunnen ons gemakkelijk een systeem voorstellen dat bij de analyse van historische gegevens lagere risico-indexcijfers aan vrouwelijke namen toekent. Ok\u00e9, laten we de namen uit de steekproef verwijderen. Maar denk aan het voorbeeld van Amazon: het systeem kan het geslacht aan de hand van andere factoren bepalen (ook al weet het niet wat geslacht is, laat staan wat een auto is), en je merkt het niet totdat de toezichthouder achteraf jouw aangeboden tarieven analyseert en een boete oplegt. <\/p>\n<p><\/p>\n<p>Ten slotte wordt vaak verondersteld dat we dit soort systemen alleen zullen gebruiken voor projecten die met mensen en sociale interacties te maken hebben. Dat is niet waar. Als je gas turbine maakt, wil je waarschijnlijk machine learning toepassen op de telemetrie die door tientallen of honderden sensoren op je product wordt verzonden (audio-, video-, temperatuur- en andere sensoren genereren gegevens die zeer gemakkelijk aangepast kunnen worden voor het cre\u00ebren van een machine learning model). Hypothetisch zou je kunnen zeggen: 'Hier zijn de gegevens van duizend kapotte turbines, verkregen voor hun defect, en hier zijn de gegevens van duizend turbines die niet kapot zijn gegaan. Bouw een model dat kan zeggen wat het verschil is.' Maar stel je nu voor dat Siemens-sensoren op 75% van de defecte turbines staan en slechts op 12% van de goede (er is geen verbinding met defecten). Het systeem zal een model bouwen om turbines met Siemens-sensoren te vinden. Oeps!<\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Over de vooringenomenheid van kunstmatige intelligentie\" src=\"\/wp-content\/uploads\/2019\/04\/e8097e4913756fdf04826a6628bc6836.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\nAfbeelding \u2014 Moritz Hardt, UC Berkeley<\/p>\n<p><\/p>\n<h2 id=\"upravlenie-predvzyatostyu-ii\">Beheer van AI-bias<\/h2>\n<p><\/p>\n<p>Wat kunnen we hieraan doen? We kunnen het probleem vanuit drie invalshoeken benaderen:<\/p>\n<p><\/p>\n<ol>\n<li>Methodologische strengheid bij het verzamelen en beheren van data voor het trainen van het systeem.<\/li>\n<li>Technische instrumenten voor het analyseren en diagnosticeren van het gedrag van het model.<\/li>\n<li>Training, onderwijs en voorzichtigheid bij het integreren van machine learning in producten.<\/li>\n<\/ol>\n<p><\/p>\n<p>In het boek \"De Bourgondi\u00ebr\" van Moli\u00e8re is er een grap: een man hoort dat literatuur wordt verdeeld in proza en po\u00ebzie, en hij ontdekt met bewondering dat hij zijn hele leven proza heeft gesproken, zonder het te weten. Misschien voelen statistici zich vandaag de dag ook zo: zonder het te beseffen hebben ze hun carri\u00e8res gewijd aan kunstmatige intelligentie en steekproeffouten. Het zoeken naar steekproeffouten en je er zorgen over maken, is geen nieuw probleem; we moeten het systematisch aanpakken. Zoals eerder vermeld, is het in sommige gevallen inderdaad gemakkelijker om problemen te onderzoeken die verband houden met gegevens over mensen. We veronderstellen van tevoren dat we vooroordelen kunnen hebben over verschillende groepen mensen, maar vooroordelen over Siemens-sensoren zijn moeilijk voor te stellen.<\/p>\n<p><\/p>\n<p>Het nieuwe hieraan is natuurlijk dat mensen niet langer zelf statistische analyses uitvoeren. Machines voeren deze analyses uit en cre\u00ebren grote complexe modellen die moeilijk te begrijpen zijn. De vraag naar transparantie is een van de belangrijkste aspecten van het vooringenomenheidsprobleem. We zijn bang dat het systeem niet alleen bevooroordeeld is, maar dat er geen mogelijkheid is om die vooringenomenheid te detecteren, en dat machine learning dit onderscheidt van andere vormen van automatisering, waarvan wordt aangenomen dat ze bestaan uit duidelijke logische stappen die kunnen worden gecontroleerd. <\/p>\n<p><\/p>\n<p>Hier zijn twee problemen. We kunnen wellicht toch een soort audit uitvoeren van machine learning-systemen. En het auditen van elk ander systeem is eigenlijk niet minder gemakkelijk.<\/p>\n<p><\/p>\n<p>Ten eerste is een van de richtingen van modern onderzoek op het gebied van machine learning het vinden van methoden om belangrijke functionaliteit van machine learning-systemen te identificeren. Hierbij is machine learning (in zijn huidige staat) een volledig nieuw wetenschapsgebied dat snel verandert, dus het is niet verstandig om te denken dat dingen die vandaag onmogelijk zijn, binnenkort heel re\u00ebel kunnen worden. Het project <noindex><a rel=\"nofollow\" href=\"https:\/\/openai.com\/\">OpenAI<\/a><\/noindex> is daar een interessant voorbeeld van. <\/p>\n<p><\/p>\n<p>Ten tweede, het idee dat je het beslissingsproces in bestaande systemen of organisaties kunt controleren en begrijpen, is theoretisch goed, maar praktisch gezien niet zo. Begrijpen hoe beslissingen binnen een grote organisatie worden genomen, is allesbehalve eenvoudig. Zelfs als er een formeel besluitvormingsproces is, weerspiegelt dit niet hoe mensen echt met elkaar omgaan, en vaak hebben zij zelf geen logisch systeem om hun beslissingen te nemen. Zoals mijn collega heeft gezegd, <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Vijay_S._Pande\">Vijay Pandey<\/a><\/noindex>, <strong>mensen zijn ook zwarte dozen<\/strong>. <\/p>\n<p><\/p>\n<p>Neem duizend mensen in verschillende overlappende bedrijven en instituten, en het probleem wordt alleen maar complexer. We weten achteraf dat de Space Shuttle bedoeld was om uit elkaar te vallen tijdens de landing, en sommige mensen binnen NASA hadden informatie die hen deed geloven dat er iets slechts kon gebeuren, maar het systeem <em>wist dit totaal niet.<\/em> NASA had net een soortgelijke audit doorstaan, na het verlies van de vorige shuttle, en toch verloor het weer een \u2014 om een heel vergelijkbare reden. Het is gemakkelijk te beweren dat organisaties en mensen strikte logische regels volgen die je kunt verifi\u00ebren, begrijpen en veranderen \u2014 maar de ervaring bewijst het tegendeel. Dit is de<noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%93%D0%BE%D1%81%D0%BF%D0%BB%D0%B0%D0%BD_%D0%A1%D0%A1%D0%A1%D0%A0\">misvatting van de GOSPLAN<\/a><\/noindex>\u00bb.<\/p>\n<p><\/p>\n<p><strong>Ik vergelijk machine learning vaak met databases, vooral relationele \u2014 een nieuwe fundamentele technologie die de mogelijkheden van informatica en de wereld eromheen heeft veranderd, die onderdeel is geworden van alles wat we voortdurend gebruiken, zonder ons daarvan bewust te zijn.<\/strong> Ook databases hebben problemen die van dezelfde aard zijn: het systeem kan zijn gebouwd op valse veronderstellingen of slechte gegevens, maar dat is moeilijk op te merken, en mensen die het systeem gebruiken, zullen doen wat het zegt zonder vragen te stellen. Er zijn veel oude grappen over belastingambtenaren die ooit je naam verkeerd hebben genoteerd, en hen overtuigen om de fout te corrigeren is veel moeilijker dan het daadwerkelijk veranderen van je naam. Hier kan je op verschillende manieren over nadenken, maar het is onduidelijk wat de beste benadering is: als een technisch probleem in SQL, of als een bug in een Oracle-release, of als een falen van bureaucratische instituties? Hoe moeilijk is het om een fout te vinden in het proces dat heeft geleid tot het ontbreken van een functie zoals het corrigeren van typfouten in het systeem? Had dit kunnen worden opgemerkt voordat mensen begonnen te klagen? <\/p>\n<p><\/p>\n<p>Een nog eenvoudiger illustratie van dit probleem zijn de verhalen waarin chauffeurs door verouderde gegevens in hun navigatiesysteem in rivieren rijden. Ok\u00e9, kaarten moeten voortdurend worden ge\u00fcpdatet. Maar hoeveel schuld heeft TomTom als jouw auto de zee in wordt gesleurd?<\/p>\n<p><\/p>\n<p>Ik zeg dit omdat ja, de bias in machine learning problemen zal cre\u00ebren. Maar deze problemen zullen lijken op die waarmee we in het verleden te maken hebben gehad, en ze kunnen worden opgemerkt en opgelost (of niet) ongeveer even goed als we dat in het verleden konden. Daarom is het onwaarschijnlijk dat het scenario waarin AI-bias schade toebrengt zich voordoet bij toonaangevende onderzoekers die werken in een grote organisatie. Waarschijnlijk zal een of andere onbeduidende technologie-aannemer of softwareleverancier iets snel in elkaar zetten met onbekende open-sourcecomponenten, bibliotheken en tools. En een onfortuinlijke klant zal vallen voor de term \u201cartifici\u00eble intelligentie\u201d in de productbeschrijving en, zonder vragen te stellen, het aan zijn laagbetaalde werknemers geven, met de opdracht te doen wat de AI zegt. Hetzelfde is gebeurd met databases. Dit is geen probleem van artifici\u00eble intelligentie, en zelfs geen probleem van software. Dit is een menselijk probleem.<\/p>\n<p><\/p>\n<h2 id=\"zaklyuchenie\">Conclusie<\/h2>\n<p><\/p>\n<blockquote><p><em>Machine learning kan alles doen wat je een hond kunt leren, maar je kunt nooit zeker zijn wat je deze hond daadwerkelijk hebt geleerd.<\/em><\/p><\/blockquote>\n<p>Ik heb vaak het gevoel dat de term 'kunstmatige intelligentie' alleen maar in de weg staat in dit soort gesprekken. Deze term geeft een valse indruk dat we het daadwerkelijk hebben gecre\u00eberd \u2014 deze intelligentie. Dat we op weg zijn naar HAL9000 of Skynet \u2014 naar iets dat werkelijk <em>begrijpt<\/em>. Maar dat is niet het geval. Het zijn gewoon machines, en het is veel beter om ze te vergelijken met bijvoorbeeld een wasmachine. Deze doet het veel beter dan een mens als het om wassen gaat, maar als je er servies in stopt in plaats van wasgoed, dan zal het... het wassen. Het servies zal zelfs schoon worden. Maar dat is niet wat je verwachtte, en dat komt niet omdat het systeem enige vooroordelen heeft over servies. De wasmachine weet niet wat servies is, noch weet het wat kleding is \u2014 het is gewoon een voorbeeld van automatisering, conceptueel niet anders dan hoe processen vroeger werden geautomatiseerd.<\/p>\n<p><\/p>\n<p>Wat er ook ter sprake komt \u2014 of het nu gaat om machines, vliegtuigen of databases \u2014 deze systemen zullen tegelijkertijd zeer krachtig en zeer beperkt zijn. Ze zullen volledig afhankelijk zijn van hoe mensen deze systemen gebruiken, hun goede of slechte bedoelingen en in hoeverre ze hun werking begrijpen.<\/p>\n<p><\/p>\n<p>Het is daarom volkomen onjuist om te zeggen dat 'kunstmatige intelligentie wiskunde is, dus het kan geen vooroordelen hebben'. Maar het is even onjuist om te beweren dat machine learning 'subjectief van aard is'. Machine learning vindt patronen in data, en welke patronen het vindt, hangt af van de data, en die data hangt van ons af. Net als wat we ermee doen. Machine learning doet inderdaad sommige dingen veel beter dan wij \u2014 maar honden, bijvoorbeeld, zijn veel effectiever dan mensen in het opsporen van drugs, wat geen reden is om ze als getuigen te betrekken en veroordelingen uit te spreken op basis van hun getuigenissen. En honden, voor de duidelijkheid, zijn veel slimmer dan het huidige systeem van machine learning.<\/p>\n<p><strong>Vertaling:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/en\/users\/757NF\/\">Diana Letzkaya<\/a><\/noindex>.<br \/>\n<strong>Redactie:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">Aleksey Ivanov<\/a><\/noindex>.<br \/>\n<strong>Gemeenschap:<\/strong> <noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">@PonchikNews<\/a><\/noindex>.<\/p>\n<p>Bron: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/449224\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014\u00a0\u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":24558,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-32781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.3 - aioseo.com -->\n\t<meta name=\"description\" content=\"tl;dr: .\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/nl\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.3\" \/>\n\t\t<meta property=\"og:locale\" content=\"nl_NL\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"tl;dr: .\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/nl\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Over de vooringenomenheid van kunstmatige intelligentie | ProHoster","description":"tl;dr: .","canonical_url":"https:\/\/prohoster.info\/nl\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"nl_NL","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster","og:description":"tl;dr: .","og:url":"https:\/\/prohoster.info\/nl\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T18:48:54+00:00","article:modified_time":"2019-10-31T18:48:54+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"32781","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-21 12:30:22","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 02:52:26","updated":"2026-01-21 12:30:22","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/nl\/wp-json\/wp\/v2\/posts\/32781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/nl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/nl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/nl\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/nl\/wp-json\/wp\/v2\/comments?post=32781"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/nl\/wp-json\/wp\/v2\/posts\/32781\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/nl\/wp-json\/wp\/v2\/media\/24558"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/nl\/wp-json\/wp\/v2\/media?parent=32781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/nl\/wp-json\/wp\/v2\/categories?post=32781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/nl\/wp-json\/wp\/v2\/tags?post=32781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}