{"id":32781,"date":"2019-10-31T21:48:54","date_gmt":"2019-10-31T18:48:54","guid":{"rendered":"https:\/\/prohoster.info\/blog\/o-predvzyatosti-iskusstvennogo-intellekta\/"},"modified":"2019-10-31T21:48:54","modified_gmt":"2019-10-31T18:48:54","slug":"o-predvzyatosti-iskusstvennogo-intellekta","status":"publish","type":"post","link":"https:\/\/prohoster.info\/de\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","title":{"rendered":"\u00dcber die Voreingenommenheit von k\u00fcnstlicher Intelligenz","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"\u00dcber die Voreingenommenheit von k\u00fcnstlicher Intelligenz\" src=\"\/wp-content\/uploads\/2019\/04\/05a731677e1231acceff953db8e1e26a.jpg\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<h2 id=\"tldr\">tl;dr:<\/h2>\n<p><\/p>\n<ul>\n<li>Maschinenlernen sucht nach Mustern in Daten. Aber k\u00fcnstliche Intelligenz kann \"voreingenommen\" sein \u2013 das hei\u00dft, sie findet falsche Muster. Zum Beispiel kann ein System zur Erkennung von Hautkrebs anhand von Fotos besonders viel Augenmerk auf Bilder legen, die im Arztb\u00fcro gemacht wurden. Maschinenlernen kann nicht <em>verstehen<\/em>: seine Algorithmen identifizieren nur Muster in Zahlen, und wenn die Daten nicht repr\u00e4sentativ sind, wird auch das Ergebnis der Verarbeitung entsprechend sein. Solche Fehler zu erkennen, kann aufgrund der Mechanik des Maschinenlernens ziemlich kompliziert sein. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/li>\n<li>Das offensichtlichste und beunruhigendste Problembereich ist die menschliche Vielfalt. Es gibt viele Gr\u00fcnde, warum Daten \u00fcber Menschen bereits in der Sammlung an Objektivit\u00e4t verlieren k\u00f6nnen. Aber man sollte nicht denken, dass dieses Problem nur Menschen betrifft: Die gleichen Schwierigkeiten treten auf, wenn man versucht, eine \u00dcberschwemmung im Lager zu erkennen oder eine defekte Gasturbine zu identifizieren. Einige Systeme k\u00f6nnen Vorurteile gegen\u00fcber Hautfarben haben, w\u00e4hrend andere voreingenommen gegen\u00fcber Siemens-Sensoren sein k\u00f6nnen. <\/li>\n<li>Solche Probleme sind f\u00fcr das Maschinenlernen nicht neu und betreffen keineswegs nur dieses. Falsche Annahmen werden in allen komplexen Strukturen getroffen, und es ist immer schwierig zu verstehen, warum eine bestimmte Entscheidung getroffen wurde. Man muss ganzheitlich gegen diese Probleme vorgehen: Werkzeuge und Prozesse zur \u00dcberpr\u00fcfung schaffen \u2013 und die Nutzer schulen, damit sie nicht blind die Empfehlungen der KI befolgen. Maschinenlernen kann in der Tat einige Dinge viel besser als wir, \u2013 aber Hunde sind beispielsweise viel effektiver als Menschen bei der Drogenauffindung, was keineswegs ein Grund ist, sie als Zeugen heranzuziehen und Urteile auf Basis ihrer Aussagen zu f\u00e4llen. Und Hunde sind, um genau zu sein, viel intelligenter als jedes Maschinenlernsysten. <\/li>\n<\/ul>\n<p>Maschinenlernen ist heute einer der wichtigsten grundlegenden Technologietrends. Dies ist einer der Hauptwege, wie Technologie die Welt in den n\u00e4chsten zehn Jahren ver\u00e4ndern wird. Einige Aspekte dieser Ver\u00e4nderungen bereiten Sorgen. Zum Beispiel die potenziellen Auswirkungen des Maschinenlernens auf den Arbeitsmarkt oder seine Nutzung f\u00fcr unethische Zwecke (zum Beispiel durch autorit\u00e4re Regime). Es gibt ein weiteres Problem, das in diesem Beitrag behandelt wird: <strong>Voreingenommenheit der k\u00fcnstlichen Intelligenz<\/strong>. <\/p>\n<p><\/p>\n<p>Das ist eine komplizierte Geschichte. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"\u00dcber die Voreingenommenheit von k\u00fcnstlicher Intelligenz\" src=\"\/wp-content\/uploads\/2019\/04\/d692fbfff47614758ab1d8e1516b2742.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>Die KI von Google kann Katzen finden. Diese Nachricht aus dem Jahr 2012 war damals etwas Besonderes.<\/em><\/p>\n<p><\/p>\n<h2 id=\"chto-takoe-predvzyatost-ii\">Was ist \u00bbKI-Voreingenommenheit\u00ab?<\/h2>\n<p><\/p>\n<blockquote><p><em>\u00bbRohdaten\u00ab sind sowohl ein Oxymoron als auch eine schlechte Idee; Daten m\u00fcssen gut und sorgf\u00e4ltig aufbereitet werden.<\/em> \u2014Jeffrey Bock <\/p><\/blockquote>\n<p>Bis etwa 2013 musste man, um ein System zu erstellen, das beispielsweise Katzen auf Fotos erkennt, logische Schritte beschreiben. Man musste herausfinden, wie man Kanten im Bild findet, Augen erkennt, Texturen auf Fell analysiert, Pfoten z\u00e4hlt und so weiter. Dann mussten alle Komponenten zusammengesetzt werden \u2014 und man stellte fest, dass es insgesamt nicht richtig funktioniert. Etwa wie ein mechanisches Pferd \u2014 theoretisch k\u00f6nnte man es erschaffen, aber in der Praxis ist es zu kompliziert zu beschreiben. Am Ende hatte man Hunderte (oder sogar Tausende) handschriftlicher Regeln. Und kein funktionierendes Modell. <\/p>\n<p><\/p>\n<p>Mit dem Aufkommen des maschinellen Lernens h\u00f6rten wir auf, \u00bbmanuelle\u00ab Regeln zur Erkennung eines bestimmten Objekts zu verwenden. Stattdessen nehmen wir tausend Beispiele f\u00fcr \u00bbdas\u00ab, X, tausend Beispiele f\u00fcr \u00bbjenes\u00ab, Y, und bringen den Computer dazu, ein Modell auf der Grundlage ihrer statistischen Analyse zu erstellen. Dann geben wir diesem Modell ein Beispiel von Daten, und es bestimmt mit einer gewissen Genauigkeit, ob es zu einem der S\u00e4tze passt. Maschinelles Lernen generiert ein Modell basierend auf den Daten, nicht mit Hilfe eines Menschen, der es schreibt. Die Ergebnisse sind beeindruckend, besonders im Bereich der Bilderkennung und Mustererkennung, und genau deshalb wechselt die gesamte Tech-Industrie jetzt zu maschinellem Lernen (ML). <\/p>\n<p><\/p>\n<p>Aber nicht alles ist so einfach. In der realen Welt enthalten Ihre Tausenden von Beispielen X oder Y auch A, B, J, L, O, R und sogar L. Diese k\u00f6nnen ungleichm\u00e4\u00dfig verteilt sein, und einige von ihnen k\u00f6nnen so h\u00e4ufig vorkommen, dass das System ihnen mehr Aufmerksamkeit schenkt als den Objekten, die Sie interessieren.<\/p>\n<p><\/p>\n<p>Was bedeutet das praktisch? Mein Lieblingsbeispiel ist, wenn Bildverkennungssysteme <noindex><a rel=\"nofollow\" href=\"http:\/\/aiweirdness.com\/post\/171451900302\/do-neural-nets-dream-of-electric-sheep\">auf einen grasbewachsenen H\u00fcgel schauen und sagen: \u00bbSchaf\u00ab<\/a><\/noindex>. Es ist klar, warum: Der Gro\u00dfteil der Beispielbilder von \u00bbSchafen\u00ab wurde auf Wiesen aufgenommen, wo sie leben, und auf diesen Bildern nimmt das Gras viel mehr Platz ein als die kleinen wei\u00dfen fluffigen Tiere, und genau das Gras betrachten die Systeme als das Wichtigste. <\/p>\n<p><\/p>\n<p>Es gibt auch schwerwiegendere Beispiele. Ein aktuelles ist eines <noindex><a rel=\"nofollow\" href=\"https:\/\/www.medpagetoday.com\/dermatology\/generaldermatology\/70513\">Projekt<\/a><\/noindex> bei der Erkennung von Hautkrebs auf Fotografien. Es stellte sich heraus, dass Dermatologen oft ein Lineal zusammen mit Hautkrebsmanifestationen fotografieren, um die Gr\u00f6\u00dfe der L\u00e4sionen festzuhalten. In den Beispielen von gesunder Haut sind keine Lineale vorhanden. F\u00fcr das KI-System wurden diese Lineale (genauer gesagt die Pixel, die wir als \"Lineal\" definieren) zu einem der Unterscheidungsmerkmale zwischen den Mustersets, manchmal sogar wichtiger als ein kleiner Hautausschlag. So erkannte das System, das zur Identifizierung von Hautkrebs entwickelt wurde, manchmal stattdessen die Lineale. <\/p>\n<p><\/p>\n<p>Der Schl\u00fcsselpunkt hier ist, dass das System kein semantisches Verst\u00e4ndnis daf\u00fcr hat, was es sieht. Wir betrachten eine Pixelgruppe und sehen darin ein Schaf, Haut oder Lineale, w\u00e4hrend das System nur eine Zahlenreihe sieht. Es sieht keinen dreidimensionalen Raum, erkennt weder Objekte noch Texturen, noch Schafe. Es sieht nur Muster in den Daten. <\/p>\n<p><\/p>\n<p>Die Schwierigkeit bei der Diagnose solcher Probleme liegt darin, dass das neuronale Netzwerk (das Modell, das von Ihrem Machine-Learning-System generiert wurde) aus Tausenden von Hunderttausenden von Knoten besteht. Es gibt keinen einfachen Weg, in das Modell hinein zu schauen und zu sehen, wie es Entscheidungen trifft. Ein solcher Weg w\u00fcrde bedeuten, dass der Prozess einfach genug ist, um alle Regeln manuell zu beschreiben, ohne maschinelles Lernen zu verwenden. Die Menschen machen sich Sorgen, dass maschinelles Lernen zu einer Art \"schwarzer Box\" geworden ist. (Ich erkl\u00e4re sp\u00e4ter, warum dieser Vergleich etwas \u00fcbertrieben ist.) <\/p>\n<p><\/p>\n<p>Das ist im Gro\u00dfen und Ganzen das Problem der Bias im K\u00fcnstlichen Intelligenz oder maschinellen Lernen: Das System kann falsche Muster in den Daten finden, und Sie k\u00f6nnten das \u00fcbersehen. Das ist eine grundlegende Eigenschaft der Technologie, und es ist offensichtlich f\u00fcr alle, die damit in wissenschaftlichen Kreisen oder in gro\u00dfen Technologieunternehmen arbeiten. Aber die Konsequenzen sind komplex, und auch unsere m\u00f6glichen L\u00f6sungen f\u00fcr diese Konsequenzen sind es. <\/p>\n<p><\/p>\n<p>Lass uns zuerst \u00fcber die Konsequenzen sprechen. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"\u00dcber die Voreingenommenheit von k\u00fcnstlicher Intelligenz\" src=\"\/wp-content\/uploads\/2019\/04\/43748412bd82ae53a9c2e47afec9c655.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>KI kann uns implizit zugunsten bestimmter Kategorien von Menschen Entscheidungen treffen, basierend auf einer Vielzahl von unauff\u00e4lligen Signalen.<\/em><\/p>\n<p><\/p>\n<h2 id=\"scenarii-predvzyatosti-ii\">Szenarien der Bias in KI<\/h2>\n<p><\/p>\n<p>Das Offensichtlichste und Beunruhigendste ist, dass dieses Problem auftreten kann, wenn es um menschliche Diversit\u00e4t geht. K\u00fcrzlich <noindex><a rel=\"nofollow\" href=\"https:\/\/www.reuters.com\/article\/us-amazon-com-jobs-automation-insight\/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G\">gab es Ger\u00fcchte.<\/a><\/noindex>, dass Amazon versucht hat, ein System f\u00fcr maschinelles Lernen zur ersten Sichtung von Bewerbern f\u00fcr Jobs zu entwickeln. Da unter den Mitarbeitern von Amazon mehr M\u00e4nner sind, waren auch die Beispiele f\u00fcr \u201eerfolgreiche Einstellungen\u201c h\u00e4ufiger m\u00e4nnlich, und in der von dem System vorgeschlagenen Zusammenstellung von Lebensl\u00e4ufen gab es mehr M\u00e4nner. Amazon hat dies bemerkt und das System nicht in die Produktion gebracht. <\/p>\n<p><\/p>\n<p>Das Wichtigste an diesem Beispiel ist, dass das System Ger\u00fcchten zufolge m\u00e4nnlichen Kandidaten den Vorzug gab, obwohl das Geschlecht in den Lebensl\u00e4ufen nicht angegeben war.<strong> Das System erkannte andere Muster in den Beispielen f\u00fcr \u201eerfolgreiche Einstellungen\u201c: Beispielsweise k\u00f6nnten Frauen besondere Worte zur Beschreibung von Erfolgen verwenden oder besondere Hobbys haben. Nat\u00fcrlich wusste das System weder, was \u201eEishockey\u201c ist, noch wer \u201eMenschen\u201c sind, noch was \u201eErfolg\u201c bedeutet \u2013 es f\u00fchrte einfach eine statistische Analyse des Textes durch.<\/strong> Die Muster, die es erkannte, w\u00e4ren von einem Menschen h\u00f6chstwahrscheinlich unbemerkt geblieben, und einige von ihnen (z. B. dass Menschen unterschiedlichen Geschlechts Erfolge unterschiedlich beschreiben) w\u00e4ren f\u00fcr uns wahrscheinlich schwer zu erkennen gewesen, selbst wenn wir sie beobachtet h\u00e4tten. <\/p>\n<p><\/p>\n<p>Aber es wird schlimmer. Ein maschinelles Lernsystem, das sehr gut Krebs auf heller Haut erkennt, k\u00f6nnte bei dunkler Haut schlechter abschneiden oder umgekehrt. Dies liegt nicht unbedingt an einer Voreingenommenheit, sondern vielmehr daran, dass Sie wahrscheinlich ein separates Modell f\u00fcr eine andere Hautfarbe erstellen m\u00fcssen, indem Sie andere Merkmale ausw\u00e4hlen.<strong> Maschinelle Lernsysteme sind nicht austauschbar, selbst in einem so engen Bereich wie der Bilderkennung.<\/strong> Sie m\u00fcssen das System konfigurieren, manchmal einfach durch Ausprobieren, um die Merkmale in den Daten, die Sie interessieren, gut zu erkennen, bis Sie die gew\u00fcnschte Genauigkeit erreichen. Sie k\u00f6nnten jedoch nicht bemerken, dass das System in 98 % der F\u00e4lle bei einer Gruppe genau ist und nur in 91 % (auch wenn dies genauer ist als eine von einem Menschen durchgef\u00fchrte Analyse) \u2013 bei einer anderen. <\/p>\n<p><\/p>\n<p>Ich habe bisher haupts\u00e4chlich Beispiele verwendet, die Menschen und deren Eigenschaften betreffen. Auf diesem Thema konzentriert sich auch gr\u00f6\u00dftenteils die Diskussion \u00fcber dieses Problem. Es ist jedoch wichtig zu verstehen, dass Voreingenommenheit gegen\u00fcber Menschen nur einen Teil des Problems darstellt. Wir werden maschinelles Lernen f\u00fcr viele Dinge einsetzen, und die Auswahlverzerrung wird f\u00fcr alle von Bedeutung sein. Andererseits kann, wenn Sie mit Menschen arbeiten, die Voreingenommenheit der Daten nicht mit diesen zusammenh\u00e4ngen. <\/p>\n<p><\/p>\n<p>Um das zu verstehen, kehren wir zu unserem Beispiel mit Hautkrebs zur\u00fcck und betrachten drei hypothetische M\u00f6glichkeiten des Systemversagens. <\/p>\n<p><\/p>\n<ol>\n<li>Uneinheitliche Verteilung von Personen: unausgewogene Anzahl von Fotos mit Hautt\u00f6nen, was zu falsch positiven oder falsch negativen Ergebnissen in Bezug auf die Pigmentierung f\u00fchrt. <\/li>\n<li>Die Daten, mit denen das System trainiert wird, enthalten h\u00e4ufig vorkommende und uneinheitlich verteilte Merkmale, die nicht mit Personen in Verbindung stehen und keinen diagnostischen Wert haben: Lineale auf Fotos von Hautkrebsmanifestationen oder Gras auf Fotos von Schafen. In diesem Fall wird das Ergebnis anders sein, wenn das System auf dem Bild Pixel von etwas findet, was das menschliche Auge als \"Lineal\" identifiziert. <\/li>\n<li>Die Daten enthalten Merkmale, die von Menschen nicht gesehen werden k\u00f6nnen, selbst wenn sie danach suchen. <\/li>\n<\/ol>\n<p><\/p>\n<p>Was bedeutet das? Wir wissen apriori, dass Daten unterschiedliche Gruppen von Menschen unterschiedlich darstellen k\u00f6nnen, und wir k\u00f6nnen mindestens die Suche nach solchen Ausnahmen planen. Mit anderen Worten, es gibt viele soziale Gr\u00fcnde, um anzunehmen, dass die Daten \u00fcber Gruppen von Menschen bereits eine gewisse Voreingenommenheit enthalten. Wenn wir uns ein Foto mit einem Lineal ansehen, sehen wir dieses Lineal \u2014 wir haben es einfach ignoriert, weil wir wussten, dass es nicht relevant ist, und vergessen, dass das System nichts dar\u00fcber wei\u00df.<\/p>\n<p><\/p>\n<p>Aber was, wenn alle Ihre Fotos von ungesunder Haut in einem B\u00fcro aufgenommen wurden, in dem Gl\u00fchlampen verwendet werden, und die von gesunder Haut unter fluoreszierendem Licht? Was, wenn Sie nach dem Filmen gesunder Haut das Betriebssystem Ihres Telefons aktualisiert haben, und Apple oder Google den Algorithmus zur Rauschunterdr\u00fcckung leicht ver\u00e4ndert hat? Ein Mensch wird das nicht bemerken, egal wie sehr er nach solchen Eigenschaften sucht. Aber das System des maschinellen Lernens wird es sofort sehen und nutzen. Es wei\u00df nichts. <\/p>\n<p><\/p>\n<p>W\u00e4hrend wir \u00fcber falsche Korrelationen sprachen, kann es auch vorkommen, dass die Daten genau sind und die Ergebnisse korrekt sind, aber Sie m\u00f6chten sie aus ethischen, rechtlichen oder verwaltungstechnischen Gr\u00fcnden nicht nutzen. In einigen Rechtsordnungen ist es beispielsweise nicht erlaubt, Frauen einen Rabatt auf Versicherungen zu gew\u00e4hren, auch wenn Frauen m\u00f6glicherweise sicherer fahren. Wir k\u00f6nnen uns leicht ein System vorstellen, das bei der Analyse von historischen Daten weiblichen Namen einen niedrigeren Risikofaktor zuweist. Okay, lassen Sie uns die Namen aus der Stichprobe entfernen. Aber denken Sie an das Beispiel mit Amazon: Das System kann das Geschlecht anhand anderer Faktoren bestimmen (obwohl es nicht wei\u00df, was Geschlecht ist und was ein Auto ist), und Sie bemerken es nicht, bis der Regulator die von Ihnen angebotenen Tarife im Nachhinein analysiert und Ihnen eine Strafe auferlegt. <\/p>\n<p><\/p>\n<p>Schlie\u00dflich wird oft angenommen, dass wir solche Systeme nur f\u00fcr Projekte verwenden, die mit Menschen und sozialen Interaktionen zu tun haben. Das ist nicht so. Wenn Sie Gasturbinen herstellen, m\u00f6chten Sie sicherlich maschinelles Lernen auf die Telemetrie anwenden, die von Dutzenden oder Hunderten von Sensoren in Ihrem Produkt \u00fcbertragen wird (Audio-, Video-, Temperatur- und andere Sensoren generieren Daten, die sehr leicht f\u00fcr die Erstellung eines maschinellen Lernmodells angepasst werden k\u00f6nnen). Hypothetisch k\u00f6nnten Sie sagen: \u201eHier sind Daten von tausend ausgefallenen Turbinen, die vor ihrem Ausfall gesammelt wurden, und hier sind die Daten von tausend Turbinen, die nicht ausgefallen sind. Bauen Sie ein Modell, um zu sagen, wo der Unterschied zwischen ihnen liegt.\u201c Stellen Sie sich nun vor, dass Siemens-Sensoren auf 75 % der defekten Turbinen installiert sind und nur auf 12 % der funktionierenden (es gibt dabei keinen Zusammenhang mit den Ausf\u00e4llen). Das System wird ein Modell erstellen, um Turbinen mit Siemens-Sensoren zu finden. Ups!<\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"\u00dcber die Voreingenommenheit von k\u00fcnstlicher Intelligenz\" src=\"\/wp-content\/uploads\/2019\/04\/e8097e4913756fdf04826a6628bc6836.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\nBild \u2013 Moritz Hardt, UC Berkeley<\/p>\n<p><\/p>\n<h2 id=\"upravlenie-predvzyatostyu-ii\">Steuerung von KI-Vorurteilen<\/h2>\n<p><\/p>\n<p>Was k\u00f6nnen wir dagegen tun? Wir k\u00f6nnen das Problem von drei Seiten angehen:<\/p>\n<p><\/p>\n<ol>\n<li>Methodologische Strenge bei der Datensammlung und -verwaltung f\u00fcr das Training des Systems.<\/li>\n<li>Technische Werkzeuge zur Analyse und Diagnose des Verhaltens des Modells.<\/li>\n<li>Schulung, Training und Vorsicht bei der Implementierung von maschinellem Lernen in Produkte.<\/li>\n<\/ol>\n<p><\/p>\n<p>In dem Buch \u201eDer B\u00fcrger als Edelmann\u201c von Moli\u00e8re gibt es einen Witz: Einem Mann wurde erz\u00e4hlt, dass Literatur in Prosa und Poesie unterteilt ist, und er stellt mit Bewunderung fest, dass er sein ganzes Leben lang Prosa gesprochen hat, ohne es zu wissen. Vermutlich f\u00fchlen sich Statistiker heute \u00e4hnlich: Ohne es zu bemerken, haben sie ihre Karrieren der k\u00fcnstlichen Intelligenz und dem Sampling-Fehler gewidmet. Den Sampling-Fehler zu suchen und sich dar\u00fcber zu sorgen, ist kein neues Problem; wir m\u00fcssen es systematisch angehen. Wie bereits erw\u00e4hnt, ist es in einigen F\u00e4llen tats\u00e4chlich einfacher, die mit Daten \u00fcber Menschen verbundenen Probleme zu untersuchen. Wir gehen prinzipiell davon aus, dass wir Vorurteile gegen\u00fcber verschiedenen Menschengruppen haben k\u00f6nnen, aber das Vorurteil gegen\u00fcber Siemens-Sensoren f\u00e4llt uns schwer, uns \u00fcberhaupt vorzustellen.<\/p>\n<p><\/p>\n<p>Neu daran ist nat\u00fcrlich, dass Menschen sich nicht mehr direkt mit statistischen Analysen besch\u00e4ftigen. Diese werden von Maschinen durchgef\u00fchrt, die gro\u00dfe, komplexe Modelle schaffen, die schwer zu verstehen sind. Die Frage nach der Transparenz ist einer der Hauptaspekte des Vorurteilproblems. Wir haben Angst, dass das System nicht nur voreingenommen ist, sondern dass es auch keine M\u00f6glichkeit gibt, seine Voreingenommenheit zu erkennen, und dass maschinelles Lernen sich dadurch von anderen Automatisierungsformen unterscheidet, die aus klaren logischen Schritten bestehen, die \u00fcberpr\u00fcft werden k\u00f6nnen. <\/p>\n<p><\/p>\n<p>Hier gibt es zwei Probleme. M\u00f6glicherweise k\u00f6nnen wir doch eine Art Audit f\u00fcr maschinelle Lernsysteme durchf\u00fchren. Und das Audit jedes anderen Systems ist in der Tat nicht viel einfacher.<\/p>\n<p><\/p>\n<p>Erstens ist eines der Forschungsrichtungen im Bereich des maschinellen Lernens die Suche nach Methoden zur Identifizierung wichtiger Funktionalit\u00e4ten von maschinellen Lernsystemen. Dabei ist maschinelles Lernen (in seinem aktuellen Zustand) ein ganz neues Wissenschaftsfeld, das sich schnell ver\u00e4ndert; man sollte also nicht denken, dass die heute unm\u00f6glichen Dinge bald ganz real werden k\u00f6nnen. Das Projekt <noindex><a rel=\"nofollow\" href=\"https:\/\/openai.com\/\">OpenAI<\/a><\/noindex> ist ein interessantes Beispiel daf\u00fcr. <\/p>\n<p><\/p>\n<p>Zweitens ist die Idee, den Entscheidungsprozess in bestehenden Systemen oder Organisationen \u00fcberpr\u00fcfen und verstehen zu k\u00f6nnen, theoretisch gut, aber in der Praxis eher schwierig. Zu verstehen, wie Entscheidungen in einer gro\u00dfen Organisation getroffen werden, ist alles andere als einfach. Selbst wenn ein formaler Entscheidungsprozess vorhanden ist, spiegelt er oft nicht wider, wie Menschen tats\u00e4chlich interagieren, und sie selbst haben h\u00e4ufig keinen logischen, systematischen Ansatz zur Entscheidungsfindung. Wie mein Kollege sagte, <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Vijay_S._Pande\">Vijay Pandey<\/a><\/noindex>, <strong>Menschen sind auch schwarze K\u00e4sten.<\/strong>. <\/p>\n<p><\/p>\n<p>Nehmen Sie tausend Menschen aus mehreren \u00fcberschneidenden Unternehmen und Instituten, und das Problem wird noch komplizierter. Wir wissen im Nachhinein, dass es dem Space Shuttle bestimmt war, bei der R\u00fcckkehr auseinanderzufallen, und dass einzelne Personen innerhalb von NASA Informationen hatten, die sie glauben machten, dass etwas Schlimmes passieren k\u00f6nnte, aber das System <em>insgesamt<\/em> wusste davon nichts. NASA hatte gerade einen \u00e4hnlichen Audit durchlaufen und den vorherigen Shuttle verloren, und dennoch verlor sie einen weiteren \u2014 aus einem sehr \u00e4hnlichen Grund. Es ist einfach zu behaupten, dass Organisationen und Menschen klaren logischen Regeln folgen, die man \u00fcberpr\u00fcfen, verstehen und \u00e4ndern kann \u2014 aber die Erfahrung beweist das Gegenteil. Das ist das \u201e<noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%93%D0%BE%D1%81%D0%BF%D0%BB%D0%B0%D0%BD_%D0%A1%D0%A1%D0%A1%D0%A0\">Irrtum des Gosplans.<\/a><\/noindex>\u00bb.<\/p>\n<p><\/p>\n<p><strong>Ich vergleiche maschinelles Lernen oft mit Datenbanken, insbesondere mit relationalen \u2014 einer neuen grundlegenden Technologie, die die Informatik und die Welt um sie herum ver\u00e4ndert hat, die Teil von allem geworden ist, was wir st\u00e4ndig verwenden, ohne es zu merken.<\/strong> Datenbanken haben ebenfalls Probleme, die \u00e4hnlicher Natur sind: Das System k\u00f6nnte auf falschen Annahmen oder schlechten Daten basieren, was schwer zu erkennen ist, und die Menschen, die das System nutzen, werden das tun, was es ihnen sagt, ohne Fragen zu stellen. Es gibt viele alte Witze \u00fcber Steuerbeamte, die einmal Ihren Namen falsch eingetragen haben, und es ist viel schwieriger, sie zu \u00fcberzeugen, den Fehler zu korrigieren, als tats\u00e4chlich den Namen zu \u00e4ndern. Man kann dar\u00fcber unterschiedlich denken, aber es ist unklar, wie besser: als technisches Problem in SQL, als Fehler in einem Oracle-Release oder als Ausfall b\u00fcrokratischer Institutionen? Wie schwierig ist es, einen Fehler im Prozess zu finden, der dazu gef\u00fchrt hat, dass das System nicht \u00fcber eine Funktion wie die Korrektur von Tippfehlern verf\u00fcgt? H\u00e4tte man das verstehen k\u00f6nnen, bevor die Leute anfingen, sich zu beschweren? <\/p>\n<p><\/p>\n<p>Noch einfacher l\u00e4sst sich dieses Problem mit Geschichten illustrieren, wenn Fahrer aufgrund veralteter Daten im Navigationsger\u00e4t in Fl\u00fcsse fahren. Okay, Karten sollten st\u00e4ndig aktualisiert werden. Aber wie sehr ist TomTom daf\u00fcr verantwortlich, dass Ihr Auto ins Meer gesp\u00fclt wird?<\/p>\n<p><\/p>\n<p>Ich sage das, um zu verdeutlichen, dass ja \u2013 die Voreingenommenheit des maschinellen Lernens Probleme schaffen wird. Aber diese Probleme werden \u00e4hnlich sein wie die, mit denen wir in der Vergangenheit konfrontiert waren, und sie werden etwa genauso gut wahrgenommen und gel\u00f6st werden (oder auch nicht) wie in der Vergangenheit. Folglich ist das Szenario, in dem die Voreingenommenheit der KI Schaden anrichtet, eher unwahrscheinlich bei f\u00fchrenden Forschern, die in gro\u00dfen Organisationen arbeiten. Wahrscheinlicher ist, dass ein unbedeutender technologischer Dienstleister oder Softwareanbieter etwas im Handumdrehen programmiert, indem er unklare Open-Source-Komponenten, Bibliotheken und Werkzeuge verwendet. Und der ungl\u00fcckliche Kunde kauft sich den Begriff \u201eK\u00fcnstliche Intelligenz\u201c in der Produktbeschreibung und verteilt es, ohne weitere Fragen zu stellen, an seine schlecht bezahlten Mitarbeiter, denen er befehlt, das zu tun, was die KI sagt. Genau das ist mit Datenbanken passiert. Das ist kein Problem der k\u00fcnstlichen Intelligenz, und auch kein Softwareproblem. Das ist der menschliche Faktor.<\/p>\n<p><\/p>\n<h2 id=\"zaklyuchenie\">Fazit<\/h2>\n<p><\/p>\n<blockquote><p><em>Maschinelles Lernen kann alles tun, was Sie einem Hund beibringen k\u00f6nnen \u2013 aber Sie k\u00f6nnen sich nie sicher sein, was genau Sie diesem Hund beigebracht haben.<\/em><\/p><\/blockquote>\n<p>Ich habe oft das Gef\u00fchl, dass der Begriff \u201ek\u00fcnstliche Intelligenz\u201c nur Gespr\u00e4che wie dieses behindert. Dieser Begriff erweckt den falschen Eindruck, dass wir ihn tats\u00e4chlich geschaffen haben \u2013 diesen Intellekt. Dass wir auf dem Weg zu HAL9000 oder Skynet sind \u2013 zu etwas, das tats\u00e4chlich <em>versteht<\/em>. Aber das ist nicht der Fall. Es sind einfach Maschinen, und man vergleicht sie viel besser, sagen wir, mit einer Waschmaschine. Sie erledigt W\u00e4sche viel besser als ein Mensch, aber wenn man Geschirr anstelle von Kleidung hineinlegt, wird es\u2026 gewaschen. Das Geschirr wird sogar sauber. Aber das wird nicht das sein, was man erwartet hat, und das liegt nicht daran, dass das System irgendwelche Vorurteile gegen\u00fcber Geschirr hat. Die Waschmaschine wei\u00df weder, was Geschirr ist, noch was Kleidung ist \u2013 sie ist nur ein Beispiel f\u00fcr Automatisierung, konzeptionell nicht anders als die Prozesse, die fr\u00fcher automatisiert wurden.<\/p>\n<p><\/p>\n<p>Wor\u00fcber auch immer gesprochen wird \u2013 \u00fcber Maschinen, Flugzeuge oder Datenbanken \u2013 diese Systeme werden gleichzeitig sehr leistungsf\u00e4hig und sehr begrenzt sein. Sie werden vollst\u00e4ndig davon abh\u00e4ngen, wie Menschen diese Systeme nutzen, ob ihre Absichten gut oder schlecht sind und inwieweit sie deren Funktionsweise verstehen.<\/p>\n<p><\/p>\n<p>Folglich ist es absolut falsch zu behaupten, dass \u201ek\u00fcnstliche Intelligenz Mathematik ist, daher kann sie keine Vorurteile haben\u201c. Aber es ist ebenso falsch zu sagen, dass maschinelles Lernen \u201evon Natur aus subjektiv\u201c ist. Maschinelles Lernen findet Muster in den Daten, und welche Muster es finden wird, h\u00e4ngt von den Daten ab, und die Daten h\u00e4ngen von uns ab. Genauso wie das, was wir mit ihnen machen. Maschinelles Lernen erledigt tats\u00e4chlich einige Dinge viel besser als wir \u2013 aber zum Beispiel sind Hunde viel effektiver als Menschen beim Aufsp\u00fcren von Drogen, was keineswegs ein Grund ist, sie als Zeugen heranzuziehen und Urteile auf der Grundlage ihrer Aussagen zu f\u00e4llen. Und Hunde sind, um ehrlich zu sein, viel intelligenter als jedes System des maschinellen Lernens.<\/p>\n<p><strong>\u00dcbersetzung:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/en\/users\/757NF\/\">Diana Letzkaya<\/a><\/noindex>.<br \/>\n<strong>Redaktion:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">Alexey Ivanov<\/a><\/noindex>.<br \/>\n<strong>Gemeinschaft:<\/strong> <noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">@PonchikNews<\/a><\/noindex>.<\/p>\n<p>Quelle: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/449224\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014\u00a0\u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":24558,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-32781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.1.1 - aioseo.com -->\n\t<meta name=\"description\" content=\"tl;dr: .\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/de\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.1.1\" \/>\n\t\t<meta property=\"og:locale\" content=\"de_DE\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"tl;dr: .\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/de\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Zur Voreingenommenheit von K\u00fcnstlicher Intelligenz | ProHoster","description":"tl;dr: .","canonical_url":"https:\/\/prohoster.info\/de\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"de_DE","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster","og:description":"tl;dr: .","og:url":"https:\/\/prohoster.info\/de\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T18:48:54+00:00","article:modified_time":"2019-10-31T18:48:54+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"32781","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-21 12:30:22","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 02:52:26","updated":"2026-01-21 12:30:22","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/posts\/32781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/comments?post=32781"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/posts\/32781\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/media\/24558"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/media?parent=32781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/categories?post=32781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/tags?post=32781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}