Über die Voreingenommenheit von künstlicher Intelligenz

Über die Voreingenommenheit von künstlicher Intelligenz

tl;dr:

  • Maschinenlernen sucht nach Mustern in Daten. Aber künstliche Intelligenz kann "voreingenommen" sein – das heißt, sie findet falsche Muster. Zum Beispiel kann ein System zur Erkennung von Hautkrebs anhand von Fotos besonders viel Augenmerk auf Bilder legen, die im Arztbüro gemacht wurden. Maschinenlernen kann nicht verstehen: seine Algorithmen identifizieren nur Muster in Zahlen, und wenn die Daten nicht repräsentativ sind, wird auch das Ergebnis der Verarbeitung entsprechend sein. Solche Fehler zu erkennen, kann aufgrund der Mechanik des Maschinenlernens ziemlich kompliziert sein.
  • Das offensichtlichste und beunruhigendste Problembereich ist die menschliche Vielfalt. Es gibt viele Gründe, warum Daten über Menschen bereits in der Sammlung an Objektivität verlieren können. Aber man sollte nicht denken, dass dieses Problem nur Menschen betrifft: Die gleichen Schwierigkeiten treten auf, wenn man versucht, eine Überschwemmung im Lager zu erkennen oder eine defekte Gasturbine zu identifizieren. Einige Systeme können Vorurteile gegenüber Hautfarben haben, während andere voreingenommen gegenüber Siemens-Sensoren sein können.
  • Solche Probleme sind für das Maschinenlernen nicht neu und betreffen keineswegs nur dieses. Falsche Annahmen werden in allen komplexen Strukturen getroffen, und es ist immer schwierig zu verstehen, warum eine bestimmte Entscheidung getroffen wurde. Man muss ganzheitlich gegen diese Probleme vorgehen: Werkzeuge und Prozesse zur Überprüfung schaffen – und die Nutzer schulen, damit sie nicht blind die Empfehlungen der KI befolgen. Maschinenlernen kann in der Tat einige Dinge viel besser als wir, – aber Hunde sind beispielsweise viel effektiver als Menschen bei der Drogenauffindung, was keineswegs ein Grund ist, sie als Zeugen heranzuziehen und Urteile auf Basis ihrer Aussagen zu fällen. Und Hunde sind, um genau zu sein, viel intelligenter als jedes Maschinenlernsysten.

Maschinenlernen ist heute einer der wichtigsten grundlegenden Technologietrends. Dies ist einer der Hauptwege, wie Technologie die Welt in den nächsten zehn Jahren verändern wird. Einige Aspekte dieser Veränderungen bereiten Sorgen. Zum Beispiel die potenziellen Auswirkungen des Maschinenlernens auf den Arbeitsmarkt oder seine Nutzung für unethische Zwecke (zum Beispiel durch autoritäre Regime). Es gibt ein weiteres Problem, das in diesem Beitrag behandelt wird: Voreingenommenheit der künstlichen Intelligenz.

Das ist eine komplizierte Geschichte.

Über die Voreingenommenheit von künstlicher Intelligenz
Die KI von Google kann Katzen finden. Diese Nachricht aus dem Jahr 2012 war damals etwas Besonderes.

Was ist »KI-Voreingenommenheit«?

»Rohdaten« sind sowohl ein Oxymoron als auch eine schlechte Idee; Daten müssen gut und sorgfältig aufbereitet werden. —Jeffrey Bock

Bis etwa 2013 musste man, um ein System zu erstellen, das beispielsweise Katzen auf Fotos erkennt, logische Schritte beschreiben. Man musste herausfinden, wie man Kanten im Bild findet, Augen erkennt, Texturen auf Fell analysiert, Pfoten zählt und so weiter. Dann mussten alle Komponenten zusammengesetzt werden — und man stellte fest, dass es insgesamt nicht richtig funktioniert. Etwa wie ein mechanisches Pferd — theoretisch könnte man es erschaffen, aber in der Praxis ist es zu kompliziert zu beschreiben. Am Ende hatte man Hunderte (oder sogar Tausende) handschriftlicher Regeln. Und kein funktionierendes Modell.

Mit dem Aufkommen des maschinellen Lernens hörten wir auf, »manuelle« Regeln zur Erkennung eines bestimmten Objekts zu verwenden. Stattdessen nehmen wir tausend Beispiele für »das«, X, tausend Beispiele für »jenes«, Y, und bringen den Computer dazu, ein Modell auf der Grundlage ihrer statistischen Analyse zu erstellen. Dann geben wir diesem Modell ein Beispiel von Daten, und es bestimmt mit einer gewissen Genauigkeit, ob es zu einem der Sätze passt. Maschinelles Lernen generiert ein Modell basierend auf den Daten, nicht mit Hilfe eines Menschen, der es schreibt. Die Ergebnisse sind beeindruckend, besonders im Bereich der Bilderkennung und Mustererkennung, und genau deshalb wechselt die gesamte Tech-Industrie jetzt zu maschinellem Lernen (ML).

Aber nicht alles ist so einfach. In der realen Welt enthalten Ihre Tausenden von Beispielen X oder Y auch A, B, J, L, O, R und sogar L. Diese können ungleichmäßig verteilt sein, und einige von ihnen können so häufig vorkommen, dass das System ihnen mehr Aufmerksamkeit schenkt als den Objekten, die Sie interessieren.

Was bedeutet das praktisch? Mein Lieblingsbeispiel ist, wenn Bildverkennungssysteme auf einen grasbewachsenen Hügel schauen und sagen: »Schaf«. Es ist klar, warum: Der Großteil der Beispielbilder von »Schafen« wurde auf Wiesen aufgenommen, wo sie leben, und auf diesen Bildern nimmt das Gras viel mehr Platz ein als die kleinen weißen fluffigen Tiere, und genau das Gras betrachten die Systeme als das Wichtigste.

Es gibt auch schwerwiegendere Beispiele. Ein aktuelles ist eines Projekt bei der Erkennung von Hautkrebs auf Fotografien. Es stellte sich heraus, dass Dermatologen oft ein Lineal zusammen mit Hautkrebsmanifestationen fotografieren, um die Größe der Läsionen festzuhalten. In den Beispielen von gesunder Haut sind keine Lineale vorhanden. Für das KI-System wurden diese Lineale (genauer gesagt die Pixel, die wir als "Lineal" definieren) zu einem der Unterscheidungsmerkmale zwischen den Mustersets, manchmal sogar wichtiger als ein kleiner Hautausschlag. So erkannte das System, das zur Identifizierung von Hautkrebs entwickelt wurde, manchmal stattdessen die Lineale.

Der Schlüsselpunkt hier ist, dass das System kein semantisches Verständnis dafür hat, was es sieht. Wir betrachten eine Pixelgruppe und sehen darin ein Schaf, Haut oder Lineale, während das System nur eine Zahlenreihe sieht. Es sieht keinen dreidimensionalen Raum, erkennt weder Objekte noch Texturen, noch Schafe. Es sieht nur Muster in den Daten.

Die Schwierigkeit bei der Diagnose solcher Probleme liegt darin, dass das neuronale Netzwerk (das Modell, das von Ihrem Machine-Learning-System generiert wurde) aus Tausenden von Hunderttausenden von Knoten besteht. Es gibt keinen einfachen Weg, in das Modell hinein zu schauen und zu sehen, wie es Entscheidungen trifft. Ein solcher Weg würde bedeuten, dass der Prozess einfach genug ist, um alle Regeln manuell zu beschreiben, ohne maschinelles Lernen zu verwenden. Die Menschen machen sich Sorgen, dass maschinelles Lernen zu einer Art "schwarzer Box" geworden ist. (Ich erkläre später, warum dieser Vergleich etwas übertrieben ist.)

Das ist im Großen und Ganzen das Problem der Bias im Künstlichen Intelligenz oder maschinellen Lernen: Das System kann falsche Muster in den Daten finden, und Sie könnten das übersehen. Das ist eine grundlegende Eigenschaft der Technologie, und es ist offensichtlich für alle, die damit in wissenschaftlichen Kreisen oder in großen Technologieunternehmen arbeiten. Aber die Konsequenzen sind komplex, und auch unsere möglichen Lösungen für diese Konsequenzen sind es.

Lass uns zuerst über die Konsequenzen sprechen.

Über die Voreingenommenheit von künstlicher Intelligenz
KI kann uns implizit zugunsten bestimmter Kategorien von Menschen Entscheidungen treffen, basierend auf einer Vielzahl von unauffälligen Signalen.

Szenarien der Bias in KI

Das Offensichtlichste und Beunruhigendste ist, dass dieses Problem auftreten kann, wenn es um menschliche Diversität geht. Kürzlich gab es Gerüchte., dass Amazon versucht hat, ein System für maschinelles Lernen zur ersten Sichtung von Bewerbern für Jobs zu entwickeln. Da unter den Mitarbeitern von Amazon mehr Männer sind, waren auch die Beispiele für „erfolgreiche Einstellungen“ häufiger männlich, und in der von dem System vorgeschlagenen Zusammenstellung von Lebensläufen gab es mehr Männer. Amazon hat dies bemerkt und das System nicht in die Produktion gebracht.

Das Wichtigste an diesem Beispiel ist, dass das System Gerüchten zufolge männlichen Kandidaten den Vorzug gab, obwohl das Geschlecht in den Lebensläufen nicht angegeben war. Das System erkannte andere Muster in den Beispielen für „erfolgreiche Einstellungen“: Beispielsweise könnten Frauen besondere Worte zur Beschreibung von Erfolgen verwenden oder besondere Hobbys haben. Natürlich wusste das System weder, was „Eishockey“ ist, noch wer „Menschen“ sind, noch was „Erfolg“ bedeutet – es führte einfach eine statistische Analyse des Textes durch. Die Muster, die es erkannte, wären von einem Menschen höchstwahrscheinlich unbemerkt geblieben, und einige von ihnen (z. B. dass Menschen unterschiedlichen Geschlechts Erfolge unterschiedlich beschreiben) wären für uns wahrscheinlich schwer zu erkennen gewesen, selbst wenn wir sie beobachtet hätten.

Aber es wird schlimmer. Ein maschinelles Lernsystem, das sehr gut Krebs auf heller Haut erkennt, könnte bei dunkler Haut schlechter abschneiden oder umgekehrt. Dies liegt nicht unbedingt an einer Voreingenommenheit, sondern vielmehr daran, dass Sie wahrscheinlich ein separates Modell für eine andere Hautfarbe erstellen müssen, indem Sie andere Merkmale auswählen. Maschinelle Lernsysteme sind nicht austauschbar, selbst in einem so engen Bereich wie der Bilderkennung. Sie müssen das System konfigurieren, manchmal einfach durch Ausprobieren, um die Merkmale in den Daten, die Sie interessieren, gut zu erkennen, bis Sie die gewünschte Genauigkeit erreichen. Sie könnten jedoch nicht bemerken, dass das System in 98 % der Fälle bei einer Gruppe genau ist und nur in 91 % (auch wenn dies genauer ist als eine von einem Menschen durchgeführte Analyse) – bei einer anderen.

Ich habe bisher hauptsächlich Beispiele verwendet, die Menschen und deren Eigenschaften betreffen. Auf diesem Thema konzentriert sich auch größtenteils die Diskussion über dieses Problem. Es ist jedoch wichtig zu verstehen, dass Voreingenommenheit gegenüber Menschen nur einen Teil des Problems darstellt. Wir werden maschinelles Lernen für viele Dinge einsetzen, und die Auswahlverzerrung wird für alle von Bedeutung sein. Andererseits kann, wenn Sie mit Menschen arbeiten, die Voreingenommenheit der Daten nicht mit diesen zusammenhängen.

Um das zu verstehen, kehren wir zu unserem Beispiel mit Hautkrebs zurück und betrachten drei hypothetische Möglichkeiten des Systemversagens.

  1. Uneinheitliche Verteilung von Personen: unausgewogene Anzahl von Fotos mit Hauttönen, was zu falsch positiven oder falsch negativen Ergebnissen in Bezug auf die Pigmentierung führt.
  2. Die Daten, mit denen das System trainiert wird, enthalten häufig vorkommende und uneinheitlich verteilte Merkmale, die nicht mit Personen in Verbindung stehen und keinen diagnostischen Wert haben: Lineale auf Fotos von Hautkrebsmanifestationen oder Gras auf Fotos von Schafen. In diesem Fall wird das Ergebnis anders sein, wenn das System auf dem Bild Pixel von etwas findet, was das menschliche Auge als "Lineal" identifiziert.
  3. Die Daten enthalten Merkmale, die von Menschen nicht gesehen werden können, selbst wenn sie danach suchen.

Was bedeutet das? Wir wissen apriori, dass Daten unterschiedliche Gruppen von Menschen unterschiedlich darstellen können, und wir können mindestens die Suche nach solchen Ausnahmen planen. Mit anderen Worten, es gibt viele soziale Gründe, um anzunehmen, dass die Daten über Gruppen von Menschen bereits eine gewisse Voreingenommenheit enthalten. Wenn wir uns ein Foto mit einem Lineal ansehen, sehen wir dieses Lineal — wir haben es einfach ignoriert, weil wir wussten, dass es nicht relevant ist, und vergessen, dass das System nichts darüber weiß.

Aber was, wenn alle Ihre Fotos von ungesunder Haut in einem Büro aufgenommen wurden, in dem Glühlampen verwendet werden, und die von gesunder Haut unter fluoreszierendem Licht? Was, wenn Sie nach dem Filmen gesunder Haut das Betriebssystem Ihres Telefons aktualisiert haben, und Apple oder Google den Algorithmus zur Rauschunterdrückung leicht verändert hat? Ein Mensch wird das nicht bemerken, egal wie sehr er nach solchen Eigenschaften sucht. Aber das System des maschinellen Lernens wird es sofort sehen und nutzen. Es weiß nichts.

Während wir über falsche Korrelationen sprachen, kann es auch vorkommen, dass die Daten genau sind und die Ergebnisse korrekt sind, aber Sie möchten sie aus ethischen, rechtlichen oder verwaltungstechnischen Gründen nicht nutzen. In einigen Rechtsordnungen ist es beispielsweise nicht erlaubt, Frauen einen Rabatt auf Versicherungen zu gewähren, auch wenn Frauen möglicherweise sicherer fahren. Wir können uns leicht ein System vorstellen, das bei der Analyse von historischen Daten weiblichen Namen einen niedrigeren Risikofaktor zuweist. Okay, lassen Sie uns die Namen aus der Stichprobe entfernen. Aber denken Sie an das Beispiel mit Amazon: Das System kann das Geschlecht anhand anderer Faktoren bestimmen (obwohl es nicht weiß, was Geschlecht ist und was ein Auto ist), und Sie bemerken es nicht, bis der Regulator die von Ihnen angebotenen Tarife im Nachhinein analysiert und Ihnen eine Strafe auferlegt.

Schließlich wird oft angenommen, dass wir solche Systeme nur für Projekte verwenden, die mit Menschen und sozialen Interaktionen zu tun haben. Das ist nicht so. Wenn Sie Gasturbinen herstellen, möchten Sie sicherlich maschinelles Lernen auf die Telemetrie anwenden, die von Dutzenden oder Hunderten von Sensoren in Ihrem Produkt übertragen wird (Audio-, Video-, Temperatur- und andere Sensoren generieren Daten, die sehr leicht für die Erstellung eines maschinellen Lernmodells angepasst werden können). Hypothetisch könnten Sie sagen: „Hier sind Daten von tausend ausgefallenen Turbinen, die vor ihrem Ausfall gesammelt wurden, und hier sind die Daten von tausend Turbinen, die nicht ausgefallen sind. Bauen Sie ein Modell, um zu sagen, wo der Unterschied zwischen ihnen liegt.“ Stellen Sie sich nun vor, dass Siemens-Sensoren auf 75 % der defekten Turbinen installiert sind und nur auf 12 % der funktionierenden (es gibt dabei keinen Zusammenhang mit den Ausfällen). Das System wird ein Modell erstellen, um Turbinen mit Siemens-Sensoren zu finden. Ups!

Über die Voreingenommenheit von künstlicher Intelligenz
Bild – Moritz Hardt, UC Berkeley

Steuerung von KI-Vorurteilen

Was können wir dagegen tun? Wir können das Problem von drei Seiten angehen:

  1. Methodologische Strenge bei der Datensammlung und -verwaltung für das Training des Systems.
  2. Technische Werkzeuge zur Analyse und Diagnose des Verhaltens des Modells.
  3. Schulung, Training und Vorsicht bei der Implementierung von maschinellem Lernen in Produkte.

In dem Buch „Der Bürger als Edelmann“ von Molière gibt es einen Witz: Einem Mann wurde erzählt, dass Literatur in Prosa und Poesie unterteilt ist, und er stellt mit Bewunderung fest, dass er sein ganzes Leben lang Prosa gesprochen hat, ohne es zu wissen. Vermutlich fühlen sich Statistiker heute ähnlich: Ohne es zu bemerken, haben sie ihre Karrieren der künstlichen Intelligenz und dem Sampling-Fehler gewidmet. Den Sampling-Fehler zu suchen und sich darüber zu sorgen, ist kein neues Problem; wir müssen es systematisch angehen. Wie bereits erwähnt, ist es in einigen Fällen tatsächlich einfacher, die mit Daten über Menschen verbundenen Probleme zu untersuchen. Wir gehen prinzipiell davon aus, dass wir Vorurteile gegenüber verschiedenen Menschengruppen haben können, aber das Vorurteil gegenüber Siemens-Sensoren fällt uns schwer, uns überhaupt vorzustellen.

Neu daran ist natürlich, dass Menschen sich nicht mehr direkt mit statistischen Analysen beschäftigen. Diese werden von Maschinen durchgeführt, die große, komplexe Modelle schaffen, die schwer zu verstehen sind. Die Frage nach der Transparenz ist einer der Hauptaspekte des Vorurteilproblems. Wir haben Angst, dass das System nicht nur voreingenommen ist, sondern dass es auch keine Möglichkeit gibt, seine Voreingenommenheit zu erkennen, und dass maschinelles Lernen sich dadurch von anderen Automatisierungsformen unterscheidet, die aus klaren logischen Schritten bestehen, die überprüft werden können.

Hier gibt es zwei Probleme. Möglicherweise können wir doch eine Art Audit für maschinelle Lernsysteme durchführen. Und das Audit jedes anderen Systems ist in der Tat nicht viel einfacher.

Erstens ist eines der Forschungsrichtungen im Bereich des maschinellen Lernens die Suche nach Methoden zur Identifizierung wichtiger Funktionalitäten von maschinellen Lernsystemen. Dabei ist maschinelles Lernen (in seinem aktuellen Zustand) ein ganz neues Wissenschaftsfeld, das sich schnell verändert; man sollte also nicht denken, dass die heute unmöglichen Dinge bald ganz real werden können. Das Projekt OpenAI ist ein interessantes Beispiel dafür.

Zweitens ist die Idee, den Entscheidungsprozess in bestehenden Systemen oder Organisationen überprüfen und verstehen zu können, theoretisch gut, aber in der Praxis eher schwierig. Zu verstehen, wie Entscheidungen in einer großen Organisation getroffen werden, ist alles andere als einfach. Selbst wenn ein formaler Entscheidungsprozess vorhanden ist, spiegelt er oft nicht wider, wie Menschen tatsächlich interagieren, und sie selbst haben häufig keinen logischen, systematischen Ansatz zur Entscheidungsfindung. Wie mein Kollege sagte, Vijay Pandey, Menschen sind auch schwarze Kästen..

Nehmen Sie tausend Menschen aus mehreren überschneidenden Unternehmen und Instituten, und das Problem wird noch komplizierter. Wir wissen im Nachhinein, dass es dem Space Shuttle bestimmt war, bei der Rückkehr auseinanderzufallen, und dass einzelne Personen innerhalb von NASA Informationen hatten, die sie glauben machten, dass etwas Schlimmes passieren könnte, aber das System insgesamt wusste davon nichts. NASA hatte gerade einen ähnlichen Audit durchlaufen und den vorherigen Shuttle verloren, und dennoch verlor sie einen weiteren — aus einem sehr ähnlichen Grund. Es ist einfach zu behaupten, dass Organisationen und Menschen klaren logischen Regeln folgen, die man überprüfen, verstehen und ändern kann — aber die Erfahrung beweist das Gegenteil. Das ist das „Irrtum des Gosplans.».

Ich vergleiche maschinelles Lernen oft mit Datenbanken, insbesondere mit relationalen — einer neuen grundlegenden Technologie, die die Informatik und die Welt um sie herum verändert hat, die Teil von allem geworden ist, was wir ständig verwenden, ohne es zu merken. Datenbanken haben ebenfalls Probleme, die ähnlicher Natur sind: Das System könnte auf falschen Annahmen oder schlechten Daten basieren, was schwer zu erkennen ist, und die Menschen, die das System nutzen, werden das tun, was es ihnen sagt, ohne Fragen zu stellen. Es gibt viele alte Witze über Steuerbeamte, die einmal Ihren Namen falsch eingetragen haben, und es ist viel schwieriger, sie zu überzeugen, den Fehler zu korrigieren, als tatsächlich den Namen zu ändern. Man kann darüber unterschiedlich denken, aber es ist unklar, wie besser: als technisches Problem in SQL, als Fehler in einem Oracle-Release oder als Ausfall bürokratischer Institutionen? Wie schwierig ist es, einen Fehler im Prozess zu finden, der dazu geführt hat, dass das System nicht über eine Funktion wie die Korrektur von Tippfehlern verfügt? Hätte man das verstehen können, bevor die Leute anfingen, sich zu beschweren?

Noch einfacher lässt sich dieses Problem mit Geschichten illustrieren, wenn Fahrer aufgrund veralteter Daten im Navigationsgerät in Flüsse fahren. Okay, Karten sollten ständig aktualisiert werden. Aber wie sehr ist TomTom dafür verantwortlich, dass Ihr Auto ins Meer gespült wird?

Ich sage das, um zu verdeutlichen, dass ja – die Voreingenommenheit des maschinellen Lernens Probleme schaffen wird. Aber diese Probleme werden ähnlich sein wie die, mit denen wir in der Vergangenheit konfrontiert waren, und sie werden etwa genauso gut wahrgenommen und gelöst werden (oder auch nicht) wie in der Vergangenheit. Folglich ist das Szenario, in dem die Voreingenommenheit der KI Schaden anrichtet, eher unwahrscheinlich bei führenden Forschern, die in großen Organisationen arbeiten. Wahrscheinlicher ist, dass ein unbedeutender technologischer Dienstleister oder Softwareanbieter etwas im Handumdrehen programmiert, indem er unklare Open-Source-Komponenten, Bibliotheken und Werkzeuge verwendet. Und der unglückliche Kunde kauft sich den Begriff „Künstliche Intelligenz“ in der Produktbeschreibung und verteilt es, ohne weitere Fragen zu stellen, an seine schlecht bezahlten Mitarbeiter, denen er befehlt, das zu tun, was die KI sagt. Genau das ist mit Datenbanken passiert. Das ist kein Problem der künstlichen Intelligenz, und auch kein Softwareproblem. Das ist der menschliche Faktor.

Fazit

Maschinelles Lernen kann alles tun, was Sie einem Hund beibringen können – aber Sie können sich nie sicher sein, was genau Sie diesem Hund beigebracht haben.

Ich habe oft das Gefühl, dass der Begriff „künstliche Intelligenz“ nur Gespräche wie dieses behindert. Dieser Begriff erweckt den falschen Eindruck, dass wir ihn tatsächlich geschaffen haben – diesen Intellekt. Dass wir auf dem Weg zu HAL9000 oder Skynet sind – zu etwas, das tatsächlich versteht. Aber das ist nicht der Fall. Es sind einfach Maschinen, und man vergleicht sie viel besser, sagen wir, mit einer Waschmaschine. Sie erledigt Wäsche viel besser als ein Mensch, aber wenn man Geschirr anstelle von Kleidung hineinlegt, wird es… gewaschen. Das Geschirr wird sogar sauber. Aber das wird nicht das sein, was man erwartet hat, und das liegt nicht daran, dass das System irgendwelche Vorurteile gegenüber Geschirr hat. Die Waschmaschine weiß weder, was Geschirr ist, noch was Kleidung ist – sie ist nur ein Beispiel für Automatisierung, konzeptionell nicht anders als die Prozesse, die früher automatisiert wurden.

Worüber auch immer gesprochen wird – über Maschinen, Flugzeuge oder Datenbanken – diese Systeme werden gleichzeitig sehr leistungsfähig und sehr begrenzt sein. Sie werden vollständig davon abhängen, wie Menschen diese Systeme nutzen, ob ihre Absichten gut oder schlecht sind und inwieweit sie deren Funktionsweise verstehen.

Folglich ist es absolut falsch zu behaupten, dass „künstliche Intelligenz Mathematik ist, daher kann sie keine Vorurteile haben“. Aber es ist ebenso falsch zu sagen, dass maschinelles Lernen „von Natur aus subjektiv“ ist. Maschinelles Lernen findet Muster in den Daten, und welche Muster es finden wird, hängt von den Daten ab, und die Daten hängen von uns ab. Genauso wie das, was wir mit ihnen machen. Maschinelles Lernen erledigt tatsächlich einige Dinge viel besser als wir – aber zum Beispiel sind Hunde viel effektiver als Menschen beim Aufspüren von Drogen, was keineswegs ein Grund ist, sie als Zeugen heranzuziehen und Urteile auf der Grundlage ihrer Aussagen zu fällen. Und Hunde sind, um ehrlich zu sein, viel intelligenter als jedes System des maschinellen Lernens.

Übersetzung: Diana Letzkaya.
Redaktion: Alexey Ivanov.
Gemeinschaft: @PonchikNews.

Quelle: habr.com

60GB SSD 8Gb DDR4