{"id":32781,"date":"2019-10-31T21:48:54","date_gmt":"2019-10-31T18:48:54","guid":{"rendered":"https:\/\/prohoster.info\/blog\/o-predvzyatosti-iskusstvennogo-intellekta\/"},"modified":"2019-10-31T21:48:54","modified_gmt":"2019-10-31T18:48:54","slug":"o-predvzyatosti-iskusstvennogo-intellekta","status":"publish","type":"post","link":"https:\/\/prohoster.info\/de\/blog\/novosti-interneta\/o-predvzyatosti-iskusstvennogo-intellekta","title":{"rendered":"\u00dcber die Voreingenommenheit von K\u00fcnstlicher Intelligenz","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"\u00dcber die Voreingenommenheit von K\u00fcnstlicher Intelligenz\" src=\"\/wp-content\/uploads\/2019\/04\/05a731677e1231acceff953db8e1e26a.jpg\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<h2 id=\"tldr\">Kurzfassung:<\/h2>\n<p><\/p>\n<ul>\n<li>Maschinelles Lernen sucht nach Mustern in Daten. Doch k\u00fcnstliche Intelligenz kann \u201evoreingenommen\u201c sein \u2013 das hei\u00dft, sie erkennt falsche Muster. Zum Beispiel kann ein System zur Erkennung von Hautkrebs bei Fotos besonders auf Bilder achten, die in einer Arztpraxis aufgenommen wurden. Maschinelles Lernen versteht nicht <em>was es tut<\/em>: seine Algorithmen erkennen lediglich Muster in Zahlen, und wenn die Daten nicht repr\u00e4sentativ sind, wird auch das Ergebnis ihrer Verarbeitung entsprechend ausfallen. Es kann schwierig sein, solche Fehler zu erkennen, da sie der Mechanik des maschinellen Lernens entspringen. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/li>\n<li>Der offensichtlichste und be\u00e4ngstigende Problembereich ist die menschliche Vielfalt. Es gibt viele Gr\u00fcnde, warum Daten \u00fcber Menschen bereits in der Sammelphase an Objektivit\u00e4t verlieren k\u00f6nnen. Doch man sollte nicht denken, dass dieses Problem nur Menschen betrifft: \u00c4hnliche Schwierigkeiten treten auch auf, wenn man versucht, eine \u00dcberschwemmung im Lager zu erfassen oder eine ausgefallene Gasturbine zu erkennen. Einige Systeme k\u00f6nnen Vorurteile gegen\u00fcber Hautfarbe haben, andere wiederum k\u00f6nnten voreingenommen gegen\u00fcber Siemens-Sensoren sein. <\/li>\n<li>Solche Probleme sind im Bereich des maschinellen Lernens keine Seltenheit und kommen keineswegs nur dort vor. Falsche Annahmen werden in allen komplexen Strukturen getroffen, und es ist stets eine Herausforderung zu verstehen, warum eine bestimmte Entscheidung getroffen wurde. Hier muss ganzheitlich angegangen werden: Werkzeuge und Prozesse zur \u00dcberpr\u00fcfung m\u00fcssen geschaffen werden, und die Anwender sollten geschult werden, damit sie den Empfehlungen der KI nicht blind folgen. Maschinelles Lernen kann in der Tat einige Dinge viel besser als wir, - aber Hunde sind beispielsweise viel effektiver als Menschen bei der Drogenaufsp\u00fcrung, was jedoch kein Grund ist, sie als Zeugen heranzuziehen und Urteile allein auf Grundlage ihrer Aussagen zu f\u00e4llen. Und Hunde sind, um fair zu sein, auch viel intelligenter als jedes System des maschinellen Lernens. <\/li>\n<\/ul>\n<p>Maschinelles Lernen ist heute einer der bedeutendsten fundamentalen Technologietrends. Es ist eine der zentralen Methoden, durch die Technologie die Welt in den n\u00e4chsten zehn Jahren ver\u00e4ndern wird. Einige Aspekte dieser Ver\u00e4nderungen bereiten Sorgen, wie beispielsweise der potenzielle Einfluss des maschinellen Lernens auf den Arbeitsmarkt oder dessen Nutzung f\u00fcr unethische Zwecke (zum Beispiel durch autorit\u00e4re Regierungen). Ein weiteres Problem, dem sich dieser Beitrag widmet, ist: <strong>Vorurteile im Bereich der k\u00fcnstlichen Intelligenz<\/strong>. <\/p>\n<p><\/p>\n<p>Es ist eine komplizierte Angelegenheit. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"\u00dcber die Voreingenommenheit von K\u00fcnstlicher Intelligenz\" src=\"\/wp-content\/uploads\/2019\/04\/d692fbfff47614758ab1d8e1516b2742.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>Die KI von Google kann Katzenbilder erkennen. Diese Nachricht aus dem Jahr 2012 war damals etwas ganz Besonderes.<\/em><\/p>\n<p><\/p>\n<h2 id=\"chto-takoe-predvzyatost-ii\">Was versteht man unter \"Vorurteilen von KI\"?<\/h2>\n<p><\/p>\n<blockquote><p><em>\"Rohdaten\" sind sowohl ein Oxymoron als auch eine schlechte Idee; Daten m\u00fcssen gut und sorgf\u00e4ltig aufbereitet werden.<\/em> -Jeffrey Boker <\/p><\/blockquote>\n<p>Bis etwa 2013 war es notwendig, logische Schritte zu beschreiben, um ein System zu erstellen, das zum Beispiel Katzen auf Fotos erkennt. Man musste herausfinden, wie man Ecken im Bild identifiziert, Augen erkennt, Texturen auf Fell untersucht, Pfoten z\u00e4hlt und so weiter. Dann sammelte man alle Komponenten und stellte fest, dass das Ganze nicht wirklich funktionierte. Es war \u00e4hnlich wie bei einem mechanischen Pferd \u2013 theoretisch m\u00f6glich, aber in der Praxis viel zu komplex zu beschreiben. Am Ende hatte man Hunderte (oder sogar Tausende) handgeschriebener Regeln und kein funktionierendes Modell. <\/p>\n<p><\/p>\n<p>Mit dem Aufkommen des maschinellen Lernens haben wir aufgeh\u00f6rt, \"manuelle\" Regeln zur Erkennung bestimmter Objekte zu verwenden. Stattdessen nehmen wir tausend Beispiele f\u00fcr \"das\", X, tausend Beispiele f\u00fcr \"jenes\", Y, und lassen den Computer ein Modell basierend auf ihrer statistischen Analyse erstellen. Anschlie\u00dfend geben wir diesem Modell ein Beispiel, und es bestimmt mit einer gewissen Genauigkeit, ob es zu einem der Datens\u00e4tze passt. Maschinelles Lernen generiert ein Modell basierend auf Daten, nicht durch menschliche Programmierung. Die Ergebnisse sind beeindruckend, insbesondere im Bereich der Bilderkennung und Mustererkennung, weshalb die gesamte Tech-Industrie jetzt auf maschinelles Lernen (ML) umsteigt. <\/p>\n<p><\/p>\n<p>Aber so einfach ist es nicht. In der realen Welt enthalten Ihre Tausende von Beispielen X oder Y auch A, B, J, L, O, R und sogar L. Diese k\u00f6nnen ungleich verteilt sein, und einige von ihnen k\u00f6nnen so h\u00e4ufig vorkommen, dass das System mehr auf sie achtet als auf die Objekte, die f\u00fcr Sie von Interesse sind.<\/p>\n<p><\/p>\n<p>Was bedeutet das in der Praxis? Mein Lieblingsbeispiel ist, wenn Bildverarbeitungssysteme <noindex><a rel=\"nofollow\" href=\"http:\/\/aiweirdness.com\/post\/171451900302\/do-neural-nets-dream-of-electric-sheep\">einen bewachsenen H\u00fcgel betrachten und sagen: \u201eSchaf\u201c<\/a><\/noindex>. Es ist verst\u00e4ndlich, warum: Der Gro\u00dfteil der Beispielbilder von \"Schafen\" wurde auf den Wiesen aufgenommen, in denen sie leben, und auf diesen Bildern nimmt das Gras deutlich mehr Platz ein als die kleinen, wei\u00dfen, flauschigen Tiere. Die Systeme halten das Gras f\u00fcr das Wichtigste. <\/p>\n<p><\/p>\n<p>Es gibt auch ernsthaftere Beispiele. Neuestes aus der j\u00fcngeren Vergangenheit \u2014 eines <noindex><a rel=\"nofollow\" href=\"https:\/\/www.medpagetoday.com\/dermatology\/generaldermatology\/70513\">Projekt<\/a><\/noindex> zur Erkennung von Hautkrebs auf Fotos. Es stellte sich heraus, dass Dermatologen oft ein Lineal zusammen mit den Hautkrebsmanifestationen fotografieren, um die Gr\u00f6\u00dfe der L\u00e4sionen festzuhalten. Bei den Beispielbildern gesunder Haut gibt es keine Lineale. F\u00fcr das KI-System wurden solche Lineale (genauer gesagt, die Pixel, die wir als \u201eLineal\u201c definieren) zu einem der Unterschiede zwischen den Bildersets und manchmal wichtiger als der kleine Hautausschlag. So erkannte das f\u00fcr die Hautkrebsidentifikation entwickelte System manchmal anstelle davon die Lineale. <\/p>\n<p><\/p>\n<p>Der entscheidende Punkt hierbei ist, dass das System kein semantisches Verst\u00e4ndnis daf\u00fcr hat, was es sieht. Wir betrachten einen Satz von Pixeln und sehen darin ein Schaf, Haut oder Lineale, w\u00e4hrend das System nur eine Zahlenreihe sieht. Es sieht keinen dreidimensionalen Raum, keine Objekte, keine Texturen und keine Schafe. Es sieht einfach Muster in den Daten. <\/p>\n<p><\/p>\n<p>Die Schwierigkeit bei der Diagnose solch komplexer Probleme liegt darin, dass das neuronale Netzwerk (das Modell, das von Ihrem maschinellen Lernsystem generiert wurde) aus Tausenden von Knoten besteht. Es gibt keinen einfachen Weg, um in das Modell zu schauen und zu verstehen, wie es Entscheidungen trifft. H\u00e4tten wir einen solchen Weg, w\u00fcrde das bedeuten, dass der Prozess einfach genug ist, um alle Regeln manuell zu beschreiben, ohne auf maschinelles Lernen zur\u00fcckzugreifen. Die Menschen sind besorgt, dass maschinelles Lernen zu einer Art \"schwarzem Kasten\" geworden ist. (Ich werde sp\u00e4ter noch erkl\u00e4ren, warum dieser Vergleich etwas \u00fcbertrieben ist.) <\/p>\n<p><\/p>\n<p>Das ist im Gro\u00dfen und Ganzen das Problem der Vorurteile in der k\u00fcnstlichen Intelligenz oder im maschinellen Lernen: Ein System, das nach Mustern in Daten sucht, kann falsche Muster erkennen, und Sie bemerken das m\u00f6glicherweise nicht. Dies ist ein grundlegendes Merkmal der Technologie, und es ist allen, die in wissenschaftlichen Kreisen und gro\u00dfen Technologiefirmen damit arbeiten, offensichtlich. Doch die Folgen sind komplex, und unsere m\u00f6glichen L\u00f6sungen f\u00fcr diese Folgen sind ebenfalls vielschichtig. <\/p>\n<p><\/p>\n<p>Lassen Sie uns zun\u00e4chst \u00fcber die Folgen sprechen. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"\u00dcber die Voreingenommenheit von K\u00fcnstlicher Intelligenz\" src=\"\/wp-content\/uploads\/2019\/04\/43748412bd82ae53a9c2e47afec9c655.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>KI kann f\u00fcr uns implizit Entscheidungen zugunsten bestimmter Personengruppen treffen, basierend auf einer Vielzahl unauff\u00e4lliger Signale.<\/em><\/p>\n<p><\/p>\n<h2 id=\"scenarii-predvzyatosti-ii\">Szenarien der KI-Voreingenommenheit<\/h2>\n<p><\/p>\n<p>Am offensichtlichsten und beunruhigendsten ist, dass dieses Problem auftreten kann, wenn es um die Vielfalt von Menschen geht. K\u00fcrzlich <noindex><a rel=\"nofollow\" href=\"https:\/\/www.reuters.com\/article\/us-amazon-com-jobs-automation-insight\/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G\">ging das Ger\u00fccht um<\/a><\/noindex>, dass Amazon versucht hat, ein maschinelles Lernsystem f\u00fcr die Erstbewertung von Kandidaten f\u00fcr Stellen zu entwickeln. Da die Mehrheit der Amazon-Mitarbeiter M\u00e4nner sind, zeigen auch die Beispiele f\u00fcr \"erfolgreiche Einstellungen\" h\u00e4ufig m\u00e4nnliche Geschlechter, was dazu f\u00fchrte, dass das System mehr M\u00e4nner in den Lebensl\u00e4ufen ausw\u00e4hlte. Amazon bemerkte dies und entschloss sich, das System nicht in Produktion zu bringen. <\/p>\n<p><\/p>\n<p>Das Wichtigste an diesem Beispiel ist, dass das System angeblich m\u00e4nnlichen Kandidaten den Vorzug gab, obwohl das Geschlecht in den Lebensl\u00e4ufen nicht angegeben war.<strong> Das System erkannte andere Muster in den Beispielen f\u00fcr \"erfolgreiche Einstellungen\": Frauen k\u00f6nnten beispielsweise besondere W\u00f6rter zur Beschreibung ihrer Erfolge verwenden oder spezifische Hobbys haben. Nat\u00fcrlich wusste das System weder, was \"Eishockey\" ist, noch wer \"Menschen\" sind oder was \"Erfolg\" bedeutet \u2013 es f\u00fchrte einfach eine statistische Analyse des Textes durch.<\/strong> Aber die Muster, die sie sah, w\u00fcrden wahrscheinlich von einem Menschen unbemerkt bleiben, und einige von ihnen (zum Beispiel, dass Menschen unterschiedlichen Geschlechts Erfolg unterschiedlich beschreiben) w\u00e4ren wahrscheinlich schwer zu erkennen, selbst wenn man sie betrachtet. <\/p>\n<p><\/p>\n<p>Es wird nur schlimmer. Ein maschinelles Lernsystem, das bei hellh\u00e4utigen Personen sehr gut Krebs erkennt, k\u00f6nnte bei dunkler Haut schlechter abschneiden oder umgekehrt. Das ist nicht zwingend auf Vorurteile zur\u00fcckzuf\u00fchren, sondern weil m\u00f6glicherweise f\u00fcr eine andere Hautfarbe ein separates Modell mit unterschiedlichen Merkmalen erstellt werden muss.<strong> Maschinelle Lernsysteme sind nicht untereinander austauschbar, selbst in so einem engen Bereich wie der Bildernkennung.<\/strong> Sie m\u00fcssen das System anpassen, manchmal einfach durch Ausprobieren, um Feinheiten in den f\u00fcr Sie relevanten Daten gut zu erkennen, bis Sie die gew\u00fcnschte Genauigkeit erreichen. Dabei k\u00f6nnte Ihnen entgehen, dass das System in 98 % der F\u00e4lle bei einer Gruppe genau ist und nur in 91 % (auch wenn das genauer ist als eine menschliche Analyse) bei einer anderen. <\/p>\n<p><\/p>\n<p>Bisher habe ich haupts\u00e4chlich Beispiele verwendet, die sich auf Menschen und ihre Eigenschaften beziehen. Dieses Thema steht im Mittelpunkt der Diskussion \u00fcber dieses Problem. Es ist jedoch wichtig zu verstehen, dass die Vorurteile gegen\u00fcber Menschen nur einen Teil des Problems ausmachen. Wir werden maschinelles Lernen f\u00fcr viele Anwendungen nutzen, und die Auswahlfehler werden f\u00fcr alle relevant sein. Auf der anderen Seite, wenn Sie mit Menschen arbeiten, kann die Verzerrung der Daten nicht direkt auf sie zur\u00fcckzuf\u00fchren sein. <\/p>\n<p><\/p>\n<p>Um dies zu verstehen, lassen Sie uns zu dem Beispiel mit Hautkrebs zur\u00fcckkehren und drei hypothetische M\u00f6glichkeiten betrachten, wie das System versagen k\u00f6nnte. <\/p>\n<p><\/p>\n<ol>\n<li>Uneinheitliche Verteilung von Menschen: Ein unausgewogenes Verh\u00e4ltnis der Fotos von Haut in verschiedenen T\u00f6nen f\u00fchrt zu falsch positiven oder falsch negativen Ergebnissen, die mit der Pigmentierung zusammenh\u00e4ngen. <\/li>\n<li>Die Daten, mit denen das System trainiert wird, enthalten h\u00e4ufig vorkommende und ungleichm\u00e4\u00dfig verteilte Merkmale, die nicht mit Menschen verbunden sind und keinen diagnostischen Wert haben: ein Lineal auf Fotos von Hautkrebsmanifestationen oder Gras auf Bildern von Schafen. In diesem Fall wird das Ergebnis unterschiedlich sein, wenn das System auf dem Bild Pixel von etwas findet, das das menschliche Auge als \u201eLineal\u201c identifizieren w\u00fcrde. <\/li>\n<li>Die Daten enthalten eine externe Eigenschaft, die der Mensch nicht sehen kann, selbst wenn er danach sucht. <\/li>\n<\/ol>\n<p><\/p>\n<p>Was bedeutet das? Wir wissen von vornherein, dass Daten unterschiedliche Gruppen von Menschen unterschiedlich darstellen k\u00f6nnen, und wir k\u00f6nnen zumindest eine Suche nach solchen Ausnahmen planen. Mit anderen Worten, es gibt viele soziale Gr\u00fcnde anzunehmen, dass die Daten \u00fcber Gruppen von Menschen bereits eine gewisse Voreingenommenheit enthalten. Wenn wir uns ein Foto mit einem Lineal ansehen, sehen wir dieses Lineal \u2013 wir haben es einfach vorher ignoriert, weil wir wussten, dass es unwichtig ist, und vergessen haben, dass das System nichts dar\u00fcber wei\u00df.<\/p>\n<p><\/p>\n<p>Aber was, wenn all Ihre Fotos von ungesunder Haut in einem B\u00fcro gemacht wurden, das mit Gl\u00fchbirnen beleuchtet ist, und die gesunden unter fluoreszierendem Licht entstanden sind? Was, wenn Sie, nachdem Sie die gesunde Haut fotografiert haben, vor dem Fotografieren der ungesunden Haut Ihr Smartphone aktualisiert haben und Apple oder Google den Algorithmus zur Rauschunterdr\u00fcckung leicht ge\u00e4ndert haben? Eine Person wird das nicht bemerken, egal wie sehr sie nach solchen Besonderheiten sucht. Das maschinelle System hingegen wird dies sofort erkennen und nutzen. Es hat keine Ahnung. <\/p>\n<p><\/p>\n<p>W\u00e4hrend wir \u00fcber falsche Korrelationen gesprochen haben, k\u00f6nnte es auch sein, dass die Daten korrekt und die Ergebnisse richtig sind, Sie diese aber aus ethischen, rechtlichen oder managementtechnischen Gr\u00fcnden nicht verwenden m\u00f6chten. In einigen Rechtsordnungen ist es beispielsweise nicht zul\u00e4ssig, Frauen einen Rabatt auf Versicherungen anzubieten, obwohl Frauen m\u00f6glicherweise sicherer fahren. Wir k\u00f6nnen uns leicht ein System vorstellen, das bei der Analyse historischer Daten weiblichen Namen einen niedrigeren Risikofaktor zuweist. Okay, lassen Sie uns die Namen aus der Stichprobe entfernen. Aber denken Sie an das Beispiel mit Amazon: Das System kann das Geschlecht anhand anderer Faktoren bestimmen (auch wenn es nicht wei\u00df, was Geschlecht ist oder was ein Auto ist), und Sie bemerken es nicht, bis der Regulierer r\u00fcckblickend Ihre angebotenen Tarife analysiert und Ihnen eine Geldstrafe auferlegt. <\/p>\n<p><\/p>\n<p>Es wird oft angenommen, dass wir solche Systeme nur f\u00fcr Projekte nutzen, die mit Menschen und sozialen Interaktionen verbunden sind. Das ist jedoch nicht der Fall. Wenn Sie Gasturbinen herstellen, m\u00f6chten Sie mit Sicherheit maschinelles Lernen auf die Telemetrie anwenden, die von Dutzenden oder Hunderten von Sensoren an Ihrem Produkt \u00fcbermittelt wird (Audio-, Video-, Temperatur- und andere Sensoren generieren Daten, die sich sehr leicht zur Erstellung eines Modells f\u00fcr maschinelles Lernen anpassen lassen). Hypothetisch k\u00f6nnten Sie sagen: \u201eHier sind die Daten von tausend ausgefallenen Turbinen, die vor ihrem Ausfall gesammelt wurden, und hier die Daten von tausend Turbinen, die nicht ausgefallen sind. Erstellen Sie ein Modell, um den Unterschied zwischen ihnen zu erkennen.\u201c Stellen Sie sich nun vor, dass die Siemens-Sensoren an 75 % der fehlerhaften Turbinen und nur an 12 % der funktionierenden Turbinen angebracht sind (es gibt keinen Zusammenhang mit den Ausf\u00e4llen). Das System w\u00fcrde ein Modell erstellen, um die Turbinen mit Siemens-Sensoren zu identifizieren. Ups!<\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"\u00dcber die Voreingenommenheit von K\u00fcnstlicher Intelligenz\" src=\"\/wp-content\/uploads\/2019\/04\/e8097e4913756fdf04826a6628bc6836.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\nBild \u2014 Moritz Hardt, UC Berkeley<\/p>\n<p><\/p>\n<h2 id=\"upravlenie-predvzyatostyu-ii\">Management von KI-Bias<\/h2>\n<p><\/p>\n<p>Was k\u00f6nnen wir dagegen tun? Wir k\u00f6nnen das Problem aus drei Perspektiven angehen:<\/p>\n<p><\/p>\n<ol>\n<li>Methodologische Strenge bei der Datenerhebung und dem Management f\u00fcr das Training des Systems.<\/li>\n<li>Technische Werkzeuge zur Analyse und Diagnostik des Modells.<\/li>\n<li>Schulung, Ausbildung und Vorsicht bei der Implementierung von maschinellem Lernen in Produkte.<\/li>\n<\/ol>\n<p><\/p>\n<p>In Moli\u00e8res Buch \u201eDer B\u00fcrger als Edelmann\u201c gibt es einen Witz: Einem Mann wurde gesagt, dass Literatur in Prosa und Poesie unterteilt wird, und er stellt mit Bewunderung fest, dass er sein Leben lang Prosa gesprochen hat, ohne es zu wissen. Vielleicht geht es den Statistikern heute \u00e4hnlich: Sie haben unwissentlich ihre Karrieren der k\u00fcnstlichen Intelligenz und dem Sampling-Error gewidmet. Den Sampling-Error zu suchen und sich dar\u00fcber zu sorgen, ist kein neues Problem; wir m\u00fcssen es einfach systematisch angehen. Wie bereits erw\u00e4hnt, ist es in manchen F\u00e4llen wirklich einfacher, die Probleme im Zusammenhang mit Daten \u00fcber Menschen zu studieren. Wir gehen von vornherein davon aus, dass wir Vorurteile gegen\u00fcber verschiedenen Gruppen von Menschen haben k\u00f6nnten, aber ein Vorurteil gegen\u00fcber Siemens-Sensoren k\u00f6nnen wir uns kaum vorstellen.<\/p>\n<p><\/p>\n<p>Neu ist vor allem, dass Menschen nicht mehr direkt statistische Analysen durchf\u00fchren. Diese werden von Maschinen \u00fcbernommen, die gro\u00dfe, komplexe Modelle erstellen, die schwer zu verstehen sind. Die Frage der Transparenz ist einer der zentralen Aspekte des Problems der Vorurteile. Es macht uns Sorgen, dass das System nicht nur voreingenommen ist, sondern dass es keine M\u00f6glichkeit gibt, diese Voreingenommenheit zu erkennen. Das unterscheidet maschinelles Lernen von anderen Formen der Automatisierung, die aus klaren, nachvollziehbaren Schritten bestehen, die \u00fcberpr\u00fcft werden k\u00f6nnen. <\/p>\n<p><\/p>\n<p>Hier gibt es zwei Probleme. M\u00f6glicherweise k\u00f6nnen wir doch eine Art Audit der Systeme des maschinellen Lernens durchf\u00fchren. Und das Audit eines anderen Systems ist in der Tat nicht viel einfacher.<\/p>\n<p><\/p>\n<p>Eines der modernen Forschungsfelder im Bereich des maschinellen Lernens besteht darin, Methoden zu finden, um die wichtigen Funktionen von Systemen des maschinellen Lernens zu identifizieren. Dabei ist maschinelles Lernen (in seinem aktuellen Zustand) ein ganz neues wissenschaftliches Feld, das sich schnell entwickelt. Daher sollte man nicht annehmen, dass heute unm\u00f6gliche Dinge bald durchaus realistisch werden k\u00f6nnen. Projekt <noindex><a rel=\"nofollow\" href=\"https:\/\/openai.com\/\">OpenAI<\/a><\/noindex> \u2014 ein interessantes Beispiel daf\u00fcr. <\/p>\n<p><\/p>\n<p>Zweitens ist die Idee, dass man den Entscheidungsprozess in bestehenden Systemen oder Organisationen \u00fcberpr\u00fcfen und verstehen kann, theoretisch gut, aber in der Praxis eher schwierig. Zu verstehen, wie Entscheidungen in einer gro\u00dfen Organisation getroffen werden, ist alles andere als einfach. Selbst wenn es einen formalen Entscheidungsprozess gibt, spiegelt dieser oft nicht wider, wie Menschen tats\u00e4chlich interagieren, und viele von ihnen haben oftmals keinen logischen systematischen Ansatz f\u00fcr ihre Entscheidungen. Wie mein Kollege gesagt hat, <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Vijay_S._Pande\">Vijay Pandey<\/a><\/noindex>, <strong>, sind Menschen ebenfalls schwarze K\u00e4sten.<\/strong>. <\/p>\n<p><\/p>\n<p>Nehmen Sie tausend Menschen aus verschiedenen \u00fcberlappenden Unternehmen und Institutionen, und das Problem wird noch komplexer. Wir wissen im Nachhinein, dass es f\u00fcr das Space Shuttle bestimmt war, beim R\u00fcckflug auseinanderzubrechen, und einzelne Personen innerhalb von NASA hatten Informationen, die sie glauben lie\u00dfen, dass etwas Schlimmes passieren k\u00f6nnte, aber das System <em>im Allgemeinen<\/em> Das war mir nicht bekannt. NASA hat gerade einen \u00e4hnlichen Audit durchlaufen, nachdem sie das vorherige Shuttle verloren hatte, und dennoch verlor sie ein weiteres \u2013 aus sehr \u00e4hnlichen Gr\u00fcnden. Es ist einfach zu behaupten, dass Organisationen und Menschen strikten logischen Regeln folgen, die \u00fcberpr\u00fcfbar, verst\u00e4ndlich und ver\u00e4nderbar sind \u2013 aber die Erfahrung zeigt das Gegenteil. Das ist \u201e<noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%93%D0%BE%D1%81%D0%BF%D0%BB%D0%B0%D0%BD_%D0%A1%D0%A1%D0%A1%D0%A0\">das Missverst\u00e4ndnis der Planwirtschaft<\/a><\/noindex>\u00bb.<\/p>\n<p><\/p>\n<p><strong>Ich vergleiche maschinelles Lernen oft mit Datenbanken, insbesondere relationalen \u2013 einer neuen grundlegenden Technologie, die die M\u00f6glichkeiten der Informatik und die Welt um sie herum ver\u00e4ndert hat, die Teil von allem geworden ist, was wir st\u00e4ndig nutzen, ohne uns dessen bewusst zu sein.<\/strong> Datenbanken haben ebenfalls ihre Probleme, die \u00e4hnlicher Natur sind: Das System kann auf falschen Annahmen oder schlechten Daten basieren, was jedoch schwer zu erkennen ist. Die Anwender, die das System verwenden, werden das tun, was es ihnen sagt, ohne Fragen zu stellen. Es gibt viele alte Witze \u00fcber Steuerbeamte, die einst Ihren Namen falsch geschrieben haben, und es ist viel schwieriger, sie davon zu \u00fcberzeugen, den Fehler zu korrigieren, als tats\u00e4chlich den Namen zu \u00e4ndern. Man kann dar\u00fcber unterschiedlich denken, aber es ist unklar, was besser ist: als technisches Problem in SQL, als Fehler in einem Oracle-Release oder als Versagen b\u00fcrokratischer Institutionen? Wie schwierig ist es, einen Fehler im Prozess zu finden, der dazu gef\u00fchrt hat, dass das System nicht \u00fcber eine Funktion wie die Korrektur von Rechtschreibfehlern verf\u00fcgt? H\u00e4tte man das erkennen k\u00f6nnen, bevor die Menschen anfingen, sich zu beschweren? <\/p>\n<p><\/p>\n<p>Dieses Problem wird noch anschaulicher durch Geschichten, wenn Fahrer wegen veralteter Daten im Navigationsger\u00e4t in Fl\u00fcsse fahren. Okay, Karten m\u00fcssen st\u00e4ndig aktualisiert werden. Aber wie sehr ist TomTom schuld daran, dass Ihr Auto ins Meer getragen wird?<\/p>\n<p><\/p>\n<p>Ich sage das, um klarzustellen, dass ja \u2013 Bias in der maschinellen Lernalgorithmen Probleme verursachen wird. Aber diese Probleme werden \u00e4hnlich sein wie die Herausforderungen, mit denen wir in der Vergangenheit konfrontiert waren, und sie k\u00f6nnen ebenso gut erkannt und gel\u00f6st werden (oder auch nicht), wie wir es damals geschafft haben. Daher ist das Szenario, in dem Bias in der KI Schaden anrichtet, wenig wahrscheinlich, insbesondere bei f\u00fchrenden Forschern, die in gro\u00dfen Organisationen arbeiten. Wahrscheinlicher ist, dass ein unbedeutender technischer Dienstleister oder Softwareanbieter etwas zusammenbastelt, indem er sich unverst\u00e4ndliche Open-Source-Komponenten, Bibliotheken und Werkzeuge zunutze macht. Ein ahnungsloser Kunde wird sich dann von der Formulierung \"k\u00fcnstliche Intelligenz\" in der Produktbeschreibung blenden lassen und ohne weitere Fragen dieses Produkt an seine geringf\u00fcgig bezahlten Mitarbeiter weitergeben, w\u00e4hrend er ihnen befiehlt, genau das zu tun, was die KI sagt. Genau das ist mit den Datenbanken passiert. Das ist kein Problem der k\u00fcnstlichen Intelligenz, und auch kein Problem der Software. Es ist ein menschlicher Faktor.<\/p>\n<p><\/p>\n<h2 id=\"zaklyuchenie\">Fazit<\/h2>\n<p><\/p>\n<blockquote><p><em>Maschinelles Lernen kann alles tun, was Sie einem Hund beibringen k\u00f6nnen \u2013 aber Sie k\u00f6nnen nie sicher sein, was genau Sie diesem Hund beigebracht haben.<\/em><\/p><\/blockquote>\n<p>Ich habe oft den Eindruck, dass der Begriff \u201eK\u00fcnstliche Intelligenz\u201c nur dazu beitr\u00e4gt, Gespr\u00e4che wie dieses zu st\u00f6ren. Dieser Begriff vermittelt das falsche Gef\u00fchl, dass wir ihn tats\u00e4chlich erschaffen haben \u2013 diese Intelligenz. Dass wir auf dem Weg zu HAL9000 oder Skynet sind \u2013 zu etwas, das tats\u00e4chlich <em>versteht<\/em>. Aber das ist nicht der Fall. Es sind einfach Maschinen, und es ist viel treffender, sie zum Beispiel mit einer Waschmaschine zu vergleichen. Sie bew\u00e4ltigt das Waschen viel besser als ein Mensch, aber wenn Sie Geschirr anstelle von W\u00e4sche hineingeben, wird es... gewaschen. Das Geschirr wird sogar sauber. Aber das wird nicht das sein, was Sie erwartet haben, und es geschieht nicht, weil das System irgendwelche Vorurteile gegen\u00fcber Geschirr hat. Die Waschmaschine wei\u00df weder, was Geschirr ist, noch was Kleidung ist \u2013 sie ist lediglich ein Beispiel f\u00fcr Automatisierung, das konzeptionell nicht anders ist als die Art, wie Prozesse fr\u00fcher automatisiert wurden.<\/p>\n<p><\/p>\n<p>Egal, ob es um Autos, Flugzeuge oder Datenbanken geht \u2013 diese Systeme werden gleichzeitig sehr leistungsstark und sehr begrenzt sein. Sie h\u00e4ngen vollst\u00e4ndig davon ab, wie Menschen diese Systeme nutzen, welche guten oder schlechten Absichten sie dabei haben und wie gut sie deren Funktionsweise verstehen.<\/p>\n<p><\/p>\n<p>Es ist daher v\u00f6llig falsch zu sagen, dass \"k\u00fcnstliche Intelligenz Mathematik ist, daher kann sie keine Vorurteile haben.\" Aber es ist ebenso falsch zu behaupten, dass maschinelles Lernen \"von Natur aus subjektiv ist.\" Maschinelles Lernen findet Muster in Daten, und welche Muster gefunden werden, h\u00e4ngt von den Daten ab, und die Daten h\u00e4ngen von uns ab. Ebenso wie das, was wir mit ihnen tun. Maschinelles Lernen erledigt tats\u00e4chlich einige Dinge viel besser als wir \u2013 aber Hunde zum Beispiel sind viel effektiver als Menschen beim Aufsp\u00fcren von Drogen, was keineswegs einen Grund darstellt, sie als Zeugen heranzuziehen und Urteile auf der Grundlage ihrer Aussagen zu f\u00e4llen. Und Hunde sind, um es klarzustellen, viel intelligenter als jedes System f\u00fcr maschinelles Lernen.<\/p>\n<p><strong>\u00dcbersetzung:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/en\/users\/757NF\/\">Diana Lezkaya<\/a><\/noindex>.<br \/>\n<strong>Redaktion:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">Alexey Ivanov<\/a><\/noindex>.<br \/>\n<strong>Gemeinschaft:<\/strong> <noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">@PonchikNews<\/a><\/noindex>.<\/p>\n<p>Quelle: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/449224\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014\u00a0\u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":24558,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-32781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-novosti-interneta"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 4.9.10 - aioseo.com -->\n\t<meta name=\"description\" content=\"tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014 \u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/de\/blog\/novosti-interneta\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 4.9.10\" \/>\n\t\t<meta property=\"og:locale\" content=\"de_DE\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014 \u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/de\/blog\/novosti-interneta\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47\u00dcber die Voreingenommenheit von K\u00fcnstlicher Intelligenz | ProHoster","description":"tl;dr: Maschinelles Lernen sucht nach Mustern in Daten. K\u00fcnstliche Intelligenz kann jedoch \"voreingenommen\" sein \u2013 das hei\u00dft, sie kann falsche Muster erkennen. Zum Beispiel k\u00f6nnte ein Hautkrebs-Erkennungssystem anhand von Fotos besonders auf Bilder aus einer Arztpraxis reagieren. Maschinelles Lernen versteht nicht: seine Algorithmen erkennen lediglich Muster in Zahlen, und wenn die Daten nicht repr\u00e4sentativ sind, wird das Ergebnis entsprechend sein.","canonical_url":"https:\/\/prohoster.info\/de\/blog\/novosti-interneta\/o-predvzyatosti-iskusstvennogo-intellekta","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"de_DE","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster","og:description":"tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014 \u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442","og:url":"https:\/\/prohoster.info\/de\/blog\/novosti-interneta\/o-predvzyatosti-iskusstvennogo-intellekta","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T18:48:54+00:00","article:modified_time":"2019-10-31T18:48:54+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"32781","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-21 12:30:22","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 02:52:26","updated":"2026-01-21 12:30:22"},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/posts\/32781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/comments?post=32781"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/posts\/32781\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/media\/24558"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/media?parent=32781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/categories?post=32781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/tags?post=32781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}