Dieser Text ist kein Ergebnis wissenschaftlicher Forschung, sondern eine von vielen Meinungen über unsere nächste technologische Entwicklung. Gleichzeitig ist es eine Einladung zur Diskussion.
Gary Marcus, Professor an der New York University, ist überzeugt, dass tiefes Lernen eine wichtige Rolle in der Entwicklung von KI spielt. Er ist jedoch auch der Meinung, dass eine übermäßige Faszination für diese Methode zu ihrer Diskreditierung führen kann.
In seinem Buch Rebooting AI: Building artificial intelligence we can trust Marcus, von Beruf Neurologe, der seine Karriere mit fortschrittlicher Forschung im Bereich der KI aufgebaut hat, geht auf technische und ethische Aspekte ein. Aus technologischer Sicht kann tiefes Lernen erfolgreich das Problemlösen im Bereich der Wahrnehmung imitieren, das unser Gehirn ausführt, wie zum Beispiel die Erkennung von Bildern oder Sprache. Aber um andere Aufgaben zu lösen, wie das Verstehen von Gesprächen oder das Erkennen von Ursache-Wirkung-Beziehungen, ist tiefes Lernen ungeeignet. Um fortschrittlichere intelligente Maschinen zu schaffen, die ein breiteres Spektrum von Aufgaben lösen können – oft als allgemeine künstliche Intelligenz bezeichnet – muss man tiefes Lernen mit anderen Methoden kombinieren.
Wenn ein KI-System seine Aufgaben oder die umgebende Welt tatsächlich nicht versteht, kann dies zu gefährlichen Konsequenzen führen. Selbst die kleinsten unerwarteten Veränderungen in der Umgebung des Systems können zu fehlerhaftem Verhalten führen. Es gab bereits zahlreiche Beispiele dafür: beleidigende Ausdrucksdetektoren, die leicht zu überlisten sind; Jobvermittlungsysteme, die ständig diskriminieren; selbstfahrende Autos, die Unfälle verursachen und manchmal den Fahrer oder Fußgänger töten. Die Schaffung allgemeiner künstlicher Intelligenz ist nicht nur ein interessantes Forschungsproblem, sondern hat zahlreiche praktische Anwendungen.
In seinem Buch plädieren Marcus und sein Co-Autor Ernest Davis für einen anderen Ansatz. Sie sind der Meinung, dass wir von der Schaffung einer allgemeinen KI noch weit entfernt sind, sind aber zuversichtlich, dass es irgendwann gelingen wird.
Wozu brauchen wir eine allgemeine KI? Spezialisierte Versionen wurden bereits geschaffen und bringen großen Nutzen.
Das ist richtig, und es wird noch mehr Nutzen geben. Aber es gibt viele Aufgaben, die eine spezialisierte KI einfach nicht lösen kann. Zum Beispiel das Verstehen von Alltagsgesprächen, allgemeine Hilfe in einer virtuellen Welt oder ein Roboter, der bei der Reinigung und Zubereitung von Speisen hilft. Solche Aufgaben liegen außerhalb der Fähigkeiten spezialisierter KI. Eine weitere interessante praktische Frage: Kann eine spezialisierte KI ein sicheres autonomes Fahrzeug entwickeln? Die Erfahrung zeigt, dass eine solche KI immer noch viele Probleme mit dem Verhalten in anomalen Situationen hat, selbst beim Fahren, was die Sache erheblich kompliziert.
Ich denke, wir alle würden uns einen KI wünschen, die uns helfen kann, neue großangelegte Entdeckungen in der Medizin zu machen. Es ist unklar, ob die gegenwärtigen Technologien dafür geeignet sind, denn die Biologie ist ein komplexes Feld. Man muss bereit sein, viele Bücher zu lesen. Wissenschaftler verstehen die Ursachen-Wirkungs-Beziehungen im Zusammenspiel von Netzwerken und Molekülen, können Theorien über Planeten entwickeln und so weiter. Aber mit spezialisierter KI können wir keine Maschinen schaffen, die zu solchen Entdeckungen fähig sind. Mit allgemeiner KI könnten wir jedoch eine Revolution in der Wissenschaft, Technologie und Medizin auslösen. Meiner Meinung nach ist es sehr wichtig, weiterhin an der Entwicklung allgemeiner KI zu arbeiten.
Verstehen Sie unter "allgemein" eine starke KI?
Wenn ich "allgemein" sage, meine ich, dass die KI in der Lage sein wird, spontan nachzudenken und selbstständig neue Aufgaben zu lösen. Im Gegensatz zu etwas wie Go, bei dem sich das Problem in den letzten 2000 Jahren nicht verändert hat.
Allgemeine KI muss in der Lage sein, Entscheidungen sowohl in der Politik als auch in der Medizin zu treffen. Dies ist analog zur menschlichen Fähigkeit; jeder vernünftige Mensch kann sehr viel tun. Man nimmt unerfahrene Studenten und bringt sie innerhalb weniger Tage dazu, praktisch an allem zu arbeiten, beginnend mit juristischen Aufgaben bis hin zu medizinischen. Das liegt daran, dass sie ein allgemeines Verständnis der Welt haben und lesen können, wodurch sie zu einem sehr breiten Spektrum von Aktivitäten beitragen können.
Der Zusammenhang zwischen einer solchen Intelligenz und starker Intelligenz besteht darin, dass schwache Intelligenz wahrscheinlich nicht in der Lage sein wird, allgemeine Aufgaben zu lösen. Um etwas ausreichend Zuverlässiges zu schaffen, das in einer sich ständig verändernden Welt funktioniert, müssen Sie möglicherweise zumindest annähernd an allgemeiner Intelligenz arbeiten.
Aber jetzt sind wir davon noch weit entfernt. AlphaGo kann hervorragend auf einem 19×19-Brett spielen, aber es muss für das Spielen auf einem rechteckigen Brett neu trainiert werden. Oder nehmen Sie ein durchschnittliches tiefes Lernsystem: Es kann einen Elefanten erkennen, wenn er gut beleuchtet ist und die Textur seiner Haut sichtbar ist. Wenn jedoch nur Silhouette des Elefanten sichtbar ist, wird das System ihn sicherlich nicht erkennen können.
In Ihrem Buch erwähnen Sie, dass tiefes Lernen nicht die Fähigkeiten von allgemeinem KI erreichen kann, da es nicht in der Lage ist zu tiefem Verständnis.
In der Kognitionswissenschaft spricht man von der Bildung verschiedener kognitiver Modelle. Ich sitze im Hotelzimmer und verstehe, dass dort ein Schrank ist, dort ein Bett, dort ein Fernseher, der ungewöhnlich aufgehängt ist. Ich kenne all diese Objekte, ich identifiziere sie nicht nur. Außerdem verstehe ich, wie sie miteinander verbunden sind. Ich habe Ideen über die Funktionsweise der Welt um mich herum. Sie sind nicht perfekt. Sie können falsch sein, aber sie sind sehr gut. Und auf deren Basis ziehe ich viele Schlüsse, die meiner täglichen Handlungsweise zugrunde liegen.
Die andere Extremität ist so etwas wie ein Spielsystem von Atari, das von DeepMind erstellt wurde, wo es sich gemerkt hat, was es tun muss, wenn es Pixel an bestimmten Stellen auf dem Bildschirm sieht. Wenn Sie genug Daten erhalten, könnte es scheinen, dass Sie Verständnis haben, aber in Wirklichkeit ist es sehr oberflächlich. Der Beweis dafür ist, dass, wenn man Objekte um drei Pixel verschiebt, die KI viel schlechter spielt. Veränderungen verwirren sie. Das ist das Gegenteil von tiefem Verständnis.
Um dieses Problem zu lösen, schlagen Sie vor, zum klassischen KI zurückzukehren. Welche Vorteile sollten wir zu nutzen versuchen?
Es gibt mehrere Vorteile.
Erstens ist klassische KI tatsächlich ein Rahmen für die Erstellung kognitiver Modelle der Welt, auf deren Grundlage Schlussfolgerungen gezogen werden können.
Zweitens ist klassische KI perfekt mit Regeln vereinbar. Momentan gibt es im Bereich des tiefen Lernens eine seltsame Tendenz, dass Fachleute versuchen, Regeln zu vermeiden. Sie wollen alles mit Neuronalen Netzwerken machen und nichts tun, was wie klassisches Programmieren aussieht. Doch es gibt Aufgaben, die auf diese Weise problemlos gelöst wurden, und darauf hat niemand geachtet. Zum Beispiel die Routenplanung in Google Maps.
In der Tat benötigen wir beide Ansätze. Maschinelles Lernen ermöglicht ein gutes Lernen aus Daten, hilft jedoch nur schlecht bei der Darstellung der Abstraktion, die ein Computerprogramm darstellt. Klassische KI funktioniert gut mit Abstraktionen, muss jedoch vollständig manuell programmiert werden, und in der Welt gibt es zu viel Wissen, um alles zu programmieren. Offensichtlich müssen wir beide Ansätze kombinieren.
Dies steht im Zusammenhang mit dem Kapitel, in dem Sie darüber sprechen, was wir vom menschlichen Verstand lernen können. Vor allem über das Konzept, das auf der oben genannten Idee basiert, dass unser Bewusstsein aus vielen verschiedenen Systemen besteht, die unterschiedlich funktionieren.
Ich denke, es gibt einen anderen Weg, dies zu erklären: Jedes kognitive System, das wir haben, löst tatsächlich unterschiedliche Aufgaben. Ähnliche Teile der KI sollten so entworfen werden, dass sie verschiedene Aufgaben lösen, die unterschiedliche Eigenschaften aufweisen.
Momentan versuchen wir, einige All-in-One-Technologien für Aufgaben zu verwenden, die grundlegend unterschiedlich sind. Ein Satz zu verstehen ist keineswegs das Gleiche wie ein Objekt zu erkennen. Aber die Menschen versuchen in beiden Fällen, tiefes Lernen zu nutzen. Aus kognitiver Sicht sind dies qualitativ unterschiedliche Aufgaben. Ich bin einfach erstaunt, wie wenig die Gemeinschaft der Spezialisten für tiefes Lernen die klassische KI schätzt. Warum auf die Silberkugel warten? Sie ist unerreichbar, und fruchtlose Suchen ermöglichen es nicht, die gesamte Komplexität der Aufgabe zu verstehen, KI zu erschaffen.
Sie erwähnen auch, dass KI-Systeme notwendig sind, um kausale Zusammenhänge zu verstehen. Glauben Sie, dass uns dabei tiefes Lernen, klassische KI oder etwas völlig Neues helfen wird?
Dies ist ein weiteres Gebiet, für das tiefes Lernen nicht besonders geeignet ist. Es erklärt nicht die Ursachen bestimmter Ereignisse, sondern berechnet die Wahrscheinlichkeit eines Ereignisses unter bestimmten Bedingungen.
Worüber sprechen wir? Sie betrachten bestimmte Szenarien und verstehen, warum dies passiert und was geschehen kann, wenn sich bestimmte Umstände ändern. Ich kann auf den Ständer schauen, auf dem der Fernseher steht, und mir vorstellen, dass, wenn ich ihm ein Bein abschneide, der Ständer umfallen und der Fernseher herunterfallen wird. Das ist die kausale Beziehung.
Der klassische KI gibt uns dafür einige Werkzeuge. Er kann beispielsweise darstellen, was Unterstützung ist und was ein Rückschlag bedeutet. Aber ich möchte nicht übertreiben. Das Problem ist, dass klassische KI zum größten Teil von der Vollständigkeit der Informationen über das Geschehen abhängt, und ich habe nur durch einen Blick auf den Ständer diese Schlussfolgerung gezogen. Irgendwie kann ich verallgemeinern und Teile des Ständers darstellen, die ich nicht sehen kann. Wir haben bisher keine Werkzeuge, um diese Fähigkeit zu realisieren.
Außerdem sprechen Sie davon, dass Menschen über angeborenes Wissen verfügen. Wie lässt sich das in KI umsetzen?
Im Moment der Geburt ist unser Gehirn bereits ein sehr durchdachtes System. Es ist nicht fixiert; die Natur hat einen ersten groben Entwurf geschaffen. Und dann hilft das Lernen, diesen Entwurf während unseres gesamten Lebens zu überarbeiten.
Der grobe Entwurf des Gehirns hat bereits bestimmte Fähigkeiten. Ein neugeborenes Steinbock kann schon nach ein paar Stunden fehlerfrei den Hang eines Berges hinabsteigen. Offensichtlich hat er bereits ein Verständnis für den dreidimensionalen Raum, seinen Körper und die Wechselbeziehungen zwischen ihnen. Ein recht komplexes System.
Teilweise glaube ich deshalb, dass wir Hybride brauchen. Es ist schwer vorstellbar, wie man einen Roboter schaffen kann, der in einer Welt gut funktioniert, ohne über ähnliche Kenntnisse zu verfügen, wo er anfangen soll, anstatt von Grund auf neu zu beginnen und auf einer langen, umfangreichen Erfahrung zu lernen.
Was die Menschen betrifft, so stammt unser angeborenes Wissen aus unserem Genom, das sich über lange Zeit entwickelt hat. Bei KI-Systemen müssen wir jedoch einen anderen Weg gehen. Teilweise können das Regeln sein, nach denen unsere Algorithmen aufgebaut sind. Teilweise können das Regeln für die Erstellung von Datenstrukturen sein, mit denen diese Algorithmen arbeiten. Und teilweise können das Kenntnisse sein, die wir direkt in die Maschinen einbringen.
Es ist interessant, dass Sie in Ihrem Buch zur Idee des Vertrauens und der Schaffung vertrauenswürdiger Systeme gelangen. Warum haben Sie gerade dieses Kriterium gewählt?
Ich denke, dass das heute ein Spiel mit dem Ball ist. Mir scheint, wir leben in einem seltsamen Moment der Geschichte, in dem wir teilweise Software vertrauen, die kein Vertrauen verdient. Ich glaube, unsere heutigen Sorgen werden nicht ewig bestehen. In hundert Jahren wird KI unser Vertrauen rechtfertigen, vielleicht sogar früher.
Aber heute ist KI gefährlich. Nicht in dem Sinne, wie Elon Musk befürchtet, sondern weil Bewerbungsgesprächssysteme Frauen diskriminieren, unabhängig davon, was Programmierer tun, weil ihre Werkzeuge zu einfach sind.
Ich wünschte, wir hätten eine qualitativ hochwertigere KI. Ich möchte nicht, dass eine "KI-Winter" beginnt, wenn die Menschen erkennen, dass KI nicht funktioniert und einfach gefährlich ist und sie nicht bereit sind, das zu ändern.
In gewisser Weise scheint Ihr Buch wirklich sehr optimistisch zu sein. Sie schlagen vor, dass es möglich ist, vertrauenswürdige KI zu entwickeln. Wir müssen nur in eine andere Richtung schauen.
Das stimmt, das Buch ist kurzfristig sehr pessimistisch und langfristig sehr optimistisch. Wir glauben, dass alle von uns beschriebenen Probleme gelöst werden können, wenn wir breiter betrachten, wie die richtigen Antworten aussehen sollten. Und wir denken, dass, wenn das passiert, die Welt besser wird.
Quelle: habr.com
