Dieser Text ist kein Ergebnis wissenschaftlicher Forschung, sondern eine von vielen Meinungen zu unserer nächsten technologischen Entwicklung. Gleichzeitig ist es eine Einladung zur Diskussion.
Gary Marcus, Professor an der New York University, ist überzeugt, dass Deep Learning eine wichtige Rolle in der Entwicklung von KI spielt. Gleichzeitig denkt er jedoch, dass eine übermäßige Begeisterung für diese Methode zu ihrer Diskreditierung führen kann.
In seinem Buch Rebooting AI: Building artificial intelligence we can trust Markus, Neurologe von Ausbildung, hat seine Karriere mit fortschrittlicher Forschung im Bereich KI aufgebaut und befasst sich mit den technischen und ethischen Aspekten. Aus technologischer Sicht kann das Deep Learning erfolgreich die Wahrnehmungsaufgaben nachahmen, die unser Gehirn ausführt: beispielsweise die Erkennung von Bildern oder Sprache. Doch für komplexere Aufgaben, wie das Verständnis von Gesprächen oder das Erkennen von Ursache-Wirkungs-Beziehungen, ist Deep Learning ungeeignet. Um fortschrittlichere Intelligenzmaschinen zu schaffen, die ein breiteres Spektrum an Aufgaben lösen können — häufig als allgemeine künstliche Intelligenz bezeichnet — ist eine Kombination von Deep Learning mit anderen Methoden notwendig.
Wenn ein KI-System seine Aufgaben oder die Umgebung nicht wirklich versteht, kann das zu gefährlichen Konsequenzen führen. Selbst die kleinsten unerwarteten Veränderungen in der Umgebung des Systems können zu fehlerhaftem Verhalten führen. Es gab bereits zahlreiche Beispiele: Algorithmen, die leicht zu täuschen sind; Bewerbungssysteme, die immer wieder diskriminieren; autonom fahrende Autos, die Unfälle verursachen und manchmal Fahrer oder Fußgänger töten. Die Entwicklung von allgemeiner künstlicher Intelligenz ist nicht nur ein interessantes Forschungsproblem, sondern hat auch viele ganz praktische Anwendungen.
In seinem Buch plädieren Markus und sein Co-Autor Ernest Davis für einen anderen Ansatz. Sie glauben, dass wir noch weit von der Schaffung einer allgemeinen KI entfernt sind, sind jedoch zuversichtlich, dass es früher oder später gelingen wird, sie zu entwickeln.
Warum benötigen wir eine allgemeine KI? Spezialversionen wurden bereits entwickelt und bringen einiges an Nutzen.
Das ist richtig, und der Nutzen wird noch größer sein. Aber es gibt viele Aufgaben, die spezialisierte KI einfach nicht bewältigen kann. Zum Beispiel das Verständnis gesprochener Sprache oder die allgemeine Unterstützung in der virtuellen Welt oder ein Roboter, der bei der Reinigung und Zubereitung von Speisen hilft. Solche Aufgaben liegen außerhalb der Möglichkeiten spezialisierter KI. Eine weitere interessante praktische Frage lautet: Kann spezialisierte KI ein sicheres selbstfahrendes Auto erstellen? Erfahrungen zeigen, dass solche KI weiterhin viele Probleme im Verhalten unter abnormalen Situationen hat, selbst beim Fahren, was die Lage erheblich erschwert.
Ich denke, wir alle wünschen uns KI, die uns hilft, neue bahnbrechende Entdeckungen in der Medizin zu machen. Es ist unklar, ob die aktuellen Technologien dafür geeignet sind, da die Biologie ein komplexes Feld ist. Man muss bereit sein, viele Bücher zu lesen. Wissenschaftler verstehen die Kausalzusammenhänge im Zusammenspiel von Netzwerken und Molekülen und können Theorien über Planeten entwickeln und so weiter. Mit spezialisierter KI können wir jedoch keine Maschinen schaffen, die zu solchen Entdeckungen fähig sind. Mit allgemeiner KI könnten wir jedoch einen revolutionären Wandel in Wissenschaft, Technologie und Medizin herbeiführen. Meiner Meinung nach ist es sehr wichtig, die Arbeit an der Schaffung allgemeiner KI fortzusetzen.
Verstehen Sie unter 'allgemein' etwa starke KI?
Wenn ich 'allgemein' sage, meine ich, dass KI in der Lage sein wird, Probleme im Handumdrehen zu durchdenken und neue Aufgaben selbstständig zu lösen. Im Gegensatz zu beispielsweise Go, bei dem das Problem sich in den letzten 2000 Jahren nicht verändert hat.
Allgemeine KI sollte in der Lage sein, Entscheidungen sowohl in der Politik als auch in der Medizin zu treffen. Dies ist analog zur menschlichen Fähigkeit; jeder vernünftige Mensch kann sehr viel tun. Man nimmt unerfahrene Studenten und bringt sie in nur wenigen Tagen dazu, praktisch an allem zu arbeiten, angefangen bei rechtlichen Aufgaben bis hin zur Medizin. Das liegt daran, dass sie ein allgemeines Verständnis der Welt haben und lesen können, weshalb sie in der Lage sind, einen Beitrag zu einem sehr breiten Spektrum von Aktivitäten zu leisten.
Die Verbindung zwischen solchem Intellekt und starkem besteht darin, dass schwacher Intellekt wahrscheinlich nicht in der Lage sein wird, allgemeine Aufgaben zu lösen. Um etwas zu schaffen, das ausreichend zuverlässig ist und in einer sich ständig verändernden Welt funktionieren kann, müssen Sie möglicherweise mindestens einen Annäherung an allgemeine Intelligenz erreichen.
Aber im Moment sind wir davon noch weit entfernt. AlphaGo kann hervorragend auf einem 19×19-Brett spielen, aber es muss neu trainiert werden, um auf einem rechteckigen Brett zu spielen. Oder nehmen Sie ein durchschnittliches Deep-Learning-System: Es kann einen Elefanten erkennen, wenn er gut beleuchtet ist und die Textur seiner Haut sichtbar ist. Wenn jedoch nur die Silhouette des Elefanten zu sehen ist, kann das System ihn sicher nicht erkennen.
In Ihrem Buch erwähnen Sie, dass Deep Learning nicht in der Lage ist, die Fähigkeiten einer allgemeinen KI zu erreichen, da es kein tiefes Verständnis annehmen kann.
In der Kognitionswissenschaft wird über die Bildung verschiedener kognitiver Modelle gesprochen. Ich sitze in einem Hotelzimmer und verstehe, dass dort ein Schrank ist, da ein Bett ist, dort ein Fernseher, der ungewöhnlich aufgehängt ist. Ich kenne all diese Objekte, ich identifiziere sie nicht nur. Außerdem verstehe ich, wie sie miteinander verbunden sind. Ich habe Vorstellungen über das Funktionieren der Welt um mich herum. Sie sind nicht perfekt. Sie können falsch sein, aber sie sind ziemlich gut. Und auf ihrer Grundlage ziehe ich viele Schlussfolgerungen, die zu meinem täglichen Handeln werden.
Eine andere Extremität ist etwas wie ein Atari-Spielesystem, das von DeepMind erstellt wurde, bei dem es sich merkt, was es tun muss, wenn es Pixel an bestimmten Stellen auf dem Bildschirm sieht. Wenn man genug Daten bekommt, mag es scheinen, als hätte man Verständnis, aber in Wirklichkeit ist es sehr oberflächlich. Der Beweis dafür ist, dass, wenn man die Objekte um drei Pixel verschiebt, die KI viel schlechter spielt. Veränderungen bringen sie aus der Fassung. Das steht im Gegensatz zu tiefem Verständnis.
Um dieses Problem zu lösen, schlagen Sie vor, zu klassischer KI zurückzukehren. Welche Vorteile sollten wir anstreben zu nutzen?
Es gibt mehrere Vorteile.
Erstens ist klassische KI tatsächlich ein Rahmenwerk zur Erstellung kognitiver Modelle der Welt, auf deren Grundlage man dann Schlussfolgerungen ziehen kann.
Zweitens ist klassischer KI perfekt mit Regeln kompatibel. Momentan gibt es im Bereich des Deep Learning einen seltsamen Trend, bei dem Fachleute versuchen, Regeln zu vermeiden. Sie möchten alles mit neuronalen Netzen machen und nichts tun, was wie klassische Programmierung aussieht. Aber es gibt Aufgaben, die auf diese Weise problemlos gelöst wurden, und niemand hat darauf geachtet. Zum Beispiel die Routenplanung in Google Maps.
In der Tat brauchen wir beide Ansätze. Maschinelles Lernen ermöglicht es, gut aus Daten zu lernen, hilft jedoch sehr schlecht bei der Darstellung der Abstraktion, die ein Computerprogramm darstellt. Klassische KI funktioniert gut mit Abstraktionen, muss aber vollständig manuell programmiert werden, und in der Welt gibt es zu viel Wissen, um alles zu programmieren. Offensichtlich müssen wir beide Ansätze kombinieren.
Das hängt mit dem Kapitel zusammen, in dem Sie darüber sprechen, was wir vom menschlichen Geist lernen können. Zunächst geht es um das Konzept, das auf der oben genannten Idee basiert, dass unser Bewusstsein aus vielen verschiedenen Systemen besteht, die unterschiedlich arbeiten.
Ich denke, es gibt einen anderen Weg, dies zu erklären: Jedes kognitive System, das wir haben, löst tatsächlich unterschiedliche Aufgaben. Entsprechende Teile von KI sollten entworfen werden, um Aufgaben zu lösen, die unterschiedliche Eigenschaften aufweisen.
Momentan versuchen wir, einige All-in-One-Technologien zu verwenden, um Aufgaben zu lösen, die grundlegend unterschiedlich sind. Ein Satz zu verstehen ist ganz und gar nicht dasselbe wie ein Objekt zu erkennen. Aber die Menschen versuchen in beiden Fällen, tiefes Lernen zu verwenden. Aus kognitiver Sicht sind das qualitativ unterschiedliche Aufgaben. Ich bin einfach erstaunt, wie wenig in der Gemeinschaft der Experten für tiefes Lernen die klassische KI schätzen. Warum auf das Erscheinen der besseren Lösung warten? Sie ist unerreichbar, und fruchtlose Suchen ermöglichen es nicht, die gesamte Komplexität der Aufgabe der Schaffung von KI zu begreifen.
Sie erwähnen auch, dass KI-Systeme notwendig sind, um Ursachen-Wirkungs-Beziehungen zu verstehen. Glauben Sie, dass uns dabei tiefes Lernen, klassische KI oder etwas völlig Neues helfen wird?
Dies ist ein weiteres Bereich, für den tiefes Lernen nicht besonders geeignet ist. Es erklärt nicht die Ursachen bestimmter Ereignisse, sondern berechnet die Wahrscheinlichkeit eines Ereignisses unter bestimmten Bedingungen.
Wovon sprechen wir? Sie betrachten bestimmte Szenarien und verstehen, warum etwas geschieht und was passieren könnte, wenn sich bestimmte Umstände ändern. Ich kann mir das Gestell ansehen, auf dem der Fernseher steht, und mir vorstellen, dass es umkippt und der Fernseher fällt, wenn ich ein Bein absäge. Dies ist eine Ursache-Wirkung-Beziehung.
Klassische KI bietet uns dafür einige Werkzeuge. Sie kann zum Beispiel darstellen, was Unterstützung und was ein Fall ist. Aber ich will nicht übertreiben. Das Problem ist, dass klassische KI größtenteils von der Vollständigkeit der Informationen über das Geschehen abhängt, während ich lediglich auf das Gestell geschaut habe. Irgendwie kann ich verallgemeinern und Teile des Gestells, die ich nicht sehen kann, darstellen. Wir haben bisher keine Werkzeuge, um diese Eigenschaft zu realisieren.
Außerdem sprechen Sie davon, dass Menschen angeborenes Wissen haben. Wie könnte man das in KI umsetzen?
Bei der Geburt ist unser Gehirn bereits ein sehr durchdachtes System. Es ist nicht festgelegt; die Natur hat einen ersten groben Entwurf geschaffen. Und dann hilft das Lernen, diesen Entwurf ein Leben lang zu überarbeiten.
Der grobe Entwurf des Gehirns verfügt bereits über bestimmte Fähigkeiten. Ein neugeborenes Steinbock kann schon nach wenigen Stunden sicher den Hang hinuntersteigen. Offensichtlich hat es bereits ein Verständnis für den dreidimensionalen Raum, seinen Körper und die Zusammenhänge zwischen diesen.
Teils aus diesem Grund glaube ich, dass wir Hybride brauchen. Es ist schwer vorstellbar, wie man einen Roboter schaffen kann, der gut in einer Welt funktioniert, ohne über entsprechendes Wissen zu verfügen, wie er beginnen soll, anstatt mit einem leeren Blatt zu beginnen und von einer langen, umfangreichen Erfahrung zu lernen.
Was die Menschen betrifft, so stammt unser angeborenes Wissen aus unserem Genom, das sich über lange Zeit entwickelt hat. Mit KI-Systemen müssen wir jedoch einen anderen Weg einschlagen. Teilweise können dies die Regeln sein, nach denen unsere Algorithmen aufgebaut sind. Teilweise können es Regeln zur Erstellung von Datenstrukturen sein, mit denen diese Algorithmen arbeiten. Und teilweise können es Kenntnisse sein, die wir direkt in die Maschinen einfließen lassen.
Es ist interessant, dass Sie in dem Buch auf die Idee des Vertrauens und des Aufbaus vertrauenswürdiger Systeme hinweisen. Warum haben Sie gerade dieses Kriterium gewählt?
Ich denke, dass das heute alles einem Spiel ähnelt. Wir leben in einem seltsamen Moment der Geschichte, in dem wir einer Software vertrauen, die nicht vertrauenswürdig ist. Ich glaube, die Sorgen, die wir heute haben, werden nicht ewig bestehen. In hundert Jahren wird KI unser Vertrauen rechtfertigen, vielleicht sogar früher.
Aber heute ist KI gefährlich. Nicht in dem Sinne, wie es Elon Musk befürchtet, sondern weil die Vorstellungsgesprächssysteme Diskriminierung gegen Frauen fördern, unabhängig davon, was die Programmierer tun, weil ihre Werkzeuge zu einfach sind.
Ich wünschte, wir hätten einen qualitativ besseren KI. Ich möchte nicht, dass die "Kälteperiode der künstlichen Intelligenz" beginnt, wenn die Menschen erkennen, dass KI nicht funktioniert und einfach gefährlich ist, und dass sie nicht bereit sind, das zu reparieren.
In gewisser Weise erscheint Ihr Buch wirklich sehr optimistisch. Sie schlagen vor, dass wir vertrauenswürdige KI aufbauen können. Wir müssen nur in eine andere Richtung schauen.
Das stimmt, das Buch ist kurzfristig sehr pessimistisch und langfristig sehr optimistisch. Wir glauben, dass alle von uns beschriebenen Probleme gelöst werden können, wenn man breiter darüber nachdenkt, wie die richtigen Antworten aussehen sollten. Und wir denken, dass die Welt besser wird, wenn dies geschieht.
Quelle: habr.com
