<\/a><\/noindex>In seinem Buch pl\u00e4dieren Marcus und sein Co-Autor Ernest Davis f\u00fcr einen anderen Ansatz. Sie sind der Meinung, dass wir von der Schaffung einer allgemeinen KI noch weit entfernt sind, sind aber zuversichtlich, dass es irgendwann gelingen wird.<\/p>\n
Wozu brauchen wir eine allgemeine KI? Spezialisierte Versionen wurden bereits geschaffen und bringen gro\u00dfen Nutzen.<\/b><\/p>\n
Das ist richtig, und es wird noch mehr Nutzen geben. Aber es gibt viele Aufgaben, die eine spezialisierte KI einfach nicht l\u00f6sen kann. Zum Beispiel das Verstehen von Alltagsgespr\u00e4chen, allgemeine Hilfe in einer virtuellen Welt oder ein Roboter, der bei der Reinigung und Zubereitung von Speisen hilft. Solche Aufgaben liegen au\u00dferhalb der F\u00e4higkeiten spezialisierter KI. Eine weitere interessante praktische Frage: Kann eine spezialisierte KI ein sicheres autonomes Fahrzeug entwickeln? Die Erfahrung zeigt, dass eine solche KI immer noch viele Probleme mit dem Verhalten in anomalen Situationen hat, selbst beim Fahren, was die Sache erheblich kompliziert.<\/p>\n
Ich denke, wir alle w\u00fcrden uns einen KI w\u00fcnschen, die uns helfen kann, neue gro\u00dfangelegte Entdeckungen in der Medizin zu machen. Es ist unklar, ob die gegenw\u00e4rtigen Technologien daf\u00fcr geeignet sind, denn die Biologie ist ein komplexes Feld. Man muss bereit sein, viele B\u00fccher zu lesen. Wissenschaftler verstehen die Ursachen-Wirkungs-Beziehungen im Zusammenspiel von Netzwerken und Molek\u00fclen, k\u00f6nnen Theorien \u00fcber Planeten entwickeln und so weiter. Aber mit spezialisierter KI k\u00f6nnen wir keine Maschinen schaffen, die zu solchen Entdeckungen f\u00e4hig sind. Mit allgemeiner KI k\u00f6nnten wir jedoch eine Revolution in der Wissenschaft, Technologie und Medizin ausl\u00f6sen. Meiner Meinung nach ist es sehr wichtig, weiterhin an der Entwicklung allgemeiner KI zu arbeiten.<\/p>\n
Verstehen Sie unter \"allgemein\" eine starke KI?<\/b><\/p>\n
Wenn ich \"allgemein\" sage, meine ich, dass die KI in der Lage sein wird, spontan nachzudenken und selbstst\u00e4ndig neue Aufgaben zu l\u00f6sen. Im Gegensatz zu etwas wie Go, bei dem sich das Problem in den letzten 2000 Jahren nicht ver\u00e4ndert hat.<\/p>\n
Allgemeine KI muss in der Lage sein, Entscheidungen sowohl in der Politik als auch in der Medizin zu treffen. Dies ist analog zur menschlichen F\u00e4higkeit; jeder vern\u00fcnftige Mensch kann sehr viel tun. Man nimmt unerfahrene Studenten und bringt sie innerhalb weniger Tage dazu, praktisch an allem zu arbeiten, beginnend mit juristischen Aufgaben bis hin zu medizinischen. Das liegt daran, dass sie ein allgemeines Verst\u00e4ndnis der Welt haben und lesen k\u00f6nnen, wodurch sie zu einem sehr breiten Spektrum von Aktivit\u00e4ten beitragen k\u00f6nnen.<\/p>\n
Der Zusammenhang zwischen einer solchen Intelligenz und starker Intelligenz besteht darin, dass schwache Intelligenz wahrscheinlich nicht in der Lage sein wird, allgemeine Aufgaben zu l\u00f6sen. Um etwas ausreichend Zuverl\u00e4ssiges zu schaffen, das in einer sich st\u00e4ndig ver\u00e4ndernden Welt funktioniert, m\u00fcssen Sie m\u00f6glicherweise zumindest ann\u00e4hernd an allgemeiner Intelligenz arbeiten.<\/p>\n
Aber derzeit sind wir davon noch weit entfernt. AlphaGo kann hervorragend auf einem 19×19-Brett spielen, aber es muss neu trainiert werden, um auf einem rechteckigen Brett zu spielen. Oder nehmen Sie ein durchschnittliches Deep-Learning-System: Es kann einen Elefanten erkennen, wenn er gut beleuchtet ist und die Textur seiner Haut sichtbar ist. Wenn jedoch nur die Silhouette des Elefanten sichtbar ist, wird das System ihn definitiv nicht erkennen k\u00f6nnen.<\/p>\n
In Ihrem Buch erw\u00e4hnen Sie, dass tiefes Lernen nicht die F\u00e4higkeiten von allgemeinem KI erreichen kann, da es nicht in der Lage ist zu tiefem Verst\u00e4ndnis.<\/b><\/p>\n
In der Kognitionswissenschaft spricht man von der Bildung verschiedener kognitiver Modelle. Ich sitze im Hotelzimmer und verstehe, dass dort ein Schrank ist, dort ein Bett, dort ein Fernseher, der ungew\u00f6hnlich aufgeh\u00e4ngt ist. Ich kenne all diese Objekte, ich identifiziere sie nicht nur. Au\u00dferdem verstehe ich, wie sie miteinander verbunden sind. Ich habe Ideen \u00fcber die Funktionsweise der Welt um mich herum. Sie sind nicht perfekt. Sie k\u00f6nnen falsch sein, aber sie sind sehr gut. Und auf deren Basis ziehe ich viele Schl\u00fcsse, die meiner t\u00e4glichen Handlungsweise zugrunde liegen.<\/p>\n
Die andere Extremit\u00e4t ist so etwas wie ein Spielsystem von Atari, das von DeepMind erstellt wurde, wo es sich gemerkt hat, was es tun muss, wenn es Pixel an bestimmten Stellen auf dem Bildschirm sieht. Wenn Sie genug Daten erhalten, k\u00f6nnte es scheinen, dass Sie Verst\u00e4ndnis haben, aber in Wirklichkeit ist es sehr oberfl\u00e4chlich. Der Beweis daf\u00fcr ist, dass, wenn man Objekte um drei Pixel verschiebt, die KI viel schlechter spielt. Ver\u00e4nderungen verwirren sie. Das ist das Gegenteil von tiefem Verst\u00e4ndnis.<\/p>\n
Um dieses Problem zu l\u00f6sen, schlagen Sie vor, zum klassischen KI zur\u00fcckzukehren. Welche Vorteile sollten wir zu nutzen versuchen?<\/b><\/p>\n
Es gibt mehrere Vorteile. <\/p>\n
Erstens ist klassische KI tats\u00e4chlich ein Rahmen f\u00fcr die Erstellung kognitiver Modelle der Welt, auf deren Grundlage Schlussfolgerungen gezogen werden k\u00f6nnen.<\/p>\n
Zweitens ist klassische KI perfekt mit Regeln vereinbar. Momentan gibt es im Bereich des tiefen Lernens eine seltsame Tendenz, dass Fachleute versuchen, Regeln zu vermeiden. Sie wollen alles mit Neuronalen Netzwerken machen und nichts tun, was wie klassisches Programmieren aussieht. Doch es gibt Aufgaben, die auf diese Weise problemlos gel\u00f6st wurden, und darauf hat niemand geachtet. Zum Beispiel die Routenplanung in Google Maps.<\/p>\n
In der Tat ben\u00f6tigen wir beide Ans\u00e4tze. Maschinelles Lernen erm\u00f6glicht ein gutes Lernen aus Daten, hilft jedoch nur schlecht bei der Darstellung der Abstraktion, die ein Computerprogramm darstellt. Klassische KI funktioniert gut mit Abstraktionen, muss jedoch vollst\u00e4ndig manuell programmiert werden, und in der Welt gibt es zu viel Wissen, um alles zu programmieren. Offensichtlich m\u00fcssen wir beide Ans\u00e4tze kombinieren.<\/p>\n
Dies steht im Zusammenhang mit dem Kapitel, in dem Sie dar\u00fcber sprechen, was wir vom menschlichen Verstand lernen k\u00f6nnen. Vor allem \u00fcber das Konzept, das auf der oben genannten Idee basiert, dass unser Bewusstsein aus vielen verschiedenen Systemen besteht, die unterschiedlich funktionieren.<\/b><\/p>\n
Ich denke, es gibt einen anderen Weg, dies zu erkl\u00e4ren: Jedes kognitive System, das wir haben, l\u00f6st tats\u00e4chlich unterschiedliche Aufgaben. \u00c4hnliche Teile der KI sollten so entworfen werden, dass sie verschiedene Aufgaben l\u00f6sen, die unterschiedliche Eigenschaften aufweisen.<\/p>\n
Momentan versuchen wir, einige All-in-One-Technologien f\u00fcr Aufgaben zu verwenden, die grundlegend unterschiedlich sind. Ein Satz zu verstehen ist keineswegs das Gleiche wie ein Objekt zu erkennen. Aber die Menschen versuchen in beiden F\u00e4llen, tiefes Lernen zu nutzen. Aus kognitiver Sicht sind dies qualitativ unterschiedliche Aufgaben. Ich bin einfach erstaunt, wie wenig die Gemeinschaft der Spezialisten f\u00fcr tiefes Lernen die klassische KI sch\u00e4tzt. Warum auf die Silberkugel warten? Sie ist unerreichbar, und fruchtlose Suchen erm\u00f6glichen es nicht, die gesamte Komplexit\u00e4t der Aufgabe zu verstehen, KI zu erschaffen.<\/p>\n
Sie erw\u00e4hnen auch, dass KI-Systeme notwendig sind, um kausale Zusammenh\u00e4nge zu verstehen. Glauben Sie, dass uns dabei tiefes Lernen, klassische KI oder etwas v\u00f6llig Neues helfen wird?<\/b><\/p>\n
Dies ist ein weiteres Gebiet, f\u00fcr das tiefes Lernen nicht besonders geeignet ist. Es erkl\u00e4rt nicht die Ursachen bestimmter Ereignisse, sondern berechnet die Wahrscheinlichkeit eines Ereignisses unter bestimmten Bedingungen.<\/p>\n
Wor\u00fcber sprechen wir? Sie betrachten bestimmte Szenarien und verstehen, warum dies passiert und was geschehen kann, wenn sich bestimmte Umst\u00e4nde \u00e4ndern. Ich kann auf den St\u00e4nder schauen, auf dem der Fernseher steht, und mir vorstellen, dass, wenn ich ihm ein Bein abschneide, der St\u00e4nder umfallen und der Fernseher herunterfallen wird. Das ist die kausale Beziehung.<\/p>\n
Der klassische KI gibt uns daf\u00fcr einige Werkzeuge. Er kann beispielsweise darstellen, was Unterst\u00fctzung ist und was ein R\u00fcckschlag bedeutet. Aber ich m\u00f6chte nicht \u00fcbertreiben. Das Problem ist, dass klassische KI zum gr\u00f6\u00dften Teil von der Vollst\u00e4ndigkeit der Informationen \u00fcber das Geschehen abh\u00e4ngt, und ich habe nur durch einen Blick auf den St\u00e4nder diese Schlussfolgerung gezogen. Irgendwie kann ich verallgemeinern und Teile des St\u00e4nders darstellen, die ich nicht sehen kann. Wir haben bisher keine Werkzeuge, um diese F\u00e4higkeit zu realisieren.<\/p>\n
Au\u00dferdem sprechen Sie davon, dass Menschen \u00fcber angeborenes Wissen verf\u00fcgen. Wie l\u00e4sst sich das in KI umsetzen?<\/b><\/p>\n
Im Moment der Geburt ist unser Gehirn bereits ein sehr durchdachtes System. Es ist nicht fixiert; die Natur hat einen ersten groben Entwurf geschaffen. Und dann hilft das Lernen, diesen Entwurf w\u00e4hrend unseres gesamten Lebens zu \u00fcberarbeiten.<\/p>\n
Der grobe Entwurf des Gehirns hat bereits bestimmte F\u00e4higkeiten. Ein neugeborenes Steinbock kann schon nach ein paar Stunden fehlerfrei den Hang eines Berges hinabsteigen. Offensichtlich hat er bereits ein Verst\u00e4ndnis f\u00fcr den dreidimensionalen Raum, seinen K\u00f6rper und die Wechselbeziehungen zwischen ihnen. Ein recht komplexes System.<\/p>\n
Teilweise glaube ich deshalb, dass wir Hybride brauchen. Es ist schwer vorstellbar, wie man einen Roboter schaffen kann, der in einer Welt gut funktioniert, ohne \u00fcber \u00e4hnliche Kenntnisse zu verf\u00fcgen, wo er anfangen soll, anstatt von Grund auf neu zu beginnen und auf einer langen, umfangreichen Erfahrung zu lernen.<\/p>\n
Was die Menschen betrifft, so stammt unser angeborenes Wissen aus unserem Genom, das sich \u00fcber lange Zeit entwickelt hat. Bei KI-Systemen m\u00fcssen wir jedoch einen anderen Weg gehen. Teilweise k\u00f6nnen das Regeln sein, nach denen unsere Algorithmen aufgebaut sind. Teilweise k\u00f6nnen das Regeln f\u00fcr die Erstellung von Datenstrukturen sein, mit denen diese Algorithmen arbeiten. Und teilweise k\u00f6nnen das Kenntnisse sein, die wir direkt in die Maschinen einbringen.<\/p>\n
Es ist interessant, dass Sie in Ihrem Buch zur Idee des Vertrauens und der Schaffung vertrauensw\u00fcrdiger Systeme gelangen. Warum haben Sie gerade dieses Kriterium gew\u00e4hlt?<\/b><\/p>\n
Ich denke, dass das heute ein Spiel mit dem Ball ist. Mir scheint, wir leben in einem seltsamen Moment der Geschichte, in dem wir teilweise Software vertrauen, die kein Vertrauen verdient. Ich glaube, unsere heutigen Sorgen werden nicht ewig bestehen. In hundert Jahren wird KI unser Vertrauen rechtfertigen, vielleicht sogar fr\u00fcher.<\/p>\n
Aber heute ist KI gef\u00e4hrlich. Nicht in dem Sinne, wie Elon Musk bef\u00fcrchtet, sondern weil Bewerbungsgespr\u00e4chssysteme Frauen diskriminieren, unabh\u00e4ngig davon, was Programmierer tun, weil ihre Werkzeuge zu einfach sind.<\/p>\n
Ich w\u00fcnschte, wir h\u00e4tten eine qualitativ hochwertigere KI. Ich m\u00f6chte nicht, dass eine \"KI-Winter\" beginnt, wenn die Menschen erkennen, dass KI nicht funktioniert und einfach gef\u00e4hrlich ist und sie nicht bereit sind, das zu \u00e4ndern.<\/p>\n
In gewisser Weise scheint Ihr Buch wirklich sehr optimistisch zu sein. Sie schlagen vor, dass es m\u00f6glich ist, vertrauensw\u00fcrdige KI zu entwickeln. Wir m\u00fcssen nur in eine andere Richtung schauen.<\/b><\/p>\n
Das stimmt, das Buch ist kurzfristig sehr pessimistisch und langfristig sehr optimistisch. Wir glauben, dass alle von uns beschriebenen Probleme gel\u00f6st werden k\u00f6nnen, wenn wir breiter betrachten, wie die richtigen Antworten aussehen sollten. Und wir denken, dass, wenn das passiert, die Welt besser wird.habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"\u042d\u0442\u043e\u0442 \u0442\u0435\u043a\u0441\u0442 \u2014 \u043d\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430\u0443\u0447\u043d\u043e\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f, \u0430 \u043e\u0434\u043d\u043e \u0438\u0437 \u043c\u043d\u043e\u0433\u0438\u0445 \u043c\u043d\u0435\u043d\u0438\u0439 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u0448\u0435\u0433\u043e \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0435\u0433\u043e \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f. \u0418 \u0437\u0430\u043e\u0434\u043d\u043e \u043f\u0440\u0438\u0433\u043b\u0430\u0448\u0435\u043d\u0438\u0435 \u043a \u0434\u0438\u0441\u043a\u0443\u0441\u0441\u0438\u0438. \u0413\u0430\u0440\u0438 \u041c\u0430\u0440\u043a\u0443\u0441, \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u043e\u0440 \u041d\u044c\u044e-\u0419\u043e\u0440\u043a\u0441\u043a\u043e\u0433\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u0430, \u0443\u0432\u0435\u0440\u0435\u043d, \u0447\u0442\u043e \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0433\u0440\u0430\u0435\u0442 \u0432\u0430\u0436\u043d\u0443\u044e \u0440\u043e\u043b\u044c \u0432 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0438 \u0418\u0418. \u041d\u043e \u043e\u043d \u0442\u0430\u043a\u0436\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442, \u0447\u0442\u043e \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0435 \u0443\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u044d\u0442\u043e\u0439 \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 \u043a \u0435\u0451 \u0434\u0438\u0441\u043a\u0440\u0435\u0434\u0438\u0442\u0430\u0446\u0438\u0438. \u0412 \u0441\u0432\u043e\u0435\u0439 \u043a\u043d\u0438\u0433\u0435 Rebooting […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29302,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-39055","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Wir](\"\/wp-content\/uploads\/2019\/10\/dccacd1c137f2ec973edd6dc5d4c42f3.png\")