<\/a><\/noindex>In seinem Buch pl\u00e4dieren Markus und sein Co-Autor Ernest Davis f\u00fcr einen anderen Ansatz. Sie glauben, dass wir noch weit von der Schaffung einer allgemeinen KI entfernt sind, sind jedoch zuversichtlich, dass es fr\u00fcher oder sp\u00e4ter gelingen wird, sie zu entwickeln.<\/p>\n
Warum ben\u00f6tigen wir eine allgemeine KI? Spezialversionen wurden bereits entwickelt und bringen einiges an Nutzen.<\/b><\/p>\n
Das ist richtig, und der Nutzen wird noch gr\u00f6\u00dfer sein. Aber es gibt viele Aufgaben, die spezialisierte KI einfach nicht bew\u00e4ltigen kann. Zum Beispiel das Verst\u00e4ndnis gesprochener Sprache oder die allgemeine Unterst\u00fctzung in der virtuellen Welt oder ein Roboter, der bei der Reinigung und Zubereitung von Speisen hilft. Solche Aufgaben liegen au\u00dferhalb der M\u00f6glichkeiten spezialisierter KI. Eine weitere interessante praktische Frage lautet: Kann spezialisierte KI ein sicheres selbstfahrendes Auto erstellen? Erfahrungen zeigen, dass solche KI weiterhin viele Probleme im Verhalten unter abnormalen Situationen hat, selbst beim Fahren, was die Lage erheblich erschwert.<\/p>\n
Ich denke, wir alle w\u00fcnschen uns KI, die uns hilft, neue bahnbrechende Entdeckungen in der Medizin zu machen. Es ist unklar, ob die aktuellen Technologien daf\u00fcr geeignet sind, da die Biologie ein komplexes Feld ist. Man muss bereit sein, viele B\u00fccher zu lesen. Wissenschaftler verstehen die Kausalzusammenh\u00e4nge im Zusammenspiel von Netzwerken und Molek\u00fclen und k\u00f6nnen Theorien \u00fcber Planeten entwickeln und so weiter. Mit spezialisierter KI k\u00f6nnen wir jedoch keine Maschinen schaffen, die zu solchen Entdeckungen f\u00e4hig sind. Mit allgemeiner KI k\u00f6nnten wir jedoch einen revolution\u00e4ren Wandel in Wissenschaft, Technologie und Medizin herbeif\u00fchren. Meiner Meinung nach ist es sehr wichtig, die Arbeit an der Schaffung allgemeiner KI fortzusetzen.<\/p>\n
Verstehen Sie unter 'allgemein' etwa starke KI?<\/b><\/p>\n
Wenn ich 'allgemein' sage, meine ich, dass KI in der Lage sein wird, Probleme im Handumdrehen zu durchdenken und neue Aufgaben selbstst\u00e4ndig zu l\u00f6sen. Im Gegensatz zu beispielsweise Go, bei dem das Problem sich in den letzten 2000 Jahren nicht ver\u00e4ndert hat.<\/p>\n
Allgemeine KI sollte in der Lage sein, Entscheidungen sowohl in der Politik als auch in der Medizin zu treffen. Dies ist analog zur menschlichen F\u00e4higkeit; jeder vern\u00fcnftige Mensch kann sehr viel tun. Man nimmt unerfahrene Studenten und bringt sie in nur wenigen Tagen dazu, praktisch an allem zu arbeiten, angefangen bei rechtlichen Aufgaben bis hin zur Medizin. Das liegt daran, dass sie ein allgemeines Verst\u00e4ndnis der Welt haben und lesen k\u00f6nnen, weshalb sie in der Lage sind, einen Beitrag zu einem sehr breiten Spektrum von Aktivit\u00e4ten zu leisten.<\/p>\n
Die Verbindung zwischen solchem Intellekt und starkem besteht darin, dass schwacher Intellekt wahrscheinlich nicht in der Lage sein wird, allgemeine Aufgaben zu l\u00f6sen. Um etwas zu schaffen, das ausreichend zuverl\u00e4ssig ist und in einer sich st\u00e4ndig ver\u00e4ndernden Welt funktionieren kann, m\u00fcssen Sie m\u00f6glicherweise mindestens einen Ann\u00e4herung an allgemeine Intelligenz erreichen.<\/p>\n
\u041d\u043e \u0441\u0435\u0439\u0447\u0430\u0441 \u043c\u044b \u043e\u0442 \u044d\u0442\u043e\u0433\u043e \u043e\u0447\u0435\u043d\u044c \u0434\u0430\u043b\u0435\u043a\u0438. AlphaGo \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0435\u043a\u0440\u0430\u0441\u043d\u043e \u0438\u0433\u0440\u0430\u0442\u044c \u043d\u0430 \u0434\u043e\u0441\u043a\u0435 19×19, \u043d\u043e \u0435\u0433\u043e \u043d\u0443\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0430\u0442\u044c \u0434\u043b\u044f \u0438\u0433\u0440\u044b \u043d\u0430 \u043f\u0440\u044f\u043c\u043e\u0443\u0433\u043e\u043b\u044c\u043d\u043e\u0439 \u0434\u043e\u0441\u043a\u0435. \u0418\u043b\u0438 \u0432\u043e\u0437\u044c\u043c\u0438\u0442\u0435 \u0441\u0440\u0435\u0434\u043d\u0435\u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0441\u0438\u0441\u0442\u0435\u043c\u0443 \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f: \u043e\u043d\u0430 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u0430 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0442\u044c \u0441\u043b\u043e\u043d\u0430, \u0435\u0441\u043b\u0438 \u043e\u043d \u0445\u043e\u0440\u043e\u0448\u043e \u043e\u0441\u0432\u0435\u0449\u0451\u043d \u0438 \u0432\u0438\u0434\u043d\u0430 \u0442\u0435\u043a\u0441\u0442\u0443\u0440\u0430 \u0435\u0433\u043e \u043a\u043e\u0436\u0438. \u0410 \u0435\u0441\u043b\u0438 \u0432\u0438\u0434\u0435\u043d \u043b\u0438\u0448\u044c \u0441\u0438\u043b\u0443\u044d\u0442 \u0441\u043b\u043e\u043d\u0430, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043d\u0430\u0432\u0435\u0440\u043d\u044f\u043a\u0430 \u043d\u0435 \u0441\u043c\u043e\u0436\u0435\u0442 \u0435\u0433\u043e \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0442\u044c.<\/p>\n
In Ihrem Buch erw\u00e4hnen Sie, dass Deep Learning nicht in der Lage ist, die F\u00e4higkeiten einer allgemeinen KI zu erreichen, da es kein tiefes Verst\u00e4ndnis annehmen kann.<\/b><\/p>\n
In der Kognitionswissenschaft wird \u00fcber die Bildung verschiedener kognitiver Modelle gesprochen. Ich sitze in einem Hotelzimmer und verstehe, dass dort ein Schrank ist, da ein Bett ist, dort ein Fernseher, der ungew\u00f6hnlich aufgeh\u00e4ngt ist. Ich kenne all diese Objekte, ich identifiziere sie nicht nur. Au\u00dferdem verstehe ich, wie sie miteinander verbunden sind. Ich habe Vorstellungen \u00fcber das Funktionieren der Welt um mich herum. Sie sind nicht perfekt. Sie k\u00f6nnen falsch sein, aber sie sind ziemlich gut. Und auf ihrer Grundlage ziehe ich viele Schlussfolgerungen, die zu meinem t\u00e4glichen Handeln werden.<\/p>\n
Eine andere Extremit\u00e4t ist etwas wie ein Atari-Spielesystem, das von DeepMind erstellt wurde, bei dem es sich merkt, was es tun muss, wenn es Pixel an bestimmten Stellen auf dem Bildschirm sieht. Wenn man genug Daten bekommt, mag es scheinen, als h\u00e4tte man Verst\u00e4ndnis, aber in Wirklichkeit ist es sehr oberfl\u00e4chlich. Der Beweis daf\u00fcr ist, dass, wenn man die Objekte um drei Pixel verschiebt, die KI viel schlechter spielt. Ver\u00e4nderungen bringen sie aus der Fassung. Das steht im Gegensatz zu tiefem Verst\u00e4ndnis.<\/p>\n
Um dieses Problem zu l\u00f6sen, schlagen Sie vor, zu klassischer KI zur\u00fcckzukehren. Welche Vorteile sollten wir anstreben zu nutzen?<\/b><\/p>\n
Es gibt mehrere Vorteile. <\/p>\n
Erstens ist klassische KI tats\u00e4chlich ein Rahmenwerk zur Erstellung kognitiver Modelle der Welt, auf deren Grundlage man dann Schlussfolgerungen ziehen kann.<\/p>\n
Zweitens ist klassischer KI perfekt mit Regeln kompatibel. Momentan gibt es im Bereich des Deep Learning einen seltsamen Trend, bei dem Fachleute versuchen, Regeln zu vermeiden. Sie m\u00f6chten alles mit neuronalen Netzen machen und nichts tun, was wie klassische Programmierung aussieht. Aber es gibt Aufgaben, die auf diese Weise problemlos gel\u00f6st wurden, und niemand hat darauf geachtet. Zum Beispiel die Routenplanung in Google Maps.<\/p>\n
In der Tat brauchen wir beide Ans\u00e4tze. Maschinelles Lernen erm\u00f6glicht es, gut aus Daten zu lernen, hilft jedoch sehr schlecht bei der Darstellung der Abstraktion, die ein Computerprogramm darstellt. Klassische KI funktioniert gut mit Abstraktionen, muss aber vollst\u00e4ndig manuell programmiert werden, und in der Welt gibt es zu viel Wissen, um alles zu programmieren. Offensichtlich m\u00fcssen wir beide Ans\u00e4tze kombinieren.<\/p>\n
Das h\u00e4ngt mit dem Kapitel zusammen, in dem Sie dar\u00fcber sprechen, was wir vom menschlichen Geist lernen k\u00f6nnen. Zun\u00e4chst geht es um das Konzept, das auf der oben genannten Idee basiert, dass unser Bewusstsein aus vielen verschiedenen Systemen besteht, die unterschiedlich arbeiten.<\/b><\/p>\n
Ich denke, es gibt einen anderen Weg, dies zu erkl\u00e4ren: Jedes kognitive System, das wir haben, l\u00f6st tats\u00e4chlich unterschiedliche Aufgaben. Entsprechende Teile von KI sollten entworfen werden, um Aufgaben zu l\u00f6sen, die unterschiedliche Eigenschaften aufweisen.<\/p>\n
Momentan versuchen wir, einige All-in-One-Technologien zu verwenden, um Aufgaben zu l\u00f6sen, die grundlegend unterschiedlich sind. Ein Satz zu verstehen ist ganz und gar nicht dasselbe wie ein Objekt zu erkennen. Aber die Menschen versuchen in beiden F\u00e4llen, tiefes Lernen zu verwenden. Aus kognitiver Sicht sind das qualitativ unterschiedliche Aufgaben. Ich bin einfach erstaunt, wie wenig in der Gemeinschaft der Experten f\u00fcr tiefes Lernen die klassische KI sch\u00e4tzen. Warum auf das Erscheinen der besseren L\u00f6sung warten? Sie ist unerreichbar, und fruchtlose Suchen erm\u00f6glichen es nicht, die gesamte Komplexit\u00e4t der Aufgabe der Schaffung von KI zu begreifen.<\/p>\n
Sie erw\u00e4hnen auch, dass KI-Systeme notwendig sind, um Ursachen-Wirkungs-Beziehungen zu verstehen. Glauben Sie, dass uns dabei tiefes Lernen, klassische KI oder etwas v\u00f6llig Neues helfen wird?<\/b><\/p>\n
Dies ist ein weiteres Bereich, f\u00fcr den tiefes Lernen nicht besonders geeignet ist. Es erkl\u00e4rt nicht die Ursachen bestimmter Ereignisse, sondern berechnet die Wahrscheinlichkeit eines Ereignisses unter bestimmten Bedingungen.<\/p>\n
Wovon sprechen wir? Sie betrachten bestimmte Szenarien und verstehen, warum etwas geschieht und was passieren k\u00f6nnte, wenn sich bestimmte Umst\u00e4nde \u00e4ndern. Ich kann mir das Gestell ansehen, auf dem der Fernseher steht, und mir vorstellen, dass es umkippt und der Fernseher f\u00e4llt, wenn ich ein Bein abs\u00e4ge. Dies ist eine Ursache-Wirkung-Beziehung.<\/p>\n
Klassische KI bietet uns daf\u00fcr einige Werkzeuge. Sie kann zum Beispiel darstellen, was Unterst\u00fctzung und was ein Fall ist. Aber ich will nicht \u00fcbertreiben. Das Problem ist, dass klassische KI gr\u00f6\u00dftenteils von der Vollst\u00e4ndigkeit der Informationen \u00fcber das Geschehen abh\u00e4ngt, w\u00e4hrend ich lediglich auf das Gestell geschaut habe. Irgendwie kann ich verallgemeinern und Teile des Gestells, die ich nicht sehen kann, darstellen. Wir haben bisher keine Werkzeuge, um diese Eigenschaft zu realisieren.<\/p>\n
Au\u00dferdem sprechen Sie davon, dass Menschen angeborenes Wissen haben. Wie k\u00f6nnte man das in KI umsetzen?<\/b><\/p>\n
Bei der Geburt ist unser Gehirn bereits ein sehr durchdachtes System. Es ist nicht festgelegt; die Natur hat einen ersten groben Entwurf geschaffen. Und dann hilft das Lernen, diesen Entwurf ein Leben lang zu \u00fcberarbeiten.<\/p>\n
Der grobe Entwurf des Gehirns verf\u00fcgt bereits \u00fcber bestimmte F\u00e4higkeiten. Ein neugeborenes Steinbock kann schon nach wenigen Stunden sicher den Hang hinuntersteigen. Offensichtlich hat es bereits ein Verst\u00e4ndnis f\u00fcr den dreidimensionalen Raum, seinen K\u00f6rper und die Zusammenh\u00e4nge zwischen diesen.<\/p>\n
Teils aus diesem Grund glaube ich, dass wir Hybride brauchen. Es ist schwer vorstellbar, wie man einen Roboter schaffen kann, der gut in einer Welt funktioniert, ohne \u00fcber entsprechendes Wissen zu verf\u00fcgen, wie er beginnen soll, anstatt mit einem leeren Blatt zu beginnen und von einer langen, umfangreichen Erfahrung zu lernen.<\/p>\n
Was die Menschen betrifft, so stammt unser angeborenes Wissen aus unserem Genom, das sich \u00fcber lange Zeit entwickelt hat. Mit KI-Systemen m\u00fcssen wir jedoch einen anderen Weg einschlagen. Teilweise k\u00f6nnen dies die Regeln sein, nach denen unsere Algorithmen aufgebaut sind. Teilweise k\u00f6nnen es Regeln zur Erstellung von Datenstrukturen sein, mit denen diese Algorithmen arbeiten. Und teilweise k\u00f6nnen es Kenntnisse sein, die wir direkt in die Maschinen einflie\u00dfen lassen.<\/p>\n
Es ist interessant, dass Sie in dem Buch auf die Idee des Vertrauens und des Aufbaus vertrauensw\u00fcrdiger Systeme hinweisen. Warum haben Sie gerade dieses Kriterium gew\u00e4hlt?<\/b><\/p>\n
Ich denke, dass das heute alles einem Spiel \u00e4hnelt. Wir leben in einem seltsamen Moment der Geschichte, in dem wir einer Software vertrauen, die nicht vertrauensw\u00fcrdig ist. Ich glaube, die Sorgen, die wir heute haben, werden nicht ewig bestehen. In hundert Jahren wird KI unser Vertrauen rechtfertigen, vielleicht sogar fr\u00fcher.<\/p>\n
Aber heute ist KI gef\u00e4hrlich. Nicht in dem Sinne, wie es Elon Musk bef\u00fcrchtet, sondern weil die Vorstellungsgespr\u00e4chssysteme Diskriminierung gegen Frauen f\u00f6rdern, unabh\u00e4ngig davon, was die Programmierer tun, weil ihre Werkzeuge zu einfach sind.<\/p>\n
Ich w\u00fcnschte, wir h\u00e4tten einen qualitativ besseren KI. Ich m\u00f6chte nicht, dass die \"K\u00e4lteperiode der k\u00fcnstlichen Intelligenz\" beginnt, wenn die Menschen erkennen, dass KI nicht funktioniert und einfach gef\u00e4hrlich ist, und dass sie nicht bereit sind, das zu reparieren.<\/p>\n
In gewisser Weise erscheint Ihr Buch wirklich sehr optimistisch. Sie schlagen vor, dass wir vertrauensw\u00fcrdige KI aufbauen k\u00f6nnen. Wir m\u00fcssen nur in eine andere Richtung schauen.<\/b><\/p>\n
Das stimmt, das Buch ist kurzfristig sehr pessimistisch und langfristig sehr optimistisch. Wir glauben, dass alle von uns beschriebenen Probleme gel\u00f6st werden k\u00f6nnen, wenn man breiter dar\u00fcber nachdenkt, wie die richtigen Antworten aussehen sollten. Und wir denken, dass die Welt besser wird, wenn dies geschieht.habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"\u042d\u0442\u043e\u0442 \u0442\u0435\u043a\u0441\u0442 \u2014 \u043d\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430\u0443\u0447\u043d\u043e\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f, \u0430 \u043e\u0434\u043d\u043e \u0438\u0437 \u043c\u043d\u043e\u0433\u0438\u0445 \u043c\u043d\u0435\u043d\u0438\u0439 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u0448\u0435\u0433\u043e \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0435\u0433\u043e \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f. \u0418 \u0437\u0430\u043e\u0434\u043d\u043e \u043f\u0440\u0438\u0433\u043b\u0430\u0448\u0435\u043d\u0438\u0435 \u043a \u0434\u0438\u0441\u043a\u0443\u0441\u0441\u0438\u0438. \u0413\u0430\u0440\u0438 \u041c\u0430\u0440\u043a\u0443\u0441, \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u043e\u0440 \u041d\u044c\u044e-\u0419\u043e\u0440\u043a\u0441\u043a\u043e\u0433\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u0430, \u0443\u0432\u0435\u0440\u0435\u043d, \u0447\u0442\u043e \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0433\u0440\u0430\u0435\u0442 \u0432\u0430\u0436\u043d\u0443\u044e \u0440\u043e\u043b\u044c \u0432 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0438 \u0418\u0418. \u041d\u043e \u043e\u043d \u0442\u0430\u043a\u0436\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442, \u0447\u0442\u043e \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0435 \u0443\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u044d\u0442\u043e\u0439 \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 \u043a \u0435\u0451 \u0434\u0438\u0441\u043a\u0440\u0435\u0434\u0438\u0442\u0430\u0446\u0438\u0438. \u0412 \u0441\u0432\u043e\u0435\u0439 \u043a\u043d\u0438\u0433\u0435 Rebooting […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29302,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-39055","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-novosti-interneta"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Wir](\"\/wp-content\/uploads\/2019\/10\/dccacd1c137f2ec973edd6dc5d4c42f3.png\")