Meiner Meinung nach besteht das Problem nicht darin, dass Maschinen den Menschen an seinem Arbeitsplatz ersetzen werden, auch nicht im intellektuellen Bereich, und nicht darin, dass Computer offenbar gegen Menschen mit höherer Bildung und Twitter-Konten zu den Waffen gegriffen haben. Die Implementierung von KI erfolgt nicht schnell, sondern im Gegenteil zu langsam. Warum? Denn dies ist ein normaler Zyklus der menschlichen Entwicklung, und wir sind uns einfach nicht darüber im Klaren, dass die Zerstörung, die wir erleben, die Einführung neuer Technologien bedeutet, die, bevor neue Arbeitsplätze geschaffen werden, alte vernichten.
Technologien zerstören veraltete Industrien und schaffen neue, das ist der Schöpfungsprozess, das ist der Entwicklungszyklus. Wenn Sie versuchen, die Qual zu verlängern, indem Sie alte Technologien in den Prozess einbauen oder einige Vorteile für veraltete Technologien schaffen, verlangsamen Sie den Prozess lediglich und machen ihn schmerzhafter. Es wird sowieso passieren, aber das Problem ist, dass wir den Prozess regulieren, indem wir Regeln schaffen, die ihn absichtlich verlangsamen. Ich denke, das ist ein größeres Problem als die, die uns klarer bewusst sind. Dabei handelt es sich eher um ein psychologisches Problem, bei dem sich die Leute die Frage stellen: „Wie kann man sich in einem selbstfahrenden Auto sicher fühlen?“
Ich schaute in die Geschichte und erfuhr, dass vor hundert Jahren eine der mächtigsten Gewerkschaften in New York die Aufzugsarbeitergewerkschaft war, die 17 Arbeiter vereinte. Übrigens gab es damals schon eine Technologie, bei der man einfach einen Knopf drücken konnte und fertig war, aber die Leute trauten ihr nicht! Es ist einfach schrecklich, selbst den Knopf drücken zu müssen, um den Aufzug zu rufen! Wissen Sie, warum diese Gewerkschaft „gestorben“ ist und die Leute angefangen haben, die Knöpfe selbst zu benutzen? Denn eines Tages beschlossen die Aufzugsarbeiter, in den Streik zu treten. Sie streikten, und dann riskierten die Leute, die auf die Spitze des Empire State Building klettern mussten, mit ihren eigenen Händen die Knöpfe zu drücken.
Denken Sie daran, was man vor 20 bis 30 Jahren über Kinder oder Enkel sagte, als sie sich ans Steuer eines Autos setzten: „Das ist schrecklich, schauen Sie sich nur die Statistiken an, denn Autos sind eine der Hauptursachen für die menschliche Sterblichkeit, wie können sie Risiken eingehen?“ Ihr Leben?"
Das alles ist also reine Psychologie. Wir achten kaum darauf, wie viele Menschen bei Autounfällen ums Leben kommen, aber sobald eine Person von einem selbstfahrenden Auto getötet wird, wird das Ereignis unverhältnismäßig. Jeder Fehler, jeder Fehler in den Technologien der künstlichen Intelligenz wird sofort auf den Titelseiten der Zeitungen behandelt. Aber schauen Sie sich die Statistiken an, schauen Sie sich die Anzahl der Vorfälle an, und Sie werden sehen, wie gering der Prozentsatz der Gesamtzahl der Unfälle ist. Daher wird die menschliche Gemeinschaft nur dann gewinnen, wenn sie voranschreiten kann, ohne durch solche Ängste gelähmt zu werden.
Ein weiteres Problem taucht auf, wenn wir über Fake News oder Cybersicherheit sprechen. Das sind sehr politisierte Themen und ich bekomme viele Anrufe mit der Frage, wie ich mit KI-Hassern umgehe. Ich schreibe zum Beispiel regelmäßig einen Blog und in meinem neuen Beitrag, der in ein paar Tagen veröffentlicht wird, geht es um Hass und die Tatsache, dass die Rettung vor Hass im Wissen, im Lernen liegt. Wir müssen nur verstehen, dass dieses Problem schon existierte, lange bevor all diese Dinge erfunden wurden, nur dass seine Bedeutung dank des Internets, das Millionen und Abermilliarden von Menschen erreicht, jetzt noch zugenommen hat.
Ich denke, es ist tatsächlich eine gute Sache, wenn jemand versucht, den Fortschritt zu stoppen, indem er versucht, KI zu verbieten, und Sie wissen, dass das nicht funktionieren wird, weil wir Putin und andere Bösewichte haben, wo immer sie sind, die unsere eigenen Technologien gegen uns einsetzen die freie Welt. Ich denke, wir sollten es einfach als gegeben akzeptieren.
Der Kern des Problems liegt nur in uns selbst, und die Antworten auf die Fragen liegen in uns selbst, in unserer eigenen Stärke und unserem eigenen Vertrauen. Ich behaupte, dass intelligente Maschinen uns nicht „obsolet“ machen können. Allerdings muss man bedenken, dass es gewisse Einschränkungen bei der Mensch-Computer-Kooperation gibt und es sich dabei zu einem großen Teil nur um Gerüchte handelt, die es schon einmal gab. Wie immer sind dies einfach neue Möglichkeiten, die die alte Welt zerstören und eine neue schaffen, und je weiter wir voranschreiten, desto besser wird es uns gehen.
Heutzutage ähnelt es am ehesten einem Schritt in die Welt der Science-Fiction. Das Paradoxe ist, dass wir, wenn wir 50 bis 60 Jahre zurückblicken, feststellen werden, dass Science-Fiction damals absolut positiv war, es war eine völlige Utopie. Doch dann kam es zu einem allmählichen Übergang von der Utopie zur Dystopie, so dass wir von der Zukunft der Menschheit nichts mehr hören wollen.
Das geschah nicht über Nacht. Es gab eine Zeit, in der die Menschen entschieden, dass die Erforschung des Weltraums zu riskant sei. Das ist in der Tat ein großes Risiko, aber stellen Sie sich vor, dass im Jahr 1969, als die Amerikaner auf dem Mond landeten, die gesamte Rechenleistung der NASA geringer war als die Leistung jedes modernen Computergeräts, das in Ihre Tasche passt. Dieses Gerät ist tausendmal leistungsfähiger als der Supercomputer, den es vor 40 Jahren gab. Stellen Sie sich vor, welche Rechenleistung Sie in Ihrer Tasche haben! Allerdings bin ich mir nicht sicher, ob das Apple iPhone 7 über die gleiche Rechenleistung wie Apollo 7 verfügt, also in der Lage ist, den gleichen Effekt zu erzielen.
Maschinen haben uns jedoch viele große Fortschritte bei der Erforschung des Weltraums oder der Ozeane beschert, und wir müssen verstehen, dass Computer uns die Möglichkeit geben, große Risiken einzugehen.
Ich möchte meine Rede positiv beenden. Zeigt diese Folie nicht positive Bilder? Das Foto in der unteren rechten Ecke ist nicht mit Photoshop bearbeitet, ich habe den Terminator tatsächlich im Jahr 2003 getroffen.
Auch er liebte Schach seit seiner Kindheit, aber er lernte es nicht speziell, so dass er sehr schnell verlor. Deshalb war ich sehr überrascht, als er sechs Monate später für das Amt des Gouverneurs von Kalifornien kandidierte und gewann!
Warum nenne ich diese Bilder positiv? Denn obwohl der alte Arnold in allen Folgen außer der ersten immer auf der Seite der Sieger steht und nicht müde wird, gegen neue Maschinen zu kämpfen, sehen wir in der ersten Folge die Kombination, von der ich gesprochen habe – dann kommt a Mensch plus alte Maschine plus perfekte Schnittstelle besiegt das neueste Auto.
Sie sagen vielleicht: „Ja, Maschinen sind stärker als Menschen, weil sie absolut alles berechnen können!“ Der Punkt ist jedoch nicht, dass sie alles berechnen können. Im Schach können wir beispielsweise technisch gesehen von der mathematischen Unendlichkeit der Anzahl möglicher Züge sprechen, die 1045 entspricht und für keinen modernen Computer schwer zu berechnen ist. Wichtig im Spiel sind jedoch nicht die Berechnungen, sondern die Tatsache, dass der Computer dem Menschen voraus ist, weil er sich stets an den Regeln orientiert. Und Sie kennen die Wirkung dieser Regeln und wissen, warum der Computer aus einer riesigen Vielfalt möglicher Züge den besten Zug auswählt.
Aber wenn wir uns dem wirklichen Leben zuwenden, bin ich mir nicht sicher, ob ein Computer immer nützlich sein kann. Schauen wir uns die typischste Situation an: Sie haben einen Computer, der Ihr Budget überwacht, Sie sind in einem Geschäft und wollen ein teures Geschenk kaufen. Der Computer bewertet den Kauf und sagt: „Nein, Sie können sich diesen Artikel nicht leisten, weil Ihr Budget dann überschritten ist.“ Die Maschine hat alles berechnet, aber es gibt eine kleine Nuance: Ihr Kind steht neben Ihnen und dieses Geschenk ist für seinen Geburtstag gedacht. Sehen Sie, wie sich dadurch die Bedingungen des Problems ändern? Das verändert alles, denn das Kind wartet auf dieses Geschenk.
Ich kann anfangen, diese kleinen Dinge hinzuzufügen, die alles verändern, aber ich glaube nicht, dass sie in die Problemstellung aufgenommen werden können und die richtige Lösung ergeben. Wir haben viele Regeln, aber wir müssen trotzdem Fragen stellen, weil sich die Dinge ändern. Dies ist eine gewöhnliche Situation, aber wenn man sich diese Filme anschaut, kann man sagen, dass die hier gezeigte Situation dramatischer und außergewöhnlicher ist. Diese Folie zeigt ein Standbild aus Episode V von Star Wars: Das Imperium schlägt zurück.
Han Solo steuert das Schiff direkt durch ein Asteroidenfeld, und C-3PO gerät in Panik und meldet, dass die Chance, das Feld zu überleben, 1:3122 beträgt. Han Solo sagt ihm: „Erzählen Sie mir niemals, wie hoch unsere Chancen sind!“ Hier stellt sich die Frage, wer in dieser Situation mehr Recht hat?
Die von C-3PO repräsentierte Technologie ist absolut richtig, denn die Überlebenschance tendiert gegen Null. Es ist möglich, dass aus der Sicht eines Roboters die Gefangennahme durch imperiale Streitkräfte eine bessere Wahl ist, die ein Mensch nicht einmal in Betracht ziehen würde, als in einem Asteroidenfeld zu sterben. Wenn der Computer jedoch entscheidet, dass die Kapitulation vor dem Imperium die beste Option ist, können wir davon ausgehen, dass die Person überhaupt keine Optionen hat. Das Wichtigste ist, dass wir in beiden Fällen, im gewöhnlichen wie im außergewöhnlichen Fall, die Möglichkeit haben, die endgültige Entscheidung zu treffen, und um eine solche Entscheidung zu treffen, bedarf es immer noch der menschlichen Führung.
Manchmal bedeutet dies, dass Sie den Empfehlungen des Computers widersprechen müssen. Der Sinn menschlicher Führung besteht nicht darin, die Chancen zu kennen, sondern die Fragen zu stellen, die wirklich wichtig sind, nicht nur heute oder morgen, sondern weit in die Zukunft hinein. Dieser Prozess kann als „menschliche Führung“ oder „menschliches Eingreifen“ bezeichnet werden, wobei die Beeinflussung ohne die Hilfe intelligenter Maschinen erfolgt. So sollte unser Kurs in diesem Jahrhundert aussehen.
Angesichts meiner Erfahrungen mit intelligenten Maschinen sind die Leute manchmal überrascht von meinem Optimismus gegenüber intelligenten Maschinen, aber ich bin wirklich ein Optimist. Und ich bin mir sicher, dass Sie alle gleichermaßen optimistisch in die Zukunft der KI blicken. Aber wir müssen bedenken, dass unsere Technologien agnostisch sind. Es ist weder gut noch böse, sondern kann sowohl zum Guten als auch zum Bösen eingesetzt werden. Maschinen müssen intelligenter und leistungsfähiger werden. Und wir Menschen müssen das tun, was nur Menschen können – träumen, in vollen Zügen träumen, und dann werden wir in der Lage sein, alle Vorteile dieser erstaunlichen neuen Werkzeuge zu nutzen.
Wie geplant haben wir noch 10 Minuten Zeit, um Fragen zu beantworten.
Frage: Glauben Sie, dass es möglich wäre, ein maschinelles Lernsystem zu entwickeln, das bestimmen könnte, welche Spielzüge besser zum menschlichen Spielstil passen?
Kasparov: Zunächst einmal erwarten wir nicht, dass der Computer uns den ersten Zug und die verbleibenden 17505 Züge mitteilt. Ich denke, wir sollten uns darauf verlassen, dass die Maschine die besten Empfehlungen für einzigartige Bewegungen liefert. Übrigens orientieren sich hochkarätige Spieler an Computern, die ihnen dabei helfen, die am besten geeignete Position im Spiel einzunehmen. Ich wiederhole es noch einmal: In 9 von 10 Fällen ist die Einschätzung der Situation durch den Computer der Einschätzung, die ein Mensch vornehmen kann, weit überlegen.
Frage: Stimmen Sie zu, dass wahre Intelligenz Wahlfreiheit erfordert, die Freiheit, Entscheidungen zu treffen, die nur ein Mensch treffen kann? Schließlich werden Deep Blue-Software und andere Computerprogramme von Menschen geschrieben, und wenn Sie gegen Deep Blue verlieren, verlieren Sie nicht gegen den Computer, sondern gegen die Programmierer, die das Programm geschrieben haben. Meine Frage ist: Gibt es eine Gefahr durch irgendeine Art von maschineller Intelligenz, solange Computer freie Wahl haben?
Kasparov: Hier muss ich von der Wissenschaft zur Philosophie übergehen. Über Deep Blue ist alles klar – es ist das Ergebnis einer enormen Menge menschlicher Arbeit. In den meisten Fällen, selbst im Fall von Demis Hassabis‘ AlphaGo, sind dies alles Produkte menschlicher Intelligenz. Ich weiß nicht, ob Maschinen freie Wahl haben können, aber ich glaube, dass Maschinen es besser machen werden, was auch immer wir tun, wenn wir wissen, wie es geht. Allerdings wissen wir bei den meisten Dingen nicht, wie wir sie am besten erledigen sollen, sodass wir oft nicht verstehen können, was uns gelingen wird. Einfach ausgedrückt: Wir haben ein Ziel, wissen aber nicht, was es ist, und die Rolle der Maschine besteht darin, uns dabei zu helfen, dieses Ziel zu erreichen. Wenn wir also von der freien Wahl des Computers sprechen, dann sollte das dazu beitragen, uns an dieses Ziel zu binden. Ich denke, dass dies eine sehr ferne Zukunft für Computer ist.
Frage: Was halten Sie von menschlichen Eigenschaften wie Mut und Moral und den darauf basierenden Entscheidungen, die künstliche Intelligenz treffen kann? Was sollte beispielsweise ein selbstfahrendes Auto tun – ein Kind überfahren oder vermeiden, es zu treffen, indem es gegen einen Felsen prallt und seinen Passagier tötet?
Kasparov: Das nennt man „Gefühle“, sie sind nicht quantifizierbar, weil es sich dabei um eine ganze Reihe unterschiedlicher menschlicher Eigenschaften handelt. Wenn es um Mut geht, dann steht diese Eigenschaft immer im Widerspruch zu den Chancen, die optimale Option zu wählen. Tapferkeit steht, wie andere menschliche Emotionen auch, per Definition im Widerspruch zu einer genauen Berechnung.
Frage: Herr Kasparov, meine Frage betrifft nicht Computer: Was ist in Ihrer Flasche und kann ich es versuchen?
Kasparow: Was meinst du?
Gastgeber: Er fragt, was Sie in Ihrer Tasche haben!
Kasparov: In meiner Tasche? „Stolichnaja“! Dies ist keine Werbung. Wenn Sie es bemerkt haben, habe ich es weggeworfen.
Frage: Wer wird Ihrer Meinung nach der nächste Schachweltmeister sein und hat der junge chinesische Schachspieler Wei Yi eine Chance, Carelsen als Schachkönig zu entthronen?
Kasparov: Karelsen ist der Nummer-1-Spieler, er ist kein Weltmeister, sondern laut Wertung einfach der beste Schachspieler der Welt. Er wird dieses Jahr 27 Jahre alt, ist also noch jung, aber nach heutigen Maßstäben nicht sehr jung. Ich glaube, Wei Yi ist jetzt 18 oder 19 Jahre alt. Magnus liegt vor jungen Spielern wie den Amerikanern Wesley So und Fabiano Kerouana, und Wei Yi könnte möglicherweise sein Gegner sein. Um Weltmeister zu werden, braucht man jedoch Talent, man muss nicht jung und energisch sein, sondern nur ein bisschen Glück. Um die Frage zu beantworten, kann ich also sagen: Ja, er hat eine Chance, Magnus Carelsen zu schlagen.
Frage: Als Sie über deterministische Algorithmen und maschinelles Lernen sprachen, erwähnten Sie die Möglichkeit, Maschinen als Werkzeuge zur Ergänzung unserer Intelligenz einzusetzen. Wie wäre es mit der Möglichkeit, Ressourcen zu maximieren, bevor man eine leistungsstarke KI entwickelt oder sogar ein menschliches Gehirn in einen Computer einbaut?
Kasparov: Es ist mir nicht peinlich, meine Unwissenheit einzugestehen, wenn ich nicht sicher bin, ob ich eine Frage nicht richtig beantworten kann. Ich versuche mein Bestes zu verstehen, was das menschliche Gehirn ist und welche Funktionen es erfüllt, wenn wir es getrennt vom menschlichen Körper betrachten. Denn es ist schwer vorstellbar, wie sich das Gehirn getrennt vom Körper verhalten wird. Vielleicht könnte ein solches Experiment in der Zukunft durchgeführt werden, aber ich bin zuversichtlich, dass die Kombination des menschlichen Gehirns, der menschlichen Gefühle und Emotionen mit einem Computer einen „Geist“ bilden wird, der viel effektiver sein wird als ein extrahiertes und eingefrorenes Gehirn, das verwendet wird als ein mit Neuronen gefülltes Gerät.
Frage: Gibt es einen universellen Grundansatz für das Problem, menschliche Arbeitsplätze durch Computer zu ersetzen?
Kasparov: Ich denke, das ist eine sehr wichtige Frage, denn es ist klar, dass wir uns dem Punkt nähern, an dem viele Menschen arbeitslos sein könnten. Das ist das Paradoxon des technologischen Fortschritts: Einerseits verfügen wir über die neuesten Technologien, die der jüngeren Generation, die sich mit diesen Geräten und Technologien beschäftigt, enorme Wettbewerbsvorteile verschaffen. Auf der anderen Seite haben wir Fortschritte in der Medizin und in der gesunden Ernährung, die das menschliche Leben verlängern und einem Menschen die Möglichkeit geben, viele Jahre lang zu arbeiten. In diesem Sinne kann die Generation der 50er, 60er oder gar 40er nicht mit der heutigen Jugend mithalten. Wir müssen eine Lösung für diese paradoxe Situation finden, in der die Kluft zwischen den Generationen so groß ist. Die historische Erfahrung zeigt, dass eine solche Lücke immer zu einer großen Explosion führt. Ich meine die Kluft zwischen der bestehenden sozialen Infrastruktur der Gesellschaft und dem technologischen Fortschritt.
Dies ist ein Thema, das Politiker lieber auf die nächste Wahl verschieben. Niemand möchte darüber reden, weil es ein heikles Thema ist. Es ist sehr einfach, Geld zu drucken und zu hoffen, dass eines Tages jemand dafür bezahlt. In diesem Bereich gibt es also viele Paradoxe, zum Beispiel die Anhäufung von Schulden zur Bereitstellung sozialer Garantien für die ältere Generation in der Erwartung, dass die Last der Tilgung dieser Schulden auf den Schultern der jüngeren Generation lasten wird. Es gibt viele Fragen, auf die ich keine Antworten habe, und viele Fragen, die ich stellen könnte, bei denen ich hoffe, dass die KI mir helfen kann.
Es ist sehr schlimm, dass Politiker seit Jahrzehnten versuchen, die Probleme, die wir gerade besprochen haben, zu ignorieren. Sie sind immer bereit, Aussagen zu machen, sie haben immer Pläne, aber sie wollen nicht verstehen, wie kontraproduktiv es ist, über das Problem des Konflikts zwischen Technologie und Gesellschaft zu schweigen. Danke für Ihre Aufmerksamkeit!
Vielen Dank, dass Sie bei uns geblieben sind. Gefallen Ihnen unsere Artikel? Möchten Sie weitere interessante Inhalte sehen? Unterstützen Sie uns, indem Sie eine Bestellung aufgeben oder an Freunde weiterempfehlen. 30 % Rabatt für Habr-Benutzer auf ein einzigartiges Analogon von Einstiegsservern, das von uns für Sie erfunden wurde: (verfügbar mit RAID1 und RAID10, bis zu 24 Kerne und bis zu 40 GB DDR4).
Dell R730xd 2-mal günstiger? Nur hier in den Niederlanden! Dell R420 – 2x E5-2430 2.2 GHz 6C 128 GB DDR3 2 x 960 GB SSD 1 Gbit/s 100 TB – ab 99 $! Lesen über
Source: habr.com