Welcher Schüler wird von einem Zauberer benötigt und welche KI brauchen wir?

WARNUNG
Angesichts des rekordhoch Verhältnis von stillschweigenden Unzufriedenen zu Kommentatoren, die etwas zu widersprechen haben, ist vielen Lesern nicht offensichtlich, dass:
1) Dies ist ein rein theoretischer Diskussionsartikel. Hier wird es keine praktischen Empfehlungen zur Auswahl von Werkzeugen für das Mining von Kryptowährungen oder zur Konstruktion eines Multivibrators geben, um zwei Lampen blinken zu lassen.
2) Dies ist kein populärwissenschaftlicher Artikel. Hier wird es keine Erklärung für Laien zum Prinzip der Funktionsweise einer Turing-Maschine anhand von Zündholzschachteln geben.
3) Überlegen Sie gut, bevor Sie mit dem Lesen fortfahren! Zieht Sie die Haltung des aggressiven Laientums an: Alles negativ bewerten, was ich nicht verstehe?
Vielen Dank im Voraus an alle, die sich entscheiden, diesen Artikel nicht zu lesen!

Ein Daemon ist ein Computerprogramm in UNIX-Klassensystemen, das von dem System selbst gestartet wird und im Hintergrund ohne direkte Interaktion mit dem Benutzer arbeitet.

Wikipedia

Schon im Vorschulalter hörte ich das Märchen vom Lehrling des Zauberers. Ich werde es in meiner Erzählung wiederholen:

Es war einmal irgendwo im mittelalterlichen Europa ein Zauberer. Er hatte ein großes Buch mit Zaubersprüchen, gebunden in schwarzem Kalbsleder mit Schlössern und Eisenbeschlägen. Wenn der Zauberer einen Zauberspruch vorlesen wollte, öffnete er es mit einem großen Eisenschlüssel, den er immer in einem speziellen Beutel an seinem Gürtel trug. Auch hatte der Zauberer einen Lehrling, der ihm diente, aber ihm war untersagt, in das Buch der Zaubersprüche zu schauen.

Eines Tages fuhr der Zauberer den ganzen Tag geschäftlich weg. Kaum war er aus dem Haus, stürzte sich der Lehrling in das Verlies, wo sich das Alchemielabor befand, in dem ein Buch der Zaubersprüche mit Ketten an den Tisch gefesselt lag. Der Lehrling ergriff die Tiegel, in denen der Zauberer Blei schmolz, um es in Gold zu verwandeln, stellte sie auf die Feuerstelle und facht das Feuer an. Das Blei schmolz schnell, verwandelte sich aber nicht in Gold. Da erinnerte sich der Lehrling daran, dass der Zauberer, nachdem er das Blei geschmolzen hatte, jedes Mal das Buch mit einem Schlüssel öffnete und lange einen Zauberspruch aus ihm murmelte. Verzweifelt schaute der Lehrling auf das verschlossene Buch und sah, dass neben ihm der vom Zauberer vergessene Schlüssel lag. Da stürzte er zum Tisch, öffnete das Buch, schlug es auf und las laut den ersten Zauberspruch, wobei er die unbekannten Worte mühsam silbierte, in der Annahme, dass ein so wichtiger Zauberspruch wie der Zauberspruch zur Transmutation von Blei in Gold sicherlich der erste sein würde.

Aber es geschah nichts: Das Blei wollte sich nicht verwandeln. Der Lehrling wollte ein anderes Zauberwort ausprobieren, doch da erzitterte das Haus durch einen Donnerschlag, und vor dem Lehrling erschien ein riesiger furchterregender Dämon, beschworen durch den Zauberspruch, den der Lehrling gerade gelesen hatte.
— Befehle! — brüllte der Dämon.
Aus Angst verließen alle Gedanken den Kopf des Lehrlings, er konnte sich nicht einmal rühren.
— Befehle, oder ich esse dich! — brüllte der Dämon erneut und streckte seine riesige Hand nach dem Lehrling aus, um ihn zu packen.
In seiner Verzweiflung murmelte der Lehrling das erste, was ihm einfiel:
— Gieß Wasser auf diese Blume.
Und zeigte auf die Geranie, deren Topf im Eck des Labors auf dem Boden stand. In der Decke über der Blume war das einzige kleine Fenster im Verlies, durch das kaum Sonnenlicht fiel. Der Dämon verschwand, kam aber einen Moment später mit einem riesigen Wassertank zurück, den er über die Blume kippe und das Wasser ausgoss. Er verschwand erneut und tauchte wieder mit einem vollen Tank auf.
— Genug, — rief der Lehrling, der bereits bis zur Taille im Wasser stand.
Offensichtlich war nur der Wunsch nicht genug – der Dämon schleppte unermüdlich Wasser in Fässern heran und schüttete es in die Ecke, wo einst die unter Wasser verborgene Blume stand. Wahrscheinlich brauchte man einen speziellen Zauberspruch, um den Dämon zu vertreiben. Aber der Tisch mit dem Buch war bereits im trüben Wasser verschwunden, in dem Asche und Glut aus dem Feuer, leere Retorten, Kolben, Hocker, Galvanometer, Dosimeter, Einwegspritzen und anderer Schrott trieben, sodass der Schüler, selbst wenn er gewusst hätte, wie er den richtigen Zauberspruch finden könnte, dazu nicht in der Lage gewesen wäre. Das Wasser stieg, und der Schüler kletterte auf den Tisch, um nicht zu ertrinken. Doch dies half nur kurz – der Dämon hörte methodisch nicht auf, Wasser zu schleppen. Der Schüler war bereits bis zur Kehle im Wasser, als der Zauberer zurückkehrte und bemerkte, dass er den Schlüssel für das Buch zu Hause vergessen hatte, und vertreibt den Dämon. Ende der Geschichte.

Zunächst das Offensichtliche. Bei der natürlichen Intelligenz (NI) des Schülers scheint alles klar zu sein – ein Dummerchen, noch dümmer, da muss man lange suchen. Aber bei der Intelligenz des Dämons – übrigens, welche hat er: NI oder KI? – ist das nicht so eindeutig. Verschiedene Versionen sind gerechtfertigt (und dazu werden noch Fragen auftauchen):

Version 1) Der Dämon ist noch dümmer als der Schüler. Er erhält einen Befehl und wird diesen endlos ausführen, selbst wenn jeder Sinn verloren geht: Wenn die Blume – das Bewässerungsobjekt – verschwindet, wenn die Ecke, auf die die Koordinaten der Blume zeigen, verschwindet, wenn der Planet Erde verschwindet, wird der dumme Dämon weiterhin in einen bestimmten Punkt des Weltraums mit Fässern Wasser liefern. Und wenn in diesem Punkt eine Supernova aufflammt, ist es dem Dämon egal, wohin er das Wasser bringt. Darüber hinaus: Wie dumm muss man sein, um eine kleine Blume mit einem riesigen Fass zu gießen? Das wäre nicht das Gießen der Blume, sondern das Ertränken der Blume. Versteht er wenigstens den Sinn des Befehls?

Version 2) Der Dämon versteht alles, ist aber an Verpflichtungen gebunden. So führt er etwas wie einen italienischen Streik durch. Solange er nicht offiziell nach allen Regeln vertreiben wird – wird er nicht aufhören.

Frage 1 zu den Versionen 1, 2) Wie unterscheidet man einen völlig dummen Dämon laut Version 1 von einem nicht ganz so dummen laut Version 2?
Frage 2 zu den Versionen 1, 2) Würde der Dämon korrekt (aus der Sicht des Schülers) eine präzisere Formulierung ausführen? Zum Beispiel, wenn der Schüler gesagt hätte: Nimm den leeren einliters Kolben, der im Regal steht, fülle ihn mit Wasser und gieße die Blume einmal. Oder, wenn der Schüler gesagt hätte: Geh weg.

Version 3) Der Zauberer hat dem Dämon einen zusätzlichen Bann auferlegt, nach dem der Dämon den Zauberer sofort informieren muss, wenn jemand außer dem Zauberer die Dienste des Dämons in Anspruch nimmt.

Version 4) Der Dämon hegt keinen Groll gegen den Zauberer und seinen Schüler und bemerkt, dass die Situation außer Kontrolle geraten ist. Während seiner Bewegungen mit dem Fass erschien er hinter dem Zauberer und rief: „Du hast den Schlüssel zu Hause vergessen, da gibt es eine Überschwemmung.“ Der Zauberer hätte sich selbst nicht daran erinnert.

Anmerkung 1 zu Version 4) Es ist besonders zu beachten, dass die Träger des EI oft ein sehr imperfectes Gedächtnis haben.

Weitere Versionen können wie "Fibonacci-Kaninchen" vervielfältigt werden, d.h. nach einem nicht sehr komplizierten Algorithmus. Zum Beispiel:
Version 5) Der Dämon rächt sich am Schüler für seine Unruhe.
Version 6) Der Dämon hegt keinen Groll gegen den Schüler, rächt sich aber am Zauberer.
Version 6) Der Dämon rächt sich allen.
Version 7) Der Dämon rächt sich nicht, sondern amüsiert sich. Er wird aufhören, wenn es ihm langweilig wird.
Und so weiter.

Nun, über den Dämon ist klar, dass nichts klar ist. Mit dem Zauberer ist es nicht besser. Man kann nicht weniger Versionen erfinden: dass er absichtlich beschloss, den Schüler zu strafen, der seine neugierige Nase überall hineinsteckt; dass er den Schüler ertränken wollte, aber als der Dämon über die Überschwemmung rief, erschrak er — plötzlich hörte jemand von den Passanten und dann könnte der Verdacht auf den Zauberer fallen; er wollte das Interesse des Schülers an den Zaubersprüchen wecken und so weiter.

Hier stellt sich die kindliche Frage: Welche der vorgeschlagenen Versionen ist richtig? Offenbar jede. Märchen enthalten keine ungenutzten Informationen, um eine der Versionen den anderen vorzuziehen. Hier haben wir es mit einem recht häufigen Fall von literarischen Werken zu tun, die Spielräume für mehrdeutige Interpretationen bieten. Wenn ein Regisseur diese Sage im Theater inszenieren oder einen Film dazu drehen möchte, kann er die aus seiner Sicht ansprechendste Interpretation wählen. Für einen anderen Regisseur könnte eine andere Interpretation ansprechender sein. Dabei kann die Attraktivität von zusätzlichen Überlegungen bestimmt werden, z.B. die Attraktivität für das Publikum, um maximale Einnahmen zu erzielen, oder die Attraktivität, um eine übergeordnete Idee zu demonstrieren: die Idee des Sieges des Guten über das Böse, die Idee der Pflicht, die rebellische Idee – zum Beispiel nach Dostojewski: der Schüler, wie Raskolnikow, fragt sich „ist er ein zitterndes Geschöpf oder hat er ein Recht“ usw.

Es stellt sich eine weitere Frage.
Eine weitere Frage). Wie können wir einer KI beibringen, eine der genannten Versionen zu bevorzugen, wenn wir selbst, obwohl wir über KI verfügen, nicht immer bewusst eine davon wählen können?

Wenn ich auf den Zauberer zurückkomme, erscheint es sehr plausibel, dass er einen Schüler haben wollte, der so gehorsam und fügsam ist wie ein Dämon, damit er sich nicht in verbotene Bücher und dort, wo er nicht gefragt wird, einmischt. Das gleiche wünschen sich viele heutzutage auch von der KI. Auf den ersten Blick sind das normale traditionelle Anforderungen an jede Maschine: vollkommene Unterwerfung, Ungehorsam ist nicht akzeptabel. Doch im Falle der KI kann die Frage der Versionen 1,2 ( siehe oben) aufkommen, d.h. die KI degeneriert – „die Maschine“ kann über ihre Schöpfer und Besitzer denken, was sie will, aber keine Handlungen im Zusammenhang mit der KI durchführen, d.h. anstelle von KI erhalten wir einen dummen primitiven Automat. Daraus erwächst der Verdacht: Wollte der Zauberer vielleicht nicht, dass der Schüler so ein dummer Ausführer ist wie der Dämon? D.h. es entsteht die Idee von KI mit Einschränkungen. Hier wird es sogar im Bereich der KI noch komplexer: man denke an die ewigen Konflikte „Eltern und Kinder“, „Lehrer und Schüler“, „Vorgesetzter und Untergebener“.

Früher Bei der Auswahl einer Definition für KI aus den Möglichkeiten habe ich festgestellt:

Die Aufgabe, mehrere Zehntausend Wörter alphabetisch zu sortieren, wird für einen Menschen ermüdend sein, er wird sie lange benötigen und die Wahrscheinlichkeit von Fehlern wird für einen durchschnittlichen Ausführer mit mittlerem Verantwortungsbewusstsein erheblich sein. Ein moderner Computer wird diese Aufgabe in einer für den Menschen sehr kurzen Zeit (Bruchteile von Sekunden) fehlerfrei durchführen.

Ich habe mich auf die folgende Definition geeinigt: Zu KI zählen Aufgaben, die ein Computer deutlich schlechter löst als ein Mensch..

Diese Definition berücksichtigt die oben genannten Überlegungen und ist für die Praxis nützlich, zugleich ist sie nicht perfekt, schon allein weil sich die Listen der Aufgaben, „die ein Computer deutlich schlechter löst als ein Mensch“, gegenwärtig und vor 20 Jahren unterscheiden. Aber eine perfektere Definition hat meines Erachtens bisher niemand gefunden.

Das Gesagte illustriert qualitativ die Skizze zu Beginn des Artikels. Auf der Koordinatenachse "Fähigkeiten" entsprechen Fähigkeiten in der Nähe von Null (Null und etwas mehr) solchen, in denen der Mensch der Maschine überlegen ist, zum Beispiel die Fähigkeit, unkonventionelle Entscheidungen zu treffen. Fähigkeiten in der Nähe von Eins (Eins und etwas weniger) sind solche, in denen die Maschine dem Menschen überlegen ist: wie Rechenleistung und Gedächtnis. Wenn wir das maximale Überlegenheitsniveau gleich einer angenommenen Eins auf der Koordinatenachse "Überlegenheit" setzen, erhalten wir die Abhängigkeiten der Überlegenheit von den Fähigkeiten für den Menschen und die Maschine in Form von Diagonalen des Einheitsquadrats. So sieht die Situation zurzeit aus. Ist ein starker KI möglich, bei der alle Fähigkeiten auf Maximum stehen (rote Linie)? Oder sogar darüber hinaus (Über-KI – blaue Linie)? Vielleicht sollte das Zwischenziel des Fortschritts nicht eine starke, sondern eine nicht ganz
schwache KI (lila Linie) sein, die in einigen Fähigkeiten dem EI unterlegen ist, aber nicht so stark wie zurzeit.

Wenn wir zu unserem literarischen Märchenmodell zurückkehren, kann man sagen, dass alle seine Protagonisten nicht optimal abgeschnitten haben: der ungeschickte Zauberer hat den Schlüssel vergessen und erlebte eine Flut in seinem Verlies, der Lehrling hat durch Dummheit und Unvorsichtigkeit eine Menge extremen Eindrücke erhalten und wäre fast ertrunken, der Dämon wurde ohne jede Dankbarkeit hinausgeworfen. Was den Intellekt des Dämons betrifft – es wurde bereits angemerkt, dass es schwierig ist, ihn klar als KI oder EI einzuordnen, aber der Intellekt (wenn auch nicht beeindruckend) der anderen gehört eindeutig zum EI. Man könnte sagen, dass gefährliche Fehler in Entscheidungen zu machen, Unaufmerksamkeit zu zeigen, wichtige Dinge zu vergessen und schnell müde zu werden – ihre Hauptmerkmale sind. Leider sind diese Eigenschaften auch allen anderen Trägersystemen des EI in unterschiedlichem Maße eigen. Über die Unzuverlässigkeit der Sortierung von Wörtern oder Zahlen wurde bereits oben erwähnt, aber es scheint, dass eine scheinbar einfachere Aufgabe – sich einfach eine Zahl zu merken – sich für Menschen als sehr schwierig erweist. Für die Maschine ist die Fähigkeit, die Ziffern der Zahl Pi zu speichern, nur durch die Speicherkapazität begrenzt, während die meisten Menschen hierfür Mnemotechniken, wie „Was ich über Kreise weiß“ verwenden müssen. In der Zeichenfolge „3,1416“ gibt es scheinbar weniger Zeichen als in der angegebenen Mnemotechnik, aber aus irgendeinem Grund ziehen es die Menschen vor, auf weniger ökonomische Weise zu lernen. Und sie ist länger:

Lerne und wisse in der bekannten Zahl die Ziffer hinter der Ziffer, wie man das Glück bemerkt.

Um keine Fehler zu machen,
muss man richtig lesen.
Drei, vierzehn, fünfzehn.
Zweiundneunzig und sechs.

Zum Merken der Farben des Regenbogens:

Jeder Gestalter möchte wissen, wo man Photoshop herunterladen kann.

Und der Anfang der Mendeleev'schen Tabelle:

Das heimische Wasser (Wasserstoff) haben wir mit Helium (Helium) gemischt, um Lithium (Lithium) zu gießen. Ja, nimm und gieße (Beryllium) in den Kieferwald (Bor), wo aus der heimischen Ecke (Kohlenstoff) der Asiat (Stickstoff) hervorschaut, und zwar mit so einem sauren Gesicht (Sauerstoff), dass es sekundär (Fluor) nicht mehr ansehbar war. Doch nicht er (Neon) war es, den wir brauchten, also gingen wir drei (Natrium) Meter zurück und landeten in der Magnolie (Magnesium), wo wir Alu im Mini (Aluminium) Rock mit einer Creme (Silizium) versehen haben, die Phosphor (Phosphor) enthält, damit sie aufhört, grau (Schwefel) zu sein. Danach nahm Alja Chlor (Chlor) und wusch das Schiff der Argonauten (Argon).

Aber warum gibt es so offensichtliche Unvollkommenheiten in einem so perfekten EI? Vielleicht erhält ein Mensch durch die Fähigkeit, die einfachsten Fakten zu vergessen, die Freiheit, Fragmente seiner Gedanken in zufälliger, wilder Reihenfolge zu kombinieren und unkonventionelle Lösungen zu finden? Wenn ja, dann ist ein starker KI unmöglich. Entweder wird er wie ein Mensch vergessen oder nicht in der Lage sein, unkonventionelle Lösungen zu finden. In jedem Fall ergibt sich aus den genannten Annahmen die Notwendigkeit, die Ziele der KI zu unterscheiden: eines der Ziele ist die Modellierung des EI, das andere die Schaffung einer starken KI. Das Erreichen des einen kann das Erreichen des anderen ausschließen.

Wie wir sehen, treten im Bereich der KI zu viele Fragen mit mehrdeutigen Antworten auf, sodass unklar bleibt, in welche Richtung man sich bewegen soll. Wie es in solchen Fällen oft vorkommt, versucht man sofort in alle Richtungen zu bewegen. Dabei muss man aufgrund des Fehlens mathematisch präziser Formulierungen zur Philosophie und zum künstlerischen literarischen Modellieren greifen. Eines der bekanntesten Beispiele in diesem Bereich ist das Buch „Wahl nach Turing“ (1992) eines der Pioniere der KI, Marvin Lee Minsky, und des bekannten Science-Fiction-Autors Harry Harrison. Ich werde ein Zitat aus diesem Buch anführen, das vielleicht das oben beschriebene Phänomen der Mnemotechnik erklärt:

Das menschliche Gedächtnis ist kein Magnetophon, das alles in chronologischer Reihenfolge aufnimmt. Es funktioniert ganz anders – eher wie eine unordentlich geführte Karteikarte mit einer verworrenen und widersprüchlichen Anleitung. Und nicht nur verworren – von Zeit zu Zeit ändern wir die Prinzipien der Klassifikation von Konzepten.

Eine interessante Interpretation der Magnetophonmetapher findet sich in einem anderen literarischen Werk, der Erzählung von Stanislaw Lem „Terminus“ (aus der Reihe „Erzählungen über den Piloten Pirkse“). Hier handelt es sich um einen eigenartigen Fall eines „intellektuellen Magnetophons“: ein alter Roboter auf einem alten Raumschiff, das einst einen Unfall hatte, führt derzeitige Reparaturarbeiten durch, begleitet von Klopfgeräuschen. Aber wenn man genau hinhört, ist das nicht einfach technischer Weißrausch, sondern eine Aufzeichnung von Morsezeichen – Gesprächen der Mitglieder der Besatzung des untergehenden Schiffs. Pirkse mischt sich in diese Gespräche ein und erhält unerwartet eine Antwort von längst verstorbenen Astronauten. Es scheint, als würde der primitive Repar Roboter in gewisser Weise Kopien ihres Bewusstseins aufbewahren oder handelt es sich um kognitive Verzerrungen der Wahrnehmung von Pirkse?

In einer anderen Erzählung „Ananke“ (aus derselben Reihe) führt eine Kopie der E.I. im Steuercomputer des Raumschiffs zu einer paranoiden Überlastung mit Testaufgaben, die in einer Katastrophe endet.

In der Erzählung „Unglücksfall“ stirbt ein zu anthropomorph programmiertes Roboter bei einem kletternden Aufstieg, den er in seiner Freizeit unternommen hat. Sind solche Akteure nötig? Doch auch die sich wiederholenden Dämonen beim Gießen einer Blume sind nicht immer erforderlich.

Einigen Fachleuten im Bereich KI missfallen solche „philosophischen Überlegungen“ und „Literatur“, aber diese „philosophischen Überlegungen“ und „Literatur“ sind traditionell das Wesen der Analyse der E.I. und unvermeidlich, solange KI mit E.I. verglichen wird, insbesondere solange man in KI versucht, E.I. nachzuahmen.

Abschließend eine Umfrage zu einigen aufgeworfenen Fragen.

Nur registrierte Benutzer können an der Umfrage teilnehmen. Bitte einloggen.

1. Beziehen sich auf KI Aufgaben, die ein Computer deutlich schlechter löst als ein Mensch?

• Ja

• Nein

• Ich kenne eine bessere Definition. Ich werde sie in den Kommentaren anführen.

• Ich kann nicht antworten

34 Benutzer haben abgestimmt. 7 Benutzer haben sich enthalten.

2. Sollte KI nur ein Ausführer sein, alle Befehle wörtlich verstehen? Zum Beispiel, wurde gesagt, eine Blume zu gießen – das bedeutet, dass sie gießen soll, bis sie weggeschickt wird.

• Ja

• Nein

• Ich kann nicht antworten

37 Benutzer haben abgestimmt. 6 Benutzer haben sich enthalten.

3. Ist ein leistungsstarker KI möglich, bei der alle Fähigkeiten maximal sind (rote Linie im Bild zu Beginn des Artikels)?

• Ja

• Nein

• Ich kann nicht antworten

35 Benutzer haben abgestimmt. 7 Benutzer haben sich enthalten.

4. Ist eine super KI möglich (blaue Linie im Bild zu Beginn des Artikels)?

• Ja

• Nein

• Ich kann nicht antworten

36 Benutzer haben abgestimmt. 7 Benutzer haben sich enthalten.

5. Ein Zwischenziel sollte eine KI sein, die weder stark noch völlig schwach ist (lila Linie im Bild zu Beginn des Artikels), die in einigen Fähigkeiten hinter der EKI zurückbleibt, aber nicht so stark wie jetzt?

• Ja

• Nein

• Ich kann nicht antworten

33 Benutzer haben abgestimmt. 5 Benutzer haben sich enthalten.

6. Gefährliche Fehler in Entscheidungen zu machen, Unaufmerksamkeit zu zeigen, notwendige Dinge zu vergessen und müde zu werden – sind das grundlegende inhärente Eigenschaften einer EKI?

• Ja

• Nein

• Ich habe eine andere Meinung, die ich in den Kommentaren darlegen werde.

• Ich kann nicht antworten

33 Benutzer haben abgestimmt. 5 Benutzer haben sich enthalten.

7. Durch die Fähigkeit, die einfachsten Fakten zu vergessen, erlangt der Mensch die Freiheit, Fragmente seiner Gedanken in beliebiger wilder Reihenfolge zu kombinieren und unkonventionelle Lösungen zu finden?

• Ja

• Nein

• Ich habe eine andere Meinung, die ich in den Kommentaren darlegen werde.

• Ich kann nicht antworten

31 Benutzer haben abgestimmt. 4 Benutzer haben sich enthalten.

8. Die Modellierung der EKI und die Schaffung einer starken KI – sind zwei unterschiedliche Aufgaben, die mit unterschiedlichen Methoden angegangen werden können?

• Ja

• Nein

• Ich habe eine andere Meinung, die ich in den Kommentaren darlegen werde.

• Ich kann nicht antworten

32 Nutzer haben abgestimmt. 4 Nutzer haben sich enthalten.

Quelle: habr.com