Welcher Schüler wird von einem Zauberer gebraucht und welche KI benötigen wir?

WARNUNG
Den Anzeichen nach, dass das Verhältnis von unzufriedenen Lesern, die keine Stimme erheben, zu Kommentatoren mit Einwänden rekordhoch ist, ist vielen Lesern nicht klar, dass:
1) Dies ist ein rein theoretischer Diskussionsartikel. Hier werden keine praktischen Empfehlungen zur Auswahl von Werkzeugen für das Mining von Kryptowährungen oder zum Zusammenstellen eines Multivibrators gegeben, um zwei Lampen blinken zu lassen.
2) Dies ist kein populärwissenschaftlicher Artikel. Hier wird kein einfaches Erklärungsmodell für den Turing-Maschinen-Prinzip anhand von Streichholzschachteln präsentiert.
3) Überlegen Sie gut, bevor Sie weiter lesen! Fasziniert Sie die Rolle des aggressiven Laien: Alles, was ich nicht verstehe, abwählen?
Ich danke im Voraus allen, die sich entscheiden, diesen Artikel nicht zu lesen!

Ein Dämon ist ein Computerprogramm in UNIX-basierten Systemen, das von der System selbst gestartet wird und im Hintergrund läuft, ohne direkt mit dem Benutzer zu interagieren.

Wikipedia

Noch im Vorschulalter hörte ich ein Märchen über einen Schülers eines Zauberers. Ich werde es in meiner eigenen Erzählweise wiederholen:

Einst lebte irgendwo in Europa im Mittelalter ein Magier. Er hatte ein großes Zauberbuch, gebunden in schwarzem Kalbsleder mit Eisenschlössern und -ecken. Wenn der Magier einen Zauberspruch lesen wollte, öffnete er es mit einem großen eisernen Schlüssel, den er immer in einer speziellen Tasche an seinem Gürtel trug. Der Magier hatte auch einen Schüler, der ihm diente, ihm aber verboten war, in das Zauberbuch zu schauen.

Eines Tages fuhr ein Magier den ganzen Tag geschäftlich weg. Kaum war er aus dem Haus gegangen, stürzte sich der Lehrling in das Verlies, wo sich das alchemistische Labor befand, in dem ein Zauberbuch lag, mit Ketten an den Tisch gefesselt. Der Lehrling schnappte sich die Tiegel, in denen der Magier Blei schmolz, um es in Gold zu verwandeln, stellte sie auf die Feuerstelle und blies das Feuer an. Das Blei schmolz schnell, verwandelte sich aber nicht in Gold. Dann erinnerte sich der Lehrling daran, dass der Magier das Buch jedes Mal mit einem Schlüssel aufschloss, wenn er das Blei schmolz, und lange einen Zauber aus diesem Buch murmelte. Verzweifelt schaute der Lehrling auf das verschlossene Buch und bemerkte, dass neben ihm ein Schlüssel lag, den der Magier vergessen hatte. Daraufhin rannte er zum Tisch, schloss das Buch auf, öffnete es und las laut die erste Zauberformel, sorgsam die unbekannten Wörter silbenweise aussprechend, in der Annahme, dass ein so wichtiges Zauberwort wie der Zauber zur Transmutation von Blei in Gold sicherlich das erste sein würde.

Aber es geschah nichts: Das Blei wollte sich nicht verwandeln. Der Schüler wollte einen anderen Zauberspruch ausprobieren, aber da ertönte ein Donner, der das Haus erschütterte, und vor dem Schüler erschien ein riesiger, furchterregender Dämon, beschworen durch den Zauber, den der Schüler gerade ausgesprochen hatte.
— Befehle! — knurrte der Dämon.
Vor Angst verließen alle Gedanken den Kopf des Schülers, er konnte sich nicht einmal bewegen.
— Befehle, oder ich werde dich fressen! — knurrte der Dämon erneut und streckte seine riesige Hand nach dem Schüler aus, um ihn zu packen.
In seiner Verzweiflung murmelte der Schüler das Erste, was ihm einfiel:
— Gieß diese Blume.
Und zeigte auf das Pelargonium, dessen Topf in der Ecke des Labors auf dem Boden stand. In der Decke über der Blume befand sich das einzige kleine Fenster im Keller, durch das das Sonnenlicht kaum hindurchdrang. Der Dämon verschwand, kam aber im nächsten Moment mit einem riesigen Wasserfass zurück, das er über der Blume umdrehte und das Wasser ausgoss. Er verschwand wieder und tauchte erneut mit einem vollen Fass auf.
— Genug, — schrie der Schüler und stand bereits bis zur Taille im Wasser.
Aber anscheinend war der Wunsch allein nicht genug – der Dämon schleppe und schleppe Wasser in einem Fass und goss es in die Ecke, wo einmal eine unter Wasser versteckte Blume stand. Wahrscheinlich hätte es einen speziellen Zauber gebraucht, um den Dämon zu vertreiben. Aber der Tisch mit dem Buch war bereits im trüben Wasser verschwunden, in dem Asche, Kohlen aus dem Feuer, leere Retorten, Kolben, Hocker, Galvanometer, Dosimeter, Einwegspritzen und anderer Müll schwammen. So hätte der Schüler, selbst wenn er gewusst hätte, wie man den richtigen Zauber findet, es nicht tun können. Das Wasser stieg und der Schüler kletterte auf den Tisch, um nicht zu ertrinken. Aber das half nur für kurze Zeit – der Dämon machte methodisch weiter mit dem Wasserschleppen. Der Schüler stand bereits bis zum Hals im Wasser, als der Zauberer zurückkam, entdeckte, dass er den Schlüssel zum Buch zu Hause vergessen hatte, und vertrieb den Dämon. Ende der Geschichte.

Lassen Sie uns sofort über das Offensichtliche sprechen. Mit der natürlichen Intelligenz (NI) des Schülers scheint alles klar zu sein – ein Dussel, und noch dümmer muss man lange suchen. Aber was ist mit der Intelligenz des Dämons – übrigens, welche hat er: NI oder KI? – das ist unklar. Verschiedene Versionen sind gerechtfertigt (und dazu werden noch Fragen auftauchen):

Version 1) Der Dämon ist sogar dümmer als der Schüler. Er erhielt einen Befehl und wird ihn endlos ausführen, selbst wenn jeder Sinn verloren geht: die Blume, die bewässert werden soll, verschwindet, der Punkt, an dem die Koordinaten der Blume festgelegt sind, verschwindet, der Planet Erde verschwindet, und der dumme Dämon wird weiterhin Wasser in einen bestimmten Punkt des Weltraums bringen. Wenn an diesem Punkt eine Supernova ausbricht, ist es dem Dämon egal, wohin er das Wasser bringt. Noch schlimmer: wie dumm muss man sein, um eine kleine Blume mit einem riesigen Fass zu gießen. Das ist nicht mehr das Gießen der Blume, sondern das Ertränken der Blume. Versteht er überhaupt den Sinn der Befehle?

Version 2) Der Dämon versteht alles, ist aber an Verpflichtungen gebunden. Daher führt er etwas wie einen italienischen Streik durch. Solange er nicht offiziell nach allen Regeln entlassen wird, wird er nicht aufhören.

Frage 1 zu den Versionen 1,2) Wie unterscheidet man einen völlig dummen Dämon nach Version 1 von einem völlig nicht dummen nach Version 2?
Frage 2 zu den Versionen 1,2) Würde der Dämon eine genauere Formulierung aus der Sicht des Schülers richtig ausführen? Zum Beispiel, wenn der Schüler gesagt hätte: Nimm den leeren Literkolben, der im Regal steht, fülle ihn mit Wasser und gieße die Blume einmal. Oder, wenn der Schüler gesagt hätte: Geh weg.

Version 3) Der Zauberer hat dem Dämon zusätzlich einen Fluch auferlegt, der besagt, dass der Dämon sofort den Zauberer informieren muss, wenn jemand außer dem Zauberer die Dienste des Dämons in Anspruch nimmt.

Version 4) Der Dämon hegt keinen Groll gegen den Zauberer und seinen Schüler. Deshalb, als er sieht, dass die Situation außer Kontrolle geraten ist, erscheint er hinter dem Zauberer mit dem Fass und ruft: "Du hast den Schlüssel zu Hause vergessen, da steht das Wasser hoch." Und der Zauberer hätte sich selbst nicht daran erinnert.

Anmerkung 1 zu Version 4) Es ist besonders zu beachten, dass die Träger der EI (Erweiterte Intelligenz) in der Regel eine nicht ganz perfekte Gedächtnis haben.

Die Versionen können weiter vermehrt werden, wie „Fibonacci-Kanickel“, d.h. mit einem nicht sehr komplizierten Algorithmus. Zum Beispiel:
Version 5) Der Dämon rächt sich am Schüler für die Besorgnis.
Version 6) Der Dämon hegt keinen Groll gegen den Schüler, rächt sich jedoch am Zauberer.
Version 6) Der Dämon rächt sich allen.
Version 7) Der Dämon rächt sich nicht, sondern amüsiert sich. Er wird aufhören, wenn es ihm langweilig wird.
Und so weiter.

Nun, beim Dämon ist klar, dass nichts klar ist. Es ist nicht besser beim Zauberer. Man kann mindestens so viele Versionen erdenken: dass er absichtlich den Schüler bestrafen wollte, der überall seine neugierige Nase hineinsteckt; dass er den Schüler ertränken wollte, aber als der Dämon über die Flut brüllte, hatte er Angst — plötzlich könnte jemand vorbeikommendes hören, dann würde der Verdacht auf den Zauberer fallen; er wollte das Interesse des Schülers an Zaubersprüchen wecken usw.

Hier stellt sich die kindliche Frage: Welche der angebotenen Versionen ist richtig? Offensichtlich jede. In der Geschichte bleibt keine ungenutzte Information zurück, um eine der Versionen den anderen vorzuziehen. Hier haben wir es mit einem recht häufigen Fall von literarischen Werken zu tun, die mehrere Interpretationen zulassen. Wenn beispielsweise ein Regisseur diese Geschichte ins Theater bringen oder einen Film darüber drehen möchte, kann er die für ihn ansprechendste Interpretation wählen. Für einen anderen Regisseur könnte eine andere Interpretation ansprechender sein. Dabei kann die Attraktivität durch zusätzliche Überlegungen bestimmt werden, zum Beispiel durch die Anziehungskraft auf das Publikum, um maximale Einnahmen zu erzielen, oder durch die Darbietung einer übergeordneten Idee: der Idee des Sieges von Gut über Böse, der Idee der Pflicht, der rebellischen Idee – wie bei Dostojewski: der Schüler, ähnlich wie Raskolnikow, stellt sich die Frage: "Ist er ein zitterndes Wesen oder hat er Recht?" etc.

Es stellt sich eine weitere Frage.
Eine weitere Frage: Wie können wir KI dazu bringen, eine der genannten Versionen zu bevorzugen, wenn wir selbst, selbst mit KI, nicht immer bewusst eine von ihnen wählen können?

Bezüglich des Zauberers erscheint es sehr plausibel, dass er einen gehorsamen und folgsamen Schüler wollte, der nicht seinen Kopf in verbotene Bücher und dorthin steckt, wo er nicht gefragt wird. Das Gleiche wird oft auch von KI verlangt. Auf den ersten Blick erscheinen dies als normale traditionelle Anforderungen an jede Maschine: vollständige Unterwerfung, Ungehorsam ist nicht akzeptabel. Aber im Fall der KI könnte die Frage nach den Versionen 1 und 2 (siehe oben) aufkommen, das heißt, dass KI degeneriert — die „Eisenmaschine“ kann alles Mögliche über ihre Schöpfer und Besitzer denken, aber sie wird keine Handlungen im Zusammenhang mit KI ausführen, d.h. anstelle von KI erhalten wir einen dummen primitiven Automaten. Daraus entsteht der Verdacht: Vielleicht wollte der Zauberer seinen Schüler nicht so dumm ausführen lassen wie einen Dämon? Das heißt, die Idee einer KI mit Einschränkungen kommt auf. Hier wird es noch komplizierter, sogar im Bereich der KI: man denke an die ewigen Konflikte zwischen "Vätern und Söhnen", "Lehrer und Schüler", "Vorgesetzten und Untergebenen".

Früher Bei der Auswahl der KI-Definition habe ich Folgendes festgestellt:

Es ist für einen Menschen mühsam, mehrere zehntausend Wörter alphabetisch zu sortieren. Diese Aufgabe dauert lange und die Fehlerquote für einen durchschnittlichen Ausführenden mit durchschnittlicher Verantwortung wird erheblich sein. Ein moderner Computer erledigt diese Aufgabe fehlerfrei in sehr kurzer Zeit (Bruchteile einer Sekunde).

Ich habe mich auf folgende Definition festgelegt: Zur KI gehören Aufgaben, die ein Computer deutlich schlechter löst als ein Mensch..

Diese Definition berücksichtigt die oben genannten Überlegungen und ist für die Praxis praktisch, ist jedoch nicht perfekt, allein schon weil die Listen von Aufgaben, "die ein Computer deutlich schlechter löst als ein Mensch", heutzutage und vor 20 Jahren unterschiedlich sind. Aber ich denke, dass bisher niemand eine bessere Definition gefunden hat.

Das Gesagte illustriert anschaulich das Diagramm zu Beginn des Artikels. Auf der Achse "Fähigkeiten" entsprechen die Fähigkeiten im Bereich null (null und etwas mehr) jenen, in denen der Mensch den Computer übertrifft, beispielsweise die Fähigkeit, unkonventionelle Entscheidungen zu treffen. Fähigkeiten im Bereich eins (eins und etwas weniger) stehen für die Fähigkeiten, in denen der Computer den Menschen übertrifft: die Fähigkeit zum Rechnen und das Gedächtnis. Wenn wir das maximale Überlegenheitsniveau als einheitlich auf der Achse "Überlegenheit" annehmen, erhalten wir die Abhängigkeit der Überlegenheit von den Fähigkeiten für Mensch und Computer in Form von Diagonalen des Einheitsquadrats. So präsentiert sich die Situation momentan. Ist ein starker KI möglich, der in allen Fähigkeiten maximal ist (rote Linie)? Oder sogar darüber hinaus (Über-KI – blaue Linie)? Vielleicht sollte ein Zwischenziel des Fortschritts ein schwacher KI (violette Linie) sein, der in einigen Fähigkeiten dem starken KI unterlegen ist, jedoch nicht so stark wie momentan.
schwacher KI (lila Linie), die in einer Reihe von Fähigkeiten hinter EI zurückbleiben wird, aber nicht so stark wie jetzt.

In Bezug auf unser literarisches Märchenmodell lässt sich sagen, dass alle seine Helden nicht besonders gut abgeschnitten haben: der tollpatschige Zauberer hat den Schlüssel vergessen und erlebte eine Überschwemmung in seinem Verlies, der Schüler hat durch Dummheit und Unvorsichtigkeit eine Menge extremer Erfahrungen gemacht und wäre fast ertrunken, der Dämon wurde ohne jegliche Dankbarkeit herausgeworfen. Was die Intelligenz des Dämons betrifft, so wurde bereits festgestellt, dass es schwierig ist, sie eindeutig als KI oder EI zu klassifizieren, aber die Intelligenz (wenn auch nicht beeindruckend) der anderen gehört eindeutig zur EI. Man kann über sie sagen, dass sie gefährliche Fehler bei Entscheidungen machen, Unaufmerksamkeit zeigen, nötige Dinge vergessen und müde werden – dies sind ihre grundlegendsten unverzichtbaren Eigenschaften. Leider sind diese Eigenschaften auch allen anderen Trägern von EI in größerem oder geringerem Maße eigen. Wie bereits erwähnt, ist die Zuverlässigkeit der Sortierung von Wörtern oder Zahlen durch EI problematisch, aber eine scheinbar einfachere Aufgabe – sich einfach eine Zahl zu merken – erweist sich als sehr kompliziert für Menschen. Für die Maschine ist die Fähigkeit, die Ziffern der Zahl Pi zu speichern, nur durch die Größe des Speichers begrenzt, während die meisten Menschen dafür mnemonics, wie "Was ich über Zyklen weiß". Auf den ersten Blick scheint die Zeichenanzahl in "3,1416" geringer zu sein als in der angegebenen Eselsbrücke, aber aus irgendeinem Grund ziehen es die Menschen vor, auf weniger ökonomische Weise zu lernen. Und es ist länger:

Lerne und merke dir in der bekannten Zahl die Ziffer hinter der Ziffer, um das Glück zu erkennen.

Damit wir uns nicht irren,
müssen wir richtig lesen:
Drei, vierzehn, fünfzehn,
Zweiundneunzig und sechs.

Um die Farben des Regenbogens zu merken:

Jeder Designer möchte wissen, wo man Photoshop herunterladen kann.

Und der Beginn der chemischen Tabelle:

Wir haben unser heimisches Wasser (Wasserstoff) mit Helium (Helium) gemischt, um Lithium (Lithium) zu gießen. Ja, Nimm und gieße (Beryllium) im Kieferwald (Boron), wo aus der heimischen Ecke (Kohlenstoff) der Asiate (Stickstoff) hervorlugt, und zwar mit so einem säuerlichen Gesicht (Sauerstoff), dass ich (Fluor) nicht hinsehen wollte. Aber Neon (Neon) war nicht das, was wir brauchten, also gingen wir drei (Natrium) Meter zurück und landeten in der Magnolie (Magnesium), wo wir Aluminium (Aluminium) in einen Minirock mit Silizium (Silizium) eincremten, das Phosphor (Phosphor) enthält, damit sie nicht mehr grau (Schwefel) ist. Danach nahm Alja Chlor (Chlor) und wusch das Schiff der Argonauten (Argon).

Aber warum gibt es so offensichtliche Unvollkommenheiten in einem so perfekten EI? Vielleicht erhält der Mensch durch die Fähigkeit, die einfachsten Fakten zu vergessen, die Freiheit, Fragmente seiner Gedanken in willkürlicher, wilder Reihenfolge zu kombinieren und unkonventionelle Lösungen zu finden? Wenn das der Fall ist, dann ist starker KI unmöglich. Entweder wird sie wie ein Mensch vergessen oder sie wird nicht in der Lage sein, unkonventionelle Lösungen zu finden. In jedem Fall ergibt sich aus den genannten Annahmen die Notwendigkeit, die Ziele von KI zu unterscheiden: Eines der Ziele ist das Modellieren von EI, ein anderes die Schaffung von starker KI. Das Erreichen des einen kann das Erreichen des anderen ausschließen.

Wie wir sehen, entstehen im Bereich der KI zu viele Fragen mit mehrdeutigen Antworten, sodass unklar bleibt, in welche Richtung man sich bewegen soll. Wie es in solchen Fällen üblich ist, versucht man, in alle Richtungen gleichzeitig zu gehen. Dabei muss man aufgrund des Fehlens mathematisch strenger Formulierungen auf Philosophie und künstlerisch-literarische Modellierung zurückgreifen. Ein bekanntes Beispiel in diesem Bereich ist das Buch "Die Wahl nach Turing" (1992) von einem der Vorreiter der KI, Marvin Lee Minsky, und dem bekannten Science-Fiction-Autor Harry Harrison. Ich möchte ein Zitat aus diesem Buch anführen, das das oben beschriebene Phänomen der Mnemotechnik möglicherweise erläutert:

Das menschliche Gedächtnis ist kein Kassettenrekorder, der alles chronologisch aufzeichnet. Es funktioniert ganz anders — eher wie eine unordentlich geführte Akte mit einem verworrenen und widersprüchlichen Verzeichnis. Und nicht nur verworren — gelegentlich ändern wir die Prinzipien zur Klassifizierung von Begriffen.

Eine interessante Interpretation des Magnetofonmetaphern in einem anderen literarischen Werk, der Erzählung von Stanisław Lem "Terminus" (aus der Serie "Geschichten über Piloten Pirx"). Hier geht es um einen ungewöhnlichen Fall eines "intellektuellen Magnetofons": ein alter Roboter auf einem alten Raumschiff, das einst verunglückte, führt laufende Reparaturarbeiten aus, die von Klopfgeräuschen begleitet werden. Doch wenn man genau hinhört, ist dies nicht einfach nur technologischer Weißrausch, sondern eine Aufnahme von Morsezeichen — den Gesprächen der Crewmitglieder des untergehenden Schiffs. Pirx greift in diese Gespräche ein und erhält unerwartet eine Antwort von längst verstorbenen Kosmonauten. Es stellt sich heraus, dass der primitive Reparaturroboter in gewisser Weise Kopien ihres Bewusstseins speichert oder handelt es sich um kognitive Verzerrungen in der Wahrnehmung von Piloten Pirx?

In einer anderen Erzählung "Ananke" (aus derselben Serie) führt die KI-Kopie im Steuercomputer des Raumtransports zu einer paranoiden Überlastung mit Testaufgaben, die in einer Katastrophe endet.

In der Geschichte "Der Unglücksfall" stirbt ein zu anthropomorph programmierten Roboter während eines Bergsteigens, das er in seiner Freizeit unternimmt. Sind solche Akteure wirklich nötig? Aber auch die wiederholend auf das Gießen einer Blume fixierten Dämonen sind nicht immer notwendig.

Einigen Fachleuten im Bereich KI missfallen solche "philosophischen" und "literarischen" Diskussionen, jedoch sind diese "philosophischen" und "literarischen" Ansätze traditionell einem KI-Analyse zuzurechnen und unvermeidlich, solange KI mit menschlicher Intelligenz verglichen wird, insbesondere solange menschenähnliche Qualitäten in der KI nachgeahmt werden.

Abschließend erfolgt eine Umfrage zu einer Reihe von aufgeworfenen Fragen.

Nur registrierte Benutzer können an der Umfrage teilnehmen. Bitte melden Sie sich an.Sind Sie an Contour interessiert?

1. Gehören zu KI Aufgaben, die ein Computer deutlich schlechter als ein Mensch bewältigt?

• Ja

• Nein

• Ich kenne eine bessere Definition. Ich werde sie in den Kommentaren anführen.

• Ich kann nicht antworten

34 Benutzer haben abgestimmt. 7 Benutzer haben sich enthalten.

2. Soll KI nur ein ausführendes Organ sein, alle Befehle wörtlich verstehen? Zum Beispiel, wenn gesagt wird, dass die Blume gegossen werden soll – dann muss sie so lange gegossen werden, bis man darüber aufgeklärt wird.

• Ja

• Nein

• Ich kann nicht antworten

37 Benutzer haben abgestimmt. 6 Benutzer haben sich enthalten.

3. Ist starker KI möglich, bei dem alle Fähigkeiten maximal sind (rote Linie in der Abbildung zu Beginn des Artikels)?

• Ja

• Nein

• Ich kann nicht antworten

35 Benutzer haben abgestimmt. 7 Benutzer haben sich enthalten.

4. Ist überlegene KI möglich (blaue Linie im Bild zu Beginn des Artikels)?

• Ja

• Nein

• Ich kann nicht antworten

36 Benutzer haben abgestimmt. 7 Benutzer haben sich enthalten.

5. Sollte das Zwischenziel eine KI sein, die nicht stark, aber auch nicht völlig schwach ist (lila Linie im Bild zu Beginn des Artikels), die in einer Reihe von Fähigkeiten hinter EI zurückbleiben wird, aber nicht so stark wie jetzt?

• Ja

• Nein

• Ich kann nicht antworten

33 Benutzer haben abgestimmt. 5 Benutzer haben sich enthalten.

6. Gefährliche Fehler bei Entscheidungen zu machen, Nachlässigkeit zu zeigen, notwendige Dinge zu vergessen und ermüden – sind das die wichtigsten unverzichtbaren Eigenschaften von EI?

• Ja

• Nein

• Ich habe eine andere Meinung, die ich in den Kommentaren darlegen werde.

• Ich kann nicht antworten

33 Benutzer haben abgestimmt. 5 Benutzer haben sich enthalten.

7. Dank der Fähigkeit, die einfachsten Fakten zu vergessen, erhält der Mensch die Freiheit, Fragmente seiner Gedanken in beliebiger wilder Reihenfolge zu kombinieren und unkonventionelle Lösungen zu finden?

• Ja

• Nein

• Ich habe eine andere Meinung, die ich in den Kommentaren darlegen werde.

• Ich kann nicht antworten

31 Benutzer haben abgestimmt. 4 Benutzer haben sich enthalten.

8. Das Modellieren von EI und das Erstellen einer starken KI sind zwei verschiedene Aufgaben, die mit unterschiedlichen Methoden gelöst werden können?

• Ja

• Nein

• Ich habe eine andere Meinung, die ich in den Kommentaren darlegen werde.

• Ich kann nicht antworten

32 Benutzer haben abgestimmt. 4 Benutzer haben sich enthalten.

Quelle: habr.com