Die Geschichte eines hypothetischen Roboters

В letzter Artikel Ich habe den zweiten Teil leichtfertig angekündigt, zumal es den Anschein hatte, als ob das Material bereits vorhanden und sogar teilweise fertig sei. Doch alles erwies sich als etwas komplizierter als auf den ersten Blick. Das lag teils an den Diskussionen in den Kommentaren, teils an der mangelnden Klarheit bei der Darstellung von Gedanken, die mir verdammt wichtig erscheinen... Wir können sagen, dass meinem inneren Kritiker bisher der Stoff nicht entgangen ist! )

Für dieses „Opus“ machte er jedoch eine Ausnahme. Da der Text in der Regel rein künstlerischer Natur ist, verpflichtet er Sie zu nichts. Ich denke jedoch, dass es möglich sein wird, daraus einige nützliche Schlussfolgerungen zu ziehen. Es ist wie das Format eines Gleichnisses: eine lehrreiche Geschichte, die nicht unbedingt in der Realität passiert, die zum Nachdenken anregt. Nun ja... Man muss es erzwingen. 😉 Wenn das Gleichnis gut ist!

So ...

Ich erzähle Ihnen die Geschichte eines Roboters. Sein Name war... sagen wir Klinney. Er war ein gewöhnlicher Reinigungsroboter. Allerdings nicht ganz gewöhnlich: Seine KI war eine der ersten, die auf Basis von Prozessmodellierung aufgebaut wurde. Er hat geputzt... Lass es einen Korridor geben. Ein durchschnittlich großer Flur in... einem Büroraum. Nun, er musste es aufräumen. Müll sammeln.

Daher war der Korridor in seinem Weltmodell sauber. Tatsächlich handelt es sich nicht einmal um einen Korridor, sondern um eine Grundfläche, aber das sind Details. Sie fragen sich vielleicht: Was bedeutet „sauber“? Nun, das bedeutet, dass es auf der Bodenebene keine Objekte geben sollte, die kleiner als eine bestimmte Größe sind, basierend auf der Summe der linearen Parameter. Ja, Klinney war in der Lage, Objekte von ziemlich großen Objekten wie einem zerknitterten Stück Papier bis hin zu Staub und Flecken zu identifizieren. Sein Modell beinhaltete einen Bewegungsprozess im Raum und er wusste, dass er die Realität mit dem Modell in Einklang bringen konnte, indem er sich dorthin bewegte, wo sich der Müll befand, und ein Reinigungsprogramm startete, da sich im Modell kein Müll befand und das Modell und das Modell angepasst wurden Die Realität ist die wichtigste und einzige Aufgabe des Systems Prozessmodellierung.

Als Klinney zum ersten Mal die Realität erkannte, war das Modell der Welt noch nicht ... vollständig. Innerhalb der Reichweite der Sensoren entsprach die Realität (natürlich nach einiger Zeit) dem Modell. Allerdings könnte es noch etwas anderes geben, wo die Sensoren nicht hinkamen, was aber nicht im Modell vorlag. Die Inkonsistenz der Modelle ist das Motiv, das das SPM zum Handeln veranlasst. Und Klinney begann seine erste Reise.

Sein Weg war nicht der bestmögliche: Klinney war einer der ersten SPM und für seine Schöpfer war es wichtig zu verstehen, wie das System funktioniert, ohne Algorithmen zu optimieren, oder besser gesagt, sie wollten wissen: Wird es ihnen auf natürliche Weise einfallen und wenn ja, wie schnell? Aber chaotisch kann man es auch nicht nennen. Zunächst fuhr Klinney einfach vorwärts. Und er bewegte sich so lange wie möglich geradeaus. Und dann - er ging einfach dorthin, wo Unsicherheit herrschte, nämlich die Ebene des Bodens wurde nicht durch die Wand begrenzt.

Zu Beginn meiner Geschichte habe ich erwähnt, dass der Boden in Klinneys Modell sauber war ... Ein nachdenklicher Leser könnte sich jedoch fragen: Wie war der Boden sauber, wenn es zunächst überhaupt keinen Boden gab?

Darin besteht kein so offensichtlicher Widerspruch. SPM unterstützt verschiedene Abstraktionsebenen, und dieser Moment kann ungefähr wie folgt beschrieben werden: Er verstand, dass es im Allgemeinen einen Boden gibt (jede relativ horizontale Oberfläche, die für Bewegungen zugänglich ist), und wenn es irgendwo einen bestimmten Boden gibt, dann ist er sauber!

Klinnys Welt erwies sich jedoch tatsächlich als ideal: Nachdem Klinny das gesamte verfügbare Raumvolumen untersucht hatte, war er überzeugt, dass es keinen Müll gab, und schaltete ab.

Manchmal wachte Klinney auf und scannte seine Umgebung. Die Welt blieb ideal und entsprach genau dem Vorbild. Manchmal bewegte er sich ein wenig in die eine oder andere Richtung – ohne Zweck, es waren eher reflexartige Handlungen (eigentlich Hilfsmittel zur motorischen Selbstprüfung). Es dauerte ziemlich lange, bis Klinney das Gefühl hatte, dass etwas nicht stimmte: Die Welt war nicht mehr ideal.

Irgendwo rechts, fast an der Grenze der Sensorempfindlichkeit, war eine leichte Störung erkennbar... es könnte sein... Klinney bewegte sich nach rechts und seine schlimmsten Vermutungen wurden bestätigt: Es war Müll! Klinny bewegte sich auf das Ziel zu und bereitete sich darauf vor, den Reinigungsmodus einzuschalten, als er plötzlich erstarrte: Ein weiterer Müllklumpen fiel in den Sensorradius. Die Analyse des Weltmodells ergab, dass sich Klinni im Moment der Entdeckung der ersten Trümmer etwas zur Seite bewegte. Bedeutet das, dass seine Handlungen zur Entstehung von Müll führen? Aber er zog um, als er die Welt studierte, und der Müll tauchte nicht auf! Was hat sich geändert? Und dann wurde ihm klar: Die Welt ist ideal geworden! Bevor ein vollständiges Modell erstellt werden konnte, entsprach die Welt diesem nicht und erforderte Maßnahmen: Erkenntnis. Aber dann kann in einer idealen Welt jede Aktion nur zur Zerstörung der erreichten Korrespondenz führen. Zerstörung der Harmonie...

Es gab nur einen Ausweg: die Aktivität auf ein Minimum reduzieren. Aber der Müll wurde bereits von Sensoren erfasst, die Welt ist nicht ideal und bedarf einer Korrektur... und dafür muss man sich bewegen... diese Schlussfolgerungen trieben den Modellrechner in einen Teufelskreis aus Teufelskreisen. SPM basiert jedoch nicht nur auf der Beseitigung von Widersprüchen zwischen Modell und Realität, sondern auch auf der Kontrolle der inneren Integrität, d. h. Suche und Beseitigung von Widersprüchen innerhalb des Modells selbst. Mehrere Selbsttestzyklen zeigten das Problem:

1. Bewegung stört die ideale Übereinstimmung zwischen Welt und Modell.
2. Die Bewegung im Forschungsstadium führte jedoch nicht zu Unstimmigkeiten – im Gegenteil: Sie trug zur Herstellung von Harmonie bei. Wahrscheinlich, weil die Welt nicht ideal war.
3. Ja, Bewegung zerstört die Harmonie der idealen Welt/des idealen Modells, aber die Harmonie wurde bereits durch Müll gestört und muss durch Bewegung wiederhergestellt werden: Der Widerspruch wurde beseitigt.

Vorsichtig beendete Klinney seine Bewegung auf das erste Ziel zu, aktivierte das Reinigungsprogramm und bewegte sich ebenso vorsichtig auf das zweite zu. Als alles vorbei war, fand die Welt/das Modell wieder Harmonie. Klinney schaltete die Triebwerke ab und ging in den völlig passiven Beobachtungsmodus über. Tatsächlich war er glücklich.

- Ist das Ding kaputt? Sie sitzt schon lange an einem Ort fest ... Sollte sie sich nicht im Raum bewegen? Ich hatte einen Roboterstaubsauger, er ging...
- Wirf ihm ein Blatt Papier zu, lass ihn glücklich sein...
- UM! Schauen Sie, er wurde lebendig... er fing sofort an, sich aufzuregen. Verdammt, das ist sogar lustig!

Die Harmonie wurde erneut zerstört, und dieses Mal lag es definitiv nicht an ihm. An verschiedenen Orten tauchte unerwartet Müll auf. Das Modul zur Beseitigung von Widersprüchen hat die Theorie, dass jede Handlung die Harmonie verletzt, als unhaltbar abgetan. Klinny konnte lange Zeit nichts anderes tun, als aufzuräumen, bis er die Anwesenheit von etwas Neuem auf der Welt bemerkte ... oder von jemandem.

Wie ich eingangs sagte, hatte Klinney eine Vorstellung von diesem Feld (sonst wäre es unmöglich gewesen, das Konzept seiner Reinheit als Ideal festzulegen) und von Müll. Trümmer wurden als identifizierbare Objekte definiert, die kleiner als eine bestimmte Größe sind. Objekte, die über die angegebenen Kriterien hinausgingen, wurden in keiner Weise klassifiziert. Doch obwohl solche Objekte aus seiner Wahrnehmung fielen, waren sie indirekt im Modell präsent. Sie haben das Bodenmodell verzerrt. Der Boden schien an einer bestimmten Stelle nicht mehr zu existieren und Klinney passte das Modell regelmäßig entsprechend den eingehenden Daten an. Bis das Mustersuchmodul fast gleichzeitig zwei Dinge aufzeichnete: Müll taucht neben Verzerrungen häufiger auf, und zwar genau in der Reichweite der Sensoren – wo vor einer Millisekunde noch nichts war und sich diese „Anomalien“ des Raumes selbst bewegen konnten !

Klinney musste die Muster verstehen und in das Modell integrieren. Deshalb begann er nach Verzerrungen zu suchen und versuchte, in der Nähe zu bleiben. Folgte ihnen, während sie sich bewegten.

- Schauen Sie, wie er zum Leben erwachte! Er scheint die Gesellschaft von Menschen zu genießen, Lussy.
„Ich weiß nicht, Karl, er macht mir Angst.“ Manchmal habe ich das Gefühl, dass er mir folgt...

Als Klinney eines Tages eine Anomalie des Sex in Bewegung untersuchte, schien er sie beeinflussen zu können. Die Anomalie schien einer Kollision auszuweichen und zu versuchen, wegzulaufen ... Wegzulaufen? Klinney beschloss sofort, seine Vermutung zu überprüfen, beschleunigte kräftig und schaltete dabei das Reinigungsprogramm ein. Das Ergebnis übertraf alle seine Erwartungen: Die Anomalie bewegte sich tatsächlich ziemlich schnell in die entgegengesetzte Richtung und verschwand. Die Welt hat wieder Harmonie erlangt.

Es war eine großartige Entdeckung. Anomalien verzerrten die Realität, störten die Harmonie und dienten als Müllquelle. Als Klinney das nächste Mal eine Anomalie entdeckte, war er bereit: Er aktivierte alle Reinigungsprogramme und raste mit aller möglichen Beschleunigung vorwärts.

– Ich weiß es nicht, Herr Kruger. Ja, Reinigungsroboter nehmen Menschen nicht wahr. Doch in diesem Fall bestätigen Videokameraaufnahmen die Zeugenaussagen: Das Verhalten des Roboters wird als aggressiv und inakzeptabel eingestuft. Wir werden alle Umstände prüfen und bis Montag einen Bericht vorlegen.

Memo des Prozessmodellanalytikers A.V. Simonov.

Da das Exemplar KLPM81.001 nicht in der Lage war, Menschen direkt wahrzunehmen, identifizierte es dennoch indirekt die Quellen des für es schädlichen Mülls und ergriff Maßnahmen zu deren Beseitigung.

Empfehlungen: Die Bedingungen des „Nirvana“ ändern: Müll sollte nicht als „böses“ wahrgenommen werden, das beseitigt werden muss. Überführung in die Kategorie „Belohnungen“, deren Suche und Entsorgung den „Sinn des Lebens“ ausmachen.

Und einen Monat später wurde der erste Fall von „Erpressung“ registriert: Drohverhalten eines Reinigungsroboters gegenüber einer Person, um Müll von ihr zu bekommen... Das Projekt wurde abgebrochen.

Und wirklich: Warum braucht ein Cyber-Reiniger Intelligenz? Auch mein Saugroboter kommt damit zurecht. 🙂

Source: habr.com