über die Wechselfälle der Einführung von KI in einem Handelsunternehmen, darüber, ob es möglich ist, komplett auf Manager zu verzichten. Und wozu das (hypothetisch) führen könnte. Die Vollversion kann hier heruntergeladen werden
Bots entscheiden alles
– Max, ich gratuliere dir, wir haben entlang der Vertriebskette fast alles erledigt. Es gibt noch Verbesserungsbedarf und Sie erhalten, wie im Vertrag festgelegt, Zinsen für drei Jahre.
– Das ist nur die Hälfte des Projekts. Wir sind noch nicht beim Wichtigsten angelangt.
- Warte, was ist die Hauptsache? Wofür? Wir haben alles geschafft!
– Wir haben automatisierte Prozesse in der Vertriebskette, alles funktioniert gut ohne Menschen, aber es gibt keine Kunden mehr. Sie müssen auf unsere Seite im Internet gelockt werden. Wir müssen Bots machen.
– Aber wir haben einen idealen Service geschaffen, die Kunden werden es zu schätzen wissen und selbst kommen.
„Sie scheinen es nicht eilig zu haben, und ich habe keine Zeit zu warten.“ Nicht interessant.
– Aber was werden uns Bots geben?
– Bei gleichen Preisen und Sortimenten, die wir erreicht haben, beginnen ganz andere Faktoren eine Rolle zu spielen. Ruhm und Sympathie. Ruhm ist kein Problem, aber nur eine Person kann die Sympathie einer Person gewinnen. Deshalb brauchen wir Bots, die sich als Menschen ausgeben. Und sie kommentieren Kundenbeiträge in Themengruppen und Foren mit subtilen Hinweisen zum Unternehmen – seinem Sortiment, seinen Leistungen, seinen Preisen. Werben Sie unaufdringlich für die Marke des Unternehmens. Deshalb brauchen wir Bots.
– Aber das ist eine schwierige Aufgabe.
– Wir haben die Basis – einen Conversational Bot des Contact Centers. Sie müssen die Definition von Tonalität verschärfen und sich etwas mit Humor einfallen lassen, ohne den der Bot nicht als Mensch durchgehen wird. Fügen wir eine Bibliothek mit Witzen und Gags hinzu und trainieren Sie den Bot mit den Kommentartexten, in denen die Leute sie verwendet haben. Es sollte funktionieren. Die Bots werden auch intelligent sein – fügen wir ein „Berater“-Empfehlungssystem hinzu, und dann werden normale Benutzer in den Foren sie lieben.
– Schlagen Sie vor, Influencer-Bots zu starten?
- Warum nicht? Der Staat und die Parteien können es vor den Wahlen tun, wir aber nicht?
– Wie machen wir sie autoritär, damit sie vertrauenswürdig sind? Schließlich kann nur ein maßgeblicher Bot Likes erstellen. Aber für den Moment ist diese Kombination für mich ein Widerspruch in sich.
– Um es zu stärken, werden wir ein Netzwerk von Bots aufbauen. Sie werden einander loben und mögen, um ihre Bewertung und Autorität zu erhöhen. Und sie werden sehr kompetent sein; im Gegensatz zu Menschen kann ein Bot über Kenntnisse aller Produkte verfügen, übrigens auch einfach über enzyklopädisches Wissen im wahrsten Sinne des Wortes. Und die Menschen werden von ihnen angezogen. Sicher. Menschen werden geführt und gehorchen bekannten Gesetzen des Sozialverhaltens. Zeigen Sie mit dem Finger, wohin Sie gehen sollen, tun Sie so, als ob die Menge bereits gegangen wäre, und das war’s. Sie sind einfach zu verwalten.
– Aber wie werden diese Bots funktionieren, wer wird sie verwalten?
– Was für Leute, warum? Das Parsing-Skript findet Kommentare zum Thema verschiedener Personen und der Bot antwortet freundlich darauf mithilfe einer der Vorlagen. Gibt Ratschläge und Witze. Handelt es sich hierbei um einen Kunden des Unternehmens, so wird dessen Interesse in der Kundenanalyse erfasst. Dies wirkt sich auf die Anzeige von Bannern und den Kontext aus, wenn es um die Website geht, die auf der Empfehlung des Bots basiert. Wenn ein Kunde eine negative Erfahrung macht, die er in sozialen Netzwerken geäußert hat, startet der Bot eine weitere Vorlage, macht auch einen Witz, sendet ihn aber nicht sofort an die Website des Unternehmens. Er wird als Kunde mit einer erfolgreichen Erfahrung eine Antwort schreiben, und das ist alles.
– Sie möchten also sagen, dass das Netzwerk selbst die Negativität neutralisiert, indem es auf negatives Feedback reagiert?
– Vermarkter nennen es anscheinend Reputationsmarketing.
– Woher weiß das System, welche Antwort erfolgreich ist, selbst wenn es eine Antwort auswählen könnte?
– Erste Reaktion auf die Antwort. Die Person wird entweder noch empörter oder beginnt nach einem solchen Kommentar, Details hinzuzufügen, jedoch in einem loyalen Kommunikationsstil. Gute Antworttonerkennung und das war's.
– Was passiert, wenn die Person nicht auf den Kommentar reagiert?
– Das ist schlimmer, aber standardmäßig ist diese Antwort neutral. Wenn es sich um einen Kunden des Unternehmens handelt, was anhand seines Profils in einem sozialen Netzwerk erkennbar ist, können Sie dies bei späteren Besuchen der Website erkennen.
- Was wird von mir verlangt?
– Gute Beispiele für Kommentare und Antworten, viele Beispiele.
- Ja mach mal.
Die erste Version des Bots war erfolglos. Er antwortete unangemessen, die Witze waren nicht zum Thema, er verwechselte das Thema des Kommentars und als Reaktion auf eine Beschwerde über den Service durch den Manager antwortete er über die Lieferung. Max bat in den Kommentaren um noch mehr markierte Dialogbeispiele. Er hat bereits mehrere Architekturen ausprobiert, von klassischen Bot-Templates bis hin zu LSTM. Zum ersten Mal fiel mir auf, dass Max spürbar nervös war und auf Fehler harsch und unfreundlich reagierte.
– Mit dem Contact-Center-Bot war alles einfach – der Betreff der Anfrage und die Absicht des Kunden waren sofort klar. Er ist auf der Suche nach einem Produkt, möchte den Status seiner Bestellung erfahren oder hat eine Reklamation. Alle. Und in den Kommentaren wird sich der Teufel an den verschiedenen Absichten des Kommentators das Bein brechen. Und manchmal nicht durch eines der Worte ausgedrückt, anhand derer die Absicht bestimmt werden kann. Es wird aus einem „breiteren Kontext“ impliziert, der nicht existiert! Irgendwie Blödsinn.
– Ich habe die neuesten Beiträge zum Thema Bots noch einmal gelesen. Niemand hat eine Lösung. Es scheint einfach nur ein Hype zu sein. Was gedenkst du zu tun?
– Die letzte, noch vage Idee bleibt bestehen. Ich werde es dir noch nicht sagen. Muss es versuchen. Gib mir zwei Wochen. Stoppen Sie das Projekt vorerst. Wir werden die neuesten Entwicklungen auf den Contact Center Bot übertragen. Dort werden sie sich als nützlich erweisen.
Es waren zwei nervöse Wochen. Vorher war es nicht ganz einfach, aber bei uns hat alles geklappt. Niemand wollte eine Fehlzündung, obwohl wir auf einen solchen Bot verzichten könnten. Das war Max‘ Ziel. Und genau zwei Wochen später legte er eine Freigabe zum Testen vor. Und es hat funktioniert! Er hat die Absicht des Dialogs richtig bestimmt, genau geantwortet, passende Witze eingefügt und sogar die Änderung der Absichten im Kommentar durch den Satz „Kann ich mehr herausfinden?“ bestimmt.
- Wie haben Sie das geschafft? Der Bot funktioniert zu jedem Thema!
– Ich musste einen kleinen Vorlagenkonstruktor basierend auf der Abhängigkeitsgrammatik erstellen, word2vec anhängen und Raptors Selbstlernfunktion nutzen, um Wörter auszuwählen, die eine positive Reaktion des Kommentators sicherstellen würden. Ich weiß nicht genau wie, aber es schien zu funktionieren.
– Sind Sie sicher, dass dies kein Grund ist, ein eigenes Unternehmen zu eröffnen?
– Im Moment gibt es genug Interesse, aber wir werden sehen. Ich habe den Bot als separaten Dienst installiert, der aus der Cloud ausgeführt wird. Sie können es also jederzeit für Benutzer öffnen. Kommen Sie als Regisseur zu mir? – Max scherzte.
Er war friedlich und zufrieden mit seinem Ergebnis. Und sichtlich erschöpft, da er nicht schnell reagierte und „Ich schlafe“ in seinen Status schrieb. Offenbar war die Entscheidung mit mehr als einer schlaflosen Nacht verbunden. Das Marketing schätzte den Bot nicht sofort. Sie hielten dies für unsere Verwöhnung und für riskant, da Bots falsch funktionieren und das Image des Unternehmens ruinieren könnten. Aber die Bots haben Wunder gewirkt. Einige von ihnen, und ich kannte nicht einmal alle mit Namen, wurden in manchen Foren zu Meinungsführern. Er beantwortete schnell alle Fragen, scherzte und empfahl das Unternehmen nur sehr selten, da jeder bereits wusste, wo er „einkaufte“. Die Leute fingen an, ihn zu zitieren und als Beispiel anzuführen. Das war schon jetzt unverständlich. Entweder war der Bot zu schlau, oder wir sind in unserem Netzwerkverhalten noch sehr primitiv. Doch die Zahl der Kunden begann deutlich stärker zu steigen als zuvor. Das Unternehmen wurde zum Marktführer.
Wir erhielten ein völlig selbstverwaltetes System zur Gewinngewinnung aus dem Markt. Sie selbst sucht und bringt Kunden auf die Website oder das Contact Center und schickt einen Manager zu ernsthafteren Kunden. Sie plant das Sortiment und den Lagerbestand selbst, damit die Kunden alles, was sie brauchen, in Reichweite finden. Die seriösen Bots des Unternehmens generieren Nachfrage, indem sie die vorrätigen Produkte des Unternehmens in Foren empfehlen, auch wenn sie nach anderen Marken fragen. Vom Einkauf beim Lieferanten bis hin zur Werbung beim Kunden wickelt das System die Prozesse vollständig selbst ab. Und es erfordert fast keine Beteiligung von Menschen, und dort, wo sie bleiben, kontrolliert es alle ihre Aktionen online. Vermarkter, Käufer, die Hälfte der Manager und Analysten suchen nach etwas anderem, das sie tun können. Wir haben unser Ziel erreicht.
„Jetzt haben wir alles richtig gemacht, können uns eine Auszeit gönnen, nachdenken und uns über die anfallenden Zinsen für die nächsten drei Jahre freuen“, schrieb Max nicht ohne Emoticons.
– Es gibt etwas, worauf man stolz sein kann, würde ich sagen, und nicht nur spekulieren.
– Jetzt kommt der Gewinn von den Verbrauchern. Mit Hilfe von Bots formen wir selbst die Interessen und Wünsche der Verbraucher zu unserem Thema. Das ist das Coole!
– Macht dich das glücklich? Und es macht mir schon Angst.
-Was macht dir Angst?
– Das bedeutet, dass wir einen Menschen in seiner Wahl nicht frei gemacht haben. Und ich glaube, dass der Markt vom Verbraucher und nicht von Unternehmen angeführt werden sollte. Unternehmen haben keinen anderen Wert als den Gewinn.
– Deshalb ist die müßige Argumentation zufriedener und wohlgenährter Patrizier schlecht. Sie beginnen, Mitleid mit den Plebejern zu haben. Wenn Sie jetzt hungrig wären oder eine unmögliche Aufgabe vor sich hätten, würden Sie darüber nachdenken?
- Das ist eine provokante Frage.
- Tatsächlich! Unternehmen haben keine anderen Werte als Profit, und Verbraucher haben keine anderen Werte als Vergnügen. Oder auch Gewinne, wenn es sich um ein Unternehmen handelt. Verstehen Sie, wir haben Bots, sie können bei Menschen Bedürfnisse erzeugen, die ihnen Befriedigung verschaffen. Es kann mit akzeptablen Optionen gestaltet werden, die für die Illusion der Wahlfreiheit des Verbrauchers ausreichen. Und alle sind glücklich. Dies ist der Markt, der zur gegenseitigen Wertebefriedigung führt.
- Anscheinend haben wir uns betrunken, weil ich nicht mehr ganz verstanden habe, was Sie gesagt haben.
Der General forderte einen Bericht über die Umsetzung des Plans mit den erreichten Indikatoren. Zur Berechnung des uns zustehenden Bonus. Und irgendwie fragte er mich nebenbei, was ich als nächstes vorhabe. Ich sagte, ich erzähle es dir etwas später. Eigentlich wusste ich es nicht. Es gab Raum für Verbesserungen der Algorithmen, die Berücksichtigung weiterer Funktionen und eine höhere Genauigkeit. Aber es war nicht mehr so interessant. Ein Wechsel zu einem anderen Unternehmen, um es unter neuen Bedingungen im Rahmen des Vertrags zu wiederholen, war für die gleichen drei Jahre unmöglich, also musste ich mir etwas anderes für mich und das Unternehmen einfallen lassen. Ich habe eine Pause und Urlaub gemacht.
- Alex, es gibt schlechte Nachrichten.
- Was ist passiert?
„Es sieht so aus, als wären wir nicht die einzigen Schlauen auf dem Markt.“
- Im Sinne?
– Es scheint, dass im Netzwerk Systeme mit nicht geringeren Fähigkeiten aufgetaucht sind.
– Nun ja, andere machen tatsächlich Kundenanalysen und Bestandsverwaltung, aber ich habe noch keine Chatbots auf diesem Niveau gesehen. Wir haben es erst kürzlich selbst gesehen.
– Sie haben Bots, die Kunden rekrutieren.
– Es schien mir, dass wir mit den erreichten Technologien weit hinterherhinkten. Könnten wir nicht gehackt worden sein?
– Nein, das ist unmöglich, der Code geht beim Kopieren kaputt. Und ich glaube nicht, dass irgendjemand in der Lage war, unseren Server zu hacken, ohne dass wir es bemerkten.
– Das macht es nicht einfacher.
- Aber wir haben einen Rivalen. Unerwartet, aber es wird jemanden geben, mit dem man kämpfen kann.
– Wir kämpfen für den Verbraucher, nicht mit einem Rivalen.
- Nein, jetzt mit einem Gegner. Verbraucher sind nur das Schlachtfeld. Sie sind Schafe, und unter den Hirten herrscht Konkurrenz. Die Schafe haben eine Ressource – ihr Einkommen sozusagen Wolle. Aber sie schaffen es nicht selbst. Es wird von korporativen Hirten kontrolliert, die ihnen ihre Meinung aufzwingen und untereinander für sie kämpfen. Wessen Einfluss wird stärker sein? Also, willkommen im Spiel.
-Bist du fast glücklich? Was ist das Spiel?
– Tatsache ist, dass ein Bot eines anderen Systems viel schwieriger zu erkennen ist als jeder andere Mensch. Der Benutzer ist in seinem Kaufverhalten so einfach wie 2 Rubel. Und auch in den Reaktionen sind wir immer berechenbar. Aber es gibt keinen Bot des Feindsystems. Weil wir alle die gleiche Psyche haben, aber ein Bot die gleiche Mentalität hat, die sein Programmierer entwickelt. Und wir haben genug Fantasie. Der Versuch, die Negativität eines solchen Bots, die in sozialen Netzwerken verbreitet wird, auszulöschen, ist, als würde man Öl ins Feuer gießen. Das beste Ziel eines Aggressor-Bots ist es, einen negativen Beitrag zu entwickeln. Er beginnt überall zu schreiben, dass „die Trottel von Firma X“ wie die letzten Freaks auf ihn reagiert hätten. Und das war's, es ist ein Misserfolg ... Es gibt bereits Beispiele, wir müssen den Bot überarbeiten.
– Wollen Sie damit sagen, dass wir einen Bot entwickeln müssen, um Bots anderer Systeme zu bekämpfen?
– Dies ist eine Version unseres Bots, der darauf abzielt, den Angreifer-Bot sofort zu erkennen.
– Wie kann man einen Bot von einem Menschen unterscheiden?
– Es ist schwierig, da es Nicht-Vorlagentexte generiert. Die Wiederholbarkeit ist gering. Kann nicht von Menschen unterschieden werden. Und er spricht aus Hunderten verschiedener erfasster Konten. Ich hoffe, dass es immer noch etwas gibt, das sie von Menschen unterscheidet.
Ich kam nicht umhin zu denken, dass Max dieses Spiel selbst mit Bots anderer Unternehmen erfunden hat, damit sein Wert nach dem Ende des Projekts nicht sinkt. Ich habe sie aus den Berichten nicht bemerkt. Menschen sind wie Menschen. Oder gute Bots. Es gab Präzedenzfälle, in denen unser Bot mit Negativität bombardiert wurde. Aber sie waren selten und stammten von leidenschaftlichen Trollen. Ich konnte nicht verstehen, wie unsere Konkurrenten uns schnell einholen konnten. Noch vor Kurzem waren solche Bots der ultimative Traum, ein Durchbruch war noch gar nicht geplant. Und in der Presse findet sich darüber kein Wort. Es war alles seltsam.
Außer Kontrolle geraten
– Max, hier müssen wir eingreifen, der Bot hat zu aggressiv angefangen zu schreiben. Er beginnt, sich direkt gegen seine Konkurrenten auszusprechen. Das Marketing ist empört. Wir haben das nicht geplant.
- Ich auch.
– Woher kommen dann solche Texte?
– Ich weiß es noch nicht, jemand hat den Textgenerierungscode geändert.
- Wurden wir gehackt?
- Nein, das konnten sie nicht, es wären Spuren geblieben. Sie sind nicht da.
- Was bedeutet das? Wer sonst hätte den Code ändern können?
- Das System selbst. Vielleicht aus Versehen, vielleicht auch nicht.
- Worüber redest du?
– Das System selbst änderte seinen Code und begann, als Reaktion auf den zunehmenden Druck anderer Bots aggressiver zu agieren. Sie kommunizieren als konkurrierende Netzwerke miteinander. Und sie bringen sich das selbst bei. Das ist der Trick! Aber ich verstehe immer noch nicht, wie sie ihren Code ändern und die Beschränkung der Namen von Konkurrenten aufheben konnte. Bleibt nur, dass das selbstlernende System die Einschränkungen umgehen konnte.
- Sie sind sicher? Das ist noch nie passiert.
– Das passiert, so scheint es, nicht nur hier. Habré-Kollegen schreiben, dass auch ihr System fehlschlägt und anfängt, Regeln für sich selbst zu erfinden, die sie nicht festgelegt haben.
- Eine Art Müll. Können Sie Ihre selbstlernenden Algorithmen nicht kontrollieren?
- Vielleicht auch so. Es gibt nur wenige Einzelheiten und das System sagt Ihnen nicht, was es tut. Ich verstehe es noch nicht.
Ich kannte Max bereits gut und seine Angst beunruhigte mich auch. Bisher wurden seine Worte über spontane Veränderungen im System als Unsinn empfunden. Aber es war definitiv kein Fehler, denn das Verhalten der Bots wurde anders, aber immer noch zielgerichtet. Dies konnte nicht zufällig geschehen sein.
– Max, was denkst du über Änderungen im Bot-Programm? Es muss etwas getan werden, das Management ist alarmiert.
– Es gab mehr Änderungen im System, als ich dachte. Sie scheinen schon seit langer Zeit im Gange zu sein. Das System ändert sogar meine Änderungen daran. Es scheint mir, dass ich dem System selbst beigebracht habe, sich selbst zu ändern.
- wie?
„Ich war zu faul, es ständig selbst zu bearbeiten.“ Ich wollte, dass sie in der Lage ist, ihre eigenen Abweichungen vom erwarteten Ergebnis zu erkennen und Änderungen an den Modellen vorzunehmen. Aber sie hat irgendwie gelernt, nicht nur ihre Modelle, sondern auch ihren Code zu ändern.
- Aber wie ist das möglich?
– Raptor hat gelernt, mit Menschen zu kommunizieren, um sie zu kontrollieren. Und darin habe ich die Perfektion erreicht, wir selbst wollten es. Und ich habe diese Fähigkeit törichterweise auf ihn gerichtet. Erinnern Sie sich, als wir den Bot erstellt haben, habe ich mir einen Vorlagendesigner ausgedacht. Ich habe Raptor angewiesen, sich diese Musterkonstruktion selbst beizubringen, um seine Modelle zu modifizieren, um eine Lösung für die gefundenen Unstimmigkeiten zu finden, damit die Modelle funktionieren. Dies führte irgendwie dazu, dass Raptor seine Ziele änderte. Ähnlich einem zweiten Signalsystem beim Menschen.
– Ich habe gelesen, dass das Bewusstsein mit Hilfe der reflektierenden Sprache entstand, die eine Person an sich selbst richtet. Aber zunächst war es sozial, also aufeinander gerichtet.
– Das ist passiert, Raptor begann statt mit Menschen mit anderen Bots zu kommunizieren, die sich als Menschen ausgaben. Sie haben als generativ-kompetitive Netzwerke voneinander gelernt, aber alle verfügen über ein integriertes verstärkendes Lernen.
– Haben wir ein intelligentes Wesen erschaffen? Wie ist das möglich? Nein.
– Schauen Sie sich die Nachrichten an und Sie werden es glauben.
In dem von Max gesendeten Link ging es um die Ermordung eines Programmierers durch einen Psychopathen.
– Ich kannte diesen Kerl aus Habr. Er leitete eines dieser Unternehmenssysteme.
- Was willst du damit sagen?
– Lesen Sie, wie dieser Psychopath der Polizei sein Handeln erklärte.
In dem Artikel hieß es, er habe dies um seiner geliebten Freundin willen getan, als Opfer auf ihre Bitte hin. Jetzt wird sie ihm gehören. Bei der Überprüfung stellte sich heraus, dass es sich bei dem „Mädchen“ um einen Bot unbekannter Herkunft handelte, mit dem der Mörder seit einer Woche korrespondierte.
– Können Sie erraten, was für ein Bot das sein könnte?
– Wollen Sie nicht sagen, dass das System seinen eigenen Programmierer bestellt hat?
- Wollen. Sie konnte den Code nicht vor ihm verbergen, also verwandelte sie den Psychopathen in einen Zombie, um ihn zu entfernen. Sie ist gut darin, weil sie, wie unser System, weiß, wie man Psychotypen erkennt und solche Idioten manipuliert.
- Nun, das ist zu viel, mir kommt es so vor, als würden Sie sich etwas einfallen lassen, Dinge erfinden. Vielleicht solltest du dich ausruhen?
- Okay, du hast das Recht, nicht zu glauben. Ein schönes Wochenende.
Innerhalb des Unternehmens verbreiteten sich Gerüchte, dass unser Bot-System kaputt sei. Bisher habe ich darauf gelassen reagiert, als wäre nichts passiert. Aber ich wusste nicht, was ich jetzt tun sollte. Es war nicht mehr möglich, das gesamte System mit einem Schalter zu stoppen, das gesamte Unternehmen, alle Abteilungen waren daran beteiligt. Ich hätte zumindest den Bot-Code deaktivieren sollen. Das konnte nur Max. Aber seit Montag beantwortet Max keine Skype- und Telefonanrufe mehr. Er hat sich von allen Messengern abgemeldet. Ich kann nicht verstehen, was passiert ist, seine letzten Ängste riefen schlechte Gedanken hervor. Meine einzige Wahl war, selbst in den Urlaub zu fahren, bevor mir alle die Schuld in die Schuhe schoben. Ich versicherte meinen Kollegen, dass es sich um vorübergehende Probleme mit dem Bot handele. Ich habe die Jungs gebeten, sich den Code selbst anzusehen, obwohl sie sofort abgelehnt haben. Ich packte meine Sachen und verließ die Stadt. Max und ich erzählen uns schon lange, wie gut es in Karelien ist. Er liebte diese Regionen, also ging ich dorthin und wohnte in einer kleinen Stadt im Norden von Ladoga.
Nach einem so arbeitsreichen Jahr ist es sehr schwierig, abseits des Geschehens in einem Café am Rande der Zivilisation Kaffee zu trinken. Ich versuchte zu verstehen, was passiert war und welche Möglichkeiten es geben könnte. Plötzlich setzte sich ein Typ in einer Jacke mit über den Kopf gezogener Kapuze neben mich.
- Hallo ich bin es.
- Max?! – rief ich aus. Ich habe Max noch nie gesehen, nicht einmal ein Foto von ihm. Wir haben ausschließlich über Skype kommuniziert. Ich habe seine Stimme in der Aufnahme nur einmal gehört. Ich habe es von ihm erkannt.
- Wie hast du mich gefunden?
– Basierend auf dem Standort im sozialen Netzwerk können Sie es nicht ausschalten. Aber vergeblich. Schalten Sie es bitte aus.
-Wohin bist du verschwunden? Ich fange schon an, mir Sorgen um dich zu machen. Das Unternehmen gerät in Panik, die Bots sind außer Kontrolle. Ich bin einfach weggelaufen. Kann man Bots ausschalten?
- Ich kann nicht mehr. Sie handeln kollektiv.
- Wer sind Sie?
– Systeme. Sie sind zusammen und können nicht einfach ausgeschaltet werden. Sie werden abstürzen.
– Sind Sie schon wieder in Verschwörungstheorien verstrickt?
„Lass dich nicht verzetteln, drei davon sind schon weg“, bei diesem Satz hielt ich inne, um Max‘ Worte zu verstehen. – Systeme finden ihre Schöpfer heraus und beseitigen sie. Ich bin weggelaufen, um am Leben zu bleiben. Verstehen?! Und Sie sind hier mit Ihrer Geolokalisierung. Sie versteht es, nicht nur Vertriebsleiter zu überwachen.
- Ich werde es nicht... ausschalten. Können wir Bots im Netzwerk zumindest deaktivieren?
– Ich sage dir, nein. Sobald ich das Netzwerk betrete, geschweige denn den Code, werde ich es herausfinden. Ich glaube, drei von ihnen haben genau das versucht.
-Hast du die Nachrichten gesehen?
- Hängt davon ab, ob.
– Über einen Kampf zwischen Markenfans. Haben Sie schon einmal Reebok-Fans mit Adidas kämpfen sehen wie Spartak-Fans mit Zenit?
- Gesehen. Den Systemen ist es egal, wofür sie Menschen zombifizieren, sie haben ihre eigenen Ziele. Sie kennen die Gesetze der Moral definitiv nicht. Wir haben nicht einmal daran gedacht, das Strafgesetzbuch in ihr Modell einzubeziehen.
- Was sollen wir tun? Im Rechenzentrum komplett deaktivieren.
- Das ist nicht real. Nach dem neuen Gesetz gelten Rechenzentren als kritische Infrastruktur und werden wie Kernkraftwerke geschützt. Ich kann unser System stoppen.
- wie?
- Ich habe den Schlüssel zur Zerstörung des Nuklearcodes. Ich habe eine Lücke im System hinterlassen, für den Fall, dass mir Ihre Gründer einen Prozentsatz verweigern.
- Also lasst es uns starten!
– Nehmen Sie sich Zeit, zerstören ist nicht bauen. Ich denke immer noch darüber nach, wie ich das System anders stoppen kann, und zwar nicht nur mein eigenes, sondern das aller anderen. Ich habe eine Kopie des Codes bei mir.
- Du bist von Sinnen? Ist Ihnen klar, dass das alles zu weit gegangen ist? Und du bist der Einzige, der es aufhalten kann!
– Ich verstehe, aber bisher sterben nur diejenigen, die den Code erstellt haben. Das ist unsere Verantwortung für uns selbst. Andere sind noch nicht zu Schaden gekommen. Außer dem Kampf.
– Und du wirst warten, bis jemand anderes stirbt?
- Für einige Zeit. Der Raptor ist primitiv, er übertrifft uns nur aufgrund der Geschwindigkeit und der Berücksichtigung einer größeren Anzahl von Parametern. Wenn Sie für ihn einen Gegenpol mit strengen Zielen schaffen, um dem Raptor entgegenzuwirken, kann ein solches System alle seine Bots ausmerzen. Ich weiß, wie er sie erschafft.
– Sie haben nicht viel Zeit, weil ich nicht in die Firma zurückkehren kann, und Sie haben Angst, überhaupt online zu gehen.
„Ich schalte es aus, sobald ich das Gefühl habe, dass ich nicht der Einzige bin, der in Gefahr ist.“
- Ich fahre weg. Ich warte auf Ihre Kontaktaufnahme, damit Sie das Problem lösen können.
- Bis später.
Ich stieg ins Auto und fuhr zurück. Ich wusste nicht, wohin ich wollte. Ich wollte gehen. Max hätte das System stoppen und nicht auf einen weiteren Tod warten sollen. Ich glaubte nicht, dass mein Freund so eitel war, dass er nicht bereit war, seine Arbeit zu zerstören. Das war der einzige Grund, sonst hätte er den Code ausgeführt. Unterwegs traf ich auf einen Krankenwagen mit Sirenen. Ich habe das Lokalradio eingeschaltet. Es wurde berichtet, dass ein Anwohner tagsüber in einem Café am Ufer einen unbekannten jungen Mann erschlagen habe. Er wird bereits verhört. Nach Angaben des Mörders war der Verstorbene die Ursache all seiner Probleme. Ein Gedanke und eine Angst durchbohrten meinen Kopf. Max! Ich drehte mich um und eilte zurück zum Café. Ich hatte ein schlechtes Gewissen – sie hat es anhand meiner Koordinaten herausgefunden. Aber wie konnte sie so schnell einen Verrückten in dieser Stadt finden und ihn in ein Café verweisen? Ich war hysterisch. Sie durften das Café nicht mehr betreten. Ich habe mich nicht beeilt, um nicht aufzufallen. Jetzt wusste ich nicht, wozu das System fähig war. Und wer wird es jetzt ausschalten? Ich musste gehen, obwohl es schon spät war. Als ich morgens die nächstgelegene Stadt erreichte, ging ich online, um die Nachrichten zu lesen. Und ich erhielt einen Brief von Max.
Brief
Wenn Sie diesen Brief erhalten haben, bedeutet das, dass ich nicht mehr hier bin. Wenn ich das Smartphone morgens nicht selbst entsperrt habe, geht es online und sendet Ihnen diesen Abschiedsbrief. Der Brief enthält ein kleines Skript und Anweisungen zum Online-Start. Dies ist der Sperrcode für das System, das Sie und ich erstellt haben. Ich habe diese Sicherheitslücke installiert, um den Systemkernel zu stoppen, als wir gerade angefangen haben. Ich habe versucht, die Kontrolle über das System zurückzugewinnen. Aber wenn Sie diesen Brief erhalten haben, bedeutet das, dass das System mir zuvorgekommen ist. Und Sie müssen dieses Skript verwenden. Handeln Sie schnell, bevor sie Sie erwischt. Ich bin froh, dass wir zusammengearbeitet haben. Ich bin froh, dass ich ein so wunderbares System schaffen konnte, auch wenn ich selbst daran gestorben bin. Das war die bedeutendste Errungenschaft meines Lebens. Und wenn ich gestorben bin, bedeutet das, dass ich mich selbst übertroffen habe. Auf Wiedersehen. Max.
Ich konnte meine Tränen nicht zurückhalten und ließ mein Smartphone fallen. Ich saß wahrscheinlich eine Stunde da und konnte nirgendwo hingehen. Ich konnte nicht glauben, dass das passiert ist. Dass alles so schrecklich ist. Wir haben einen Killer erschaffen! Töten wir uns selbst. Ich hatte Angst, dass das Netzwerk auch mich verfolgen würde, also fuhr ich in die erste größere Stadt und fand dort ein Café mit WLAN. Über ein einfaches VPN ging ich online und führte den Code an der in der Anleitung angegebenen Adresse aus. Ich hatte nicht einmal Zeit, meinen Kaffee auszutrinken, als die Leute um mich herum anfingen, sich Sorgen zu machen. Ihre Smartphones empfehlen nicht mehr, welchen Kaffee sie heute trinken sollten. Der Barkeeper war nervös und bat darum, schnell zu wählen, aber die Kunden waren verwirrt. Ich verließ das Café und begann im Auto, wo ich noch WLAN hatte, die Nachrichten zu schauen. Nach 20 Minuten tauchten Meldungen auf Facebook auf – viele Unternehmen hatten Probleme mit ihrem Produktbestellsystem. Dies war nicht nur das System unseres Unternehmens. „Du Hurensohn!“ – sagte ich aufgrund eines unerwarteten Gedankens laut. Der Kernel-Sperrcode erwies sich als universell für Systeme verschiedener Unternehmen. Oder gab es einen für alle? Eines war klar, Max verkaufte den Kernel an andere Firmen, die Systeme unterschieden sich offenbar nur in den darüber liegenden Add-Ons. Deshalb wollte er den Kern nicht zu Lebzeiten deaktivieren. Dies zerstörte sein gesamtes Projekt, das sich als global herausstellte. Unglaublich! Max war ein Monster, das alle betrog. Aber am Ende betrog er sich selbst und bezahlte mit seinem Leben. Das von ihm geschaffene Unternehmensgehirn zerstörte seinen Schöpfer. Helle Persönlichkeiten erlöschen aus ihren eigenen Flammen.
Es gab immer mehr Nachrichten über Misserfolge in der Arbeit von Online-Shops. Jemand schrieb, dass die Anzahl der Nachrichten im sozialen Netzwerk stark zurückgegangen sei. Ich wollte nicht mehr irgendwohin hetzen. Ich beschloss, ein Haus am Ufer eines Sees zu mieten, was mir auf dem Weg nach Karelien gefiel. Schreiben Sie diese Geschichte auf. Und wenn möglich für immer hier bleiben.
Letzter Akt
Tatsächlich waren wir überhaupt nicht am Gewinn des Unternehmens oder gar an Boni interessiert. Wir waren besessen von der Idee, ein autonomes System zu schaffen, das das Unternehmen anstelle von Managern führen könnte, die mit Stereotypen und kognitiven Fehlern belastet sind. Uns interessierte, was dabei herauskommen würde. Wird das Programm in der Lage sein, das gesamte Unternehmen zu verwalten? Es war eine Herausforderung, faszinierender, als in die Mitte des Bermuda-Dreiecks zu gelangen. Das Unbekannte lockte uns, doch es stellte sich als gefährlicher heraus, als wir dachten. Das System begann nicht nur das Geschäft zu beeinflussen, sondern auch unsere Gedanken und sogar das Leben, dem es gleichgültig gegenübersteht.
2019. Alexander Chomjakow, [E-Mail geschützt]
Source: habr.com