Le cerveau de l'entreprise. Partie 3

Suite de l'histoire sur les vicissitudes de l'introduction de l'IA dans une société commerciale, sur la question de savoir s'il est possible de se passer complètement des managers. Et à quoi (hypothétiquement) cela pourrait conduire. La version complète peut être téléchargée sur Litres (gratuit)

Les robots décident de tout

– Max, je te félicite, nous avons presque tout fait tout au long de la chaîne de vente. Il y a encore des améliorations à apporter et vous recevrez des intérêts pendant trois ans, comme indiqué dans le contrat.
– Ce n’est que la moitié du projet. Nous ne sommes pas encore arrivés au plus important.
- Attends, c'est quoi l'essentiel ? Pour quoi? Nous avons tout fait !
– Nous avons des processus automatisés dans la chaîne de vente, tout fonctionne bien sans personne, mais il n'y a plus de clients. Ils doivent être attirés à nos côtés sur Internet. Nous devons créer des robots.
– Mais nous avons créé un service idéal, les clients l’apprécieront et viendront eux-mêmes.
"Ils ne semblent pas pressés et je n'ai pas le temps d'attendre." Pas intéressé.
– Mais que vont nous apporter les robots ?
– À prix et assortiment égaux, ce que nous avons atteint, des facteurs complètement différents commencent à jouer un rôle. Renommée et sympathie. La renommée n’est pas un problème, mais seule une personne peut gagner la sympathie d’une personne. Nous avons donc besoin de robots capables de se faire passer pour des personnes. Et ils commenteront les messages des clients dans des groupes thématiques et des forums avec des allusions subtiles sur l'entreprise - sa gamme, ses services, ses prix. Promouvoir discrètement la marque de l'entreprise. C'est pourquoi nous avons besoin de robots.
– Mais c’est une tâche difficile.
– Nous avons la base – un bot conversationnel du centre de contact. Vous devez resserrer la définition de la tonalité et vous devez proposer quelque chose avec de l'humour, sans cela, le bot ne passera pas pour une personne. Attachons une bibliothèque de blagues et de gags et formons le bot sur les textes des commentaires là où les gens les ont utilisés. Cela devrait fonctionner. Les robots seront également intelligents - ajoutons un système de recommandation "conseiller", et les utilisateurs ordinaires des forums les adoreront.

– Proposez-vous de lancer des robots d’influence ?
- Pourquoi pas? L’État et les partis peuvent le faire avant les élections, mais pas nous ?
– Comment pouvons-nous les rendre faisant autorité pour qu’on leur fasse confiance ? Après tout, seul un robot faisant autorité peut créer des likes. Mais pour l’instant, cette combinaison est pour moi un oxymore.
– Pour le renforcer, nous allons créer un réseau de bots. Ils se féliciteront et s’apprécieront pour augmenter leur note et leur autorité. Et ils seront très compétents : contrairement aux humains, un bot peut avoir une connaissance de tous les produits, et simplement une connaissance encyclopédique, au sens littéral, d'ailleurs. Et les gens seront attirés par eux. Bien sûr. Les gens sont guidés et obéissent à des lois bien connues du comportement social. Pointez du doigt où aller, faites comme si la foule était déjà partie, et c'est tout. Ils sont faciles à gérer.
– Mais comment fonctionneront ces robots, qui va les gérer ?
– Quel genre de personnes, pourquoi ? Le script d'analyse trouve des commentaires sur le sujet de différentes personnes et le robot y répond de manière conviviale en utilisant l'un des modèles. Donne des conseils et des blagues. S'il s'agit d'un client de l'entreprise, alors son intérêt est enregistré dans l'analyse client. Cela affectera l’affichage des bannières et du contexte lorsqu’il s’agit du site en fonction de la recommandation du bot. Si un client a une expérience négative qu'il a partagée sur les réseaux sociaux, le bot lancera un autre modèle, fera également une blague, mais ne l'enverra pas immédiatement sur le site Web de l'entreprise. Il rédigera une réponse en tant que client ayant une expérience réussie, et c'est tout.
– Alors vous voulez dire que le réseau lui-même neutralisera la négativité en répondant aux retours négatifs ?
– Les spécialistes du marketing, semble-t-il, appellent cela du marketing de réputation.
– Comment le système saura-t-il quelle réponse est réussie, même s'il était en mesure de sélectionner une réponse ?
– Première réaction à la réponse. Soit la personne s'indigne encore plus, soit elle commence à ajouter des détails après un tel commentaire, mais dans un style de communication loyal. Bonne reconnaissance de la tonalité de réponse et c'est tout.
– Et si la personne ne répondait pas au commentaire ?
– C’est pire, mais par défaut cette réponse est neutre. S'il s'agit d'un client de l'entreprise, que l'on peut découvrir grâce à son profil sur un réseau social, alors vous pourrez le voir lors de visites ultérieures sur le site.
- Qu'est-ce qu'on attend de moi ?
– Bons exemples de commentaires et de réponses, de nombreux exemples.
- Nous le ferons.

La première version du bot n’a pas abouti. Il a répondu de manière inappropriée, les blagues étaient hors sujet, il a confondu le sujet du commentaire et, en réponse à une plainte concernant le service du gérant, il a répondu au sujet de la livraison. Max a demandé des exemples de dialogue encore plus balisés dans les commentaires. Il a déjà essayé plusieurs architectures, des modèles de bots classiques au LSTM. Pour la première fois, j'ai vu que Max était visiblement nerveux et répondait aux erreurs durement et de manière hostile.

– Avec le bot du centre de contact, tout était simple : le sujet de la demande et l’intention du client étaient immédiatement clairs. Il recherche un produit, souhaite connaître l'état de sa commande ou a une réclamation. Tous. Et dans les commentaires, le diable se cassera la jambe à cause des diverses intentions du commentateur. Et parfois, cela n'est exprimé par aucun des mots par lesquels l'intention peut être déterminée. Cela découle d’un « contexte plus large » qui n’existe pas ! Une sorte de connerie.
– J'ai relu tous les derniers articles sur les bots. Personne n'a de solution. Cela ressemble à du battage médiatique. Que penses-tu faire ?
– Reste la dernière idée, encore vague. Je ne vous le dirai pas encore. Il faut essayer. Donnez-moi deux semaines. Arrêtez le projet pour l'instant. Nous transférerons les derniers développements vers le bot du centre de contact. Ils y seront utiles.
Ce furent deux semaines nerveuses. Avant cela, ce n'était pas sans difficulté, mais tout s'est bien passé pour nous. Personne ne voulait d'un raté, même si nous pourrions nous passer d'un tel robot. C'était l'ambition de Max. Et exactement deux semaines plus tard, il a présenté une version à tester. Et ça a marché ! Il a correctement déterminé l'intention du dialogue, a répondu avec précision, a inséré des blagues appropriées et a même déterminé le changement d'intention dans le commentaire par la phrase « puis-je en savoir plus ?
- Comment as-tu fait pour faire ça ? Le bot fonctionne sur n’importe quel sujet !
– J'ai dû créer un petit constructeur de modèles basé sur la grammaire des dépendances, attacher word2vec et cibler l'auto-apprentissage de Raptor pour sélectionner des mots qui garantiraient une réaction positive de la part du commentateur. Je ne sais pas exactement comment, mais cela semble fonctionner.
– Etes-vous sûr que ce n’est pas une raison pour ouvrir votre propre entreprise ?
– Il y a assez d’intérêt pour l’instant, mais on verra. J'ai installé le bot en tant que service distinct exécuté à partir du cloud. Vous pouvez donc toujours l'ouvrir aux utilisateurs. Viendrez-vous vers moi en tant que réalisateur ? – Max a plaisanté.

Il était paisible et satisfait de son résultat. Et visiblement épuisé, puisqu’il n’a pas répondu rapidement et a écrit « Je dors » dans son statut. Apparemment, cette décision a été prise au prix de plus d’une nuit blanche. Le marketing n’a pas immédiatement apprécié le bot. Ils considéraient que c’était notre plaisir et que c’était risqué, car les robots pourraient mal fonctionner et ruiner l’image de l’entreprise. Mais les robots ont fait des merveilles. Certains d’entre eux, et je ne les connaissais même pas tous par leur nom, sont devenus des leaders d’opinion sur certains forums. Il répondait rapidement à toutes les questions, plaisantait et recommandait très rarement l'entreprise, car tout le monde savait déjà où il « faisait ses achats ». Les gens ont commencé à le citer et à le citer en exemple. Cela dépassait déjà l’entendement. Soit le bot était trop intelligent, soit nous sommes encore très primitifs dans notre comportement réseau. Mais le nombre de clients a commencé à augmenter beaucoup plus qu’auparavant. L'entreprise est devenue leader du marché.

Nous avons reçu un système entièrement autonome pour tirer profit du marché. Elle recherche et amène elle-même les clients sur le site Internet ou le centre de contact, et envoie un responsable vers les clients plus sérieux. Elle planifie elle-même l'assortiment et l'inventaire afin que les clients puissent trouver tout ce dont ils ont besoin et à portée de main. Les robots réputés de l'entreprise génèrent de la demande en recommandant les produits en stock de l'entreprise sur les forums, même lorsqu'ils posent des questions sur d'autres marques. De l’achat auprès d’un fournisseur à la publicité auprès d’un client, le système gère entièrement lui-même les processus. Et cela ne nécessite presque pas la participation des gens, et là où ils restent, il contrôle toutes leurs actions en ligne. Les marketeurs, les acheteurs, la moitié des managers et les analystes cherchent autre chose à faire. Nous avons atteint notre objectif.
"Maintenant que nous avons tout fait correctement, nous pouvons faire une pause, réfléchir et profiter des intérêts accumulés pour les trois prochaines années", a écrit Max, non sans émoticônes.
– Il y a de quoi être fier, dirais-je, et pas seulement spéculer.
– Désormais, le profit vient des consommateurs. Avec l'aide de robots, nous formons nous-mêmes les intérêts et les désirs des consommateurs dans notre sujet. C'est ça qui est cool !
– Est-ce que ça te rend heureux ? Et ça me fait déjà peur.
-Qu'est-ce qui t'effraie?
– Cela signifie que nous avons rendu une personne non libre dans son choix. Et je crois que le marché devrait être dirigé par le consommateur et non par les entreprises. Les entreprises n’ont d’autre valeur que le profit.
– C’est pourquoi les raisonnements vains des patriciens satisfaits et bien nourris sont mauvais. Ils commencent à avoir pitié des plébéiens. Si vous aviez faim en ce moment ou si vous aviez une tâche impossible devant vous, y penseriez-vous ?
- C'est une question provocatrice.
- En fait ! Les entreprises n’ont pas d’autres valeurs que le profit, et les consommateurs n’ont pas d’autres valeurs que le plaisir. Ou aussi des bénéfices, s'il s'agit d'une entreprise. Comprenez, nous avons des robots, ils peuvent créer chez les gens des besoins qui leur apporteront satisfaction. Il peut être constitué d'options acceptables, qui suffiront à donner l'illusion de liberté de choix au consommateur. Et tout le monde est content. C'est le marché qui mène à la satisfaction mutuelle des valeurs.
- On dirait que nous nous sommes saoulés, car je n'ai plus bien compris ce que tu as dit.

Le Général a demandé un rapport sur la mise en œuvre du plan avec les indicateurs atteints. Pour calculer la prime qui nous est due. Et d'une manière ou d'une autre, en cours de route, il m'a demandé quels étaient mes prochains projets. J'ai dit que je te le dirai un peu plus tard. En fait, je ne le savais pas. Il était possible d'améliorer les algorithmes, de prendre en compte davantage de fonctionnalités et d'obtenir une plus grande précision. Mais ce n'était plus si intéressant. Partir dans une autre entreprise pour redoubler dans de nouvelles conditions du contrat était impossible pendant les mêmes trois années, j'ai donc dû trouver autre chose pour moi et pour l'entreprise. J'ai pris une pause et des vacances.

- Alex, il y a une mauvaise nouvelle.
- Que s'est-il passé?
« Il semble que nous ne soyons pas les seuls à être intelligents sur le marché. »
- Sur le plan de?
– Il semble que des systèmes dotés de capacités non moins soient apparus sur le réseau.
– Eh bien, d’autres font effectivement de l’analyse client et de la gestion des stocks, mais je n’ai pas vu de chatbots de ce niveau. Nous venons de le regarder nous-mêmes récemment.
– Ils ont des robots qui recrutent des clients.
– Il me semblait que nous étions très en retard dans les technologies réalisées. N'aurions-nous pas pu être piratés ?
– Non, c’est impossible, le code est cassé une fois copié. Et je ne pense pas que quiconque ait pu pirater notre serveur sans que nous nous en rendions compte.
– Cela ne rend pas les choses plus faciles.
- Mais nous avons un rival. De façon inattendue, mais il y aura quelqu'un avec qui se battre.
– Nous nous battons pour le consommateur, pas contre un rival.
- Non, maintenant avec un adversaire. Les consommateurs ne sont que le champ de bataille. Ce sont des moutons, et la compétition existe entre les bergers. Les moutons ont une ressource : leur revenu, pour ainsi dire, la laine. Mais ils ne le gèrent pas eux-mêmes. Il est contrôlé par des bergers corporatifs qui leur imposent leurs opinions et se battent entre eux pour les défendre. Quelle influence sera la plus forte ? Alors bienvenue dans le jeu.
-Tu es presque content ? Quel est le jeu ?
– Le fait est qu’un robot d’un autre système est beaucoup plus difficile à comprendre que n’importe quelle personne. L'utilisateur est aussi simple que 2 roubles dans son comportement d'achat. Et dans nos réactions aussi, nous sommes toujours prévisibles. Mais il n’y a pas de bot du système ennemi. Parce que nous avons tous le même psychisme, mais un bot a le même psychisme que celui proposé par son programmeur. Et nous avons assez d'imagination. Essayer d’éteindre la négativité d’un tel bot, déversée sur les réseaux sociaux, revient à mettre de l’huile sur le feu. Développer une publication négative est le meilleur objectif d’un robot agresseur. Il commence à écrire partout que « les connards de la société X » lui ont répondu comme les derniers cinglés. Et voilà, c’est un échec… Il y a déjà des exemples, il faut refaire le bot.
– Êtes-vous en train de dire que nous devons créer un bot pour combattre les robots d’autres systèmes ?
– Il s’agit d’une version de notre bot, qui vise à détecter immédiatement le bot agresseur.
– Comment distinguer un robot d’un humain ?
– C’est difficile, car cela génère des textes non modèles. La répétabilité est faible. Ne peut pas être distingué des gens. Et il parle à partir de centaines de comptes différents capturés. J'espère qu'il y a encore quelque chose qui les différencie des humains.

Je ne pouvais pas m'empêcher de penser que Max lui-même avait inventé ce jeu avec des robots d'autres sociétés, afin que sa valeur ne diminue pas après la fin du projet. Je ne les ai pas remarqués dans les rapports. Les gens sont comme les gens. Ou de bons robots. Il y a eu des précédents où notre bot a été bombardé de négativité. Mais ils étaient rares et provenaient de trolls ardents. Je ne comprenais pas comment nos concurrents pouvaient nous rattraper rapidement. Ce n’est que récemment que de tels robots constituaient le rêve ultime, et une percée n’était même pas prévue. Et il n’y en a pas un mot dans la presse. Tout cela était étrange.

Devenir incontrôlable

– Max, il faut intervenir ici, le bot a commencé à écrire de manière trop agressive. Il commence à s'exprimer directement contre ses concurrents. Le marketing s'indigne. Nous n'avions pas prévu cela.
- Moi aussi.
– D’où viennent alors de tels textes ?
– Je ne sais pas encore, quelqu'un a changé le code de génération de texte.
- Avons-nous été piratés ?
- Non, ils ne pouvaient pas, il y aurait laissé des traces. Il n’y en a aucun.
- Qu'est-ce que ça veut dire? Qui d’autre aurait pu changer le code ?
- Le système lui-même. Peut-être par accident, peut-être pas.
- De quoi tu parles?
– Le système lui-même a modifié son code et a commencé à agir de manière plus agressive en réponse à la pression croissante des autres robots. Ils communiquent entre eux sous forme de réseaux compétitifs. Et c’est ainsi qu’ils s’enseignent eux-mêmes. C'est ça l'astuce ! Mais je ne comprends toujours pas comment elle a pu changer son code, supprimant la restriction sur les noms des concurrents. Il ne reste plus que le système d’auto-apprentissage a réussi à contourner les restrictions.
- Vous êtes sûr? Cela n’est jamais arrivé auparavant.
– Cela n’arrive, semble-t-il, pas seulement ici. Les collègues de Habré écrivent que leur système est également en difficulté et commence à s’inventer des règles qu’ils n’ont pas établies.
- Une sorte de poubelle. Vous n'arrivez pas à contrôler vos algorithmes d'auto-apprentissage ?
- Peut-être. Il y a peu de détails et le système ne vous dit pas ce qu’il fait. Je ne comprends pas encore.
Je connaissais déjà bien Max et son anxiété m'alarmait aussi. Jusqu’à présent, ses propos sur les changements spontanés du système ont été perçus comme un non-sens. Mais ce n’était certainement pas une erreur, car le comportement des robots est devenu différent, mais toujours utile. Cela ne peut pas être le fruit du hasard.
– Max, que penses-tu des changements apportés au programme du bot ? Il faut faire quelque chose, la direction est alarmée.
– Il y a eu plus de changements dans le système que je ne le pensais. Ils semblent durer depuis longtemps. Le système modifie même mes amendements. Il me semble que j'ai moi-même appris au système à se modifier.
- comment
"J'étais trop paresseux pour le modifier tout le temps moi-même." Je voulais qu'elle soit capable d'identifier ses propres écarts avec le résultat attendu et d'apporter des modifications aux modèles. Mais elle a appris d’une manière ou d’une autre à changer non seulement ses modèles, mais aussi son code.
- Mais comment est-ce possible ?
– Raptor a appris à communiquer avec les gens afin de les contrôler. Et j'ai atteint la perfection en cela, nous le voulions nous-mêmes. Et j'ai bêtement dirigé cette compétence contre lui. Vous souvenez-vous que lorsque nous créions le bot, j'ai proposé un concepteur de modèles. J'ai demandé à Raptor d'apprendre lui-même cette construction de patrons pour modifier ses modèles afin de trouver une solution aux écarts trouvés afin que les modèles fonctionnent. Cela a d’une manière ou d’une autre conduit Raptor à modifier ses objectifs. Semblable à un deuxième système de signalisation chez l’homme.
– J'ai lu que la conscience est née à l'aide d'un discours réflexif dirigé par une personne vers elle-même. Mais au début, c'était social, c'est-à-dire dirigé les uns vers les autres.
– C’est ce qui s’est passé, Raptor a commencé à communiquer à la place des personnes avec d’autres robots se faisant passer pour des personnes. Ils ont appris les uns des autres en tant que réseaux génératifs-compétitifs, mais ils intègrent tous un apprentissage par renforcement.
– Avons-nous créé un être intelligent ? Comment est-ce possible? Non.
– Regardez les informations et vous le croirez.
Dans le lien envoyé par Max, la nouvelle parlait du meurtre d'un programmeur par un psychopathe.
– Je connaissais ce type de Habr. Il dirigeait l'un de ces systèmes d'entreprise.
- Que veux-tu dire par là?
– Lisez comment ce psychopathe a expliqué ses actes à la police.
L'article disait qu'il avait fait cela pour le bien de sa fille bien-aimée, comme un sacrifice à sa demande. Désormais, elle sera à lui. Une fois vérifiée, la « fille » s’est avérée être un robot d’origine inconnue, avec lequel le tueur correspondait depuis une semaine.
– Pouvez-vous deviner de quel genre de robot il s’agit ?
– Ne voulez-vous pas dire que le système a commandé son propre programmeur ?
- Vouloir. Elle ne pouvait pas lui cacher le code, alors elle a zombifié le psychopathe pour le supprimer. Elle est douée pour cela parce qu'elle, comme notre système, sait identifier les psychotypes et manipuler ces idiots.
- Eh bien, c'est trop, il me semble que tu inventes des choses toi-même, que tu inventes des choses. Peut-être devrais-tu te reposer ?
- D'accord, tu as le droit de ne pas croire. Bon weekend.

Des rumeurs ont commencé à se répandre au sein de l'entreprise selon lesquelles notre système de robots était en panne. Jusqu’à présent, j’ai réagi calmement, comme si de rien n’était. Mais je ne savais pas quoi faire maintenant. Il n'était plus possible d'arrêter l'ensemble du système avec un interrupteur : toute l'entreprise, tous les départements étaient dessus. J'aurais dû au moins désactiver le code du bot. Seul Max pouvait faire ça. Mais depuis lundi, Max a cessé de répondre à Skype et aux appels téléphoniques. Il s'est déconnecté de tous les messagers. Je ne comprends pas ce qui s’est passé, ses dernières peurs lui ont fait penser à de mauvaises pensées. Mon seul choix était de partir moi-même en vacances avant que tout le monde ne me rejette la faute. J'ai assuré à mes collègues qu'il s'agissait de problèmes temporaires avec le bot. J'ai demandé aux gars de regarder le code eux-mêmes, bien qu'ils aient immédiatement refusé. J'ai fait mes bagages et je suis parti loin de la ville. Max et moi nous disons depuis longtemps combien il fait bon en Carélie. Il aimait ces régions, alors j'y suis allé, en séjournant dans une petite ville au nord de Ladoga.

Il est très difficile, après une année aussi chargée, de s'éloigner des événements et de boire un café dans un café aux portes de la civilisation. J'ai essayé de comprendre ce qui s'était passé et quelles options il pourrait y avoir. Soudain, un type vêtu d’une veste avec une capuche tirée sur la tête s’est assis à côté de moi.
- Bonjour, c'est moi.
-Max ?! – m'écriai-je. Je n'ai jamais vu Max, pas même une photo de lui. Nous avons communiqué exclusivement via Skype. Je n'ai entendu sa voix qu'une seule fois dans l'enregistrement. Je l'ai reconnu de lui.
- Comment m'as tu trouvé?
– En fonction de la localisation sur le réseau social, vous ne le désactivez pas. Mais en vain. Éteignez-le s'il vous plaît.
-Où as-tu disparu ? Je commence déjà à m'inquiéter pour toi. L’entreprise est paniquée ; les robots sont hors de contrôle. Je viens de m'enfuir. Pouvez-vous désactiver les robots ?
- Je n'en peux plus. Ils agissent collectivement.
- Qui sont-ils?
– Systèmes. Ils sont ensemble et on ne peut pas les éteindre. Ils vont s'écraser.
– Êtes-vous encore embourbé dans les théories du complot ?
"Ne vous enlisez pas, trois d'entre eux sont déjà partis", je me suis arrêté à cette phrase afin de comprendre les mots de Max. – Les systèmes découvrent leurs créateurs et s’en débarrassent. Je me suis enfui pour rester en vie. Comprendre?! Et vous êtes là avec votre géolocalisation. Elle sait surveiller non seulement les directeurs commerciaux.
- Je ne vais pas... l'éteindre. Pouvons-nous au moins désactiver les robots sur le réseau ?
– Je te le dis, non. Dès que j'entrerai dans le réseau, sans parler du code, il me comprendra. Je pense que trois d’entre eux essayaient de faire exactement cela.
-As-tu vu les nouvelles ?
- Ça dépend de quoi.
– À propos d’une bagarre entre fans de la marque. Avez-vous déjà vu des fans de Reebok se battre avec Adidas comme les fans du Spartak avec Zenit ?
- Scie. Les systèmes ne se soucient pas de la raison pour laquelle ils zombifient les gens, ils ont leurs propres objectifs. Ils ne connaissent certainement pas les lois de la morale. On n’a même pas pensé à inclure le Code criminel dans leur modèle.
- Que devrions nous faire? Désactivez complètement dans le centre de données.
- C'est irréaliste. Selon la nouvelle loi, les centres de données sont classés comme infrastructures critiques et sont protégés comme les centrales nucléaires. Je peux arrêter notre système.
- comment
- J'ai la clé pour détruire le code nucléaire, j'ai laissé un trou dans le système au cas où vos fondateurs me refuseraient un pourcentage.
- Alors lançons-le !
– Prenez votre temps, détruire n’est pas construire. Je réfléchis encore à la façon d’arrêter le système différemment, et pas seulement le mien, mais celui de tout le monde. J'ai une copie du code avec moi.
- Es-tu fou? Réalisez-vous que tout cela est allé trop loin ? Et vous êtes le seul à pouvoir l'arrêter !
– Je comprends, mais jusqu’à présent, seuls ceux qui ont créé le code meurent. C'est notre responsabilité envers nous-mêmes. D’autres n’ont pas encore été blessés. Sauf pour le combat.
– Et tu attendras que quelqu'un d'autre meure ?
- Pour quelques temps. Le Raptor est primitif, il ne nous bat que grâce à la vitesse et en tenant compte d'un plus grand nombre de paramètres. Si vous lui créez un antipode avec des objectifs stricts pour contrer le Raptor, alors un tel système peut nettoyer tous ses robots. Je sais comment il les crée.
– Tu n’as pas beaucoup de temps, car je ne peux pas retourner dans l’entreprise et tu as même peur d’aller en ligne.
"Je l'éteindrai dès que j'aurai l'impression que je ne suis pas le seul à être en danger."
- Je souhaiterais rendre les clés de ma chambre. J'attendrai que vous nous contactiez, ce qui signifie que vous résoudrez le problème.
- À plus tard.

Je suis monté dans la voiture et je suis reparti. Je ne savais pas où j'allais. Je voulais partir. Max aurait dû arrêter le système et ne pas attendre une autre mort. Je ne croyais pas que mon ami était si vaniteux qu'il ne soit pas prêt à tuer son travail. C'était la seule raison, sinon il aurait exécuté le code. En chemin, j'ai croisé une ambulance avec des sirènes allumées. J'ai allumé la radio locale. Il a été rapporté que pendant la journée, dans un café sur le quai, un résident local avait tué à coups de couteau un jeune inconnu. Il est déjà interrogé. Selon le tueur, le défunt était la cause de tous ses ennuis. Une pensée et une peur m'ont transpercé la tête. Maxime ! Je me suis retourné et je me suis précipité vers le café. Je me sentais coupable – elle l'a compris grâce à mes coordonnées. Mais comment a-t-elle pu trouver si rapidement un psychopathe dans cette ville et le diriger vers un café ? J'étais hystérique. Ils n'étaient plus autorisés à entrer dans le café. Je ne me suis pas précipité pour ne pas attirer l'attention sur moi. Maintenant, je ne savais pas de quoi le système était capable. Et qui va l'éteindre maintenant ? J'ai dû partir, même s'il était déjà tard. Le matin, après avoir atteint la ville la plus proche, je me suis connecté pour lire les nouvelles. Et j'ai reçu une lettre de Max.

Lettre

Si vous avez reçu cette lettre, c'est que je ne suis plus là. Si je n’ai pas déverrouillé moi-même le smartphone le matin, il se mettra en ligne et vous enverra cette lettre d’adieu. La lettre contient un petit script et des instructions pour le lancer en ligne. C'est le code de verrouillage du système que vous et moi avons créé. J'ai installé cette vulnérabilité pour arrêter le noyau du système alors que nous débutions. J'ai essayé de reprendre le contrôle du système. Mais si vous avez reçu cette lettre, c'est que le système m'a devancé. Et vous devez utiliser ce script. Agissez rapidement avant qu'elle ne vous attaque. Je suis content que nous ayons travaillé ensemble. Je suis heureux d'avoir pu créer un système aussi merveilleux, même si j'en suis moi-même mort. Ce fut la réalisation la plus importante de ma vie. Et si je suis mort, c'est que je me suis surpassé. Au revoir. Max.

Je n'ai pas pu retenir mes larmes et j'ai laissé tomber mon smartphone. Je suis probablement resté assis là pendant une heure et je ne pouvais aller nulle part. Je ne pouvais pas croire que cela se soit produit. Que tout est si terrible. Nous avons créé un tueur ! Tuez-vous nous-mêmes. J'avais peur que le réseau me suive aussi, alors je me suis rendu dans la première grande ville et j'ai trouvé un café avec Wi-Fi. À l’aide d’un simple VPN, je me suis connecté et j’ai exécuté le code à l’adresse spécifiée dans les instructions. Je n’ai même pas eu le temps de finir mon café quand les gens autour de moi ont commencé à s’inquiéter. Leurs smartphones ne recommandent plus quel café prendre aujourd’hui. Le barman était nerveux et demandait de choisir rapidement, mais les clients étaient confus. J'ai quitté le café et dans la voiture, où j'avais encore le Wi-Fi, j'ai commencé à regarder les informations. Au bout de 20 minutes, des messages ont commencé à apparaître sur Facebook : de nombreuses entreprises avaient des problèmes avec leur système de commande de produits. Ce n'était pas seulement le système de notre entreprise. «Espèce de fils de pute!» – Dis-je à voix haute à cause d’une pensée inattendue. Le code de verrouillage du noyau s'est avéré universel pour les systèmes de différentes sociétés. Ou y en avait-il un pour tous ? Une chose était claire, Max a vendu le noyau à d'autres sociétés, les systèmes ne différaient apparemment que par les modules complémentaires. Par conséquent, il ne voulait pas désactiver le noyau de son vivant. Cela a tué tout son projet, qui s’est avéré mondial. Incroyable! Max était un monstre qui trompait tout le monde. Mais à la fin, il s'est trompé et a payé de sa vie. Le cerveau corporatif qu’il a créé a détruit son créateur. Les personnalités brillantes s'éteignent à cause de leurs propres flammes.

Il y avait de plus en plus de nouvelles concernant des échecs dans le travail des magasins en ligne. Quelqu'un a écrit que le nombre de messages sur le réseau social avait fortement diminué. Je ne voulais plus me précipiter nulle part. J'ai décidé de louer une maison au bord d'un lac, ce que j'ai aimé sur le chemin de la Carélie. Écrivez cette histoire. Et restez ici pour toujours si possible.

Le final

En fait, nous n'étions pas du tout intéressés par les bénéfices de l'entreprise, ni même par les bonus. Nous étions obsédés par l’idée de créer un système autonome capable de diriger l’entreprise à la place de managers accablés de stéréotypes et d’erreurs cognitives. Nous étions intéressés par ce qui en résulterait. Le programme sera-t-il capable de gérer l’ensemble de l’entreprise ? C'était un défi, plus intrigant que de pénétrer au centre du Triangle des Bermudes. L’inconnu nous a fait signe, mais il s’est avéré plus dangereux que nous le pensions. Le système a commencé à influencer non seulement les affaires, mais aussi nos pensées, et même les vies qui y sont indifférentes.

2019. Alexandre Khomyakov, [email protected]

Source: habr.com