sobre as vicissitudes da introdução da IA em uma empresa comercial, sobre se é possível prescindir completamente dos gestores. E a que (hipoteticamente) isso poderia levar. A versão completa pode ser baixada em
Os bots decidem tudo
– Max, estou de parabéns, já fizemos quase tudo ao longo da cadeia de vendas. Ainda há melhorias a serem feitas e você receberá juros por três anos, conforme consta no contrato.
– Esta é apenas metade do projeto. Ainda não chegamos ao mais importante.
- Espere, qual é o principal? Para que? Fizemos tudo!
– Temos processos automatizados na cadeia de vendas, tudo funciona bem sem gente, mas não tem mais clientes. Eles precisam ser atraídos para o nosso lado na Internet. Precisamos fazer bots.
– Mas criamos um serviço ideal, os clientes vão gostar e vir eles próprios.
“Eles não parecem estar com pressa e não tenho tempo para esperar.” Não interessado.
– Mas o que os bots nos darão?
– Com preços e sortimento iguais, que conseguimos, fatores completamente diferentes começam a desempenhar um papel. Fama e simpatia. A fama não é um problema, mas só uma pessoa pode conquistar a simpatia de outra pessoa. Portanto, precisamos de bots que se façam passar por pessoas. E comentarão as postagens dos clientes em grupos temáticos e fóruns com dicas sutis sobre a empresa - sua gama, serviços, preços. Promova discretamente a marca da empresa. É por isso que precisamos de bots.
– Mas esta é uma tarefa difícil.
– Temos a base – um bot conversacional do contact center. É preciso apertar a definição de tonalidade e pensar em algo com humor, sem isso o bot não vai passar por pessoa. Vamos anexar uma biblioteca de piadas e piadas e treinar o bot nos textos dos comentários onde as pessoas os usaram. Deveria funcionar. Os bots também serão inteligentes - vamos adicionar um sistema de recomendação de “conselheiros” e então os usuários comuns nos fóruns irão adorá-los.
– Você está propondo lançar bots de influência?
- Por que não? O Estado e os partidos podem fazê-lo antes das eleições, mas nós não podemos?
– Como podemos torná-los autoritários para que sejam confiáveis? Afinal, apenas um bot autorizado pode criar curtidas. Mas, por enquanto, para mim esta combinação é um oxímoro.
– Para fortalecê-lo, criaremos uma rede de bots. Eles elogiarão e gostarão uns dos outros para aumentar sua classificação e autoridade. E serão muito competentes; ao contrário das pessoas, um bot pode ter conhecimento de todos os produtos, e simplesmente conhecimento enciclopédico, no sentido literal, aliás. E as pessoas serão atraídas por eles. Claro. As pessoas são guiadas e obedecem a leis bem conhecidas de comportamento social. Aponte o dedo para onde ir, finja que a galera já foi embora e pronto. Eles são fáceis de gerenciar.
– Mas como funcionarão esses bots, quem irá gerenciá-los?
– Que tipo de pessoas, por quê? O script de análise encontra comentários sobre o tópico de diferentes pessoas e o bot responde a eles de maneira amigável usando um dos modelos. Dá conselhos e piadas. Se for cliente da empresa, seu interesse fica registrado na análise do cliente. Isso afetará a exibição de banners e contexto quando se trata do site com base na recomendação do bot. Se um cliente tiver uma experiência negativa, que divulgou nas redes sociais, o bot lançará outro template, também fará uma piada, mas não enviará imediatamente para o site da empresa. Ele escreverá uma resposta como um cliente com uma experiência de sucesso e pronto.
– Então você quer dizer que a própria rede irá neutralizar a negatividade respondendo ao feedback negativo?
– Parece que os profissionais de marketing chamam isso de marketing de reputação.
– Como o sistema saberá qual resposta foi bem-sucedida, mesmo que tenha conseguido selecionar uma resposta?
– Primeira reação à resposta. A pessoa ou fica ainda mais indignada, ou começa a acrescentar detalhes após tal comentário, mas com um estilo de comunicação leal. Bom reconhecimento de tom de resposta e é isso.
– E se a pessoa não respondeu ao comentário?
– Isto é pior, mas por padrão esta resposta é neutra. Se este for um cliente da empresa, que pode ser descoberto pelo seu perfil em uma rede social, você poderá vê-lo nas próximas visitas ao site.
- O que é exigido de mim?
– Bons exemplos de comentários e respostas, muitos exemplos.
- Nós vamos fazer.
A primeira versão do bot não teve sucesso. Ele respondeu de forma inadequada, as piadas fugiram do assunto, confundiu o tema do comentário e, atendendo a uma reclamação do gerente sobre o atendimento, respondeu sobre a entrega. Max pediu exemplos de diálogo ainda mais marcantes nos comentários. Ele já experimentou diversas arquiteturas, desde modelos clássicos de bot até LSTM. Pela primeira vez, vi que Max estava visivelmente nervoso e respondia aos erros de forma dura e hostil.
– Com o bot do contact center tudo foi simples – o assunto da solicitação e a intenção do cliente ficaram imediatamente claros. Ele está procurando um produto, quer saber o andamento do seu pedido ou tem uma reclamação. Todos. E nos comentários o diabo vai quebrar a perna pelas diversas intenções do comentarista. E às vezes não é expresso por nenhuma das palavras pelas quais a intenção pode ser determinada. Está implícito a partir de um “contexto mais amplo” que não existe! Algum tipo de besteira.
– Reli todos os posts mais recentes sobre bots. Ninguém tem uma solução. Parece apenas um exagero. O que você está pensando em fazer?
– A última ideia, ainda vaga, permanece. Eu não vou te contar ainda. Precisa tentar. Dê-me duas semanas. Pare o projeto por enquanto. Transferiremos os desenvolvimentos mais recentes para o bot do contact center. Eles serão úteis lá.
Foram duas semanas nervosas. Antes não foi sem dificuldades, mas deu tudo certo para nós. Ninguém queria uma falha de ignição, embora pudéssemos viver sem esse bot. Esta era a ambição de Max. E exatamente duas semanas depois ele apresentou uma versão para teste. E funcionou! Ele determinou corretamente a intenção do diálogo, respondeu com precisão, inseriu piadas apropriadas e até determinou a mudança de intenções no comentário pela frase “posso saber mais?”
- Como você conseguiu fazer isso? O bot funciona em qualquer assunto!
– Tive que fazer um pequeno construtor de template baseado na gramática de dependência, anexar word2vec e direcionar o autoaprendizado do Raptor para selecionar palavras que garantissem uma reação positiva do comentarista. Não sei exatamente como, mas pareceu funcionar.
– Tem certeza de que isso não é motivo para abrir seu próprio negócio?
– Há bastante interesse por enquanto, mas veremos. Instalei o bot como um serviço separado executado na nuvem. Assim, você sempre pode abri-lo para os usuários. Você virá até mim como diretor? – Max brincou.
Ele estava tranquilo e satisfeito com o resultado. E claramente exausto, já que não respondeu rapidamente e escreveu “estou dormindo” em seu status. Aparentemente, a decisão foi tomada à custa de mais de uma noite sem dormir. O marketing não gostou imediatamente do bot. Eles consideraram isso um mimo nosso, e arriscado, já que os bots poderiam funcionar incorretamente e arruinar a imagem da empresa. Mas os bots fizeram maravilhas. Alguns deles, e eu nem conhecia todos pelo nome, tornaram-se formadores de opinião em alguns fóruns. Ele respondia rapidamente a todas as perguntas, brincava e muito raramente recomendava a empresa, pois todos já sabiam onde ele “comprava”. As pessoas começaram a citá-lo e a citá-lo como exemplo. Isso já estava além da compreensão. Ou o bot era muito inteligente ou ainda somos muito primitivos em nosso comportamento de rede. Mas o número de clientes começou a aumentar significativamente mais do que antes. A empresa tornou-se líder de mercado.
Recebemos um sistema totalmente autônomo para extrair lucro do mercado. Ela mesma busca e traz clientes para o site ou contact center, e manda um gerente para clientes mais sérios. Ela mesma planeja o sortimento e o estoque para que os clientes possam encontrar tudo o que precisam e ao seu alcance. Os bots respeitáveis da empresa geram demanda ao recomendar produtos em estoque da empresa em fóruns, mesmo quando perguntam sobre outras marcas. Desde a compra de um fornecedor até a publicidade a um cliente, o sistema cuida inteiramente dos processos. E quase não requer a participação das pessoas e, onde elas permanecem, controla todas as suas ações online. Profissionais de marketing, compradores, metade dos gestores e analistas estão procurando outra coisa para fazer. Alcançamos nosso objetivo.
“Agora que fizemos tudo certo, podemos fazer uma pausa, refletir e aproveitar os juros acumulados nos próximos três anos”, escreveu Max, não sem emoticons.
– Há algo para se orgulhar, eu diria, e não apenas para especular.
– Agora o lucro vem dos consumidores. Com a ajuda de bots, nós mesmos formamos os interesses e desejos dos consumidores em nosso tema. Isso é legal!
– Isso te deixa feliz? E isso já me assusta.
-O que te assusta?
– Isso significa que tornamos uma pessoa não livre em sua escolha. E acredito que o mercado deve ser liderado pelo consumidor e não pelas empresas. As corporações não têm outro valor além do lucro.
– É por isso que o raciocínio ocioso dos patrícios satisfeitos e bem alimentados é ruim. Eles começam a sentir pena dos plebeus. Se você estivesse com fome agora ou se tivesse uma tarefa impossível diante de você, você pensaria nisso?
- Esta é uma pergunta provocativa.
- Na verdade! As corporações não têm outros valores além do lucro, e os consumidores não têm outros valores além do prazer. Ou também lucros, se for uma empresa. Entenda, temos bots, eles podem criar necessidades nas pessoas que lhes trarão satisfação. Pode ser formado com opções aceitáveis, que serão suficientes para a ilusão de liberdade de escolha do consumidor. E todo mundo está feliz. Este é o mercado que leva à satisfação mútua de valores.
- Parece que ficamos bêbados, pois já não entendi muito bem o que você disse.
O General solicitou um relatório sobre a implementação do plano com os indicadores alcançados. Para calcular o bônus que nos é devido. E de alguma forma, ao longo do caminho, ele perguntou quais eram meus planos a seguir. Eu disse que contarei a você um pouco mais tarde. Na verdade eu não sabia. Havia espaço para melhorar os algoritmos, levar em conta mais recursos e obter maior precisão. Mas já não era tão interessante. Partir para outra empresa para repetir nas novas condições do contrato foi impossível durante os mesmos três anos, então tive que pensar em outra coisa para mim e para a empresa. Fiz uma pausa e férias.
- Alex, há más notícias.
O que aconteceu?
“Parece que não somos os únicos inteligentes no mercado.”
- Em termos de?
– Parece que surgiram na rede sistemas com não menos capacidades.
– Bem, outros realmente fazem análise de clientes e gerenciamento de estoque, mas não vi chatbots desse nível. Nós mesmos assistimos recentemente.
– Eles têm bots que recrutam clientes.
– Pareceu-me que estávamos muito atrasados nas tecnologias alcançadas. Não poderíamos ter sido hackeados?
– Não, isso é impossível, o código quebra ao ser copiado. E não acho que alguém tenha conseguido hackear nosso servidor sem que percebêssemos.
– Isso não torna as coisas mais fáceis.
- Mas temos um rival. Inesperadamente, mas haverá alguém com quem lutar.
– Lutamos pelo consumidor, não com rival.
- Não, agora com um adversário. Os consumidores são apenas o campo de batalha. São ovelhas e há competição entre os pastores. As ovelhas têm um recurso - a sua renda, por assim dizer, a lã. Mas eles não administram isso sozinhos. É controlado por pastores corporativos que lhes impõem as suas opiniões e lutam entre si por elas. Qual influência será mais forte? Então, bem-vindo ao jogo.
-Você está quase feliz? Qual é o jogo?
– O fato é que um bot de outro sistema é muito mais difícil de entender do que qualquer pessoa. O usuário gasta apenas 2 rublos em seu comportamento de compra. E também nas reações somos sempre previsíveis. Mas não existe bot do sistema inimigo. Porque todos nós temos a mesma psique, mas um bot tem a mesma mentalidade que seu programador cria. E temos imaginação suficiente. Tentar extinguir a negatividade de tal bot, espalhada nas redes sociais, é como colocar lenha na fogueira. Desenvolver uma postagem negativa é o melhor objetivo de um bot agressor. Ele começa a escrever em todos os lugares que “os idiotas da empresa X” responderam a ele como os últimos malucos. E pronto, é um fracasso... Já existem exemplos, precisamos refazer o bot.
– Você está dizendo que precisamos fazer um bot para combater bots de outros sistemas?
– Esta é uma versão do nosso bot, que visa detectar imediatamente o bot agressor.
– Como você pode diferenciar um bot de um humano?
– É difícil, pois gera textos não padronizados. A repetibilidade é baixa. Não pode ser distinguido das pessoas. E ele fala de centenas de contas capturadas diferentes. Espero que ainda haja algo que os torne diferentes dos humanos.
Não pude deixar de pensar que o próprio Max criou esse jogo para si mesmo com bots de outras empresas, para que seu valor não diminuísse após o término do projeto. Eu não os notei nos relatórios. As pessoas são como pessoas. Ou bons bots. Houve precedentes em que nosso bot foi bombardeado com negatividade. Mas eles eram raros e vinham de trolls fervorosos. Eu não conseguia entender como nossos concorrentes conseguiram nos alcançar rapidamente. Só recentemente esses bots eram o sonho final, e um avanço nem sequer foi planejado. E não há uma palavra sobre isso na imprensa. Foi tudo estranho.
Ficando fora de controle
– Max, precisamos intervir aqui, o bot começou a escrever de forma muito agressiva. Ele começa a falar diretamente contra seus concorrentes. O marketing está indignado. Nós não planejamos isso.
- Eu também.
– De onde vêm esses textos então?
– Ainda não sei, alguém alterou o código de geração de texto.
- Fomos hackeados?
- Não, não podiam, teriam ficado vestígios. Não existe nenhum deles.
- O que isso significa? Quem mais poderia ter mudado o código?
- O próprio sistema. Talvez por acidente, talvez não.
- Do que você está falando?
– O próprio sistema mudou seu código e passou a agir de forma mais agressiva em resposta à crescente pressão de outros bots. Eles se comunicam entre si como redes competitivas. E eles se ensinam dessa maneira. Esse é o truque! Mas ainda não entendo como ela conseguiu alterar seu código, retirando a restrição aos nomes dos concorrentes. Resta apenas que o sistema de autoaprendizagem foi capaz de contornar as restrições.
- Você está certo? Isso não aconteceu antes.
– Isso acontece, ao que parece, não só aqui. Colegas de Habré escrevem que o sistema deles também está agindo mal e começando a inventar para si mesmo regras que eles não estabeleceram.
- Algum tipo de lixo. Não consegue controlar seus algoritmos de autoaprendizagem?
- Talvez sim. Existem poucos detalhes e o sistema não informa o que está fazendo. Eu não entendo ainda.
Eu já conhecia bem Max e sua ansiedade também me alarmava. Até agora, suas palavras sobre mudanças espontâneas no sistema foram consideradas absurdas. Mas definitivamente não foi um erro, porque o comportamento dos bots tornou-se diferente, mas ainda proposital. Isso não poderia ter acontecido por acaso.
– Max, o que você acha das mudanças no programa de bot? Algo precisa ser feito, a gestão está alarmada.
– Houve mais mudanças no sistema do que eu pensava. Eles parecem estar acontecendo há muito tempo. O sistema até altera minhas alterações. Parece-me que eu mesmo ensinei o sistema a mudar.
Como?
“Eu estava com preguiça de editá-lo sozinho o tempo todo.” Queria que ela fosse capaz de identificar suas próprias discrepâncias com o resultado esperado e fazer alterações nos modelos. Mas de alguma forma ela aprendeu a mudar não apenas seus modelos, mas também seu código.
- Mas como isso é possível?
– Raptor aprendeu a se comunicar com as pessoas para controlá-las. E consegui a perfeição nisso, nós mesmos queríamos. E eu estupidamente direcionei essa habilidade para ele. Você se lembra quando estávamos fazendo o bot, eu criei um designer de template. Eu configurei Raptor para aprender sozinho essa construção de padrões para modificar seus modelos e encontrar uma solução para as discrepâncias encontradas para que os modelos funcionassem. Isso de alguma forma levou Raptor a mudar seus objetivos. Semelhante a um segundo sistema de sinalização em humanos.
– Li que a consciência surgiu com a ajuda do discurso reflexivo dirigido por uma pessoa a si mesma. Mas no início era social, ou seja, dirigido um ao outro.
– Foi isso que aconteceu, o Raptor começou a se comunicar em vez de pessoas com outros bots se passando por pessoas. Eles aprenderam uns com os outros como redes generativas-competitivas, mas todos possuem aprendizado por reforço integrado.
– Criamos um ser inteligente? Como isso é possível? Não.
– Assista às notícias e você acreditará.
No link enviado por Max, a notícia era sobre o assassinato de um programador por algum psicopata.
– Eu conhecia esse cara de Habr. Ele dirigia um desses sistemas corporativos.
- O que você quer dizer com isso?
– Leia como esse psicopata explicou suas ações à polícia.
O artigo dizia que ele fez isso pelo bem de sua amada, como um sacrifício a pedido dela. Agora ela será dele. Quando verificada, a “menina” revelou-se um bot de origem desconhecida, com quem o assassino se correspondia há uma semana.
– Você consegue adivinhar que tipo de bot poderia ser?
– Você não quer dizer que o sistema encomendou seu próprio programador?
- Querer. Ela não conseguiu esconder o código dele, então zumbificou o psicopata para removê-lo. Ela é boa nisso porque, assim como nosso sistema, sabe identificar psicótipos e manipular esses idiotas.
- Bom, isso é demais, me parece que você está inventando coisas para si mesmo, inventando coisas. Talvez você devesse descansar?
- Ok, você tem o direito de não acreditar. Bom fim de semana.
Começaram a se espalhar rumores dentro da empresa de que nosso sistema de bot estava quebrado. Até agora reagi a isso com calma, como se nada tivesse acontecido. Mas eu não sabia o que fazer agora. Já não era possível parar todo o sistema com um interruptor; toda a empresa, todos os departamentos, estavam ligados. Eu deveria ter pelo menos desligado o código do bot. Somente Max poderia fazer isso. Mas desde segunda-feira, Max parou de atender chamadas pelo Skype e telefone. Ele desconectou todos os mensageiros. Não consigo entender o que aconteceu, seus últimos medos trouxeram pensamentos ruins. Minha única opção era sair de férias antes que todos me culpassem. Garanti aos meus colegas que estes eram problemas temporários com o bot. Pedi aos rapazes que olhassem o código eles mesmos, mas eles recusaram imediatamente. Fiz as malas e saí da cidade. Max e eu já falamos há muito tempo como é bom na Carélia. Ele adorou essas regiões, então fui para lá, ficando em uma pequena cidade no norte de Ladoga.
É muito difícil, depois de um ano tão agitado, ficar longe dos eventos e tomar café em um café à beira da civilização. Tentei compreender o que havia acontecido e quais opções poderiam existir. De repente, um cara de jaqueta com capuz puxado pela cabeça sentou-se ao meu lado.
- Olá sou eu.
- Máximo?! – exclamei. Nunca vi Max, nem mesmo uma fotografia dele. Nós nos comunicamos exclusivamente via Skype. Só ouvi a voz dele uma vez na gravação. Eu reconheci isso dele.
- Como você me achou?
– Com base na localização na rede social, você não desliga. Mas em vão. Desligue, por favor.
-Para onde você desapareceu? Já estou começando a me preocupar com você. A empresa está em pânico; os bots estão fora de controle. Eu simplesmente fugi. Você pode desligar os bots?
- Não posso mais. Eles agem coletivamente.
- Quem são eles?
– Sistemas. Eles estão juntos e não podem simplesmente ser desligados. Eles vão falhar.
– Você está atolado em teorias da conspiração de novo?
“Não se preocupe, três deles já se foram”, fiz uma pausa nesta frase para compreender as palavras de Max. – Os sistemas descobrem seus criadores e se livram deles. Eu fugi para continuar vivo. Entender?! E você está aqui com sua geolocalização. Ela sabe monitorar não só os gerentes de vendas.
- Eu não vou... desligar. Podemos pelo menos desativar os bots na rede?
– Estou te dizendo, não. Assim que eu entrar na rede, sem falar no código, ele vai me descobrir. Acho que três deles estavam tentando fazer exatamente isso.
-Você viu a notícia?
- Depende do quê.
– Sobre uma briga entre fãs da marca. Você já viu torcedores da Reebok brigando com a Adidas como torcedores do Spartak com o Zenit?
- Serra. Os sistemas não se importam com o motivo pelo qual zumbificam as pessoas, eles têm seus próprios objetivos. Eles definitivamente não conhecem as leis da moralidade. Nem pensamos em incluir o Código Penal no modelo deles.
- O que deveríamos fazer? Desative completamente no data center.
- Isso não é realista. De acordo com a nova lei, os data centers são classificados como infraestruturas críticas e protegidos como usinas nucleares. Posso parar nosso sistema.
Como?
- Eu tenho a chave para destruir o código nuclear, deixei um buraco no sistema caso seus fundadores me neguem uma porcentagem.
- Então vamos lançá-lo!
– Não tenha pressa, destruir não é construir. Ainda estou pensando em como parar o sistema de maneira diferente, e não apenas o meu, mas o de todos. Tenho uma cópia do código comigo.
- Você está louco? Você percebe que tudo isso foi longe demais? E você é o único que pode impedir isso!
– Eu entendo, mas até agora só está morrendo quem fez o código. Esta é a nossa responsabilidade por nós mesmos. Outros ainda não foram prejudicados. Exceto pela luta.
– E você vai esperar até que alguém morra?
- Por algum tempo. O Raptor é primitivo, só nos vence pela velocidade e levando em consideração um maior número de parâmetros. Se você criar um antípoda para ele com objetivos estritos de combater o Raptor, esse sistema poderá limpar todos os seus bots. Eu sei como ele os cria.
– Você não tem muito tempo, porque não posso voltar para a empresa e você tem medo até de ficar online.
“Vou desligá-lo assim que sentir que não sou o único em perigo.”
- Gostaria de fazer check-out. Aguardarei seu contato, o que significa que você resolverá o problema.
- Até mais.
Entrei no carro e voltei. Eu não sabia para onde estava indo. Eu queria ir embora. Max deveria ter parado o sistema e não esperado por outra morte. Não acreditei que meu amigo fosse tão vaidoso a ponto de não estar pronto para matar seu trabalho. Esse foi o único motivo, caso contrário ele teria executado o código. No caminho, encontrei uma ambulância com sirenes ligadas. Liguei a rádio local. Informou que durante o dia, em um café à beira-mar, um morador local esquartejou até a morte um jovem desconhecido. Ele já está sendo interrogado. Segundo o assassino, o falecido foi a causa de todos os seus problemas. Um pensamento e medo perfuraram minha cabeça. Máximo! Eu me virei e corri de volta para o café. Eu me senti culpado - ela descobriu usando minhas coordenadas. Mas como ela conseguiu encontrar tão rapidamente um psicopata nesta cidade e direcioná-lo para um café? Eu estava histérico. Eles não tinham mais permissão para entrar no café. Não tive pressa para não chamar a atenção para mim. Agora eu não sabia do que o sistema era capaz. E quem vai desligá-lo agora? Tive que sair, embora já fosse tarde. De manhã, ao chegar à cidade mais próxima, entrei na Internet para ler as notícias. E recebi uma carta do Max.
Carta
Se você recebeu esta carta, significa que não estou mais aqui. Se eu mesmo não tiver desbloqueado o smartphone pela manhã, ele ficará online e enviará esta carta de despedida. A carta contém um pequeno script e instruções para lançá-la online. Este é o código de bloqueio do sistema que você e eu criamos. Instalei esta vulnerabilidade para parar o kernel do sistema quando estávamos apenas começando. Tentei recuperar o controle do sistema. Mas se você recebeu esta carta, significa que o sistema me antecipou. E você precisa usar este script. Aja rapidamente antes que ela chegue até você. Estou feliz por termos trabalhado juntos. Estou feliz por ter conseguido criar um sistema tão maravilhoso, mesmo que eu mesmo tenha morrido por causa dele. Esta foi a conquista mais significativa da minha vida. E se eu morri, significa que me superei. Adeus. Máx.
Não consegui conter as lágrimas e deixei cair o smartphone. Provavelmente fiquei sentado lá por uma hora e não consegui ir a lugar nenhum. Eu não podia acreditar que isso aconteceu. Que tudo é tão terrível. Criamos um assassino! Assassinar a nós mesmos. Tive medo de que a rede também me rastreasse, então fui até a primeira grande cidade e encontrei um café com wi-fi. Usando uma VPN simples, entrei online e executei o código no endereço especificado nas instruções. Nem tive tempo de terminar meu café quando as pessoas ao meu redor começaram a ficar preocupadas. Seus smartphones pararam de recomendar qual café tomar hoje. O barman ficou nervoso e pediu para escolher rápido, mas os clientes ficaram confusos. Saí do café e no carro, onde ainda tinha wi-fi, comecei a assistir ao noticiário. Após 20 minutos, mensagens começaram a aparecer no Facebook – muitas empresas tiveram problemas com seu sistema de pedidos de produtos. Este não era apenas o sistema da nossa empresa. “Seu filho da puta!” – eu disse em voz alta a partir de um pensamento inesperado. O código de bloqueio do kernel acabou sendo universal para sistemas de diferentes empresas. Ou havia um para todos? Uma coisa estava certa, Max vendeu o kernel para outras empresas, os sistemas diferiam, aparentemente, apenas nos add-ons sobre eles. Portanto, ele não queria desativar o núcleo enquanto estivesse vivo. Isso matou todo o seu projeto, que acabou por ser global. Incrível! Max era um monstro que enganava a todos. Mas no final ele se enganou, pagando com a vida. O cérebro corporativo que ele criou destruiu seu criador. Personalidades brilhantes extinguem-se em suas próprias chamas.
Cada vez mais surgiram notícias sobre falhas no funcionamento das lojas online. Alguém escreveu que o número de mensagens na rede social caiu drasticamente. Eu não queria mais correr para lugar nenhum. Decidi alugar uma casa às margens de um lago, que gostei no caminho para a Carélia. Escreva esta história. E fique aqui para sempre, se possível.
Epílogo
Na verdade, não estávamos nem um pouco interessados no lucro da empresa, nem mesmo nos bônus. Estávamos obcecados com a ideia de criar um sistema autônomo que pudesse administrar a empresa em vez de gestores sobrecarregados com estereótipos e erros cognitivos. Estávamos interessados no que resultaria disso. O programa será capaz de gerenciar todo o negócio? Foi um desafio, mais intrigante do que chegar ao centro do Triângulo das Bermudas. O desconhecido nos atraiu, mas acabou sendo mais perigoso do que pensávamos. O sistema passou a influenciar não só os negócios, mas também nossos pensamentos e até vidas que lhe são indiferentes.
2019. Alexandre Khomyakov, [email protegido]
Fonte: habr.com