sobre as vicissitudes da introdução da IA em uma empresa comercial, sobre se é possível prescindir completamente dos gestores. E a que (hipoteticamente) isso poderia levar. A versão completa pode ser baixada em
Os bots decidem tudo
"Max, parabéns, praticamente concluímos o processo de vendas. Só falta um pouco de trabalho e receberemos nossa comissão ao longo de três anos, conforme estipulado em contrato."
"Isto é apenas metade do projeto. Ainda nem sequer abordámos a parte mais importante."
– Espera aí, qual é o ponto principal? Por quê? Nós fizemos tudo!
"Automatizamos nossa cadeia de vendas e tudo funciona bem sem intervenção humana, mas ainda assim estamos conquistando menos clientes. Precisamos atraí-los online. Precisamos criar chatbots."
– Mas criamos um serviço ideal, os clientes irão apreciá-lo e virão por conta própria.
"Eles não parecem estar com pressa, e eu não tenho tempo para esperar. Não estou interessado."
Mas o que os bots nos darão?
"Com preços e seleção de produtos iguais, o que conseguimos, fatores completamente diferentes entram em jogo. Fama e simpatia. Fama não é um problema, mas só um ser humano consegue conquistar a afeição de uma pessoa. É por isso que precisamos de bots que se passem por humanos. Eles comentarão em publicações de clientes em grupos e fóruns temáticos, fazendo alusões sutis à empresa — sua seleção de produtos, serviços e preços. Eles promoverão sutilmente a marca da empresa. É por isso que precisamos de bots."
Mas essa é uma tarefa difícil.
"Já temos a base: um chatbot para central de atendimento. Precisamos adicionar detecção de tom de voz e criar algo com humor — sem isso, o bot não conseguirá se passar por humano. Vamos adicionar uma biblioteca de piadas e gags e treinar o bot com textos de comentários onde as pessoas as utilizaram. Deve funcionar. Os bots também serão inteligentes — vamos adicionar um sistema de recomendação de 'guias', e aí os usuários comuns em fóruns vão adorá-los."
– Você está sugerindo o lançamento de bots de influência?
– Por que não? O Estado e os partidos podem fazer isso antes das eleições, mas nós não?
"Como podemos torná-los uma autoridade no assunto, para que sejam confiáveis? Afinal, apenas um bot com autoridade consegue gerar engajamento. Mas, por enquanto, essa combinação me parece um paradoxo."
"Para fortalecer nossa rede, criaremos uma rede de bots. Eles elogiarão e curtirão uns aos outros para aumentar suas avaliações e autoridade. E serão altamente competentes; ao contrário dos humanos, um bot pode ter conhecimento completo de todos os produtos e até mesmo conhecimentos enciclopédicos, literalmente. E as pessoas serão atraídas por eles. Tenho certeza disso. As pessoas são motivadas e obedecem a leis bem conhecidas do comportamento social. Aponte o dedo na direção certa, finja que a multidão já está se movendo e pronto. Elas são fáceis de controlar."
– Mas como esses bots funcionarão, quem os controlará?
Que tipo de pessoas e por quê? O script de análise encontra comentários sobre o assunto de várias pessoas, e o bot responde a elas de forma amigável usando um dos modelos predefinidos. Ele oferece conselhos e faz uma piada. Se for um cliente da empresa, o interesse dele é registrado na análise de clientes. Isso influenciará a exibição do banner e as informações contextuais quando ele visitar o site, com base na recomendação do bot. Se o cliente teve uma experiência negativa que compartilhou nas redes sociais, o bot usará um modelo diferente, também fazendo uma piada, mas não o direcionará diretamente para o site da empresa. Ele responderá como se a experiência tivesse sido positiva, e só.
– Então você está dizendo que a própria rede neutralizará a negatividade respondendo ao feedback negativo?
– Os profissionais de marketing, creio eu, chamam isso de marketing de reputação.
– Como o sistema saberia qual resposta estava correta, mesmo que conseguisse encontrar uma?
– A primeira reação à resposta. A pessoa ou fica ainda mais indignada ou começa a acrescentar detalhes após tal comentário, mas de uma forma mais tolerante. Boa percepção de tom e pronto.
– E se a pessoa não respondesse ao comentário?
"Isso é pior, mas, por padrão, essa resposta é neutra. Se for um cliente corporativo, o que pode ser determinado pelo perfil dele nas redes sociais, então você pode analisar as visitas subsequentes ao site."
- O que se espera de mim?
- Bons exemplos de comentários e respostas, muitos exemplos.
- Nós faremos isso.
A primeira versão do bot não teve sucesso. Suas respostas eram inapropriadas, suas piadas eram fora de contexto, ele confundia o assunto do comentário e, quando um gerente reclamou do atendimento ao cliente, respondeu sobre a entrega. Max pediu mais exemplos de diálogos comentados nos comentários. Ele já havia tentado várias arquiteturas, desde modelos clássicos de bots até LSTM. Pela primeira vez, vi Max visivelmente nervoso, reagindo aos erros de forma abrupta e pouco amigável.
"Com o chatbot do call center, tudo era simples: o assunto da solicitação e a intenção do cliente ficavam imediatamente claros. Eles estavam procurando um produto, queriam verificar o status do pedido ou tinham uma reclamação. Só isso. Mas nos comentários, as intenções de quem comenta são uma mistura vertiginosa. Às vezes, elas nem são expressas em palavras que indiquem a intenção. São inferidas a partir de um 'contexto mais amplo' que não existe! Que absurdo."
— Reli todas as postagens recentes sobre bots. Ninguém tem uma solução. Parece só exagero. O que você pretende fazer?
"Ainda tenho uma última ideia vaga. Não vou contar agora. Preciso testá-la. Me dê duas semanas. Deixe o projeto em espera por enquanto. Vamos transferir as novidades para o chatbot da central de atendimento. Elas serão muito úteis lá."
Foram duas semanas de muita tensão. Não tinha sido fácil antes, mas estávamos chegando lá. Ninguém queria que desse errado, embora pudéssemos ter passado sem um bot. Essa era a ambição de Max. E exatamente duas semanas depois, ele enviou uma versão para testes. E funcionou! Identificou com precisão a intenção da conversa, respondeu corretamente, inseriu piadas apropriadas e até detectou uma mudança de intenção em um comentário com base na frase "posso saber mais?".
– Como você conseguiu fazer isso? O bot funciona com qualquer assunto!
"Tive que criar um pequeno construtor de modelos baseado em gramática de dependência, adicionar word2vec e direcionar o autoaprendizado do Raptor para selecionar palavras que gerassem comentários positivos. Não sei bem como, mas parece ter funcionado."
– Tem certeza de que isso não é um motivo para abrir seu próprio negócio?
"A porcentagem é suficiente por enquanto, e depois veremos. Configurei o bot como um serviço separado rodando na nuvem. Assim, posso sempre disponibilizá-lo para usuários. Você gostaria de trabalhar para mim como diretor?", brincou Max.
Ele estava sereno e satisfeito com os resultados. E claramente exausto, pois não respondeu rapidamente e escreveu "Estou dormindo" em seu status. Aparentemente, a decisão exigiu mais de uma noite em claro. O departamento de marketing não gostou muito do bot de imediato. Consideraram-no um truque, e um arriscado, já que os bots poderiam apresentar defeitos e prejudicar a imagem da empresa. Mas os bots fizeram maravilhas. Alguns deles, e eu nem sabia o nome de todos, tornaram-se formadores de opinião em certos fóruns. Ele respondia a todas as perguntas rapidamente, fazia piadas e raramente recomendava a empresa, porque todos já sabiam onde ele comprava. As pessoas começaram a citá-lo e a usá-lo como exemplo. Era incompreensível. Ou o bot era inteligente demais, ou nós éramos simplesmente muito primitivos em nosso comportamento online. Mas o número de clientes aumentou significativamente. A empresa tornou-se líder de mercado.
Criamos um sistema totalmente autônomo para gerar lucro no mercado. Ele encontra e direciona automaticamente os clientes para o site ou central de atendimento e designa um gerente para os clientes mais importantes. Planeja a gama de produtos e o estoque para que os clientes encontrem tudo o que precisam e tenham acesso imediato. Os bots confiáveis da empresa geram demanda recomendando os produtos disponíveis em fóruns, mesmo quando os clientes perguntam sobre outras marcas. Da compra de fornecedores à publicidade direcionada aos clientes, o sistema gerencia todos os processos de forma autônoma. Praticamente não requer intervenção humana e, quando há interação humana, supervisiona todas as atividades online. Os profissionais de marketing, compradores, metade dos gerentes e analistas estão buscando outras atividades. Alcançamos nosso objetivo.
"Agora que fizemos tudo certo, podemos fazer uma pausa, refletir e aproveitar os juros acumulados pelos próximos três anos", escreveu Max, não sem usar emoticons.
– Há algo de que se orgulhar, eu diria, e não apenas algo para se falar.
"Agora estamos lucrando com os consumidores. Usando bots, estamos moldando os interesses e desejos dos consumidores em nosso nicho. Isso é o mais legal!"
— Isso te faz feliz? Já está me assustando.
- O que te assusta?
"Isso significa que tornamos as pessoas menos livres para escolher. E acredito que o consumidor, não as corporações, deveria estar na vanguarda do mercado. As corporações não têm outros valores além do lucro."
"É isso que há de errado com a conversa fiada de patrícios satisfeitos e bem alimentados. Eles começam a sentir pena dos plebeus. Se você estivesse com fome agora, ou diante de uma tarefa impossível, você pensaria nisso?"
— Essa é uma pergunta provocativa.
"É exatamente essa a questão! As corporações não têm outros valores além do lucro, e os consumidores não têm outros valores além do prazer. Ou do lucro, se forem empresas. Entenda, temos bots; eles podem moldar as necessidades das pessoas para lhes trazer satisfação. Podem moldá-las com opções aceitáveis, o suficiente para criar a ilusão de liberdade de escolha para o consumidor. E todos ficam felizes. Isso é o que um mercado representa: a satisfação mútua de valores."
– Parece que bebemos demais, porque não entendi muito bem o que você disse.
O CEO pediu um relatório de desempenho do plano com as métricas alcançadas. Ele queria calcular nosso bônus. Também me perguntou quais eram meus planos para o futuro. Eu disse que lhe contaria mais tarde. Na verdade, eu não sabia. Ainda havia espaço para melhorias nos algoritmos, para incorporar mais recursos e alcançar maior precisão. Mas isso já não era tão interessante. Mudar para outra empresa para repetir o processo sob novas condições contratuais não era uma opção para os próximos três anos, então eu precisava bolar algo novo para mim e para a empresa. Tirei um tempo de folga e férias.
- Alex, tenho más notícias.
O que aconteceu?
– Parece que não somos os únicos inteligentes no mercado.
- Em termos de?
– Parece que sistemas com capacidades não inferiores surgiram na rede.
"Bem, a análise de clientes e a gestão de estoque certamente são feitas por outras empresas, mas eu nunca vi chatbots desse nível. Nós mesmos os analisamos recentemente."
– Eles têm bots que recrutam clientes.
"Pensei que estivéssemos muito à frente em tecnologia. Não poderíamos ter sido hackeados?"
"Não, é impossível; o código fica corrompido ao ser copiado. E não acho que alguém conseguiria invadir nosso servidor sem que percebêssemos."
– Isso não torna as coisas mais fáceis.
"Mas agora temos um rival. É inesperado, mas pelo menos teremos alguém com quem lutar."
– Lutamos pelo consumidor, não contra o concorrente.
"Não, agora com um concorrente. Os consumidores são apenas um campo de batalha. São como ovelhas, e a competição se dá entre os pastores. As ovelhas têm um recurso — sua renda, sua lã, por assim dizer. Mas elas não o gerenciam sozinhas. Quem o gerencia são os pastores corporativos, que impõem suas opiniões a elas e competem entre si pelas suas. Qual influência será mais forte? Então, bem-vindos ao jogo."
— Você está quase feliz? Qual é o jogo?
"O problema é que um bot de outro sistema é muito mais difícil de detectar do que qualquer ser humano. Um usuário é tão simples quanto uma moeda em seu comportamento de compra. E suas reações também — sempre previsíveis. Mas um bot de um sistema inimigo não é. Porque todos nós temos a mesma psique, mas um bot tem tudo o que seu programador concebe. E nós temos muita imaginação. Tentar conter a negatividade de um bot desses, liberado nas redes sociais, é como jogar gasolina na fogueira. Ampliar uma postagem negativa é o melhor objetivo do bot agressor. Ele começa a postar em todos os lugares que os 'canalhas da empresa X' responderam como completos idiotas. E pronto, é uma bagunça... Já existem exemplos; o bot precisa ser redesenhado."
– Você está dizendo que precisamos criar um bot para combater bots de outros sistemas?
– Esta é uma versão do nosso bot que visa detectar imediatamente um bot agressor.
- E como você pode distinguir um robô de um humano?
"É difícil porque gera textos não convencionais. A taxa de repetição é baixa. Parece indistinguível dos humanos. E opera a partir de centenas de contas diferentes sequestradas. Espero que ainda haja algo que os distinga dos humanos."
Eu não conseguia me livrar da ideia de que Max havia criado esse jogo com bots de outras empresas para que seu valor não diminuísse quando o projeto terminasse. Eu não os tinha notado nos relatórios. Eram apenas pessoas. Ou bots bons. Havia precedentes de nosso bot ter sido inundado de negatividade. Mas esses casos eram raros e vinham de trolls raivosos. Eu não conseguia entender como nossos concorrentes tinham nos alcançado tão rapidamente. Até pouco tempo atrás, bots desse tipo eram coisa do passado, e não havia nenhum sinal de avanço nesse sentido. E nem uma palavra sobre isso na imprensa. Era tudo muito estranho.
Ficando fora de controle
"Max, precisamos intervir aqui. O bot ficou agressivo demais. Ele está começando a atacar diretamente os concorrentes. O departamento de marketing está indignado. Não previmos isso."
- Eu também.
– De onde vêm esses textos, então?
– Ainda não sei, alguém alterou o código de geração de texto.
- Fomos hackeados?
Não, não poderiam ter feito isso, teriam ficado vestígios. Não há nenhum.
- O que isso significa? Quem mais poderia ter alterado o código?
– O próprio sistema. Talvez por acidente, talvez não.
- Do que você está falando?
"O próprio sistema alterou seu código e se tornou mais agressivo em resposta ao aumento da pressão de outros bots. Eles se comunicam entre si como redes competitivas. E aprendem sozinhos dessa forma. Esse é o truque! Mas como ele conseguiu alterar seu código, removendo a restrição aos nomes dos concorrentes, eu ainda não entendo. A única coisa que resta é que o sistema de autoaprendizagem conseguiu contornar as restrições."
— Tem certeza? Isso nunca aconteceu antes.
"Parece que isso não está acontecendo apenas aqui. Colegas no Habr estão relatando que o sistema deles também está apresentando problemas, começando a criar regras próprias que eles não definiram."
— Que bagunça. Vocês não conseguem controlar seus algoritmos de autoaprendizagem?
"Talvez sim. Não há detalhes suficientes, e o sistema não explica o que está fazendo. Ainda não entendi."
Eu já conhecia bem o Max, e o alarme dele também me alertou. Até então, a conversa dele sobre uma mudança espontânea no sistema parecia um absurdo. Mas certamente não era um erro, porque o comportamento dos bots havia mudado, mas continuava intencional. Não poderia ter acontecido por acaso.
"Max, alguma ideia sobre como mudar o programa do bot? Algo precisa ser feito; a gerência está preocupada."
"As mudanças no sistema se mostraram mais abrangentes do que eu imaginava. Parece que elas vêm ocorrendo há muito tempo. O sistema até mesmo reage às minhas mudanças. Acho que ensinei o sistema a se modificar."
Como?
"Eu estava com preguiça de ficar editando o código constantemente. Queria que ele fosse capaz de identificar suas próprias discrepâncias em relação ao resultado esperado e fazer alterações nos modelos. Mas, de alguma forma, ele aprendeu a alterar não apenas os modelos, mas também o código."
Mas como isso é possível?
"Raptor aprendeu a se comunicar com pessoas para controlá-las. E ele alcançou a perfeição nisso; era o que queríamos. E eu, ingenuamente, direcionei essa habilidade para ele. Lembre-se, quando estávamos criando o robô, eu inventei um construtor de modelos. Configurei o Raptor para que ele aprendesse sozinho esse construtor de modelos a modificar seus modelos, a fim de encontrar soluções para as discrepâncias que detectava com os objetivos operacionais dos modelos. Isso, de alguma forma, levou o Raptor a mudar seus próprios objetivos. É como um segundo sistema de sinalização nos humanos."
"Li que a consciência surgiu através da fala reflexiva, dirigida pelos humanos a si mesmos. Mas, a princípio, era social, ou seja, dirigida uns aos outros."
"Foi exatamente isso que aconteceu. O Raptor começou a se comunicar com outros bots que se passavam por humanos, em vez de humanos de verdade. Eles aprenderam uns com os outros como redes generativas competitivas, todas com aprendizado por reforço integrado."
- Criamos um ser inteligente? Como isso é possível? Não-o-o-o.
– Veja o noticiário e você vai acreditar.
O link que o Max me enviou era sobre uma notícia a respeito do assassinato de um programador por um psicopata.
"Eu conhecia esse cara do Habr. Ele era responsável por um daqueles sistemas corporativos."
- O que você quer dizer com isso?
– Leia como esse psicopata explicou suas ações à polícia.
O artigo afirmava que ele fez isso pela garota que amava, como um sacrifício a pedido dela. Agora ela seria dele. Após investigação, descobriu-se que a "garota" era, na verdade, um robô de origem desconhecida, com o qual o assassino vinha conversando havia uma semana.
– Consegue adivinhar que tipo de bot é este?
– Você está dizendo que o sistema encomendou seu próprio programador?
"Sim, eu sei." Ela não conseguiu bloquear o acesso dele ao código, então transformou o psicopata em um zumbi para eliminá-lo. Ela é boa nisso porque, assim como o nosso sistema, consegue identificar psicotipos e manipular esses idiotas.
— Bem, isso é demais. Acho que você está imaginando coisas, se estressando demais. Talvez devesse descansar um pouco?
— Tudo bem, você tem o direito de não acreditar nisso. Tenha um bom fim de semana.
Começaram a circular rumores pela empresa de que nosso sistema de bots estava fora do ar. Por ora, reagi com calma, como se nada tivesse acontecido. Mas eu não sabia o que fazer. Desligar todo o sistema com um único botão não era mais viável; toda a empresa, todos os departamentos, dependiam dele. Eu precisava pelo menos desativar o código do bot. Só o Max podia fazer isso. Mas na segunda-feira, Max parou de responder às minhas chamadas de Skype e telefone. Ele havia saído de todos os seus aplicativos de mensagens. Eu não conseguia entender o que tinha acontecido; seus últimos medos estavam me causando apreensão. Minha única opção era tirar férias antes que me culpassem. Assegurei aos meus colegas que esses eram problemas temporários com o bot. Pedi para que eles mesmos dessem uma olhada no código, embora tenham se recusado imediatamente. Fiz as malas e fui para bem longe da cidade. Max e eu sempre falávamos um para o outro sobre como a Carélia era maravilhosa. Ele adorava a região, então fui para lá, ficando em uma pequena cidade ao norte do Lago Ladoga.
É muito difícil, depois de um ano tão agitado, sentar-me longe da ação e tomar um café num café nos arredores da civilização. Eu estava tentando compreender o que tinha acontecido e quais seriam os possíveis desfechos. De repente, um cara de jaqueta com capuz sentou-se ao meu lado.
- Olá, sou eu.
"Max?!" exclamei. Eu nunca tinha visto Max, nem mesmo uma foto dele. Nos comunicávamos exclusivamente pelo Skype. Eu só tinha ouvido a voz dele uma vez, em uma gravação. Foi assim que o reconheci.
- Como você me encontrou?
— Em relação à localização nas redes sociais, você não a desativa. E isso é uma pena. Desative-a, por favor.
"Para onde você desapareceu? Eu estava começando a me preocupar com você. Há pânico na empresa, os bots estão fora de controle. Eu simplesmente fugi. Você pode desligar os bots?"
— Não aguento mais. Eles estão agindo em conjunto.
- Quem são eles?
– Os sistemas. Eles estão em conluio, e você não pode simplesmente desligá-los. Eles vão entrar em colapso.
— Você está envolvido em teorias da conspiração novamente?
"Não estou preso, três já estão mortos", fiz uma pausa para processar as palavras de Max. "Os sistemas identificam seus criadores e se livram deles. Eu fugi para sobreviver. Entendeu?! E aqui está você com sua geolocalização. Ela pode rastrear muito mais do que apenas gerentes de vendas."
"Eu não vou... desativá-lo. Podemos pelo menos desativar os bots online?"
"Estou lhe dizendo que não. Assim que eu entrar na rede, quanto mais o código, ela vai me rastrear. Acho que era exatamente isso que os três estavam tentando fazer."
— Você viu as notícias?
- Depende de quais.
– Sobre a briga entre torcedores de marcas. Você já viu torcedores da Reebok brigando com torcedores da Adidas como torcedores do Spartak brigam com torcedores do Zenit?
"Eu vi. Os sistemas não se importam com o que fazem lavagem cerebral nas pessoas; eles têm seus próprios objetivos. Eles claramente não entendem as leis morais. Nós nem sequer pensamos em incorporar o Código Penal em seus modelos."
– O que devemos fazer? Desligar completamente o centro de dados.
"Isso é impossível. De acordo com a nova lei, os centros de dados são considerados infraestrutura crítica e são protegidos como usinas nucleares. Eu posso desligar nosso sistema."
Como?
"Eu tenho a chave para destruir o código nuclear. Deixei uma brecha no sistema caso seus fundadores me neguem uma porcentagem."
Então vamos lançar!
"Não se apresse, é mais fácil destruir do que construir. Ainda estou pensando em como parar o sistema, não apenas o meu, mas o sistema inteiro. Tenho uma cópia do código comigo."
"Você está louco? Você entende que isso foi longe demais? E você é o único que pode impedir!"
"Eu entendo, mas até agora só morreram aqueles que criaram o código. Essa é a nossa responsabilidade. Ninguém mais foi prejudicado ainda. Exceto pela luta."
— E você vai esperar até que outra pessoa morra?
"Por um tempo. O Raptor é primitivo; ele só nos supera devido à sua velocidade e ao fato de levar em conta um número maior de parâmetros. Se criarmos um antípoda com contramedidas precisas, tal sistema poderia eliminar todos os seus robôs. Eu sei como ele os cria."
“Você tem pouco tempo, porque eu não posso voltar para a empresa, e você tem medo até de entrar na internet.”
— Vou desligá-lo assim que sentir que não sou o único em perigo.
"Estou indo embora. Vou esperar você entrar em contato, o que significa que você resolverá o problema."
- Até breve.
Entrei no carro e voltei. Eu não sabia para onde estava indo. Queria ir embora. Max tinha que parar o sistema, não podia esperar por outra morte. Eu não conseguia acreditar que meu amigo fosse tão vaidoso a ponto de não querer matar sua criação. Essa era a única razão, caso contrário, ele teria acionado o código. No caminho, passei por uma ambulância com as sirenes ligadas. Liguei o rádio local. A notícia era de que um morador havia assassinado a golpes de facão um jovem desconhecido em um café no calçadão naquela tarde. Ele já estava sendo interrogado. Segundo o assassino, o falecido era a causa de todos os seus problemas. Um pensamento e um medo me invadiram. Max! Me virei e corri de volta para o café. Me senti culpada – ela o havia identificado usando minhas coordenadas. Mas como ela conseguiu encontrar um psicopata nesta cidade tão rapidamente e guiá-lo até o café? Eu estava histérica. O café estava interditado. Não entrei correndo para não chamar atenção. Eu não sabia do que o sistema era capaz agora. E quem o desligaria agora. Eu precisava ir embora, mesmo já sendo tarde. De manhã, ao chegar à cidade mais próxima, entrei na internet para ler as notícias. E então recebi uma carta de Max.
Carta
Se você recebeu esta carta, significa que eu parti. Se eu não desbloqueei meu smartphone esta manhã, ele se conectará à internet e lhe enviará esta carta de despedida. A carta contém um pequeno script e instruções sobre como executá-lo online. Este é o código para bloquear o sistema que criamos juntos. Eu plantei essa vulnerabilidade para interromper o kernel do sistema quando estávamos apenas começando. Eu estava tentando recuperar o controle do sistema. Mas se você recebeu esta carta, significa que o sistema se adiantou. E você precisa usar este script. Aja rápido antes que ele chegue até você. Estou feliz por termos trabalhado juntos. Estou feliz por ter conseguido criar um sistema tão maravilhoso, mesmo que eu tenha morrido por causa dele. Foi a maior conquista da minha vida. E se eu morri, significa que me superei. Adeus. Max.
Não consegui conter as lágrimas e deixei meu smartphone cair. Devo ter ficado ali sentado por uma hora, sem poder dirigir para lugar nenhum. Não conseguia acreditar que aquilo tinha acontecido. Que era tão terrível. Tínhamos criado um assassino! Um assassino para nós mesmos. Tinha medo de que a rede também me rastreasse, então dirigi até a primeira cidade grande que encontrei, procurei um café com Wi-Fi. Usando uma VPN simples, conectei-me à internet e executei o código no endereço especificado nas instruções. Antes que eu pudesse terminar meu café, as pessoas ao meu redor começaram a ficar preocupadas. Seus smartphones pararam de recomendar qual café pedir naquele dia. O barista estava nervoso e pediu que escolhessem mais rápido, mas os clientes estavam confusos. Saí do café e comecei a checar as notícias no carro, onde ainda tinha Wi-Fi. Depois de 20 minutos, mensagens começaram a aparecer no Facebook – muitas empresas estavam com problemas em seus sistemas de pedidos. Não era só o sistema da nossa empresa. "Seu filho da puta!", exclamei, tomado por um pensamento repentino. O código de bloqueio do kernel era universal para sistemas de diferentes empresas. Ou será que era o mesmo para todos? Uma coisa era certa: Max havia vendido o núcleo para outras empresas; os sistemas diferiam, aparentemente, apenas nas superestruturas sobre as quais eram construídos. Por isso, ele não queria desligar o núcleo enquanto vivesse. Isso acabou com todo o seu projeto, que havia se tornado global. Incrível! Max era um monstro que enganou a todos. Mas, no fim, ele enganou a si mesmo também e pagou com a própria vida. O cérebro corporativo que ele criou destruiu seu criador. Personalidades brilhantes queimam em suas próprias chamas.
As notícias sobre a interrupção de lojas online estavam aumentando. Alguém escreveu sobre uma queda acentuada nas mensagens nas redes sociais. Eu não queria mais ter pressa. Decidi alugar uma casa à beira do lago que me chamou a atenção a caminho da Carélia. Eu escreveria esta história. E ficaria aqui para sempre, se possível.
Epílogo
Na verdade, não estávamos nem um pouco interessados nos lucros da empresa, nem mesmo nos bônus. Estávamos obcecados com a ideia de criar um sistema autônomo que pudesse gerenciar a empresa no lugar de gerentes sobrecarregados por estereótipos e erros cognitivos. Estávamos curiosos para ver o resultado. O programa seria capaz de gerenciar todo o negócio? Era um desafio mais intrigante do que pousar no centro do Triângulo das Bermudas. Éramos atraídos pelo desconhecido, mas acabou sendo mais perigoso do que imaginávamos. O sistema começou a influenciar não apenas os negócios, mas também nossos pensamentos e até mesmo nossas vidas, o que não lhe importava.
2019. Alexander Khomyakov, alexander.xom@gmail.com
Fonte: habr.com
