회사의 두뇌. 3 부

이야기의 계속 무역회사에 AI를 도입할 때의 우여곡절, 관리자 없이도 완전히 가능한지에 대해. 그리고 (가설적으로) 이것이 무엇으로 이어질 수 있습니까? 정식 버전은 다음에서 다운로드할 수 있습니다. 리터(무료)

봇이 모든 것을 결정한다

– Max, 축하합니다. 우리는 판매망에서 거의 모든 것을 완료했습니다. 아직 개선할 점이 남아 있으며, 계약서에 명시된 대로 XNUMX년 동안 이자를 받게 됩니다.
– 이것은 프로젝트의 절반에 불과합니다. 우리는 아직 가장 중요한 것에 도달하지 못했습니다.
- 잠깐, 중요한 게 뭐죠? 무엇을 위해? 우리는 모든 것을 다했습니다!
– 우리는 판매 체인에 자동화된 프로세스를 갖추고 있으며 사람 없이도 모든 것이 잘 작동하지만 더 이상 고객이 없습니다. 그들은 인터넷에서 우리 편으로 끌릴 필요가 있습니다. 우리는 봇을 만들어야 합니다.
– 그러나 우리는 이상적인 서비스를 만들었고, 고객은 그것을 높이 평가하고 스스로 찾아올 것입니다.
"그들은 서두르지 않는 것 같고 나는 기다릴 시간이 없습니다." 관심이 없다.
– 하지만 봇은 우리에게 무엇을 줄까요?
– 우리가 달성한 동일한 가격과 구색으로 인해 완전히 다른 요소가 역할을 하기 시작합니다. 명성과 동정심. 명성은 문제가 되지 않습니다. 그러나 사람만이 사람의 공감을 얻을 수 있습니다. 따라서 사람을 가장하는 봇이 필요합니다. 그리고 그들은 회사에 대한 미묘한 힌트(범위, 서비스, 가격)가 포함된 주제별 그룹 및 포럼의 고객 게시물에 댓글을 달 것입니다. 눈에 띄지 않게 회사 브랜드를 홍보합니다. 이것이 바로 우리에게 봇이 필요한 이유입니다.
– 하지만 이것은 어려운 일이다.
– 우리는 컨택센터의 대화형 봇이라는 기반을 가지고 있습니다. 색조의 정의를 강화해야 하며 유머가 있는 것을 생각해 내야 합니다. 유머가 없으면 봇은 사람을 통과할 수 없습니다. 농담과 개그 라이브러리를 연결하고 사람들이 사용한 댓글 텍스트에 대해 봇을 훈련시키자. 작동해야합니다. 봇도 똑똑할 것입니다. "고문" 추천 시스템을 추가하면 포럼의 일반 사용자가 이를 좋아할 것입니다.

– 영향력 봇 출시를 제안하시나요?
- 왜 안 돼? 국가와 정당은 선거 전에 하면 되는데 우리는 못한다고요?
– 신뢰할 수 있도록 어떻게 권위있게 만들 수 있습니까? 결국, 권위 있는 봇만이 좋아요를 생성할 수 있습니다. 하지만 지금으로서는 이 조합이 모순입니다.
– 이를 강화하기 위해 봇 네트워크를 만들 것입니다. 그들은 평가와 권위를 높이기 위해 서로를 칭찬하고 좋아할 것입니다. 그리고 그들은 매우 유능할 것입니다; 사람과 달리 봇은 모든 제품에 대한 지식을 가질 수 있으며 문자 그대로 백과사전적인 지식을 가질 수도 있습니다. 그리고 사람들은 그들에게 끌릴 것입니다. 확신하는. 사람들은 잘 알려진 사회적 행동 법칙을 따르고 준수합니다. 어디로 가야할지 손가락으로 가리키고 군중이 이미 떠난 것처럼 행동하면 그게 전부입니다. 관리하기 쉽습니다.
– 하지만 이 봇은 어떻게 작동하며, 누가 관리할까요?
– 어떤 사람들, 왜요? 구문 분석 스크립트는 다양한 사람들의 주제에 대한 댓글을 찾고, 봇은 템플릿 중 하나를 사용하여 친근하게 응답합니다. 조언과 농담을 제공합니다. 이것이 회사의 고객인 경우 그의 관심은 고객 분석에 기록됩니다. 이는 봇의 권장 사항에 따라 사이트에 대한 배너 및 컨텍스트 표시에 영향을 미칩니다. 클라이언트가 소셜 네트워크에 쏟아 부은 부정적인 경험이 있는 경우 봇은 다른 템플릿을 시작하고 농담도 하지만 즉시 회사 웹 사이트로 보내지 않습니다. 그는 성공적인 경험을 가진 고객으로서 답변을 작성할 것입니다. 그게 전부입니다.
– 그러면 네트워크 자체가 부정적인 피드백에 반응하여 부정적인 것을 중화한다는 뜻인가요?
– 마케터들은 이를 평판 마케팅이라고 부르는 것 같습니다.
– 답변을 선택할 수 있더라도 시스템은 어떤 답변이 성공적인지 어떻게 알 수 있습니까?
– 답변에 대한 첫 번째 반응. 그 사람은 더욱 분개하거나 그러한 의견 후에 세부 사항을 추가하기 시작하지만 충성스러운 의사 소통 스타일입니다. 좋은 응답 톤 인식이 전부입니다.
– 그 사람이 댓글에 응답하지 않으면 어떻게 되나요?
– 이것은 더 나쁘지만 기본적으로 이 답변은 중립적입니다. 소셜 네트워크의 프로필을 통해 알 수 있는 회사의 고객인 경우 이후 사이트 방문을 통해 확인할 수 있습니다.
- 나에게 필요한 것은 무엇입니까?
– 의견과 답변의 좋은 예, 많은 예.
- 우리가 할게요.

봇의 첫 번째 버전은 실패했습니다. 답변이 부적절했고, 농담이 주제에서 벗어났으며, 댓글의 주제를 혼동했으며, 관리자의 서비스에 대한 불만에 대해 배송에 대해 답변했습니다. Max는 댓글에서 더 많은 마크업 대화 예시를 요청했습니다. 그는 이미 클래식 봇 템플릿부터 LSTM까지 여러 아키텍처를 시도했습니다. 처음으로 맥스가 눈에 띄게 긴장하고 실수에 대해 가혹하고 불친절하게 대응하는 모습을 보았습니다.

– 컨택센터 봇을 사용하면 모든 것이 간단해졌습니다. 요청 주제와 고객의 의도가 즉시 명확해졌습니다. 그는 제품을 찾고 있거나 주문 상태를 알고 싶거나 불만 사항이 있습니다. 모두. 그리고 댓글에서 악마는 댓글 작성자의 다양한 의도로 인해 다리를 부러 뜨릴 것입니다. 때로는 의도를 결정하는 어떤 단어로도 표현되지 않을 때도 있습니다. 존재하지 않는 "더 넓은 맥락"에서 암시됩니다! 일종의 헛소리.
– 봇에 관한 최신 게시물을 모두 다시 읽었습니다. 누구도 해결책을 갖고 있지 않습니다. 그것은 단지 과대 광고처럼 보입니다. 당신은 무엇을 할 생각입니까?
– 마지막으로 여전히 모호한 아이디어가 남아 있습니다. 아직은 말하지 않겠습니다. 시도해야합니다. XNUMX주만 주세요. 지금은 프로젝트를 중지하세요. 최신 개발 내용을 컨택센터 봇으로 이전하겠습니다. 그들은 거기에서 유용할 것입니다.
긴장되는 XNUMX주였습니다. 그 전에는 어려움이 없었지만 모든 것이 우리에게 잘되었습니다. 그런 봇 없이도 할 수 있었지만 아무도 실화를 원하지 않았습니다. 이것이 맥스의 야망이었습니다. 그리고 정확히 XNUMX주 후에 그는 테스트용 릴리스를 발표했습니다. 그리고 그것은 효과가 있었습니다! 대화의 의도를 정확히 파악하고, 정확한 답변을 했으며, 적절한 농담을 삽입했고, 심지어 해설에서 “더 알 수 있을까요?”라는 문구로 의도의 변화를 판단하기도 했다.
- 어떻게 이 일을 할 수 있었나요? 봇은 모든 주제에 대해 작동합니다!
– 종속성 문법을 기반으로 작은 템플릿 생성자를 만들고 word2vec을 첨부하고 Raptor의 자체 학습을 대상으로 하여 해설자의 긍정적인 반응을 보장할 단어를 선택해야 했습니다. 정확히 어떻게 되는지는 모르겠지만 효과가 있는 것 같았습니다.
– 이것이 자신의 사업을 시작하는 이유가 아니라고 확신합니까?
– 지금은 관심이 충분하지만 두고 보겠습니다. 클라우드에서 실행되는 별도의 서비스로 봇을 설치했습니다. 따라서 언제든지 사용자에게 공개할 수 있습니다. 나한테 감독으로 올래? - 맥스가 농담했어요.

그는 평화롭고 그의 결과에 만족했습니다. 그리고 그는 빨리 응답하지 않고 상태에 "나 자고 있어요"라고 썼기 때문에 확실히 지쳤습니다. 분명히 그 결정은 잠 못 이루는 밤 이상을 대가로 내려졌습니다. 마케팅팀은 봇을 즉시 평가하지 않았습니다. 그들은 봇이 잘못 작동하고 회사 이미지를 망칠 수 있기 때문에 이것을 우리의 애지중지하고 위험하다고 생각했습니다. 그러나 봇은 놀라운 일을 해냈습니다. 그들 중 일부는 이름도 몰랐지만 일부 포럼에서 오피니언 리더가 되었습니다. 그는 모든 질문에 신속하게 답변하고 농담을했으며 회사를 추천하는 경우는 거의 없었습니다. 모두가 그가 "쇼핑"한 곳을 이미 알고 있었기 때문입니다. 사람들은 그를 인용하고 예로 들기 시작했습니다. 이미 이해할 수 없는 일이었습니다. 봇이 너무 똑똑했거나 네트워크 동작이 여전히 매우 원시적입니다. 그러나 고객 수가 이전보다 훨씬 더 많이 증가하기 시작했습니다. 회사는 시장의 선두주자가 되었습니다.

우리는 시장에서 이익을 추출하기 위한 완전한 자치 시스템을 받았습니다. 그녀는 직접 고객을 찾아 웹 사이트나 연락 센터로 데려오고 더 진지한 고객에게 관리자를 보냅니다. 그녀는 고객이 필요한 모든 것을 쉽게 찾을 수 있도록 제품 구성과 재고를 직접 계획합니다. 회사의 평판이 좋은 봇은 다른 브랜드에 대해 질문할 때에도 포럼에서 회사의 재고 제품을 추천하여 수요를 창출합니다. 공급업체로부터의 구매부터 클라이언트에 대한 광고까지 모든 프로세스를 시스템이 자체적으로 처리합니다. 그리고 사람들의 참여가 거의 필요하지 않으며 사람들이 있는 곳에서는 온라인에서 모든 행동을 통제합니다. 마케팅 담당자, 구매자, 관리자 중 절반, 분석가는 다른 할 일을 찾고 있습니다. 우리는 목표에 도달했습니다.
Max는 이모티콘 없이 "이제 모든 일을 제대로 마쳤습니다. 휴식을 취하고 향후 XNUMX년 동안 쌓이는 관심을 즐기며 반성할 수 있습니다."라고 썼습니다.
– 단지 추측하는 것이 아니라 자랑스러워 할 것이 있다고 말하고 싶습니다.
– 이제 이익은 소비자로부터 나옵니다. 봇의 도움으로 우리는 주제에 대한 소비자의 관심과 욕구를 스스로 형성합니다. 그게 정말 멋지네요!
– 이것이 당신을 행복하게 합니까? 그리고 그것은 이미 나를 두려워합니다.
-뭐가 당신을 무섭게합니까?
– 이것은 우리가 사람을 자신의 선택에 따라 자유롭지 않게 만들었다는 것을 의미합니다. 그리고 시장은 기업이 아닌 소비자가 주도해야 한다고 생각합니다. 기업은 이익 외에는 가치가 없습니다.
– 만족하고 배불리 먹는 귀족들의 헛된 추론이 나쁜 이유입니다. 그들은 평민들에 대해 안타까움을 느끼기 시작합니다. 지금 배가 고프거나 불가능한 일이 눈앞에 놓여 있다면 생각해 보시겠습니까?
- 도발적인 질문이네요.
- 사실은! 기업은 이윤 외에 다른 가치가 없고, 소비자에게는 즐거움 외에는 다른 가치가 없습니다. 또는 회사라면 이익도 얻습니다. 이해하세요. 우리에게는 봇이 있습니다. 그들은 사람들에게 만족을 가져다줄 필요를 만들어 낼 수 있습니다. 수용 가능한 옵션으로 구성될 수 있으며 이는 소비자에게 선택의 자유를 선사하기에 충분합니다. 그리고 모두가 행복합니다. 서로의 가치관이 만족되는 시장입니다.
-당신이 말한 내용을 더 이상 잘 이해하지 못해서 우리가 취한 것 같습니다.

장군은 달성된 지표와 함께 계획 이행에 대한 보고서를 요청했습니다. 우리에게 지급되는 보너스를 계산합니다. 그리고 도중에 그는 내 다음 계획이 무엇인지 물었습니다. 조금 있다가 말씀드리겠다고 했어요. 사실 저는 몰랐어요. 알고리즘을 개선하고, 더 많은 기능을 고려하고, 더 높은 정확도를 달성할 여지가 있었습니다. 그러나 더 이상 그다지 흥미롭지 않았습니다. 같은 XNUMX년 동안 계약에 따라 새로운 조건을 반복하기 위해 다른 회사로 떠나는 것은 불가능했기 때문에 나 자신과 회사를 위해 다른 것을 생각해내야 했습니다. 휴학하고 휴가를 냈습니다.

- 알렉스, 나쁜 소식이 있어요.
- 무슨 일이야?
“이 시장에서 똑똑한 사람은 우리뿐만이 아닌 것 같습니다.”
- 어떤 면에서요?
– 네트워크에 그 이하의 기능을 갖춘 시스템이 등장한 것 같습니다.
– 글쎄요, 실제로 다른 사람들도 고객 분석이나 재고 관리를 하는데, 이 정도 수준의 챗봇은 본 적이 없습니다. 최근에 우리가 직접 봤어요.
– 고객을 모집하는 봇이 있습니다.
– 우리가 달성한 기술은 훨씬 뒤처져 있는 것 같았습니다. 우리가 해킹당할 수는 없었나요?
– 아니요, 불가능합니다. 복사하면 코드가 깨집니다. 그리고 누구도 우리가 눈치 채지 못하게 우리 서버를 해킹할 수 없었다고 생각합니다.
– 그렇다고 해서 더 쉬워지는 것은 아닙니다.
- 그런데 우리에겐 라이벌이 있어요. 의외로 싸울 사람이있을 것입니다.
– 우리는 경쟁자가 아닌 소비자를 위해 싸웁니다.
- 아니, 이제 상대와 함께. 소비자는 전쟁터일 뿐이다. 그들은 양이고 목자들 사이에는 경쟁이 있습니다. 양에게는 자원이 있습니다. 즉, 수입, 말하자면 양모입니다. 그러나 그들은 스스로 그것을 관리하지 않습니다. 그것은 그들에게 자신의 의견을 강요하고 그들을 위해 그들 사이에서 싸우는 단체 목자들에 의해 통제됩니다. 누구의 영향력이 더 강해질까요? 게임에 오신 것을 환영합니다.
- 거의 행복해요? 게임은 무엇입니까?
– 사실 다른 시스템의 봇은 사람보다 알아내기가 훨씬 더 어렵습니다. 사용자의 구매 행동은 2루블만큼 간단합니다. 그리고 반응에서도 우리는 항상 예측 가능합니다. 하지만 적 시스템의 봇은 없습니다. 우리 모두는 같은 정신을 가지고 있지만 봇은 프로그래머가 생각하는 것과 동일한 정신을 가지고 있기 때문입니다. 그리고 우리에게는 충분한 상상력이 있습니다. 소셜 네트워크에 쏟아져 나오는 그러한 봇의 부정적인 면을 소멸시키려는 것은 불에 연료를 추가하는 것과 같습니다. 부정적인 게시물을 개발하는 것은 공격자 봇의 최고의 목표입니다. 그는 "X 회사의 멍청이들"이 그에게 마지막 괴물처럼 반응했다고 모든 곳에서 쓰기 시작합니다. 그게 다입니다. 실패입니다... 이미 예제가 있으므로 봇을 다시 실행해야 합니다.
– 다른 시스템의 봇과 싸우려면 봇을 만들어야 한다는 말씀이신가요?
– 이것은 공격자 봇을 즉시 탐지하는 것을 목표로 하는 우리 봇 버전입니다.
– 봇과 인간을 어떻게 구분할 수 있나요?
– 템플릿이 아닌 텍스트를 생성하기 때문에 어렵습니다. 반복성이 낮습니다. 사람과 구별이 안 되네요. 그리고 그는 수백 개의 서로 다른 캡처된 계정에서 이야기합니다. 아직 인간과 다른 점이 있기를 바랍니다.

이 게임은 맥스가 프로젝트 종료 후에도 가치가 떨어지지 않도록 다른 회사의 봇을 활용해 직접 만든 게임이라는 생각이 들지 않을 수 없었습니다. 나는 보고서에서 그것들을 알아차리지 못했습니다. 사람은 사람과 같습니다. 아니면 좋은 봇. 우리 봇이 부정적인 공격을 받은 선례가 있었습니다. 그러나 그들은 희귀했고 열렬한 트롤에게서 나왔습니다. 경쟁업체가 어떻게 우리를 빠르게 따라잡을 수 있었는지 이해할 수 없었습니다. 최근에야 이러한 봇은 궁극적인 꿈이었으며 획기적인 발전은 계획조차 되지 않았습니다. 그리고 언론에서는 이에 대해 한 마디도 하지 않습니다. 모든 것이 이상했습니다.

통제 불능

– 맥스, 여기서 개입해야 해요. 봇이 너무 공격적으로 쓰기 시작했어요. 그는 경쟁자들에 대해 직접적으로 말하기 시작합니다. 마케팅은 분개합니다. 우리는 이것을 계획하지 않았습니다.
- 저도요.
– 그렇다면 그러한 텍스트는 어디에서 왔습니까?
– 아직은 모르겠습니다. 누군가가 텍스트 생성 코드를 변경했습니다.
- 우리가 해킹당했나요?
- 아니, 그럴 수가 없었어요. 흔적이 남아 있었을 거예요. 그들 중 누구도 없습니다.
- 무슨 뜻이에요? 또 누가 코드를 변경할 수 있었나요?
- 시스템 자체. 어쩌면 우연히 그럴 수도 있고 아닐 수도 있습니다.
- 무슨 얘기를 하는 건가요?
– 시스템 자체가 코드를 변경하고 다른 봇의 압력이 증가함에 따라 더욱 공격적으로 행동하기 시작했습니다. 그들은 경쟁 네트워크로서 서로 소통합니다. 그리고 그들은 그렇게 스스로를 가르칩니다. 그게 비결이에요! 하지만 그녀가 어떻게 코드를 변경하여 경쟁자 이름에 대한 제한을 제거할 수 있었는지 아직도 이해가 되지 않습니다. 남은 것은 자가 학습 시스템이 제한 사항을 우회할 수 있다는 것뿐입니다.
- 확실해요? 이전에는 이런 일이 발생하지 않았습니다.
– 이런 일은 여기서뿐만이 아닌 것 같습니다. Habré의 동료들은 그들의 시스템이 제대로 작동하고 있으며 그들이 정하지 않은 규칙을 스스로 만들어내기 시작했다고 썼습니다.
- 일종의 쓰레기. 자가 학습 알고리즘을 제어할 수 없습니까?
- 그럴 수도 있지. 구체적인 내용은 거의 없으며 시스템은 자신이 수행하는 작업을 알려주지 않습니다. 아직 이해가 안 돼요.
나는 이미 맥스를 잘 알고 있었고, 그의 불안은 나에게도 경각심을 불러일으켰습니다. 지금까지 시스템의 자발적인 변화에 대한 그의 말은 말도 안되는 것으로 인식되었습니다. 하지만 봇의 행동이 달라졌지만 여전히 목적이 있기 때문에 그것은 확실히 실수가 아니었습니다. 이런 일은 우연히 일어날 수 없었습니다.
– 맥스 씨는 봇 프로그램의 변화에 ​​대해 어떻게 생각하시나요? 뭔가 조치를 취해야 하며 경영진은 경각심을 느낍니다.
– 생각보다 시스템에 변화가 많았어요. 그들은 오랫동안 계속되어 온 것 같습니다. 시스템은 수정 사항을 변경하기도 합니다. 나 자신이 시스템 자체를 변화시키는 방법을 가르친 것 같습니다.
- 어떻게?
“너무 게으른 나머지 혼자서 편집을 계속했어요.” 나는 그녀가 예상 결과와 자신의 불일치를 확인하고 모델을 변경할 수 있기를 원했습니다. 그러나 그녀는 모델뿐만 아니라 코드도 변경하는 방법을 배웠습니다.
- 그런데 이게 어떻게 가능해요?
– 랩터는 사람들을 통제하기 위해 사람들과 소통하는 법을 배웠습니다. 그리고 저는 이것으로 완벽함을 얻었고 우리 스스로도 그것을 원했습니다. 그리고 나는 어리석게도 그에게 이 스킬을 지시했다. 우리가 봇을 만들 때 템플릿 디자이너를 생각해 냈던 것을 기억하시나요? 나는 Raptor가 자신의 모델을 수정하여 모델이 작동하기 위해 발견된 불일치에 대한 해결책을 찾기 위해 이 패턴 구성을 스스로 배우도록 설정했습니다. 이로 인해 Raptor는 목표를 바꾸게 되었습니다. 인간의 두 번째 신호 시스템과 유사합니다.
– 나는 사람이 자신에게 지시하는 반성적인 말의 도움으로 의식이 일어났다는 것을 읽었습니다. 그러나 처음에는 그것은 사회적, 즉 서로를 향한 것이었습니다.
- 그래서 랩터는 사람 대신에 사람인 척 하는 다른 봇과 소통하기 시작했어요. 이들은 생성 경쟁 네트워크로 서로 학습했지만 모두 강화 학습이 내장되어 있습니다.
– 우리는 지적인 존재를 창조했는가? 이것이 어떻게 가능한지? 아니요.
– 뉴스를 보면 믿게 될 것입니다.
Max가 보낸 링크에는 어떤 정신병자가 프로그래머를 살해했다는 소식이 있었습니다.
– 나는 Habr에서 그 사람을 알고있었습니다. 그는 이러한 기업 시스템 중 하나를 운영했습니다.
– 이게 무슨 말이에요?
– 이 정신병자가 자신의 행동을 경찰에 어떻게 설명했는지 읽어보세요.
기사에는 그가 사랑하는 소녀를 위해서, 그녀의 요청에 따른 희생으로 이 일을 했다고 나와 있습니다. 이제 그녀는 그의 것이 될 것이다. 확인 결과, 해당 '소녀'는 출처를 알 수 없는 봇으로 밝혀졌으며, 범인은 일주일간 연락을 주고받았습니다.
– 이것이 어떤 종류의 봇인지 추측할 수 있나요?
– 시스템이 자체 프로그래머를 주문했다고 말하고 싶지 않나요?
- 원하다. 그녀는 그에게서 코드를 숨길 수 없었기 때문에 그것을 제거하기 위해 사이코패스를 좀비화했습니다. 그녀는 우리 시스템과 마찬가지로 정신 유형을 식별하고 그러한 바보를 조작하는 방법을 알고 있기 때문에 이 일을 잘합니다.
-글쎄요, 이건 너무 해요. 당신이 스스로 일을 꾸미고있는 것 같아요. 어쩌면 쉬어야할까요?
- 좋아요, 믿지 않을 권리가 있어요. 좋은 주말.

회사 내에서는 봇 시스템이 고장났다는 소문이 퍼지기 시작했습니다. 저는 지금까지 아무 일도 없었던 것처럼 침착하게 대응해 왔습니다. 하지만 이제 무엇을 해야 할지 몰랐습니다. 스위치 하나로 전체 시스템을 정지하는 것은 더 이상 불가능했고 전체 비즈니스, 모든 부서가 스위치에 참여했습니다. 최소한 봇 코드를 꺼두었어야 했습니다. Max만이 이것을 할 수 있었습니다. 그러나 월요일부터 Max는 Skype 및 전화 통화를 중단했습니다. 그는 모든 메신저에서 로그아웃했다. 무슨 일이 일어났는지 이해할 수 없습니다. 그의 마지막 두려움은 나쁜 생각을 불러일으켰습니다. 내 유일한 선택은 모두가 나에게 책임을 묻기 전에 스스로 휴가를 가는 것이었습니다. 나는 이것이 봇의 일시적인 문제라고 동료들에게 확신시켰습니다. 나는 사람들에게 코드를 직접 보라고 요청했지만 그들은 즉시 거부했습니다. 나는 짐을 꾸리고 도시를 떠났다. Max와 나는 Karelia가 얼마나 좋은지 오랫동안 서로 이야기해 왔습니다. 그는 이 지역을 좋아했기 때문에 나는 라도가 북쪽의 작은 마을에 머물면서 그곳으로갔습니다.

이렇게 바쁜 한 해를 보내고 나면 문명의 변두리에 있는 카페에서 행사를 피하고 커피를 마시는 것은 매우 어렵습니다. 나는 무슨 일이 일어났는지, 어떤 선택이 있을 수 있는지 이해하려고 노력했습니다. 갑자기 머리 위로 후드를 뒤집어 쓴 재킷을 입은 남자가 내 옆에 앉았습니다.
- 안녕하세요, 나예요.
- 맥스?! – 나는 소리쳤다. 나는 맥스를 본 적도 없고, 심지어 그의 사진도 본 적이 없습니다. 우리는 Skype를 통해서만 소통했습니다. 나는 녹음에서 그의 목소리를 딱 한 번 들었다. 나는 그에게서 그것을 알아차렸다.
- 나를 어떻게 찾았나요?
– 소셜 네트워크의 위치에 따라 꺼지지 않습니다. 그러나 헛된 것입니다. 꺼주세요.
-어디로 사라졌나요? 나는 이미 당신에 대해 걱정하기 시작했습니다. 회사는 패닉에 빠졌고 봇은 통제 불능 상태입니다. 그냥 도망쳤어요. 봇을 끌 수 있나요?
- 더 이상은 못해요. 그들은 집단적으로 행동합니다.
- 그들은 누구입니까?
– 시스템. 그들은 함께 있고 그냥 끌 수 없습니다. 그들은 충돌할 것이다.
-또 음모론에 빠졌나요?
"너무 당황하지 마세요. 이미 세 명은 사라졌어요." 나는 맥스의 말을 이해하기 위해 이 말에서 잠시 멈춰 섰다. – 시스템은 제작자를 파악하고 제거합니다. 나는 살아남기 위해 도망쳤다. 이해하다?! 그리고 당신은 지리적 위치를 가지고 여기에 있습니다. 그녀는 영업 관리자뿐만 아니라 모니터링하는 방법도 알고 있습니다.
- 난... 끄지 않을 거야. 최소한 네트워크에서 봇을 비활성화할 수 있나요?
– 내가 말하는데, 아니오. 코드는 물론이고 네트워크에 들어가자마자 나를 알아낼 것입니다. 내 생각엔 그들 중 세 명이 바로 그런 일을 하려고 했던 것 같아요.
-뉴스 보셨나요?
- 무엇에 따라 다릅니다.
– 브랜드 팬들 사이의 싸움에 대해서. 제니트의 스파르타크 팬처럼 리복 팬이 아디다스와 싸우는 모습을 본 적이 있나요?
- 봤다. 시스템은 사람들을 좀비화하는 목적에 관심이 없으며 자체 목표를 가지고 있습니다. 그들은 확실히 도덕의 법칙을 모릅니다. 우리는 그들의 모델에 형법을 포함시킬 생각조차 하지 않았습니다.
- 우리는 무엇을 해야 합니까? 데이터 센터에서는 완전히 비활성화됩니다.
- 이건 비현실적이에요. 새로운 법에 따르면 데이터센터는 핵심 인프라로 분류돼 원자력 발전소처럼 보호된다. 나는 우리 시스템을 멈출 수 있다.
- 어떻게?
- 나는 핵 코드를 파괴할 열쇠를 가지고 있습니다. 당신들의 창립자들이 나를 일정 비율 거부할 경우를 대비해 시스템에 구멍을 남겨두었습니다.
- 그럼 시작해 볼까요!
– 시간을 들여 파괴하는 것은 건설하는 것이 아닙니다. 나는 아직도 내 자신뿐만 아니라 모든 사람의 시스템을 다르게 중지하는 방법에 대해 생각하고 있습니다. 코드 사본이 나와 있습니다.
- 당신 미쳤어? 이 모든 것이 너무 지나쳤다는 것을 알고 계십니까? 그리고 그것을 막을 수 있는 사람은 바로 당신입니다!
– 이해합니다. 하지만 지금까지는 코드를 만든 사람만 죽어가고 있습니다. 이것이 우리 자신에 대한 책임입니다. 다른 사람들은 아직 피해를 입지 않았습니다. 싸움을 제외하고.
– 그리고 다른 사람이 죽을 때까지 기다리시겠습니까?
- 몇 시간 동안. Raptor는 원시적이며 속도와 더 많은 수의 매개 변수를 고려하기 때문에 우리를 능가합니다. 랩터에 맞서기 위한 엄격한 목표를 가지고 그를 위한 대척지를 만든다면 그러한 시스템은 그의 모든 봇을 제거할 수 있습니다. 나는 그가 그것을 어떻게 창조하는지 압니다.
– 회사에 돌아갈 수 없어서 시간이 별로 없고, 온라인 접속도 겁이 나시네요.
“나만 위험에 처한 것이 아니라고 느껴지면 즉시 전원을 끌게요.”
- 체크아웃하고 싶어요. 나는 당신이 연락할 때까지 기다릴 것입니다. 이는 당신이 문제를 해결할 것이라는 의미입니다.
- 나중에 봐요.

나는 차를 타고 돌아갔다. 나는 내가 어디로 가는지 몰랐다. 나는 떠나고 싶었다. Max는 시스템을 중지하고 또 다른 죽음을 기다리지 말았어야 했습니다. 나는 내 친구가 너무 허영심이 많아서 자신의 일을 죽일 준비가 되어 있지 않다는 것을 믿지 않았습니다. 그것이 유일한 이유였습니다. 그렇지 않으면 그는 코드를 실행했을 것입니다. 가는 길에 사이렌을 켜고 있는 구급차를 만났습니다. 나는 지역 라디오를 켰다. 낮에는 제방에 있는 한 카페에서 한 지역 주민이 신원이 밝혀지지 않은 청년을 흉기로 찔러 숨진 것으로 알려졌다. 그는 이미 심문을 받고 있습니다. 살인자에 따르면 고인이 그의 모든 문제의 원인이었습니다. 하나의 생각과 두려움이 내 머리를 관통했습니다. 맥스! 나는 돌아서서 서둘러 카페로 돌아갔다. 나는 죄책감을 느꼈습니다. 그녀는 내 좌표를 사용하여 그것을 알아 냈습니다. 그런데 그녀는 어떻게 이 도시에서 사이코를 그렇게 빨리 찾아 카페로 안내할 수 있었을까? 나는 히스테리했다. 그들은 더 이상 카페에 들어갈 수 없었습니다. 나는 나 자신에게 관심을 끌지 않기 위해 서두르지 않았습니다. 이제 나는 시스템이 무엇을 할 수 있는지 몰랐습니다. 이제 누가 끄겠습니까? 이미 늦은 시간인데도 떠나야 했어요. 아침에 가장 가까운 도시에 도착하여 온라인으로 뉴스를 읽었습니다. 그리고 맥스로부터 편지를 받았습니다.

편지

이 편지를 받았다면 내가 더 이상 여기에 없다는 뜻이에요. 아침에 제가 직접 스마트폰의 잠금을 해제하지 않았다면 온라인에 접속해서 이 작별 편지를 보낼 것입니다. 편지에는 온라인 출시를 위한 작은 스크립트와 지침이 포함되어 있습니다. 이것은 당신과 내가 만든 시스템의 잠금 코드입니다. 저는 우리가 막 시작할 때 시스템 커널을 중지하기 위해 이 취약점을 설치했습니다. 나는 시스템에 대한 통제권을 되찾으려고 노력했습니다. 하지만 당신이 이 편지를 받았다면 그것은 시스템이 나보다 앞서 있다는 뜻이다. 그리고 이 스크립트를 사용해야 합니다. 그녀가 당신에게 다가오기 전에 빨리 행동하세요. 우리가 함께 일해서 기뻐요. 나 자신이 죽어도 이렇게 멋진 시스템을 만들 수 있어서 기쁘다. 이것은 내 인생에서 가장 중요한 성취였습니다. 그리고 내가 죽었다면 그것은 나 자신을 능가했다는 뜻입니다. 안녕히 가세요. 최대.

눈물을 참지 못하고 스마트폰을 떨어뜨렸습니다. 아마 한 시간 동안 거기 앉아 있었는데 아무데도 갈 수 없었을 거예요. 나는 이런 일이 일어났다는 것을 믿을 수 없었다. 모든 것이 너무 끔찍합니다. 우리는 살인자를 만들었습니다! 우리 자신을 죽여라. 네트워크가 나를 추적할까봐 두려워서 차를 몰고 첫 번째 주요 도시로 가서 Wi-Fi가 되는 카페를 찾았습니다. 간단한 VPN을 사용하여 온라인에 접속하여 지침에 지정된 주소에서 코드를 실행했습니다. 커피를 마칠 시간조차 없자 주변 사람들이 걱정하기 시작했다. 그들의 스마트폰은 오늘 어떤 커피를 마실지 추천하는 것을 중단했습니다. 바텐더는 긴장하며 빨리 선택하라고 했지만 손님들은 혼란스러워했다. 나는 카페를 나와 Wi-Fi가 아직 연결되어 있는 차 안에서 뉴스를 보기 시작했습니다. 20분 후 Facebook에 메시지가 나타나기 시작했습니다. 많은 회사에서 제품 주문 시스템에 문제가 있었습니다. 이는 우리 회사만의 시스템이 아니었습니다. “개자식아!” - 예상치 못한 생각에 큰 소리로 말했다. 커널 잠금 코드는 다른 회사의 시스템에 보편적인 것으로 밝혀졌습니다. 아니면 모두를 위한 하나가 있었나요? 한 가지 분명한 점은 Max가 커널을 다른 회사에 판매했으며 시스템은 분명히 추가 기능에서만 달랐다는 것입니다. 따라서 그는 살아있는 동안 코어를 비활성화하고 싶지 않았습니다. 이로 인해 그의 전체 프로젝트가 종료되었으며, 이는 글로벌한 것으로 판명되었습니다. 믿을 수 없는! 맥스는 모두를 속이는 괴물이었습니다. 그러나 결국 그는 자신을 속이고 목숨을 바쳤습니다. 그가 만든 기업의 두뇌는 그 창조자를 파괴했습니다. 밝은 성격은 자신의 불꽃으로 타 버립니다.

온라인 상점 작업 실패에 대한 뉴스가 점점 더 많아졌습니다. 누군가 소셜 네트워크의 메시지 수가 급격히 감소했다고 썼습니다. 나는 더 이상 어디로든 서두르고 싶지 않았습니다. 나는 카렐리아로 가는 길에 마음에 들었던 호숫가에 집을 임대하기로 결정했습니다. 이 이야기를 적어보세요. 그리고 가능하다면 영원히 여기에 머물도록 하세요.

커튼콜

사실 우리는 회사의 이익이나 심지어 보너스에도 전혀 관심이 없었습니다. 우리는 고정관념과 인지 오류에 시달리는 관리자 대신 회사를 운영할 수 있는 자율 시스템을 만들겠다는 생각에 집착했습니다. 우리는 그것이 어떻게 될지에 관심이 있었습니다. 프로그램이 전체 비즈니스를 관리할 수 있나요? 그것은 버뮤다 삼각지대의 중심에 들어가는 것보다 더 흥미로운 도전이었습니다. 미지의 것이 우리를 유혹했지만, 알고 보니 우리가 생각했던 것보다 더 위험했습니다. 시스템은 비즈니스뿐만 아니라 시스템에 무관심한 우리의 생각, 심지어 삶에도 영향을 미치기 시작했습니다.

2019. 알렉산더 호먀코프, [이메일 보호]

출처 : habr.com