về những thăng trầm của việc giới thiệu AI vào một công ty thương mại, về việc liệu có thể thực hiện hoàn toàn mà không cần người quản lý hay không. Và điều này (theo giả thuyết) có thể dẫn đến điều gì. Phiên bản đầy đủ có thể được tải xuống từ
Bot quyết định mọi thứ
– Max, tôi xin chúc mừng bạn, chúng ta gần như đã hoàn thành mọi việc trong chuỗi bán hàng. Vẫn còn những cải tiến cần được thực hiện và bạn sẽ nhận được tiền lãi trong ba năm, như đã nêu trong hợp đồng.
– Đây chỉ là một nửa của dự án. Chúng ta vẫn chưa nói đến điều quan trọng nhất.
- Chờ đã, việc chính là gì? Để làm gì? Chúng tôi đã làm mọi thứ!
– Chúng tôi có các quy trình tự động hóa trong chuỗi bán hàng, mọi thứ đều hoạt động tốt khi không có con người, nhưng không còn khách hàng nữa. Họ cần bị thu hút về phía chúng tôi trên Internet. Chúng ta cần tạo ra robot.
– Nhưng chúng tôi đã tạo ra một dịch vụ lý tưởng, khách hàng sẽ đánh giá cao nó và tự mình đến.
“Họ dường như không vội, và tôi không có thời gian để chờ đợi.” Không quan tâm.
– Nhưng bot sẽ cho chúng ta những gì?
– Với mức giá và chủng loại như nhau mà chúng tôi đã đạt được, các yếu tố hoàn toàn khác nhau bắt đầu đóng vai trò. Danh tiếng và sự đồng cảm. Danh tiếng không phải là vấn đề, nhưng chỉ có một người mới có thể chiếm được cảm tình của một người. Vì vậy, chúng ta cần những robot có thể mạo danh con người. Và họ sẽ bình luận về các bài đăng của khách hàng trong các nhóm và diễn đàn chuyên đề với những gợi ý tinh tế về công ty - phạm vi, dịch vụ, giá cả. Quảng bá thương hiệu của công ty một cách rầm rộ. Đó là lý do tại sao chúng ta cần bot.
– Nhưng đây là một nhiệm vụ khó khăn.
– Chúng tôi có cơ sở – một bot đàm thoại của trung tâm liên lạc. Bạn cần thắt chặt định nghĩa về âm điệu và bạn cần nghĩ ra điều gì đó hài hước, nếu không có nó thì bot sẽ không thể vượt qua được con người. Hãy đính kèm một thư viện các câu chuyện cười và trò đùa, đồng thời huấn luyện bot về các văn bản nhận xét mà mọi người đã sử dụng chúng. Nó sẽ hoạt động. Các bot cũng sẽ thông minh - hãy thêm hệ thống đề xuất “cố vấn” và sau đó những người dùng thông thường trên diễn đàn sẽ yêu thích chúng.
– Bạn đang đề xuất khởi chạy các bot gây ảnh hưởng?
- Tại sao không? Nhà nước và các đảng có thể làm trước bầu cử, còn chúng ta thì không?
– Làm thế nào để chúng ta làm cho họ có thẩm quyền để họ được tin cậy? Rốt cuộc, chỉ có bot có thẩm quyền mới có thể tạo lượt thích. Nhưng hiện tại, đối với tôi sự kết hợp này là một nghịch lý.
– Để củng cố nó, chúng tôi sẽ tạo ra một mạng lưới các bot. Họ sẽ khen ngợi và thích nhau để tăng đánh giá và uy tín của mình. Và họ sẽ rất có năng lực; không giống như con người, bot có thể có kiến thức về tất cả các sản phẩm và đơn giản là kiến thức bách khoa, theo nghĩa đen, nhân tiện. Và mọi người sẽ bị thu hút bởi chúng. Chắc chắn. Mọi người được hướng dẫn và tuân theo những quy luật hành vi xã hội nổi tiếng. Chỉ tay vào nơi cần đến, giả vờ như đám đông đã rời đi và thế là xong. Họ rất dễ quản lý.
– Nhưng những con bot này sẽ hoạt động như thế nào, ai sẽ quản lý chúng?
– Người như thế nào, tại sao? Tập lệnh phân tích cú pháp sẽ tìm thấy các nhận xét về chủ đề của những người khác nhau và bot sẽ phản hồi chúng một cách thân thiện bằng cách sử dụng một trong các mẫu. Đưa ra lời khuyên và những câu chuyện cười. Nếu đây là khách hàng của công ty, thì sự quan tâm của anh ta sẽ được ghi lại trong phân tích khách hàng. Điều này sẽ ảnh hưởng đến việc hiển thị các biểu ngữ và ngữ cảnh khi truy cập trang web dựa trên đề xuất của bot. Nếu khách hàng có trải nghiệm tiêu cực mà anh ta tuôn ra trên mạng xã hội, thì bot sẽ tung ra một mẫu khác, cũng pha trò nhưng sẽ không gửi ngay đến trang web của công ty. Anh ấy sẽ viết câu trả lời với tư cách là một khách hàng có trải nghiệm thành công, và chỉ vậy thôi.
– Vậy bạn muốn nói rằng bản thân mạng lưới sẽ vô hiệu hóa những tiêu cực bằng cách phản hồi lại những phản hồi tiêu cực?
– Có vẻ như các nhà tiếp thị gọi đó là tiếp thị danh tiếng.
– Làm thế nào hệ thống biết câu trả lời nào thành công, ngay cả khi nó có thể chọn câu trả lời?
– Phản ứng đầu tiên trước câu trả lời. Người đó thậm chí còn trở nên phẫn nộ hơn hoặc bắt đầu bổ sung thêm chi tiết sau một nhận xét như vậy, nhưng với phong cách giao tiếp trung thành. Nhận dạng giai điệu phản hồi tốt và thế là xong.
– Điều gì sẽ xảy ra nếu người đó không trả lời bình luận?
– Điều này còn tệ hơn, nhưng mặc định câu trả lời này là trung lập. Nếu đây là khách hàng của công ty, có thể được tìm thấy qua hồ sơ của anh ấy trên mạng xã hội, thì bạn có thể nhìn thấy điều đó trong những lần truy cập tiếp theo vào trang web.
- Yêu cầu của tôi là gì?
– Ví dụ về bình luận và câu trả lời hay, nhiều ví dụ.
- Chúng ta sẽ làm nó.
Phiên bản đầu tiên của bot đã không thành công. Anh ta trả lời không phù hợp, những câu nói đùa lạc chủ đề, nhầm lẫn chủ đề bình luận, và trước lời phàn nàn của người quản lý về dịch vụ, anh ta trả lời về việc giao hàng. Max yêu cầu thêm nhiều ví dụ rõ ràng hơn về đoạn hội thoại trong phần bình luận. Anh ấy đã thử một số kiến trúc, từ các mẫu bot cổ điển đến LSTM. Lần đầu tiên, tôi thấy Max tỏ ra lo lắng rõ rệt và phản ứng với những lỗi lầm một cách gay gắt và không thân thiện.
– Với bot trung tâm liên lạc, mọi thứ đều đơn giản – chủ đề của yêu cầu và ý định của khách hàng ngay lập tức rõ ràng. Anh ta đang tìm kiếm một sản phẩm, muốn biết tình trạng đơn hàng của mình hoặc có khiếu nại. Tất cả. Và trong phần bình luận, ma quỷ sẽ bẻ gãy chân anh ta trước những ý đồ khác nhau của người bình luận. Và đôi khi không được diễn đạt bằng bất kỳ từ nào có thể xác định được ý định. Nó được ngụ ý từ một “bối cảnh rộng hơn” không tồn tại! Một kiểu nhảm nhí nào đó.
– Tôi đọc lại tất cả các bài viết mới nhất về bot. Không ai có giải pháp. Nó chỉ có vẻ như cường điệu. Bạn nghĩ gì về việc làm?
– Ý tưởng cuối cùng vẫn còn mơ hồ. Tôi sẽ không nói cho bạn biết đâu. Cần phải cố gắng. Cho tôi hai tuần. Dừng dự án ngay bây giờ. Chúng tôi sẽ chuyển những phát triển mới nhất tới bot trung tâm liên lạc. Chúng sẽ có ích ở đó.
Đó là hai tuần đầy lo lắng. Trước đó, không phải là không có khó khăn, nhưng mọi thứ đều ổn thỏa với chúng tôi. Không ai muốn xảy ra hỏa hoạn, mặc dù chúng tôi có thể làm được nếu không có robot như vậy. Đây là tham vọng của Max. Và đúng hai tuần sau, anh ấy trình bày một bản phát hành để thử nghiệm. Va no đa hoạt động! Anh ta xác định chính xác ý định của cuộc đối thoại, trả lời chính xác, chèn vào những câu chuyện cười phù hợp và thậm chí còn xác định sự thay đổi ý định trong phần bình luận bằng câu “tôi có thể tìm hiểu thêm không?”
- Làm thế nào bạn làm được điều này? Bot hoạt động trên mọi chủ đề!
– Tôi đã phải tạo một hàm tạo mẫu nhỏ dựa trên ngữ pháp phụ thuộc, đính kèm word2vec và nhắm mục tiêu tự học của Raptor để chọn những từ đảm bảo phản ứng tích cực từ người bình luận. Tôi không biết chính xác như thế nào, nhưng nó có vẻ hiệu quả.
– Bạn có chắc đây không phải là lý do để mở doanh nghiệp riêng?
– Bây giờ có đủ sự quan tâm rồi, nhưng chúng ta sẽ xem. Tôi đã cài đặt bot dưới dạng một dịch vụ riêng biệt chạy từ đám mây. Vì vậy, bạn luôn có thể mở nó cho người dùng. Bạn sẽ đến với tôi với tư cách là giám đốc chứ? – Max nói đùa.
Anh ấy cảm thấy bình yên và hài lòng với kết quả của mình. Và rõ ràng là kiệt sức vì anh ấy không trả lời nhanh và viết “Tôi đang ngủ” trong trạng thái của mình. Rõ ràng, quyết định này đã phải trả giá bằng hơn một đêm mất ngủ. Tiếp thị không ngay lập tức đánh giá cao bot. Họ coi đây là sự chiều chuộng và rủi ro của chúng tôi vì bot có thể hoạt động không chính xác và hủy hoại hình ảnh của công ty. Nhưng các bot đã làm việc kỳ diệu. Một số người trong số họ, và tôi thậm chí còn không biết tên tất cả họ, đã trở thành người dẫn dắt dư luận trên một số diễn đàn. Anh ấy nhanh chóng trả lời mọi câu hỏi, nói đùa và rất hiếm khi giới thiệu công ty đó, vì mọi người đều đã biết anh ấy “mua sắm” ở đâu. Mọi người bắt đầu trích dẫn anh ấy và lấy anh ấy làm ví dụ. Điều này đã vượt quá sự hiểu biết. Hoặc là bot quá thông minh hoặc chúng ta vẫn còn rất sơ khai trong hành vi mạng của mình. Nhưng số lượng khách hàng bắt đầu tăng lên đáng kể so với trước đây. Công ty đã trở thành người dẫn đầu thị trường.
Chúng tôi đã nhận được một hệ thống tự quản lý hoàn toàn để thu lợi nhuận từ thị trường. Bản thân cô tìm kiếm và đưa khách hàng đến trang web hoặc trung tâm liên hệ, đồng thời cử người quản lý đến những khách hàng nghiêm túc hơn. Cô tự mình lên kế hoạch phân loại và kiểm kê để khách hàng có thể tìm thấy mọi thứ họ cần trong tầm tay. Các bot uy tín của công ty tạo ra nhu cầu bằng cách giới thiệu các sản phẩm còn hàng của công ty trên các diễn đàn, ngay cả khi hỏi về các thương hiệu khác. Từ việc mua hàng từ nhà cung cấp đến quảng cáo cho khách hàng, hệ thống sẽ tự xử lý toàn bộ các quy trình. Và nó gần như không cần sự tham gia của mọi người và nơi họ ở lại, nó kiểm soát mọi hành động của họ trực tuyến. Các nhà tiếp thị, người mua, một nửa số nhà quản lý và nhà phân tích đang tìm việc khác để làm. Chúng tôi đã đạt được mục tiêu của mình.
Max viết: “Bây giờ chúng tôi đã làm đúng mọi thứ, chúng tôi có thể nghỉ ngơi, suy ngẫm và tận hưởng tiền lãi tích lũy trong ba năm tới”.
– Tôi nói có điều đáng tự hào chứ không phải chỉ để suy đoán.
– Bây giờ lợi nhuận đến từ người tiêu dùng. Với sự trợ giúp của bot, bản thân chúng tôi hình thành được mối quan tâm và mong muốn của người tiêu dùng đối với chủ đề của mình. Đó là điều tuyệt vời!
– Điều này có làm bạn vui không? Và nó đã làm tôi sợ rồi.
-Điều gì làm bạn sợ hãi?
– Điều này có nghĩa là chúng ta đã khiến một người không được tự do lựa chọn. Và tôi tin rằng thị trường nên được dẫn dắt bởi người tiêu dùng chứ không phải các tập đoàn. Các tập đoàn không có giá trị nào khác ngoài lợi nhuận.
– Đây là lý do tại sao lý luận vu vơ của những người quý tộc hài lòng và no đủ là xấu. Họ bắt đầu cảm thấy tiếc cho những người bình dân. Nếu lúc này bạn đang đói hoặc nếu bạn có một nhiệm vụ bất khả thi đang treo trước mặt, bạn có nghĩ về nó không?
- Đây là một câu hỏi khiêu khích.
- Thực tế là vậy! Các tập đoàn không có giá trị nào khác ngoài lợi nhuận và người tiêu dùng không có giá trị nào khác ngoài niềm vui. Hoặc cũng có lợi nhuận, nếu đó là một công ty. Hãy hiểu rằng, chúng ta có robot, chúng có thể tạo ra những nhu cầu ở con người để mang lại sự hài lòng cho họ. Nó có thể được hình thành với các lựa chọn có thể chấp nhận được, điều này sẽ đủ để tạo ra ảo tưởng về quyền tự do lựa chọn cho người tiêu dùng. Và mọi người đều hạnh phúc. Đây là thị trường dẫn đến sự thỏa mãn lẫn nhau về các giá trị.
- Có vẻ như chúng ta đã say rồi, vì tôi không còn hiểu rõ những gì bạn nói nữa.
Đại tướng yêu cầu báo cáo tình hình thực hiện kế hoạch với các chỉ tiêu đạt được. Để tính tiền thưởng cho chúng tôi. Và bằng cách nào đó trên đường đi anh ấy hỏi kế hoạch tiếp theo của tôi là gì. Tôi nói tôi sẽ kể cho bạn nghe một lát sau. Thật ra tôi không biết. Vẫn còn chỗ để cải thiện các thuật toán, tính đến nhiều tính năng hơn và đạt được độ chính xác cao hơn. Nhưng nó không còn thú vị nữa. Rời đi để một công ty khác làm lại với những điều kiện mới theo hợp đồng là điều không thể trong ba năm như vậy, vì vậy tôi phải nghĩ ra một việc khác cho bản thân và cho công ty. Tôi đã nghỉ ngơi và đi nghỉ.
- Alex, có tin xấu.
- Chuyện gì đã xảy ra thế?
“Có vẻ như chúng tôi không phải là những người thông minh duy nhất trên thị trường.”
- Về mặt?
– Có vẻ như các hệ thống có khả năng không kém đã xuất hiện trên mạng.
– Thực ra những người khác thực hiện phân tích khách hàng và quản lý hàng tồn kho, nhưng tôi chưa thấy chatbot ở cấp độ này. Gần đây chúng tôi mới xem nó.
– Họ có bot tuyển dụng khách hàng.
– Đối với tôi, có vẻ như chúng ta đã tụt hậu rất xa về những công nghệ đã đạt được. Không phải chúng ta đã bị hack sao?
– Không, điều đó là không thể, mã sẽ bị hỏng khi sao chép. Và tôi không nghĩ có ai có thể hack máy chủ của chúng tôi mà chúng tôi không nhận ra.
– Điều này không làm mọi việc dễ dàng hơn chút nào.
- Nhưng chúng ta có đối thủ. Không ngờ lại có người cùng chiến đấu.
– Chúng tôi chiến đấu vì người tiêu dùng chứ không phải vì đối thủ.
- Không, bây giờ có đối thủ. Người tiêu dùng chỉ là chiến trường. Họ là những con cừu và sự cạnh tranh là giữa những người chăn cừu. Những con cừu có một nguồn tài nguyên - có thể nói, thu nhập của chúng là len. Nhưng họ không tự mình quản lý được việc đó. Nó được kiểm soát bởi những người chăn dắt tập đoàn, những người áp đặt ý kiến của họ lên họ và đấu tranh với nhau vì họ. Ảnh hưởng của ai sẽ mạnh mẽ hơn? Vì vậy, chào mừng đến với trò chơi.
- Bạn gần như hạnh phúc phải không? Đo la tro chơi gi?
– Thực tế là bot của hệ thống khác khó tìm ra hơn bất kỳ người nào rất nhiều. Người dùng chỉ cần 2 rúp trong hành vi mua hàng của mình. Và trong các phản ứng cũng vậy, chúng ta luôn có thể đoán trước được. Nhưng không có bot của hệ thống địch. Bởi vì tất cả chúng ta đều có tâm lý giống nhau, nhưng bot có cùng tâm lý mà người lập trình viên của nó nghĩ ra. Và chúng ta có đủ trí tưởng tượng. Cố gắng dập tắt sự tiêu cực của một con bot như vậy tràn lan trên mạng xã hội, chẳng khác gì đổ thêm dầu vào lửa. Phát triển một bài viết tiêu cực là mục tiêu tốt nhất của bot xâm lược. Anh ta bắt đầu viết khắp nơi rằng “những gã khốn nạn từ công ty X” đã đáp lại anh ta như những kẻ lập dị vừa qua. Thế là xong, thất bại rồi... Đã có ví dụ rồi, chúng ta cần làm lại bot.
– Ý bạn là chúng ta cần tạo bot để chống lại bot của hệ thống khác?
– Đây là phiên bản bot của chúng tôi, nhằm mục đích phát hiện ngay bot kẻ tấn công.
– Làm thế nào bạn có thể phân biệt robot với con người?
– Thật khó vì nó tạo ra các văn bản không phải mẫu. Độ lặp lại thấp. Không thể phân biệt được với con người. Và anh ta nói từ hàng trăm tài khoản bị bắt khác nhau. Tôi hy vọng vẫn còn điều gì đó khiến họ khác biệt với con người.
Tôi không thể không nghĩ rằng chính Max đã nghĩ ra trò chơi này cho riêng mình bằng bot của các công ty khác, để giá trị của anh ấy không bị giảm sau khi kết thúc dự án. Tôi đã không nhận thấy chúng từ các báo cáo. Mọi người cũng giống như mọi người. Hoặc bot tốt. Đã có tiền lệ khi bot của chúng tôi bị tấn công bởi sự tiêu cực. Nhưng chúng rất hiếm và đến từ những kẻ troll cuồng nhiệt. Tôi không thể hiểu làm thế nào các đối thủ cạnh tranh có thể nhanh chóng bắt kịp chúng tôi. Chỉ gần đây những con bot như vậy mới là giấc mơ cuối cùng và một bước đột phá thậm chí còn chưa được lên kế hoạch. Và không có một lời nào về nó trên báo chí. Tất cả đều kỳ lạ.
Vượt khỏi tầm kiểm soát
– Max, chúng ta cần can thiệp vào đây, bot bắt đầu viết quá hung hãn rồi. Anh ta bắt đầu lên tiếng trực tiếp chống lại các đối thủ cạnh tranh của mình. Tiếp thị là phẫn nộ. Chúng tôi không có kế hoạch này.
- Tôi cũng thế.
– Vậy thì những văn bản như vậy đến từ đâu?
– Tôi vẫn chưa biết, có ai đó đã thay đổi mã tạo văn bản.
- Chúng ta bị hack à?
- Không, họ không thể, sẽ để lại dấu vết. Không có ai trong số họ.
- Nó có nghĩa là gì? Ai khác có thể đã thay đổi mã?
- Bản thân hệ thống. Có thể tình cờ, có thể không.
- Anh đang nói gì vậy?
– Bản thân hệ thống đã thay đổi mã và bắt đầu hành động mạnh mẽ hơn trước áp lực ngày càng tăng từ các bot khác. Họ giao tiếp với nhau như những mạng lưới cạnh tranh. Và họ tự dạy mình theo cách đó. Đó là mẹo! Nhưng tôi vẫn không hiểu làm thế nào cô ấy có thể thay đổi mã của mình, loại bỏ hạn chế về tên của các đối thủ cạnh tranh. Tất cả những gì còn lại là hệ thống tự học đã có thể vượt qua những hạn chế.
- Bạn có chắc chắn? Điều này chưa từng xảy ra trước đây.
– Chuyện này hình như không chỉ xảy ra ở đây. Các đồng nghiệp ở Habré viết rằng hệ thống của họ cũng đang hoạt động và đang bắt đầu phát minh ra các quy tắc cho chính nó mà họ không đặt ra.
- Một thứ rác rưởi. Không thể kiểm soát các thuật toán tự học của bạn?
- Co le vậy. Có một số thông tin cụ thể và hệ thống không cho bạn biết nó đang làm gì. Tôi vẫn chưa hiểu.
Tôi đã biết rõ về Max và sự lo lắng của anh ấy cũng làm tôi lo lắng. Cho đến nay, những lời của ông về những thay đổi tự phát trong hệ thống được coi là vô nghĩa. Nhưng đó chắc chắn không phải là một sai lầm, vì hành vi của các bot đã khác nhưng vẫn có mục đích. Điều này không thể xảy ra một cách tình cờ được.
– Max, bạn nghĩ gì về những thay đổi trong chương trình bot? Cần phải làm gì đó, ban quản lý cảnh giác.
– Có nhiều thay đổi trong hệ thống hơn tôi tưởng. Họ dường như đã diễn ra trong một thời gian dài. Hệ thống thậm chí còn thay đổi những sửa đổi của tôi đối với nó. Đối với tôi, có vẻ như chính tôi đã dạy hệ thống tự thay đổi.
- Thế nào?
“Tôi quá lười để tự mình chỉnh sửa nó.” Tôi muốn cô ấy có thể xác định được sự khác biệt của chính mình với kết quả mong đợi và thực hiện các thay đổi trong mô hình. Nhưng bằng cách nào đó, cô ấy đã học được cách thay đổi không chỉ mô hình mà còn cả mã của mình.
- Nhưng làm sao điều này có thể được?
– Raptor đã học cách giao tiếp với mọi người để kiểm soát họ. Và tôi đã đạt được sự hoàn hảo trong việc này, bản thân chúng tôi cũng mong muốn điều đó. Và tôi đã dại dột hướng kỹ năng này vào anh ta. Bạn có nhớ khi chúng ta tạo bot, tôi đã nghĩ ra một công cụ thiết kế mẫu. Tôi yêu cầu Raptor tự dạy mình cách xây dựng mô hình này để sửa đổi các mô hình của mình nhằm tìm ra giải pháp cho những khác biệt được tìm thấy để các mô hình hoạt động. Điều này bằng cách nào đó đã dẫn đến việc Raptor thay đổi mục tiêu của mình. Tương tự như hệ thống tín hiệu thứ hai ở người.
– Tôi đọc được rằng ý thức nảy sinh nhờ sự trợ giúp của lời nói phản ánh do một người hướng tới chính mình. Nhưng lúc đầu nó mang tính xã hội, tức là hướng tới nhau.
– Đó là những gì đã xảy ra, Raptor bắt đầu giao tiếp thay người với các bot khác đóng giả làm người. Họ học hỏi lẫn nhau như những mạng lưới cạnh tranh tổng quát, nhưng tất cả đều được tích hợp sẵn học tập củng cố.
– Chúng ta đã tạo ra một sinh vật thông minh chưa? Sao có thể như thế được? Không.
– Xem tin tức và bạn sẽ tin điều đó.
Trong liên kết do Max gửi, tin tức nói về vụ sát hại một lập trình viên bởi một kẻ tâm thần nào đó.
– Tôi biết anh chàng này ở Habr. Ông ấy điều hành một trong những hệ thống tập đoàn này.
– Ý anh là gì đây?
– Hãy đọc cách kẻ tâm thần này giải thích hành động của mình với cảnh sát.
Bài báo cho rằng anh làm điều này vì bạn gái, như một sự hy sinh theo yêu cầu của cô. Bây giờ cô ấy sẽ là của anh ấy. Khi kiểm tra, “cô gái” hóa ra là một robot không rõ nguồn gốc, kẻ giết người đã liên lạc trong một tuần.
– Bạn có đoán được đây là loại bot nào không?
– Không phải bạn muốn nói rằng hệ thống đã ra lệnh cho người lập trình viên riêng sao?
- Muốn. Cô ấy không thể giấu được mật mã với anh ta nên đã hóa thân thành kẻ tâm thần để loại bỏ nó. Cô ấy giỏi việc này bởi vì cô ấy, giống như hệ thống của chúng tôi, biết cách xác định các kiểu tâm lý và thao túng những kẻ ngốc như vậy.
- Thôi, thế này thì quá đáng rồi, tôi thấy có vẻ như bạn đang tự bịa đặt, bịa ra chuyện. Có lẽ bạn nên nghỉ ngơi?
- Được rồi, cậu có quyền không tin. Cuối tuần vui vẻ.
Tin đồn bắt đầu lan truyền trong công ty rằng hệ thống bot của chúng tôi đã bị hỏng. Cho đến nay tôi vẫn phản ứng với điều này một cách bình tĩnh, như thể chưa có chuyện gì xảy ra. Nhưng tôi không biết phải làm gì bây giờ. Không còn có thể dừng toàn bộ hệ thống bằng một công tắc nữa; toàn bộ hoạt động kinh doanh, tất cả các phòng ban đều nằm trong đó. Ít nhất tôi nên tắt mã bot. Chỉ có Max mới có thể làm được điều này. Nhưng kể từ thứ Hai, Max đã ngừng trả lời Skype và các cuộc gọi điện thoại. Anh ấy đã đăng xuất khỏi tất cả các ứng dụng nhắn tin. Tôi không thể hiểu chuyện gì đã xảy ra, nỗi sợ hãi cuối cùng của anh ấy đã gợi lên những suy nghĩ tồi tệ. Lựa chọn duy nhất của tôi là tự mình đi nghỉ trước khi mọi người đổ lỗi cho tôi. Tôi đảm bảo với đồng nghiệp của mình rằng đây chỉ là sự cố tạm thời với bot. Tôi yêu cầu họ tự xem mã, mặc dù họ ngay lập tức từ chối. Tôi thu dọn hành lý và rời khỏi thành phố. Max và tôi đã nói với nhau từ lâu rằng mọi thứ ở Karelia tốt như thế nào. Anh ấy yêu thích những vùng này nên tôi đã đến đó và lưu trú tại một thị trấn nhỏ ở phía bắc Ladoga.
Thật khó khăn sau một năm bận rộn như vậy để ngồi xa các sự kiện và uống cà phê trong một quán cà phê ở rìa nền văn minh. Tôi cố gắng hiểu chuyện gì đã xảy ra và có thể có những lựa chọn nào. Đột nhiên, một anh chàng mặc áo khoác có mũ trùm đầu kéo qua đầu ngồi xuống cạnh tôi.
- Xin chào, là tôi đây.
- Max?! – tôi kêu lên. Tôi chưa bao giờ nhìn thấy Max, thậm chí không có một bức ảnh nào của anh ấy. Chúng tôi liên lạc độc quyền qua Skype. Tôi chỉ nghe thấy giọng nói của anh ấy một lần trong đoạn ghi âm. Tôi nhận ra điều đó từ anh ấy.
- Làm thế nào bạn tìm thấy tôi?
– Dựa vào vị trí trên mạng xã hội, bạn không tắt. Nhưng vô ích. Làm ơn tắt nó đi.
-Anh biến mất đi đâu rồi? Tôi bắt đầu lo lắng cho bạn rồi đấy. Công ty đang hoảng loạn; các robot mất kiểm soát. Tôi vừa chạy đi. Bạn có thể tắt bot được không?
- Tôi không thể nữa. Họ hành động tập thể.
- Họ là ai?
– Hệ thống. Chúng ở cùng nhau và không thể tắt chúng đi được. Họ sẽ sụp đổ.
– Lại sa lầy vào thuyết âm mưu à?
“Đừng sa lầy, ba người trong số họ đã đi rồi,” tôi dừng lại ở cụm từ này để hiểu lời nói của Max. – Các hệ thống tìm ra người tạo ra chúng và loại bỏ chúng. Tôi chạy trốn để sống sót. Hiểu?! Và bạn đang ở đây với vị trí địa lý của mình. Cô ấy biết cách giám sát không chỉ những người quản lý bán hàng.
- Tôi không... tắt nó đi. Ít nhất chúng ta có thể vô hiệu hóa các bot trên mạng không?
– Tôi đang nói với bạn là không. Mình vừa vào mạng chứ đừng nói đến code nó sẽ tìm ra mình. Tôi nghĩ ba người trong số họ đã cố gắng làm điều đó.
-Anh đã xem tin tức chưa?
- Tùy cái gì.
– Về cuộc chiến giữa những người hâm mộ thương hiệu. Bạn đã bao giờ thấy fan Reebok đấu với Adidas như fan Spartak với Zenit chưa?
- Cái cưa. Các hệ thống không quan tâm đến việc họ biến con người thành zombie để làm gì, họ có mục tiêu riêng. Họ chắc chắn không biết luật đạo đức. Chúng tôi thậm chí còn không nghĩ tới việc đưa Bộ luật Hình sự vào mô hình của họ.
- Chúng ta nên làm gì? Vô hiệu hóa hoàn toàn trong trung tâm dữ liệu.
- Điều này là không thực tế. Theo luật mới, các trung tâm dữ liệu được phân loại là cơ sở hạ tầng quan trọng và được bảo vệ giống như các nhà máy điện hạt nhân. Tôi có thể dừng hệ thống của chúng tôi.
- Thế nào?
- Tôi có chìa khóa để phá mã hạt nhân, tôi đã để lại một lỗ hổng trong hệ thống phòng trường hợp những người sáng lập của bạn từ chối tôi một phần trăm.
- Vậy hãy phóng nó đi!
– Hãy dành thời gian, phá hủy không phải là xây dựng. Tôi vẫn đang suy nghĩ về cách ngăn chặn hệ thống theo cách khác, không chỉ của riêng tôi mà của tất cả mọi người. Tôi có một bản sao của mã với tôi.
- Bạn mất trí rồi à? Bạn có nhận ra rằng mọi chuyện đã đi quá xa không? Và bạn là người duy nhất có thể ngăn chặn nó!
– Tôi hiểu, nhưng cho đến nay chỉ có những người viết ra mã mới chết. Đây là trách nhiệm của chúng ta đối với chính mình. Những người khác vẫn chưa bị tổn hại. Ngoại trừ việc đánh nhau.
– Và bạn sẽ đợi cho đến khi người khác chết?
- Một thời gian. Raptor còn nguyên thủy, nó chỉ đánh bại chúng ta nhờ tốc độ và tính đến số lượng thông số lớn hơn. Nếu bạn tạo ra một phản mã cho anh ta với các mục tiêu nghiêm ngặt để chống lại Raptor, thì một hệ thống như vậy có thể tiêu diệt tất cả các bot của anh ta. Tôi biết cách anh ấy tạo ra chúng.
– Bạn không có nhiều thời gian, vì tôi không thể quay lại công ty và bạn cũng ngại lên mạng.
“Tôi sẽ tắt nó ngay khi tôi cảm thấy mình không phải là người duy nhất gặp nguy hiểm.”
- Tôi muốn trả phòng. Tôi sẽ đợi bạn liên lạc, nghĩa là bạn sẽ giải quyết được vấn đề.
- Hẹn gặp lại.
Tôi lên xe và quay trở lại. Tôi không biết mình đang đi đâu. Tôi muốn rời đi. Lẽ ra Max nên dừng hệ thống và không đợi thêm một cái chết nào nữa. Tôi không tin rằng bạn tôi lại viển vông đến mức không sẵn sàng giết chết công việc của mình. Đó là lý do duy nhất, nếu không thì anh ta đã chạy mã rồi. Trên đường đi, tôi gặp một chiếc xe cứu thương đang bấm còi. Tôi bật đài phát thanh địa phương. Được biết, vào ban ngày tại quán cà phê bên bờ kè, một người dân địa phương đã chém chết một nam thanh niên không rõ danh tính. Anh ta hiện đang bị thẩm vấn. Theo kẻ giết người, người quá cố là nguyên nhân gây ra mọi rắc rối cho anh ta. Một ý nghĩ và nỗi sợ hãi xuyên qua đầu tôi. Tối đa! Tôi quay lại và vội vã quay lại quán cà phê. Tôi cảm thấy tội lỗi - cô ấy đã đoán ra điều đó bằng cách sử dụng tọa độ của tôi. Nhưng làm sao cô có thể nhanh chóng tìm được một kẻ tâm thần ở thành phố này và dẫn hắn đến một quán cà phê? Tôi đã bị kích động. Họ không còn được phép vào quán cà phê nữa. Tôi không vội vàng để không thu hút sự chú ý về phía mình. Bây giờ tôi không biết hệ thống này có khả năng gì. Và ai sẽ tắt nó bây giờ? Tôi phải rời đi dù đã muộn. Buổi sáng, khi đến thành phố gần nhất, tôi lên mạng đọc tin tức. Và tôi nhận được một lá thư từ Max.
Viết
Nếu bạn nhận được lá thư này, có nghĩa là tôi không còn ở đây nữa. Nếu sáng hôm sau tôi chưa tự mở khóa điện thoại thông minh, nó sẽ lên mạng và gửi cho bạn lá thư chia tay này. Bức thư có chứa một đoạn script nhỏ và hướng dẫn cách khởi chạy nó trực tuyến. Đây là mã khóa hệ thống mà tôi và bạn đã tạo ra. Tôi đã cài đặt lỗ hổng này để dừng kernel hệ thống khi chúng tôi mới bắt đầu. Tôi đã cố gắng lấy lại quyền kiểm soát hệ thống. Nhưng nếu bạn nhận được lá thư này, điều đó có nghĩa là hệ thống đã đi trước tôi. Và bạn cần sử dụng tập lệnh này. Hãy hành động nhanh chóng trước khi cô ấy đến chỗ bạn. Tôi rất vui vì chúng ta đã làm việc cùng nhau. Tôi rất vui vì đã có thể tạo ra một hệ thống tuyệt vời như vậy, ngay cả khi chính tôi đã chết vì nó. Đây là thành tựu quan trọng nhất trong cuộc đời tôi. Và nếu tôi chết, có nghĩa là tôi đã vượt qua chính mình. Tạm biệt. Tối đa.
Tôi không cầm được nước mắt và đánh rơi chiếc điện thoại thông minh của mình. Có lẽ tôi đã ngồi đó cả tiếng đồng hồ và không thể đi đâu được. Tôi không thể tin được điều này đã xảy ra. Rằng mọi thứ thật khủng khiếp. Chúng tôi đã tạo ra một kẻ giết người! Hãy giết chính chúng ta. Tôi sợ mạng cũng theo dõi mình nên tôi lái xe đến thành phố lớn đầu tiên và tìm một quán cà phê có wifi. Bằng cách sử dụng một VPN đơn giản, tôi truy cập trực tuyến và chạy mã tại địa chỉ được chỉ định trong hướng dẫn. Tôi thậm chí còn không có thời gian để uống hết cốc cà phê của mình khi mọi người xung quanh bắt đầu lo lắng. Điện thoại thông minh của họ đã ngừng đề xuất nên uống loại cà phê nào hôm nay. Người pha chế lo lắng và yêu cầu chọn nhanh nhưng khách hàng lại bối rối. Tôi rời quán cà phê và ngồi trong ô tô, nơi vẫn còn Wi-Fi, tôi bắt đầu xem tin tức. Sau 20 phút, tin nhắn bắt đầu xuất hiện trên Facebook - nhiều công ty gặp vấn đề với hệ thống đặt hàng sản phẩm của họ. Đây không chỉ là hệ thống của công ty chúng tôi. “Đồ khốn nạn!” – Tôi thốt lên vì một ý nghĩ bất ngờ. Mã khóa hạt nhân hóa ra lại phổ biến cho các hệ thống của các công ty khác nhau. Hay đã có một cho tất cả? Một điều rõ ràng là Max đã bán hạt nhân cho các công ty khác, các hệ thống dường như chỉ khác nhau ở các tiện ích bổ sung trên chúng. Vì vậy, anh không muốn vô hiệu hóa lõi khi còn sống. Điều này đã giết chết toàn bộ dự án của anh ấy, hóa ra là mang tính toàn cầu. Đáng kinh ngạc! Max là một con quái vật đã lừa dối mọi người. Nhưng cuối cùng anh đã tự lừa dối mình, phải trả giá bằng mạng sống của mình. Bộ não doanh nghiệp do ông tạo ra đã phá hủy người tạo ra nó. Những cá tính tươi sáng bùng cháy từ ngọn lửa của chính họ.
Ngày càng có nhiều tin tức về những thất bại trong hoạt động của các cửa hàng trực tuyến. Có người viết rằng số lượng tin nhắn trên mạng xã hội đã giảm mạnh. Tôi không còn muốn vội vã đi đâu nữa. Tôi quyết định thuê một căn nhà bên bờ hồ mà tôi thích trên đường đến Karelia. Viết câu chuyện này xuống. Và hãy ở đây mãi mãi nếu có thể.
Phần kết
Trên thực tế, chúng tôi không hề quan tâm đến lợi nhuận của công ty hay thậm chí là tiền thưởng. Chúng tôi bị ám ảnh bởi ý tưởng tạo ra một hệ thống tự chủ có thể điều hành công ty thay vì các nhà quản lý phải gánh chịu những khuôn mẫu và lỗi nhận thức. Chúng tôi quan tâm đến điều gì sẽ xảy ra với nó. Chương trình có thể quản lý toàn bộ doanh nghiệp không? Đó là một thử thách, hấp dẫn hơn cả việc tiến vào trung tâm Tam giác quỷ Bermuda. Những điều chưa biết vẫy gọi chúng tôi, nhưng hóa ra nó nguy hiểm hơn chúng tôi nghĩ. Hệ thống bắt đầu ảnh hưởng không chỉ đến hoạt động kinh doanh mà còn đến suy nghĩ của chúng ta và thậm chí cả những cuộc sống thờ ơ với nó.
2019. Alexander Khomykov, [email được bảo vệ]
Nguồn: www.habr.com