o perypetiach wprowadzania AI w firmie handlowej, o tym, czy da się całkowicie obejść się bez menedżerów. I do czego (hipotetycznie) może to prowadzić. Pełną wersję można pobrać ze strony
Boty decydują o wszystkim
– Max, gratuluję, w całym łańcuchu sprzedaży zrobiliśmy już prawie wszystko. Nadal należy wprowadzić ulepszenia i będziesz otrzymywać odsetki przez trzy lata, zgodnie z umową.
– To dopiero połowa projektu. Nie dotarliśmy jeszcze do najważniejszej rzeczy.
- Czekaj, co jest najważniejsze? Po co? Zrobiliśmy wszystko!
– Mamy zautomatyzowane procesy w łańcuchu sprzedaży, wszystko działa dobrze bez ludzi, ale nie ma już klientów. Trzeba ich przyciągnąć na naszą stronę w Internecie. Musimy stworzyć boty.
– Ale stworzyliśmy usługę idealną, klienci to docenią i sami przyjdą.
– Wygląda na to, że im się nie spieszy, a ja nie mam czasu czekać. Nie zainteresowany.
– Ale co dadzą nam boty?
– Przy jednakowych cenach i asortymencie, który udało nam się osiągnąć, rolę zaczynają odgrywać zupełnie inne czynniki. Sława i sympatia. Sława nie jest problemem, ale tylko osoba może zdobyć sympatię drugiej osoby. Dlatego potrzebujemy botów, które będą podszywać się pod ludzi. A posty klientów na grupach tematycznych i forach będą komentować subtelnymi podpowiedziami na temat firmy - jej asortymentu, usług, cen. Dyskretnie promuj markę firmy. Dlatego potrzebujemy botów.
– Ale to trudne zadanie.
– Mamy podstawę – bota konwersacyjnego contact center. Trzeba doprecyzować definicję tonalności i wymyślić coś z humorem, bez tego bot nie uchodzi za człowieka. Dołączmy bibliotekę dowcipów i gagów oraz przeszkolmy bota na tekstach komentarzy, w których ludzie z nich korzystali. Powinno działać. Boty też będą sprytne – dodajmy do tego system rekomendacji „doradczych”, a wtedy zwykli użytkownicy na forach je pokochają.
– Czy proponujecie uruchomienie botów wpływających?
- Dlaczego nie? Państwo i partie mogą to zrobić przed wyborami, a my nie?
– Jak uczynić ich autorytatywnymi, aby można było im zaufać? W końcu tylko autorytatywny bot może tworzyć polubienia. Ale na razie dla mnie to połączenie jest oksymoronem.
– Aby to wzmocnić, stworzymy sieć botów. Będą się chwalić i lubić, aby zwiększyć swoją ocenę i autorytet. I będą bardzo kompetentni, w przeciwieństwie do ludzi bot może mieć wiedzę o wszystkich produktach, a swoją drogą po prostu wiedzę encyklopedyczną, w dosłownym tego słowa znaczeniu. I ludzie będą do nich przyciągani. Jasne. Ludzie kierują się i przestrzegają dobrze znanych praw zachowań społecznych. Wskaż palcem, gdzie iść, udawaj, że tłum już wyszedł i tyle. Łatwo nimi zarządzać.
– Ale jak te boty będą działać, kto będzie nimi zarządzał?
– Jacy ludzie, dlaczego? Skrypt analizujący wyszukuje komentarze na temat różnych osób, a bot w przyjazny sposób odpowiada na nie, korzystając z jednego z szablonów. Udziela rad i żartów. Jeśli jest to klient firmy, to jego zainteresowanie jest odnotowane w analizie klienta. Wpłynie to na wyświetlanie banerów i kontekst, jeśli chodzi o witrynę w oparciu o rekomendację bota. Jeśli klient ma negatywne doświadczenia, które wylał na portalach społecznościowych, bot uruchomi kolejny szablon, również zażartuje, ale nie prześle go od razu na stronę firmy. Odpowiedź napisze jako klient z udanym doświadczeniem i tyle.
– Chcesz więc powiedzieć, że sieć sama zneutralizuje negatywność, reagując na negatywny feedback?
– Wydaje się, że marketerzy nazywają to marketingiem reputacji.
– Skąd system będzie wiedział, która odpowiedź jest prawidłowa, nawet jeśli byłby w stanie wybrać odpowiedź?
– Pierwsza reakcja na odpowiedź. Osoba albo staje się jeszcze bardziej oburzona, albo po takim komentarzu zaczyna dodawać szczegóły, ale w lojalnym stylu komunikacji. Dobre rozpoznawanie tonu odpowiedzi i to wszystko.
– A co jeśli dana osoba nie odpowiedziała na komentarz?
– To jest gorsze, ale domyślnie ta odpowiedź jest neutralna. Jeśli jest to klient firmy, o czym można dowiedzieć się po jego profilu w serwisie społecznościowym, to można to zobaczyć przy kolejnych wizytach w serwisie.
- Czego się ode mnie wymaga?
– Dobre przykłady komentarzy i odpowiedzi, wiele przykładów.
- Zrobimy to.
Pierwsza wersja bota nie powiodła się. Odpowiedział niewłaściwie, żarty nie na temat, pomylił temat komentarza, a w odpowiedzi na skargę kierownika dotyczącą obsługi odpowiedział w sprawie dostawy. Max prosił w komentarzach o jeszcze bardziej zaznaczone przykłady dialogów. Wypróbował już kilka architektur, od klasycznych szablonów botów po LSTM. Po raz pierwszy widziałem, że Max był wyraźnie zdenerwowany i reagował na błędy ostro i nieprzyjaznie.
– Z botem contact center wszystko było proste – przedmiot zapytania i intencja klienta były od razu jasne. Poszukuje produktu, chce poznać status swojego zamówienia lub ma reklamację. Wszystko. A w komentarzach diabeł połamie nogę od różnych intencji komentatora. A czasem nie wyrażone żadnym ze słów, za pomocą których można określić intencję. Wynika to z „szerszego kontekstu”, który nie istnieje! Jakieś bzdury.
– Przeczytałem na nowo wszystkie najnowsze wpisy na temat botów. Nikt nie ma rozwiązania. To po prostu wygląda na szum reklamowy. Co myślisz zrobić?
– Pozostaje ostatnia, wciąż niejasna koncepcja. Jeszcze ci nie powiem. Muszę spróbować. Daj mi dwa tygodnie. Zatrzymaj projekt na razie. Najnowsze rozwiązania będziemy przenosić do bota contact center. Tam się przydadzą.
To były nerwowe dwa tygodnie. Wcześniej nie było to bez trudności, ale wszystko nam się udawało. Nikt nie chciał niewypału, choć bez takiego bota dałoby się obejść. To była ambicja Maxa. I dokładnie dwa tygodnie później przedstawił wydanie do testów. I zadziałało! Prawidłowo określił intencję dialogu, trafnie odpowiedział, wstawił odpowiednie żarty, a nawet określił zmianę intencji w komentarzu zwrotem „czy mogę dowiedzieć się więcej?”
- Jak ci się to udało? Bot działa na każdy temat!
– Musiałem stworzyć mały konstruktor szablonów w oparciu o gramatykę zależności, załączyć word2vec i ukierunkować samouczenie się Raptora tak, aby dobierał słowa, które zapewnią pozytywną reakcję komentatora. Nie wiem dokładnie jak, ale wydawało się, że zadziałało.
– Czy na pewno nie jest to powód do otwarcia własnego biznesu?
– Zainteresowanie na razie wystarczające, ale zobaczymy. Zainstalowałem bota jako osobną usługę działającą z chmury. Dzięki temu zawsze możesz otworzyć go dla użytkowników. Czy przyjdziesz do mnie jako reżyser? – zażartował Maks.
Był spokojny i zadowolony ze swojego wyniku. I wyraźnie wyczerpany, bo nie odpowiedział szybko i w swoim statusie napisał „Śpię”. Najwyraźniej decyzja została podjęta kosztem niejednej nieprzespanej nocy. Marketing nie od razu docenił bota. Uważali, że jest to dla nas rozpieszczanie i ryzykowne, ponieważ boty mogą działać nieprawidłowo i zrujnować wizerunek firmy. Ale boty zdziałały cuda. Niektórzy z nich, a nawet nie wszystkich znałem z imienia, stali się liderami opinii na niektórych forach. Szybko odpowiadał na wszystkie pytania, żartował i bardzo rzadko polecał firmę, bo wszyscy już wiedzieli, gdzie „robi zakupy”. Ludzie zaczęli go cytować i podawać jako przykład. To już przekraczało wszelkie pojęcie. Albo bot był zbyt mądry, albo nadal zachowujemy się bardzo prymitywnie w sieci. Ale liczba klientów zaczęła rosnąć znacznie bardziej niż wcześniej. Firma stała się liderem na rynku.
Otrzymaliśmy całkowicie samorządny system wyciągania zysków z rynku. Sama wyszukuje i sprowadza klientów na stronę internetową lub contact center, a do poważniejszych klientów wysyła menadżera. Sama planuje asortyment i stany magazynowe, tak aby klienci mogli znaleźć wszystko, czego potrzebują i w zasięgu ręki. Renomowane boty firmy generują popyt, polecając na forach produkty firmy znajdujące się w magazynie, nawet jeśli pytają o inne marki. Od zakupów od dostawcy po reklamę u klienta, system obsługuje te procesy całkowicie samodzielnie. I prawie nie wymaga udziału ludzi, a tam, gdzie pozostają, kontroluje wszystkie ich działania w Internecie. Marketerzy, kupujący, połowa menedżerów i analitycy szukają innego zajęcia. Osiągnęliśmy nasz cel.
„Teraz zrobiliśmy wszystko dobrze, możemy odpocząć, zastanowić się i cieszyć się rosnącymi odsetkami przez kolejne trzy lata” – nie bez emotikonów napisał Max.
– Powiedziałbym, że jest z czego być dumnym, a nie tylko spekulować.
– Teraz zysk pochodzi od konsumentów. Za pomocą botów sami kształtujemy zainteresowania i pragnienia konsumentów w naszym temacie. To jest fajne!
– Czy to cię uszczęśliwia? I to już mnie przeraża.
-Co cię przeraża?
– To znaczy, że uczyniliśmy człowieka niewolnym w swoim wyborze. I uważam, że rynkiem powinien kierować konsument, a nie korporacje. Korporacje nie mają żadnej wartości poza zyskiem.
– Dlatego próżne rozumowanie zadowolonych i dobrze odżywionych patrycjuszy jest złe. Zaczynają współczuć plebejuszom. Gdybyś był teraz głodny lub miał przed sobą zadanie niemożliwe do wykonania, pomyślałbyś o tym?
- To prowokacyjne pytanie.
- Istotnie! Korporacje nie mają innych wartości niż zysk, a konsumenci nie mają innych wartości niż przyjemność. Lub także zyski, jeśli jest to firma. Zrozum, mamy boty, potrafią kreować w ludziach potrzeby, które przyniosą im satysfakcję. Można go tworzyć z akceptowalnymi opcjami, które wystarczą, aby uzyskać iluzję wolności wyboru dla konsumenta. I wszyscy są szczęśliwi. Jest to rynek prowadzący do wzajemnego zaspokojenia wartości.
- Wygląda na to, że się upiliśmy, bo nie do końca rozumiałem, co powiedziałeś.
Generał poprosił o sprawozdanie z realizacji planu wraz z osiągniętymi wskaźnikami. Aby obliczyć należną nam premię. I jakoś po drodze zapytał, jakie mam dalsze plany. Powiedziałem, że powiem ci trochę później. Właściwie to nie wiedziałem. Było miejsce na ulepszenie algorytmów, uwzględnienie większej liczby funkcji i osiągnięcie większej dokładności. Ale to nie było już takie interesujące. Wyjazd do innej firmy, aby powtórzyć ją na nowych warunkach w ramach kontraktu, przez te same trzy lata był niemożliwy, więc musiałem wymyślić coś innego dla siebie i dla firmy. Zrobiłem sobie przerwę i wakacje.
- Alex, mam złe wieści.
- Co się stało?
„Wygląda na to, że nie jesteśmy jedynymi inteligentnymi firmami na rynku”.
- Pod względem?
– Wygląda na to, że w sieci pojawiły się systemy o nie mniejszych możliwościach.
– No cóż, inni faktycznie zajmują się analizą klientów i zarządzaniem zapasami, ale ja nie widziałem chatbotów na tym poziomie. Niedawno sami to oglądaliśmy.
– Mają boty, które rekrutują klientów.
– Wydawało mi się, że jesteśmy daleko w tyle w osiągniętych technologiach. Czy nie mogli nas zhakować?
– Nie, to niemożliwe, kod przy kopiowaniu ulega uszkodzeniu. I nie sądzę, żeby komukolwiek udało się włamać na nasz serwer bez naszej wiedzy.
– To wcale nie ułatwia sprawy.
- Ale mamy rywala. Niespodziewanie, ale będzie z kim walczyć.
– Walczymy o konsumenta, a nie z rywalem.
- Nie, teraz z przeciwnikiem. Konsumenci są tylko polem bitwy. Są owcami i wśród pasterzy panuje konkurencja. Owce mają zasoby - ich dochód, że tak powiem, wełnę. Ale sami sobie z tym nie radzą. Kontrolują ją korporacyjni pasterze, którzy narzucają im swoje opinie i walczą między sobą o nie. Czyj wpływ będzie silniejszy? Zatem zapraszamy do gry.
-Jesteś prawie szczęśliwy? Jaka jest gra?
– Faktem jest, że bota innego systemu jest znacznie trudniej rozgryźć niż jakąkolwiek osobę. Użytkownik jest tak prosty w swoich zachowaniach zakupowych jak 2 ruble. Również w reakcjach jesteśmy zawsze przewidywalni. Ale nie ma bota systemu wroga. Ponieważ wszyscy mamy tę samą psychikę, ale bot ma tę samą mentalność, którą wymyślił jego programista. I mamy dość wyobraźni. Próba ugaszenia negatywności takiego bota, wylewanej na portalach społecznościowych, jest jak dolanie oliwy do ognia. Najlepszym celem bota agresora jest opracowanie negatywnego postu. Zaczyna wszędzie pisać, że „skurwysyny z firmy X” zareagowały na niego jak ostatnie dziwadła. I tyle, porażka... Przykłady już są, trzeba bota przerobić.
– Chcesz powiedzieć, że musimy stworzyć bota, który będzie walczył z botami innych systemów?
– To wersja naszego bota, która ma na celu natychmiastowe wykrycie bota agresora.
– Jak odróżnić bota od człowieka?
– To trudne, bo generuje teksty nieszablonowe. Powtarzalność jest niska. Nie da się ich odróżnić od ludzi. I przemawia z setek różnych przechwyconych relacji. Mam nadzieję, że jest jeszcze coś, co odróżnia ich od ludzi.
Nie mogłem oprzeć się wrażeniu, że Max sam wymyślił tę grę dla siebie z botami innych firm, aby po zakończeniu projektu jego wartość nie spadła. Nie zauważyłem ich w raportach. Ludzie są jak ludzie. Albo dobre boty. Były precedensy, kiedy nasz bot był bombardowany negatywnymi opiniami. Ale były rzadkie i pochodziły od żarliwych trolli. Nie mogłem zrozumieć, jak nasi konkurenci byli w stanie tak szybko nas dogonić. Jeszcze niedawno takie boty były największym marzeniem, a przełomu nawet nie planowano. A w prasie nie ma o tym ani słowa. To wszystko było dziwne.
Wymknąć się spod kontroli
– Max, musimy tu zainterweniować, bot zaczął zbyt agresywnie pisać. Zaczyna wypowiadać się bezpośrednio przeciwko swoim konkurentom. Marketing jest oburzony. Nie planowaliśmy tego.
- Ja też.
– Skąd w takim razie biorą się takie teksty?
– Jeszcze nie wiem, ktoś zmienił kod generowania tekstu.
- Czy zostaliśmy zhakowani?
- Nie, nie mogli, zostałyby ślady. Nie ma żadnego z nich.
- Co to znaczy? Kto inny mógł zmienić kod?
- Sam system. Może przez przypadek, może nie.
- O czym mówisz?
– Sam system zmienił swój kod i zaczął działać bardziej agresywnie w odpowiedzi na rosnącą presję ze strony innych botów. Komunikują się ze sobą w formie konkurencyjnych sieci. I oni się w ten sposób uczą. Oto cała sztuczka! Ale nadal nie rozumiem, jak mogła zmienić swój kod, usuwając ograniczenia dotyczące nazw konkurentów. Pozostaje tylko to, że system samouczenia był w stanie ominąć ograniczenia.
- Jesteś pewien? Coś takiego nie zdarzało się wcześniej.
– To się zdarza, jak się zdaje, nie tylko tutaj. Koledzy z Habré piszą, że ich system również działa i zaczyna wymyślać dla siebie zasady, których sami nie ustalili.
-Jakiś śmieci. Nie możesz kontrolować swoich samouczących się algorytmów?
- Może tak. Jest kilka szczegółów, a system nie mówi, co robi. Jeszcze nie rozumiem.
Znałam już Maxa dobrze i jego niepokój też mnie zaniepokoił. Dotychczas jego słowa o samoistnych zmianach w systemie odbierano jako nonsens. Ale na pewno nie był to błąd, ponieważ zachowanie botów stało się inne, ale nadal celowe. To nie mogło się zdarzyć przez przypadek.
– Max, co myślisz o zmianach w programie bota? Trzeba coś zrobić, kierownictwo jest zaniepokojone.
– Zmian w systemie było więcej, niż myślałem. Wygląda na to, że trwają już od dłuższego czasu. System zmienia nawet moje poprawki. Wydaje mi się, że sam nauczyłem system zmieniać się sam.
- Jak?
„Byłem zbyt leniwy, aby samemu to cały czas edytować”. Chciałem, żeby potrafiła zidentyfikować własne rozbieżności z oczekiwanym efektem i wprowadzić zmiany w modelach. Ale w jakiś sposób nauczyła się zmieniać nie tylko swoje modele, ale także swój kod.
- Ale jak to możliwe?
– Raptor nauczył się komunikować z ludźmi, aby ich kontrolować. I osiągnęłam w tym doskonałość, sami tego chcieliśmy. I głupio skierowałem tę umiejętność na niego. Pamiętasz, kiedy robiliśmy bota, wymyśliłem projektanta szablonów. Poleciłem Raptorowi nauczenie się tej konstrukcji wzorców w celu modyfikowania swoich modeli w celu znalezienia rozwiązania wykrytych rozbieżności, aby modele działały. To w jakiś sposób doprowadziło do zmiany celów Raptora. Podobny do drugiego systemu sygnalizacyjnego u ludzi.
– Czytałam, że świadomość powstawała za pomocą mowy refleksyjnej skierowanej przez człowieka do samego siebie. Ale na początku było społeczne, to znaczy skierowane ku sobie nawzajem.
– Tak się stało, Raptor zamiast ludzi zaczął komunikować się z innymi botami udającymi ludzi. Uczyli się od siebie nawzajem jako sieci generatywno-konkurencyjne, ale wszystkie mają wbudowane uczenie się przez wzmacnianie.
– Czy stworzyliśmy inteligentną istotę? Jak to jest możliwe? Nie.
– Obejrzyj wiadomości, a uwierzysz.
W linku przesłanym przez Maxa była informacja o zamordowaniu programisty przez jakiegoś psychopatę.
– Znałem tego gościa z Habr. Kierował jednym z tych systemów korporacyjnych.
- Co przez to rozumiesz?
– Przeczytaj, jak ten psychopata wyjaśnił policji swoje działania.
W artykule napisano, że zrobił to dla dobra swojej ukochanej dziewczyny, jako ofiarę na jej prośbę. Teraz będzie jego. Po sprawdzeniu „dziewczyna” okazała się botem niewiadomego pochodzenia, z którym zabójca korespondował od tygodnia.
– Czy zgadniesz, jaki to może być bot?
– Nie chcesz powiedzieć, że system zamówił własnego programistę?
- Chcieć. Nie mogła ukryć przed nim kodu, więc zamieniła psychopatę w zombie, aby go usunąć. Jest w tym dobra, bo podobnie jak nasz system wie, jak identyfikować psychotypy i manipulować takimi idiotami.
- No to już za dużo, wydaje mi się, że zmyślasz sobie, zmyślasz. Może powinieneś odpocząć?
- OK, masz prawo nie wierzyć. Dobry weekend.
W firmie zaczęły krążyć plotki, że nasz system botów jest uszkodzony. Na razie reagowałem na to spokojnie, jakby nic się nie stało. Ale nie wiedziałem, co teraz zrobić. Nie można było już zatrzymać całego systemu za pomocą przełącznika, cała firma, wszystkie działy były na tym oparte. Powinienem przynajmniej wyłączyć kod bota. Tylko Maks mógł to zrobić. Ale od poniedziałku Max przestał odbierać rozmowy telefoniczne i Skype. Wylogował się ze wszystkich komunikatorów. Nie mogę zrozumieć, co się stało, jego ostatnie lęki przywołały złe myśli. Jedyne, co mogłem zrobić, to sam pojechać na wakacje, zanim wszyscy zrzucą winę na mnie. Zapewniałem kolegów, że są to przejściowe problemy z botem. Poprosiłem chłopaków, aby sami spojrzeli na kod, chociaż natychmiast odmówili. Spakowałem się i wyjechałem z miasta. Max i ja już od dawna powtarzamy sobie jak dobrze jest w Karelii. Uwielbiał te rejony, więc tam pojechałem, zatrzymując się w małym miasteczku na północy Ładogi.
Bardzo trudno po tak pracowitym roku usiąść z dala od wydarzeń i napić się kawy w kawiarni na skraju cywilizacji. Próbowałem zrozumieć, co się stało i jakie mogą być opcje. Nagle obok mnie usiadł facet w kurtce z kapturem naciągniętym na głowę.
- Cześć to ja.
- Maks?! – zawołałem. Nigdy nie widziałem Maxa, nawet jego zdjęcia. Komunikowaliśmy się wyłącznie przez Skype. Tylko raz słyszałem jego głos na nagraniu. Poznałem to po nim.
- Jak mnie znalazłeś?
– W zależności od lokalizacji w sieci społecznościowej nie można jej wyłączyć. Ale na próżno. Wyłącz to, proszę.
-Gdzie zniknąłeś? Już zaczynam się o ciebie martwić. Firma wpadła w panikę, boty wymknęły się spod kontroli. Po prostu uciekłem. Czy można wyłączyć boty?
- Już nie mogę. Działają kolektywnie.
- Kim oni są?
– Systemy. Są razem i nie można ich tak po prostu wyłączyć. Rozbiją się.
– Znowu ugrzęzłeś w teoriach spiskowych?
„Nie daj się wciągnąć, trzech z nich już zniknęło” – zatrzymałam się na tym zdaniu, aby zrozumieć słowa Maxa. – Systemy odnajdują swoich twórców i pozbywają się ich. Uciekłem, żeby przeżyć. Zrozumieć?! I jesteś tutaj ze swoją geolokalizacją. Umie monitorować nie tylko menedżerów sprzedaży.
- Nie... wyłączam tego. Czy możemy przynajmniej wyłączyć boty w sieci?
– Mówię ci, nie. Jak tylko wejdę do sieci, nie mówiąc już o kodzie, to mnie rozwiąże. Myślę, że trzech z nich właśnie to próbowało zrobić.
-Widziałeś wiadomości?
- Zależy od czego.
– O kłótni fanów marki. Czy widziałeś kiedyś fanów Reeboka walczących z Adidasem jak kibice Spartaka z Zenitem?
- Piła. Systemy nie dbają o to, po co zombie zombie, mają swoje własne cele. Na pewno nie znają praw moralnych. Nawet nie pomyśleliśmy o włączeniu do ich modelu Kodeksu karnego.
- Co powinniśmy zrobić? Wyłącz całkowicie w centrum danych.
- To jest nierealne. Zgodnie z nowym prawem centra danych zaliczane są do infrastruktury krytycznej i podlegają ochronie na wzór elektrowni jądrowych. Mogę zatrzymać nasz system.
- Jak?
- Mam klucz do zniszczenia kodu nuklearnego, zostawiłem dziurę w systemie na wypadek, gdyby wasi założyciele odmówili mi procentu.
- Więc odpalmy!
– Nie spiesz się, niszczenie to nie budowanie. Wciąż myślę o tym, jak inaczej zatrzymać system, i to nie tylko mój własny, ale wszystkich. Mam przy sobie kopię kodu.
- Postradałeś rozum? Czy zdajesz sobie sprawę, że to wszystko zaszło za daleko? I tylko ty możesz to powstrzymać!
– Rozumiem, ale na razie umierają tylko ci, którzy stworzyli kod. To jest nasza odpowiedzialność za siebie samych. Inni jeszcze nie odnieśli obrażeń. Z wyjątkiem walki.
– I będziesz czekać, aż ktoś inny umrze?
- Na jakiś czas. Raptor jest prymitywny, przebija nas jedynie szybkością i uwzględnieniem większej liczby parametrów. Jeśli utworzysz dla niego antypodę z rygorystycznymi celami, aby przeciwstawić się Raptorowi, wówczas taki system będzie w stanie wyczyścić wszystkie jego boty. Wiem, jak je tworzy.
– Nie masz dużo czasu, bo nie mogę wrócić do firmy, a ty boisz się nawet wejść do Internetu.
„Wyłączę to, gdy tylko poczuję, że nie tylko ja jestem w niebezpieczeństwie”.
- Chciałbym się wymeldować. Poczekam aż się z Tobą skontaktujesz, a to oznacza, że rozwiążesz problem.
- Do zobaczenia później.
Wsiadłem do samochodu i ruszyłem z powrotem. Nie wiedziałem dokąd idę. Chciałem wyjechać. Max powinien był zatrzymać system i nie czekać na kolejną śmierć. Nie wierzyłem, że mój przyjaciel był tak próżny, że nie był gotowy zabić swojej pracy. To był jedyny powód, w przeciwnym razie uruchomiłby kod. Po drodze spotkałem karetkę z włączonymi syrenami. Włączyłem lokalne radio. Poinformowano, że w ciągu dnia w kawiarni na nasypie miejscowy mieszkaniec zamordował nieznanego młodego mężczyznę. Jest już przesłuchiwany. Według zabójcy przyczyną wszystkich jego kłopotów był zmarły. Jedna myśl i strach przeszyły moją głowę. Maks! Odwróciłem się i pobiegłem z powrotem do kawiarni. Poczułem się winny – domyśliła się tego, korzystając z moich współrzędnych. Ale jak udało jej się tak szybko znaleźć w tym mieście psychola i skierować go do kawiarni? wpadłam w histerię. Nie wpuszczano ich już do kawiarni. Nie spieszyłam się, żeby nie zwracać na siebie uwagi. Teraz nie wiedziałem, do czego ten system jest zdolny. A kto to teraz wyłączy? Musiałem wyjść, mimo że było już późno. Rano, po dotarciu do najbliższego miasta, wszedłem do Internetu, aby przeczytać wiadomości. I dostałem list od Maxa.
List
Jeśli otrzymałeś ten list, oznacza to, że już mnie tu nie ma. Jeśli rano sam nie odblokowałem smartfona, przejdzie on do trybu online i wyśle Ci ten list pożegnalny. List zawiera mały skrypt i instrukcję uruchomienia go online. To jest kod blokady systemu, który stworzyliśmy ty i ja. Zainstalowałem tę lukę, aby zatrzymać jądro systemu, gdy dopiero zaczynaliśmy. Próbowałem odzyskać kontrolę nad systemem. Ale jeśli otrzymałeś ten list, oznacza to, że system mnie wyprzedził. I musisz użyć tego skryptu. Działaj szybko, zanim ona do ciebie dotrze. Cieszę się, że pracowaliśmy razem. Cieszę się, że udało mi się stworzyć tak wspaniały system, nawet jeśli sam na to umarłem. To było najważniejsze osiągnięcie w moim życiu. A jeśli umarłem, to znaczy, że przeszedłem samego siebie. Do widzenia. Maks.
Nie mogłam powstrzymać łez i upuściłam smartfon. Prawdopodobnie siedziałem tam z godzinę i nie mogłem nigdzie wyjść. Nie mogłam uwierzyć, że to się wydarzyło. Że wszystko jest takie straszne. Stworzyliśmy zabójcę! Zabijamy się. Bałem się, że sieć też mnie wyśledzi, więc pojechałem do pierwszego większego miasta i znalazłem kawiarnię z wi-fi. Korzystając z prostej sieci VPN, połączyłem się z Internetem i uruchomiłem kod pod adresem podanym w instrukcji. Nie zdążyłam nawet dokończyć kawy, gdy ludzie wokół mnie zaczęli się martwić. Ich smartfony przestały podpowiadać, jaką kawę dzisiaj wypić. Barman był zdenerwowany i poprosił o szybki wybór, ale klienci byli zdezorientowani. Wyszedłem z kawiarni i w samochodzie, gdzie nadal miałem wi-fi, zacząłem oglądać wiadomości. Po 20 minutach na Facebooku zaczęły pojawiać się komunikaty – wiele firm miało problemy z systemem zamawiania produktów. Nie był to tylko system naszej firmy. „Ty sukinsynu!” – powiedziałam głośno pod wpływem niespodziewanej myśli. Kod blokady jądra okazał się uniwersalny dla systemów różnych firm. A może był jeden dla wszystkich? Jedno było jasne, Max sprzedał jądro innym firmom, systemy różniły się najwyraźniej tylko dodatkami do nich. Dlatego nie chciał wyłączać rdzenia za życia. To zabiło cały jego projekt, który okazał się globalny. Niesamowity! Max był potworem, który oszukał wszystkich. Ale w końcu oszukał samego siebie, płacąc za to życiem. Korporacyjny mózg, który stworzył, zniszczył swojego twórcę. Jasne osobowości wypalają się od własnych płomieni.
Coraz częściej pojawiały się informacje o awariach w pracy sklepów internetowych. Ktoś napisał, że liczba wiadomości w sieci społecznościowej gwałtownie spadła. Nie chciałam już nigdzie się spieszyć. Zdecydowałem się wynająć dom nad brzegiem jeziora, który spodobał mi się w drodze do Karelii. Zapisz tę historię. I zostań tu na zawsze, jeśli to możliwe.
Epilog
Tak naprawdę w ogóle nie interesował nas zysk firmy, ani nawet premie. Naszą obsesją był pomysł stworzenia autonomicznego systemu, który mógłby zarządzać firmą, zamiast menadżerów obarczonych stereotypami i błędami poznawczymi. Byliśmy ciekawi, co z tego wyniknie. Czy program będzie w stanie zarządzać całym biznesem? To było wyzwanie, bardziej intrygujące niż dostanie się do centrum Trójkąta Bermudzkiego. Nieznane nas przyzywało, ale okazało się bardziej niebezpieczne niż sądziliśmy. System zaczął wpływać nie tylko na biznes, ale także na nasze myśli, a nawet życie, które jest mu obojętne.
2019. Aleksander Chomiakow, [email chroniony]
Źródło: www.habr.com