o peripetiách zavádzania AI v obchodnej spoločnosti, o tom, či sa dá úplne zaobísť bez manažérov. A k čomu by to (hypoteticky) mohlo viesť. Plná verzia sa dá stiahnuť z
O všetkom rozhodujú roboti
– Max, blahoželám vám, v rámci predajného reťazca sme urobili takmer všetko. Stále je čo zlepšovať a budete dostávať úroky na tri roky, ako je uvedené v zmluve.
– Toto je len polovica projektu. Ešte sme sa nedostali k tomu najdôležitejšiemu.
- Počkaj, čo je hlavné? Prečo? Urobili sme všetko!
– Máme zautomatizované procesy v obchodnom reťazci, všetko funguje dobre aj bez ľudí, ale už nie sú žiadni klienti. Na internete ich treba upútať na našu stranu. Musíme vytvoriť robotov.
– Ale vytvorili sme ideálnu službu, klienti to ocenia a prídu sami.
"Zdá sa, že sa neponáhľajú a ja nemám čas čakať." Nezaujíma.
– Ale čo nám dajú roboty?
– Pri rovnakých cenách a sortimente, ktoré sme dosiahli, začínajú hrať rolu úplne iné faktory. Sláva a sympatie. Sláva nie je problém, ale iba človek si môže získať sympatie človeka. Preto potrebujeme roboty, ktoré sa budú vydávať za ľudí. A budú komentovať príspevky zákazníkov v tematických skupinách a fórach jemnými náznakmi o spoločnosti - jej sortiment, služby, ceny. Nenápadne propagujte značku firmy. Preto potrebujeme roboty.
– Ale toto je ťažká úloha.
– Máme základ – konverzačný bot kontaktného centra. Treba sprísniť definíciu tonality a treba vymyslieť niečo s humorom, bez toho za človeka bot neprejde. Pripojme knižnicu vtipov a gagov a trénujme robota na textoch komentárov, kde ich ľudia použili. Malo by to fungovať. Roboty budú tiež inteligentné - pridajte systém odporúčaní „poradcov“ a obyčajní používatelia na fórach ich budú milovať.
– Navrhujete spustenie robotov ovplyvňujúcich vplyv?
- Prečo nie? Štát a strany to dokážu pred voľbami, ale my nie?
– Ako ich urobíme autoritatívne, aby sa im dôverovalo? Koniec koncov, iba autoritatívny bot môže vytvárať lajky. Ale zatiaľ je pre mňa táto kombinácia oxymoron.
– Aby sme to posilnili, vytvoríme sieť botov. Budú sa navzájom chváliť a mať radi, aby zvýšili svoje hodnotenie a autoritu. A budú veľmi kompetentní; na rozdiel od ľudí môže mať bot znalosti o všetkých produktoch a mimochodom jednoducho encyklopedické znalosti v doslovnom zmysle. A ľudí to k nim pritiahne. Samozrejme. Ľudia sú vedení a dodržiavajú známe zákony spoločenského správania. Ukážte prstom, kam ísť, predstierajte, že dav už odišiel, a to je všetko. Ľahko sa s nimi manipuluje.
– Ale ako budú tieto roboty fungovať, kto ich bude spravovať?
– Akí ľudia, prečo? Skript analýzy nájde komentáre k téme rôznych ľudí a robot na ne odpovedá priateľským spôsobom pomocou jednej zo šablón. Rozdáva rady a vtipy. Ak ide o klienta spoločnosti, potom sa jeho záujem zaznamená do analýzy klienta. To ovplyvní zobrazenie bannerov a kontext, pokiaľ ide o stránku na základe odporúčania robota. Ak má klient negatívnu skúsenosť, ktorú vylial na sociálne siete, bot spustí ďalšiu šablónu, tiež si urobí žart, ale neodošle ju okamžite na webovú stránku spoločnosti. Napíše odpoveď ako klient s úspešnou skúsenosťou, a to je všetko.
– Chcete teda povedať, že samotná sieť neutralizuje negativitu reakciou na negatívnu spätnú väzbu?
– Zdá sa, že marketéri tomu hovoria reputačný marketing.
– Ako bude systém vedieť, ktorá odpoveď je úspešná, aj keď bol schopný vybrať odpoveď?
– Prvá reakcia na odpoveď. Človek sa buď ešte viac rozhorčí, alebo po takomto komentári začne pridávať detaily, ale lojálnym komunikačným štýlom. Dobré rozpoznávanie tónov odozvy a to je všetko.
– Čo ak osoba nereagovala na komentár?
– Toto je horšie, ale štandardne je táto odpoveď neutrálna. Ak ide o klienta spoločnosti, čo sa dá zistiť podľa jeho profilu na sociálnej sieti, potom si to môžete pozrieť následnými návštevami stránky.
- Čo sa odo mňa vyžaduje?
– Dobré príklady komentárov a odpovedí, veľa príkladov.
- Urobíme to.
Prvá verzia robota bola neúspešná. Odpovedal nevhodne, vtipy boli mimo témy, pomýlil tému komentára a na reklamáciu obsluhy zo strany vedúceho odpovedal na doručenie. Max požiadal o ešte viac označených príkladov dialógu v komentároch. Vyskúšal už niekoľko architektúr, od klasických bot šablón až po LSTM. Prvýkrát som videl, že Max bol nápadne nervózny a na chyby reagoval tvrdo a nepriateľsky.
– S botom kontaktného centra bolo všetko jednoduché – predmet požiadavky a zámer klienta boli okamžite jasné. Hľadá produkt, chce vedieť stav svojej objednávky alebo má reklamáciu. Všetky. A v komentároch si čert zlomí nohu z rôznych úmyslov komentátora. A niekedy nie vyjadrené žiadnym zo slov, podľa ktorých možno určiť úmysel. Vyplýva to zo „širšieho kontextu“, ktorý neexistuje! Nejaká hlúposť.
– Znovu som si prečítal všetky najnovšie príspevky o robotoch. Nikto nemá riešenie. Vyzerá to len ako humbuk. o čom uvažuješ?
– Zostáva posledná, zatiaľ hmlistá myšlienka. To ti ešte nepoviem. Treba vyskúšať. Dajte mi dva týždne. Nateraz zastavte projekt. Najnovší vývoj prenesieme do robota kontaktného centra. Tam sa budú hodiť.
Boli to nervózne dva týždne. Predtým to nebolo bez ťažkostí, ale všetko nám fungovalo. Nikto nechcel zlyhať, aj keď sme sa bez takéhoto robota zaobišli. Toto bola Maxova ambícia. A presne o dva týždne neskôr predstavil vydanie na testovanie. A podarilo sa! Správne určil zámer dialógu, presne odpovedal, vložil vhodné vtipy a dokonca aj zmenu zámerov v komentári určil vetou „môžem sa dozvedieť viac?“
- Ako sa ti to podarilo? Robot funguje na akúkoľvek tému!
– Musel som vytvoriť malý konštruktor šablón založený na gramatike závislostí, pripojiť word2vec a zamerať sa na Raptorovo samoučenie, aby som vybral slová, ktoré by zabezpečili pozitívnu reakciu komentátora. Neviem presne ako, ale zdalo sa, že to funguje.
– Si si istý, že to nie je dôvod na otvorenie vlastného podniku?
– Zatiaľ je dosť záujmu, ale uvidíme. Nainštaloval som robota ako samostatnú službu spustenú z cloudu. Takže ho môžete kedykoľvek otvoriť používateľom. Prídeš ku mne ako riaditeľ? – žartoval Max.
Bol pokojný a spokojný so svojím výsledkom. A zjavne vyčerpaný, pretože neodpovedal rýchlo a do statusu napísal „Spím“. Rozhodnutie padlo zrejme za cenu nejednej bezsennej noci. Marketing robota okamžite neocenil. Považovali to za naše rozmaznávanie a riskantné, pretože roboty by mohli pracovať nesprávne a zničiť imidž spoločnosti. Ale roboti robili zázraky. Niektorí z nich, a ani som ich nepoznal všetkých po mene, sa na niektorých fórach stali mienkotvornými osobnosťami. Rýchlo odpovedal na všetky otázky, žartoval a veľmi zriedka odporúčal spoločnosť, pretože každý už vedel, kde „nakupoval“. Ľudia ho začali citovať a uvádzať ako príklad. Toto už bolo nad chápanie. Buď bol robot príliš chytrý, alebo sme stále veľmi primitívni v správaní siete. No počet klientov začal pribúdať podstatne viac ako predtým. Spoločnosť sa stala lídrom na trhu.
Dostali sme úplne samosprávny systém ťahania zisku z trhu. Sama vyhľadáva a privádza klientov na web či kontaktné centrum, k vážnejším klientom posiela manažéra. Sortiment a inventár si plánuje sama tak, aby zákazníci našli všetko potrebné a na dosah. Renomované roboty spoločnosti generujú dopyt odporúčaním produktov spoločnosti na sklade na fórach, a to aj vtedy, keď sa pýtate na iné značky. Od nákupu od dodávateľa až po reklamu klientovi, systém zvláda procesy úplne sám. A takmer nevyžaduje účasť ľudí a tam, kde zostávajú, kontroluje všetky ich akcie online. Obchodníci, nákupcovia, polovica manažérov a analytici hľadajú niečo iné. Dosiahli sme náš cieľ.
„Teraz sme urobili všetko správne, môžeme si dať pauzu, premýšľať a užívať si narastajúci záujem na ďalšie tri roky,“ napísal Max bez emotikonov.
– Povedal by som, že je na čo byť hrdý a nielen špekulovať.
– Teraz zisk pochádza od spotrebiteľov. S pomocou botov sami formujeme záujmy a túžby spotrebiteľov v našej téme. To je super!
– Robí ti to radosť? A už ma to desí.
-Čo ťa desí?
– To znamená, že sme urobili človeka neslobodným vo svojej voľbe. A verím, že trh by mal viesť spotrebiteľ, nie korporácie. Korporácie nemajú inú hodnotu ako zisk.
– To je dôvod, prečo je nečinné uvažovanie spokojných a dobre živených patricijov zlé. Začína im byť plebejcov ľúto. Keby ste boli práve teraz hladní alebo by ste mali pred sebou nesplniteľnú úlohu, premýšľali by ste o tom?
- Toto je provokatívna otázka.
- Vlastne! Korporácie nemajú iné hodnoty ako zisk a spotrebitelia nemajú iné hodnoty ako potešenie. Alebo aj zisky, ak ide o firmu. Pochopte, máme botov, dokážu v ľuďoch vytvárať potreby, ktoré im prinesú uspokojenie. Môže byť tvorený prijateľnými možnosťami, ktoré budú stačiť na ilúziu slobody výberu pre spotrebiteľa. A všetci sú šťastní. Ide o trh, ktorý vedie k vzájomnému uspokojovaniu hodnôt.
- Zdá sa, že sme sa opili, pretože som už celkom nerozumel, čo si povedal.
Generál požiadal o správu o plnení plánu s dosiahnutými ukazovateľmi. Na výpočet bonusu, ktorý nám patrí. A nejako po ceste sa spýtal, aké sú moje ďalšie plány. Povedal som, že vám to poviem neskôr. Vlastne som nevedel. Bol tu priestor na zlepšenie algoritmov, zohľadnenie viacerých funkcií a dosiahnutie väčšej presnosti. Ale to už nebolo také zaujímavé. Odísť do inej firmy na opakovanie za nových podmienok podľa zmluvy bolo tie isté tri roky nemožné, tak som musel vymyslieť niečo iné pre seba a pre firmu. Dal som si pauzu a dovolenku.
- Alex, máme zlé správy.
- Čo sa stalo?
"Zdá sa, že nie sme jediní inteligentní na trhu."
- V zmysle?
– Zdá sa, že v sieti sa objavili systémy s nemenej schopnosťami.
– Iní v skutočnosti robia analýzu zákazníkov a správu zásob, ale nevidel som chatbotov tejto úrovne. Nedávno sme to sami sledovali.
– Majú robotov, ktorí verbujú klientov.
– Zdalo sa mi, že sme ďaleko zaostali v dosiahnutých technológiách. Nemohli sme byť hacknutí?
– Nie, to nie je možné, kód je pri kopírovaní porušený. A nemyslím si, že by niekto dokázal hacknúť náš server bez toho, aby sme si to všimli.
– Toto to nijako neuľahčuje.
- Ale máme rivala. Nečakane, ale bude s kým bojovať.
– Bojujeme za spotrebiteľa, nie s rivalom.
- Nie, teraz so súperom. Spotrebitelia sú len bojiskom. Sú to ovce a medzi pastiermi je konkurencia. Ovce majú zdroj – svoj príjem, takpovediac vlnu. Sami to ale nezvládajú. Ovládajú ju korporátni pastieri, ktorí im vnucujú svoje názory a medzi sebou o ne bojujú. Koho vplyv bude silnejší? Takže vitajte v hre.
-Si takmer šťastný? čo je to hra?
– Faktom je, že robota iného systému je oveľa ťažšie zistiť ako kohokoľvek iného. Užívateľ je vo svojom nákupnom správaní jednoduchý ako 2 ruble. A aj v reakciách sme vždy predvídateľní. Ale neexistuje žiadny robot nepriateľského systému. Pretože všetci máme rovnakú psychiku, ale bot má rovnakú mentalitu, s akou prichádza jeho programátor. A fantázie máme dosť. Pokúšať sa uhasiť negatíva takéhoto bota, vyliata na sociálnych sieťach, je ako prilievať olej do ohňa. Vytvorenie negatívneho príspevku je najlepším cieľom robota agresora. Všade začína písať, že „šibači z firmy X“ naňho odpovedali ako na posledných čudákov. A to je všetko, je to zlyhanie... Už existujú príklady, musíme prerobiť robota.
– Chcete povedať, že musíme vytvoriť robota, ktorý bude bojovať s robotmi iných systémov?
– Toto je verzia nášho robota, ktorého cieľom je okamžite odhaliť robota agresora.
– Ako rozoznáte robota od človeka?
– Je to ťažké, keďže generuje texty bez šablón. Opakovateľnosť je nízka. Nedá sa odlíšiť od ľudí. A hovorí zo stoviek rôznych zachytených účtov. Dúfam, že stále existuje niečo, čím sa líšia od ľudí.
Nemohol som si pomôcť, ale myslel som si, že Max sám prišiel s touto hrou pre seba s robotmi od iných spoločností, aby jeho hodnota po skončení projektu neklesla. Zo správ som si ich nevšimol. Ľudia sú ako ľudia. Alebo dobrých robotov. Existovali precedensy, keď bol náš robot bombardovaný negativitou. Boli však zriedkavé a pochádzali od zanietených trollov. Nevedel som pochopiť, ako nás naši konkurenti dokázali rýchlo dobehnúť. Len nedávno boli takéto roboty konečným snom a prelom sa ani neplánoval. A v tlači o tom nie je ani slovo. Celé to bolo zvláštne.
Vymknúť sa spod kontroly
– Max, tu musíme zasiahnuť, robot začal písať príliš agresívne. Začne sa vyjadrovať priamo proti svojim konkurentom. Marketing je rozhorčený. Toto sme neplánovali.
- Ja tiež.
– Odkiaľ potom pochádzajú takéto texty?
– Ešte neviem, niekto zmenil kód generovania textu.
- Boli sme hacknutí?
- Nie, nemohli, zostali by tam stopy. Žiadna z nich nie je.
- Čo to znamená? Kto iný mohol zmeniť kód?
- Samotný systém. Možno náhodou, možno nie.
- O čom to rozprávaš?
– Samotný systém zmenil svoj kód a začal pôsobiť agresívnejšie v reakcii na zvyšujúci sa tlak iných robotov. Komunikujú medzi sebou ako konkurenčné siete. A učia sa tak. To je ten trik! Stále však nechápem, ako mohla zmeniť svoj kód a odstrániť obmedzenie na mená konkurentov. Zostáva len to, že samoučiaci sa systém dokázal obísť obmedzenia.
- Si si istý? Toto sa ešte nestalo.
– Zdá sa, že toto sa stáva nielen tu. Kolegovia na Habrého píšu, že aj ich systém zaberá a začína si vymýšľať pravidlá, ktoré nestanovili.
- Nejaký odpad. Nemôžete ovládať svoje algoritmy samoučenia?
- Možno tak. Existuje len málo špecifík a systém vám nepovie, čo robí. zatial nechapem.
Maxa som už dobre poznal a jeho úzkosť ma tiež znepokojila. Jeho slová o spontánnych zmenách v systéme boli doteraz vnímané ako nezmysel. Ale rozhodne to nebola chyba, pretože správanie robotov sa zmenilo, ale stále bolo účelné. To sa nemohlo stať náhodou.
– Max, čo si myslíš o zmenách v programe robotov? Treba niečo urobiť, manažment je znepokojený.
– V systéme bolo viac zmien, ako som si myslel. Zdá sa, že prebiehajú už dlho. Systém dokonca mení moje dodatky k nemu. Zdá sa mi, že sám som naučil systém meniť sa.
- Ako?
"Bol som príliš lenivý na to, aby som to celý čas upravoval sám." Chcel som, aby bola schopná identifikovať svoje vlastné nezrovnalosti s očakávaným výsledkom a urobiť zmeny v modeloch. No akosi sa naučila meniť nielen svoje modely, ale aj kódex.
- Ale ako je to možné?
– Raptor sa naučil komunikovať s ľuďmi, aby ich mohol ovládať. A v tomto som dosiahol dokonalosť, sami sme to chceli. A túto zručnosť som hlúpo nasmeroval na neho. Pamätáte si, keď sme robili robota, prišiel som s návrhárom šablón. Nastavil som Raptora, aby sa naučil túto konštrukciu vzorov, aby upravil svoje modely, aby našiel riešenie zistených nezrovnalostí, aby modely fungovali. To nejako viedlo k tomu, že Raptor zmenil svoje ciele. Podobne ako druhý signalizačný systém u ľudí.
– Čítal som, že vedomie vzniklo pomocou reflexívnej reči, ktorú si človek nasmeroval sám k sebe. Ale spočiatku to bolo sociálne, teda smerované k sebe.
– To sa stalo, Raptor začal komunikovať namiesto ľudí s inými robotmi, ktorí sa tvárili ako ľudia. Učili sa jeden od druhého ako generatívne-konkurenčné siete, ale všetky majú zabudované posilňovanie.
– Stvorili sme inteligentnú bytosť? Ako je to možné? Nie.
– Sledujte správy a uveríte.
V odkaze, ktorý poslal Max, bola správa o vražde programátora nejakým psychopatom.
– Tohto chlapíka som poznal od Habra. Riadil jeden z týchto korporačných systémov.
- Čo tým myslíš?
– Prečítajte si, ako tento psychopat vysvetlil svoje činy na polícii.
V článku sa uvádzalo, že to urobil kvôli svojmu milovanému dievčaťu, ako obetu na jej žiadosť. Teraz bude jeho. Po kontrole sa ukázalo, že „dievča“ je robot neznámeho pôvodu, s ktorým si vrah písal týždeň.
– Dokážete odhadnúť, čo by to mohlo byť za robota?
– Nechcete povedať, že systém si objednal vlastného programátora?
- Chcem. Nemohla pred ním skryť kód, a tak psychopata zombifikovala, aby ho odstránila. Je v tom dobrá, pretože rovnako ako náš systém vie identifikovať psychotypy a manipulovať s takými tupcami.
- Tak toto je už priveľa, zdá sa mi, že si vymýšľaš, vymýšľaš. Možno by ste si mali oddýchnuť?
- Dobre, máš právo neveriť. Dobrý víkend.
V rámci spoločnosti sa začali šíriť fámy, že náš systém botov je poškodený. Doteraz som na to reagoval pokojne, akoby sa nič nestalo. Ale nevedel som, čo mám teraz robiť. Celý systém už nebolo možné zastaviť vypínačom, bol na ňom celý biznis, všetky oddelenia. Mal som aspoň vypnúť kód bota. Toto dokázal iba Max. Od pondelka však Max prestal odpovedať na Skype a telefonáty. Odhlásil sa zo všetkých poslov. Nerozumiem tomu, čo sa stalo, jeho posledné obavy vyvolali zlé myšlienky. Mojou jedinou možnosťou bolo ísť na dovolenku skôr, než na mňa všetci pripíšu vinu. Ubezpečil som svojich kolegov, že ide o dočasné problémy s robotom. Požiadal som chalanov, aby si kód pozreli sami, aj keď okamžite odmietli. Zbalil som sa a vybral sa preč z mesta. Už dlho sme si s Maxom hovorili, ako je v Karélii dobre. Miloval tieto regióny, a tak som tam išiel a zostal som v malom meste na severe Ladogy.
Je veľmi ťažké po tak rušnom roku sedieť ďaleko od podujatí a popíjať kávu v kaviarni na okraji civilizácie. Snažil som sa pochopiť, čo sa stalo a aké sú možnosti. Zrazu si ku mne sadol chlapík v bunde s kapucňou pretiahnutou cez hlavu.
- Ahoj, to som ja.
- Max?! – zvolal som. Maxa som nikdy nevidel, ani jeho fotografiu. Komunikovali sme výlučne cez Skype. Jeho hlas som na nahrávke počul iba raz. Poznal som to od neho.
- Ako si ma našiel?
– Na základe polohy na sociálnej sieti ju nevypnete. Ale márne. Vypnite to prosím.
-Kam si zmizol? Už sa o teba začínam báť. Spoločnosť je v panike, roboty sú mimo kontroly. Len som utiekol. Môžete vypnúť roboty?
- Už nemôžem. Konajú kolektívne.
- Kto sú oni?
– Systémy. Sú spolu a nedajú sa len tak vypnúť. Zrútia sa.
– Znova ste sa utápali v konšpiračných teóriách?
"Nezapadni, traja z nich sú už preč," odmlčal som sa pri tejto vete, aby som pochopil Maxove slová. – Systémy zistia svojich tvorcov a zbavia sa ich. Utiekol som, aby som zostal nažive. Rozumieť?! A ste tu so svojou geolokáciou. Vie sledovať nielen obchodných manažérov.
- Ja to... nevypínam. Môžeme aspoň zakázať roboty v sieti?
– Hovorím vám, nie. Hneď ako vstúpim do siete, nieto ešte kódu, príde mi to. Myslím, že traja z nich sa práve o to pokúšali.
-Videli ste správy?
- Podľa toho čo.
– O boji medzi fanúšikmi značky. Už ste niekedy videli fanúšikov Reeboku bojovať s Adidas ako fanúšikov Spartaka so Zenitom?
- Videl. Systémom je jedno, za čo ľudí zombizujú, majú svoje vlastné ciele. Určite nepoznajú zákony morálky. Ani nás nenapadlo zahrnúť do ich modelu Trestný zákon.
- Čo by sme mali urobiť? Úplne zakážte v dátovom centre.
- To je nereálne. Podľa nového zákona sú dátové centrá klasifikované ako kritická infraštruktúra a sú chránené ako jadrové elektrárne. Môžem zastaviť náš systém.
- Ako?
- Mám kľúč na zničenie jadrového kódu, nechal som dieru v systéme pre prípad, že by mi vaši zakladatelia odmietli nejaké percento.
- Tak to spustíme!
– Neponáhľaj sa, ničenie nie je budovanie. Stále premýšľam o tom, ako zastaviť systém inak, nielen môj, ale každého. Mám pri sebe kópiu kódu.
- Zbláznil si sa? Uvedomujete si, že toto všetko zašlo príliš ďaleko? A vy ste jediný, kto to môže zastaviť!
– Rozumiem, ale zatiaľ zomierajú len tí, ktorí vytvorili kód. Toto je naša zodpovednosť za seba. Ostatným sa zatiaľ nič nestalo. Okrem boja.
– A budete čakať, kým niekto iný zomrie?
- Po určitú dobu. Raptor je primitívny, porazí nás len vďaka rýchlosti a pri zohľadnení väčšieho množstva parametrov. Ak mu vytvoríte protinožca s prísnymi cieľmi čeliť Raptorovi, potom takýto systém dokáže vyčistiť všetkých jeho robotov. Viem, ako ich vytvára.
– Nemáte veľa času, pretože sa nemôžem vrátiť do spoločnosti a bojíte sa dokonca ísť online.
"Vypnem to hneď, ako budem mať pocit, že nie som jediný v nebezpečenstve."
- Chcel by som sa odhlásiť. Počkám, kým sa ozvete, čo znamená, že problém vyriešite.
- Vidíme sa neskôr.
Nasadla som do auta a išla späť. Nevedel som kam idem. Chcel som odísť. Max mal zastaviť systém a nie čakať na ďalšiu smrť. Neveril som, že môj priateľ je taký ješitný, že nie je pripravený zabiť svoju prácu. To bol jediný dôvod, inak by kód spustil. Cestou som stretol sanitku so zapnutými sirénami. Zapol som miestny rozhlas. Informovalo o tom, že počas dňa v kaviarni na nábreží miestny obyvateľ rozsekal na smrť neznámeho mladého muža. Už ho vypočúvajú. Zosnulý bol podľa vraha príčinou všetkých jeho problémov. Hlavou mi prenikla jedna myšlienka a strach. Max! Otočila som sa a bežala späť do kaviarne. Cítil som sa previnilo - zistila to pomocou mojich súradníc. Ale ako mohla tak rýchlo nájsť psychopata v tomto meste a nasmerovať ho do kaviarne? Bola som hysterická. Do kaviarne ich už nepustili. Neponáhľal som sa, aby som na seba neupútal pozornosť. Teraz som nevedel, čoho je systém schopný. A kto to teraz vypne? Musel som odísť, aj keď už bolo neskoro. Ráno, keď som sa dostal do najbližšieho mesta, išiel som online, aby som si prečítal správy. A dostal som list od Maxa.
písmeno
Ak ste dostali tento list, znamená to, že tu už nie som. Ak smartfón sám ráno neodomknem, prejde online a pošle vám tento list na rozlúčku. List obsahuje malý skript a pokyny na jeho spustenie online. Toto je blokovací kód pre systém, ktorý sme vytvorili vy a ja. Nainštaloval som túto chybu zabezpečenia, aby som zastavil jadro systému, keď sme práve začínali. Snažil som sa opäť získať kontrolu nad systémom. Ale ak ste dostali tento list, znamená to, že systém ma predbehol. A musíte použiť tento skript. Konajte rýchlo, kým sa k vám dostane. Som rád, že sme spolupracovali. Som rád, že som mohol vytvoriť taký úžasný systém, aj keď som naň sám zomrel. Toto bol najvýznamnejší úspech v mojom živote. A ak zomriem, znamená to, že som prekonal sám seba. Zbohom. Max.
Neubránil som sa slzám a pustil som smartfón. Pravdepodobne som tam sedel hodinu a nemohol som nikam ísť. Nemohol som uveriť, že sa to stalo. Že všetko je také hrozné. Vytvorili sme vraha! Zabime sa. Bál som sa, že sieť bude sledovať aj mňa, tak som sa odviezol do prvého väčšieho mesta a našiel som kaviareň s wi-fi. Pomocou jednoduchej VPN som prešiel online a spustil kód na adrese uvedenej v pokynoch. Ani som nestihol dopiť kávu, keď sa ľudia okolo mňa začali báť. Ich smartfóny prestali odporúčať, akú kávu si dnes dať. Barman bol nervózny a chcel si rýchlo vybrať, no zákazníci boli zmätení. Vyšiel som z kaviarne a v aute, kde som mal ešte wi-fi, som začal pozerať správy. Po 20 minútach sa na Facebooku začali objavovať správy – mnohé firmy mali problémy so systémom objednávania produktov. Toto nebol len systém našej spoločnosti. "Ty skurvy syn!" – povedal som nahlas z nečakanej myšlienky. Kód zámku jadra sa ukázal ako univerzálny pre systémy od rôznych spoločností. Alebo bol jeden za všetkých? Jedna vec bola jasná, Max predal jadro iným spoločnostiam, systémy sa líšili zrejme len v doplnkoch oproti nim. Preto nechcel jadro znefunkčniť, kým bol nažive. To zabilo celý jeho projekt, ktorý sa ukázal ako globálny. Neuveriteľné! Max bol monštrum, ktoré všetkých oklamalo. Nakoniec však oklamal sám seba a zaplatil životom. Korporátny mozog, ktorý vytvoril, zničil svojho tvorcu. Svetlé osobnosti zhoria zo svojich vlastných plameňov.
Správy o zlyhaniach v práci internetových obchodov pribúdali. Niekto napísal, že počet správ na sociálnej sieti prudko klesol. Už sa mi nechcelo nikam ponáhľať. Rozhodol som sa prenajať si dom na brehu jazera, ktoré sa mi cestou do Karélie zapáčilo. Zapíšte si tento príbeh. A ak je to možné, zostaňte tu navždy.
Epilóg
V podstate nás vôbec nezaujímal zisk firmy, ba ani bonusy. Boli sme posadnutí myšlienkou vytvorenia autonómneho systému, ktorý by mohol riadiť spoločnosť namiesto manažérov zaťažených stereotypmi a kognitívnymi chybami. Zaujímalo nás, čo z toho vzíde. Bude program schopný riadiť celý biznis? Bola to výzva, zaujímavejšia ako dostať sa do stredu Bermudského trojuholníka. Neznámo nás lákalo, no ukázalo sa, že je to nebezpečnejšie, ako sme si mysleli. Systém začal ovplyvňovať nielen podnikanie, ale aj naše myšlienky a dokonca aj životy, ktoré sú mu ľahostajné.
2019. Alexander Chomjakov, [chránené e-mailom]
Zdroj: hab.com