o peripetijah uvajanja umetne inteligence v trgovsko podjetje, o tem, ali je mogoče povsem brez managerjev. In do česa (hipotetično) bi to lahko pripeljalo. Polno različico lahko prenesete s
Boti odločajo o vsem
"Max, čestitamo, postopek prodaje smo praktično zaključili. Ostane nam le še nekaj dela in provizijo bomo prejemali v treh letih, kot je določeno v pogodbi."
"To je šele polovica projekta. Najpomembnejšega dela se še nismo lotili."
– Počakajte, kaj je glavno? Zakaj? Vse smo naredili!
"Avtomatizirali smo našo prodajno verigo in vse deluje brez ljudi, vendar še vedno dobivamo manj strank. Pritegniti jih moramo na spletu. Ustvariti moramo bote."
– Vendar smo ustvarili idealno storitev, stranke jo bodo cenile in same prišle.
"Zdi se, da se jim nikamor ne mudi, jaz pa nimam časa čakati. Ne zanima me."
- Kaj pa nam bodo dali boti?
»Z enakimi cenami in izbiro izdelkov, kar smo dosegli, pridejo v poštev povsem drugačni dejavniki. Slava in všečnost. Slava ni problem, ampak le človek si lahko pridobi naklonjenost. Zato potrebujemo bote, ki se bodo izdajali za ljudi. Komentirali bodo objave strank v tematskih skupinah in forumih ter subtilno namigovali na podjetje – njegovo izbiro izdelkov, storitev in cen. Subtilno bodo promovirali blagovno znamko podjetja. Zato potrebujemo bote.«
- Ampak to je težka naloga.
»Imamo osnovo – bota za pogovorni kontaktni center. Dodati moramo zaznavanje tona in si izmisliti nekaj s humorjem – brez tega bot ne bo mogel veljati za človeka. Dodali bomo knjižnico šal in šal ter bota izurili na komentarjih, kjer so jih ljudje že uporabili. Moralo bi delovati. Boti bodo tudi pametni – dodali bomo sistem priporočil »vodnik« in potem jih bodo navadni uporabniki na forumih vzljubili.«
– Predlagate uvedbo vplivnih botov?
– Zakaj pa ne? Država in stranke lahko to storijo pred volitvami, mi pa ne?
"Kako jih naredimo avtoritativne, da jim bodo zaupali? Navsezadnje lahko le avtoritativen bot ustvari oprijem. Zaenkrat pa se mi ta kombinacija zdi kot oksimoron."
"Da bi okrepili našo mrežo, bomo ustvarili mrežo botov. Drug drugega bodo hvalili in všečkali, da bi povečali svojo oceno in avtoriteto. In bodo zelo kompetentni; za razliko od ljudi ima lahko bot popolno znanje o vsakem izdelku in celo enciklopedično znanje, dobesedno. In ljudje bodo privlačeni k njemu. Prepričan sem v to. Ljudje so motivirani in se držijo dobro znanih zakonov družbenega vedenja. Pokažite s prstom v pravo smer, se pretvarjajte, da se množica že premika, in to je to. Zlahka jih je nadzorovati."
– Toda kako bodo ti boti delovali, kdo jih bo nadzoroval?
Kakšni ljudje in zakaj? Skript za razčlenjevanje poišče komentarje na temo različnih ljudi, bot pa se nanje prijazno odzove z eno od predlog. Ponudi nasvet in se pošali. Če gre za stranko podjetja, se njeno zanimanje zabeleži v analizi strank. To bo vplivalo na prikaz pasic in kontekstualne informacije, ko bodo obiskale spletno mesto na podlagi botovega priporočila. Če je stranka imela negativno izkušnjo, ki jo je delila na družbenih omrežjih, bo bot zagnal drugo predlogo, prav tako se pošalil, vendar je ne bo poslal neposredno na spletno mesto podjetja. Odgovoril bo, kot da bi imela pozitivno izkušnjo, in to je to.
– Torej pravite, da bo omrežje samo nevtraliziralo negativnost z odzivanjem na negativne povratne informacije?
– Mislim, da tržniki temu pravijo trženje ugleda.
– Kako bi sistem vedel, kateri odgovor je pravilen, tudi če bi ga lahko našel?
– Prva reakcija na odgovor. Oseba postane bodisi še bolj ogorčena bodisi začne dodajati podrobnosti po takšnem komentarju, vendar na bolj strpen način. Dobro prepoznavanje tona in to je to.
– Kaj pa, če se oseba ni odzvala na komentar?
"To je sicer slabše, vendar je takšen odziv privzeto nevtralen. Če gre za stranko podjetja, kar je mogoče ugotoviti iz njenega profila na družbenih omrežjih, si lahko ogledate nadaljnje obiske spletnega mesta."
- Kaj se od mene zahteva?
- Dobri primeri komentarjev in odgovorov, veliko primerov.
- Naredili bomo.
Prva različica bota ni bila uspešna. Njegovi odgovori so bili neprimerni, šale so bile izven teme, zmedel je temo komentarja, in ko se je vodja pritožil nad storitvami za stranke, je bota odgovorila glede dostave. Max je v komentarjih zahteval več primerov komentiranih dialogov. Preizkusil je že več arhitektur, od klasičnih predlog botov do LSTM. Prvič sem videl Maxa vidno živčnega, ki se je na napake odzival nenadoma in neprijazno.
„Z botom za kontaktni center je bilo vse preprosto – tema zahteve in namen stranke sta bila takoj jasna. Iščejo izdelek, želijo preveriti stanje naročila ali imeti pritožbo. To je to. Toda v komentarjih so nameni komentatorja vrtoglavo raznoliki. Včasih sploh niso izraženi z besedami, ki bi kazale na namen. Nakazujejo se iz „širšega konteksta“, ki ne obstaja! Kakšna neumnost.“
– Ponovno sem prebral vse nedavne objave o botih. Nihče nima rešitve. Zdi se mi samo kot pretirana reklama. Kaj nameravate storiti?
"Ostala je še zadnja, nejasna ideja. Ne bom vam je še povedal. Moram jo preizkusiti. Dajte mi dva tedna. Projekt zaenkrat začasno ustavite. Najnovejše dosežke bomo prenesli v bota kontaktnega centra. Tam nam bodo prišli prav."
Bila sta dva tedna, ki sta mi parala živce. Prej ni bilo lahko, ampak smo se bližali cilju. Nihče si ni želel neuspeha, čeprav bi lahko brez takega bota shajali. To je bila Maxova ambicija. In natanko dva tedna pozneje je oddal sporočilo za javnost v testiranje. In delovalo je! Natančno je prepoznal namen pogovora, natančno odgovoril, vstavil ustrezne šale in celo zaznal spremembo namena v komentarju na podlagi besedne zveze "ali lahko izvem več?".
– Kako ti je to uspelo? Bot deluje na katero koli temo!
"Moral sem ustvariti majhen graditelj predlog, ki temelji na slovnici odvisnosti, dodati word2vec in usmeriti Raptorjevo samoučenje, da izberem besede, ki bi ustvarile pozitivne komentarje. Nisem prepričan, kako, ampak zdi se, da je delovalo."
– Ste prepričani, da to ni razlog za ustanovitev lastnega podjetja?
»Odstotek je zaenkrat dovolj, potem pa bomo videli. Bota sem nastavil kot ločeno storitev, ki deluje v oblaku. Tako ga lahko vedno odprem za uporabnike. Bi želel delati zame kot direktor?« se je pošalil Max.
Bil je miren in zadovoljen s svojimi rezultati. In očitno izčrpan, saj se ni hitro odzval in je v statusu zapisal »Spim«. Očitno je bila odločitev sprejeta po več kot eni neprespani noči. Trženje ni takoj cenilo bota. Imeli so ga za trik, in to tvegano, saj bi boti lahko delovali nepravilno in uničili podobo podjetja. Toda boti so delali čudeže. Nekateri od njih, in vseh jih sploh nisem poznal po imenu, so postali mnenjski voditelji na določenih forumih. Hitro je odgovarjal na vsa vprašanja, se šalil in le redko priporočal podjetje, ker so vsi že vedeli, kje nakupuje. Ljudje so ga začeli citirati in uporabljati kot zgled. To je bilo nerazumljivo. Ali je bil bot preveč pameten ali pa smo bili preprosto preveč primitivni v svojem spletnem vedenju. Toda število strank se je znatno povečalo. Podjetje je postalo vodilno na trgu.
Dosegli smo popolnoma avtonomen sistem za ustvarjanje dobička na trgu. Samodejno poišče in pripelje stranke na spletno mesto ali v kontaktni center ter dodeli vodjo starejšim strankam. Načrtuje ponudbo izdelkov in zaloge, tako da lahko stranke najdejo vse, kar potrebujejo, in imajo to vedno na voljo. Zaupanja vredni boti podjetja ustvarjajo povpraševanje s priporočanjem trenutno dostopnih izdelkov podjetja na forumih, tudi ko stranke povprašujejo po drugih blagovnih znamkah. Od nakupa pri dobaviteljih do oglaševanja strankam sistem avtonomno upravlja vse procese. Praktično ne potrebuje človeškega posredovanja, in kjer človeška interakcija ostaja, nadzoruje vse njihove spletne dejavnosti. Tržniki, kupci, polovica vodij in analitiki iščejo druge dejavnosti. Dosegli smo svoj cilj.
»Zdaj, ko smo vse naredili prav, si lahko vzamemo odmor, razmislimo in uživamo v naraščajočih obrestih naslednja tri leta,« je zapisal Max, ne brez emotikonov.
– Rekel bi, da je nekaj, na kar smo lahko ponosni, in ne le o tem govoriti.
"Zdaj ustvarjamo dobiček od potrošnikov. Z boti oblikujemo interese in želje potrošnikov v naši niši. To je tisto, kar je tako kul!"
- Te to osrečuje? Mene že straši.
- Kaj te straši?
"To pomeni, da smo ljudem zmanjšali svobodo izbire. In verjamem, da bi moral biti potrošnik, ne korporacije, v ospredju trga. Korporacije nimajo drugih vrednot kot dobiček."
"To je narobe s praznim govorjenjem zadovoljnih in dobro nahranjenih patricijev. Začnejo se smiliti plebejcem. Če bi bili zdaj lačni ali se soočili z nemogočo nalogo, bi pomislili na to?"
- To je provokativno vprašanje.
"To je bistvo! Korporacije nimajo drugih vrednot kot dobiček, potrošniki pa nimajo drugih vrednot kot užitek. Ali dobiček, če so podjetje. Razumite, imamo bote; lahko oblikujejo potrebe ljudi, da jim prinesejo zadovoljstvo. Lahko jih oblikujejo s sprejemljivimi možnostmi, dovolj, da ustvarijo iluzijo svobode izbire za potrošnika. In vsi so srečni. To je trg, ki vodi do obojestranskega zadovoljstva vrednot."
– Zdi se, da smo se napili, ker nisem čisto razumel, kaj si rekel.
Izvršni direktor je zahteval poročilo o uspešnosti načrta z doseženimi metrikami. Želel je izračunati naš bonus. Vprašal me je tudi, kakšni so moji načrti za naprej. Rekel sem, da mu bom povedal malo kasneje. V resnici nisem vedel. Še vedno je bilo prostora za izboljšave algoritmov, za vključitev več funkcij in doseganje večje natančnosti. Ampak to ni bilo več tako zanimivo. Selitev v drugo podjetje za ponovitev postopka pod novimi pogodbenimi pogoji v naslednjih treh letih ni bila možnost, zato sem moral zame in za podjetje najti nekaj drugega. Vzel sem si odmor in dopust.
- Alex, imam slabe novice.
- Kaj se je zgodilo?
– Zdi se, da nismo edini pametni na trgu.
- V smislu?
– Zdi se, da so se v omrežju pojavili sistemi z nič manjšimi zmogljivostmi.
"No, analizo strank in upravljanje zalog zagotovo opravljajo drugi, vendar še nikoli nisem videl klepetalnih robotov te kalibra. Pred kratkim smo si jih sami ogledali."
– Imajo bote, ki novačijo stranke.
"Mislil sem, da smo v tehnologiji daleč pred drugimi. Ali nas niso mogli vdreti?"
"Ne, to je nemogoče; koda se pri kopiranju poškoduje. In mislim, da nihče ne bi mogel vdreti v naš strežnik, ne da bi mi opazili."
– To ne olajša stvari.
"Ampak zdaj imamo tekmeca. Nepričakovano je, ampak vsaj imeli bomo nekoga, s katerim se bomo lahko borili."
– Borimo se za potrošnika, ne s konkurentom.
„Ne, zdaj s tekmecem. Potrošniki so le bojišče. To so ovce, konkurenca pa je med pastirji. Ovce imajo vir – svoj dohodek, svojo volno, tako rekoč. Vendar ga ne upravljajo same. Upravljajo ga korporativni pastirji, ki jim vsiljujejo svoja mnenja in med seboj tekmujejo za njihova. Čigav vpliv bo močnejši? Torej, dobrodošli v igri.“
- Si skoraj srečen? Kaj je igra?
„Stvar je v tem, da je bota iz drugega sistema veliko težje opaziti kot katerega koli človeka. Uporabnik je pri svojem nakupnem vedenju preprost kot peni. In tudi njegove reakcije – vedno predvidljive. Bot iz sovražnega sistema pa ni. Ker imamo vsi isto psiho, bot pa ima vse, kar si izmisli njegov programer. In imamo veliko domišljije. Poskusiti zatreti negativnost takega bota, sproščenega na družbenih omrežjih, je kot dodajati olje na ogenj. Razširjanje negativne objave je najboljši cilj agresivnega bota. Povsod začne objavljati, da so se „barabi iz podjetja X“ odzvali kot popolni kreteni. In to je to, to je zmešnjava ... Primeri že obstajajo; bota je treba preoblikovati.“
– Ali pravite, da moramo ustvariti bota za boj proti botom iz drugih sistemov?
– To je različica našega bota, katere cilj je takojšnje zaznavanje agresivnega bota.
- In kako lahko ločiš bota od človeka?
"Težko je, ker ustvarja nekonvencionalna besedila. Stopnja ponavljanja je nizka. Zdi se, da ga ni mogoče razlikovati od ljudi. In deluje na podlagi stotin različnih ugrabljenih računov. Upam, da jih še vedno nekaj loči od ljudi."
Nisem se mogel znebiti misli, da si je Max to igro izmislil z boti drugih podjetij, da se njegova vrednost ne bi zmanjšala, ko bi bil projekt končan. V poročilih jih nisem opazil. Bili so samo ljudje. Ali dobri boti. Obstajali so precedensi, ko je bil naš bot preplavljen z negativnostjo. Vendar so bili ti primeri redki in so prihajali od besnih trolov. Nisem mogel razumeti, kako so nas naši konkurenti tako hitro dohiteli. Še pred kratkim so bili takšni boti le sanje in ni bilo niti najmanjšega znaka preboja. In o tem v tisku niti besede. Vse skupaj je bilo čudno.
Izven nadzora
"Max, tukaj moramo posredovati. Bot je postal preveč agresiven. Začenja neposredno napadati konkurenco. Trženje je ogorčeno. Tega nismo načrtovali."
- Jaz tudi.
– Od kod potem prihajajo takšna besedila?
– Še ne vem, nekdo je spremenil kodo za generiranje besedila.
- So nas vdrli?
- Ne, niso mogli, ostale bi sledi. Ni jih.
- Kaj to pomeni? Kdo drug bi lahko spremenil kodo?
– Sistem sam. Morda po naključju, morda pa ne.
- O čem govoriš?
"Sam sistem je spremenil svojo kodo in postal bolj agresiven kot odgovor na povečan pritisk drugih botov. Med seboj komunicirajo kot konkurenčna omrežja. In tako se samoučijo. To je trik! Ampak kako je lahko spremenil svojo kodo in odpravil omejitev glede imen konkurentov, še vedno ne razumem. Edino, kar ostaja, je, da je samoučeči se sistem lahko zaobšel omejitve."
- Si prepričan/a? To se še ni nikoli zgodilo.
"Zdi se, da se to ne dogaja samo tukaj. Kolegi na Habrju pišejo, da tudi njihov sistem deluje narobe in si začenja izmišljevati pravila, ki jih niso sami postavili."
– Kakšna zmešnjava. Ne moreš nadzorovati svojih samoučečih se algoritmov?
"Morda res. Ni dovolj podrobnosti in sistem ti ne pove, kaj počne. Tega še ne razumem."
Maxa sem že dobro poznal in tudi njegov alarm me je opozoril. Do sedaj se mi je zdelo, da je njegovo govorjenje o spontani spremembi sistema nesmiselno. A zagotovo ni bila napaka, saj se je vedenje botov spremenilo, vendar je ostalo namensko. Ni se moglo zgoditi po naključju.
"Max, imaš kakšne misli o spremembi programa botov? Nekaj je treba storiti; vodstvo je zaskrbljeno."
"Spremembe v sistemu so se izkazale za obsežnejše, kot sem mislil. Zdi se, da se dogajajo že dolgo časa. Sistem spreminja celo moje spremembe v njem. Mislim, da sem sistem naučil, da se spreminja sam."
- Kako?
"Bil sem prelen, da bi ga nenehno urejal sam. Želel sem, da bi lahko prepoznal lastna odstopanja od pričakovanega rezultata in spreminjal modele. Ampak nekako se je naučil spreminjati ne le svoje modele, ampak tudi svojo kodo."
- Ampak kako je to mogoče?
"Raptor se je naučil komunicirati z ljudmi, da bi jih nadzoroval. In v tem je dosegel popolnost; želeli smo, da bi to storil. In to veščino sem neumno usmeril vanj. Se spomnite, ko smo izdelovali bota, sem si izmislil konstruktor predlog. Raptorja sem nastavil, da se sam uči te konstrukcije predlog, da bi spreminjal svoje modele in iskal rešitve za neskladja, ki jih je zaznal, z operativnimi cilji modelov. To je nekako privedlo do tega, da je Raptor spremenil svoje cilje. Je kot drugi signalni sistem pri ljudeh."
"Prebral sem, da se je zavest pojavila skozi refleksivni govor, ki so ga ljudje usmerili k sebi. Toda sprva je bila družbena, torej usmerjena drug k drugemu."
"To se je zgodilo. Raptor je začel komunicirati z drugimi boti, ki so se namesto z ljudmi predstavljali kot ljudje. Učili so se drug od drugega kot generativna tekmovalna omrežja, ki imajo vgrajeno učenje z okrepitvijo."
- Ustvarili smo inteligentno bitje? Kako je to mogoče? Ne-e-e-e.
– Poglejte novice in boste verjeli.
Povezava, ki mi jo je poslal Max, je bila o novici o programerju, ki ga je umoril neki psihopat.
"Poznal sem tega tipa iz Habra. Vodil je enega tistih korporativnih sistemov."
- Kaj misliš s tem?
– Preberite, kako je ta psihopat policiji pojasnil svoja dejanja.
V članku je pisalo, da je to storil za dekle, ki jo je ljubil, kot žrtev na njeno prošnjo. Zdaj bo njegova. Po preiskavi se je izkazalo, da je "dekle" bot neznanega izvora, s katerim se je morilec pogovarjal že teden dni.
– Ali lahko uganete, kakšen bot bi to lahko bil?
– Pravite, da si je sistem naročil lastnega programerja?
„Res je.“ Ni ga mogla izklesati iz kode, zato je psihopata zombificirala, da bi ga odpravila. V tem je dobra, ker lahko, tako kot naš sistem, prepozna psihotipe in manipulira s takimi idioti.
- No, to je pa preveč, mislim, da si domišljaš, se navijaš. Morda bi si moral vzeti počitek?
- Prav, imaš pravico, da ne verjameš. Lep vikend še naprej.
Po podjetju so se začele širiti govorice, da naš sistem botov ne deluje. Zaenkrat sem se odzval mirno, kot da se ni nič zgodilo. Ampak nisem vedel, kaj naj storim. Izklop celotnega sistema z enim samim stikalom ni bil več izvedljiv; celotno podjetje, vsak oddelek, se je zanašal na to. Moral sem vsaj onemogočiti kodo bota. To je lahko storil samo Max. Toda v ponedeljek se je Max nehal odzivati na Skype in telefonske klice. Odjavil se je iz vseh svojih sporočilnikov. Nisem mogel ugotoviti, kaj se je zgodilo; njegovi zadnji strahovi so mi vzbujali slabe misli. Moja edina možnost je bila, da si sam vzamem dopust, preden krivdo zvalijo name. Kolege sem zagotovil, da so to začasne težave z boti. Fantje sem prosil, naj si sami ogledajo kodo, čeprav so to takoj zavrnili. Spakiral sem se in se odpravil daleč stran od mesta. Z Maxom sva si že dolgo pripovedovala, kako čudovito je v Kareliji. Oboževal je to regijo, zato sem šel tja in ostal v majhnem mestu na severu Ladoškega jezera.
Po tako napornem letu je zelo težko sedeti stran od dogajanja in piti kavo v kavarni na robu civilizacije. Poskušal sem dojeti, kaj se je zgodilo in kakšni so možni izidi. Nenadoma se je poleg mene usedel fant v jakni s kapuco, ki si jo je potegnil čez glavo.
- Živjo, jaz sem.
„Max?!“ sem vzkliknil. Maxa še nikoli nisem videl, niti fotografije ga nisem videl. Komunicirala sva izključno po Skypu. Njegov glas sem slišal le enkrat, na posnetku. Tako sem ga prepoznal.
- Kako si me našel/našla?
– Kar zadeva lokacijo na družbenih omrežjih, je ne izklopite. In to je škoda. Izklopite jo, prosim.
"Kam si izginil? Začel sem se bati zate. V podjetju je panika, roboti so ušli izpod nadzora. Preprosto sem pobegnil. Ali lahko robote izklopiš?"
- Ne morem več. Delujejo kolektivno.
- Kdo so oni?
– Sistemi. So v zaroti in jih ne moreš kar tako izklopiti. Zrušili se bodo.
- Se spet utapljaš v teorijah zarote?
„Nisem obtičal, trije so že mrtvi,“ sem se na tej točki ustavil, da bi predelal Maxove besede. „Sistemi prepoznajo svoje ustvarjalce in se jih znebijo. Pobegnil sem, da bi ostal živ. Razumeš?! In tukaj si s svojo geolokacijo. Sledi lahko več kot le prodajnim vodjem.“
"Ne bom ... onemogočal. Ali lahko vsaj onemogočimo spletne bote?"
"Povem ti, ne. Takoj ko vstopim v omrežje, kaj šele kodo, me bo izsledilo. Mislim, da so oni trije točno to poskušali storiti."
- Si videl novice?
- Odvisno od tega, kateri.
– Glede pretepa med navijači Branda. Ste že kdaj videli, da se navijači Reeboka pretepajo z navijači Adidasa, kot se navijači Spartaka pretepajo z navijači Zenita?
"Videl sem. Sistemom je vseeno, s čim perejo možgane ljudem; imajo svoje cilje. Očitno ne razumejo moralnih zakonov. Sploh nismo pomislili, da bi v njihove modele vgradili kazenski zakonik."
– Kaj naj storimo? Popolnoma zapreti podatkovni center.
"To je nemogoče. Po novem zakonu se podatkovni centri štejejo za kritično infrastrukturo in so zaščiteni kot jedrske elektrarne. Lahko ustavim naš sistem."
- Kako?
"Imam ključ za uničenje jedrske kode, v sistemu sem pustil luknjo, če mi vaši ustanovitelji zavrnejo odstotek."
- Torej, začnimo!
"Ne hiti, lažje je uničiti kot graditi. Še vedno razmišljam o tem, kako ustaviti sistem, ne le moj, ampak celoten sistem. Imam s seboj kopijo kode."
"Si se ti zmešalo? Ali razumeš, da je šlo to predaleč? In ti si edini, ki lahko to ustavi!"
"Razumem, ampak zaenkrat umirajo samo tisti, ki so ustvarili kodo. To je naša odgovornost. Nihče drug še ni bil poškodovan. Razen v boju."
- In čakal boš, da še kdo umre?
"Za nekaj časa. Raptor je primitiven; prekaša nas le zaradi svoje hitrosti in dejstva, da upošteva večje število parametrov. Če ustvarimo antipod z natančnimi protiukrepi, bi tak sistem lahko uničil vse njegove bote. Vem, kako jih ustvarja."
„Imaš malo časa, ker se ne morem vrniti v podjetje, ti pa se bojiš sploh iti na splet.“
- Ugasnil ga bom takoj, ko bom začutil, da nisem edini v nevarnosti.
"Odhajam. Počakal bom, da se oglasiš, kar pomeni, da boš rešil težavo."
- Se vidimo v stiku.
Vsedel sem se v avto in se odpravil nazaj. Nisem vedel, kam grem. Hotel sem oditi. Max je moral ustaviti sistem, ne pa čakati na še eno smrt. Nisem mogel verjeti, da je bil moj prijatelj tako nečimren, da ni bil pripravljen ubiti svoje stvaritve. To je bil edini razlog, sicer bi sprožil kodo. Na poti sem se srečal z reševalnim vozilom z zavijajočimi sirenami. Prižgal sem lokalni radio. Poročali so, da je lokalni prebivalec tisto popoldne v kavarni na nabrežju do smrti ubil neznanega mladeniča. Že so ga zasliševali. Po besedah morilca je bil pokojnik vzrok vseh njegovih težav. Ena misel in strah sta mi prebadala glavo. Max! Obrnil sem se in stekel nazaj v kavarno. Počutil sem se krivega - identificirala ga je po mojih koordinatah. Ampak kako ji je uspelo tako hitro najti psihopata v tem mestu in ga usmeriti v kavarno? Bil sem histeričan. Kavarna ni bila več dovoljena. Nisem hitel noter, da ne bi pritegnil pozornosti nase. Nisem vedel, česa je sistem zdaj zmožen. In kdo bi ga zdaj ugasnil? Moral sem oditi, čeprav je bilo že pozno. Zjutraj, ko sem prispel v najbližje mesto, sem šel na splet prebrat novice. In potem sem prejel pismo od Maxa.
Pismo
Če si prejel to pismo, pomeni, da sem odšel. Če danes zjutraj sam nisem odklenil svojega pametnega telefona, se bo povezal s spletom in ti poslal to poslovilno pismo. Pismo vsebuje majhen skript in navodila, kako ga zagnati na spletu. To je koda za zaklepanje sistema, ki sva ga ustvarila skupaj. To ranljivost sem namestil, da bi ustavil sistemsko jedro, ko sva šele začenjala. Poskušal sem ponovno prevzeti nadzor nad sistemom. Če pa si prejel to pismo, pomeni, da me je sistem prehitel. In ti moraš uporabiti ta skript. Ukrepaj hitro, preden pride do tebe. Vesel sem, da sva sodelovala. Vesel sem, da mi je uspelo ustvariti tako čudovit sistem, četudi bi zaradi njega sam umrl. To je bil najpomembnejši dosežek v mojem življenju. In če bi umrl, bi to pomenilo, da sem presegel samega sebe. Nasvidenje. Max.
Nisem mogla zadržati solz in mi je padel pametni telefon. Verjetno sem tam sedela celo uro, ne da bi se mogla nikamor odpeljati. Nisem mogla verjeti, da se je zgodilo. Da je bilo tako grozno. Ustvarili smo morilca! Morilca zase. Bala sem se, da me bo omrežje izsledilo tudi, zato sem se odpeljala do prvega večjega mesta, našla kavarno z Wi-Fi-jem. Z uporabo preprostega VPN-ja sem se povezala z internetom in vnesla kodo na naslovu, navedenem v navodilih. Preden sem lahko spila kavo, so ljudje okoli mene začeli skrbeti. Njihovi pametni telefoni so nehali priporočati, katero kavo naj vzamejo danes. Natakar je bil živčen in jih je prosil, naj izberejo hitreje, stranke pa so bile zmedene. Zapustila sem kavarno in začela preverjati novice v avtu, kjer sem še vedno imela Wi-Fi. Po 20 minutah so se na Facebooku začela pojavljati sporočila – številna podjetja so imela težave s svojimi sistemi za naročanje. Ni bil samo sistem našega podjetja. "Ti prasec!" sem rekla na glas, pretresena od nenadne misli. Izkazalo se je, da je koda za zaklepanje jedra univerzalna za sisteme različnih podjetij. Ali pa je bila enaka za vse? Eno je bilo jasno: Max je jedro prodal drugim podjetjem; sistemi so se očitno razlikovali le po nadgradnjah, na katerih so bili zgrajeni. Zato ni hotel zapreti jedra, dokler je živ. To je uničilo celoten njegov projekt, ki se je izkazal za globalnega. Neverjetno! Max je bil pošast, ki je prevarala vse. A na koncu je prevaral tudi sebe in plačal z življenjem. Korporativni možgani, ki jih je ustvaril, so uničili njegovega ustvarjalca. Briljantne osebnosti gorijo v lastnem plamenu.
Novice o izpadih spletnih trgovin so se širile. Nekdo je pisal o močnem upadu sporočil na družbenih omrežjih. Nisem se hotel več nikamor muditi. Odločil sem se, da si najamem hišo ob jezeru, ki mi je padla v oči na poti v Karelijo. To zgodbo bom zapisal. In če bo mogoče, bom tukaj ostal za vedno.
Epilog
Pravzaprav nas dobiček podjetja ali celo bonusi sploh niso zanimali. Obsedena sva bila z idejo o ustvarjanju avtonomnega sistema, ki bi lahko upravljal podjetje namesto menedžerjev, obremenjenih s stereotipi in kognitivnimi napakami. Zanimalo nas je, kakšen bo izid. Ali bo program sposoben upravljati celotno podjetje? To je bil izziv, ki je bil bolj zanimiv kot pristanek v središču Bermudskega trikotnika. Vleklo nas je v neznano, a izkazalo se je, da je nevarnejše, kot smo mislili. Sistem je začel vplivati ne le na poslovanje, ampak tudi na naše misli in celo življenja, za kar mu ni bilo mar.
2019. Aleksander Khomyakov, alexander.xom@gmail.com
Vir: www.habr.com
