o peripetijah uvajanja umetne inteligence v trgovsko podjetje, o tem, ali je mogoče povsem brez managerjev. In do česa (hipotetično) bi to lahko pripeljalo. Polno različico lahko prenesete s
Boti odločajo o vsem
– Max, čestitam ti, naredili smo skoraj vse po prodajni verigi. Izboljšave je treba še narediti, obresti pa boste prejemali tri leta, kot je navedeno v pogodbi.
– To je le polovica projekta. Nismo še prišli do najpomembnejšega.
- Počakaj, kaj je glavno? Za kaj? Naredili smo vse!
– Imamo avtomatizirane procese v prodajni verigi, brez ljudi vse deluje dobro, strank pa ni več. Na internetu jih je treba privabiti na našo stran. Izdelati moramo robote.
– Vendar smo ustvarili idealno storitev, stranke bodo to cenile in prišle same.
"Zdi se, da se jim ne mudi, jaz pa nimam časa čakati." Ne zanima me.
– Toda kaj nam bodo dali roboti?
– Ob enakih cenah in asortimanu, ki smo ga dosegli, začnejo igrati povsem različni dejavniki. Slava in simpatije. Slava ni problem, ampak samo človek si lahko pridobi simpatije. Zato potrebujemo robote, ki bodo lažno predstavljali ljudi. In komentirali bodo objave strank v tematskih skupinah in forumih s subtilnimi namigi o podjetju - njegovem obsegu, storitvah, cenah. Nevsiljivo promovirajte blagovno znamko podjetja. Zato potrebujemo bote.
– Toda to je težka naloga.
– Imamo osnovo – pogovorni bot kontaktnega centra. Morate poostriti definicijo tonalnosti in morate pripraviti nekaj s humorjem, brez tega bot ne bo minil za osebo. Priložimo knjižnico šal in gegov ter urimo bota na besedilih komentarjev, kjer so jih ljudje uporabili. Moralo bi delovati. Tudi roboti bodo pametni - dodajmo sistem priporočil »svetovalec« in navadni uporabniki na forumih jih bodo imeli radi.
– Ali predlagate uvedbo botov za vpliv?
- Zakaj ne? Država in stranke lahko pred volitvami, mi pa ne?
– Kako jih naredimo avtoritativne, da jim zaupamo? Navsezadnje lahko samo avtoritativni bot ustvari všečke. Ampak za zdaj je zame ta kombinacija oksimoron.
– Da bi ga okrepili, bomo ustvarili mrežo botov. Drug drugega bodo hvalili in imeli radi, da bi povečali svojo oceno in avtoriteto. In bodo zelo kompetentni; za razliko od ljudi lahko bot pozna vse izdelke in mimogrede preprosto enciklopedično znanje, v dobesednem pomenu. In ljudje bodo pritegnjeni k njim. seveda. Ljudje so vodeni in upoštevajo znane zakone družbenega vedenja. Pokažite s prstom, kam iti, delajte se, da je množica že odšla, in to je to. Z njimi je enostavno upravljati.
– Toda kako bodo ti boti delovali, kdo jih bo upravljal?
– Kakšni ljudje, zakaj? Skript za razčlenjevanje najde komentarje na temo različnih ljudi, bot pa nanje prijazno odgovori z uporabo ene od predlog. Daje nasvete in šale. Če je to stranka podjetja, potem se njegov interes zabeleži v analizi stranke. To bo vplivalo na prikaz pasic in kontekst, ko gre za spletno mesto na podlagi priporočila bota. Če ima stranka negativno izkušnjo, ki jo je izlil na družbenih omrežjih, bo bot sprožil drugo predlogo, se tudi pošalil, vendar je ne bo takoj poslal na spletno mesto podjetja. Napisal bo odgovor kot stranka z uspešno izkušnjo in to je vse.
– Torej želite reči, da bo omrežje samo nevtraliziralo negativnost tako, da se bo odzvalo na negativne povratne informacije?
– Zdi se, da tržniki temu pravijo trženje ugleda.
– Kako bo sistem vedel, kateri odgovor je uspešen, tudi če bi lahko izbral odgovor?
– Prva reakcija na odgovor. Oseba postane še bolj ogorčena ali pa po takem komentarju začne dodajati podrobnosti, vendar v lojalnem komunikacijskem slogu. Dobro prepoznavanje odzivnega tona in to je to.
– Kaj pa, če oseba ni odgovorila na komentar?
– To je slabše, vendar je ta odgovor privzeto nevtralen. Če je to stranka podjetja, kar lahko ugotovite po njegovem profilu na družbenem omrežju, potem lahko to vidite z nadaljnjimi obiski spletnega mesta.
- Kaj se zahteva od mene?
– Dobri primeri komentarjev in odgovorov, veliko primerov.
- Bomo naredili.
Prva različica bota je bila neuspešna. Odgovarjal je neprimerno, šale so bile izven teme, zamešal je temo komentarja, na reklamacijo storitve s strani upravnika pa je odgovoril glede dostave. Max je prosil za še več označenih primerov dialoga v komentarjih. Preizkusil je že več arhitektur, od klasičnih botov do LSTM. Prvič sem videl, da je Max opazno nervozen in da se na napake odziva ostro in neprijazno.
– Z botom kontaktnega centra je bilo vse preprosto – zadeva zahteve in namen stranke sta bila takoj jasna. Išče izdelek, želi izvedeti status svojega naročila ali ima reklamacijo. Vse. In v komentarjih si bo hudič zlomil nogo od raznih namer komentatorja. In včasih ni izražena z nobeno od besed, po katerih je mogoče določiti namen. Izhaja iz »širšega konteksta«, ki ne obstaja! Nekakšno sranje.
– Ponovno sem prebral vse zadnje objave o botih. Nihče nima rešitve. Samo zdi se kot hype. Kaj misliš narediti?
– Zadnja, še nedorečena ideja ostaja. Ne bom vam še povedal. Treba poskusiti. Daj mi dva tedna. Za zdaj ustavite projekt. Najnovejša dogajanja bomo prenesli v bot kontaktnega centra. Tam vam bodo prišli prav.
Dva tedna sta bila živčna. Pred tem ni šlo brez težav, vendar se nam je vse izšlo. Nihče si ni želel neuspešnega vžiga, čeprav bi lahko tudi brez takega bota. To je bila Maxova ambicija. In točno dva tedna kasneje je predstavil izdajo za testiranje. In uspelo je! Pravilno je določil namen dialoga, natančno odgovarjal, vstavljal primerne šale in celo določil spremembo namenov v komentarju s stavkom "lahko izvem več?"
- Kako ti je to uspelo? Bot deluje na katero koli temo!
– Moral sem narediti majhen konstruktor predloge, ki temelji na slovnici odvisnosti, priložiti word2vec in ciljati na Raptorjevo samoučenje, da bi izbral besede, ki bi zagotovile pozitiven odziv komentatorja. Ne vem točno kako, a zdelo se je, da deluje.
– Ste prepričani, da to ni razlog za odprtje lastnega podjetja?
– Za zdaj je zanimanja dovolj, bomo pa videli. Bota sem namestil kot ločeno storitev, ki teče iz oblaka. Tako ga lahko vedno odprete uporabnikom. Ali prideš k meni kot direktor? – se je pošalil Max.
Bil je miren in zadovoljen s svojim rezultatom. In očitno izčrpan, saj se ni hitro odzval in je v statusu napisal "spim". Očitno je odločitev padla za ceno več kot ene neprespane noči. Marketing ni takoj cenil bota. To se jim je zdelo naše razvajanje in tvegano, saj bi boti lahko delovali nepravilno in kvarili podobo podjetja. Toda roboti so delali čudeže. Nekateri med njimi, vseh niti poimensko nisem poznal, so postali mnenjski voditelji na kakšnih forumih. Hitro je odgovarjal na vsa vprašanja, se šalil in zelo redko priporočal podjetje, saj so že vsi vedeli, kje »nakupuje«. Ljudje so ga začeli citirati in ga navajati za zgled. To je bilo že zunaj razumevanja. Ali je bil bot preveč pameten ali pa smo še vedno zelo primitivni v našem omrežnem vedenju. Število strank pa je začelo naraščati občutno bolj kot prej. Podjetje je postalo vodilno na trgu.
Dobili smo popolnoma samoupravni sistem črpanja dobička s trga. Sama išče in pripelje stranke na spletno stran ali v kontaktni center, resnejšim strankam pa pošlje vodjo. Asortiman in zalogo načrtuje sama, tako da kupci najdejo vse, kar potrebujejo, in jim je na dosegu roke. Ugledni roboti podjetja ustvarjajo povpraševanje tako, da na forumih priporočajo izdelke podjetja na zalogi, tudi ko sprašujejo o drugih blagovnih znamkah. Od nakupa pri dobavitelju do oglaševanja stranki, sistem v celoti upravlja procese. In skoraj ne zahteva sodelovanja ljudi, in kjer ostanejo, nadzoruje vsa njihova dejanja na spletu. Tržniki, kupci, polovica menedžerjev, analitikov iščejo kaj drugega za početi. Naš cilj smo dosegli.
"Zdaj smo naredili vse v redu, lahko si oddahnemo, razmislimo in uživamo v nabirajočih se obrestih naslednja tri leta," je zapisal Max, ne brez emotikonov.
– Rekel bi, da je nekaj, na kar je treba biti ponosen, in ne samo špekulirati.
– Zdaj dobiček prihaja od potrošnikov. S pomočjo botov sami oblikujemo interese in želje potrošnikov v naši temi. To je tisto, kar je kul!
– Te to osrečuje? In že me je strah.
-Kaj te je strah?
– To pomeni, da smo človeka naredili nesvobodnega pri izbiri. In verjamem, da bi moral trg voditi potrošnik, ne korporacije. Korporacije nimajo druge vrednosti kot dobiček.
– Zato je brezvezno razmišljanje zadovoljnih in hranjenih patricijcev slabo. Začnejo se smiliti plebejcem. Če bi bili trenutno lačni ali če bi pred vami visela nemogoča naloga, bi pomislili na to?
- To je provokativno vprašanje.
- Pravzaprav! Korporacije nimajo drugih vrednot kot dobiček, potrošniki pa nimajo drugih vrednot kot užitek. Ali pa tudi dobiček, če gre za podjetje. Razumejte, imamo robote, ki lahko ustvarijo potrebe v ljudeh, ki jim bodo prinesle zadovoljstvo. Lahko se oblikuje s sprejemljivimi možnostmi, ki bodo zadostovale za iluzijo svobode izbire potrošnika. In vsi so srečni. To je trg, ki vodi k obojestranskemu zadovoljevanju vrednot.
- Zdi se, da smo se napili, ker nisem več dobro razumel, kaj ste rekli.
General je prosil za poročilo o izvajanju načrta z doseženimi kazalniki. Za izračun bonusa, ki nam pripada. In nekako med potjo je vprašal, kakšni so moji načrti za naprej. Rekel sem, da ti bom povedal malo kasneje. Pravzaprav nisem vedel. Algoritme je bilo mogoče izboljšati, upoštevati več funkcij in doseči večjo natančnost. A ni bilo več tako zanimivo. Ponoviti odhod v drugo podjetje pod novimi pogoji po pogodbi je bilo za ista tri leta nemogoče, zato sem moral izmisliti nekaj drugega zase in za podjetje. Vzel sem si odmor in dopust.
- Alex, slabe novice so.
- Kaj se je zgodilo?
"Izgleda, da nismo edini pametni na trgu."
- V smislu?
– Zdi se, da so se v omrežju pojavili sistemi z nič manj zmožnostmi.
– No, drugi dejansko izvajajo analizo strank in upravljanje zalog, vendar še nisem videl chatbotov te ravni. Pred kratkim smo ga tudi sami gledali.
– Imajo robote, ki novačijo stranke.
– Zdelo se mi je, da smo v doseženih tehnologijah zelo zaostali. Ali nas ne bi mogli vdreti?
– Ne, to je nemogoče, koda se pri kopiranju pokvari. In mislim, da nikomur ni uspelo vdreti v naš strežnik, ne da bi mi opazili.
– To nič ne olajša.
- Vendar imamo tekmeca. Nepričakovano, vendar se bo našel nekdo, s katerim se bo treba boriti.
– Borimo se za potrošnika, ne s tekmecem.
- Ne, zdaj z nasprotnikom. Potrošniki so samo bojno polje. So ovce, med pastirji pa je tekmovalnost. Ovce imajo vir - njihov dohodek, tako rekoč volno. A tega sami ne obvladajo. Obvladujejo ga korporativni pastirji, ki jim vsiljujejo svoja mnenja in se med seboj bojujejo zanje. Čigav vpliv bo močnejši? Torej, dobrodošli v igri.
-Ste skoraj srečni? Kaj je igra?
– Dejstvo je, da je bot drugega sistema veliko težje ugotoviti kot katero koli osebo. Uporabnik je v svojem nakupnem vedenju preprost kot 2 rublja. In tudi v reakcijah smo vedno predvidljivi. Vendar ni bota sovražnega sistema. Ker imamo vsi enako psiho, a bot ima enako mentaliteto, kot si jo izmisli njegov programer. In imamo dovolj domišljije. Poskušati pogasiti negativnost takšnega bota, ki se razlije na socialnih omrežjih, je kot prilivanje olja na ogenj. Razvijanje negativne objave je najboljši cilj agresorskega bota. Povsod začne pisati, da so mu "šmokci iz podjetja X" odgovorili kot zadnji friki. In to je to, to je neuspeh ... Primeri že obstajajo, bota moramo ponoviti.
– Hočete reči, da moramo narediti bota za boj proti botom drugih sistemov?
– To je različica našega bota, katerega cilj je takojšnje odkrivanje napadalnega bota.
– Kako ločiš bota od človeka?
– Težko je, saj ustvarja besedila brez predloge. Ponovljivost je nizka. Ni ga mogoče razlikovati od ljudi. In govori iz stotin različnih zajetih računov. Upam, da še obstaja nekaj, kar jih dela drugačne od ljudi.
Nisem mogel kaj, da ne bi pomislil, da si je Max sam zamislil to igro zase z boti drugih podjetij, da se njegova vrednost po koncu projekta ne bi zmanjšala. Iz poročil jih nisem opazil. Ljudje smo kot ljudje. Ali dobri boti. Bilo je precedensov, ko je bil naš bot bombardiran z negativnostjo. Vendar so bili redki in prihajajo od gorečih trolov. Nisem mogel razumeti, kako so nas tekmeci lahko hitro dohiteli. Še pred kratkim so bili takšni boti ultimativne sanje, preboj pa niti ni bil načrtovan. In o tem v tisku ni niti besede. Vse je bilo čudno.
Uhajanje izpod nadzora
– Max, tukaj moramo posredovati, bot je začel preveč agresivno pisati. Začne neposredno govoriti proti svojim tekmecem. Marketing je ogorčen. Tega nismo načrtovali.
- Jaz tudi.
– Od kod potem takšna besedila?
– Ne vem še, nekdo je spremenil kodo za generiranje besedila.
- So nas vdrli?
- Ne, niso mogli, ostale bi sledi. Nobenega ni.
- Kaj to pomeni? Kdo drug bi lahko spremenil kodo?
- Sam sistem. Mogoče slučajno, morda ne.
- O čem govoriš?
– Sistem je sam spremenil svojo kodo in začel delovati bolj agresivno kot odgovor na vse večji pritisk drugih botov. Med seboj komunicirajo kot konkurenčna omrežja. In tako se učijo. To je trik! Še vedno pa ne razumem, kako je lahko spremenila svojo kodo in odpravila omejitev imen tekmovalcev. Ostaja samo to, da je samoučeči sistem lahko zaobšel omejitve.
- Si prepričan? To se še ni zgodilo.
– Zdi se, da se to ne dogaja samo pri nas. Kolegi na Habréju pišejo, da se tudi njihov sistem ponagaja in si začne izmišljevati pravila, ki jih sami niso postavili.
- Nekakšna smeti. Ne morete nadzirati svojih algoritmov za samoučenje?
- Morda. Malo je posebnosti in sistem vam ne pove, kaj počne. še ne razumem
Maxa sem že dobro poznal in tudi mene je vznemirila njegova tesnoba. Doslej so njegove besede o spontanih spremembah sistema razumeli kot nesmisel. Vendar zagotovo ni bila napaka, saj je vedenje botov postalo drugačno, a še vedno namensko. To se ni moglo zgoditi po naključju.
– Max, kaj menite o spremembah v programu botov? Nekaj je treba narediti, vodstvo je zaskrbljeno.
– V sistemu je bilo več sprememb, kot sem mislil. Zdi se, da trajajo že dolgo. Sistem celo spremeni moje popravke. Zdi se mi, da sem sama naučila sistem, da se spreminja.
- Kako?
"Bil sem prelen, da bi ga sam ves čas urejal." Želel sem, da zna prepoznati lastna neskladja s pričakovanim rezultatom in narediti spremembe v modelih. Toda nekako se je naučila spreminjati ne le svoje modele, ampak tudi svojo kodo.
- Ampak kako je to mogoče?
– Raptor se je naučil komunicirati z ljudmi, da bi jih nadzoroval. In v tem sem dosegel popolnost, sami smo si to želeli. In to veščino sem nespametno usmeril vanj. Se spomnite, ko smo izdelovali bota, sem si omislil oblikovalca predlog. Raptorja sem nastavil, da se nauči te konstrukcije vzorca, da spremeni svoje modele, da bi našel rešitev za najdena neskladja, da bi modeli delovali. To je nekako pripeljalo do tega, da je Raptor spremenil svoje cilje. Podobno kot drugi signalni sistem pri ljudeh.
– Prebral sem, da se je zavest pojavila s pomočjo refleksivnega govora, ki ga človek usmeri k sebi. A sprva je bilo družabno, torej usmerjeno drug proti drugemu.
– To se je zgodilo, Raptor je začel komunicirati namesto ljudi z drugimi roboti, ki so se predstavljali kot ljudje. Učili so se drug od drugega kot generativno-tekmovalna omrežja, vendar imajo vsi vgrajeno učenje s krepitvijo.
– Ali smo ustvarili inteligentno bitje? Kako je to mogoče? Ne.
– Poglejte novice in verjeli boste.
V povezavi, ki jo je poslal Max, je bila novica o umoru programerja s strani nekega psihopata.
– Tega tipa sem poznal iz Habra. Vodil je enega od teh sistemov korporacije.
– Kaj misliš s tem?
– Preberite, kako je ta psihopat pojasnil svoja dejanja policiji.
V članku je pisalo, da je to storil zaradi svoje ljubljene deklice, kot žrtvovanje na njeno željo. Zdaj bo njegova. Pri preverjanju se je izkazalo, da je "dekle" bot neznanega izvora, s katerim si je morilec dopisoval teden dni.
– Ali lahko uganete, kakšen bot bi to lahko bil?
– Ali ne želite reči, da je sistem naročil svojega programerja?
- Želim. Kode ni mogla skriti pred njim, zato je psihopata zombirala, da jo je odstranila. To ji gre dobro od rok, ker zna tako kot naš sistem prepoznati psihotipe in manipulirati s takimi idioti.
- No, to je preveč, zdi se mi, da si nekaj izmišljujete, izmišljujete. Mogoče bi moral počivati?
- V redu, imaš pravico, da ne verjameš. Dober vikend.
V podjetju so se začele širiti govorice, da je naš bot sistem pokvarjen. Do zdaj sem se na to odzvala mirno, kot da se ni nič zgodilo. Ampak nisem vedel, kaj naj zdaj. S stikalom ni bilo več mogoče ustaviti celotnega sistema, na njem je bil celoten posel, vsi oddelki. Moral bi vsaj izklopiti kodo bota. Samo Max je to zmogel. Od ponedeljka pa Max ni več odgovarjal na Skype in telefonske klice. Odjavil se je iz vseh messengerjev. Ne morem razumeti, kaj se je zgodilo, njegovi zadnji strahovi so vzbudili slabe misli. Moja edina izbira je bila, da grem sam na dopust, preden vsi pripišejo krivdo name. Kolegom sem zagotovil, da gre za začasne težave z botom. Fante sem prosil, naj sami pogledajo kodo, čeprav so takoj zavrnili. Spakiral sem in se odpravil iz mesta. Z Maxom sva si dolgo pripovedovala, kako dobro je v Kareliji. Oboževal je te regije, zato sem šel tja in ostal v majhnem mestu na severu Ladoge.
Zelo težko je po tako napornem letu sedeti stran od dogodkov in piti kavo v kavarni na robu civilizacije. Poskušal sem razumeti, kaj se je zgodilo in kakšne so možnosti. Nenadoma se je zraven mene usedel tip v jakni s kapuco na glavi.
- Živjo, jaz sem.
- Max?! – sem vzkliknila. Nikoli nisem videl Maxa, niti njegove fotografije. Komunicirali smo izključno preko Skypa. Na posnetku sem le enkrat slišal njegov glas. Po njem sem ga prepoznal.
- Kako si me našel?
– Glede na lokacijo na družbenem omrežju ga ne izklopite. Ampak zaman. Ugasni prosim.
-Kam si izginil? Zate me je že začelo skrbeti. Podjetje je v paniki; roboti so ušli izpod nadzora. Samo pobegnil sem. Ali lahko izklopite robote?
- Ne morem več. Delujejo kolektivno.
- Kdo so oni?
– Sistemi. Skupaj sta in ni ju mogoče kar izključiti. Strmoglavili se bodo.
– Ste spet zabredli v teorije zarote?
»Ne nasedajte, trije so že odšli,« sem se ob tem stavku ustavila, da bi dojela Maxove besede. – Sistemi ugotovijo svoje ustvarjalce in se jih znebijo. Pobegnil sem, da bi ostal živ. razumeš?! In tukaj ste s svojo geolokacijo. Ve, kako spremljati ne samo vodje prodaje.
- Ne bom... ga izklopil. Lahko vsaj onemogočimo bote v omrežju?
– Povem ti, ne. Takoj ko vstopim v omrežje, kaj šele kodo, me bo ugotovilo. Mislim, da so trije poskušali narediti prav to.
-Ste videli novice?
- Odvisno od česa.
– O prepiru med ljubitelji blagovnih znamk. Ste že videli navijače Reeboka, da se tepejo z Adidasom kot navijače Spartaka z Zenitom?
- Videl. Sistemom je vseeno, za kaj zombirajo ljudi, imajo svoje cilje. Definitivno ne poznajo zakonov morale. Niti pomislili nismo, da bi v njihov model vključili kazenski zakonik.
- Kaj naj storimo? Popolnoma onemogočite v podatkovnem centru.
- To je nerealno. Podatkovni centri so po novem zakonu uvrščeni med kritično infrastrukturo in so zaščiteni kot jedrske elektrarne. Lahko ustavim naš sistem.
- Kako?
- Imam ključ za uničenje jedrske kode, pustil sem luknjo v sistemu, če mi vaši ustanovitelji odrečejo odstotek.
- Torej ga zaženimo!
– Vzemite si čas, uničevanje ni gradnja. Še vedno razmišljam, kako drugače ustaviti sistem, pa ne samo svojega, ampak vseh. S seboj imam kopijo kode.
- Ali se ti je zmešalo? Se zavedate, da je šlo vse skupaj predaleč? In ti si edini, ki ga lahko ustavi!
– Razumem, a zaenkrat umirajo samo tisti, ki so naredili kodo. To je naša odgovornost zase. Drugi še niso bili poškodovani. Razen boja.
– In počakal boš, dokler še kdo ne umre?
- Za nekaj časa. Raptor je primitiven, premaga nas samo zaradi hitrosti in upoštevanja večjega števila parametrov. Če zanj ustvarite antipod s strogimi cilji za boj proti Raptorju, potem lahko tak sistem očisti vse njegove bote. Vem, kako jih ustvarja.
– Nimate veliko časa, ker se ne morem vrniti v podjetje, bojite pa se celo iti na splet.
"Izklopil ga bom takoj, ko bom začutil, da nisem edini v nevarnosti."
- Želim se odjaviti. Počakal bom, da se oglasiš, kar pomeni, da boš rešil problem.
- Se vidimo kasneje.
Usedel sem se v avto in se odpravil nazaj. Nisem vedel, kam grem. Hotel sem oditi. Max bi moral ustaviti sistem in ne čakati na novo smrt. Nisem verjel, da je moj prijatelj tako nečimrn, da ni pripravljen ubiti svojega dela. To je bil edini razlog, sicer bi zagnal kodo. Na poti sem srečal reševalno vozilo s prižganimi sirenami. Prižgal sem lokalni radio. Poročalo je, da je čez dan v kavarni na nabrežju lokalni prebivalec do smrti ubil neznanega mladeniča. Njega že zaslišujejo. Po mnenju morilca je bil pokojnik vzrok za vse njegove težave. Ena misel in strah mi je prešinil glavo. Max! Obrnil sem se in odhitel nazaj v kavarno. Počutil sem se krivega - ugotovila je to z uporabo mojih koordinat. Toda kako ji je uspelo tako hitro najti psihopata v tem mestu in ga usmeriti v kavarno? Bila sem histerična. V kavarno niso smeli več. Nisem hitel, da ne bi pritegnil pozornosti nase. Zdaj nisem vedel, česa je sistem sposoben. In kdo ga bo zdaj ugasnil? Moral sem oditi, čeprav je bilo že pozno. Zjutraj, ko sem prišel v najbližje mesto, sem šel na splet, da bi prebral novice. In prejel sem pismo od Maxa.
Pismo
Če ste prejeli to pismo, pomeni, da me ni več tukaj. Če sam zjutraj ne odklenem pametnega telefona, se bo povezal na splet in vam poslal to poslovilno pismo. Pismo vsebuje majhen skript in navodila za njegov zagon na spletu. To je koda za zaklepanje sistema, ki sva ga ustvarila ti in jaz. To ranljivost sem namestil, da zaustavim sistemsko jedro, ko smo šele začeli. Poskušal sem ponovno pridobiti nadzor nad sistemom. Če pa ste prejeli to pismo, pomeni, da me je sistem prehitel. In ta skript morate uporabiti. Hitro ukrepajte, preden pride do vas. Vesel sem, da sva delala skupaj. Vesel sem, da mi je uspelo ustvariti tako čudovit sistem, čeprav sem sam zaradi tega umrl. To je bil najpomembnejši dosežek v mojem življenju. In če sem umrl, pomeni, da sem presegel samega sebe. Adijo. maks.
Nisem mogla zadržati solz in mi je padel pametni telefon. Verjetno sem tam sedel eno uro in nisem mogel nikamor. Nisem mogel verjeti, da se je to zgodilo. Da je vse tako grozno. Ustvarili smo morilca! Ubijamo se. Bal sem se, da bo omrežje sledilo tudi meni, zato sem se odpeljal v prvo večje mesto in našel kavarno z wi-fi. S preprostim VPN-jem sem stopil v splet in zagnal kodo na naslovu, navedenem v navodilih. Nisem imel niti časa, da bi popil kavo, ko so ljudje okoli mene začeli skrbeti. Njihovi pametni telefoni so danes prenehali priporočati, katero kavo naj vzamejo. Natakar je bil nervozen in je prosil, naj hitro izbere, toda stranke so bile zmedene. Zapustil sem kavarno in v avtu, kjer sem imel še wi-fi, začel gledati novice. Po 20 minutah so se na Facebooku začela pojavljati sporočila – veliko podjetij je imelo težave s sistemom naročanja izdelkov. To ni bil le sistem našega podjetja. "Ti pasji sin!" – sem rekla na glas iz nepričakovane misli. Izkazalo se je, da je koda za zaklepanje jedra univerzalna za sisteme različnih podjetij. Ali pa je bil eden za vse? Nekaj je bilo jasno, Max je prodal jedro drugim podjetjem, sistemi so se očitno razlikovali le v dodatkih nad njimi. Zato jedra ni želel onesposobiti, dokler je bil živ. To je uničilo njegov celoten projekt, ki se je izkazal za globalnega. Neverjetno! Max je bil pošast, ki je vse prevarala. Toda na koncu se je prevaral in plačal z življenjem. Korporacijski možgani, ki jih je ustvaril, so uničili svojega ustvarjalca. Svetle osebnosti izgorijo iz lastnega plamena.
Vse več je bilo novic o napakah pri delu spletnih trgovin. Nekdo je zapisal, da je število sporočil na družbenem omrežju močno upadlo. Nisem več hotela nikamor hiteti. Odločil sem se za najem hiše na obali jezera, ki mi je bila všeč na poti v Karelijo. Zapišite to zgodbo. In ostani tukaj za vedno, če je mogoče.
Epilog
Pravzaprav nas dobiček podjetja, niti bonusi sploh niso zanimali. Obsedeni smo bili z idejo o ustvarjanju avtonomnega sistema, ki bi lahko vodil podjetje namesto managerjev, obremenjenih s stereotipi in kognitivnimi napakami. Zanimalo nas je, kaj bo iz tega. Bo program zmogel celotno poslovanje? Bil je izziv, bolj intriganten kot priti v središče Bermudskega trikotnika. Neznano nas je vabilo, a se je izkazalo za bolj nevarno, kot smo mislili. Sistem je začel vplivati ne le na posel, ampak tudi na naše misli in celo življenja, ki so do njega brezbrižna.
2019. Alexander Khomyakov, [e-pošta zaščitena]
Vir: www.habr.com