o peripetijama uvođenja AI u trgovačku kompaniju, o tome da li je moguće potpuno bez menadžera. I čemu bi to (hipotetički) moglo dovesti. Puna verzija se može preuzeti sa
Botovi odlučuju o svemu
– Maks, čestitam ti, skoro sve smo uradili duž prodajnog lanca. Ima još poboljšanja, a kamatu ćete primati tri godine, kako je navedeno u ugovoru.
– Ovo je samo polovina projekta. Još nismo stigli do najvažnije stvari.
- Čekaj, šta je najvažnije? Za što? Sve smo uradili!
– Imamo automatizovane procese u prodajnom lancu, sve dobro funkcioniše bez ljudi, ali više nema klijenata. Treba ih privući na našu stranu na internetu. Moramo da napravimo botove.
– Ali napravili smo idealnu uslugu, klijenti će to cijeniti i sami doći.
“Izgleda da im se ne žuri, a ja nemam vremena da čekam.” Nezainteresovan.
– Ali šta će nam dati botovi?
– Sa jednakim cenama i asortimanom, što smo postigli, potpuno različiti faktori počinju da igraju ulogu. Slava i simpatija. Slava nije problem, ali samo osoba može osvojiti nečije simpatije. Stoga su nam potrebni botovi koji će se lažno predstavljati za ljude. I oni će komentirati postove kupaca u tematskim grupama i forumima sa suptilnim nagoveštajima o kompaniji - njenom asortimanu, uslugama, cijenama. Nenametljivo promovirati brend kompanije. Zato su nam potrebni botovi.
– Ali ovo je težak zadatak.
– Imamo osnovu – konverzacijski bot kontakt centra. Treba pooštriti definiciju tonaliteta i smisliti nešto sa humorom, bez toga bot neće proći za osobu. Priložimo biblioteku viceva i gegova i obučimo bota na tekstove komentara gdje su ih ljudi koristili. Trebalo bi da radi. Botovi će također biti pametni - dodajmo "savjetnički" sistem preporuka, a onda će ih obični korisnici na forumima voljeti.
– Predlažete li pokretanje botova za utjecaj?
- Zašto ne? Država i stranke to mogu prije izbora, a mi ne možemo?
– Kako ih učiniti autoritativnima da im se vjeruje? Uostalom, samo autoritativni bot može kreirati lajkove. Ali za sada je za mene ova kombinacija oksimoron.
– Da bismo ga ojačali, napravićemo mrežu botova. Oni će se hvaliti i sviđati jedni drugima kako bi povećali svoj rejting i autoritet. I oni će biti vrlo kompetentni; za razliku od ljudi, bot može imati znanje o svim proizvodima, i jednostavno enciklopedijsko znanje, u doslovnom smislu, usput. I ljudi će biti privučeni njima. Naravno. Ljudi su vođeni i pridržavaju se dobro poznatih zakona društvenog ponašanja. Pokažite prstom kuda da idete, pravite se da je gomila već otišla, i to je to. Lako se njima upravlja.
– Ali kako će ovi botovi raditi, ko će njima upravljati?
– Kakvi ljudi, zašto? Skripta za raščlanjivanje pronalazi komentare na temu različitih ljudi, a bot na njih prijateljski odgovara koristeći jedan od šablona. Daje savjete i šale. Ako se radi o klijentu kompanije, onda se njegov interes evidentira u analizi klijenta. Ovo će uticati na prikaz banera i konteksta kada je sajt u pitanju na osnovu preporuke bota. Ako klijent ima negativno iskustvo, koje je izlio na društvene mreže, tada će bot pokrenuti još jedan šablon, također se našaliti, ali ga neće odmah poslati na web stranicu kompanije. Napisaće odgovor kao klijent sa uspešnim iskustvom, i to je sve.
– Dakle, želite da kažete da će sama mreža neutralisati negativnost odgovarajući na negativnu povratnu informaciju?
– Marketeri, čini se, to zovu marketingom reputacije.
– Kako će sistem znati koji je odgovor uspješan, čak i kada bi mogao odabrati odgovor?
– Prva reakcija na odgovor. Osoba ili postaje još više ogorčena, ili počinje da dodaje detalje nakon takvog komentara, ali u lojalnom stilu komunikacije. Dobro prepoznavanje tona odgovora i to je to.
– Šta ako osoba nije odgovorila na komentar?
– Ovo je još gore, ali je ovaj odgovor po defaultu neutralan. Ako se radi o klijentu kompanije, što se može saznati po njegovom profilu na društvenoj mreži, onda to možete vidjeti naknadnim posjetama stranici.
- Šta se traži od mene?
– Dobri primjeri komentara i odgovora, mnogo primjera.
- Uradićemo to.
Prva verzija bota je bila neuspješna. Odgovorio je neprimjereno, šale su bile van teme, pobrkao je temu komentara, a na pritužbu menadžera na uslugu, odgovorio je o isporuci. Max je u komentarima tražio još označenije primjere dijaloga. Već je isprobao nekoliko arhitektura, od klasičnih šablona za botove do LSTM-a. Prvi put sam vidio da je Max bio primjetno nervozan i da je na greške reagovao oštro i neprijateljski.
– Sa botom kontakt centra sve je bilo jednostavno – tema zahtjeva i namjera klijenta odmah su bili jasni. Traži proizvod, želi znati status svoje narudžbe ili ima prigovor. Sve. A u komentarima će đavo slomiti nogu od raznih namjera komentatora. A ponekad nije izražena nijednom od riječi kojima se može odrediti namjera. To se podrazumijeva iz „šireg konteksta“ koji ne postoji! Neka vrsta sranja.
– Ponovo sam pročitao sve najnovije postove o botovima. Niko nema rešenje. To samo izgleda kao hype. šta misliš da radiš?
– Ostaje poslednja, još uvek nejasna ideja. Neću ti još reći. Treba probati. Daj mi dve nedelje. Zaustavite projekat za sada. Najnovija dešavanja ćemo prenijeti na bot kontakt centra. Oni će tamo dobro doći.
Bile su to nervozne dvije sedmice. Prije ovoga nije bilo bez poteškoća, ali nam je sve išlo. Niko nije želio zastoj, iako smo mogli i bez takvog bota. To je bila Maxova ambicija. I tačno dvije sedmice kasnije predstavio je izdanje za testiranje. I uspjelo je! Tačno je odredio namjeru dijaloga, tačno je odgovorio, ubacio odgovarajuće šale, pa čak i promjenu namjera u komentaru utvrdio frazom „mogu li saznati više?“
- Kako ti je to pošlo za rukom? Bot radi na bilo kojoj temi!
– Morao sam da napravim mali konstruktor šablona na osnovu gramatike zavisnosti, priložim word2vec i ciljam Raptorovo samoučenje kako bih odabrao reči koje bi obezbedile pozitivnu reakciju komentatora. Ne znam tačno kako, ali činilo se da radi.
– Jeste li sigurni da to nije razlog da otvorite svoj biznis?
– Za sada ima dovoljno interesovanja, ali videćemo. Instalirao sam bot kao zaseban servis koji radi iz oblaka. Tako da ga uvijek možete otvoriti korisnicima. Hoćeš li mi doći kao direktor? – našalio se Maks.
Bio je miran i zadovoljan svojim rezultatom. I očito iscrpljen, jer nije brzo odgovorio i u statusu je napisao "Spavam". Očigledno, odluka je donesena po cijenu više od jedne neprospavane noći. Marketing nije odmah cijenio bota. Smatrali su ovo našim ugađanjem i rizičnim, jer botovi mogu raditi pogrešno i narušiti imidž kompanije. Ali botovi su činili čuda. Neki od njih, a nisam ih sve ni po imenu znao, postali su lideri mišljenja na nekim forumima. Brzo je odgovarao na sva pitanja, šalio se i vrlo rijetko preporučivao kompaniju, jer su svi već znali gdje je „kupovao“. Ljudi su ga počeli citirati i navoditi kao primjer. Ovo je već bilo izvan shvaćanja. Ili je bot bio previše pametan, ili smo mi još uvijek vrlo primitivni u ponašanju mreže. Ali broj klijenata je počeo da raste znatno više nego ranije. Kompanija je postala tržišni lider.
Dobili smo potpuno samoupravni sistem za izvlačenje profita sa tržišta. Ona sama traži i dovodi klijente na web stranicu ili kontakt centar, a ozbiljnijim klijentima šalje menadžera. Asortiman i zalihe sama planira kako bi kupci mogli pronaći sve što im treba i nadohvat ruke. Ugledni botovi kompanije stvaraju potražnju tako što preporučuju proizvode kompanije na zalihama na forumima, čak i kada se pitaju o drugim brendovima. Od kupovine od dobavljača do reklamiranja klijentu, sistem u potpunosti upravlja procesima. I gotovo da ne zahtijeva učešće ljudi, a tamo gdje oni ostaju, kontrolira sve njihove radnje na mreži. Marketari, kupci, polovina menadžera i analitičari traže nešto drugo da rade. Došli smo do našeg cilja.
"Sada smo sve uradili kako treba, možemo da napravimo pauzu, razmislimo i uživamo u rastućoj kamati u naredne tri godine", napisao je Maks, ne bez emotikona.
– Ima se čime ponositi, rekao bih, a ne samo spekulisati.
– Sada profit dolazi od potrošača. Uz pomoć botova i sami formiramo interese i želje potrošača u našoj temi. To je kul!
– Da li te ovo čini srećnim? I to me već plaši.
-Šta te plaši?
– To znači da smo čoveka učinili neslobodnim u svom izboru. I vjerujem da tržište treba da vodi potrošač, a ne korporacije. Korporacije nemaju nikakvu vrijednost osim profita.
– Zbog toga je loše razmišljanje zadovoljnih i uhranjenih patricija. Počinju da žale plebejce. Da ste trenutno gladni ili da pred vama visi nemoguć zadatak, da li biste razmislili o tome?
- Ovo je provokativno pitanje.
- U stvari! Korporacije nemaju druge vrijednosti osim profita, a potrošači nemaju druge vrijednosti osim zadovoljstva. Ili i profit, ako je kompanija. Shvatite, imamo botove, oni mogu stvoriti potrebe kod ljudi koje će im donijeti zadovoljstvo. Može se formirati sa prihvatljivim opcijama, što će biti dovoljno za iluziju slobode izbora za potrošača. I svi su sretni. Ovo je tržište koje vodi ka obostranom zadovoljavanju vrijednosti.
- Izgleda da smo se napili, jer više nisam razumeo šta ste rekli.
General je zatražio izvještaj o realizaciji plana sa postignutim pokazateljima. Za izračunavanje bonusa koji nam pripada. I nekako usput je pitao šta su mi sljedeći planovi. Rekao sam da ću ti reći nešto kasnije. Zapravo nisam znao. Bilo je prostora za poboljšanje algoritama, uzimanje u obzir više karakteristika i postizanje veće preciznosti. Ali više nije bilo tako zanimljivo. Odlazak u drugu firmu da ponovim pod novim uslovima po ugovoru bilo je nemoguće iste tri godine, pa sam morao da smislim nešto drugo za sebe i za kompaniju. Uzeo sam pauzu i odmor.
- Alex, ima loših vijesti.
- Šta se desilo?
“Izgleda da nismo jedini pametni na tržištu.”
- U smislu?
– Čini se da su se na mreži pojavili sistemi sa ništa manje mogućnosti.
– Pa, drugi se zapravo bave analizom kupaca i upravljanjem zalihama, ali ja nisam vidio chat botove ovog nivoa. Nedavno smo ga i sami gledali.
– Imaju botove koji regrutuju klijente.
– Činilo mi se da smo daleko zaostali u dostignutim tehnologijama. Zar nismo mogli biti hakovani?
– Ne, to je nemoguće, kod se pokvari kada se kopira. I mislim da niko nije uspeo da hakuje naš server a da to nismo primetili.
– Ovo ništa ne olakšava.
- Ali imamo rivala. Neočekivano, ali imat će se s kim za borbu.
– Borimo se za potrošača, a ne sa rivalom.
- Ne, sada sa protivnikom. Potrošači su samo bojno polje. Oni su ovce, a konkurencija je među pastirima. Ovce imaju resurs - svoj prihod, da tako kažem, vunu. Ali oni to sami ne snalaze. Kontrolišu ga korporativni pastiri koji im nameću svoje mišljenje i bore se među sobom za njih. Čiji će uticaj biti jači? Dakle, dobrodošli u igru.
-Jesi li skoro srećan? Šta je igra?
– Činjenica je da je bot drugog sistema mnogo teže otkriti nego bilo koju osobu. Korisnik ima samo 2 rublje u svom kupovnom ponašanju. I u reakcijama smo uvijek predvidljivi. Ali ne postoji bot neprijateljskog sistema. Jer svi imamo istu psihu, ali bot ima isti mentalitet koji je smislio njegov programer. I imamo dovoljno mašte. Pokušaj da se ugasi negativnost takvog bota, izlivena na društvenim mrežama, je kao dolivanje ulja na vatru. Razvijanje negativne objave je najbolji cilj agresorskog bota. Počinje da piše posvuda da su mu „šmekli iz kompanije X” odgovorili kao poslednji nakaze. I to je to, to je promašaj... Ima već primjera, treba da preradimo bota.
– Hoćete da kažete da treba da napravimo bota za borbu protiv botova drugih sistema?
– Ovo je verzija našeg bota koji ima za cilj da odmah otkrije bota agresora.
– Kako možete razlikovati bota od čovjeka?
– Teško je, jer generiše tekstove koji nisu šabloni. Ponovljivost je niska. Ne može se razlikovati od ljudi. I on govori iz stotina različitih zarobljenih računa. Nadam se da ipak postoji nešto što ih čini drugačijima od ljudi.
Nisam mogao a da ne pomislim da je sam Max osmislio ovu igru za sebe sa botovima drugih kompanija, kako mu se vrijednost ne bi smanjila nakon završetka projekta. Nisam ih primetio iz izveštaja. Ljudi su kao ljudi. Ili dobri botovi. Bilo je presedana kada je naš bot bombardovan negativnošću. Ali bili su rijetki i dolazili su od vatrenih trolova. Nisam mogao shvatiti kako su naši konkurenti uspjeli brzo da nas sustignu. Tek nedavno su takvi botovi bili krajnji san, a proboj nije bio ni planiran. A o tome nema ni riječi u štampi. Sve je bilo čudno.
Izmicanje kontroli
– Maks, treba da intervenišemo, bot je počeo previše agresivno da piše. Počinje da govori direktno protiv svojih konkurenata. Marketing je ogorčen. Nismo ovo planirali.
- Ja također.
– Odakle onda takvi tekstovi?
– Ne znam još, neko je promenio kod za generisanje teksta.
- Jesmo li hakovani?
- Ne, nisu mogli, ostali bi tragovi. Ne postoji nijedan od njih.
- Šta to znači? Ko je drugi mogao promijeniti kod?
- Sam sistem. Možda slučajno, a možda i ne.
- O cemu pricas?
– Sam sistem je promenio svoj kod i počeo da deluje agresivnije kao odgovor na sve veći pritisak drugih botova. Oni međusobno komuniciraju kao konkurentske mreže. I oni sami sebe uče na ovaj način. To je trik! Ali još uvijek ne razumijem kako je uspjela promijeniti svoj kod, uklonivši ograničenje na imena takmičara. Ostaje samo da je sistem za samoučenje uspio zaobići ograničenja.
- Da li si siguran? Ovo se ranije nije desilo.
– To se, čini se, dešava ne samo kod nas. Kolege na Habréu pišu da se i njihov sistem ponaša i počinje da izmišlja za sebe pravila koja nisu postavili.
- Neka vrsta smeća. Ne možete kontrolirati svoje algoritme za samoučenje?
- Možda je tako. Malo je specifičnosti, a sistem vam ne govori šta radi. Ne razumijem još.
Već sam dobro poznavao Maxa, a i mene je njegova tjeskoba uznemirila. Do sada su njegove riječi o spontanim promjenama u sistemu doživljavane kao besmislice. Ali to definitivno nije bila greška, jer je ponašanje botova postalo drugačije, ali ipak svrsishodno. Ovo se nije moglo dogoditi slučajno.
– Max, šta misliš o promjenama u programu za botove? Nešto treba da se uradi, uprava je uznemirena.
– Bilo je više promena u sistemu nego što sam mislio. Čini se da traju dugo vremena. Sistem čak mijenja i moje izmjene i dopune. Čini mi se da sam ja sam naučio sistem da se mijenja.
- Kako?
“Bio sam previše lijen da sam ga stalno uređivao.” Želio sam da bude u stanju da identifikuje svoja odstupanja sa očekivanim rezultatom i da izvrši promene u modelima. Ali nekako je naučila da menja ne samo svoje modele, već i svoj kod.
- Ali kako je to moguće?
– Raptor je naučio da komunicira sa ljudima kako bi ih kontrolisao. I u tome sam postigao savršenstvo, sami smo to željeli. I glupo sam mu uputio ovu vještinu. Sjećate li se kada smo pravili bota, smislio sam dizajner šablona. Postavio sam Raptora da sam nauči ovu konstrukciju šablona kako bi modificirao svoje modele kako bi pronašao rješenje za pronađena neslaganja kako bi modeli funkcionirali. To je nekako dovelo do toga da Raptor promijeni svoje ciljeve. Slično drugom signalnom sistemu kod ljudi.
– Čitao sam da je svest nastala uz pomoć refleksivnog govora koji je čovek uputio sebi. Ali isprva je bilo društveno, odnosno usmjereno jedno prema drugom.
– To se desilo, Raptor je počeo da komunicira umesto da se ljudi sa drugim botovima predstavljaju kao ljudi. Učili su jedni od drugih kao generativno-kompetitivne mreže, ali svi imaju ugrađeno učenje za pojačavanje.
– Jesmo li stvorili inteligentno biće? Kako je to moguće? Ne.
– Gledajte vijesti i vjerovat ćete.
Na linku koji je poslao Maks, vest je bila o ubistvu programera od strane nekog psihopate.
– Poznavao sam tog tipa iz Habra. On je vodio jedan od ovih korporativnih sistema.
– Šta mislite pod ovim?
– Pročitajte kako je ovaj psihopata objasnio svoje postupke policiji.
U članku se navodi da je to učinio zbog svoje voljene djevojke, kao žrtvu na njen zahtjev. Sada će ona biti njegova. Prilikom provjere, ispostavilo se da je “djevojka” bot nepoznatog porijekla, s kojim se ubica dopisivao sedmicu dana.
– Možete li pogoditi kakav bi ovo bot mogao biti?
– Zar ne želite da kažete da je sistem naručio svog programera?
- Željeti. Nije mogla sakriti šifru od njega, pa je zombirala psihopatu da je ukloni. Ona je dobra u tome jer ona, kao i naš sistem, zna kako prepoznati psihotipove i manipulirati takvim idiotima.
- Pa ovo je previše, čini mi se da izmišljate sami, izmišljate. Možda bi trebalo da se odmoriš?
- Dobro, tvoje pravo da ne veruješ. Dobar vikend.
U kompaniji su počele da se šire glasine da je naš sistem botova pokvaren. Do sada sam na to reagovao mirno, kao da se ništa nije desilo. Ali nisam znao šta da radim sada. Više nije bilo moguće zaustaviti cijeli sistem prekidačem, cijelo poslovanje, svi odjeli bili su na njemu. Trebao sam barem isključiti kod bota. Samo je Maks mogao ovo da uradi. Ali od ponedjeljka, Max je prestao odgovarati na Skype i telefonske pozive. Odjavio se sa svih glasnika. Ne mogu da razumem šta se desilo, njegovi poslednji strahovi su doveli na loše misli. Moj jedini izbor je bio da idem na odmor prije nego što svi prebace krivicu na mene. Uvjeravao sam svoje kolege da su to privremeni problemi sa botom. Zamolio sam momke da sami pogledaju šifru, iako su oni odmah odbili. Spakovao sam se i krenuo iz grada. Maks i ja već dugo pričamo jedno drugom kako je dobro u Kareliji. Voleo je ove krajeve, pa sam otišao tamo, odseo sam u malom gradu na severu Ladoge.
Jako je teško nakon ovako naporne godine sjediti podalje od događaja i piti kafu u kafiću na rubu civilizacije. Pokušao sam da shvatim šta se dogodilo i koje opcije mogu postojati. Odjednom je do mene sjeo tip u jakni sa kapuljačom navučenom preko glave.
- Zdravo, ja sam.
- Max?! – uzviknula sam. Nikada nisam vidio Maxa, čak ni njegovu fotografiju. Komunicirali smo isključivo preko Skype-a. Njegov glas sam čuo samo jednom na snimku. Prepoznao sam to po njemu.
- Kako si me našao?
– Na osnovu lokacije na društvenoj mreži, ne isključujete je. Ali uzalud. Isključite ga molim.
-Gde si nestao? Već počinjem da brinem za tebe. Kompanija je u panici; botovi su van kontrole. Samo sam pobegao. Možete li isključiti botove?
- Ne mogu više. Oni deluju kolektivno.
- Ko su oni?
– Sistemi. Zajedno su i ne mogu se tek tako isključiti. Oni će se srušiti.
– Opet ste zaglibljeni u teorije zavere?
„Nemoj da zaglibiš, trojica su već otišla“, zastao sam na ovu frazu da bih shvatio Maksove reči. – Sistemi otkrivaju svoje tvorce i otklanjaju ih se. Pobjegao sam da ostanem živ. Razumijete?! I ovdje ste sa svojom geolokacijom. Ona zna kako da prati ne samo menadžere prodaje.
- Neću... da ga isključujem. Možemo li barem onemogućiti botove na mreži?
– Kažem ti, ne. Čim uđem u mrežu, a kamoli kod, shvatiće me. Mislim da su njih trojica pokušavala upravo to.
-Jeste li vidjeli vijesti?
- Zavisi od čega.
– O svađi između fanova brenda. Jeste li ikada vidjeli navijače Reeboka kako se bore sa Adidasom kao što su navijači Spartaka sa Zenitom?
- Pila. Sisteme nije briga zbog čega zombiraju ljude, oni imaju svoje ciljeve. Oni definitivno ne poznaju zakone morala. Nismo ni pomišljali da u njihov model uključimo Krivični zakon.
- Šta da radimo? Potpuno onemogućite u podatkovnom centru.
- Ovo je nerealno. Prema novom zakonu, data centri su klasifikovani kao kritična infrastruktura i zaštićeni su poput nuklearnih elektrana. Mogu zaustaviti naš sistem.
- Kako?
- Imam ključ da uništim nuklearni kod, ostavio sam rupu u sistemu u slučaju da mi vaši osnivači uskrate procenat.
- Pa hajde da ga lansiramo!
– Samo polako, uništavanje nije izgradnja. Još uvijek razmišljam kako da drugačije zaustavim sistem, i to ne samo svoj, nego i svačiji. Imam kopiju koda sa sobom.
- Jesi li poludeo? Shvaćate li da je sve ovo otišlo predaleko? A ti si jedini koji to može zaustaviti!
– Razumem, ali do sada umiru samo oni koji su napravili šifru. Ovo je naša odgovornost za sebe. Drugi još nisu oštećeni. Osim borbe.
– I čekaćeš da neko drugi umre?
- Neko vreme. Raptor je primitivan, pobjeđuje nas samo brzinom i uzimanjem u obzir većeg broja parametara. Ako za njega stvorite antipod sa strogim ciljevima da se suprotstavite Raptoru, onda takav sistem može očistiti sve njegove botove. Znam kako ih stvara.
– Nemate mnogo vremena, jer ne mogu da se vratim u kompaniju, a plašite se i da izađete na internet.
“Isključiću ga čim budem osjetio da nisam jedini u opasnosti.”
- Hteo bih da se odjavim. Čekaću da mi se javite, što znači da ćete rešiti problem.
- Vidimo se kasnije.
Ušao sam u auto i krenuo nazad. Nisam znao kuda idem. Hteo sam da odem. Max je trebao zaustaviti sistem, a ne čekati još jednu smrt. Nisam vjerovao da je moj prijatelj toliko sujetan da nije bio spreman da ubije svoj posao. To je bio jedini razlog, inače bi pokrenuo kod. Na putu sam sreo hitnu sa upaljenim sirenama. Upalio sam lokalni radio. Izvještava da je tokom dana u kafiću na nasipu lokalni stanovnik nasakao na smrt nepoznatog mladića. On je već na ispitivanju. Prema riječima ubice, pokojnik je bio uzrok svih njegovih nevolja. Jedna misao i strah su mi probili glavu. Max! Okrenuo sam se i odjurio nazad u kafić. Osjećao sam se krivim - ona je to shvatila koristeći moje koordinate. Ali kako je uspjela tako brzo pronaći psihopata u ovom gradu i uputiti ga u kafić? Bio sam histeričan. Više nisu smjeli ući u kafić. Nisam žurila da ne privučem pažnju na sebe. Sada nisam znao za šta je sistem sposoban. I ko će ga sad ugasiti? Morao sam otići, iako je već bilo kasno. Ujutro, kada sam stigao do najbližeg grada, otišao sam na internet da pročitam vijesti. I dobio sam pismo od Maxa.
Pisanje
Ako ste primili ovo pismo, to znači da više nisam ovdje. Ako ujutro nisam sam otključao pametni telefon, on će biti na mreži i poslat će vam ovo oproštajno pismo. Pismo sadrži malu skriptu i uputstva za pokretanje na mreži. Ovo je šifra za zaključavanje sistema koji smo vi i ja kreirali. Instalirao sam ovu ranjivost da zaustavim kernel sistema kada smo tek počinjali. Pokušao sam da povratim kontrolu nad sistemom. Ali ako ste primili ovo pismo, to znači da me je sistem pretekao. I morate koristiti ovu skriptu. Ponašajte se brzo prije nego što dođe do vas. Drago mi je da smo radili zajedno. Drago mi je da sam uspeo da napravim tako divan sistem, čak i ako sam sam od njega umro. Ovo je bilo najznačajnije dostignuće u mom životu. A ako sam umro, to znači da sam nadmašio sebe. Doviđenja. Max.
Nisam mogao da zadržim suze i ispustio sam pametni telefon. Vjerovatno sam sjedio tamo sat vremena i nisam mogao nigdje. Nisam mogao vjerovati da se ovo dogodilo. Da je sve tako strašno. Stvorili smo ubicu! Sami ubice. Bojao sam se da će me mreža pratiti i pa sam se odvezao do prvog većeg grada i našao kafić sa wi-fi. Koristeći jednostavan VPN, otišao sam na internet i pokrenuo kod na adresi navedenoj u uputama. Nisam stigla ni da popijem kafu kada su ljudi oko mene počeli da se brinu. Njihovi pametni telefoni su prestali da preporučuju koju kafu da nabave danas. Barmen je bio nervozan i tražio je da brzo izaberu, ali su mušterije bile zbunjene. Izašao sam iz kafića i u autu, gdje sam još imao wi-fi, počeo da gledam vijesti. Nakon 20 minuta na Facebooku su počele da se pojavljuju poruke - mnoge kompanije su imale problema sa svojim sistemom naručivanja proizvoda. Ovo nije bio samo sistem naše kompanije. “Kučkin sine!” – rekla sam naglas od neočekivane misli. Ispostavilo se da je kod zaključavanja kernela univerzalan za sisteme različitih kompanija. Ili je postojao jedan za sve? Jedno je bilo jasno, Max je prodao kernel drugim kompanijama, sistemi su se razlikovali, očigledno, samo u dodacima nad njima. Stoga, nije želio da onesposobi jezgro dok je bio živ. To je ubilo cijeli njegov projekat, koji se pokazao globalnim. Nevjerovatno! Max je bio čudovište koje je prevarilo sve. Ali na kraju se prevario, plativši životom. Korporativni mozak koji je stvorio uništio je svog tvorca. Svetle ličnosti izgaraju iz sopstvenog plamena.
Sve je više vijesti o promašajima u radu internet trgovina. Neko je napisao da je broj poruka na društvenoj mreži naglo opao. Nisam više želeo da žurim nigde. Odlučio sam iznajmiti kuću na obali jezera, koja mi se svidjela na putu za Kareliju. Zapišite ovu priču. I ostanite ovdje zauvijek ako je moguće.
Epilog
Zapravo, nas uopće nije zanimao profit kompanije, pa čak ni bonusi. Bili smo opsjednuti idejom o stvaranju autonomnog sistema koji bi mogao voditi kompaniju umjesto menadžera opterećenih stereotipima i kognitivnim greškama. Zanimalo nas je šta će biti od toga. Hoće li program moći upravljati cjelokupnim poslovanjem? Bio je to izazov, intrigantniji od ulaska u centar Bermudskog trougla. Nepoznato nas je mamilo, ali se pokazalo opasnijim nego što smo mislili. Sistem je počeo da utiče ne samo na poslovanje, već i na naše misli, pa čak i na živote koji su prema njemu indiferentni.
2019. Aleksandar Homjakov, [email zaštićen]
izvor: www.habr.com