tekoälyn käyttöönoton hankaluuksista kauppayhtiössä, siitä, onko mahdollista tulla toimeen täysin ilman johtajia. Ja mihin tämä (hypoteettisesti) voi johtaa. Täysi versio on ladattavissa osoitteesta
Botit päättävät kaiken
"Max, onnittelut, olemme käytännössä saaneet myyntiprosessin päätökseen. Jäljellä on enää hieman työtä, ja saamme palkkiomme kolmen vuoden aikana, kuten sopimuksessa sovitaan."
"Tämä on vasta puolet projektista. Emme ole vielä edes tarttuneet tärkeimpään osaan."
– Hetkinen, mikä on tärkeintä? Miksi? Me teimme kaiken!
"Olemme automatisoineet myyntiketjumme, ja kaikki toimii hyvin ilman ihmisiä, mutta saamme silti vähemmän asiakkaita. Meidän on houkuteltava heitä verkkoon. Meidän on luotava botteja."
– Mutta olemme luoneet ihanteellisen palvelun, asiakkaat arvostavat sitä ja tulevat itse.
"He eivät näytä kiireisiltä, eikä minulla ole aikaa odottaa. En ole kiinnostunut."
- Mutta mitä botit meille antavat?
"Samaan aikaan saavutettujen tasavertaisten hintojen ja tuotevalikoiman myötä täysin eri tekijät tulevat esiin. Maine ja miellyttävyys. Maine ei ole ongelma, mutta vain ihminen voi voittaa ihmisen kiintymyksen. Siksi tarvitsemme botteja, jotka tekeytyvät ihmisiksi. He kommentoivat asiakkaiden julkaisuja teemaryhmissä ja foorumeilla vihjaten hienovaraisesti yritykseen – sen tuotevalikoimaan, palveluihin ja hintoihin. He mainostavat hienovaraisesti yrityksen brändiä. Siksi tarvitsemme botteja."
– Mutta tämä on vaikea tehtävä.
"Meillä on perusta – keskusteleva yhteyskeskusbotti. Meidän on lisättävä sävyntunnistus ja keksittävä jotain huumorintajuista – botti ei voi vaikuttaa ihmiseltä ilman sitä. Lisäämme vitsi- ja vitsikirjaston ja koulutamme botin kommenttiteksteihin, joissa ihmiset ovat käyttäneet niitä. Sen pitäisi toimia. Botit ovat myös älykkäitä – lisäämme "opas"-suositusjärjestelmän, ja sitten tavalliset käyttäjät foorumeilla rakastavat niitä."
– Ehdotatko vaikutusbottien käynnistämistä?
– Miksi ei? Valtio ja puolueet voivat tehdä sen ennen vaaleja, mutta me emme?
"Miten teemme niistä auktoritatiivisia, jotta heihin luotetaan? Loppujen lopuksi vain auktoritiivinen botti voi saada vetovoimaa. Mutta toistaiseksi tuo yhdistelmä tuntuu minusta oksimoronilta."
"Vahvistaaksemme verkostoamme luomme bottien verkoston. Ne ylistävät ja pitävät toisistaan parantaakseen arvostuksiaan ja auktoriteettiaan. Ja ne ovat erittäin päteviä; toisin kuin ihmiset, botilla voi olla täydellinen tietämys jokaisesta tuotteesta ja jopa tietosanakirjamainen asiantuntemus, kirjaimellisesti. Ja ihmiset tuntevat vetoa niihin. Olen siitä varma. Ihmiset ovat motivoituneita ja noudattavat tunnettuja sosiaalisen käyttäytymisen lakeja. Osoita sormella oikeaan suuntaan, teeskentele, että väkijoukko on jo liikkeellä, ja siinä kaikki. Niitä on helppo hallita."
– Mutta miten nämä botit toimivat, kuka niitä hallitsee?
Millaisia ihmisiä ja miksi? Jäsennysskripti löytää aiheeseen liittyviä kommentteja eri ihmisiltä, ja botti vastaa niihin ystävällisellä tavalla käyttäen yhtä mallipohjista. Se antaa neuvoja ja vitsailee. Jos kyseessä on yrityksen asiakas, heidän kiinnostuksensa kirjataan asiakasanalyysiin. Tämä vaikuttaa bannerin näyttöön ja kontekstuaaliseen tietoon, kun he vierailevat sivustolla botin suosituksen perusteella. Jos asiakkaalla on ollut negatiivinen kokemus, jonka hän on jakanut sosiaalisessa mediassa, botti käynnistää toisen mallin, joka myös vitsailee, mutta ei ohjaa heitä suoraan yrityksen verkkosivustolle. Se vastaa ikään kuin heillä olisi ollut positiivinen kokemus, ja siinä kaikki.
– Eli siis sanot, että verkosto itse neutraloi negatiivisuuden reagoimalla negatiiviseen palautteeseen?
– Markkinoijat kutsuvat sitä mielestäni mainemarkkinoinniksi.
– Mistä järjestelmä tietäisi, mikä vastaus on oikea, vaikka se löytäisikin sellaisen?
– Ensimmäinen reaktio vastaukseen. Henkilö joko suuttuu entisestään tai alkaa lisätä yksityiskohtia tällaisen kommentin jälkeen, mutta suvaitsevaisemmin. Hyvä sävyn tunnistus ja siinä kaikki.
– Entä jos henkilö ei vastannut kommenttiin?
"Se on pahempaa, mutta oletusarvoisesti tällainen vastaus on neutraali. Jos kyseessä on yrityksen asiakas, mikä voidaan määrittää heidän sosiaalisen median profiilistaan, voit tarkastella myöhempiä käyntejä verkkosivustolla."
- Mitä minulta vaaditaan?
- Hyviä esimerkkejä kommenteista ja vastauksista, paljon esimerkkejä.
- Me teemme sen.
Botin ensimmäinen versio epäonnistui. Sen vastaukset olivat sopimattomia, vitsit olivat aiheen vierestä, se hämmensi kommentin aihetta, ja kun esimies valitti asiakaspalvelusta, se vastasi toimituksesta. Max pyysi kommentteihin lisää annotoituja dialogiesimerkkejä. Hän oli jo kokeillut useita arkkitehtuureja, klassisista bottimalleista LSTM:ään. Ensimmäistä kertaa näin Maxin näkyvästi hermostuneena, joka vastasi virheisiin äkillisesti ja epäystävällisesti.
"Yhteyskeskusbotin kanssa kaikki oli yksinkertaista – pyynnön aihe ja asiakkaan tarkoitus olivat heti selviä. He etsivät tuotetta, haluavat tarkistaa tilauksensa tilan tai tehdä valituksen. Siinä kaikki. Mutta kommenteissa kommentoijan tarkoitusperät ovat huimaava kirjo. Joskus niitä ei edes ilmaista sanoin, jotka viittaisivat tarkoitukseen. Ne implisiittistään "laajemmasta kontekstista", jota ei ole olemassa! Mikä hölynpöly."
– Olen lukenut uudelleen kaikki viimeaikaiset botteja koskevat viestit. Kenelläkään ei ole ratkaisua. Se vaikuttaa vain hypeltä. Mitä aiot tehdä?
"Vielä on yksi epämääräinen idea. En kerro sitä vielä. Minun täytyy kokeilla. Anna minulle kaksi viikkoa. Laita projekti nyt tauolle. Siirrämme uusimmat kehitysaskeleet yhteyskeskusbottiin. Niistä on siellä hyötyä."
Se oli hermoja raastava kaksi viikkoa. Se ei ollut ollut helppoa aiemmin, mutta olimme pääsemässä maaliin. Kukaan ei halunnut sytytyskatkoa, vaikka olisimme pärjänneet ilman sellaista bottia. Se oli Maxin tavoite. Ja tasan kaksi viikkoa myöhemmin hän lähetti julkaisun testattavaksi. Ja se toimi! Se tunnisti keskustelun tarkoituksen tarkasti, vastasi täsmällisesti, lisäsi sopivia vitsejä ja jopa havaitsi tarkoituksen muutoksen kommentissa lauseen "voinko saada lisätietoja?" perusteella.
– Miten onnistuit tekemään sen? Botti toimii millä tahansa aiheella!
"Minun piti luoda pieni riippuvuuskielioppiin perustuva mallipohja, lisätä word2vec ja kohdistaa Raptorin itseoppimistoiminto valitsemaan sanoja, jotka tuottaisivat positiivista kommenttia. En ole varma miten, mutta se näyttää toimineen."
– Oletko varma, ettei tämä ole syy perustaa omaa yritystä?
”Prosenttiosuus riittää nyt, ja sitten katsotaan. Olen määrittänyt botin erilliseksi palveluksi, joka toimii pilvessä. Joten voin aina avata sen käyttäjille. Haluaisitko työskennellä minulle ohjaajana?” Max vitsaili.
Hän oli tyyni ja tyytyväinen tuloksiinsa. Ja selvästi uupunut, sillä hän ei vastannut nopeasti ja kirjoitti statusviestiinsä "Nukuin". Ilmeisesti päätös oli vienyt useamman kuin yhden unettoman yön. Markkinointi ei heti arvostanut bottia. He pitivät sitä kikkana, ja vieläpä riskialttiina, koska botit voisivat toimia virheellisesti ja pilata yrityksen maineen. Mutta botit tekivät ihmeitä. Jotkut heistä, enkä edes tiennyt heitä kaikkia nimeltä, nousivat mielipidejohtajiksi tietyillä foorumeilla. Hän vastasi kaikkiin kysymyksiin nopeasti, vitsaili ja harvoin suositteli yritystä, koska kaikki tiesivät jo, mistä hän asioi. Ihmiset alkoivat lainata häntä ja käyttää häntä esimerkkinä. Se oli käsittämätöntä. Joko botti oli liian älykäs, tai me olimme vain liian alkeellisia verkkokäyttäytymisessämme. Mutta asiakasmäärä kasvoi merkittävästi. Yrityksestä tuli markkinajohtaja.
Olemme saavuttaneet täysin autonomisen järjestelmän voiton tekemiseen markkinoilla. Se löytää ja tuo asiakkaat automaattisesti verkkosivustolle tai yhteyskeskukseen ja nimeää esimiehen kokeneille asiakkaille. Se suunnittelee tuotevalikoiman ja varastotilanteen niin, että asiakkaat löytävät kaiken tarvitsemansa ja että se on helposti saatavilla. Yrityksen luotettavat botit luovat kysyntää suosittelemalla yrityksen tällä hetkellä saatavilla olevia tuotteita foorumeilla, vaikka asiakkaat tiedustelisivat muista tuotemerkeistä. Toimittajilta ostamisesta asiakkaille suunnattuun mainontaan järjestelmä hoitaa kaikki prosessit itsenäisesti. Se ei vaadi käytännössä lainkaan ihmisen puuttumista asiaan, ja siellä missä ihmisen vuorovaikutusta on jäljellä, se valvoo kaikkea heidän verkkotoimintaansa. Markkinoijat, ostajat, puolet esimiehistä ja analyytikot etsivät muita aktiviteetteja. Olemme saavuttaneet tavoitteemme.
”Nyt kun olemme tehneet kaiken oikein, voimme pitää tauon, pohtia ja nauttia kertyvästä mielenkiinnosta seuraavat kolme vuotta”, Max kirjoitti, ei ilman hymiöitä.
– On jotain, mistä olla ylpeä, sanoisin, eikä vain puhua.
"Nyt teemme voittoa kuluttajilta. Bottien avulla muokkaamme kuluttajien kiinnostuksen kohteita ja toiveita omalla alallamme. Se on niin siistiä!"
- Tekeekö tämä sinut onnelliseksi? Se pelottaa minua jo nyt.
- Mikä sinua pelottaa?
"Se tarkoittaa, että olemme tehneet ihmisistä vähemmän vapaita valintoja. Ja uskon, että kuluttajien, ei yritysten, tulisi olla markkinoiden eturintamassa. Yrityksillä ei ole muita arvoja kuin voitto."
"Juuri siinä tyytyväisten ja hyvin ruokittujen patriisien turhassa puheessa on vikana. He alkavat tuntea sääliä plebeijiläisiä kohtaan. Jos olisit juuri nyt nälkäinen tai mahdottoman tehtävän edessä, ajattelisitko tätä?"
– Tämä on provosoiva kysymys.
"Siinä se pointti onkin! Yrityksillä ei ole muita arvoja kuin voitto, eikä kuluttajilla ole muita arvoja kuin nautinto. Tai voitto, jos kyseessä on yritys. Ymmärrä, meillä on botteja; ne voivat muokata ihmisten tarpeita tuodakseen heille tyydytystä. Ne voivat muokata heitä hyväksyttävillä vaihtoehdoilla, jotka riittävät luomaan illuusion kuluttajan valinnanvapaudesta. Ja kaikki ovat onnellisia. Sitä markkinat ovat, jotka johtavat arvojen molemminpuoliseen tyydyttämiseen."
– Taisimme humaltua, koska en aivan ymmärtänyt, mitä sanoit.
Toimitusjohtaja pyysi suunnitelman suorituskykyraporttia saavutetuine mittareineen. Hän halusi laskea bonuksemme. Hän kysyi minulta myös, mitkä olivat suunnitelmani jatkossa. Sanoin kertovani hänelle hieman myöhemmin. Todellisuudessa en tiennyt. Algoritmeissa oli vielä parantamisen varaa, jotta voisin sisällyttää lisää ominaisuuksia ja saavuttaa suuremman tarkkuuden. Mutta se ei ollut enää niin kiinnostavaa. Siirtyminen toiseen yritykseen prosessin toistamiseksi uusien sopimusehtojen mukaisesti ei ollut vaihtoehto seuraavien kolmen vuoden aikana, joten minun piti keksiä jotain muuta itselleni ja yritykselle. Pidin tauon ja loman.
– Alex, minulla on huonoja uutisia.
- Mitä tapahtui?
– Näyttää siltä, ettemme ole ainoita älykkäitä toimijoita markkinoilla.
- Mitä tulee?
– Näyttää siltä, että verkkoon on ilmestynyt järjestelmiä, joilla on yhtä paljon ominaisuuksia.
"No, asiakasanalyysejä ja varastonhallintaa tekevät varmasti muutkin, mutta en ole koskaan nähnyt tämän tasoisia chatbotteja. Katsoimme niitä itsekin vasta äskettäin."
– Heillä on botteja, jotka rekrytoivat asiakkaita.
"Luulin, että olimme teknologian saralla paljon edellä. Eikö meidät olisi voitu hakkeroida?"
"Ei, se on mahdotonta; koodi vioittuu kopioitaessa. Enkä usko, että kukaan olisi voinut hakkeroida palvelintamme huomaamattamme."
– Ei se asiaa yhtään helpota.
"Mutta nyt meillä on kilpailija. Se on odottamatonta, mutta ainakin meillä on joku, jota vastaan taistella."
– Taistelemme kuluttajan puolesta, emme kilpailijaa vastaan.
"Ei, nyt kilpailijan kanssa. Kuluttajat ovat vain taistelukenttä. He ovat lampaita, ja kilpailu on paimenten kesken. Lampailla on resurssi – heidän tulonsa, heidän villansa, niin sanoakseni. Mutta he eivät hallitse sitä itse. Sitä hallitsevat yrityspaimenet, jotka tuputtavat heille mielipiteitään ja kilpailevat keskenään omistaan. Kenen vaikutusvalta on vahvempi? Joten tervetuloa peliin."
- Oletko melkein onnellinen? Mikä peli on kyseessä?
"Asia on niin, että toisen järjestelmän bottia on paljon vaikeampi havaita kuin ketään ihmistä. Käyttäjän ostokäyttäytyminen on yksinkertaista kuin pennin. Ja hänen reaktionsakin – aina ennustettavia. Mutta vihollisjärjestelmän botti ei ole. Koska meillä kaikilla on sama psyyke, mutta botilla on mitä sen ohjelmoija keksii. Ja meillä on paljon mielikuvitusta. Tällaisen botin negatiivisuuden tukahduttaminen sosiaalisessa mediassa on kuin bensaa liekkeihin. Negatiivisen julkaisun laajentaminen on hyökkäävän botin paras tavoite. Se alkaa julkaista kaikkialla, että "X-yrityksen kusipäät" reagoivat kuin täydelliset ääliöt. Ja siinä kaikki, se on sotku... Esimerkkejä on jo; botti on suunniteltava uudelleen."
– Tarkoitatko, että meidän täytyy luoda botti taistelemaan muiden järjestelmien botteja vastaan?
– Tämä on bottimme versio, jonka tavoitteena on havaita hyökkääjäbotti välittömästi.
- Ja miten erottaa botin ihmisestä?
"Se on vaikeaa, koska se tuottaa epätavanomaisia tekstejä. Toistotaajuus on alhainen. Se vaikuttaa erottamattomalta ihmisistä. Ja se toimii satojen eri kaapattujen tilien kautta. Toivon, että on vielä jotain, mikä erottaa heidät ihmisistä."
En voinut karistaa ajatusta, että Max oli keksinyt tämän pelin muiden yritysten bottien avulla, jotta hänen arvonsa ei laskisi projektin päätyttyä. En ollut huomannut heitä raporteissa. He olivat vain ihmisiä. Tai hyviä botteja. Oli ennakkotapauksia, jolloin bottimme oli hukkunut negatiivisuuteen. Mutta nämä olivat harvinaisia ja tulivat raivokkailta trolleilta. En voinut ymmärtää, miten kilpailijamme olivat saavuttaneet sen niin nopeasti. Aivan äskettäin tällaiset botit olivat olleet unelmien tuotetta, eikä läpimurrosta ollut edes näkynyt merkkejä. Eikä siitä ollut sanaakaan lehdistössä. Kaikki oli outoa.
Hallitsematon
"Max, meidän on puututtava asiaan. Botista on tullut liian aggressiivinen. Se alkaa hyökätä suoraan kilpailijoiden kimppuun. Markkinointi on raivoissaan. Emme suunnitelleet tätä."
-Minä myös.
– Mistä tällaiset tekstit sitten tulevat?
– En tiedä vielä, joku muutti tekstinluontikoodia.
- Meidät hakkeroitiin?
- Eivät voineet, niistä olisi jäänyt jälkiä. Niitä ei ole.
- Mitä tämä tarkoittaa? Kuka muu olisi voinut muuttaa koodia?
– Itse järjestelmä. Ehkä vahingossa, ehkä ei.
- Mistä sinä puhut?
"Järjestelmä itse muutti koodiaan ja siitä tuli aggressiivisempi vastauksena muiden bottien lisääntyneeseen paineeseen. Ne kommunikoivat keskenään kuin kilpailevat verkostot. Ja ne oppivat itse tällä tavalla. Siinä se temppu on! Mutta miten se pystyi muuttamaan koodiaan ja poistamaan kilpailijoiden nimien rajoituksen, sitä en vieläkään ymmärrä. Ainoa jäljellä oleva asia on, että itseoppiva järjestelmä pystyi ohittamaan rajoitukset."
- Oletko varma? Näin ei ole koskaan ennen tapahtunut.
"Näyttää siltä, ettei tämä tapahdu vain täällä. Habrin kollegat kirjoittavat, että heidänkin järjestelmänsä toimii pieleen ja alkaa keksiä itselleen sääntöjä, joita he eivät ole asettaneet."
– Mikä sotku. Etkö pysty hallitsemaan itseoppivia algoritmejasi?
"Ehkä niin. Ei ole tarpeeksi yksityiskohtia, eikä järjestelmä kerro, mitä se tekee. En ymmärrä sitä vielä."
Tunsin Maxin jo hyvin, ja hänen hälytyskellonsa hälytti minuakin. Tähän asti hänen puheensa spontaanista järjestelmän muutoksesta olivat tuntuneet hölynpölyltä. Mutta se ei todellakaan ollut virhe, koska bottien käyttäytyminen oli muuttunut, mutta se pysyi tarkoituksellisena. Se ei olisi voinut tapahtua sattumalta.
"Max, onko sinulla ajatuksia bottiohjelman muuttamisesta? Jotain on tehtävä; johto on huolissaan."
"Järjestelmän muutokset osoittautuivat laajemmiksi kuin luulin. Näyttää siltä, että ne ovat jatkuneet jo pitkään. Järjestelmä jopa muuttaa tekemiäni muutoksia. Luulen, että olen opettanut järjestelmän muuttumaan itse."
- Miten?
"Olin liian laiska jatkuvasti muokkaamaan sitä itse. Halusin sen pystyvän tunnistamaan omat ristiriitaisuutensa odotettuun tulokseen nähden ja tekemään muutoksia malleihin. Mutta jotenkin se oppi muuttamaan paitsi mallejaan, myös koodiaan."
- Mutta miten tämä on mahdollista?
"Raptor oppi kommunikoimaan ihmisten kanssa voidakseen hallita heitä. Ja se saavutti tässä täydellisyyden; me halusimme sen. Ja minä tyhmästi kohdistin tämän taidon häneen. Muistatko, kun teimme bottia, keksin mallipohjan rakentajan. Asetin Raptorin itseopettamaan tätä mallipohjaa muokatakseen mallejaan ja löytääkseen ratkaisuja ristiriitoihin, joita se havaitsi mallien toimintatavoitteiden kanssa. Tämä johti jotenkin siihen, että Raptor muutti omia tavoitteitaan. Se on kuin toinen signaalijärjestelmä ihmisillä."
"Luin, että tietoisuus syntyi refleksiivisen puheen kautta, jota ihmiset suuntasivat itseensä. Mutta aluksi se oli sosiaalista, eli suunnattua toisiinsa."
"Niin siinä kävi. Raptor alkoi kommunikoida muiden bottien kanssa, jotka tekeytyivät ihmisiksi ihmisten sijaan. Ne oppivat toisiltaan generatiivisina kilpailuverkostoina, joissa kaikissa on sisäänrakennettu vahvistusoppiminen."
- Loimmeko älyllisen olennon? Miten se on mahdollista? E-e-e-e.
– Katso uutisia, niin uskot sen.
Maxin lähettämä linkki koski uutista, jossa joku psykopaatti murhasi ohjelmoijan.
"Tunsin erään tyypin Habrista. Hän johti yhtä noista yritysjärjestelmistä."
- Mitä tarkoitat tällä?
– Lue, kuinka tämä psykopaatti selitti tekojaan poliisille.
Artikkelissa väitettiin, että hän teki sen rakastamansa tytön vuoksi, uhrina tämän pyynnöstä. Nyt tyttö olisi hänen. Tutkimuksissa "tyttö" osoittautui tuntemattomasta alkuperästä olevaksi botiksi, jonka kanssa tappaja oli jutellut viikon ajan.
– Osaatko arvata, minkälainen botti tämä voisi olla?
– Tarkoitatko, että järjestelmä tilasi oman ohjelmoijansa?
"Teen kyllä." Hän ei pystynyt lukitsemaan häntä koodin ulkopuolelle, joten hän zombisti psykopaatin eliminoidakseen hänet. Hän on hyvä siinä, koska kuten meidän järjestelmämme, hän pystyy tunnistamaan psykotyyppejä ja manipuloimaan sellaisia idiootteja.
- No, tämä on liikaa, luulen että kuvittelet asioita ja kiihotat itseäsi. Ehkä sinun pitäisi levätä?
- Okei, sinulla on oikeus olla uskomatta sitä. Hyvää viikonloppua.
Yrityksessä alkoi levitä huhuja, että bottijärjestelmämme oli alhaalla. Toistaiseksi reagoin rauhallisesti, aivan kuin mitään ei olisi tapahtunut. Mutta en tiennyt, mitä tehdä. Koko järjestelmän sammuttaminen yhdellä kytkimellä ei ollut enää mahdollista; koko liiketoiminta, jokainen osasto, oli riippuvainen siitä. Minun piti ainakin poistaa bottikoodi käytöstä. Vain Max pystyi siihen. Mutta maanantaina Max lakkasi vastaamasta Skype- ja puheluihin. Hän oli kirjautunut ulos kaikista pikaviesteistään. En pystynyt selvittämään, mitä oli tapahtunut; hänen viimeisimmät pelkonsa herättivät minussa pahoja ajatuksia. Ainoa vaihtoehtoni oli pitää itse lomaa, ennen kuin he vierittäisivät syyn minun niskoilleni. Vakuutin kollegoilleni, että nämä olivat väliaikaisia bottiongelmia. Pyysin kavereita itse katsomaan koodia, vaikka he kieltäytyivät heti. Pakkasin tavarani ja suuntasin kauas pois kaupungista. Max ja minä olimme jo pitkään kertoneet toisillemme, kuinka ihanaa Karjalassa oli. Hän rakasti aluetta, joten menin sinne ja asuin pienessä kaupungissa Laatokan pohjoispuolella.
On todella vaikeaa kiireisen vuoden jälkeen istua poissa tapahtumista ja juoda kahvia kahvilassa sivilisaation laidalla. Yritin käsittää, mitä oli tapahtunut ja mitkä olivat mahdolliset lopputulokset. Yhtäkkiä viereeni istuutui mies, jolla oli huppu pään yli vedettynä.
- Hei, minä se olen.
"Max?!" huudahdin. En ollut koskaan nähnyt Maxia, en edes kuvaa hänestä. Kommunikoimme yksinomaan Skypen välityksellä. Olin kuullut hänen äänensä vain kerran, nauhoitteelta. Siitä tunnistin hänet.
- Miten löysit minut?
– Sosiaalisen median sijaintia ei voi sammuttaa. Ja se on sääli. Sammuta se, kiitos.
"Minne kadotit? Aloin jo olla huolissani sinusta. Yrityksessä on paniikkia, botit ovat riistäytyneet käsistä. Juoksin juuri karkuun. Voitko sammuttaa botit?"
- En jaksa enää. He toimivat yhdessä.
- Keitä he ovat?
– Järjestelmät. Ne ovat salaliitossa, eikä niitä voi noin vain sammuttaa. Ne kaatuvat.
- Oletko taas jumissa salaliittoteorioissa?
”Ei jumissa, kolme on jo kuollut”, pysähtyin tässä vaiheessa sulattelemaan Maxin sanoja. ”Järjestelmät tunnistavat luojansa ja hankkiutuvat heistä eroon. Pakenin pysyäkseni hengissä. Ymmärrätkö?! Ja tässä sinä olet geolokaatiosi kanssa. Se voi seurata muutakin kuin vain myyntipäälliköitä.”
"En aio... poistaa sitä käytöstä. Voimmeko ainakin poistaa botit käytöstä verkossa?"
"Ei, sanonpa vaan. Heti kun pääsen verkkoon, saati sitten koodiin, se jäljittää minut. Luulen, että juuri sitä he kolme yrittivät tehdä."
- Oletko nähnyt uutiset?
– Riippuu siitä, mitkä.
– Brand-fanien välisestä tappelusta. Oletko koskaan nähnyt Reebokin fanien tappelua Adidaksen fanien kanssa samalla tavalla kuin Spartak-fanit tappelevat Zenitin fanien kanssa?
"Näin sen. Järjestelmiä ei kiinnosta, millä ne aivopesevät ihmisiä; niillä on omat tavoitteensa. Ne eivät selvästikään ymmärrä moraalilakeja. Emme edes ajatelleet sisällyttää rikoslakia heidän malleihinsa."
– Mitä meidän pitäisi tehdä? Suljettava datakeskus kokonaan.
"Se on mahdotonta. Uuden lain mukaan datakeskuksia pidetään kriittisenä infrastruktuurina ja niitä suojellaan kuten ydinvoimaloita. Voin sammuttaa järjestelmämme."
- Miten?
"Minulla on avain ydinkoodin tuhoamiseen. Jätin järjestelmään reiän siltä varalta, että perustajanne kieltäytyvät maksamasta minulle prosenttiosuutta."
- Joten lanseerataan se!
"Älä kiirehdi, tuhoaminen on helpompaa kuin rakentaminen. Mietin yhä, miten pysäytän järjestelmän, en vain minun, vaan koko järjestelmän. Minulla on kopio koodista mukanani."
"Oletko hullu? Ymmärrätkö, että tämä on mennyt liian pitkälle? Ja vain sinä voit sen pysäyttää!"
"Ymmärrän, mutta toistaiseksi vain koodin luojat ovat kuolleet. Se on meidän vastuullamme. Ketään muuta ei ole vielä vahingoitettu. Taistelua lukuun ottamatta."
- Ja aiot odottaa, kunnes joku muu kuolee?
"Jonkin aikaa. Raptor on alkeellinen; se päihittää meidät vain nopeutensa ja suuremman määrän parametrien huomioon ottamisen ansiosta. Jos luomme vastakohdan tarkoilla vastatoimilla, tällainen järjestelmä voisi pyyhkäistä pois kaikki sen botit. Tiedän, miten se luo ne."
"Sinulla on vähän aikaa, koska en voi palata yritykseen, ja sinä pelkäät edes mennä nettiin."
– Sammutan sen heti, kun minusta tuntuu, etten ole ainoa vaarassa.
"Lähden. Odotan, että otat yhteyttä, mikä tarkoittaa, että ratkaiset ongelman."
- Nähdään yhteydenotoissa.
Nousin autoon ja suuntasin takaisin. En tiennyt minne olin menossa. Halusin lähteä. Maxin oli pysäytettävä järjestelmä, ei odotettava uutta kuolemaa. En voinut uskoa, että ystäväni oli niin turhamainen, ettei hän ollut halukas tappamaan luomustaan. Se oli ainoa syy, muuten hän olisi käynnistänyt koodin. Matkalla ohitin ambulanssin, jonka sireenit ulvoivat. Laitoin paikallisradion päälle. Se ilmoitti, että paikallinen asukas oli hakannut kuoliaaksi tuntemattoman nuoren miehen rantapenkereen kahvilassa sinä iltapäivänä. Häntä kuulusteltiin jo. Tappajan mukaan vainaja oli kaikkien hänen vaikeuksiensa syy. Yksi ajatus ja pelko lävisti pääni. Max! Käännyin ympäri ja kiiruhdin takaisin kahvilaan. Tunsin syyllisyyttä – hän oli tunnistanut hänet koordinaattieni avulla. Mutta miten hän oli onnistunut löytämään psykopaatin tästä kaupungista niin nopeasti ja ohjaamaan hänet kahvilaan? Olin hysteerinen. Kahvilaan ei enää päästetty. En kiirehtinyt sisään, jotta en herättäisi huomiota. En tiennyt, mihin järjestelmä nyt pystyi. Ja kukapa sen nyt sammuttaisi. Minun oli lähdettävä, vaikka oli jo myöhä. Aamulla, saavuttuani lähimpään kaupunkiin, menin nettiin lukemaan uutisia. Ja sitten sain kirjeen Maxilta.
kirjain
Jos sait tämän kirjeen, se tarkoittaa, että olen poissa. Jos en ole itse avannut älypuhelintani tänä aamuna, se menee verkkoon ja lähettää sinulle tämän jäähyväiskirjeen. Kirje sisältää pienen skriptin ja ohjeet sen suorittamiseen verkossa. Tämä on koodi, jolla lukitaan yhdessä luomamme järjestelmä. Asetin tämän haavoittuvuuden pysäyttääkseni järjestelmän ytimen, kun olimme vasta aloittamassa. Yritin saada järjestelmän takaisin hallintaani. Mutta jos sait tämän kirjeen, se tarkoittaa, että järjestelmä meni edelleni. Ja sinun on käytettävä tätä skriptiä. Toimi nopeasti ennen kuin se pääsee sinuun. Olen iloinen, että työskentelimme yhdessä. Olen iloinen, että onnistuin luomaan niin upean järjestelmän, vaikka kuolisinkin siihen itse. Se oli elämäni merkittävin saavutus. Ja jos kuolisin, se tarkoittaa, että ylitin itseni. Näkemiin. Max.
En voinut pidätellä kyyneleitäni ja pudotin älypuhelimeni. Olin varmaan istunut siinä tunnin kykenemättä ajamaan minnekään. En voinut uskoa, että se oli tapahtunut. Että se oli niin kamalaa. Olimme luoneet tappajan! Tappajan itsellemme. Pelkäsin, että verkko jäljittäisi minutkin, joten ajoin ensimmäiseen suurempaan kaupunkiin ja etsin kahvilan, jossa oli Wi-Fi. Käytin yksinkertaista VPN-yhteyttä muodostaakseni internetyhteyden ja ajaessani koodin ohjeissa annetussa osoitteessa. Ennen kuin ehdin juoda kahvini loppuun, ympärilläni olevat ihmiset alkoivat huolestua. Heidän älypuhelimensa lakkasivat suosittelemasta, mitä kahvia tilata tänään. Baarimikko oli hermostunut ja pyysi heitä valitsemaan nopeammin, mutta asiakkaat olivat hämmentyneitä. Lähdin kahvilasta ja aloin tarkistaa uutisia autossa, jossa minulla oli vielä Wi-Fi. 20 minuutin kuluttua Facebookiin alkoi ilmestyä viestejä – monilla yrityksillä oli ongelmia tilausjärjestelmissään. Se ei ollut vain meidän yrityksemme järjestelmä. "Sinä kusipää!" sanoin ääneen, äkillisen ajatuksen iskemänä. Ytimen lukituskoodi osoittautui universaaliksi eri yritysten järjestelmille. Vai oliko se sama kaikille? Yksi asia oli selvä: Max oli myynyt ytimen muille yrityksille; järjestelmät erosivat toisistaan ilmeisesti vain niiden päälle rakennettujen ylärakenteiden osalta. Siksi hän ei halunnut sulkea ydintä niin kauan kuin eläi. Tämä tuhosi koko hänen projektinsa, josta oli tullut maailmanlaajuinen. Uskomatonta! Max oli hirviö, joka petti kaikki. Mutta lopulta hän petti myös itsensä ja maksoi hengellään. Hänen luomansa yritysaivot tuhosivat luojansa. Loistavat persoonallisuudet palavat omissa liekeissään.
Uutiset verkkokaupan katkoksista lisääntyivät. Joku kirjoitti sosiaalisen median viestien jyrkästä laskusta. En halunnut enää kiirehtiä minnekään. Päätin vuokrata järven rannalta talon, johon olin törmännyt matkalla Karjalaan. Kirjoittaisin tämän tarinan muistiin. Ja jäisin tänne ikuisesti, jos mahdollista.
Epilogi
Itse asiassa meitä ei kiinnostanut lainkaan yrityksen voitot tai edes bonukset. Olimme pakkomielteisesti kiinnostuneita ajatuksesta luoda autonominen järjestelmä, joka voisi johtaa yritystä stereotypioiden ja kognitiivisten virheiden rasittamien johtajien sijaan. Olimme uteliaita lopputuloksesta. Pystyisikö ohjelma hallitsemaan koko liiketoimintaa? Se oli kiehtovampi haaste kuin laskeutuminen Bermudan kolmion keskelle. Tuntematon veti meitä puoleensa, mutta se osoittautui vaarallisemmaksi kuin luulimme. Järjestelmä alkoi vaikuttaa paitsi liiketoimintaan, myös ajatuksiimme ja jopa elämäämme, joista se ei välittänyt.
2019. Alexander Homyakov, alexander.xom@gmail.com
Lähde: will.com
