tekoälyn käyttöönoton hankaluuksista kauppayhtiössä, siitä, onko mahdollista tulla toimeen täysin ilman johtajia. Ja mihin tämä (hypoteettisesti) voi johtaa. Täysi versio on ladattavissa osoitteesta
Botit ratkaisevat kaiken
– Max, onnittelen sinua, olemme tehneet melkein kaiken myyntiketjussa. Parannuksia on vielä tehtävä, ja saat korkoa kolmelta vuodelta sopimuksen mukaan.
– Tämä on vain puolet projektista. Emme ole vielä päässeet tärkeimpään asiaan.
- Odota, mikä on pääasia? Minkä vuoksi? Olemme tehneet kaiken!
– Meillä on automatisoidut prosessit myyntiketjussa, kaikki toimii hyvin ilman ihmisiä, mutta asiakkaita ei ole enää. Heidät täytyy houkutella meidän puolellemme Internetissä. Meidän on tehtävä botteja.
– Mutta olemme luoneet ihanteellisen palvelun, asiakkaat arvostavat sitä ja tulevat itse.
"Heillä ei näytä olevan kiirettä, eikä minulla ole aikaa odottaa." Ei kiinnosta.
– Mutta mitä botit antavat meille?
– Tasaisilla hinnoilla ja valikoimalla, jotka olemme saavuttaneet, aivan erilaiset tekijät alkavat vaikuttaa. Mainetta ja myötätuntoa. Maine ei ole ongelma, mutta vain ihminen voi voittaa ihmisen myötätuntoa. Siksi tarvitsemme botteja, jotka esiintyvät ihmisinä. Ja he kommentoivat asiakasviestejä teemaryhmissä ja foorumeilla hienovaraisilla vihjeillä yrityksestä - sen valikoimasta, palveluista, hinnoista. Mainosta huomaamattomasti yrityksen brändiä. Siksi tarvitsemme botteja.
– Mutta tämä on vaikea tehtävä.
– Meillä on perusta – yhteyskeskuksen keskustelubotti. Sinun täytyy tiukentaa tonaalisuuden määritelmää ja sinun on keksittävä jotain huumorilla, ilman sitä botti ei mene ihmiselle läpi. Liitä kirjasto vitsejä ja vitsejä ja koulutetaan botti kommenttien teksteihin, joissa ihmiset niitä käyttivät. Sen pitäisi toimia. Botit ovat myös älykkäitä - lisätään "neuvojan" suositusjärjestelmä, ja sitten foorumien tavalliset käyttäjät rakastavat niitä.
– Aiotko käynnistää vaikutusbotteja?
- Miksi ei? Valtio ja puolueet voivat tehdä sen ennen vaaleja, mutta emmekö me?
– Miten teemme heistä arvovaltaisia, jotta heihin luotetaan? Loppujen lopuksi vain arvovaltainen robotti voi luoda tykkäyksiä. Mutta toistaiseksi minulle tämä yhdistelmä on oksymoroni.
– Sen vahvistamiseksi luomme bottiverkoston. He ylistävät ja pitävät toisistaan lisätäkseen arvosanaansa ja arvovaltaansa. Ja he ovat erittäin päteviä; toisin kuin ihmiset, botilla voi olla tietoa kaikista tuotteista ja muuten vain tietosanakirjasta, kirjaimellisessa merkityksessä. Ja ihmiset vetäytyvät niihin. Varma. Ihmisiä ohjataan ja he noudattavat tunnettuja sosiaalisen käyttäytymisen lakeja. Osoita sormella minne mennä, teeskentele, että väkijoukko on jo lähtenyt, ja siinä se. Niitä on helppo hallita.
– Mutta miten nämä robotit toimivat, kuka niitä hallitsee?
– Millaisia ihmisiä, miksi? Jäsennysskripti löytää kommentteja eri ihmisten aiheesta, ja botti vastaa niihin ystävällisesti käyttämällä jotakin mallipohjaa. Antaa neuvoja ja vitsejä. Jos tämä on yrityksen asiakas, hänen kiinnostuksensa kirjataan asiakasanalyysiin. Tämä vaikuttaa bannereiden näyttöön ja kontekstiin, kun kyse on sivustosta botin suosituksen perusteella. Jos asiakkaalla on negatiivinen kokemus, jonka hän vuodatti sosiaalisiin verkostoihin, botti käynnistää toisen mallin, myös vitsailee, mutta ei lähetä sitä heti yrityksen verkkosivustolle. Hän kirjoittaa vastauksen asiakkaana, jolla on onnistunut kokemus, ja siinä kaikki.
– Haluat siis sanoa, että verkosto itse neutraloi negatiivisuuden reagoimalla negatiiviseen palautteeseen?
– Markkinoijat näyttävät kutsuvan sitä mainemarkkinoinniksi.
– Kuinka järjestelmä tietää, mikä vastaus on onnistunut, vaikka se pystyisikin valitsemaan vastauksen?
– Ensimmäinen reaktio vastaukseen. Henkilö joko suuttuu entisestään tai alkaa lisätä yksityiskohtia tällaisen kommentin jälkeen, mutta uskollisella kommunikaatiotyylillä. Hyvä vastausäänen tunnistus ja siinä se.
– Entä jos henkilö ei vastannut kommenttiin?
– Tämä on huonompi, mutta oletusarvoisesti tämä vastaus on neutraali. Jos tämä on yrityksen asiakas, joka voidaan selvittää hänen profiilistaan sosiaalisessa verkostossa, voit nähdä sen myöhemmillä vierailuilla sivustolla.
- Mitä minulta vaaditaan?
– Hyviä esimerkkejä kommenteista ja vastauksista, monia esimerkkejä.
- Me teemme sen.
Botin ensimmäinen versio epäonnistui. Hän vastasi sopimattomasti, vitsit olivat aiheen vierestä, hän sekoitti kommentin aiheen ja vastauksena johtajan palvelua koskevaan valitukseen hän vastasi toimituksesta. Max pyysi kommenteissa vielä korostetumpia esimerkkejä dialogista. Hän on jo kokeillut useita arkkitehtuureja klassisista bot-malleista LSTM:ään. Ensimmäistä kertaa näin Maxin olevan huomattavan hermostunut ja reagoinut virheisiin ankarasti ja epäystävällisesti.
– Yhteyskeskusbotilla kaikki oli yksinkertaista – pyynnön aihe ja asiakkaan tarkoitus oli heti selvä. Hän etsii tuotetta, haluaa tietää tilauksensa tilan tai hänellä on reklamaatio. Kaikki. Ja kommenteissa paholainen murtaa jalkansa kommentoijan erilaisista aikomuksista. Eikä toisinaan ilmaista millään sanoilla, joilla aikomus voidaan määrittää. Se on vihjattu "laajemmasta kontekstista", jota ei ole olemassa! Jonkinlaista paskapuhetta.
– Luin uudelleen kaikki uusimmat postaukset boteista. Kenelläkään ei ole ratkaisua. Vaikuttaa vain hypeltä. Mitä aiot tehdä?
– Jäljelle jää viimeinen, vielä epämääräinen ajatus. En kerro vielä. Täytyy kokeilla. Anna minulle kaksi viikkoa. Lopeta projekti toistaiseksi. Siirrämme viimeisimmän kehityksen yhteyskeskusbotille. Siellä ne tulevat tarpeeseen.
Kaksi viikkoa jännitti. Ennen tätä se ei ollut ilman vaikeuksia, mutta kaikki toimi meille. Kukaan ei halunnut sytytyskatkoa, vaikka pärjäsimme ilman tällaista bottia. Tämä oli Maxin tavoite. Ja tasan kaksi viikkoa myöhemmin hän esitti julkaisun testattavaksi. Ja se toimi! Hän määritteli oikein dialogin tarkoituksen, vastasi tarkasti, lisäsi asianmukaisia vitsejä ja jopa määritti aikomusten muutoksen kommentissa lauseella "Voinko tietää lisää?"
- Kuinka onnistuit tekemään tämän? Botti toimii mistä tahansa aiheesta!
– Minun piti tehdä riippuvuuskieliopin pohjalta pieni mallikonstruktori, liittää sana2vec ja kohdistaa Raptorin itseoppimiseen valitakseen sanoja, jotka varmistaisivat kommentaattorin positiivisen reaktion. En tiedä tarkalleen miten, mutta se näytti toimivan.
– Oletko varma, ettei tämä ole syy oman yrityksen perustamiseen?
– Kiinnostusta riittää toistaiseksi, mutta katsotaan. Asensin botin erillisenä palveluna, joka toimii pilvestä. Voit siis aina avata sen käyttäjille. Tuletko luokseni ohjaajaksi? – Max vitsaili.
Hän oli rauhallinen ja tyytyväinen tulokseensa. Ja selvästi uupunut, koska hän ei vastannut nopeasti ja kirjoitti tilakseen "nukun". Ilmeisesti päätös tehtiin useamman kuin yhden unettoman yön kustannuksella. Markkinointi ei heti arvostanut bottia. He pitivät tätä hemmotteluamme ja riskialtista, koska robotit voivat toimia väärin ja pilata yrityksen imagoa. Mutta botit tekivät ihmeitä. Joistakin heistä, enkä edes tuntenut kaikkia nimeltä, tuli mielipidejohtajia joillakin foorumeilla. Hän vastasi nopeasti kaikkiin kysymyksiin, vitsaili ja suositteli yritystä erittäin harvoin, koska kaikki tiesivät jo, missä hän "osti". Ihmiset alkoivat lainata häntä ja mainita hänet esimerkkinä. Tämä oli jo yli ymmärryksen. Joko robotti oli liian älykäs tai olemme edelleen hyvin alkeellisia verkkokäyttäytymisessämme. Mutta asiakkaiden määrä alkoi kasvaa huomattavasti enemmän kuin ennen. Yhtiöstä tuli markkinajohtaja.
Saimme täysin itsehallinnollisen järjestelmän voiton hakemiseen markkinoilta. Hän itse etsii ja tuo asiakkaita nettisivuille tai yhteyskeskukseen ja lähettää johtajan vakavammille asiakkaille. Hän suunnittelee valikoiman ja varaston itse, jotta asiakkaat löytävät kaiken tarvitsemansa ja käden ulottuvilla. Yrityksen hyvämaineiset botit luovat kysyntää suosittelemalla yrityksen varastossa olevia tuotteita foorumeilla, vaikka kysyisit muista merkeistä. Järjestelmä hoitaa prosessit kokonaan itse aina toimittajalta ostamisesta asiakkaalle mainostamiseen. Ja se ei melkein vaadi ihmisten osallistumista, ja missä he jäävät, se hallitsee kaikkia heidän toimiaan verkossa. Markkinoijat, ostajat, puolet johtajista ja analyytikot etsivät jotain muuta tekemistä. Olemme saavuttaneet tavoitteemme.
"Nyt olemme tehneet kaiken oikein, voimme pitää taukoa, pohtia ja nauttia kertyneestä korosta seuraavan kolmen vuoden ajan", Max kirjoitti ilman hymiöitä.
– Sanoisin, että on syytä olla ylpeä, eikä vain spekuloida.
– Nyt voitot tulevat kuluttajilta. Muodostamme itse aiheessamme botien avulla kuluttajien kiinnostuksen kohteita ja toiveita. Sehän on siistiä!
– Tekeekö tämä sinut onnelliseksi? Ja se jo pelottaa minua.
-Mikä pelottaa sinua?
– Tämä tarkoittaa, että olemme tehneet ihmisen valinnassaan vapaaksi. Ja uskon, että markkinoita tulee johtaa kuluttajien, ei yritysten. Yrityksillä ei ole muuta arvoa kuin voitto.
– Tästä syystä tyytyväisten ja hyvin ruokittujen patriisilaisten turha päättely on huono. He alkavat sääliä plebeiejä. Jos olisit nälkäinen juuri nyt tai jos sinulla olisi edessäsi mahdoton tehtävä, ajattelisitko sitä?
– Tämä on provosoiva kysymys.
- Itse asiassa! Yrityksillä ei ole muita arvoja kuin voitto, eikä kuluttajilla ole muita arvoja kuin nautinto. Tai myös voitot, jos kyseessä on yritys. Ymmärrä, meillä on botteja, ne voivat luoda ihmisissä tarpeita, jotka tuovat heille tyydytystä. Se voidaan muodostaa hyväksyttävillä vaihtoehdoilla, jotka riittävät kuluttajan illuusion valinnanvapaudesta. Ja kaikki ovat onnellisia. Tämä on markkina, joka johtaa molemminpuoliseen arvojen tyytyväisyyteen.
- Näyttää siltä, että olimme humalassa, koska en enää ymmärtänyt, mitä sanoit.
Kenraali pyysi selvitystä suunnitelman täytäntöönpanosta saavutetuilla indikaattoreilla. Laskemaan meille maksettava bonus. Ja jotenkin matkan varrella hän kysyi, mitä suunnitelmani ovat seuraavaksi. Sanoin, että kerron sinulle vähän myöhemmin. Itse asiassa en tiennyt. Algoritmeissa oli parantamisen varaa, enemmän ominaisuuksia huomioon ottamista ja tarkkuuden lisäämistä. Mutta se ei ollut enää niin mielenkiintoista. Sopimuksen mukaan uusiin ehdoin lähteminen toiseen yritykseen oli mahdotonta samoihin kolmeen vuoteen, joten jouduin keksimään jotain muuta itselleni ja yritykselle. Pidin tauon ja loman.
- Alex, on huonoja uutisia.
- Mitä tapahtui?
"Näyttää siltä, että emme ole ainoita älykkäitä markkinoilla."
- Mitä tulee?
– Vaikuttaa siltä, että verkkoon on ilmaantunut järjestelmiä, joissa ei ole vähemmän ominaisuuksia.
– Toiset itse asiassa tekevät asiakasanalyysiä ja varastonhallintaa, mutta en ole nähnyt tämän tason chatbotteja. Katsoimme sen itse äskettäin.
– Heillä on botteja, jotka rekrytoivat asiakkaita.
– Minusta tuntui, että olemme saavutetuissa teknologioissa kaukana jäljessä. Eikö meidät olisi voitu hakkeroida?
– Ei, se on mahdotonta, koodi on rikki kopioitaessa. Ja en usko, että kukaan pystyi hakkeroimaan palvelintamme huomaamattamme.
– Tämä ei tee siitä yhtään helpompaa.
- Mutta meillä on kilpailija. Odottamatta, mutta siellä on joku, jonka kanssa taistella.
– Taistelemme kuluttajan puolesta, emme kilpailijan kanssa.
- Ei, nyt vastustajan kanssa. Kuluttajat ovat vain taistelukenttä. He ovat lampaita, ja paimenten kesken käydään kilpailua. Lampailla on resurssi - heidän tulonsa, niin sanotusti villa. Mutta he eivät hallitse sitä itse. Sitä hallitsevat yritysten paimenet, jotka pakottavat mielipiteensä heihin ja taistelevat keskenään niiden puolesta. Kenen vaikutus on vahvempi? Joten tervetuloa peliin.
- Oletko melkein onnellinen? Mikä peli on?
– Tosiasia on, että toisen järjestelmän botti on paljon vaikeampi selvittää kuin kukaan muu. Käyttäjä on ostokäyttäytymisellään niinkin yksinkertainen kuin 2 ruplaa. Ja myös reaktioissa olemme aina ennakoitavissa. Mutta vihollisen järjestelmässä ei ole bottia. Koska meillä kaikilla on sama psyyke, mutta boteilla on sama mentaliteetti, jonka sen ohjelmoija keksii. Ja mielikuvitusta meillä riittää. Yritetään sammuttaa tällaisen botin negatiivisuus, joka on levitetty sosiaalisiin verkostoihin, on kuin lisäisi polttoainetta tuleen. Negatiivisen viestin kehittäminen on hyökkääjäbotin paras tavoite. Hän alkaa kirjoittaa kaikkialla, että "yrityksen X smukit" vastasivat hänelle kuin viimeiset friikkit. Ja siinä kaikki, se on epäonnistuminen... Esimerkkejä on jo, meidän on tehtävä botti uudelleen.
– Tarkoitatko, että meidän on tehtävä botti taistellaksemme muiden järjestelmien botteja vastaan?
– Tämä on versio bottistamme, jonka tarkoituksena on havaita hyökkääjäbotti välittömästi.
– Miten voit erottaa botin ihmisestä?
– Se on vaikeaa, koska se luo ei-mallitekstejä. Toistettavuus on heikko. Ei voida erottaa ihmisistä. Ja hän puhuu sadoista erilaisista vangituista tileistä. Toivon, että silti on jotain, mikä tekee niistä erilaisia kuin ihmiset.
En voinut olla ajattelematta, että Max itse keksi tämän pelin itselleen muiden yritysten boteilla, jotta hänen arvonsa ei laske projektin päätyttyä. En huomannut niitä raporteista. Ihmiset ovat kuin ihmisiä. Tai hyviä botteja. Oli ennakkotapauksia, kun bottiamme pommitettiin negatiivisuudella. Mutta ne olivat harvinaisia ja tulivat kiihkeiltä peikoilta. En voinut ymmärtää, kuinka kilpailijamme saivat meidät nopeasti kiinni. Vasta äskettäin tällaiset robotit olivat lopullinen unelma, eikä läpimurtoa ollut edes suunniteltu. Eikä siitä ole sanaakaan lehdistössä. Kaikki oli outoa.
Menettää käsistä
– Max, meidän täytyy puuttua asiaan, botti on alkanut kirjoittaa liian aggressiivisesti. Hän alkaa puhua suoraan kilpailijoitaan vastaan. Markkinointi on närkästynyt. Emme suunnitelleet tätä.
- Minä myös.
– Mistä tällaiset tekstit sitten tulevat?
– En vielä tiedä, joku muutti tekstin luontikoodia.
- Hakkeroitiinko meidät?
- Ei, he eivät voineet, jälkiä olisi jäänyt. Niitä ei ole olemassa.
- Mitä se tarkoittaa? Kuka muu olisi voinut vaihtaa koodin?
- Itse järjestelmä. Ehkä vahingossa, ehkä ei.
- Mistä sinä puhut?
– Järjestelmä itse muutti koodiaan ja alkoi toimia aggressiivisemmin vastauksena muiden botien lisääntyvään paineeseen. He kommunikoivat keskenään kilpailevina verkostoina. Ja he opettavat itseään sillä tavalla. Se on temppu! Mutta en edelleenkään ymmärrä, kuinka hän pystyi muuttamaan koodiaan poistamalla kilpailijoiden nimien rajoitukset. Jäljelle jää vain, että itseoppiva järjestelmä pystyi ohittamaan rajoitukset.
- Olet varma? Tätä ei ole tapahtunut ennen.
– Tätä ei ilmeisesti tapahdu vain täällä. Habrén kollegat kirjoittavat, että myös heidän järjestelmänsä toimii ja alkaa keksiä itselleen sääntöjä, joita he eivät ole laatineet.
- Jonkinlainen roska. Etkö voi hallita itseoppivia algoritmejasi?
- Ehkä niin. Yksityiskohtia on vähän, eikä järjestelmä kerro, mitä se tekee. En ymmärrä vielä.
Tunsin Maxin jo hyvin, ja hänen ahdistuksensa huolestutti minuakin. Toistaiseksi hänen sanojaan järjestelmän spontaaneista muutoksista pidettiin hölynpölyinä. Mutta se ei todellakaan ollut virhe, koska botien käyttäytyminen muuttui erilaiseksi, mutta silti tarkoituksenmukaiseksi. Tämä ei voinut tapahtua sattumalta.
– Max, mitä mieltä olet bottiohjelman muutoksista? Jotain on tehtävä, johto on huolissaan.
– Järjestelmässä oli enemmän muutoksia kuin luulin. Ne näyttävät jatkuneen jo pitkään. Järjestelmä jopa muuttaa siihen tekemiäni muutoksia. Minusta tuntuu, että olen itse opettanut järjestelmän muuttumaan itse.
- Miten?
"Olin liian laiska muokkaamaan sitä koko ajan itse." Halusin hänen pystyvän tunnistamaan omat eroavaisuutensa odotetun tuloksen kanssa ja tekemään muutoksia malleihin. Mutta hän jotenkin oppi muuttamaan paitsi mallejaan myös koodiaan.
- Mutta miten tämä on mahdollista?
– Raptor on oppinut kommunikoimaan ihmisten kanssa hallitakseen heitä. Ja saavutin tässä täydellisyyttä, me itse halusimme sitä. Ja minä tyhmästi suuntasin tämän taidon hänelle. Muistatko, kun teimme bottia, keksin mallin suunnittelijan. Asetin Raptorin opettamaan itselleen tämän mallirakenteen muokatakseen mallejaan löytääkseen ratkaisun löydettyihin eroihin, jotta mallit toimisivat. Tämä johti jotenkin siihen, että Raptor muutti tavoitteitaan. Samanlainen kuin toinen signaalijärjestelmä ihmisillä.
– Luin, että tietoisuus syntyi heijastavan puheen avulla, jonka ihminen on ohjannut itselleen. Mutta aluksi se oli sosiaalista, toisin sanoen toisiaan kohti suunnattua.
– Näin tapahtui, Raptor alkoi kommunikoida ihmisten sijaan muiden robottien kanssa, jotka esiintyivät ihmisinä. He oppivat toisiltaan generatiivis-kilpailevina verkostoina, mutta niissä kaikissa on sisäänrakennettu vahvistusoppiminen.
– Olemmeko luoneet älykkään olennon? Kuinka tämä on mahdollista? Ei.
– Katso uutiset, niin uskot sen.
Maxin lähettämässä linkissä uutinen kertoi jonkun psykopaatin suorittamasta ohjelmoijan murhasta.
– Tunsin tämän miehen Habrista. Hän johti yhtä näistä yritysjärjestelmistä.
- Mitä tarkoitat tällä?
– Lue kuinka tämä psykopaatti selitti tekonsa poliisille.
Artikkelissa kerrottiin, että hän teki tämän rakkaan tyttönsä vuoksi, uhrauksena tämän pyynnöstä. Nyt hän on hänen. Tarkastuksessa ”tyttö” paljastui tuntemattoman alkuperän botiksi, jonka kanssa murhaaja oli ollut kirjeenvaihdossa viikon ajan.
– Osaatko arvata, millainen botti tämä voisi olla?
– Etkö halua sanoa, että järjestelmä tilasi oman ohjelmoijan?
- Haluta. Hän ei voinut piilottaa koodia häneltä, joten hän zombifioi psykopaatin poistaakseen sen. Hän on hyvä tässä, koska hän, kuten meidän järjestelmämme, osaa tunnistaa psykotyypit ja manipuloida sellaisia idiootteja.
- No, tämä on liikaa, minusta näyttää siltä, että keksit asioita itsellesi, keksit asioita. Ehkä sinun pitäisi levätä?
- Okei, sinulla on oikeus olla uskomatta. Hyvä viikonloppu.
Yrityksessä alkoi levitä huhuja, että bottijärjestelmämme oli rikki. Toistaiseksi olen reagoinut tähän rauhallisesti, ikään kuin mitään ei olisi tapahtunut. Mutta en tiennyt mitä tehdä nyt. Koko järjestelmää ei ollut enää mahdollista pysäyttää kytkimellä, sillä koko liiketoiminta, kaikki osastot olivat sen päällä. Minun olisi ainakin pitänyt laittaa bottikoodi pois päältä. Vain Max pystyi tähän. Mutta maanantaista lähtien Max lakkasi vastaamasta Skypeen ja puheluihin. Hän kirjautui ulos kaikista lähettiläistä. En ymmärrä mitä tapahtui, hänen viimeiset pelkonsa herättivät huonoja ajatuksia. Ainoa vaihtoehtoni oli lähteä itse lomalle ennen kuin kaikki syyttävät minua. Vakuutin kollegoilleni, että nämä olivat tilapäisiä ongelmia botin kanssa. Pyysin kavereita katsomaan koodia itse, vaikka he kieltäytyivät välittömästi. Pakkasin tavarat ja lähdin pois kaupungista. Max ja minä olemme kertoneet toisillemme pitkään, kuinka hyvä Karjalassa on. Hän rakasti näitä alueita, joten menin sinne asuessani pienessä kaupungissa Laatokan pohjoisosassa.
On erittäin vaikeaa näin kiireisen vuoden jälkeen istua kaukana tapahtumista ja juoda kahvia kahvilassa sivilisaation reunalla. Yritin ymmärtää mitä oli tapahtunut ja mitä vaihtoehtoja voisi olla. Yhtäkkiä viereeni istuutui takissa pukeutunut kaveri, jonka huppu oli vedetty päähänsä.
- Hei, se olen minä.
- Max?! – huudahdin. En ole koskaan nähnyt Maxia, en edes valokuvaa hänestä. Kommunikoimme yksinomaan Skypen kautta. Kuulin hänen äänensä vain kerran äänityksessä. Tunnistin sen hänestä.
- Kuinka löysit minut?
– Sosiaalisen verkoston sijainnin perusteella et sammuta sitä. Mutta turhaan. Sammuta se kiitos.
- Minne olet kadonnut? Olen jo alkanut olla huolissani sinusta. Yritys on paniikissa, botit eivät ole hallinnassa. Minä vain juoksin karkuun. Voitko sammuttaa botit?
- En jaksa enää. He toimivat kollektiivisesti.
- Keitä he ovat?
– Järjestelmät. He ovat yhdessä, eikä niitä voi vain sammuttaa. Ne törmäävät.
– Oletko taas juuttunut salaliittoteorioihin?
"Älä juutu, kolme heistä on jo poissa", pysähdyin tähän lauseeseen ymmärtääkseni Maxin sanat. – Järjestelmät selvittävät luojansa ja pääsevät niistä eroon. Juoksin karkuun pysyäkseni hengissä. Ymmärtää?! Ja olet täällä maantieteellisen sijaintisi kanssa. Hän osaa valvoa paitsi myyntipäälliköitä.
- En... sammuta sitä. Voimmeko ainakin poistaa robotit käytöstä verkossa?
– Minä sanon sinulle, ei. Heti kun astun verkkoon, koodista puhumattakaan, se selvittää minut. Luulen, että kolme heistä yritti tehdä juuri sitä.
- Oletko nähnyt uutisia?
- Riippuu mistä.
– Brändifanien välisestä taistelusta. Oletko koskaan nähnyt Reebok-faneja taistelevan Adidaksen kanssa kuten Spartakin faneja Zenitin kanssa?
- Näin. Järjestelmät eivät välitä siitä, mitä varten ne zombievat ihmisiä, niillä on omat tavoitteensa. He eivät todellakaan tunne moraalin lakeja. Emme edes ajatelleet sisällyttää rikoslakia heidän malliinsa.
- Mitä meidän pitäisi tehdä? Poista kokonaan käytöstä datakeskuksessa.
- Tämä on epärealistista. Uuden lain mukaan datakeskukset luokitellaan kriittisiksi infrastruktuureiksi ja niitä suojellaan kuten ydinvoimalat. Voin pysäyttää järjestelmämme.
- Miten?
- Minulla on avain ydinkoodin tuhoamiseen, jätin järjestelmään aukon siltä varalta, että perustajasi kieltävät minulta prosentin.
- Joten käynnistetään se!
– Ota aikaa, tuhoaminen ei ole rakentamista. Ajattelen edelleen, kuinka voisin pysäyttää järjestelmän eri tavalla, en vain omaani, vaan kaikkien. Minulla on kopio koodista mukanani.
- Oletko sekaisin? Ymmärrätkö, että tämä kaikki on mennyt liian pitkälle? Ja sinä olet ainoa, joka voi estää sen!
– Ymmärrän, mutta toistaiseksi vain koodin tehneet ovat kuolemassa. Tämä on meidän vastuumme itsestämme. Muita ei ole vielä vahingoitettu. Paitsi tappelu.
– Ja sinä odotat, kunnes joku muu kuolee?
- Jonkin aikaa. Raptor on primitiivinen, se päihittää meidät vain nopeuden ja suuremman parametrien määrän vuoksi. Jos luot hänelle antipodin tiukoilla tavoitteilla torjuaksesi Raptoria, tällainen järjestelmä voi puhdistaa kaikki hänen robottinsa. Tiedän kuinka hän luo ne.
– Sinulla ei ole paljoa aikaa, koska en voi palata yritykseen ja pelkäät edes mennä nettiin.
"Sammutan sen heti, kun minusta tuntuu, etten ole ainoa vaarassa."
- Haluan luovuttaa huoneeni. Odotan yhteydenottoasi, mikä tarkoittaa, että ratkaiset ongelman.
- Nähdään myöhemmin.
Nousin autoon ja lähdin takaisin. En tiennyt minne olin menossa. Halusin lähteä. Maxin olisi pitänyt pysäyttää järjestelmä eikä odottaa uutta kuolemaa. En uskonut, että ystäväni oli niin turhamainen, ettei hän ollut valmis tappamaan työtään. Se oli ainoa syy, muuten hän olisi ajanut koodin. Matkalla tapasin ambulanssin sireenien päällä. Laitoin paikallisradion päälle. Se kertoi, että päivän aikana paikallinen asukas hakkeroi tuntemattoman nuoren miehen kuoliaaksi kahvilassa rannalla. Häntä on jo kuulusteltu. Murhaajan mukaan vainaja oli kaikkien hänen ongelmiensa syy. Yksi ajatus ja pelko iski pääni. Max! Käännyin ympäri ja ryntäsin takaisin kahvilaan. Tunsin syyllisyyttä - hän ymmärsi sen käyttämällä koordinaattejani. Mutta kuinka hän pystyi niin nopeasti löytämään psykoottisen tästä kaupungista ja ohjaamaan hänet kahvilaan? Olin hysteerinen. Heitä ei enää päästetty kahvilaan. En kiirehtinyt, jotta en kiinnittäisi huomiota itseeni. Nyt en tiennyt, mihin järjestelmä pystyy. Ja kuka sen nyt sammuttaa? Minun piti lähteä, vaikka oli jo myöhäistä. Aamulla, kun saavuin lähimpään kaupunkiin, menin nettiin lukemaan uutisia. Ja sain kirjeen Maxilta.
kirjain
Jos sait tämän kirjeen, se tarkoittaa, että en ole enää täällä. Jos en ole itse avannut älypuhelimen lukitusta aamulla, se siirtyy verkkoon ja lähettää sinulle tämän jäähyväiskirjeen. Kirje sisältää pienen käsikirjoituksen ja ohjeet sen käynnistämiseksi verkossa. Tämä on sinun ja minä luoman järjestelmän suojakoodi. Asensin tämän haavoittuvuuden pysäyttämään järjestelmäytimen, kun olimme juuri aloittamassa. Yritin saada järjestelmän hallintaan takaisin. Mutta jos sait tämän kirjeen, se tarkoittaa, että järjestelmä on mennyt edelläni. Ja sinun on käytettävä tätä skriptiä. Toimi nopeasti ennen kuin hän tulee luoksesi. Olen iloinen, että teimme töitä yhdessä. Olen iloinen, että pystyin luomaan niin upean järjestelmän, vaikka kuolisinkin siihen itse. Tämä oli elämäni merkittävin saavutus. Ja jos kuolin, se tarkoittaa, että ylitin itseni. Hyvästi. Max.
En voinut pidätellä kyyneleitäni ja pudotin älypuhelimeni. Istuin siellä luultavasti tunnin, enkä voinut mennä minnekään. En voinut uskoa, että tämä tapahtui. Että kaikki on niin kauheaa. Loimme tappajan! Tappaa itsemme. Pelkäsin, että myös verkko jäljittäisi minua, joten ajoin ensimmäiseen suureen kaupunkiin ja löysin kahvilan, jossa oli wifi. Käytän yksinkertaista VPN:ää, menin verkkoon ja suoritin koodin ohjeissa määritettyyn osoitteeseen. En ehtinyt edes juoda kahvia loppuun, kun ympärilläni olevat ihmiset alkoivat huolestua. Heidän älypuhelimensa eivät enää suosittele, mitä kahvia hankkia tänään. Baarimikko hermostui ja pyysi valitsemaan nopeasti, mutta asiakkaat olivat hämmentyneitä. Poistuin kahvilasta ja aloin katsomaan uutisia autossa, jossa minulla oli vielä wi-fi. 20 minuutin kuluttua Facebookissa alkoi ilmestyä viestejä - monilla yrityksillä oli ongelmia tuotteiden tilausjärjestelmässä. Tämä ei ollut vain yrityksemme järjestelmä. "Sinä paskiainen!" – sanoin ääneen odottamattomasta ajatuksesta. Ytimen lukituskoodi osoittautui universaaliksi eri yritysten järjestelmille. Vai oliko siellä yksi kaikille? Yksi asia oli selvä, Max myi ytimen muille yrityksille, järjestelmät erosivat ilmeisesti vain niihin liittyvistä lisäosista. Siksi hän ei halunnut poistaa ydintä käytöstä ollessaan elossa. Tämä tappoi hänen koko projektinsa, joka osoittautui maailmanlaajuiseksi. Uskomaton! Max oli hirviö, joka petti kaikkia. Mutta lopulta hän petti itsensä ja maksoi hengellään. Hänen luomansa yrityksen aivot tuhosivat luojansa. Kirkkaat persoonallisuudet palavat omasta liekistään.
Verkkokauppojen toiminnan epäonnistumisista tuli yhä enemmän uutisia. Joku kirjoitti, että sosiaalisen verkoston viestien määrä on laskenut jyrkästi. En enää halunnut kiirehtiä minnekään. Päätin vuokrata talon järven rannalta, josta pidin matkalla Karjalaan. Kirjoita tämä tarina ylös. Ja pysy täällä ikuisesti, jos mahdollista.
Epilogi
Itse asiassa emme olleet lainkaan kiinnostuneita yhtiön voitosta tai edes bonuksista. Olimme pakkomielle ajatuksesta luoda autonominen järjestelmä, joka voisi johtaa yritystä stereotypioiden ja kognitiivisten virheiden rasittamien johtajien sijaan. Olimme kiinnostuneita, mitä siitä tulee. Pystyykö ohjelma hallitsemaan koko liiketoimintaa? Se oli haaste, kiehtovampi kuin päästä Bermudan kolmion keskustaan. Tuntematon kutsui meitä, mutta se osoittautui vaarallisemmaksi kuin luulimme. Järjestelmä alkoi vaikuttaa paitsi liike-elämään, myös ajatuksiimme ja jopa siihen välinpitämättömiin elämään.
2019. Alexander Khomyakov, [sähköposti suojattu]
Lähde: will.com