AI juurutamise vintsutustest kaubandusettevõttes, sellest, kas saab täiesti ilma juhtideta hakkama. Ja milleni see (hüpoteetiliselt) viia võib. Täisversiooni saab alla laadida saidilt
Botid otsustavad kõik
– Max, õnnitlen teid, oleme müügiahelas peaaegu kõik ära teinud. Parandusi on veel teha ja intressid on kolm aastat, nagu lepingus kirjas.
– See on vaid pool projektist. Me pole veel kõige tähtsama asjani jõudnud.
- Oota, mis on peamine? Milleks? Oleme kõik teinud!
– Meil on müügiahelas automatiseeritud protsessid, ilma inimesteta toimib kõik hästi, aga kliente enam pole. Neid tuleb internetis meie poole meelitada. Peame tegema roboteid.
– Aga oleme loonud ideaalse teenuse, kliendid hindavad seda ja tulevad ise.
"Paistab, et neil ei ole kiiret ja mul pole aega oodata." Ei ole huvitatud.
– Aga mida robotid meile annavad?
– Võrdsete hindade ja sortimendi juures, mille oleme saavutanud, hakkavad rolli mängima täiesti erinevad tegurid. Kuulsus ja kaastunne. Kuulsus pole probleem, kuid ainult inimene võib võita inimese kaastunde. Seetõttu vajame roboteid, mis esinevad inimestena. Ja nad kommenteerivad kliendipostitusi temaatilistes rühmades ja foorumites peente vihjetega ettevõtte kohta - selle valik, teenused, hinnad. Reklaamige märkamatult ettevõtte kaubamärki. Sellepärast vajame roboteid.
– Aga see on raske ülesanne.
– Meil on alus – kontaktikeskuse vestlusbot. Peate tonaalsuse määratlust karmistama ja välja mõtlema midagi huumoriga, ilma selleta ei lähe bot inimese jaoks läbi. Lisame juurde naljade ja näpunäidete raamatukogu ning treenime robotit kommentaaride tekstide kohta, kus inimesed neid kasutasid. See peaks toimima. Ka robotid on nutikad - lisame "nõustaja" soovitussüsteemi ja siis hakkavad need foorumite tavakasutajatele meeldima.
– Kas teete ettepaneku käivitada mõjurobotid?
- Miks mitte? Riik ja erakonnad saavad seda enne valimisi teha, aga meie mitte?
– Kuidas muuta nad autoriteetseks, et neid usaldataks? Lõppude lõpuks saab meeldimisi luua ainult autoriteetne bot. Aga praegu on see kombinatsioon minu jaoks oksüümoron.
– Selle tugevdamiseks loome robotite võrgustiku. Nad kiidavad ja meeldivad üksteisele, et suurendada oma reitingut ja autoriteeti. Ja nad on väga pädevad; erinevalt inimestest võivad robotil olla teadmised kõigist toodetest ja muide lihtsalt entsüklopeedilised teadmised otseses mõttes. Ja inimesed tõmbavad nende poole. Muidugi. Inimesed juhinduvad ja järgivad üldtuntud sotsiaalse käitumise seadusi. Näidake näpuga, kuhu minna, teesklege, et rahvas on juba lahkunud, ja kõik. Neid on lihtne hallata.
– Aga kuidas need robotid töötavad, kes neid haldab?
– Missugused inimesed, miks? Sõelumisskript leiab erinevate inimeste teemadel kommentaare ja bot vastab neile sõbralikult, kasutades ühte mallidest. Annab nõu ja nalja. Kui tegemist on ettevõtte kliendiga, siis tema huvi fikseeritakse kliendianalüüsis. See mõjutab bännerite kuvamist ja konteksti, kui tegemist on saidi roboti soovitusega. Kui kliendil on negatiivne kogemus, mille ta sotsiaalvõrgustikes välja valas, käivitab bot teise malli, teeb ka nalja, kuid ei saada seda kohe ettevõtte veebisaidile. Ta kirjutab vastuse kui eduka kogemusega klient ja see on kõik.
– Nii et tahate öelda, et võrk ise neutraliseerib negatiivsele tagasisidele reageerides negatiivsuse?
– Tundub, et turundajad nimetavad seda maineturunduseks.
– Kuidas saab süsteem teada, milline vastus on edukas, isegi kui ta suudab vastuse valida?
– Esimene reaktsioon vastusele. Inimene kas muutub veelgi nördimaks või hakkab sellise kommentaari peale detaile lisama, kuid seda lojaalses suhtlusstiilis. Hea vastusetooni tuvastamine ja kõik.
– Mis siis, kui inimene ei vastanud kommentaarile?
– See on hullem, kuid vaikimisi on see vastus neutraalne. Kui see on ettevõtte klient, mille saab teada tema profiilist sotsiaalvõrgustikus, näete seda saidi järgmistel külastustel.
- Mida minult nõutakse?
– Häid näiteid kommentaaridest ja vastustest, palju näiteid.
- Me teeme seda.
Boti esimene versioon ebaõnnestus. Ta vastas kohatult, naljad olid teemast väljas, ta ajas kommentaari teema segadusse ja vastuseks juhataja kaebusele teeninduse kohta, vastas ta kohaletoimetamise kohta. Max palus kommentaarides veelgi markeeritud näiteid dialoogist. Ta on juba proovinud mitut arhitektuuri, alates klassikalistest robotimallidest ja lõpetades LSTM-iga. Esimest korda nägin, et Max oli märgatavalt närvis ning reageeris vigadele karmilt ja ebasõbralikult.
– Kontaktkeskuse robotiga oli kõik lihtne – päringu teema ja kliendi kavatsus olid kohe selged. Ta otsib toodet, soovib teada oma tellimuse olekut või tal on kaebus. Kõik. Ja kommentaarides murrab kurat jala katki kommentaatori erinevatest kavatsustest. Ja mõnikord ei väljendata seda ühegi sõnaga, mille järgi kavatsust saab kindlaks teha. See on vihjatud "laiemast kontekstist", mida pole olemas! Mingi jama.
– Lugesin uuesti läbi kõik viimased postitused robotite kohta. Kellelgi pole lahendust. Tundub lihtsalt hype. Mida sa teha mõtled?
– Jääb alles viimane, veel ebamäärane mõte. Ma ei ütle sulle veel. Vaja proovida. Anna mulle kaks nädalat. Peatage projekt praegu. Viimased arengud viime üle kontaktikeskuse robotisse. Need tulevad seal kasuks.
Kaks nädalat oli närviline. Enne seda ei olnud see raskusteta, kuid kõik läks meie jaoks korda. Keegi ei tahtnud süütetõrget, kuigi saime ilma sellise robotita hakkama. See oli Maxi ambitsioon. Ja täpselt kaks nädalat hiljem esitas ta testimiseks väljalase. Ja see töötas! Ta määras õigesti dialoogi kavatsuse, vastas täpselt, lisas sobivaid nalju ja isegi määras kommentaaris kavatsuste muutumise fraasiga "kas ma saan rohkem teada?"
- Kuidas teil see õnnestus? Bot töötab igal teemal!
– Pidin tegema sõltuvusgrammatika põhjal väikese mallikonstruktori, lisama word2vec ja sihtima Raptori iseõppimist, et valida sõnad, mis tagaksid kommentaatori positiivse reaktsiooni. Ma ei tea täpselt, kuidas, aga tundus, et see töötab.
– Kas olete kindel, et see pole põhjus oma ettevõtte avamiseks?
– Huvi on praegu piisavalt, aga eks me näe. Installisin roboti eraldi teenusena, mis töötab pilvest. Nii et saate selle alati kasutajatele avada. Kas tulete minu juurde direktoriks? – tegi Max nalja.
Ta oli rahulik ja oma tulemusega rahul. Ja selgelt kurnatud, kuna ta ei vastanud kiiresti ja kirjutas oma olekusse "Ma magan". Ilmselt sündis otsus rohkem kui ühe magamata öö hinnaga. Turundus ei hinnanud robotit kohe. Nad pidasid seda meie hellitamiseks ja riskantseks, kuna robotid võivad valesti töötada ja ettevõtte mainet rikkuda. Kuid robotid tegid imet. Mõned neist, ja ma isegi ei teadnud neid kõiki nimepidi, said mõnes foorumis arvamusliidriteks. Ta vastas kiiresti kõigile küsimustele, tegi nalja ja soovitas ettevõtet väga harva, sest kõik teadsid juba, kus ta "ostis". Inimesed hakkasid teda tsiteerima ja eeskujuks tooma. See oli juba üle mõistuse. Kas robot oli liiga tark või oleme endiselt oma võrgukäitumises väga primitiivsed. Klientide arv hakkas aga varasemast oluliselt rohkem kasvama. Ettevõttest sai turuliider.
Saime turult kasumi ammutamiseks täiesti isejuhtiva süsteemi. Ta ise otsib ja toob kliendid kodulehele või kontaktikeskusesse, tõsisematele klientidele saadab juhi. Ta planeerib ise sortimendi ja laoseisu, et kliendid leiaksid kõik vajaliku ja käeulatuses. Ettevõtte mainekad robotid tekitavad nõudlust, soovitades foorumites ettevõtte laos olevaid tooteid isegi siis, kui küsite teiste kaubamärkide kohta. Alates tarnijalt ostmisest kuni kliendile reklaamimiseni haldab süsteem protsesse täielikult ise. Ja see peaaegu ei nõua inimeste osalemist ja seal, kus nad jäävad, kontrollib see kõiki nende tegevusi võrgus. Turundajad, ostjad, pooled juhtidest ja analüütikud otsivad midagi muud, mida teha. Oleme oma eesmärgi saavutanud.
"Nüüd oleme teinud kõik õigesti, saame teha pausi, mõtiskleda ja nautida kogunevat intressi järgmise kolme aasta jooksul," kirjutas Max ilma emotikonideta.
– Ma ütleksin, et on mille üle uhkust tunda ja mitte ainult spekuleerida.
– Nüüd tuleb kasum tarbijatelt. Bottide abil kujundame ise oma teemas tarbijate huvid ja soovid. Just see on lahe!
– Kas see teeb sind õnnelikuks? Ja see hirmutab mind juba.
- Mis sind hirmutab?
– See tähendab, et oleme muutnud inimese oma valikus mittevabaks. Ja ma usun, et turgu peaks juhtima tarbija, mitte ettevõtted. Korporatsioonidel pole muud väärtust kui kasum.
– Seetõttu on rahulolevate ja hästi toidetud patriitside tühine mõttekäik halb. Neil hakkab plebeidest kahju. Kui oleksite praegu näljane või kui teie ees rippuks võimatu ülesanne, kas te mõtleksite sellele?
- See on provokatiivne küsimus.
- Tegelikult! Korporatsioonidel pole muid väärtusi peale kasumi ja tarbijatel pole muid väärtusi peale naudingu. Või ka kasumit, kui tegemist on ettevõttega. Saage aru, meil on robotid, need võivad tekitada inimestes vajadusi, mis pakuvad neile rahulolu. Seda saab moodustada vastuvõetavate võimalustega, millest piisab tarbija valikuvabaduse illusiooniks. Ja kõik on õnnelikud. See on turg, mis viib väärtuste vastastikuse rahuloluni.
- Tundub, et jäime purju, sest ma ei saanud enam päris hästi aru, mida sa ütlesid.
Kindral palus kava täitmise aruannet koos saavutatud näitajatega. Meile makstava boonuse arvutamiseks. Ja millegipärast küsis ta tee peal, mis plaanid mul järgmiseks on. Ütlesin, et räägin natuke hiljem. Tegelikult ma ei teadnud. Algoritmide täiustamiseks, rohkemate funktsioonide arvestamiseks ja suurema täpsuse saavutamiseks oli ruumi. Aga see ei olnud enam nii huvitav. Lepingu alusel uutel tingimustel teise firmasse kordama lahkumine oli sama kolme aasta jooksul võimatu, nii et pidin enda ja ettevõtte jaoks midagi muud välja mõtlema. Võtsin pausi ja puhkuse.
- Alex, on halvad uudised.
- Mis juhtus?
"Tundub, et me pole turul ainsad targad."
- Mis puutub?
– Tundub, et võrku on ilmunud mitte vähemate võimalustega süsteeme.
– Noh, tegelikult tegelevad kliendianalüüsi ja laoseisude haldamisega teised, aga ma pole sellisel tasemel vestlusroboteid näinud. Vaatasime seda just hiljuti ise.
– Neil on robotid, mis värbavad kliente.
– Mulle tundus, et oleme saavutatud tehnoloogiatest kõvasti maha jäänud. Kas meid ei oleks häkitud?
– Ei, see on võimatu, kood on kopeerimisel katki. Ja ma arvan, et keegi ei saanud meie serverisse häkkida, ilma et me oleksime seda märganud.
– See ei tee asja lihtsamaks.
- Aga meil on rivaal. Ootamatult küll, aga tuleb, kellega võidelda.
– Me võitleme tarbija, mitte rivaaliga.
- Ei, nüüd koos vastasega. Tarbijad on vaid lahinguväli. Nad on lambad ja karjaste vahel on konkurents. Lammastel on ressurss – nende sissetulek nii-öelda vill. Kuid nad ei tule sellega ise toime. Seda kontrollivad ettevõtte karjased, kes suruvad neile peale oma arvamust ja võitlevad nende eest omavahel. Kelle mõju on tugevam? Niisiis, tere tulemast mängu.
- Kas sa oled peaaegu õnnelik? Mis on mäng?
– Fakt on see, et mõne teise süsteemi robotit on palju raskem välja selgitada kui mis tahes inimest. Kasutaja on oma ostukäitumisel nii lihtne kui 2 rubla. Ja ka reaktsioonides oleme alati etteaimatavad. Kuid vaenlase süsteemis pole robotit. Sest meil kõigil on sama psüühika, aga robotil on sama mentaliteet, millega selle programmeerija välja mõtleb. Ja meil on piisavalt kujutlusvõimet. Sellise roboti sotsiaalvõrgustikes välja valatud negatiivsuse kustutamine on nagu õli tulle valamine. Negatiivse postituse väljatöötamine on agressorroti parim eesmärk. Ta hakkab igal pool kirjutama, et "firma X pätid" vastasid talle nagu viimasele veidrikule. Ja see on kõik, see on ebaõnnestumine... Näiteid juba on, me peame robotit uuesti tegema.
– Kas tahate öelda, et teiste süsteemide robotitega võitlemiseks peame tegema roboti?
- See on meie roboti versioon, mille eesmärk on agressorbot kohe tuvastada.
– Kuidas eristada robotit inimesest?
- See on keeruline, kuna see genereerib mittemallitekste. Korratavus on madal. Ei saa inimestest eristada. Ja ta räägib sadadest erinevatest jäädvustatud kontodest. Loodan, et on siiski midagi, mis muudab nad inimestest erinevaks.
Ma ei saanud jätta mõtlemata, et Max ise mõtles selle mängu enda jaoks välja teiste firmade robotitega, et tema väärtus pärast projekti lõppu ei langeks. Ma ei märganud neid aruannetest. Inimesed on nagu inimesed. Või head robotid. Oli pretsedente, kui meie robotit pommitati negatiivsusega. Kuid need olid haruldased ja pärinesid tulihingelistest trollidest. Ma ei saanud aru, kuidas meie konkurendid suutsid meile kiiresti järele jõuda. Alles hiljuti olid sellised robotid ülim unistus ja läbimurret polnud isegi plaanis. Ja ajakirjanduses pole sellest sõnagi. See kõik oli imelik.
Kontrolli alt väljumine
– Max, me peame siin sekkuma, bot on hakanud liiga agressiivselt kirjutama. Ta hakkab otse oma konkurentide vastu rääkima. Turundus on nördinud. Me ei plaaninud seda.
- Mina ka.
– Kust sellised tekstid siis tulevad?
– Ma ei tea veel, keegi muutis teksti genereerimise koodi.
- Kas meid häkiti?
- Ei, nad ei saanud, jäljed oleksid jäänud. Ühtegi neist pole.
- Mida see tähendab? Kes veel oleks saanud koodi muuta?
- Süsteem ise. Võib-olla kogemata, võib-olla mitte.
- Millest sa räägid?
– Süsteem ise muutis oma koodi ja hakkas reageerima teiste robotite kasvavale survele agressiivsemalt. Nad suhtlevad üksteisega konkurentsivõrgustikena. Ja nad õpetavad end sel viisil. See on nipp! Kuid ma ei saa ikka veel aru, kuidas ta suutis oma koodi muuta, eemaldades konkurentide nimede piirangu. Jääb vaid see, et iseõppiv süsteem suutis piirangutest mööda minna.
- Oled sa kindel? Seda pole varem juhtunud.
– Tundub, et seda juhtub mitte ainult siin. Habré kolleegid kirjutavad, et ka nende süsteem tegutseb ja hakkab enda jaoks välja mõtlema reegleid, mida nad ei kehtestanud.
- Mingi prügikast. Kas te ei saa iseõppimisalgoritme juhtida?
- Võib-olla nii. Seal on vähe üksikasju ja süsteem ei ütle teile, mida ta teeb. Ma ei saa veel aru.
Tundsin Maxi juba hästi ja tema ärevus tekitas ka minus ärevust. Seni peeti tema sõnu süsteemi spontaansetest muutustest jaburaks. Kuid see polnud kindlasti viga, sest robotite käitumine muutus teistsuguseks, kuid siiski eesmärgipäraseks. See ei saanud juhtuda juhuslikult.
– Max, millised on teie mõtted robotiprogrammi muudatuste kohta? Midagi on vaja ette võtta, juhtkond on ärevil.
– Süsteemis toimus rohkem muudatusi, kui ma arvasin. Tundub, et need on kestnud juba pikka aega. Süsteem muudab isegi minu muudatusi selle kohta. Mulle tundub, et ma ise õpetasin süsteemi ennast muutma.
- Kuidas?
"Ma olin liiga laisk, et seda ise kogu aeg redigeerida." Tahtsin, et ta suudaks tuvastada oma ebakõlad oodatud tulemusega ja teha mudelites muudatusi. Kuid ta õppis kuidagi muutma mitte ainult oma mudeleid, vaid ka koodi.
- Aga kuidas see võimalik on?
– Raptor on õppinud inimestega suhtlema, et neid kontrollida. Ja ma saavutasin selles täiuslikkuse, me ise tahtsime seda. Ja ma rumalalt suunasin selle oskuse talle. Kas mäletate, kui me robotit tegime, mõtlesin ma välja mallikujundaja. Panin Raptori endale seda mustrikonstruktsiooni õpetama, et muuta oma mudeleid, et leida lahendus leitud lahknevustele, et mudelid töötaksid. See viis kuidagi selleni, et Raptor muutis oma eesmärke. Sarnaselt teise signaalimissüsteemiga inimestel.
– Lugesin, et teadvus tekkis reflektoorse kõne abil, mille inimene oli suunatud iseendale. Aga algul oli see sotsiaalne ehk üksteisele suunatud.
– Nii juhtuski, Raptor hakkas inimeste asemel suhtlema teiste inimestena esinevate robotitega. Nad õppisid üksteiselt generatiivsete-konkureerivate võrgustikena, kuid neil kõigil on sisseehitatud tugevdav õpe.
– Kas oleme loonud intelligentse olendi? Kuidas on see võimalik? Ei.
- Vaadake uudiseid ja te usute seda.
Maxi saadetud lingil oli uudis mõne psühhopaadi poolt programmeerija mõrvast.
– Tundsin seda meest Habrist. Ta juhtis üht neist ettevõtete süsteemidest.
– Mida sa sellega mõtled?
– Lugege, kuidas see psühhopaat oma tegevust politseile selgitas.
Artiklis öeldi, et ta tegi seda oma armastatud tüdruku huvides, ohverdusena tema palvel. Nüüd saab temast tema. Kontrollimisel osutus “tüdrukuks” tundmatu päritoluga bot, kellega tapja oli nädal aega kirjavahetust pidanud.
– Kas oskate arvata, mis tüüpi robot see olla võiks?
– Kas te ei taha öelda, et süsteem tellis endale programmeerija?
- Tahad. Ta ei suutnud koodi tema eest varjata, nii et ta zombistas psühhopaadi, et see eemaldada. Ta on selles hea, sest ta, nagu meie süsteem, teab, kuidas tuvastada psühhotüüpe ja manipuleerida selliste idiootidega.
- Noh, seda on liiga palju, mulle tundub, et sa mõtled asju enda jaoks välja, mõtled välja. Võib-olla peaksite puhkama?
- Olgu, sul on õigus mitte uskuda. Hea nädalavahetus.
Ettevõtte sees hakkasid levima kuulujutud, et meie robotisüsteem on katki. Siiani olen sellele rahulikult reageerinud, nagu poleks midagi juhtunud. Aga ma ei teadnud, mida nüüd teha. Kogu süsteemi ei olnud enam võimalik lülitiga peatada, kogu äri, kõik osakonnad olid selle peal. Oleksin pidanud vähemalt robotkoodi välja lülitama. Ainult Max sai seda teha. Kuid alates esmaspäevast ei vastanud Max Skype'ile ja telefonikõnedele. Ta logis kõigist sõnumitoojatest välja. Ma ei saa aru, mis juhtus, tema viimased hirmud tekitasid halbu mõtteid. Minu ainus valik oli minna ise puhkusele, enne kui kõik mind süüdistavad. Kinnitasin oma kolleegidele, et need on ajutised probleemid robotiga. Palusin kuttidel ise koodi vaadata, kuigi nad keeldusid kohe. Pakkisin asjad kokku ja suundusin linnast minema. Oleme Maxiga juba pikemat aega üksteisele rääkinud, kui hea Karjalas on. Ta armastas neid piirkondi, nii et ma läksin sinna, elades Laadoga põhjaosas asuvas väikelinnas.
Väga raske on pärast nii kiiret aastat istuda sündmustest eemal ja juua kohvikus tsivilisatsiooni piiril kohvi. Püüdsin aru saada, mis juhtus ja millised võimalused võiksid olla. Järsku istus minu kõrvale üks jopes, kapuutsiga pähe tõmmatud tüüp.
- Tere, see olen mina.
- Max?! — hüüatasin. Ma pole kunagi Maxi näinud, isegi mitte fotot temast. Suhtlesime eranditult Skype’i vahendusel. Tema häält kuulsin salvestusel vaid korra. Tundsin selle temast ära.
- Kuidas sa mu leidsid?
– Sotsiaalvõrgustikus oleva asukoha põhjal te seda välja ei lülita. Aga asjata. Palun lülitage see välja.
- Kuhu sa kadunud oled? Hakkan juba sinu pärast muretsema. Ettevõte on paanikas; robotid on kontrolli alt väljas. Ma lihtsalt jooksin minema. Kas saate robotid välja lülitada?
- Ma ei saa enam. Nad tegutsevad kollektiivselt.
- Kes nad on?
– Süsteemid. Nad on koos ja neid ei saa lihtsalt välja lülitada. Nad kukuvad kokku.
– Kas olete jälle vandenõuteooriatesse uppunud?
"Ära takerduge, kolm neist on juba läinud," peatusin selle lause juures, et Maxi sõnu mõista. – Süsteemid selgitavad välja oma loojad ja saavad neist lahti. Ma jooksin minema, et ellu jääda. Saad aru?! Ja te olete siin oma geograafilise asukohaga. Ta teab, kuidas jälgida mitte ainult müügijuhte.
- Ma ei... lülita seda välja. Kas me saame vähemalt võrgus robotid keelata?
— Ma ütlen sulle, ei. Niipea kui ma võrku sisenen, rääkimata koodist, saab see minust aru. Ma arvan, et kolm neist püüdsid just seda teha.
- Kas olete uudiseid näinud?
- Oleneb millest.
– võitlusest brändifännide vahel. Kas olete kunagi näinud Reeboki fänne Adidase vastu võitlemas nagu Spartaki fänne Zenitiga?
- Saag. Süsteeme ei huvita, mille nimel nad inimesi zombistavad, neil on oma eesmärgid. Nad kindlasti ei tunne moraaliseadusi. Me isegi ei mõelnud kriminaalkoodeksi kaasamisest nende mudelisse.
- Mida me peaksime tegema? Keelake andmekeskuses täielikult.
- See on ebareaalne. Uue seaduse kohaselt liigitatakse andmekeskused kriitiliseks infrastruktuuriks ja on kaitstud nagu tuumajaamad. Ma võin meie süsteemi peatada.
- Kuidas?
- Mul on tuumakoodi hävitamise võti, jätsin süsteemi augu juhuks, kui teie asutajad mulle protsendi keelavad.
- Nii et käivitame selle!
- Võtke aega, hävitamine ei ole ehitamine. Ma mõtlen endiselt, kuidas peatada süsteemi erinevalt ja mitte ainult enda, vaid kõigi oma. Mul on koodi koopia kaasas.
- Kas sa oled endast väljas? Kas sa mõistad, et see kõik on liiga kaugele läinud? Ja sina oled ainus, kes seda peatada saab!
– Ma saan aru, aga seni on suremas ainult need, kes koodi koostasid. See on meie vastutus iseenda eest. Teised pole veel viga saanud. Välja arvatud võitlus.
– Ja sa ootad, kuni keegi teine sureb?
- Mõnda aega. Raptor on primitiivne, lööb meid ainult tänu kiirusele ja suuremat hulka parameetreid arvesse võttes. Kui loote talle Raptori vastu võitlemiseks rangete eesmärkidega antipood, saab selline süsteem kõik tema robotid välja puhastada. Ma tean, kuidas ta neid loob.
– Teil pole palju aega, sest ma ei saa ettevõttesse naasta ja te kardate isegi võrku minna.
"Ma lülitan selle välja niipea, kui tunnen, et ma pole ainus ohus."
- Soovin välja registreerida. Ootan teiega ühendust, mis tähendab, et lahendate probleemi.
- Näeme hiljem.
Istusin autosse ja läksin tagasi. Ma ei teadnud, kuhu ma lähen. Ma tahtsin lahkuda. Max oleks pidanud süsteemi peatama ja mitte ootama uut surma. Ma ei uskunud, et mu sõber oli nii edev, et polnud valmis oma tööd tapma. See oli ainus põhjus, muidu oleks ta koodi käivitanud. Teel kohtasin sireenidega kiirabiautot. Panin kohaliku raadio käima. Seal teatati, et päeval häkkis kohalik elanik ühes muldkeha kohvikus surnuks tundmatu noormehe. Teda juba kuulatakse üle. Tapja sõnul oli hukkunu kõigi tema hädade põhjuseks. Üks mõte ja hirm läbistas mu pea. Max! Pöörasin ümber ja tormasin tagasi kohvikusse. Tundsin end süüdi – ta sai sellest minu koordinaatide abil aru. Aga kuidas suutis ta sellest linnast nii kiiresti leida psühho ja suunata ta kohvikusse? Ma olin hüsteeriline. Kohvikusse neid enam ei lastud. Ma ei tormanud, et mitte endale tähelepanu tõmmata. Nüüd ma ei teadnud, milleks süsteem võimeline on. Ja kes selle nüüd välja lülitab? Ma pidin lahkuma, kuigi kell oli juba hilja. Hommikul lähimasse linna jõudnuna läksin netti uudiseid lugema. Ja ma sain Maxilt kirja.
Kirjutamine
Kui saite selle kirja, tähendab see, et mind pole enam siin. Kui ma pole hommikul ise nutitelefoni avanud, läheb see võrku ja saadab teile selle hüvastijätukirja. Kiri sisaldab väikest skripti ja juhiseid selle veebis käivitamiseks. See on teie ja mina loodud süsteemi lukukood. Installisin selle haavatavuse süsteemituuma peatamiseks, kui me alles alustasime. Üritasin süsteemi üle kontrolli tagasi saada. Aga kui sa selle kirja said, tähendab see, et süsteem läks minust ette. Ja peate seda skripti kasutama. Tegutse kiiresti, enne kui ta sinu juurde jõuab. Mul on hea meel, et me koos töötasime. Mul on hea meel, et suutsin luua nii imelise süsteemi, isegi kui ma ise sellesse surin. See oli mu elu olulisim saavutus. Ja kui ma surin, tähendab see, et ületasin ennast. Hüvasti. Max
Ma ei suutnud pisaraid tagasi hoida ja viskasin nutitelefoni maha. Istusin seal ilmselt tund aega ega saanud kuhugi minna. Ma ei suutnud uskuda, et see juhtus. Et kõik on nii kohutav. Me lõime tapja! Tapame ennast. Kartsin, et võrk jälitab ka mind, nii et sõitsin esimesse suuremasse linna ja leidsin ühe wi-figa kohviku. Kasutades lihtsat VPN-i, läksin võrku ja käivitasin koodi juhistes määratud aadressil. Mul polnud aega isegi kohvi lõpetada, kui inimesed mu ümber hakkasid muretsema. Nende nutitelefonid ei soovita enam täna, millist kohvi osta. Baarmen oli närvis ja palus kiiresti valida, kuid kliendid olid segaduses. Lahkusin kohvikust ja autos, kus mul veel wi-fi oli, hakkasin uudiseid vaatama. 20 minuti pärast hakkasid Facebooki ilmuma teated – paljudel ettevõtetel oli probleeme toodete tellimissüsteemiga. See ei olnud ainult meie ettevõtte süsteem. "Sa litapoeg!" – ütlesin ootamatu mõtte peale valjusti. Kerneli lukukood osutus erinevate ettevõtete süsteemide jaoks universaalseks. Või oli üks kõigi jaoks? Üks oli selge, Max müüs kerneli teistele ettevõtetele, süsteemid erinesid ilmselt ainult nende lisandmoodulite poolest. Seetõttu ei soovinud ta südamikku elus olles välja lülitada. See tappis kogu tema projekti, mis osutus ülemaailmseks. Uskumatu! Max oli koletis, kes pettis kõiki. Kuid lõpuks pettis ta ennast, makstes oma eluga. Tema loodud ettevõtte aju hävitas selle looja. Säravad isiksused põlevad omaenda leekidest läbi.
Üha enam tuli uudiseid tõrgetest veebipoodide töös. Keegi kirjutas, et suhtlusvõrgustikus on sõnumite arv järsult langenud. Ma ei tahtnud enam kuhugi kiirustada. Otsustasin üürida maja järve kaldal, mis mulle Karjalasse teel olles meeldis. Kirjutage see lugu üles. Ja võimalusel jää siia igaveseks.
Epiloog
Tegelikult ei huvitanud meid üldse ettevõtte kasum ega isegi boonused. Olime kinnisideeks ideest luua autonoomne süsteem, mis suudaks ettevõtet juhtida stereotüüpide ja kognitiivsete vigadega koormatud juhtide asemel. Tundsime huvi, mis sellest välja tuleb. Kas programm suudab hallata kogu ettevõtet? See oli väljakutse, intrigeerivam kui Bermuda kolmnurga keskmesse sattumine. Tundmatu viipas meid, kuid see osutus ohtlikumaks, kui arvasime. Süsteem hakkas mõjutama mitte ainult äri, vaid ka meie mõtteid ja isegi elusid, mis on selle suhtes ükskõiksed.
2019. Aleksander Homjakov, [meiliga kaitstud]
Allikas: www.habr.com