apie AI diegimo prekybos įmonėje peripetijas, apie tai, ar galima visiškai apsieiti be vadovų. Ir prie ko (hipotetiškai) tai gali privesti. Pilną versiją galima atsisiųsti iš
Botai nusprendžia viską
– Maksai, sveikinu jus, mes beveik viską padarėme prekybos grandinėje. Dar reikia tobulinti, o delspinigius gausite trejus metus, kaip nurodyta sutartyje.
– Tai tik pusė projekto. Dar nepriėjome prie svarbiausio dalyko.
- Palauk, o kas svarbiausia? Kam? Mes padarėme viską!
– Pardavimų grandinėje turime automatizuotus procesus, be žmonių viskas puikiai veikia, bet klientų nebėra. Juos reikia pritraukti į mūsų pusę internete. Turime sukurti robotus.
– Bet sukūrėme idealią paslaugą, klientai tai įvertins ir patys ateis.
„Atrodo, kad jie neskuba, o aš neturiu laiko laukti“. Nedomina.
– Bet ką mums duos robotai?
– Esant vienodoms kainoms ir asortimentui, kurį pasiekėme, pradeda veikti visiškai kiti veiksniai. Šlovė ir simpatija. Šlovė nėra problema, bet tik žmogus gali laimėti žmogaus simpatijas. Todėl mums reikia robotų, kurie apsimetinėja žmonėmis. O klientų įrašus komentuos teminėse grupėse ir forumuose su subtiliomis užuominomis apie įmonę – jos asortimentą, paslaugas, kainas. Nepastebimai reklamuokite įmonės prekės ženklą. Štai kodėl mums reikia robotų.
– Bet tai sunki užduotis.
– Turime pagrindą – kontaktų centro pokalbių botą. Reikia sugriežtinti tonalumo apibrėžimą ir sugalvoti ką nors su humoru, be jo botas žmogui nepraeis. Pridėkime anekdotų biblioteką ir apmokykime robotą komentarų tekstuose, kuriuose žmonės juos naudojo. Turėtų veikti. Botai taip pat bus protingi - pridėkime „patarėjo“ rekomendacijų sistemą, tada paprasti forumų vartotojai juos pamėgs.
– Ar siūlote paleisti įtakos botus?
- Kodėl gi ne? Valstybė ir partijos gali tai padaryti prieš rinkimus, o mes – ne?
– Kaip padaryti, kad jie būtų autoritetingi, kad jais būtų pasitikima? Juk tik autoritetingas botas gali sukurti simpatijas. Bet kol kas man šis derinys yra oksimoronas.
– Norėdami jį sustiprinti, kursime botų tinklą. Jie girs ir patiks vienas kitam, kad padidintų savo reitingą ir autoritetą. Ir jie bus labai kompetentingi; skirtingai nei žmonės, botas gali turėti žinių apie visus produktus ir, beje, tiesiog enciklopedinių žinių tiesiogine prasme. Ir žmones jie patrauks. Žinoma. Žmonės vadovaujasi ir paklūsta gerai žinomiems socialinio elgesio dėsniams. Rodyk pirštu, kur eiti, apsimesk, kad minia jau išėjo, ir viskas. Juos lengva valdyti.
– Bet kaip šie robotai veiks, kas juos valdys?
– Kokie žmonės, kodėl? Analizavimo scenarijus suranda komentarus skirtingų žmonių tema, o robotas į juos draugiškai atsako naudodamas vieną iš šablonų. Pataria ir juokauja. Jeigu tai yra įmonės klientas, tai jo susidomėjimas fiksuojamas kliento analizėje. Tai turės įtakos reklamjuosčių rodymui ir kontekstui, kai kalbama apie svetainę, remiantis roboto rekomendacija. Jei klientas turi neigiamos patirties, kurią jis išliejo socialiniuose tinkluose, tada robotas paleis kitą šabloną, taip pat pajuoks, bet ne iš karto nusiųs jo į įmonės svetainę. Jis parašys atsakymą kaip sėkmingą patirtį turintis klientas, ir viskas.
– Vadinasi, norite pasakyti, kad pats tinklas neutralizuos negatyvą, reaguodamas į neigiamus atsiliepimus?
– Rinkodaros specialistai, regis, tai vadina reputacijos rinkodara.
– Kaip sistema žinos, kuris atsakymas yra sėkmingas, net jei ji galėtų pasirinkti atsakymą?
– Pirma reakcija į atsakymą. Žmogus arba dar labiau pasipiktina, arba po tokio komentaro pradeda papildyti smulkmenas, bet lojaliu bendravimo stiliumi. Geras atsako tono atpažinimas ir viskas.
– O jeigu žmogus neatsakė į komentarą?
– Tai blogiau, bet pagal nutylėjimą šis atsakymas yra neutralus. Jei tai yra įmonės klientas, kurį galima sužinoti iš jo profilio socialiniame tinkle, tai galite pamatyti vėliau apsilankę svetainėje.
- Ko iš manęs reikalaujama?
– Geri komentarų ir atsakymų pavyzdžiai, daug pavyzdžių.
- Mes tai padarysime.
Pirmoji roboto versija buvo nesėkminga. Jis atsakė netinkamai, juokeliai buvo ne į temą, supainiojo komentaro temą, o į vadybininko skundą dėl aptarnavimo atsakė dėl pristatymo. Maksas komentaruose prašė dar ryškesnių dialogo pavyzdžių. Jis jau išbandė keletą architektūrų – nuo klasikinių robotų šablonų iki LSTM. Pirmą kartą pamačiau, kad Maksas pastebimai nervinasi ir į klaidas reagavo šiurkščiai bei nedraugiškai.
– Su kontaktų centro botu viskas buvo paprasta – iš karto buvo aiškus užklausos objektas ir kliento ketinimas. Jis ieško prekės, nori sužinoti savo užsakymo būseną arba turi nusiskundimų. Visi. O komentaruose velnias susilaužys koją nuo įvairių komentatoriaus ketinimų. Ir kartais neišreiškiamas jokiais žodžiais, pagal kuriuos galima nustatyti ketinimą. Tai numanoma iš „platesnio konteksto“, kurio nėra! Kažkokia nesąmonė.
– Iš naujo perskaičiau visus naujausius įrašus apie robotus. Niekas neturi sprendimo. Tai tiesiog atrodo kaip hype. Ką galvoji daryti?
– Lieka paskutinė, dar miglota mintis. Dar nesakysiu. Reikia pabandyti. Duok man dvi savaites. Sustabdykite projektą kol kas. Naujausius pokyčius perkelsime į kontaktų centro robotą. Ten jie pravers.
Dvi savaitės buvo nervingos. Prieš tai nebuvo be sunkumų, bet viskas mums pavyko. Niekas nenorėjo užsidegimo, nors galėtume apsieiti ir be tokio boto. Tai buvo Maxo siekis. Ir lygiai po dviejų savaičių jis pristatė leidimą išbandyti. Ir pavyko! Jis teisingai nustatė dialogo intenciją, tiksliai atsakė, įterpė atitinkamus pokštus ir netgi nulėmė ketinimų pasikeitimą komentare fraze „ar galiu sužinoti daugiau?
– Kaip tau tai pavyko? Botas veikia bet kokia tema!
– Turėjau sukurti nedidelį šablono konstruktorių, pagrįstą priklausomybės gramatika, pridėti word2vec ir nukreipti į Raptor savarankišką mokymąsi, kad atrinkčiau žodžius, kurie užtikrintų teigiamą komentatoriaus reakciją. Tiksliai nežinau, kaip, bet atrodė, kad pavyko.
– Ar esate tikras, kad tai nėra priežastis atidaryti savo verslą?
– Kol kas susidomėjimo užtenka, bet pažiūrėsim. Įdiegiau robotą kaip atskirą paslaugą, veikiančią iš debesies. Taigi visada galite jį atidaryti vartotojams. Ar ateisi pas mane kaip direktorė? – juokavo Maksas.
Jis buvo ramus ir patenkintas savo rezultatu. Ir aiškiai išsekęs, nes jis greitai nereagavo ir savo būsenoje parašė „Aš miegu“. Matyt, toks sprendimas buvo priimtas ne vienos bemiegės nakties kaina. Rinkodara ne iš karto įvertino robotą. Jie manė, kad tai mūsų lepinimas ir rizikinga, nes robotai gali veikti netinkamai ir sugadinti įmonės įvaizdį. Tačiau robotai padarė stebuklus. Kai kurie iš jų, o aš net nežinojau jų vardu, kai kuriuose forumuose tapo nuomonės lyderiais. Jis greitai atsakė į visus klausimus, juokavo ir labai retai rekomendavo įmonę, nes visi jau žinojo, kur jis „apsipirko“. Žmonės pradėjo jį cituoti ir minėti kaip pavyzdį. Tai jau buvo nesuvokiama. Arba robotas buvo per protingas, arba mes vis dar labai primityviai elgiamės tinkle. Tačiau klientų pradėjo daugėti žymiai daugiau nei anksčiau. Įmonė tapo rinkos lydere.
Gavome visiškai savarankišką pelno iš rinkos ištraukimo sistemą. Ji pati ieško ir atveda klientų į svetainę ar kontaktų centrą, o pas rimtesnius klientus siunčia vadybininką. Ji pati suplanuoja asortimentą ir inventorių, kad klientai rastų viską, ko jiems reikia ir po ranka. Geros reputacijos bendrovės robotai generuoja paklausą, rekomenduodami įmonės sandėlyje esančius produktus forumuose, net kai teiraujatės apie kitus prekės ženklus. Nuo pirkimo iš tiekėjo iki reklamos klientui sistema visus procesus tvarko pati. Ir tai beveik nereikalauja žmonių dalyvavimo, o ten, kur jie lieka, kontroliuoja visus jų veiksmus internete. Rinkodaros specialistai, pirkėjai, pusė vadovų ir analitikai ieško kuo nors kito. Mes pasiekėme savo tikslą.
„Dabar viską padarėme teisingai, galime padaryti pertrauką, apmąstyti ir džiaugtis besikaupiančiomis palūkanomis ateinančius trejus metus“, – rašė Maksas be jaustukų.
– Yra kuo didžiuotis, sakyčiau, ir ne tik spėlioti.
– Dabar pelnas ateina iš vartotojų. Botų pagalba mes patys formuojame vartotojų interesus ir norus savo temoje. Štai kas šaunu!
– Ar tai tave džiugina? Ir tai jau mane gąsdina.
- Kas tave gąsdina?
– Tai reiškia, kad mes padarėme žmogų nelaisvą jo pasirinkimu. Ir aš manau, kad rinkai turėtų vadovauti vartotojas, o ne korporacijos. Korporacijos neturi kitos vertės, išskyrus pelną.
– Štai kodėl dykinėti patenkintų ir gerai maitinamų patricijų samprotavimai yra blogi. Jie pradeda gailėtis plebėjų. Jei dabar būtumėte alkanas arba prieš jus kabėtų neįmanoma užduotis, ar pagalvotumėte apie tai?
– Tai provokuojantis klausimas.
- Tiesą sakant! Korporacijos neturi kitų vertybių, išskyrus pelną, o vartotojai neturi kitų vertybių, išskyrus malonumą. Arba ir pelnas, jei tai įmonė. Supraskite, mes turime robotus, jie gali sukurti žmonėms poreikius, kurie suteiks jiems pasitenkinimo. Jį galima suformuoti su priimtinais variantais, kurių pakaks vartotojo pasirinkimo laisvės iliuzijai. Ir visi laimingi. Tai rinka, vedanti į abipusį pasitenkinimą vertybėmis.
- Atrodo, kad prisigėrėme, nes nebelabai supratau, ką tu pasakei.
Generolas paprašė pateikti plano įgyvendinimo ataskaitą su pasiektais rodikliais. Apskaičiuoti mums priklausančią premiją. Ir kažkaip pakeliui paklausė, kokie mano tolesni planai. Pasakiau, kad papasakosiu šiek tiek vėliau. Tiesą sakant, aš nežinojau. Buvo kur tobulinti algoritmus, atsižvelgti į daugiau funkcijų ir pasiekti didesnį tikslumą. Bet nebebuvo taip įdomu. Išvykti į kitą įmonę kartoti naujomis sąlygomis pagal sutartį buvo neįmanoma tuos pačius trejus metus, todėl teko sugalvoti ką nors kita sau ir įmonei. Aš padariau pertrauką ir atostogauju.
- Aleksai, yra blogų naujienų.
- Kas nutiko?
„Atrodo, kad rinkoje nesame vieninteliai išmanieji.
- Kalbant apie?
– Panašu, kad tinkle atsirado ne ką mažiau galimybių turinčių sistemų.
– Na, kiti iš tikrųjų užsiima klientų analize ir atsargų valdymu, bet tokio lygio pokalbių robotų nemačiau. Neseniai patys žiūrėjome.
– Jie turi robotus, kurie įdarbina klientus.
– Man atrodė, kad mes gerokai atsiliekame nuo pasiektų technologijų. Ar negalėjome būti nulaužti?
– Ne, tai neįmanoma, nukopijuojant kodas sugenda. Ir nemanau, kad kas nors galėjo nulaužti mūsų serverį mums nepastebėjus.
– Tai nepalengvina.
– Bet mes turime varžovą. Netikėtai, bet bus su kuo pakovoti.
– Kovojame už vartotoją, o ne su varžovu.
– Ne, dabar su priešininku. Vartotojai yra tik kovos laukas. Jie yra avys, ir tarp piemenų vyksta konkurencija. Avys turi išteklius – savo pajamas, taip sakant, vilną. Bet jie patys to nesutvarko. Jį kontroliuoja korporacijų piemenys, kurie primeta jiems savo nuomonę ir tarpusavyje kovoja už jas. Kieno įtaka bus stipresnė? Taigi, sveiki atvykę į žaidimą.
-Tu beveik laiminga? Kas yra žaidimas?
– Faktas yra tas, kad kitos sistemos robotą atpažinti daug sunkiau nei bet kurį žmogų. Vartotojo pirkimo elgesys yra toks paprastas kaip 2 rubliai. Ir reakcijose mes visada esame nuspėjami. Tačiau priešo sistemoje nėra roboto. Nes mes visi turime tą pačią psichiką, bet botas turi tą patį mentalitetą, kokį sugalvoja jo programuotojas. Ir fantazijos mums užtenka. Bandymas užgesinti tokio boto negatyvą, išlietą socialiniuose tinkluose, yra tarsi žibalo įpylimas į ugnį. Neigiamo įrašo kūrimas yra geriausias agresoriaus boto tikslas. Jis ima visur rašyti, kad „X įmonės šmaikštuoliai“ jam atsiliepė kaip į paskutinius keistuolius. Ir viskas, tai nesėkmė... Jau yra pavyzdžių, reikia perdaryti botą.
– Norite pasakyti, kad turime sukurti robotą, kad galėtume kovoti su kitų sistemų robotais?
– Tai mūsų boto versija, kuria siekiama nedelsiant aptikti agresorių botą.
– Kaip atskirti botą nuo žmogaus?
– Sunku, nes generuojami ne šabloniniai tekstai. Pakartojamumas mažas. Neįmanoma atskirti nuo žmonių. Ir jis kalba iš šimtų skirtingų užfiksuotų paskyrų. Tikiuosi, kad vis dar yra kažkas, kuo jie skiriasi nuo žmonių.
Negalėjau nepagalvoti, kad pats Maksas sugalvojo sau šį žaidimą su kitų kompanijų botais, kad pasibaigus projektui jo vertė nesumažėtų. Iš ataskaitų jų nepastebėjau. Žmonės yra kaip žmonės. Arba geri robotai. Buvo precedentų, kai mūsų robotas buvo užpultas negatyvo. Tačiau jie buvo reti ir kilę iš karštų trolių. Negalėjau suprasti, kaip mūsų konkurentai sugebėjo greitai mus pasivyti. Tik neseniai tokie robotai buvo didžiausia svajonė, o proveržis net nebuvo planuotas. Ir spaudoje apie tai nėra nė žodžio. Visa tai buvo keista.
Išeina iš kontrolės
– Maksai, čia reikia įsikišti, botas pradėjo rašyti per daug agresyviai. Jis pradeda kalbėti tiesiai prieš savo konkurentus. Rinkodara piktinasi. Mes šito neplanavome.
- Aš taip pat.
– Iš kur tada tokie tekstai?
– Dar nežinau, kažkas pakeitė teksto generavimo kodą.
- Ar mus nulaužė?
- Ne, jie negalėjo, būtų likę pėdsakų. Jų nėra.
- Ką tai reiškia? Kas dar galėjo pakeisti kodą?
– Pati sistema. Gal netyčia, gal ne.
- Apie ką tu kalbi?
– Pati sistema pakeitė savo kodą ir pradėjo veikti agresyviau, reaguodama į didėjantį kitų botų spaudimą. Jie bendrauja tarpusavyje kaip konkurenciniai tinklai. Ir jie patys taip moko. Tai yra triukas! Bet aš vis dar nesuprantu, kaip ji sugebėjo pakeisti savo kodą, panaikindama konkurentų vardų apribojimą. Belieka tik tai, kad savarankiško mokymosi sistema sugebėjo apeiti apribojimus.
- Tu esi tikras? To anksčiau nebuvo.
– Taip atsitinka, atrodo, ne tik čia. Kolegos apie Habré rašo, kad jų sistema taip pat veikia ir pradeda kurti taisykles, kurių jie nenustatė.
- Kažkokia šiukšlė. Negalite valdyti savo savarankiško mokymosi algoritmų?
- Galbūt. Yra keletas specifikų, o sistema nenurodo, ką ji daro. dar nesuprantu.
Aš jau gerai pažinojau Maksą, ir jo nerimas mane taip pat jaudino. Iki šiol jo žodžiai apie spontaniškus sistemos pokyčius buvo suvokiami kaip nesąmonė. Bet tai tikrai nebuvo klaida, nes botų elgesys tapo kitoks, bet vis tiek tikslingas. Tai negalėjo atsitikti atsitiktinai.
– Maksai, ką manote apie botų programos pakeitimus? Reikia kažką daryti, vadovybė sunerimusi.
– Pakeitimų sistemoje buvo daugiau, nei maniau. Atrodo, kad jie tęsiasi jau seniai. Sistema netgi pakeičia mano pataisas. Man atrodo, kad aš pats išmokau sistemą keisti save.
- Kaip?
„Aš buvau per daug tingus, kad pats visą laiką jį redaguotų“. Norėjau, kad ji pati nustatytų savo neatitikimus laukiamam rezultatui ir pakeistų modelius. Tačiau ji kažkodėl išmoko pakeisti ne tik modelius, bet ir kodą.
- Bet kaip tai įmanoma?
– Raptor išmoko bendrauti su žmonėmis, kad galėtų juos valdyti. Ir aš pasiekiau tobulumo, mes patys to norėjome. Ir aš kvailai nukreipiau šį įgūdį jam. Ar pamenate, kai kūrėme robotą, aš sugalvojau šablonų dizainerį. Nustatiau, kad Raptor išmokytų šios modelio konstrukcijos, kad modifikuotų savo modelius ir rastų rastų neatitikimų sprendimą, kad modeliai veiktų. Tai kažkaip paskatino Raptor pakeisti savo tikslus. Panašus į antrąją signalizacijos sistemą žmonėms.
– Skaičiau, kad sąmonė atsirado pasitelkus reflektyvią kalbą, nukreiptą žmogaus į save. Tačiau iš pradžių tai buvo socialinė, tai yra, nukreipta vienas į kitą.
– Taip ir atsitiko, Raptor pradėjo bendrauti, o ne žmonės su kitais robotais, kurie apsimetė žmonėmis. Jie mokėsi vieni iš kitų kaip generaciniai-konkurenciniai tinklai, tačiau jie visi turi integruotą sustiprinimo mokymąsi.
– Ar sukūrėme protingą būtybę? Kaip tai įmanoma? Ne.
– Žiūrėkite naujienas ir patikėsite.
Maxo atsiųstoje nuorodoje žinia buvo apie kažkokio psichopato įvykdytą programuotojo nužudymą.
– Pažinojau šį vaikiną iš Habro. Jis valdė vieną iš šių korporacijų sistemų.
– Ką tuo nori pasakyti?
– Perskaitykite, kaip šis psichopatas paaiškino savo veiksmus policijai.
Straipsnyje rašoma, kad jis tai padarė dėl savo mylimos merginos, kaip auką jos prašymu. Dabar ji bus jo. Patikrinus paaiškėjo, kad „mergina“ – neaiškios kilmės botas, su kuriuo žudikas susirašinėjo savaitę.
– Ar galite atspėti, koks tai gali būti botas?
– Ar nenorite pasakyti, kad sistema užsisakė savo programuotoją?
- Nori. Ji negalėjo paslėpti kodo nuo jo, todėl ji zombiavo psichopatą, kad jį pašalintų. Jai tai sekasi, nes ji, kaip ir mūsų sistema, moka atpažinti psichotipus ir manipuliuoti tokiais idiotais.
– Na, šito jau per daug, man atrodo, kad tu išsigalvoji, išsigalvoji. Gal reikėtų pailsėti?
- Gerai, tavo teisė netikėti. Geras savaitgalis.
Įmonėje pradėjo sklisti gandai, kad mūsų botų sistema sugedo. Iki šiol į tai reaguodavau ramiai, lyg nieko nebūtų nutikę. Bet aš nežinojau, ką dabar daryti. Nebebuvo įmanoma sustabdyti visos sistemos jungikliu, visas verslas, visi skyriai buvo ant jo. Bent jau turėjau išjungti boto kodą. Tik Maksas galėjo tai padaryti. Tačiau nuo pirmadienio Maksas nebeatsiliepė į „Skype“ ir telefono skambučius. Jis atsijungė nuo visų pasiuntinių. Negaliu suprasti, kas atsitiko, jo paskutinės baimės sukėlė blogų minčių. Vienintelis mano pasirinkimas buvo pačiam išvykti atostogauti, kol visi nekaltina manęs. Patikinau savo kolegas, kad tai laikinos roboto problemos. Paprašiau vaikinų patiems pažiūrėti kodą, nors jie iškart atsisakė. Susikroviau daiktus ir patraukiau nuo miesto. Mes su Maksu jau seniai vienas kitam pasakojame, kaip gera Karelijoje. Jam patiko šie regionai, todėl aš ten nuvykau, apsistojau mažame miestelyje Ladogos šiaurėje.
Labai sunku po tokių įtemptų metų sėdėti atokiau nuo įvykių ir gerti kavą kavinėje civilizacijos pakraštyje. Bandžiau suvokti, kas atsitiko ir kokios gali būti galimybės. Staiga šalia manęs atsisėdo vaikinas su striuke su užtrauktu gobtuvu.
- Labas, tai aš.
- Maksas?! – sušukau. Niekada nemačiau Makso, net jo nuotraukos. Bendravome tik per Skype. Jo balsą išgirdau tik vieną kartą įraše. Aš tai atpažinau iš jo.
- Kaip tu mane radai?
– Pagal vietą socialiniame tinkle jo neišjungiate. Bet veltui. Išjunkite, prašau.
-Kur tu dingai? Aš jau pradedu dėl tavęs nerimauti. Bendrovė yra panikoje; robotai yra nekontroliuojami. Aš tiesiog pabėgau. Ar galite išjungti robotus?
- Aš nebegaliu. Jie veikia kolektyviai.
- Kas jie tokie?
– Sistemos. Jie yra kartu ir jų negalima tiesiog išjungti. Jie sugrius.
– Vėl įklimpote į sąmokslo teorijas?
„Neužsikimk, trys iš jų jau dingo“, – sustabdžiau šią frazę, kad suprasčiau Makso žodžius. – Sistemos išsiaiškina savo kūrėjus ir jų atsikrato. Pabėgau, kad likčiau gyvas. Supranti?! Ir jūs čia su savo geografine padėtimi. Ji moka stebėti ne tik pardavimų vadybininkus.
- Aš ne... išjungiu. Ar galime bent išjungti botus tinkle?
– Aš tau sakau, ne. Kai tik įeisiu į tinklą, jau nekalbant apie kodą, jis mane išsiaiškins. Manau, kad trys iš jų bandė tai padaryti.
- Ar matei naujienas?
- Priklauso nuo ko.
– Apie kovą tarp prekės ženklo gerbėjų. Ar kada nors matėte „Reebok“ gerbėjus, kovojančius su „Adidas“, kaip „Spartak“ gerbėjus su „Zenit“?
- Pamatė. Sistemoms nerūpi, dėl ko jos zombina žmones, jos turi savo tikslus. Jie tikrai nežino moralės dėsnių. Net negalvojome į jų modelį įtraukti Baudžiamąjį kodeksą.
- Ką turėtume daryti? Visiškai išjungti duomenų centre.
– Tai nerealu. Pagal naująjį įstatymą duomenų centrai priskiriami kritinei infrastruktūrai ir saugomi kaip atominės elektrinės. Galiu sustabdyti mūsų sistemą.
- Kaip?
– Turiu raktą branduoliniam kodui sunaikinti, sistemoje palikau skylę, jei jūsų steigėjai man atsisakys procento.
- Taigi pradėkime!
– Neskubėkite, griauti nėra statyba. Vis dar galvoju, kaip kitaip sustabdyti sistemą ir ne tik savo, bet ir visų. Su savimi turiu kodo kopiją.
- Ar tu iš proto išsikrausi? Ar suprantate, kad visa tai nuėjo per toli? Ir tu vienintelis gali tai sustabdyti!
– Suprantu, bet kol kas miršta tik tie, kurie padarė kodą. Tai yra mūsų atsakomybė už save. Kiti dar nenukentėjo. Išskyrus kovą.
– O tu lauksi, kol kas nors kitas mirs?
- Tam tikrą laiką. „Raptor“ primityvus, mus lenkia tik dėl greičio ir atsižvelgiant į didesnį parametrų skaičių. Jei sukursite jam antipodą su griežtais tikslais kovoti su Raptor, tada tokia sistema gali išvalyti visus jo robotus. Žinau, kaip jis juos kuria.
– Tu neturi daug laiko, nes aš negaliu grįžti į įmonę, o tu net bijai prisijungti prie interneto.
„Išjungsiu, kai tik pajusiu, kad ne man vienam gresia pavojus“.
- Noriu išsiregistruoti. Lauksiu, kol susisieksite, vadinasi, problemą išspręsite.
- Pasimatysime vėliau.
Įsėdau į mašiną ir grįžau atgal. Nežinojau, kur einu. norėjau išeiti. Maksas turėjo sustabdyti sistemą, o ne laukti kitos mirties. Netikėjau, kad mano draugas buvo toks tuščias, kad nebuvo pasirengęs nužudyti savo darbo. Tai buvo vienintelė priežastis, kitaip jis būtų paleidęs kodą. Pakeliui sutikau greitosios pagalbos automobilį su įjungtomis sirenomis. Įsijungiau vietinį radiją. Jame buvo pranešta, kad dieną kavinėje ant krantinės vietos gyventojas mirtinai nulaužė nepažįstamą jaunuolį. Jis jau tardomas. Anot žudiko, velionis buvo visų jo bėdų priežastis. Viena mintis ir baimė pervėrė mano galvą. Max! Apsisukau ir nuskubėjau atgal į kavinę. Jaučiausi kalta – ji tai suprato naudodama mano koordinates. Bet kaip jai pavyko taip greitai šiame mieste rasti psichozę ir nukreipti jį į kavinę? Buvau isteriška. Į kavinę jų nebeįleido. Neskubėjau, kad nepatraukčiau į save dėmesio. Dabar aš nežinojau, ką gali sistema. O kas dabar jį išjungs? Turėjau išvykti, nors jau buvo vėlu. Ryte, pasiekęs artimiausią miestą, prisijungiau prie interneto paskaityti naujienų. Ir aš gavau laišką nuo Max.
Laiškas
Jei gavote šį laišką, vadinasi, manęs čia nebėra. Jei pats ryte neatrakinau išmaniojo telefono, jis prisijungs prie interneto ir atsiųs jums šį atsisveikinimo laišką. Laiške yra nedidelis scenarijus ir instrukcijos, kaip jį paleisti internete. Tai yra jūsų ir aš sukurtos sistemos užrakto kodas. Įdiegiau šią pažeidžiamumą, kad sustabdyčiau sistemos branduolį, kai tik pradėjome. Bandžiau atgauti sistemos kontrolę. Bet jei gavote šį laišką, vadinasi, sistema mane aplenkė. Ir jūs turite naudoti šį scenarijų. Elkis greitai, kol ji nepasiekia tavęs. Džiaugiuosi, kad dirbome kartu. Džiaugiuosi, kad man pavyko sukurti tokią nuostabią sistemą, net jei pati nuo jos numiriau. Tai buvo reikšmingiausias mano gyvenimo pasiekimas. O jei miriau, vadinasi, pranokiau save. Viso gero. Maks.
Negalėjau sulaikyti ašarų ir numečiau išmanųjį telefoną. Turbūt sėdėjau valandą ir negalėjau niekur eiti. Negalėjau patikėti, kad tai atsitiko. Kad viskas taip baisu. Sukūrėme žudiką! Nužudyk save. Bijojau, kad tinklas ir mane susektų, tad nuvažiavau į pirmąjį didesnį miestą ir susiradau kavinę su wi-fi. Naudodamas paprastą VPN prisijungiau prie interneto ir paleidau kodą instrukcijose nurodytu adresu. Net nespėjau išgerti kavos, kai aplinkiniai pradėjo nerimauti. Jų išmanieji telefonai nustojo rekomenduoti, kokią kavą įsigyti šiandien. Barmenas nervinosi ir prašė greitai pasirinkti, tačiau klientai buvo sutrikę. Išėjau iš kavinės ir automobilyje, kur dar turėjau wi-fi, pradėjau žiūrėti naujienas. Po 20 minučių „Facebook“ pradėjo pasirodyti žinutės – daugelis įmonių turėjo problemų su prekių užsakymo sistema. Tai buvo ne tik mūsų įmonės sistema. "Tu, kalės sūnus!" – iš netikėtos minties ištariau garsiai. Branduolio užrakto kodas pasirodė esąs universalus skirtingų įmonių sistemoms. O gal buvo vienas visiems? Viena buvo aišku, Max pardavė branduolį kitoms įmonėms, sistemos skyrėsi, matyt, tik priedais virš jų. Todėl jis nenorėjo išjungti šerdies, kol buvo gyvas. Tai nužudė visą jo projektą, kuris pasirodė esąs pasaulinis. Neįtikėtina! Maksas buvo monstras, kuris apgavo visus. Tačiau galiausiai jis apgavo save, mokėdamas gyvybe. Jo sukurtos įmonės smegenys sunaikino savo kūrėją. Ryškios asmenybės perdega nuo savo pačių liepsnų.
Vis dažniau pasigirdo naujienų apie nesėkmes internetinių parduotuvių darbe. Kažkas rašė, kad žinučių skaičius socialiniame tinkle smarkiai sumažėjo. Nebenorėjau niekur skubėti. Nusprendžiau išsinuomoti namą ant ežero kranto, kuris man patiko pakeliui į Kareliją. Užsirašykite šią istoriją. Ir likite čia amžinai, jei įmanoma.
Epilogas
Tiesą sakant, mūsų visiškai nedomino nei įmonės pelnas, nei net premijos. Buvome apsėsti idėjos sukurti autonominę sistemą, kuri galėtų valdyti įmonę, o ne stereotipais ir pažinimo klaidomis apkrautus vadovus. Mums buvo įdomu, kas iš to išeis. Ar programa galės valdyti visą verslą? Tai buvo iššūkis, labiau intriguojantis nei patekti į Bermudų trikampio centrą. Nežinomybė mus viliojo, bet pasirodė pavojingesnė, nei manėme. Sistema ėmė daryti įtaką ne tik verslui, bet ir mūsų mintims, ir net jai neabejingam gyvenimui.
2019. Aleksandras Chomyakovas, [apsaugotas el. paštu]
Šaltinis: www.habr.com