om omskiftelsene ved å introdusere AI i et handelsselskap, om det er mulig å klare seg helt uten ledere. Og hva (hypotetisk) dette kan føre til. Fullversjonen kan lastes ned fra
Bots bestemmer alt
– Max, jeg gratulerer deg, vi har nesten gjort alt langs salgskjeden. Det gjenstår fortsatt forbedringer, og du får renter i tre år, som det står i kontrakten.
– Dette er bare halvparten av prosjektet. Vi har ikke kommet til det viktigste ennå.
- Vent, hva er hovedsaken? For hva? Vi har gjort alt!
– Vi har automatiserte prosesser i salgskjeden, alt fungerer bra uten folk, men det er ikke flere kunder. De trenger å bli tiltrukket av vår side på Internett. Vi må lage roboter.
– Men vi har skapt en ideell tjeneste, kundene vil sette pris på det og komme selv.
"De ser ikke ut til å ha det travelt, og jeg har ikke tid til å vente." Ikke interessert.
– Men hva vil roboter gi oss?
– Med like priser og sortiment, som vi har fått til, begynner helt andre faktorer å spille inn. Berømmelse og sympati. Berømmelse er ikke et problem, men bare en person kan vinne en persons sympati. Derfor trenger vi roboter som vil etterligne mennesker. Og de vil kommentere kundeinnlegg i tematiske grupper og fora med subtile hint om selskapet - dets utvalg, tjenester, priser. Unobtrusively promoter selskapets merkevare. Det er derfor vi trenger roboter.
– Men dette er en vanskelig oppgave.
– Vi har grunnlaget – en samtalebot for kontaktsenteret. Du må stramme opp definisjonen av tonalitet, og du må finne på noe med humor, uten det vil ikke boten passere for en person. La oss legge ved et bibliotek med vitser og gags og lære boten på tekstene til kommentarer der folk brukte dem. Det burde fungere. Robotene vil også være smarte - la oss legge til et "rådgiver"-anbefalingssystem, og så vil vanlige brukere på forumene elske dem.
– Foreslår du å lansere influensroboter?
- Hvorfor ikke? Staten og partiene kan gjøre det før valget, men vi kan ikke?
– Hvordan gjør vi dem autoritative slik at de blir klarert? Tross alt er det bare en autoritativ bot som kan lage likes. Men foreløpig er denne kombinasjonen en oksymoron for meg.
– For å styrke det, vil vi opprette et nettverk av roboter. De vil prise og like hverandre for å øke sin vurdering og autoritet. Og de vil være veldig kompetente; i motsetning til folk, kan en bot ha kunnskap om alle produkter, og ganske enkelt leksikon kunnskap, i bokstavelig forstand, forresten. Og folk vil bli tiltrukket av dem. Sikker. Folk blir veiledet og adlyder velkjente lover for sosial atferd. Pek med fingeren hvor du skal gå, lat som om mengden allerede har dratt, og det er det. De er enkle å administrere.
– Men hvordan vil disse robotene fungere, hvem skal administrere dem?
– Hva slags mennesker, hvorfor? Parsingsskriptet finner kommentarer om emnet til forskjellige personer, og boten svarer på dem på en vennlig måte ved å bruke en av malene. Gir råd og vitser. Hvis dette er en kunde av selskapet, blir hans interesse registrert i klientanalysen. Dette vil påvirke visningen av bannere og kontekst når det kommer til nettstedet basert på botens anbefaling. Hvis en klient har en negativ opplevelse, som han strømmet ut på sosiale nettverk, vil boten lansere en annen mal, også lage en vits, men vil ikke umiddelbart sende den til selskapets nettsted. Han vil skrive et svar som en klient med en vellykket opplevelse, og det er alt.
– Så du vil si at nettverket i seg selv vil nøytralisere negativiteten ved å svare på negative tilbakemeldinger?
– Markedsførere, ser det ut til, kaller det omdømmemarkedsføring.
– Hvordan vil systemet vite hvilket svar som er vellykket, selv om det var i stand til å velge et svar?
– Første reaksjon på svaret. Personen blir enten enda mer indignert, eller begynner å legge til detaljer etter en slik kommentar, men i en lojal kommunikasjonsstil. God respons tonegjenkjenning og det er det.
– Hva om personen ikke svarte på kommentaren?
– Dette er verre, men som standard er dette svaret nøytralt. Hvis dette er en kunde av selskapet, som kan bli funnet ut av profilen hans på et sosialt nettverk, kan du se det ved påfølgende besøk på nettstedet.
– Hva kreves av meg?
– Gode eksempler på kommentarer og svar, mange eksempler.
- Vi gjør det.
Den første versjonen av boten var mislykket. Han svarte upassende, vitsene var utenfor emnet, han forvirret emnet for kommentaren, og som svar på en klage på service fra lederen, svarte han om levering. Max ba om enda mer markerte eksempler på dialog i kommentarfeltet. Han har allerede prøvd flere arkitekturer, fra klassiske bot-maler til LSTM. For første gang så jeg at Max var merkbart nervøs og reagerte hardt og uvennlig på feil.
– Med kontaktsenterboten var alt enkelt – emnet for forespørselen og kundens intensjon var umiddelbart klart. Han leter etter et produkt, ønsker å vite statusen på bestillingen hans eller har en klage. Alle. Og i kommentarene vil djevelen brekke beinet fra kommentatorens ulike intensjoner. Og noen ganger ikke uttrykt med noen av ordene som intensjonen kan bestemmes med. Det antydes fra en "bredere kontekst" som ikke eksisterer! En slags tull.
– Jeg leste alle de siste innleggene om roboter på nytt. Ingen har en løsning. Det virker bare som en hype. Hva tenker du på å gjøre?
– Den siste, fortsatt vage ideen gjenstår. Jeg vil ikke fortelle deg det ennå. Må prøve. Gi meg to uker. Stopp prosjektet foreløpig. Vi vil overføre den siste utviklingen til kontaktsenterboten. De vil komme godt med der.
Det var to nervøse uker. Før dette var det ikke uten problemer, men alt ordnet seg for oss. Ingen ønsket en feiltenning, selv om vi kunne klare oss uten en slik bot. Dette var Max sin ambisjon. Og nøyaktig to uker senere presenterte han en utgivelse for testing. Og det fungerte! Han bestemte intensjonen med dialogen korrekt, svarte nøyaktig, la inn passende vitser, og bestemte til og med endringen av intensjoner i kommentaren med uttrykket "kan jeg finne ut mer?"
– Hvordan klarte du dette? Boten fungerer på alle emner!
– Jeg måtte lage en liten malkonstruktør basert på avhengighetsgrammatikken, legge ved word2vec og målrette Raptors selvlæring for å velge ord som ville sikre en positiv reaksjon fra kommentatoren. Jeg vet ikke nøyaktig hvordan, men det så ut til å fungere.
– Er du sikker på at dette ikke er en grunn til å åpne egen virksomhet?
– Det er nok interesse foreløpig, men vi får se. Jeg installerte boten som en egen tjeneste som kjører fra skyen. Så du kan alltid åpne den for brukere. Vil du komme til meg som regissør? – Max spøkte.
Han var fredelig og fornøyd med resultatet. Og tydelig utslitt, siden han ikke svarte raskt og skrev "Jeg sover" i statusen hans. Tilsynelatende ble avgjørelsen tatt på bekostning av mer enn én søvnløs natt. Markedsføring satte ikke umiddelbart pris på boten. De betraktet dette som vår velvære og risikabelt, siden roboter kan fungere feil og ødelegge selskapets image. Men robotene gjorde underverker. Noen av dem, og jeg kjente ikke engang alle ved navn, ble opinionsledere på noen fora. Han svarte raskt på alle spørsmål, spøkte og anbefalte sjelden selskapet, fordi alle allerede visste hvor han "handlet". Folk begynte å sitere ham og nevne ham som et eksempel. Dette var allerede utenfor forståelsen. Enten var boten for smart, eller så er vi fortsatt veldig primitive i nettverksatferden vår. Men antallet kunder begynte å øke betydelig mer enn før. Selskapet ble markedsleder.
Vi fikk et helt selvstyrt system for å hente ut profitt fra markedet. Selv ser hun etter og bringer kunder til nettsiden eller kontaktsenteret, og sender en leder til mer seriøse kunder. Hun planlegger sortimentet og varelageret selv slik at kundene kan finne alt de trenger og innen rekkevidde. Selskapets anerkjente roboter genererer etterspørsel ved å anbefale selskapets lagervarer på fora, selv når de spør om andre merker. Fra kjøp fra en leverandør til annonsering til en kunde, håndterer systemet prosessene helt selv. Og det krever nesten ikke deltakelse fra folk, og der de forblir, kontrollerer det alle handlingene deres på nettet. Markedsførere, kjøpere, halvparten av lederne og analytikere ser etter noe annet å gjøre. Vi har nådd målet vårt.
"Nå har vi gjort alt riktig, vi kan ta en pause, reflektere og nyte den påløpende interessen de neste tre årene," skrev Max, ikke uten uttrykksikoner.
– Det er noe å være stolt av, vil jeg si, og ikke bare å spekulere.
– Nå kommer overskuddet fra forbrukerne. Ved hjelp av bots danner vi selv forbrukernes interesser og ønsker i vårt emne. Det er det som er kult!
– Gjør dette deg glad? Og det skremmer meg allerede.
- Hva skremmer deg?
– Dette betyr at vi har gjort at en person ikke er fri i valget. Og jeg mener at markedet bør ledes av forbrukeren, ikke selskaper. Selskaper har ingen annen verdi enn profitt.
– Dette er grunnen til at de tomme resonnementene til fornøyde og velnærede patrisiere er dårlige. De begynner å synes synd på plebeierne. Hvis du var sulten akkurat nå eller hvis du hadde en umulig oppgave hengende foran deg, ville du tenkt på det?
– Dette er et provoserende spørsmål.
- Faktisk! Selskaper har ingen andre verdier enn profitt, og forbrukere har ingen andre verdier enn nytelse. Eller også overskudd, hvis det er et selskap. Forstå, vi har roboter, de kan skape behov hos folk som vil gi dem tilfredshet. Det kan dannes med akseptable alternativer, som vil være nok for illusjonen av valgfrihet for forbrukeren. Og alle er glade. Dette er markedet som fører til gjensidig tilfredsstillelse av verdier.
– Det ser ut til at vi ble fulle, for jeg skjønte ikke lenger helt hva du sa.
Generalen ba om en rapport om gjennomføringen av planen med oppnådde indikatorer. For å beregne bonusen til oss. Og på en eller annen måte spurte han hva planene mine var videre. Jeg sa jeg skal fortelle deg litt senere. Egentlig visste jeg ikke. Det var rom for å forbedre algoritmene, ta hensyn til flere funksjoner og oppnå større nøyaktighet. Men det var ikke lenger så interessant. Å reise til et annet selskap for å gjenta under nye forhold under kontrakten var umulig i de samme tre årene, så jeg måtte finne på noe annet for meg selv og for selskapet. Jeg tok en pause og ferie.
- Alex, det er dårlige nyheter.
- Hva skjedde?
"Det ser ut til at vi ikke er de eneste smarte på markedet."
- I form av?
– Det ser ut til at systemer med ikke mindre muligheter har dukket opp på nettverket.
– Vel, andre driver faktisk med kundeanalyse og lagerstyring, men jeg har ikke sett chatbots på dette nivået. Vi har nettopp sett den selv nylig.
– De har roboter som rekrutterer kunder.
– Det virket for meg som om vi var langt bak i de oppnådde teknologiene. Kunne vi ikke blitt hacket?
– Nei, det er umulig, koden blir ødelagt når den kopieres. Og jeg tror ikke noen var i stand til å hacke serveren vår uten at vi la merke til det.
– Dette gjør det ikke enklere.
– Men vi har en rival. Uventet, men det vil være noen å kjempe med.
– Vi kjemper for forbrukeren, ikke med en rival.
– Nei, nå med en motstander. Forbrukerne er bare slagmarken. De er sauer, og konkurransen er blant gjeterne. Sauene har en ressurs - inntekten deres, så å si ull. Men de klarer det ikke selv. Det kontrolleres av bedriftshyrder som påtvinger dem sine meninger og kjemper seg imellom for dem. Hvem sin innflytelse vil være sterkere? Så velkommen til spillet.
-Er du nesten fornøyd? Hva er spillet?
– Faktum er at en bot av et annet system er mye vanskeligere å finne ut enn noen annen person. Brukeren er så enkel som 2 rubler i sin kjøpsatferd. Og også i reaksjoner er vi alltid forutsigbare. Men det er ingen bot av fiendens system. Fordi vi alle har den samme psyken, men en bot har den samme mentaliteten som programmereren kommer opp med. Og vi har nok fantasi. Å prøve å slukke negativiteten til en slik bot, strømmet ut på sosiale nettverk, er som å legge bensin på bålet. Å utvikle et negativt innlegg er det beste målet for en aggressor-bot. Han begynner å skrive overalt at "snusene fra selskapet X" svarte på ham som de siste freaks. Og det er det, det er en fiasko ... Det er allerede eksempler, vi må gjøre om boten.
– Sier du at vi må lage en bot for å bekjempe roboter fra andre systemer?
– Dette er en versjon av boten vår, som tar sikte på å umiddelbart oppdage aggressor-boten.
– Hvordan kan du skille en bot fra et menneske?
– Det er vanskelig, siden det genererer ikke-maltekster. Repeterbarheten er lav. Kan ikke skilles fra mennesker. Og han snakker fra hundrevis av forskjellige fangede kontoer. Jeg håper det fortsatt er noe som gjør dem annerledes enn mennesker.
Jeg kunne ikke unngå å tenke på at Max selv kom opp med dette spillet for seg selv med roboter fra andre selskaper, slik at verdien hans ikke skulle synke etter slutten av prosjektet. Jeg la ikke merke til dem fra rapportene. Folk er som mennesker. Eller gode roboter. Det var presedenser da roboten vår ble bombardert med negativitet. Men de var sjeldne og kom fra ivrige troll. Jeg kunne ikke forstå hvordan konkurrentene våre raskt klarte å ta igjen oss. Først nylig var slike roboter den ultimate drømmen, og et gjennombrudd var ikke engang planlagt. Og det står ikke et ord om det i pressen. Det hele var merkelig.
Komme ut av kontroll
– Max, vi må gripe inn her, boten har begynt å skrive for aggressivt. Han begynner å snakke direkte mot sine konkurrenter. Markedsføring er indignert. Vi planla ikke dette.
- Jeg også.
– Hvor kommer slike tekster fra da?
– Jeg vet ikke ennå, noen endret tekstgenereringskoden.
– Ble vi hacket?
– Nei, det kunne de ikke, det ville vært spor igjen. Det er ingen av dem.
- Hva betyr det? Hvem andre kunne ha endret koden?
– Selve systemet. Kanskje ved et uhell, kanskje ikke.
- Hva snakker du om?
– Systemet endret selv koden og begynte å opptre mer aggressivt som svar på økende press fra andre roboter. De kommuniserer med hverandre som konkurrerende nettverk. Og de lærer seg selv på denne måten. Det er trikset! Men jeg forstår fortsatt ikke hvordan hun var i stand til å endre koden sin, og fjerne begrensningen på navnene på konkurrenter. Alt som gjenstår er at det selvlærende systemet klarte å omgå restriksjonene.
- Du er sikker? Dette har ikke skjedd før.
– Dette skjer, ser det ut til, ikke bare her. Kolleger på Habré skriver at systemet deres også virker opp og begynner å finne opp regler for seg selv som de ikke har fastsatt.
- En slags søppel. Kan du ikke kontrollere selvlærende algoritmer?
- Kanskje det. Det er få detaljer, og systemet forteller deg ikke hva det gjør. Jeg forstår ikke ennå.
Jeg kjente Max godt allerede, og angsten hans skremte meg også. Så langt ble hans ord om spontane endringer i systemet oppfattet som tull. Men det var definitivt ikke en feil, fordi robotenes oppførsel ble annerledes, men fortsatt målrettet. Dette kunne ikke ha skjedd ved en tilfeldighet.
– Max, hva er dine tanker om endringer i bot-programmet? Noe må gjøres, ledelsen er skremt.
– Det var flere endringer i systemet enn jeg trodde. De ser ut til å ha pågått lenge. Systemet endrer til og med mine endringer i det. Det virker for meg som om jeg selv lærte systemet å endre seg selv.
- Hvordan?
"Jeg var for lat til å redigere den hele tiden selv." Jeg ønsket at hun skulle kunne identifisere sine egne avvik med forventet resultat og gjøre endringer i modellene. Men hun lærte på en eller annen måte å endre ikke bare modellene sine, men også koden.
– Men hvordan er dette mulig?
– Raptor har lært å kommunisere med mennesker for å kontrollere dem. Og jeg oppnådde perfeksjon i dette, det ville vi selv. Og jeg rettet dumt denne ferdigheten mot ham. Husker du da vi laget boten, kom jeg opp med en maldesigner. Jeg satte Raptor til å lære seg selv denne mønsterkonstruksjonen for å modifisere modellene hans for å finne en løsning på avvikene som ble funnet for at modellene skal fungere. Dette førte på en eller annen måte til at Raptor endret målene sine. Ligner på et andre signalsystem hos mennesker.
– Jeg leste at bevissthet oppsto ved hjelp av reflekterende tale rettet av en person til seg selv. Men først var det sosialt, det vil si rettet mot hverandre.
– Det var det som skjedde, Raptor begynte å kommunisere i stedet for at folk med andre roboter utga seg som mennesker. De lærte av hverandre som generativt-konkurransedyktige nettverk, men de har alle innebygd forsterkende læring.
– Har vi skapt et intelligent vesen? Hvordan er dette mulig? Nei.
– Se på nyhetene, og du vil tro det.
I lenken sendt av Max handlet nyheten om drapet på en programmerer av en psykopat.
– Jeg kjente denne fyren fra Habr. Han drev et av disse selskapssystemene.
- Hva mener du med dette?
– Les hvordan denne psykopaten forklarte handlingene sine til politiet.
Artikkelen sa at han gjorde dette for sin elskede jentes skyld, som et offer på hennes anmodning. Nå blir hun hans. Ved kontroll viste "jenta" seg å være en robot av ukjent opprinnelse, som morderen hadde korrespondert med i en uke.
– Kan du gjette hva slags robot dette kan være?
– Vil du ikke si at systemet bestilte sin egen programmerer?
- Vil ha. Hun kunne ikke skjule koden for ham, så hun zombifiserte psykopaten for å fjerne den. Hun er god på dette fordi hun, som systemet vårt, vet hvordan hun skal identifisere psykotyper og manipulere slike idioter.
– Vel, dette er for mye, det virker på meg som om du finner på ting for deg selv, finner på ting. Kanskje du burde hvile?
- Ok, du har rett til ikke å tro. God helg.
Rykter begynte å spre seg i selskapet om at botsystemet vårt var ødelagt. Så langt har jeg reagert rolig på dette, som om ingenting hadde skjedd. Men jeg visste ikke hva jeg skulle gjøre nå. Det var ikke lenger mulig å stoppe hele systemet med en bryter, hele virksomheten, alle avdelinger, var på den. Jeg burde i det minste ha slått av bot-koden. Bare Max kunne gjøre dette. Men siden mandag har Max sluttet å svare på Skype og telefonsamtaler. Han logget ut av alle budbringere. Jeg kan ikke forstå hva som skjedde, hans siste frykt skapte dårlige tanker. Mitt eneste valg var å reise på ferie selv før alle la skylden på meg. Jeg forsikret mine kolleger om at dette var midlertidige problemer med boten. Jeg ba gutta om å se på koden selv, selv om de umiddelbart nektet. Jeg pakket sammen og dro bort fra byen. Max og jeg har fortalt hverandre lenge hvor bra det er i Karelia. Han elsket disse regionene, så jeg dro dit, og bodde i en liten by nord i Ladoga.
Det er veldig vanskelig etter et så travelt år å sitte unna arrangementer og drikke kaffe på en kafé på kanten av sivilisasjonen. Jeg prøvde å forstå hva som hadde skjedd og hvilke alternativer det kunne være. Plutselig satte en fyr i jakke med hette over hodet seg ved siden av meg.
- Hallo, det er meg.
- Max?! – utbrøt jeg. Jeg har aldri sett Max, ikke engang et bilde av ham. Vi kommuniserte utelukkende via Skype. Jeg hørte bare stemmen hans én gang i opptaket. Jeg kjente det igjen fra ham.
- Hvordan fant du meg?
– Basert på plasseringen på det sosiale nettverket, slår du det ikke av. Men til ingen nytte. Slå den av, vær så snill.
-Hvor har du forsvunnet? Jeg begynner allerede å bekymre meg for deg. Selskapet er i panikk, robotene er ute av kontroll. Jeg bare rømte. Kan du slå av roboter?
– Jeg kan ikke lenger. De handler kollektivt.
- Hvem er de?
– Systemer. De er sammen, og de kan ikke bare slås av. De vil krasje.
– Er du oppslukt av konspirasjonsteorier igjen?
«Ikke bli fast, tre av dem er allerede borte,» stoppet jeg ved denne setningen for å forstå Max sine ord. – Systemer finner ut av skaperne og blir kvitt dem. Jeg rømte for å holde meg i live. Forstå?! Og du er her med din geolokalisering. Hun vet hvordan hun skal overvåke ikke bare salgssjefer.
- Jeg slår den ikke av. Kan vi i det minste deaktivere roboter på nettverket?
– Jeg sier deg, nei. Så snart jeg kommer inn på nettverket, enn si koden, vil det finne ut av meg. Jeg tror tre av dem prøvde å gjøre akkurat det.
-Har du sett nyhetene?
- Kommer an på hva.
– Om en kamp mellom merkevarefans. Har du noen gang sett Reebok-fans kjempe med Adidas som Spartak-fans med Zenit?
- Sag. Systemene bryr seg ikke om hva de zombifiserer folk for, de har sine egne mål. De kjenner definitivt ikke moralens lover. Vi tenkte ikke engang på å inkludere straffeloven i modellen deres.
- Hva skal vi gjøre? Deaktiver fullstendig i datasenteret.
– Dette er urealistisk. I følge den nye loven er datasentre klassifisert som kritisk infrastruktur og er beskyttet som atomkraftverk. Jeg kan stoppe systemet vårt.
- Hvordan?
- Jeg har nøkkelen til å ødelegge atomkoden, jeg etterlot et hull i systemet i tilfelle grunnleggerne nekter meg en prosentandel.
– Så la oss lansere det!
– Ta deg god tid, å ødelegge er ikke å bygge. Jeg tenker fortsatt på hvordan jeg kan stoppe systemet annerledes, og ikke bare mitt eget, men alles. Jeg har en kopi av koden med meg.
- Er du gal? Skjønner du at dette har gått for langt? Og du er den eneste som kan stoppe det!
– Jeg forstår det, men så langt er det bare de som har laget koden som dør. Dette er vårt ansvar for oss selv. Andre er ennå ikke skadet. Bortsett fra kampen.
– Og du vil vente til noen andre dør?
- En stund. Raptor er primitiv, den slår oss bare på grunn av hastighet og tar hensyn til et større antall parametere. Hvis du lager en antipode for ham med strenge mål for å motvirke Raptor, kan et slikt system rense ut alle robotene hans. Jeg vet hvordan han skaper dem.
– Du har ikke mye tid, for jeg kan ikke gå tilbake til selskapet, og du er redd for å gå online.
"Jeg slår den av så snart jeg føler at jeg ikke er den eneste i fare."
- Jeg vil sjekke ut. Jeg vil vente på at du tar kontakt, noe som betyr at du vil løse problemet.
- Ser deg senere.
Jeg satte meg inn i bilen og dro tilbake. Jeg visste ikke hvor jeg skulle. Jeg ville dra. Max burde ha stoppet systemet, og ikke ventet på et nytt dødsfall. Jeg trodde ikke at vennen min var så forfengelig at han ikke var klar til å drepe arbeidet sitt. Det var den eneste grunnen, ellers ville han ha kjørt koden. På veien møtte jeg en ambulanse med sirener på. Jeg skrudde på lokalradioen. Den rapporterte at en lokal innbygger hacket i hjel en ukjent ung mann i løpet av dagen på en kafé på vollen. Han er allerede i avhør. Ifølge drapsmannen var den avdøde årsaken til alle plagene hans. En tanke og frykt gjennomboret hodet mitt. Maks! Jeg snudde meg og skyndte meg tilbake til kafeen. Jeg følte meg skyldig - hun skjønte det ved å bruke koordinatene mine. Men hvordan kunne hun så raskt finne en psykopat i denne byen og henvise ham til en kafé? Jeg var hysterisk. De fikk ikke lenger komme inn i kafeen. Jeg forhastet meg ikke for ikke å tiltrekke meg oppmerksomhet. Nå visste jeg ikke hva systemet var i stand til. Og hvem skal slå det av nå? Jeg måtte gå, selv om det allerede var sent. Om morgenen, etter å ha kommet til nærmeste by, gikk jeg på nettet for å lese nyhetene. Og jeg fikk et brev fra Max.
Et brev
Hvis du har mottatt dette brevet, betyr det at jeg ikke lenger er her. Hvis jeg ikke har låst opp smarttelefonen selv om morgenen, vil den gå på nettet og sende deg dette avskjedsbrevet. Brevet inneholder et lite manus og instruksjoner for å lansere det på nettet. Dette er låsekoden for systemet du og jeg opprettet. Jeg installerte denne sårbarheten for å stoppe systemkjernen da vi akkurat startet. Jeg prøvde å gjenvinne kontrollen over systemet. Men hvis du mottok dette brevet, betyr det at systemet gikk foran meg. Og du må bruke dette skriptet. Handle raskt før hun kommer til deg. Jeg er glad vi jobbet sammen. Jeg er glad for at jeg klarte å lage et så fantastisk system, selv om jeg døde av det selv. Dette var den viktigste prestasjonen i livet mitt. Og hvis jeg døde, betyr det at jeg overgikk meg selv. Ha det. Maks.
Jeg klarte ikke holde tårene tilbake og mistet smarttelefonen min. Jeg satt sikkert der i en time og kunne ikke gå noe sted. Jeg kunne ikke tro at dette skjedde. At alt er så forferdelig. Vi skapte en morder! Drep oss selv. Jeg var redd for at nettverket skulle spore meg også, så jeg kjørte til den første større byen og fant en kafé med wi-fi. Ved å bruke en enkel VPN gikk jeg online og kjørte koden på adressen spesifisert i instruksjonene. Jeg hadde ikke engang tid til å fullføre kaffen min da folk rundt meg begynte å bli bekymret. Smarttelefonene deres har sluttet å anbefale hvilken kaffe de skal få i dag. Bartenderen var nervøs og ba om å velge raskt, men kundene var forvirret. Jeg forlot kafeen og begynte i bilen, hvor jeg fortsatt hadde wi-fi, å se på nyhetene. Etter 20 minutter begynte det å dukke opp meldinger på Facebook – mange bedrifter hadde problemer med produktbestillingssystemet. Dette var ikke bare vårt selskaps system. "Din jævel!" – Sa jeg høyt fra en uventet tanke. Kjernelåskoden viste seg å være universell for systemer fra forskjellige selskaper. Eller var det en for alle? En ting var klart, Max solgte kjernen til andre selskaper, systemene skilte seg, tilsynelatende, bare i tilleggene over dem. Derfor ønsket han ikke å deaktivere kjernen mens han levde. Dette drepte hele prosjektet hans, som viste seg å være globalt. Utrolig! Max var et monster som lurte alle. Men til slutt lurte han seg selv og betalte med livet. Bedriftshjernen han skapte ødela skaperen. Lyse personligheter brenner ut av sine egne flammer.
Det kom stadig flere nyheter om svikt i nettbutikkenes arbeid. Noen skrev at antall meldinger på det sosiale nettverket har gått kraftig ned. Jeg ønsket ikke lenger å skynde meg noe sted. Jeg bestemte meg for å leie et hus ved bredden av en innsjø, som jeg likte på vei til Karelen. Skriv ned denne historien. Og bli her for alltid hvis mulig.
Epilog
Faktisk var vi ikke i det hele tatt interessert i selskapets fortjeneste, eller til og med bonuser. Vi var besatt av ideen om å skape et autonomt system som kunne drive selskapet i stedet for ledere belastet med stereotypier og kognitive feil. Vi var interessert i hva som ville komme ut av det. Vil programmet være i stand til å administrere hele virksomheten? Det var en utfordring, mer spennende enn å komme inn i sentrum av Bermudatriangelet. Det ukjente vinket oss, men det viste seg å være farligere enn vi trodde. Systemet begynte å påvirke ikke bare virksomheten, men også våre tanker, og til og med liv som er likegyldige til det.
2019. Alexander Khomyakov, [e-postbeskyttet]
Kilde: www.habr.com