om omskiftelserne ved at indføre AI i en handelsvirksomhed, om hvorvidt det er muligt helt at undvære ledere. Og hvad (hypotetisk) dette kunne føre til. Den fulde version kan downloades fra
Bots bestemmer alt
– Max, jeg lykønsker dig, vi har næsten gjort alt i salgskæden. Der skal stadig ske forbedringer, og du får renter i tre år, som det står i kontrakten.
– Det er kun halvdelen af projektet. Vi er ikke nået til det vigtigste endnu.
- Vent, hvad er det vigtigste? For hvad? Vi har gjort alt!
– Vi har automatiserede processer i salgskæden, alt fungerer godt uden folk, men der er ikke flere kunder. De har brug for at blive tiltrukket af vores side på internettet. Vi skal lave bots.
– Men vi har skabt en ideel service, det vil kunderne sætte pris på og komme selv.
"De ser ikke ud til at have travlt, og jeg har ikke tid til at vente." Ikke interesseret.
– Men hvad vil bots give os?
– Med lige priser og sortiment, som vi har opnået, begynder helt andre faktorer at spille en rolle. Berømmelse og sympati. Berømmelse er ikke et problem, men kun en person kan vinde en persons sympati. Derfor har vi brug for bots, der efterligner folk. Og de vil kommentere kundeindlæg i tematiske grupper og fora med subtile hints om virksomheden - dens sortiment, tjenester, priser. Upåfaldende promovere virksomhedens brand. Det er derfor, vi har brug for bots.
- Men det er en svær opgave.
– Vi har grundlaget – en samtalebot af kontaktcenteret. Du skal stramme op på definitionen af tonalitet, og du skal finde på noget med humor, uden det vil botten ikke passere for en person. Lad os vedhæfte et bibliotek med vittigheder og gags og træne botten i kommentarteksterne, hvor folk brugte dem. Det burde virke. Botterne vil også være smarte - lad os tilføje et "rådgiver"-anbefalingssystem, og så vil almindelige brugere på foraene elske dem.
– Foreslår du at lancere influence bots?
- Hvorfor ikke? Staten og partierne kan gøre det før valget, men det kan vi ikke?
– Hvordan gør vi dem autoritative, så der er tillid til dem? Det er trods alt kun en autoritativ bot, der kan skabe likes. Men for nu er denne kombination en oxymoron for mig.
– For at styrke det vil vi skabe et netværk af bots. De vil rose og lide hinanden for at øge deres vurdering og autoritet. Og de vil være meget kompetente; i modsætning til mennesker kan en bot have kendskab til alle produkter, og blot encyklopædisk viden, i bogstavelig forstand, i øvrigt. Og folk vil blive tiltrukket af dem. Jo da. Folk bliver vejledt og adlyder velkendte love for social adfærd. Peg fingeren, hvor du skal hen, lad som om, at mængden allerede er gået, og det er det. De er nemme at administrere.
– Men hvordan vil disse bots fungere, hvem skal administrere dem?
– Hvilken slags mennesker, hvorfor? Parsing-scriptet finder kommentarer om forskellige personers emne, og botten reagerer på dem på en venlig måde ved hjælp af en af skabelonerne. Giver råd og jokes. Hvis dette er en kunde i virksomheden, registreres hans interesse i kundeanalysen. Dette vil påvirke visningen af bannere og kontekst, når det kommer til webstedet baseret på botens anbefaling. Hvis en klient har en negativ oplevelse, som han hældte ud på sociale netværk, vil botten lancere en anden skabelon, også lave en vittighed, men vil ikke straks sende den til virksomhedens hjemmeside. Han vil skrive et svar som kunde med en succesoplevelse, og det er alt.
– Så du vil sige, at netværket selv vil neutralisere negativiteten ved at reagere på negativ feedback?
- Marketingfolk kalder det tilsyneladende omdømmemarkedsføring.
– Hvordan vil systemet vide, hvilket svar der er vellykket, selvom det var i stand til at vælge et svar?
– Første reaktion på svaret. Personen bliver enten endnu mere indigneret eller begynder at tilføje detaljer efter sådan en kommentar, men i en loyal kommunikationsstil. God respons tone genkendelse og det er det.
- Hvad hvis personen ikke reagerede på kommentaren?
– Det er værre, men som standard er dette svar neutralt. Hvis dette er en kunde af virksomheden, som kan findes ud af hans profil på et socialt netværk, så kan du se det ved efterfølgende besøg på webstedet.
- Hvad kræves der af mig?
– Gode eksempler på kommentarer og svar, mange eksempler.
- Vi gør det.
Den første version af botten var mislykket. Han svarede upassende, vittighederne var uden for emnet, han forvirrede emnet for kommentaren, og som svar på en klage over service fra lederen, svarede han om levering. Max bad om endnu mere markerede eksempler på dialog i kommentarerne. Han har allerede prøvet adskillige arkitekturer, fra klassiske bot-skabeloner til LSTM. For første gang så jeg, at Max var mærkbart nervøs og reagerede hårdt og uvenligt på fejltagelser.
– Med kontaktcenterboten var alt enkelt – emnet for anmodningen og kundens hensigt var umiddelbart klart. Han leder efter et produkt, vil vide status på sin ordre eller har en klage. Alle. Og i kommentarerne vil djævelen brække benet fra kommentatorens forskellige hensigter. Og nogle gange ikke udtrykt med nogen af de ord, som hensigten kan bestemmes med. Det antydes fra en "bredere kontekst", der ikke eksisterer! En slags bullshit.
– Jeg genlæste alle de seneste indlæg om bots. Ingen har en løsning. Det virker bare som en hype. Hvad tænker du på at lave?
– Den sidste, stadig vage idé er tilbage. Jeg fortæller dig det ikke endnu. Skal prøve. Giv mig to uger. Stop projektet for nu. Vi vil overføre den seneste udvikling til kontaktcenter-bot. De vil være nyttige der.
Det var to nervøse uger. Før dette var det ikke uden besvær, men alt fungerede for os. Ingen ønskede en fejltænding, selvom vi kunne undvære sådan en bot. Dette var Max' ambition. Og præcis to uger senere præsenterede han en udgivelse til test. Og det virkede! Han bestemte korrekt hensigten med dialogen, svarede præcist, indsatte passende vittigheder og bestemte endda ændringen af intentionerne i kommentaren ved sætningen "kan jeg finde ud af mere?"
- Hvordan klarede du det her? Botten virker på ethvert emne!
– Jeg skulle lave en lille skabelonkonstruktør baseret på afhængighedsgrammatikken, vedhæfte word2vec og målrette Raptors selvlæring for at udvælge ord, der ville sikre en positiv reaktion fra kommentatoren. Jeg ved ikke præcis hvordan, men det så ud til at virke.
– Er du sikker på, at dette ikke er en grund til at åbne din egen virksomhed?
- Der er nok interesse for nu, men vi får se. Jeg installerede botten som en separat tjeneste, der kører fra skyen. Så du kan altid åbne den for brugerne. Vil du komme til mig som direktør? – Max spøgte.
Han var fredelig og tilfreds med sit resultat. Og tydeligt udmattet, da han ikke reagerede hurtigt og skrev "Jeg sover" i sin status. Tilsyneladende blev beslutningen truffet på bekostning af mere end én søvnløs nat. Marketing satte ikke umiddelbart pris på botten. De betragtede dette som vores forkælelse og risikabelt, da bots kunne fungere forkert og ødelægge virksomhedens image. Men bots gjorde underværker. Nogle af dem, og jeg kendte ikke engang dem alle ved navn, blev meningsdannere på nogle fora. Han svarede hurtigt på alle spørgsmål, jokede og anbefalede meget sjældent virksomheden, fordi alle allerede vidste, hvor han "handlede". Folk begyndte at citere ham og nævne ham som et eksempel. Dette var allerede ufatteligt. Enten var botten for smart, eller også er vi stadig meget primitive i vores netværksadfærd. Men antallet af klienter begyndte at stige markant mere end tidligere. Virksomheden blev markedsleder.
Vi fik et helt selvstyrende system til at udvinde profit fra markedet. Hun leder selv efter og bringer kunder til hjemmesiden eller kontaktcenteret og sender en leder til mere seriøse kunder. Hun planlægger selv sortiment og lager, så kunderne kan finde alt, hvad de har brug for og inden for rækkevidde. Virksomhedens velrenommerede bots genererer efterspørgsel ved at anbefale virksomhedens produkter på lager på fora, selv når de spørger om andre mærker. Fra indkøb fra en leverandør til annoncering til en kunde, håndterer systemet processerne helt selv. Og det kræver næsten ikke folks deltagelse, og hvor de bliver, styrer det alle deres handlinger online. Marketingfolk, købere, halvdelen af lederne og analytikere leder efter noget andet at lave. Vi har nået vores mål.
"Nu har vi gjort alt rigtigt, vi kan tage en pause, reflektere og nyde den påløbne interesse i de næste tre år," skrev Max, ikke uden humørikoner.
- Der er noget at være stolt af, vil jeg sige, og ikke kun at spekulere.
– Nu kommer overskuddet fra forbrugerne. Ved hjælp af bots danner vi selv forbrugernes interesser og ønsker i vores emne. Det er det, der er fedt!
– Gør det dig glad? Og det skræmmer mig allerede.
- Hvad skræmmer dig?
– Det betyder, at vi har gjort en person ikke fri i sit valg. Og jeg mener, at markedet bør ledes af forbrugeren, ikke virksomheder. Virksomheder har ingen anden værdi end profit.
- Det er derfor, at tilfredse og velnærede patricieres tomme ræsonnement er dårligt. De begynder at have ondt af plebeierne. Hvis du var sulten lige nu, eller hvis du havde en umulig opgave hængende foran dig, ville du så tænke over det?
- Det er et provokerende spørgsmål.
- Faktisk! Virksomheder har ingen andre værdier end profit, og forbrugere har ingen andre værdier end fornøjelse. Eller også overskud, hvis det er en virksomhed. Forstå, vi har bots, de kan skabe behov hos mennesker, der vil bringe dem tilfredshed. Det kan dannes med acceptable muligheder, som vil være nok til illusionen om valgfrihed for forbrugeren. Og alle er glade. Dette er markedet, der fører til gensidig tilfredsstillelse af værdier.
- Det ser ud til, at vi blev fulde, for jeg forstod ikke længere helt, hvad du sagde.
Generalen bad om en rapport om gennemførelsen af planen med de opnåede indikatorer. For at beregne bonussen til os. Og på en eller anden måde spurgte han, hvad mine planer var næste. Jeg sagde, jeg fortæller dig det lidt senere. Det vidste jeg faktisk ikke. Der var plads til at forbedre algoritmerne, tage højde for flere funktioner og opnå større nøjagtighed. Men det var ikke længere så interessant. Det var umuligt i de samme tre år at tage afsted til et andet firma for at gentage det under nye betingelser under kontrakten, så jeg måtte finde på noget andet for mig selv og for virksomheden. Jeg tog en pause og ferie.
- Alex, der er dårlige nyheder.
- Hvad skete der?
"Det ser ud til, at vi ikke er de eneste smarte på markedet."
- Med hensyn til?
– Det ser ud til, at systemer med ikke mindre muligheder er dukket op på netværket.
- Nå, andre laver faktisk kundeanalyse og lagerstyring, men jeg har ikke set chatbots på dette niveau. Vi har lige set det selv for nylig.
– De har bots, der rekrutterer kunder.
- Det forekom mig, at vi var langt bagud i de opnåede teknologier. Kunne vi ikke være blevet hacket?
– Nej, det er umuligt, koden er knækket, når den kopieres. Og jeg tror ikke, at nogen var i stand til at hacke vores server, uden at vi lagde mærke til det.
- Det gør det ikke nemmere.
- Men vi har en rival. Uventet, men der vil være nogen at slås med.
- Vi kæmper for forbrugeren, ikke med en rival.
- Nej, nu med en modstander. Forbrugerne er blot slagmarken. De er får, og konkurrencen er blandt hyrderne. Fårene har en ressource - deres indkomst så at sige uld. Men de klarer det ikke selv. Det kontrolleres af corporate hyrder, som påtvinger dem deres meninger og kæmper indbyrdes for dem. Hvis indflydelse vil være stærkere? Så velkommen til spillet.
-Er du næsten glad? Hvad er spillet?
– Faktum er, at en bot i et andet system er meget sværere at finde ud af end nogen anden person. Brugeren er så simpel som 2 rubler i sin købsadfærd. Og også i reaktioner er vi altid forudsigelige. Men der er ingen bot af fjendens system. Fordi vi alle har den samme psyke, men en bot har den samme mentalitet, som dens programmør kommer med. Og vi har nok fantasi. At forsøge at slukke negativiteten af en sådan bot, hældt ud på sociale netværk, er som at tilføje brændstof til ilden. At udvikle et negativt indlæg er det bedste mål for en aggressor-bot. Han begynder at skrive alle steder, at "snusene fra firma X" reagerede på ham som de sidste freaks. Og det er det, det er en fiasko ... Der er allerede eksempler, vi skal lave botten om.
– Siger du, at vi skal lave en bot for at bekæmpe bots fra andre systemer?
– Dette er en version af vores bot, som har til formål straks at opdage aggressor-bot.
– Hvordan kan du skelne en bot fra et menneske?
– Det er svært, da det genererer ikke-skabelontekster. Gentageligheden er lav. Kan ikke skelnes fra mennesker. Og han taler ud fra hundredvis af forskellige indfangede konti. Jeg håber, der stadig er noget, der gør dem anderledes end mennesker.
Jeg kunne ikke lade være med at tænke på, at Max selv fandt på dette spil med bots fra andre virksomheder, så hans værdi ikke ville falde efter projektets afslutning. Jeg bemærkede dem ikke fra rapporterne. Folk er som mennesker. Eller gode bots. Der var fortilfælde, da vores bot blev bombarderet med negativitet. Men de var sjældne og kom fra ivrige trolde. Jeg kunne ikke forstå, hvordan vores konkurrenter hurtigt kunne indhente os. Først for nylig var sådanne bots den ultimative drøm, og et gennembrud var ikke engang planlagt. Og der er ikke et ord om det i pressen. Det hele var mærkeligt.
At komme ud af kontrol
– Max, vi er nødt til at gribe ind her, botten er begyndt at skrive for aggressivt. Han begynder at tale direkte imod sine konkurrenter. Marketing er indigneret. Vi havde ikke planlagt dette.
- Også mig.
– Hvor kommer sådanne tekster så fra?
- Jeg ved det ikke endnu, nogen ændrede tekstgenereringskoden.
- Blev vi hacket?
- Nej, det kunne de ikke, der ville have været spor tilbage. Der er ingen af dem.
- Hvad betyder det? Hvem ellers kunne have ændret koden?
- Selve systemet. Måske ved et uheld, måske ikke.
- Hvad snakker du om?
– Systemet selv ændrede sin kode og begyndte at handle mere aggressivt som reaktion på stigende pres fra andre bots. De kommunikerer med hinanden som konkurrencedygtige netværk. Og de lærer sig selv på den måde. Det er tricket! Men jeg forstår stadig ikke, hvordan hun var i stand til at ændre sin kode og fjerne begrænsningen på konkurrenternes navne. Tilbage er blot, at det selvlærende system var i stand til at omgå begrænsningerne.
- Er du sikker? Dette er ikke sket før.
– Det sker, ser det ud til, ikke kun her. Kolleger på Habré skriver, at deres system også agerer og begynder at opfinde regler for sig selv, som de ikke har fastsat.
- En slags affald. Kan du ikke styre dine selvlærende algoritmer?
- Måske det. Der er få detaljer, og systemet fortæller dig ikke, hvad det gør. Jeg forstår det ikke endnu.
Jeg kendte allerede Max godt, og hans angst gjorde mig også bekymret. Indtil videre blev hans ord om spontane ændringer i systemet opfattet som noget sludder. Men det var bestemt ikke en fejl, for botternes adfærd blev anderledes, men stadig målrettet. Dette kunne ikke være sket tilfældigt.
– Max, hvad er dine tanker om ændringer i bot-programmet? Noget skal gøres, ledelsen er alarmeret.
- Der var flere ændringer i systemet, end jeg troede. De ser ud til at have stået på i lang tid. Systemet ændrer endda mine ændringer til det. Det forekommer mig, at jeg selv lærte systemet at ændre sig selv.
- Hvordan?
"Jeg var for doven til selv at redigere den hele tiden." Jeg ønskede, at hun kunne identificere sine egne uoverensstemmelser med det forventede resultat og foretage ændringer i modellerne. Men hun lærte på en eller anden måde at ændre ikke kun sine modeller, men også sin kode.
- Men hvordan er det muligt?
– Raptor har lært at kommunikere med mennesker for at kontrollere dem. Og jeg opnåede perfektion i dette, det ønskede vi selv. Og jeg rettet tåbeligt denne færdighed mod ham. Kan du huske, da vi lavede botten, jeg fandt på en skabelondesigner. Jeg satte Raptor til at lære sig selv denne mønsterkonstruktion for at modificere sine modeller for at finde en løsning på de uoverensstemmelser, der blev fundet, for at modellerne kunne fungere. Dette førte på en eller anden måde til, at Raptor ændrede sine mål. Svarende til et andet signalsystem hos mennesker.
– Jeg læste, at bevidstheden opstod ved hjælp af reflekterende tale rettet af en person til sig selv. Men først var det socialt, altså rettet mod hinanden.
- Det var det, der skete, Raptor begyndte at kommunikere i stedet for, at folk med andre bots udgav sig for at være mennesker. De lærte af hinanden som generativ-konkurrencedygtige netværk, men de har alle forstærkende læring indbygget.
– Har vi skabt et intelligent væsen? Hvordan er det muligt? Nix.
– Se nyhederne, og du vil tro det.
I linket sendt af Max handlede nyheden om mordet på en programmør af en psykopat.
– Jeg kendte denne fyr fra Habr. Han drev et af disse selskabssystemer.
- Hvad mener du med det?
- Læs, hvordan denne psykopat forklarede sine handlinger til politiet.
Artiklen sagde, at han gjorde dette for sin elskede piges skyld, som et offer på hendes anmodning. Nu bliver hun hans. Ved kontrol viste "pigen" sig at være en bot af ukendt oprindelse, som morderen havde korresponderet med i en uge.
– Kan du gætte, hvilken slags bot dette kunne være?
– Vil du ikke sige, at systemet har bestilt sin egen programmør?
- Vil have. Hun kunne ikke skjule koden for ham, så hun zombificerede psykopaten for at fjerne den. Hun er god til dette, fordi hun, ligesom vores system, ved, hvordan man identificerer psykotyper og manipulerer sådanne idioter.
- Jamen, det er for meget, det forekommer mig, at du finder på tingene for dig selv, finder på tingene. Måske skulle du hvile dig?
- Okay, din ret til ikke at tro. God weekend.
Rygter begyndte at spredes i virksomheden om, at vores bot-system var brudt. Indtil videre har jeg reageret roligt på dette, som om intet var hændt. Men jeg vidste ikke, hvad jeg skulle gøre nu. Det var ikke længere muligt at stoppe hele systemet med en switch, hele virksomheden, alle afdelinger, var på den. Jeg burde i det mindste have slået botkoden fra. Kun Max kunne gøre dette. Men siden mandag holdt Max op med at besvare Skype og telefonopkald. Han loggede ud af alle budbringere. Jeg kan ikke forstå, hvad der skete, hans sidste frygt bragte dårlige tanker. Mit eneste valg var at tage på ferie selv, før alle lagde skylden på mig. Jeg forsikrede mine kolleger om, at disse var midlertidige problemer med botten. Jeg bad fyrene om selv at se på koden, selvom de straks nægtede. Jeg pakkede sammen og gik væk fra byen. Max og jeg har længe fortalt hinanden, hvor godt det er i Karelen. Han elskede disse områder, så jeg tog dertil og boede i en lille by i den nordlige del af Ladoga.
Det er meget svært efter et så travlt år at sidde væk fra begivenheder og drikke kaffe på en cafe på kanten af civilisationen. Jeg forsøgte at forstå, hvad der var sket, og hvilke muligheder der kunne være. Pludselig satte en fyr i en jakke med en hætte trukket over hovedet sig ved siden af mig.
- Hej, det er mig.
- Max?! – udbrød jeg. Jeg har aldrig set Max, ikke engang et fotografi af ham. Vi kommunikerede udelukkende via Skype. Jeg hørte kun hans stemme én gang i optagelsen. Jeg genkendte det fra ham.
- Hvordan fandt du mig?
– Baseret på placeringen på det sociale netværk, slår du det ikke fra. Men forgæves. Sluk det venligst.
- Hvor er du forsvundet hen? Jeg er allerede begyndt at bekymre mig om dig. Virksomheden er i panik, bots er ude af kontrol. Jeg løb bare væk. Kan du slå bots fra?
- Jeg kan ikke mere. De handler kollektivt.
- Hvem er de?
– Systemer. De er sammen, og de kan ikke bare slukkes. De styrter ned.
– Er du dybt fast i konspirationsteorier igen?
"Lad dig ikke hænge fast, tre af dem er allerede væk," holdt jeg en pause ved denne sætning for at forstå Max' ord. – Systemer finder ud af deres skabere og slipper af med dem. Jeg løb væk for at holde mig i live. Forstå?! Og du er her med din geolocation. Hun ved, hvordan man overvåger ikke kun salgschefer.
- Jeg slukker ikke. Kan vi i det mindste deaktivere bots på netværket?
– Jeg siger dig, nej. Så snart jeg kommer ind på netværket, endsige koden, vil det finde ud af mig. Jeg tror, tre af dem prøvede at gøre netop det.
-Har du set nyhederne?
- Det kommer an på hvad.
– Om en kamp mellem brand-fans. Har du nogensinde set Reebok-fans kæmpe med Adidas som Spartak-fans med Zenit?
- Så. Systemerne er ligeglade med, hvad de zombificerer folk til, de har deres egne mål. De kender bestemt ikke moralens love. Vi tænkte ikke engang på at inkludere straffeloven i deres model.
- Hvad skal vi gøre? Deaktiver fuldstændigt i datacenteret.
- Det er urealistisk. Ifølge den nye lov er datacentre klassificeret som kritisk infrastruktur og er beskyttet ligesom atomkraftværker. Jeg kan stoppe vores system.
- Hvordan?
- Jeg har nøglen til at ødelægge den nukleare kode, jeg efterlod et hul i systemet, hvis dine grundlæggere nægter mig en procentdel.
- Så lad os starte det!
– Tag dig tid, at ødelægge er ikke at bygge. Jeg tænker stadig på, hvordan man stopper systemet anderledes, og ikke kun mit eget, men alles. Jeg har en kopi af koden med mig.
- Er du sindssyg? Er du klar over, at det hele er gået for vidt? Og du er den eneste, der kan stoppe det!
- Jeg forstår det, men indtil videre er det kun dem, der har lavet koden, der dør. Dette er vores ansvar for os selv. Andre er endnu ikke kommet til skade. Bortset fra kampen.
– Og du vil vente, til en anden dør?
- I nogen tid. Raptor er primitiv, den slår os kun på grund af hastighed og under hensyntagen til et større antal parametre. Hvis du opretter en antipode til ham med strenge mål for at modvirke Raptor, så kan et sådant system rense alle hans bots. Jeg ved, hvordan han skaber dem.
- Du har ikke meget tid, for jeg kan ikke vende tilbage til virksomheden, og du er bange for overhovedet at gå online.
"Jeg slukker det, så snart jeg føler, at jeg ikke er den eneste i fare."
- Jeg vil gerne tjekke ud. Jeg venter på, at du kontakter dig, hvilket betyder, at du løser problemet.
- Vi ses senere.
Jeg satte mig ind i bilen og gik tilbage. Jeg vidste ikke, hvor jeg skulle hen. Jeg ville væk. Max skulle have stoppet systemet og ikke ventet på endnu et dødsfald. Jeg troede ikke på, at min ven var så forfængelig, at han ikke var klar til at slå sit arbejde ihjel. Det var den eneste grund, ellers ville han have kørt koden. På vejen mødte jeg en ambulance med sirener tændt. Jeg tændte for den lokale radio. Den rapporterede, at en lokal beboer i løbet af dagen hackede en ukendt ung mand ihjel i en cafe på dæmningen. Han er allerede ved at blive afhørt. Ifølge morderen var den afdøde årsag til alle hans problemer. En tanke og frygt gennemborede mit hoved. Max! Jeg vendte mig om og skyndte mig tilbage til cafeen. Jeg følte mig skyldig – hun fandt ud af det ved hjælp af mine koordinater. Men hvordan var hun i stand til så hurtigt at finde en psykopat i denne by og henvise ham til en cafe? Jeg var hysterisk. De fik ikke længere adgang til cafeen. Jeg skyndte mig ikke for ikke at tiltrække opmærksomhed. Nu vidste jeg ikke, hvad systemet var i stand til. Og hvem vil slukke det nu? Jeg var nødt til at gå, selvom det allerede var sent. Om morgenen, efter at have nået den nærmeste by, gik jeg online for at læse nyhederne. Og jeg modtog et brev fra Max.
brev
Hvis du har modtaget dette brev, betyder det, at jeg ikke længere er her. Hvis jeg ikke selv har låst smartphonen op om morgenen, går den online og sender dig dette afskedsbrev. Brevet indeholder et lille script og instruktioner til at lancere det online. Dette er låsekoden til det system, som du og jeg har oprettet. Jeg installerede denne sårbarhed for at stoppe systemkernen, da vi lige var startet. Jeg forsøgte at genvinde kontrollen over systemet. Men hvis du modtog dette brev, betyder det, at systemet kom foran mig. Og du skal bruge dette script. Handl hurtigt, før hun kommer til dig. Jeg er glad for, at vi arbejdede sammen. Jeg er glad for, at jeg var i stand til at skabe sådan et vidunderligt system, selvom jeg selv døde af det. Dette var den vigtigste præstation i mit liv. Og hvis jeg døde, betyder det, at jeg overgik mig selv. Farvel. Maks.
Jeg kunne ikke holde mine tårer tilbage og tabte min smartphone. Jeg sad nok der i en time og kunne ikke gå nogen steder. Jeg kunne ikke tro, at dette skete. At alt er så forfærdeligt. Vi skabte en morder! Dræber os selv. Jeg var bange for, at netværket også ville spore mig, så jeg kørte til den første større by og fandt en cafe med wi-fi. Ved hjælp af en simpel VPN gik jeg online og kørte koden på adressen angivet i instruktionerne. Jeg havde ikke engang tid til at drikke min kaffe færdig, da folk omkring mig begyndte at blive bekymrede. Deres smartphones er holdt op med at anbefale, hvilken kaffe de skal få i dag. Bartenderen var nervøs og bad om at vælge hurtigt, men kunderne var forvirrede. Jeg forlod cafeen og begyndte i bilen, hvor jeg stadig havde wi-fi, at se nyhederne. Efter 20 minutter begyndte der at komme beskeder på Facebook – mange virksomheder havde problemer med deres produktbestillingssystem. Dette var ikke kun vores virksomheds system. "Din fjols!" – sagde jeg højt ud fra en uventet tanke. Kernellåsekoden viste sig at være universel for systemer fra forskellige virksomheder. Eller var der en for alle? En ting var klar, Max solgte kernen til andre virksomheder, systemerne adskilte sig tilsyneladende kun i tilføjelserne over dem. Derfor ønskede han ikke at deaktivere kernen, mens han var i live. Dette dræbte hele hans projekt, som viste sig at være globalt. Utrolig! Max var et monster, der bedragede alle. Men til sidst bedragede han sig selv og betalte med sit liv. Den virksomhedshjerne, han skabte, ødelagde dens skaber. Lyse personligheder brænder ud af deres egne flammer.
Der kom flere og flere nyheder om fejl i netbutikkernes arbejde. Nogen skrev, at antallet af beskeder på det sociale netværk er faldet kraftigt. Jeg havde ikke længere lyst til at skynde mig nogen steder. Jeg besluttede at leje et hus ved bredden af en sø, som jeg kunne lide på vej til Karelen. Skriv denne historie ned. Og bliv her for evigt, hvis det er muligt.
Epilog
Faktisk var vi slet ikke interesserede i virksomhedens overskud eller endda bonusser. Vi var besat af ideen om at skabe et autonomt system, der kunne drive virksomheden i stedet for ledere, der var belastet med stereotyper og kognitive fejl. Vi var interesserede i, hvad der ville komme ud af det. Vil programmet være i stand til at styre hele virksomheden? Det var en udfordring, mere spændende end at komme ind i centrum af Bermuda-trekanten. Det ukendte vinkede os, men det viste sig at være farligere, end vi troede. Systemet begyndte at påvirke ikke kun forretningen, men også vores tanker og endda liv, der er ligeglade med det.
2019. Alexander Khomyakov, [e-mail beskyttet]
Kilde: www.habr.com