Hjärnan i företaget. Del 3

Fortsättning på berättelsen om växlingarna med att införa AI i ett handelsbolag, om huruvida det går att helt klara sig utan chefer. Och vad (hypotetiskt) detta skulle kunna leda till. Den fullständiga versionen kan laddas ner från Liter (gratis)

Bots bestämmer allt

– Max, jag gratulerar dig, vi har nästan gjort allt längs försäljningskedjan. Det finns fortfarande förbättringar att göra, och du får ränta i tre år, enligt kontraktet.
– Det här är bara hälften av projektet. Vi har inte kommit till det viktigaste än.
- Vänta, vad är huvudsaken? För vad? Vi har gjort allt!
– Vi har automatiserade processer i försäljningskedjan, allt fungerar bra utan folk, men det finns inga fler kunder. De måste lockas till vår sida på Internet. Vi måste göra bots.
– Men vi har skapat en idealisk tjänst, kunderna kommer att uppskatta det och komma själva.
"De verkar inte ha bråttom, och jag har inte tid att vänta." Inte intresserad.
– Men vad kommer bots att ge oss?
– Med lika priser och sortiment, vilket vi har uppnått, börjar helt andra faktorer spela in. Berömmelse och sympati. Berömmelse är inte ett problem, men bara en person kan vinna en persons sympati. Därför behöver vi bots som imiterar människor. Och de kommer att kommentera kundinlägg i tematiska grupper och forum med subtila tips om företaget - dess utbud, tjänster, priser. Marknadsföra företagets varumärke diskret. Det är därför vi behöver bots.
– Men det här är en svår uppgift.
– Vi har grunden – en konversationsbot för kontaktcentret. Du måste strama upp definitionen av tonalitet och du måste komma på något med humor, utan det kommer boten inte att passera för en person. Låt oss bifoga ett bibliotek med skämt och gags och träna boten på texterna i kommentarer där folk använde dem. Det borde fungera. Botarna kommer också att vara smarta - låt oss lägga till ett "rådgivare" rekommendationssystem, och sedan kommer vanliga användare på forumen att älska dem.

– Föreslår du att lansera influensrobotar?
- Varför inte? Staten och partierna kan göra det före valet, men vi kan inte?
– Hur gör vi dem auktoritativa så att de blir betrodda? Det är trots allt bara en auktoritativ bot som kan skapa likes. Men för nu är denna kombination en oxymoron för mig.
– För att stärka det kommer vi att skapa ett nätverk av bots. De kommer att berömma och gilla varandra för att öka sitt betyg och auktoritet. Och de kommer att vara mycket kompetenta; till skillnad från människor kan en bot ha kunskap om alla produkter, och helt enkelt encyklopedisk kunskap, i bokstavlig mening, förresten. Och folk kommer att dras till dem. Säker. Människor vägleds och lyder välkända lagar för socialt beteende. Peka med fingret vart du ska gå, låtsas att folkmassan redan har lämnat, och det är allt. De är lätta att hantera.
– Men hur kommer dessa bots att fungera, vem ska hantera dem?
– Vilken typ av människor, varför? Parsningsskriptet hittar kommentarer om olika personers ämne, och boten svarar på dem på ett vänligt sätt med hjälp av en av mallarna. Ger råd och skämt. Om detta är en kund till företaget, registreras hans intresse i kundanalysen. Detta kommer att påverka visningen av banners och sammanhang när det kommer till webbplatsen baserat på botens rekommendation. Om en klient har en negativ upplevelse, som han hällde ut på sociala nätverk, kommer boten att lansera en annan mall, också göra ett skämt, men kommer inte omedelbart att skicka den till företagets webbplats. Han kommer att skriva ett svar som kund med en framgångsrik upplevelse, och det är allt.
– Så du vill säga att nätverket i sig kommer att neutralisera negativiteten genom att svara på negativ feedback?
– Marknadsförare, verkar det som, kallar det ryktesmarknadsföring.
– Hur kommer systemet att veta vilket svar som är framgångsrikt, även om det kunde välja ett svar?
– Första reaktionen på svaret. Personen blir antingen ännu mer indignerad, eller börjar lägga till detaljer efter en sådan kommentar, men i en lojal kommunikationsstil. Bra svarstonigenkänning och det är allt.
– Tänk om personen inte svarade på kommentaren?
– Det här är värre, men som standard är det här svaret neutralt. Om detta är en kund till företaget, som kan hittas av hans profil på ett socialt nätverk, kan du se det genom efterföljande besök på webbplatsen.
- Vad krävs av mig?
– Bra exempel på kommentarer och svar, många exempel.
- Vi gör det.

Den första versionen av boten misslyckades. Han svarade olämpligt, skämten var utanför ämnet, han förvirrade ämnet för kommentaren, och som svar på ett klagomål om service från chefen svarade han om leverans. Max bad om ännu mer markerade exempel på dialog i kommentarerna. Han har redan provat flera arkitekturer, från klassiska botmallar till LSTM. För första gången såg jag att Max var märkbart nervös och reagerade hårt och ovänligt på misstag.

– Med kontaktcenterboten var allt enkelt – ämnet för begäran och kundens avsikt var omedelbart tydligt. Han letar efter en produkt, vill veta status på sin beställning eller har ett klagomål. Allt. Och i kommentarerna kommer djävulen att bryta benet från kommentatorns olika avsikter. Och ibland inte uttryckt med något av de ord som avsikten kan bestämmas med. Det antyds från ett "bredare sammanhang" som inte existerar! Något slags skitsnack.
– Jag läste om alla de senaste inläggen om bots. Ingen har en lösning. Det verkar bara som en hype. Vad tänker du göra?
– Den sista, fortfarande vaga idén kvarstår. Jag ska inte berätta ännu. Måste prova. Ge mig två veckor. Stoppa projektet nu. Vi kommer att överföra den senaste utvecklingen till kontaktcenterboten. De kommer väl till pass där.
Det var två nervösa veckor. Innan detta var det inte utan svårigheter, men allt löste sig för oss. Ingen ville ha en feltändning, även om vi kunde klara oss utan en sådan bot. Detta var Max ambition. Och exakt två veckor senare presenterade han en release för testning. Och det fungerade! Han bestämde korrekt avsikten med dialogen, svarade korrekt, infogade lämpliga skämt och bestämde till och med förändringen av avsikter i kommentaren genom frasen "kan jag ta reda på mer?"
– Hur lyckades du göra det här? Boten fungerar på vilket ämne som helst!
– Jag var tvungen att göra en liten mallkonstruktör baserad på beroendegrammatiken, bifoga word2vec och rikta in mig på Raptors självinlärning för att välja ord som skulle säkerställa en positiv reaktion från kommentatorn. Jag vet inte exakt hur, men det verkade fungera.
– Är du säker på att detta inte är en anledning att starta eget företag?
– Det finns tillräckligt med intresse för nu, men vi får se. Jag installerade boten som en separat tjänst som körs från molnet. Så du kan alltid öppna den för användare. Kommer du till mig som regissör? – Max skämtade.

Han var lugn och nöjd med resultatet. Och helt klart utmattad, eftersom han inte svarade snabbt och skrev "Jag sover" i sin status. Uppenbarligen togs beslutet till priset av mer än en sömnlös natt. Marknadsföring uppskattade inte omedelbart boten. De ansåg att detta var vår bortskämd, och riskabelt, eftersom bots kunde fungera felaktigt och förstöra företagets image. Men botarna gjorde underverk. Några av dem, och jag kände inte ens alla vid namn, blev opinionsbildare på vissa forum. Han svarade snabbt på alla frågor, skämtade och rekommenderade väldigt sällan företaget, eftersom alla redan visste var han "handlade". Folk började citera honom och nämna honom som exempel. Detta var redan bortom förståelse. Antingen var boten för smart, eller så är vi fortfarande väldigt primitiva i vårt nätverksbeteende. Men antalet kunder började öka betydligt mer än tidigare. Företaget blev marknadsledande.

Vi fick ett helt självstyrande system för att ta ut vinst från marknaden. Hon söker själv och tar med sig kunder till hemsidan eller kontaktcentret och skickar en chef till mer seriösa kunder. Hon planerar själv sortiment och lager så att kunderna kan hitta allt de behöver och inom räckhåll. Företagets välrenommerade bots skapar efterfrågan genom att rekommendera företagets produkter i lager på forum, även när man frågar om andra märken. Från inköp från en leverantör till reklam till kund, systemet sköter processerna helt själv. Och det kräver nästan inte människors deltagande, och där de stannar, kontrollerar det alla deras handlingar online. Marknadsförare, köpare, hälften av cheferna och analytiker letar efter något annat att göra. Vi har nått vårt mål.
"Nu har vi gjort allt rätt, vi kan ta en paus, reflektera och njuta av det växande intresset under de kommande tre åren", skrev Max, inte utan uttryckssymboler.
– Det finns något att vara stolt över, skulle jag säga, och inte bara att spekulera.
– Nu kommer vinsten från konsumenterna. Med hjälp av bots formar vi själva konsumenternas intressen och önskemål i vårt ämne. Det är det som är coolt!
– Gör detta dig lycklig? Och det skrämmer mig redan.
-Vad skrämmer dig?
– Det betyder att vi har gjort en person inte fri i sitt val. Och jag anser att marknaden bör ledas av konsumenten, inte företag. Företag har inget annat värde än vinst.
– Det är därför som nöjda och välmatade patricier har dåligt resonemang. De börjar tycka synd om plebejerna. Om du var hungrig just nu eller om du hade en omöjlig uppgift hängande framför dig, skulle du tänka på det?
– Det här är en provocerande fråga.
- I själva verket! Företag har inga andra värden än vinst, och konsumenter har inga andra värden än nöje. Eller även vinster, om det är ett företag. Förstå, vi har bots, de kan skapa behov hos människor som kommer att ge dem tillfredsställelse. Det kan formas med acceptabla alternativ, vilket kommer att räcka för illusionen av valfrihet för konsumenten. Och alla är glada. Detta är den marknad som leder till ömsesidig tillfredsställelse av värderingar.
– Det verkar som om vi blev fulla, för jag förstod inte längre riktigt vad du sa.

Generalen bad om en rapport om genomförandet av planen med uppnådda indikatorer. För att beräkna bonusen till oss. Och på något sätt på vägen frågade han vad mina planer var härnäst. Jag sa att jag ska berätta lite senare. Jag visste faktiskt inte. Det fanns utrymme att förbättra algoritmerna, ta hänsyn till fler funktioner och uppnå större noggrannhet. Men det var inte längre så intressant. Att lämna till ett annat företag för att upprepa under nya villkor enligt kontraktet var omöjligt under samma tre år, så jag var tvungen att hitta på något annat för mig själv och för företaget. Jag tog en paus och semester.

- Alex, det finns dåliga nyheter.
- Vad har hänt?
"Det verkar som att vi inte är de enda smarta på marknaden."
– När det gäller?
– Det verkar som att system med inte mindre kapacitet har dykt upp på nätverket.
– Ja, andra gör faktiskt kundanalys och lagerhantering, men jag har inte sett chatbotar på den här nivån. Vi såg den själva nyligen.
– De har bots som rekryterar kunder.
– Det verkade för mig att vi låg långt efter i de uppnådda teknologierna. Kunde vi inte ha blivit hackade?
– Nej, det är omöjligt, koden är trasig när den kopieras. Och jag tror inte att någon kunde hacka vår server utan att vi märkte det.
– Det här gör det inte lättare.
– Men vi har en rival. Oväntat, men det kommer att finnas någon att slåss med.
– Vi slåss för konsumenten, inte med en rival.
– Nej, nu med en motståndare. Konsumenterna är bara slagfältet. De är får, och konkurrensen är bland herdarna. Fåren har en resurs - deras inkomst så att säga ull. Men de klarar det inte själva. Det kontrolleras av företagsherdar som påtvingar dem sina åsikter och kämpar sinsemellan för dem. Vems inflytande blir starkare? Så välkommen till spelet.
-Är du nästan nöjd? Vad är spelet?
– Faktum är att en bot i ett annat system är mycket svårare att lista ut än någon annan person. Användaren är så enkel som 2 rubel i sitt köpbeteende. Och även i reaktioner är vi alltid förutsägbara. Men det finns ingen bot i fiendens system. För vi har alla samma psyke, men en bot har samma mentalitet som dess programmerare kommer på. Och vi har tillräckligt med fantasi. Att försöka släcka negativiteten hos en sådan bot, som hälls ut på sociala nätverk, är som att lägga bränsle på elden. Att utveckla ett negativt inlägg är det bästa målet för en aggressor-bot. Han börjar skriva överallt att "smuckarna från företag X" svarade honom som de sista missfoster. Och det är det, det är ett misslyckande... Det finns redan exempel, vi måste göra om boten.
– Menar du att vi måste göra en bot för att bekämpa bots i andra system?
– Det här är en version av vår bot, som syftar till att omedelbart upptäcka angriparboten.
– Hur kan du skilja en bot från en människa?
– Det är svårt, eftersom det genererar icke-malltexter. Repeterbarheten är låg. Går inte att skilja från människor. Och han talar från hundratals olika fångade konton. Jag hoppas att det fortfarande finns något som skiljer dem från människor.

Jag kunde inte låta bli att tänka att Max själv kom på det här spelet för sig själv med bots från andra företag, så att hans värde inte skulle minska efter projektets slut. Jag märkte dem inte från rapporterna. Människor är som människor. Eller bra bots. Det fanns prejudikat när vår bot bombarderades med negativitet. Men de var sällsynta och kom från ivriga troll. Jag kunde inte förstå hur våra konkurrenter snabbt kunde komma ikapp oss. Först nyligen var sådana bots den ultimata drömmen, och ett genombrott var inte ens planerat. Och det finns inte ett ord om det i pressen. Allt var konstigt.

Att komma utom kontroll

– Max, vi måste ingripa här, boten har börjat skriva för aggressivt. Han börjar tala direkt mot sina konkurrenter. Marknadsföring är indignerad. Vi planerade inte detta.
- Jag också.
– Var kommer sådana texter ifrån då?
– Jag vet inte än, någon ändrade textgenereringskoden.
- Blev vi hackade?
– Nej, det kunde de inte, det skulle ha funnits spår kvar. Det finns ingen av dem.
- Vad betyder det? Vem mer kunde ha ändrat koden?
– Systemet i sig. Kanske av en slump, kanske inte.
- Vad pratar du om?
– Systemet självt ändrade sin kod och började agera mer aggressivt som svar på ökande påtryckningar från andra bots. De kommunicerar med varandra som konkurrenskraftiga nätverk. Och de lär sig själva på det sättet. Det är tricket! Men jag förstår fortfarande inte hur hon kunde ändra sin kod och ta bort begränsningen för namnen på konkurrenterna. Allt som återstår är att det självlärande systemet kunde kringgå begränsningarna.
- Du är säker? Detta har inte hänt tidigare.
– Det här händer, verkar det som, inte bara här. Kollegor på Habré skriver att deras system också agerar och börjar hitta på regler för sig själva som de inte lagt upp.
- Något slags skräp. Kan du inte kontrollera dina självlärande algoritmer?
- Kanske så. Det finns få detaljer, och systemet berättar inte vad det gör. Jag förstår inte än.
Jag kände redan Max väl, och hans ångest skrämde mig också. Hittills har hans ord om spontana förändringar i systemet uppfattats som nonsens. Men det var definitivt inte ett misstag, eftersom botarnas beteende blev annorlunda, men ändå målmedvetet. Detta kunde inte ha hänt av en slump.
– Max, vad tycker du om förändringar i botprogrammet? Något måste göras, ledningen är orolig.
– Det blev fler förändringar i systemet än jag trodde. De verkar ha pågått länge. Systemet ändrar till och med mina ändringar av det. Det verkar för mig att jag själv lärde systemet att förändra sig själv.
- Hur?
"Jag var för lat för att redigera det hela tiden själv." Jag ville att hon skulle kunna identifiera sina egna avvikelser med det förväntade resultatet och göra ändringar i modellerna. Men hon lärde sig på något sätt att ändra inte bara sina modeller, utan också sin kod.
– Men hur är detta möjligt?
– Raptor har lärt sig att kommunicera med människor för att kontrollera dem. Och jag uppnådde perfektion i detta, vi själva ville ha det. Och jag riktade dumt nog den här färdigheten mot honom. Kommer du ihåg när vi gjorde boten, jag kom på en malldesigner. Jag satte Raptor att lära sig själv denna mönsterkonstruktion för att modifiera sina modeller för att hitta en lösning på de avvikelser som hittats för att modellerna ska fungera. Detta ledde på något sätt till att Raptor ändrade sina mål. Liknar ett andra signalsystem hos människor.
– Jag läste att medvetandet uppstod med hjälp av reflekterande tal riktat av en person till sig själv. Men till en början var det socialt, det vill säga riktat mot varandra.
– Det var vad som hände, Raptor började kommunicera istället för att människor med andra bots utgav sig som människor. De lärde sig av varandra som generativa-konkurrenskraftiga nätverk, men de har alla förstärkningsinlärning inbyggt.
– Har vi skapat en intelligent varelse? Hur är detta möjligt? Nej.
– Titta på nyheterna så kommer du att tro det.
I länken som Max skickade handlade nyheten om mordet på en programmerare av någon psykopat.
– Jag kände den här killen från Habr. Han drev ett av dessa företagssystem.
- Vad menar du med det här?
– Läs hur den här psykopaten förklarade sitt agerande för polisen.
Artikeln sa att han gjorde detta för sin älskade flickas skull, som ett offer på hennes begäran. Nu blir hon hans. Vid kontroll visade sig "tjejen" vara en bot av okänt ursprung, som mördaren hade korresponderat med i en vecka.
– Kan du gissa vilken typ av bot det här kan vara?
– Vill du inte säga att systemet beställt en egen programmerare?
- Vilja. Hon kunde inte dölja koden för honom, så hon zombifierade psykopaten för att ta bort den. Hon är bra på detta eftersom hon, precis som vårt system, vet hur man identifierar psykotyper och manipulerar sådana idioter.
– Tja, det här är för mycket, det verkar för mig att du hittar på saker för dig själv, hittar på saker. Du kanske borde vila?
- Okej, din rätt att inte tro. Bra helg.

Rykten började spridas inom företaget om att vårt botsystem var trasigt. Hittills har jag reagerat lugnt på detta, som om ingenting hade hänt. Men jag visste inte vad jag skulle göra nu. Det gick inte längre att stoppa hela systemet med en switch, hela verksamheten, alla avdelningar, var på den. Jag borde åtminstone ha stängt av botkoden. Bara Max kunde göra detta. Men sedan i måndags har Max slutat svara på Skype och telefonsamtal. Han loggade ut från alla budbärare. Jag kan inte förstå vad som hände, hans sista rädsla väckte dåliga tankar. Mitt enda val var att själv åka på semester innan alla skyllde på mig. Jag försäkrade mina kollegor att detta var tillfälliga problem med boten. Jag bad killarna att själva titta på koden, även om de omedelbart vägrade. Jag gjorde mig i ordning och begav mig bort från staden. Max och jag har länge berättat för varandra hur bra det är i Karelen. Han älskade dessa regioner, så jag åkte dit och bodde i en liten stad i norra Ladoga.

Det är väldigt svårt efter ett så hektiskt år att sitta borta från evenemang och dricka kaffe på ett kafé i utkanten av civilisationen. Jag försökte förstå vad som hade hänt och vilka alternativ som kunde finnas. Plötsligt satte sig en kille i kavaj med huva över huvudet bredvid mig.
- Hej, det är jag.
- Max?! – utbrast jag. Jag har aldrig sett Max, inte ens ett fotografi av honom. Vi kommunicerade uteslutande via Skype. Jag hörde bara hans röst en gång i inspelningen. Jag kände igen det från honom.
- Hur hittade du mig?
– Baserat på platsen på det sociala nätverket stänger du inte av det. Men förgäves. Stäng av den snälla.
-Vart har du försvunnit? Jag börjar redan oroa mig för dig. Företaget är i panik, robotarna är utom kontroll. Jag sprang bara iväg. Kan du stänga av bots?
– Jag kan inte längre. De agerar kollektivt.
- Vilka är dom?
– System. De är tillsammans, och de kan inte bara stängas av. De kommer att krascha.
– Är du fast i konspirationsteorier igen?
"Fast inte fast, tre av dem är redan borta", pausade jag vid den här frasen för att förstå Maxs ord. – System tar reda på sina skapare och gör sig av med dem. Jag sprang iväg för att överleva. Förstå?! Och du är här med din geolokalisering. Hon vet hur man övervakar inte bara försäljningschefer.
- Jag... stänger inte av den. Kan vi åtminstone inaktivera bots på nätverket?
– Jag säger dig, nej. Så fort jag går in i nätverket, än mindre koden, kommer det att reda ut mig. Jag tror att tre av dem försökte göra just det.
-Har du sett nyheterna?
- Beror på vad.
– Om en kamp mellan varumärkesfans. Har du någonsin sett Reebok-fans slåss med Adidas som Spartak-fans med Zenit?
- Fick syn på. Systemen bryr sig inte om vad de zombifierar människor för, de har sina egna mål. De känner definitivt inte till moralens lagar. Vi tänkte inte ens på att inkludera strafflagen i deras modell.
- Vad ska vi göra? Inaktivera helt i datacentret.
– Det här är orealistiskt. Enligt den nya lagen klassas datacenter som kritisk infrastruktur och skyddas som kärnkraftverk. Jag kan stoppa vårt system.
- Hur?
– Jag har nyckeln till att förstöra kärnkraftskoden, jag lämnade ett hål i systemet ifall dina grundare nekar mig en procentsats.
- Så låt oss lansera det!
– Ta dig tid, att förstöra är inte att bygga. Jag funderar fortfarande på hur jag ska stoppa systemet annorlunda, och inte bara mitt eget, utan allas. Jag har en kopia av koden med mig.
- Är du inte klok? Inser du att allt detta har gått för långt? Och du är den enda som kan stoppa det!
– Jag förstår, men än så länge är det bara de som skapat koden som dör. Detta är vårt ansvar för oss själva. Andra har ännu inte kommit till skada. Förutom kampen.
– Och du kommer att vänta tills någon annan dör?
- För en tid. Raptorn är primitiv, den slår oss bara på grund av hastighet och med hänsyn till ett större antal parametrar. Om du skapar en antipod för honom med strikta mål för att motverka Raptor, kan ett sådant system rensa ut alla hans bots. Jag vet hur han skapar dem.
– Du har inte mycket tid, för jag kan inte återvända till företaget, och du är rädd för att ens gå online.
"Jag stänger av den så fort jag känner att jag inte är den enda i fara."
- Jag vill checka ut. Jag väntar på att du tar kontakt, vilket innebär att du löser problemet.
- Vi ses senare.

Jag satte mig i bilen och gick tillbaka. Jag visste inte vart jag skulle. Jag ville lämna. Max borde ha stoppat systemet och inte väntat på ett nytt dödsfall. Jag trodde inte att min vän var så fåfäng att han inte var redo att döda sitt arbete. Det var den enda anledningen, annars hade han kört koden. På vägen mötte jag en ambulans med sirener på. Jag slog på lokalradion. Den rapporterade att en lokal invånare under dagen hackade ihjäl en okänd ung man på ett kafé på vallen. Han förhörs redan. Enligt mördaren var den avlidne orsaken till alla hans bekymmer. En tanke och rädsla genomborrade mitt huvud. Max! Jag vände mig om och rusade tillbaka till kaféet. Jag kände mig skyldig - hon kom på det med hjälp av mina koordinater. Men hur kunde hon så snabbt hitta en psykopat i den här staden och hänvisa honom till ett kafé? Jag var hysterisk. De fick inte längre komma in på kaféet. Jag skyndade mig inte för att inte dra till mig uppmärksamhet. Nu visste jag inte vad systemet kunde. Och vem ska stänga av det nu? Jag var tvungen att gå, trots att det redan var sent. På morgonen, efter att ha nått närmaste stad, gick jag online för att läsa nyheterna. Och jag fick ett brev från Max.

Ett brev

Om du fick det här brevet betyder det att jag inte längre är här. Om jag inte har låst upp smarttelefonen själv på morgonen kommer den att gå online och skicka detta avskedsbrev till dig. Brevet innehåller ett litet manus och instruktioner för att lansera det online. Det här är låskoden för systemet som du och jag skapade. Jag installerade denna sårbarhet för att stoppa systemkärnan när vi precis började. Jag försökte återta kontrollen över systemet. Men om du fick det här brevet betyder det att systemet gick före mig. Och du måste använda det här skriptet. Agera snabbt innan hon kommer till dig. Jag är glad att vi jobbade tillsammans. Jag är glad att jag kunde skapa ett så underbart system, även om jag själv dog av det. Detta var den viktigaste bedriften i mitt liv. Och om jag dog betyder det att jag överträffade mig själv. Adjö. Max.

Jag kunde inte hålla tillbaka tårarna och tappade min smartphone. Jag satt nog där i en timme och kunde inte gå någonstans. Jag kunde inte tro att detta hände. Att allt är så hemskt. Vi skapade en mördare! Döda oss själva. Jag var rädd att nätverket skulle spåra mig också, så jag körde till den första större staden och hittade ett kafé med wi-fi. Med ett enkelt VPN gick jag online och körde koden på adressen som anges i instruktionerna. Jag hann inte ens ta upp mitt kaffe när folk runt omkring mig började bli oroliga. Deras smartphones har slutat rekommendera vilket kaffe de ska ta idag. Bartendern var nervös och bad att få välja snabbt, men kunderna var förvirrade. Jag lämnade caféet och började titta på nyheterna i bilen, där jag fortfarande hade wi-fi. Efter 20 minuter började meddelanden dyka upp på Facebook – många företag hade problem med sitt produktbeställningssystem. Detta var inte bara vårt företags system. "Din jävel!" – sa jag högt av en oväntad tanke. Kärnlåskoden visade sig vara universell för system från olika företag. Eller fanns det en för alla? En sak var klar, Max sålde kärnan till andra företag, systemen skilde sig tydligen bara i tilläggen över dem. Därför ville han inte inaktivera kärnan medan han levde. Detta dödade hela hans projekt, som visade sig vara globalt. Otrolig! Max var ett monster som lurade alla. Men till slut bedrog han sig själv och betalade med sitt liv. Företagshjärnan han skapade förstörde sin skapare. Ljusa personligheter brinner ut från sina egna lågor.

Det kom fler och fler nyheter om misslyckanden i nätbutikernas arbete. Någon skrev att antalet meddelanden på det sociala nätverket har minskat kraftigt. Jag ville inte längre rusa någonstans. Jag bestämde mig för att hyra ett hus vid stranden av en sjö, som jag gillade på vägen till Karelen. Skriv ner den här historien. Och stanna här för alltid om möjligt.

Epilog

Faktum är att vi inte alls var intresserade av företagets vinst, eller ens bonusar. Vi var besatta av idén om att skapa ett autonomt system som kunde driva företaget istället för chefer belastade med stereotyper och kognitiva fel. Vi var intresserade av vad det skulle bli. Kommer programmet att kunna hantera hela verksamheten? Det var en utmaning, mer spännande än att komma in i centrum av Bermudatriangeln. Det okända vinkade oss, men det visade sig vara farligare än vi trodde. Systemet började påverka inte bara affärer, utan också våra tankar och till och med liv som är likgiltiga för det.

2019. Alexander Khomyakov, [e-postskyddad]

Källa: will.com