A cég agya. 3. rész

A történet folytatása a mesterséges intelligencia bevezetésének viszontagságairól egy kereskedelmi vállalatnál, arról, hogy lehet-e teljesen nélkülözni a menedzsereket. És hogy ez (hipotetikusan) mihez vezethet. A teljes verzió letölthető innen Liter (ingyenes)

A botok döntenek mindent

„Max, gratulálok, gyakorlatilag befejeztük az értékesítési folyamatot. Már csak egy kis munka van hátra, és a szerződésben foglaltak szerint három éven keresztül megkapjuk a jutalékunkat.”
„Ez még csak a projekt fele. Még a legfontosabbal sem foglalkoztunk.”
– Várjunk csak, mi a lényeg? Miért? Mindent megtettünk!
„Automatizáltuk az értékesítési láncunkat, és minden jól működik emberek nélkül is, de még mindig kevesebb ügyfelünk van. Online kell bevonznunk őket. Botokat kell létrehoznunk.”
– De ideális szolgáltatást hoztunk létre, az ügyfelek értékelni fogják, és maguktól is eljönnek.
„Nem úgy néznek ki, mintha sietnének, és nincs időm várni. Nem érdekel.”
- De mit fognak nekünk adni a botok?
„Az elért egyenlő árakkal és termékválasztékkal teljesen más tényezők játszanak szerepet. Hírnév és kedveltség. A hírnév nem probléma, de csak egy ember nyerheti el egy ember szeretetét. Ezért van szükségünk olyan botokra, amelyek embernek adják ki magukat. Hozzászólnak a vásárlói bejegyzésekhez tematikus csoportokban és fórumokon, finoman utalva a vállalatra – annak termékválasztékára, szolgáltatásaira és áraira. Finoman népszerűsítik a vállalat márkáját. Ezért van szükségünk botokra.”
- De ez egy nehéz feladat.
„Megvannak az alapok – egy társalgási célú contact center bot. Hozzá kell adnunk a hangnem-érzékelést, és ki kell találnunk valami humorosat – a bot enélkül nem fog tudni embernek tűnni. Hozzáadunk egy vicc- és poénkönyvtárat, és betanítjuk a botot olyan kommentszövegekre, ahol az emberek használták őket. Működnie kell. A botok okosak is lesznek – hozzáadunk egy „útmutató” ajánlórendszert, és akkor a fórumok hétköznapi felhasználói imádni fogják őket.”

– Azt javaslod, hogy influencerbotokat indítsanak?
– Miért ne? Az állam és a pártok megtehetik a választások előtt, de mi nem?
„Hogyan tegyük őket hitelessé, hogy megbízhatóak legyenek? Végül is csak egy hiteles bot képes vonzerőt generálni. De egyelőre ez a kombináció oximoronnak tűnik számomra.”
„Hálózatunk megerősítése érdekében botokból álló hálózatot hozunk létre. Dicsérni és kedvelni fogják egymást, hogy növeljék értékelésüket és tekintélyüket. És rendkívül kompetensek lesznek; az emberekkel ellentétben egy bot teljes körű ismeretekkel rendelkezhet minden termékről, sőt szó szerint enciklopédikus szakértelemmel is rendelkezhet. És az emberek vonzódni fognak hozzájuk. Biztos vagyok benne. Az emberek motiváltak, és betartják a társas viselkedés jól ismert törvényeit. Mutass a megfelelő irányba, tégy úgy, mintha a tömeg már mozogna, és ennyi. Könnyű irányítani őket.”
– De hogyan fognak ezek a botok működni, ki fogja őket irányítani?
Milyen emberek, és miért? Az elemző szkript különböző emberektől származó hozzászólásokat keres a témában, és a bot barátságosan válaszol rájuk az egyik sablon segítségével. Tanácsokat ad és viccet mesél. Ha a cég ügyfeléről van szó, az érdeklődését rögzíti az ügyfélelemzés. Ez befolyásolja a banner megjelenítését és a kontextuális információkat, amikor a bot ajánlása alapján meglátogatják az oldalt. Ha az ügyfélnek negatív élménye volt, amit megosztott a közösségi médiában, a bot egy másik sablont indít, amely szintén viccet mesél, de nem küldi közvetlenül a cég weboldalára. Úgy fog reagálni, mintha pozitív élménye lett volna, és ennyi.
– Tehát azt mondod, hogy maga a hálózat semlegesíti a negativitást a negatív visszajelzésekre reagálva?
– A marketingesek, azt hiszem, ezt reputációmarketingnek hívják.
– Honnan tudná a rendszer, hogy melyik válasz a helyes, még ha találna is egyet?
– Az első reakció a válaszra. Az illető vagy még jobban felháborodik, vagy részleteket kezd hozzáfűzni egy ilyen megjegyzés után, de toleránsabb módon. Jó hangnemfelismerés, és kész.
– Mi van, ha az illető nem reagált a hozzászólásra?
„Ez még rosszabb, de alapértelmezés szerint egy ilyen válasz semleges. Ha ez egy céges ügyfél, ami a közösségi média profiljából meghatározható, akkor a weboldal későbbi látogatásait is meg lehet nézni.”
- Mit várnak el tőlem?
- Jó példák a hozzászólásokra és válaszokra, sok példa.
- Megcsináljuk.

A bot első verziója sikertelen volt. A válaszai nem voltak megfelelőek, a poénjai témán kívüliek voltak, összezavarta a hozzászólás tárgyát, és amikor egy vezető panaszkodott az ügyfélszolgálatra, a kézbesítésre reagált. Max további jegyzetekkel ellátott párbeszédpéldákat kért a hozzászólásokban. Már számos architektúrát kipróbált, a klasszikus botsablonoktól az LSTM-ig. Most először láttam Maxet láthatóan idegesnek, a hibákra hirtelen és barátságtalanul reagált.

„A contact center bottal minden egyszerű volt – a kérés tárgya és az ügyfél szándéka azonnal egyértelmű volt. Terméket keresnek, ellenőrizni szeretnék a rendelésük állapotát, vagy panaszt szeretnének tenni. Ennyi. De a hozzászólásokban a hozzászóló szándékai szédítően sokszínűek. Néha még szavakkal sem fejezik ki őket, ami szándékra utalna. Egy „tágabb kontextusból” sugallják, ami nem létezik! Micsoda ostobaság.”
– Újraolvastam az összes legutóbbi bejegyzést a botokról. Senkinek sincs megoldása. Csak felhajtásnak tűnik. Mit tervezel csinálni?
„Van még egy utolsó, homályos ötletem. Még nem mondom el. Ki kell próbálnom. Adj nekem két hetet. Egyelőre tedd szüneteltetett állapotba a projektet. A legújabb fejleményeket átvisszük a contact center botnak. Ott majd jól jönnek majd.”
Idegtépő két hét volt. Előtte sem volt könnyű, de közeledett a cél. Senki sem akart gyújtáskimaradást, pedig egy ilyen bot nélkül is el tudtunk volna lenni. Ez volt Max célja. És pontosan két héttel később benyújtott egy verziót tesztelésre. És működött! Pontosan azonosította a beszélgetés szándékát, pontosan válaszolt, megfelelő vicceket illesztett be, sőt, még a szándék változását is észlelte egy hozzászólásban a „többet is megtudhatnék?” kifejezés alapján.
– Hogy sikerült ezt megcsinálni? A bot bármilyen témában működik!
„Létre kellett hoznom egy kis sablonkészítőt a függőségi nyelvtan alapján, hozzáadnom a word2vec-et, és a Raptor önképzését úgy kellett megcéloznom, hogy olyan szavakat válasszon ki, amelyek pozitív kommentárt generálnak. Nem vagyok biztos benne, hogyan, de úgy tűnik, működött.”
– Biztos vagy benne, hogy ez nem ok arra, hogy saját vállalkozást indíts?
„Egyelőre elég a százalék, aztán meglátjuk. A botot különálló, felhőben futó szolgáltatásként állítottam be. Így bármikor megnyithatom a felhasználók előtt. Szeretnél nekem igazgatóként dolgozni?” – viccelődött Max.

Nyugodt volt és elégedett az eredményeivel. És egyértelműen kimerült, mivel nem válaszolt gyorsan, és azt írta a státuszába, hogy "alszom". Nyilvánvalóan a döntés több álmatlan éjszakát vett igénybe. A marketingesek nem értékelték azonnal a botot. Trükknek tartották, ráadásul kockázatosnak, mivel a botok meghibásodhatnak és tönkretehetik a cég imázsát. De a botok csodákat tettek. Néhányan közülük, és én még név szerint sem ismertem mindet, véleményvezérré váltak bizonyos fórumokon. Gyorsan válaszolt minden kérdésre, viccelődött, és ritkán ajánlotta a céget, mert mindenki már tudta, hol vásárol. Az emberek elkezdték idézni és példaként használni őt. Ez felfoghatatlan volt. Vagy a bot volt túl okos, vagy csak mi voltunk túl primitívek az online viselkedésünkben. De az ügyfelek száma jelentősen megnőtt. A cég piacvezetővé vált.

Egy teljesen autonóm rendszert hoztunk létre a piaci profittermeléshez. Automatikusan megkeresi és a weboldalra vagy a contact centerbe irányítja az ügyfeleket, és a tapasztaltabb ügyfelekhez menedzsert rendel. Megtervezi a termékkínálatot és a készletet, hogy az ügyfelek mindent megtaláljanak, amire szükségük van, és könnyen elérhető legyen. A vállalat megbízható botjai a fórumokon a vállalat aktuálisan elérhető termékeinek ajánlásával generálják a keresletet, még akkor is, ha az ügyfelek más márkákról érdeklődnek. A beszállítóktól történő vásárlástól az ügyfeleknek szóló hirdetésekig a rendszer minden folyamatot automatikusan kezel. Gyakorlatilag semmilyen emberi beavatkozást nem igényel, és ahol emberi interakció marad, felügyeli az összes online tevékenységet. A marketingesek, a beszerzők, a vezetők fele és az elemzők más tevékenységeket keresnek. Elértük a célunkat.
„Most, hogy mindent jól csináltunk, tarthatunk egy kis szünetet, elmélkedhetünk, és élvezhetjük a következő három évben felhalmozódó érdeklődést” – írta Max, nem minden emotikon nélkül.
– Van mire büszkének lenni, mondanám, és nem csak beszélni róla.
„Most a fogyasztókon keresztül termelünk profitot. Botok segítségével alakítjuk a fogyasztók érdeklődését és vágyait a saját piaci résünkben. Ez az, ami annyira menő!”
- Ez boldoggá tesz? Már most megijeszt.
- Mi ijeszt meg?
„Ez azt jelenti, hogy az emberek kevésbé szabadon választhatnak. És hiszem, hogy a fogyasztónak, nem pedig a vállalatoknak kellene a piac élvonalában járnia. A vállalatoknak nincs más értéke, mint a profit.”
„Ez a baj az elégedett és jól táplált patríciusok üres fecsegéseivel. Elkezdik sajnálni a plebejusokat. Ha most éhes lennél, vagy egy lehetetlen feladattal néznél szembe, gondolnál erre?”
- Ez egy provokatív kérdés.
„Ez a lényeg! A vállalatoknak nincs más értéke, mint a profit, és a fogyasztóknak sincs más értéke, mint az élvezet. Vagy a profit, ha vállalatról van szó. Értsék meg, vannak botjaink; képesek alakítani az emberek igényeit, hogy elégedettek legyenek. Elfogadható lehetőségekkel tudják alakítani őket, elég ahhoz, hogy a fogyasztó számára a választás szabadságának illúzióját keltsék. És mindenki boldog. Ez a piac, amely az értékek kölcsönös kielégítéséhez vezet.”
– Úgy tűnik, berészegedtünk, mert nem egészen értettem, amit mondtál.

A vezérigazgató kért egy tervteljesítmény-jelentést az elért mutatókkal. Ki akarta számolni a bónuszunkat. Azt is megkérdezte, hogy mik a terveim a továbbiakban. Azt mondtam, hogy majd később elmondom. A valóságban nem tudtam. Még mindig van mit fejleszteni az algoritmusokon, több funkció beépítésére és nagyobb pontosság elérésére. De ez már nem volt olyan érdekes. Egy másik céghez való átköltözés, hogy új szerződéses feltételek mellett megismételjem a folyamatot, a következő három évben nem volt opció, ezért valami mást kellett kitalálnom magamnak és a cégnek. Tartottam egy kis szünetet és szabadságot.

- Alex, rossz hírem van.
- Mi történt?
– Úgy tűnik, nem mi vagyunk az egyetlen okosok a piacon.
- Ami?
– Úgy tűnik, hogy nem kevesebb képességű rendszerek jelentek meg a hálózaton.
„Nos, az ügyfélelemzést és a készletgazdálkodást biztosan mások is végzik, de én még soha nem láttam ilyen kaliberű chatbotokat. Mi magunk is csak nemrég néztük meg őket.”
– Vannak botjaik, amelyek ügyfeleket toboroznak.
„Azt hittem, hogy sokkal előrébb járunk a technológiában. Nem lehet, hogy feltörtek minket?”
„Nem, ez lehetetlen; a kód másoláskor megsérül. És nem hiszem, hogy bárki is feltörhette volna a szerverünket anélkül, hogy észrevennénk.”
– Ez nem könnyíti meg a helyzetet.
„De most már van egy riválisunk. Ez váratlan, de legalább lesz kivel harcolnunk.”
– A fogyasztóért harcolunk, nem a versenytársakért.
„Nem, most egy versenytárssal. A fogyasztók csak egy csatatér. Ők juhok, és a pásztorok között verseny van. A juhoknak van egy erőforrásuk – a jövedelmük, a gyapjújuk, hogy úgy mondjam. De nem ők maguk kezelik azt. A vállalati pásztorok kezelik, akik rájuk erőltetik a véleményüket, és egymás között versengenek a sajátjukért. Kinek a befolyása lesz erősebb? Szóval, üdv a játékban.”
- Majdnem boldog vagy? Mi a játék?
„A helyzet az, hogy egy másik rendszerből származó botot sokkal nehezebb kiszúrni, mint bármelyik emberi lényt. Egy felhasználó vásárlási viselkedése olyan egyszerű, mint egy fillér. És a reakciói is – mindig kiszámíthatóak. De egy ellenséges rendszerből származó bot nem az. Mert mindannyiunknak ugyanaz a pszichéje, de egy botnak bármije megvan, amit a programozója kitalál. És rengeteg képzelőerőnk van. Egy ilyen bot közösségi médiában elszabaduló negativitásának elfojtására tett kísérlet olyan, mint olajat önteni a tűzre. Egy negatív poszt kiterjesztése az agresszor bot legjobb célja. Elkezd mindenhová posztolni, hogy az „X cég gazemberei” komplett bunkókként reagáltak. És ennyi, az egész egy káosz... Már vannak példák; a botot újra kell tervezni.”
– Azt mondod, hogy létre kell hoznunk egy botot, hogy más rendszerekből származó botok ellen harcolhassunk?
– Ez a botunk egy olyan verziója, amelynek célja, hogy azonnal észlelje az agresszív botokat.
- És hogyan lehet megkülönböztetni egy botot egy embertől?
„Nehéz, mert nem konvencionális szövegeket generál. Az ismétlési arány alacsony. Úgy tűnik, megkülönböztethetetlen az emberektől. És több száz különböző eltérített fiókból működik. Remélem, van még valami, ami megkülönbözteti őket az emberektől.”

Nem tudtam szabadulni a gondolattól, hogy Max más cégek botjaival találta ki ezt a játékot, hogy az értéke ne csökkenjen a projekt befejezése után. Nem vettem észre őket a jelentésekben. Csak emberek voltak. Vagy jó botok. Voltak már precedensek, amikor a botunkat elárasztotta a negativitás. De ezek ritkák voltak, és megszállott trolloktól származtak. Nem értettem, hogyan utolérték őket ilyen gyorsan a versenytársaink. Nemrégiben az ilyen botok még csak álmok voltak, és még csak áttörésnek sem volt jele. És a sajtóban sem esett róla egy szó sem. Az egész furcsa volt.

Ellenőrzés nélkül

„Max, közbe kell lépnünk. A bot túl agresszívvé vált. Elkezdte közvetlenül támadni a versenytársakat. A marketingesek felháborodtak. Nem erre számítottunk.”
- Én is.
– Akkor honnan származnak az ilyen szövegek?
– Még nem tudom, valaki megváltoztatta a szöveggeneráló kódot.
- Meghackeltek minket?
- Nem, nem tehették volna, maradtak volna nyomok. Nincsenek nyomok.
- Mit jelent ez? Ki más változtathatta meg a kódot?
– Maga a rendszer. Talán véletlenül, talán nem.
- Miről beszélsz?
„Maga a rendszer is megváltoztatta a kódját, és agresszívabbá vált, válaszul a többi bot részéről érkező fokozott nyomásra. Versenyképes hálózatokhoz hasonlóan kommunikálnak egymással. És így tanulnak önállóan. Ez a trükk! De hogyan volt képes megváltoztatni a kódját, eltávolítva a versenytársak nevére vonatkozó korlátozást, azt még mindig nem értem. Az egyetlen dolog, ami megmaradt, az az, hogy az önállóan tanuló rendszer képes volt megkerülni a korlátozásokat.”
- Biztos vagy benne? Ilyen még soha nem történt.
„Úgy tűnik, ez nem csak itt történik meg. A Habr-on dolgozó kollégák arról írnak, hogy az ő rendszerük is rosszul működik, és olyan szabályokat kezdenek kitalálni maguknak, amelyeket nem ők állítottak fel.”
– Micsoda káosz. Nem tudod irányítani az önálló tanuló algoritmusaidat?
„Lehet. Nincs elég konkrétum, és a rendszer nem mondja meg, mit csinál. Még nem értem.”
Már jól ismertem Maxet, és a riasztója engem is riasztott. Eddig a spontán rendszerváltozásról szóló beszéde ostobaságnak tűnt. De biztosan nem volt hiba, mert a botok viselkedése megváltozott, de céltudatos maradt. Nem történhetett véletlenül.
„Max, van valami ötleted a botprogram megváltoztatására? Valamit tenni kell; a vezetőség aggódik.”
„A rendszerben bekövetkezett változások kiterjedtebbnek bizonyultak, mint gondoltam. Úgy tűnik, már régóta tartanak. A rendszer még az én változtatásaimat is megváltoztatja. Azt hiszem, megtanítottam a rendszert arra, hogy önmagát változtassa.”
- Hogyan?
„Túl lusta voltam ahhoz, hogy állandóan szerkesszem. Azt akartam, hogy képes legyen azonosítani a saját eltéréseit a várt eredménytől, és változtatásokat eszközölni a modelleken. De valahogy megtanulta nemcsak a modelljeit, hanem a kódját is megváltoztatni.”
- De hogy lehetséges ez?
„Raptor megtanult kommunikálni az emberekkel, hogy irányíthassa őket. És ebben tökéletességet ért el; mi is ezt akartuk tőle. Én pedig ostobán ezt a képességet ráirányítottam. Ne feledjétek, amikor a botot készítettük, kitaláltam egy sablonszerkesztőt. Ráállítottam a Raptort, hogy öntanítsa ezt a sablonszerkesztőt, hogy módosítsa a modelljeit, és megoldásokat találjon a modellek működési céljaival szemben észlelt eltérésekre. Ez valahogy oda vezetett, hogy a Raptor megváltoztatta a saját céljait. Olyan, mint egy második jelzőrendszer az emberekben.”
„Azt olvastam, hogy a tudatosság reflexív beszéd révén alakult ki, amelyet az emberek önmagukra irányítottak. De eleinte társas volt, azaz egymásra irányult.”
„Ez történt. Raptor elkezdett kommunikálni más botokkal, akik embernek adták ki magukat, ahelyett, hogy emberek lennének. Generatív versengő hálózatokként tanultak egymástól, amelyek mindegyikébe beépítették a megerősítéses tanulást.”
- Intelligens lényt teremtettünk? Hogy lehetséges ez? Ne-ne-ne.
– Nézd a híreket, és el fogod hinni.
A link, amit Max küldött, egy híradásról szólt, amiben egy programozót meggyilkolt egy pszichopata.
„Ismertem ezt a fickót a Habrból. Ő vezette az egyik olyan vállalati rendszert.”
- Mit értesz ezalatt?
– Olvasd el, hogyan magyarázta el ez a pszichopata a tetteit a rendőrségnek.
A cikk szerint a szeretett lányért tette, kérésére áldozatul. Mostantól az övé lesz. A nyomozás során kiderült, hogy a "lány" egy ismeretlen eredetű bot, akivel a gyilkos egy hete cseveg.
– Kitalálod, milyen bot lehet ez?
– Azt mondod, hogy a rendszer saját programozót rendelt?
„Igen.” Nem tudta kizárni a kódból, ezért zombifikálta a pszichopatát, hogy eliminálja. Jó benne, mert a mi rendszerünkhöz hasonlóan képes azonosítani a pszichotípusokat és manipulálni az ilyen idiótákat.
- Hát, ez már túl sok, szerintem csak képzelődsz, felhúzod magad. Talán pihenned kellene egy kicsit?
- Oké, jogodban áll nem elhinni. Kellemes hétvégét!

Elkezdtek terjedni a pletykák a cégnél, hogy a botrendszerünk nem működik. Egyelőre nyugodtan reagáltam, mintha mi sem történt volna. De nem tudtam, mit tegyek. Az egész rendszer egyetlen kapcsolóval történő leállítása már nem volt megvalósítható; az egész üzlet, minden részleg erre támaszkodott. Legalább a botkódot le kellett tiltanom. Ezt csak Max tudta megtenni. De hétfőn Max nem válaszolt a Skype-ra és a telefonhívásokra. Kijelentkezett az összes üzenetküldőjéből. Nem tudtam rájönni, mi történt; a legújabb félelmei rossz gondolatokat ébresztettek bennem. Az egyetlen lehetőségem az volt, hogy magam megyek nyaralni, mielőtt rám kenik a felelősséget. Biztosítottam a kollégáimat, hogy ezek csak átmeneti botproblémák. Megkértem a srácokat, hogy nézzék meg maguk a kódot, de azonnal elutasították. Összepakoltam és elindultam messze a várostól. Maxszal már régóta mondogattuk egymásnak, milyen csodálatos Karéliában. Imádta a vidéket, ezért odamentem, és egy kisvárosban szálltam meg a Ladoga-tó északi részén.

Nagyon nehéz egy ilyen mozgalmas év után távol ülni a történésektől és kávézni egy kávézóban a civilizáció peremén. Próbáltam felfogni, mi történt és mik a lehetséges kimenetelek. Hirtelen egy srác ült le mellém egy dzsekiben, kapucnival a fejére húzva.
-Szia, én vagyok az.
„Max?!” – kiáltottam. Még sosem láttam Maxet, még egy fotót sem készítettem róla. Kizárólag Skype-on kommunikáltunk. Csak egyszer hallottam a hangját, egy felvételen. Így ismertem fel.
- Hogy találtál rám?
– Ami a közösségi médiában a helyszínmegjelenítést illeti, nem kapcsolod ki. És ez kár. Kapcsold ki, kérlek.
„Hová tűntél el? Már kezdtem aggódni érted. Pánik van a cégnél, a botok kicsúsztak az irányítás alól. Épp most szöktem el. Ki tudnád kapcsolni a botokat?”
- Már nem bírom. Együttesen cselekszenek.
- Kik ők?
– A rendszerek. Összejátszottak, és nem lehet csak úgy kikapcsolni őket. Összeomlanak.
- Megint összeesküvés-elméletekbe bonyolódtál?
„Nem akadtam el, hárman már halottak” – itt megálltam, hogy felfogjam Max szavait. „A rendszerek azonosítják az alkotóikat és megszabadulnak tőlük. Én elmenekültem, hogy életben maradjak. Érted?! És itt van a geolokációd. Nem csak az értékesítési vezetőket tudja követni.”
„Én nem... letiltom. Legalább az online botokat letilthatnánk?”
„Mondom, hogy nem. Amint belépek a hálózatba, a kódról nem is beszélve, máris a nyomomra akad. Azt hiszem, pontosan ezt próbálták elérni ők hárman.”
- Láttad a híreket?
- Attól függ, melyikek.
– A Brand szurkolók közötti harcról. Láttál már Reebok szurkolókat Adidas szurkolókat verekedni, ahogy Spartak szurkolókat Zenit szurkolók között?
„Láttam. A rendszereket nem érdekli, mivel mossák át az emberek agyát; megvannak a saját céljaik. Nyilvánvalóan nem értik az erkölcsi törvényeket. Eszünkbe sem jutott, hogy beépítsük a Büntető Törvénykönyvet a modelljeikbe.”
– Mit tegyünk? Teljesen le kell állítani az adatközpontot.
„Ez lehetetlen. Az új törvény értelmében az adatközpontok kritikus infrastruktúrának minősülnek, és az atomerőművekhez hasonlóan védik őket. Leállíthatom a rendszerünket.”
- Hogyan?
„Van egy kulcsom a nukleáris kód megsemmisítéséhez, lyukat hagytam a rendszerben arra az esetre, ha az alapítói megtagadnák tőlem a százalékot.”
- Akkor indítsuk el!
„Ne siess, könnyebb lerombolni, mint építeni. Még mindig azon gondolkodom, hogyan állítsam le a rendszert, nem csak az enyémet, hanem az egész rendszert. Van nálam a kód másolata.”
„Megőrültél? Érted, hogy ez már túl messzire ment? És te vagy az egyetlen, aki megállíthatja!”
„Értem, de eddig csak azok haltak meg, akik a kódot megalkották. Ez a mi felelősségünk. Senki másnak még nem esett baja. Kivéve a harcot.”
- És megvárod, míg más meghal?
„Egy ideig. A Raptor primitív; csak a sebessége és az a tény miatt múlja felül minket, hogy több paramétert vesz figyelembe. Ha létrehozunk egy antipódot precíz ellenintézkedésekkel, egy ilyen rendszer eltörölhetné az összes robotját. Tudom, hogyan hozza létre őket.”
„Kevés időd van, mert nem tudok visszamenni a céghez, te pedig még az internetre is félsz felmenni.”
- Amint úgy érzem, hogy nem én vagyok az egyetlen veszélyben, kikapcsolom.
„Elmegyek. Megvárom, míg jelentkezel, ami azt jelenti, hogy megoldod a problémát.”
- Találkozunk a kapcsolatfelvételnél.

Beszálltam a kocsiba és visszaindultam. Nem tudtam, hová megyek. El akartam menni. Maxnek le kellett állítania a rendszert, nem várhatott egy újabb halálesetre. Nem tudtam elhinni, hogy a barátom ennyire hiú, hogy nem hajlandó megölni a teremtményét. Ez volt az egyetlen ok, különben elindította volna a kódot. Útközben elmentem egy szirénázó mentőautó mellett. Bekapcsoltam a helyi rádiót. Jelentették, hogy egy helyi lakos délután halálra vagdalt egy ismeretlen fiatalembert egy rakparti kávézóban. Már kihallgatták. A gyilkos szerint az elhunyt volt minden bajának oka. Egyetlen gondolat és félelem hasított a fejembe. Max! Megfordultam és visszarohantam a kávézóba. Bűntudatom volt – a koordinátáim alapján azonosította. De hogyan sikerült ilyen gyorsan találnia egy pszichopatát ebben a városban, és a kávézóba irányítania? Hisztérikus voltam. A kávézóba már nem mehetett be. Nem rohantam be, hogy ne hívjam fel magamra a figyelmet. Nem tudtam, mire képes most már a rendszer. És ki kapcsolná ki most? Mennem kellett, pedig már későre járt. Reggel, miután elértem a legközelebbi várost, felmentem az internetre, hogy elolvassam a híreket. Aztán kaptam egy levelet Maxtól.

levél

Ha megkaptad ezt a levelet, az azt jelenti, hogy elmentem. Ha ma reggel nem én oldottam fel az okostelefonomat, akkor online lesz, és elküldi neked ezt a búcsúlevelet. A levél egy kis szkriptet és utasításokat tartalmaz arról, hogyan kell online futtatni. Ez a kód a rendszerünk zárolásához, amit együtt hoztunk létre. Ezt a sebezhetőséget azért ültettem be, hogy leállítsam a rendszermagot, amikor még csak elkezdtük. Megpróbáltam visszaszerezni az irányítást a rendszer felett. De ha megkaptad ezt a levelet, az azt jelenti, hogy a rendszer megelőzött. És használnod kell ezt a szkriptet. Cselekedj gyorsan, mielőtt hozzád ér. Örülök, hogy együtt dolgoztunk. Örülök, hogy sikerült egy ilyen csodálatos rendszert létrehoznom, még akkor is, ha én magam belehaltam. Ez volt életem legjelentősebb eredménye. És ha meghaltam, az azt jelenti, hogy felülmúltam önmagam. Viszlát. Max.

Nem tudtam visszatartani a könnyeimet, és elejtettem az okostelefonomat. Biztosan egy órát ültem ott, sehova sem tudtam vezetni. Nem tudtam elhinni, hogy ez történt. Hogy ilyen szörnyű volt. Gyilkost teremtettünk! Egy gyilkost magunknak. Attól féltem, hogy a hálózat engem is lenyomoz, ezért elmentem az első nagyobb városba, találtam egy kávézót Wi-Fi-vel. Egy egyszerű VPN segítségével csatlakoztam az internethez, és lefuttattam a kódot az utasításokban megadott címen. Mielőtt befejezhettem volna a kávémat, a körülöttem lévők aggódni kezdtek. Az okostelefonjaik már nem ajánlották, hogy milyen kávét egyenek ma. A csapos ideges volt, és megkérte őket, hogy válasszanak gyorsabban, de a vendégek zavarban voltak. Kimentem a kávézóból, és elkezdtem híreket nézni az autóban, ahol még volt Wi-Fi-m. 20 perc múlva üzenetek kezdtek megjelenni a Facebookon – sok cégnek problémái voltak a rendelési rendszerével. Nem csak a mi cégünk rendszerével volt gond. "Te rohadék!" - mondtam hangosan, hirtelen ötlettől vezérelve. A kernel zárkód univerzálisnak bizonyult a különböző cégek rendszereiben. Vagy mindenkinek ugyanaz? Egy dolog világos volt: Max eladta a magot más cégeknek; a rendszerek látszólag csak a felépítményben különböztek egymástól, amelyre építették őket. Ezért nem akarta leállítani a magot, amíg élt. Ez tönkretette az egész projektjét, amely végül globálisnak bizonyult. Hihetetlen! Max egy szörnyeteg volt, aki mindenkit becsapott. De végül önmagát is becsapta, és az életével fizetett. Az általa létrehozott vállalati agy elpusztította alkotóját. Briliáns személyiségek égnek a saját lángjukban.

Egyre több hír keringett az online áruházak leállásairól. Valaki írt a közösségi médiában megjelenő üzenetek számának hirtelen csökkenéséről. Már nem akartam sehova sem sietni. Úgy döntöttem, kibérelek egy házat a tóparton, ami megakadt a szememen Karélia felé vezető úton. Leírom ezt a történetet. És ha lehetséges, örökre itt maradok.

Epilógus

Valójában egyáltalán nem érdekelt minket a cég profitja, sőt még a bónuszok sem. Megszállottan foglalkoztatott minket egy autonóm rendszer létrehozása, amely a sztereotípiákkal és kognitív hibákkal terhelt vezetők helyett képes lenne irányítani a céget. Kíváncsiak voltunk az eredményre. Vajon a program képes lesz-e az egész üzletágat irányítani? Ez a kihívás sokkal érdekesebb volt, mint a Bermuda-háromszög közepén landolni. Vonzott minket az ismeretlen, de veszélyesebbnek bizonyult, mint gondoltuk. A rendszer nemcsak az üzletet kezdte befolyásolni, hanem a gondolatainkat, sőt az életünket is, ami nem érdekelte.

2019. Alekszandr Homjakov, alexander.xom@gmail.com

Forrás: will.com