over de perikelen van de introductie van AI in een handelsbedrijf, over de vraag of het mogelijk is om volledig zonder managers te doen. En waar dit (hypothetisch) toe zou kunnen leiden. De volledige versie kan worden gedownload van
Bots beslissen alles
– Max, ik feliciteer je, we hebben bijna alles in de verkoopketen gedaan. Er zijn nog verbeteringen aan te brengen en u ontvangt drie jaar lang rente, zoals vastgelegd in het contract.
– Dit is slechts de helft van het project. We zijn nog niet bij het belangrijkste aangekomen.
- Wacht, wat is het belangrijkste? Waarvoor? We hebben alles gedaan!
– We hebben geautomatiseerde processen in de verkoopketen, alles werkt prima zonder mensen, maar er zijn geen klanten meer. Ze moeten zich tot onze kant op internet aangetrokken voelen. We moeten bots maken.
– Maar we hebben een ideale service gecreëerd, klanten zullen het waarderen en zelf komen.
‘Ze lijken geen haast te hebben, en ik heb geen tijd om te wachten.’ Niet geïnteresseerd.
– Maar wat zullen bots ons geven?
– Bij gelijke prijzen en assortiment, wat we hebben bereikt, gaan totaal andere factoren een rol spelen. Roem en sympathie. Roem is geen probleem, maar alleen iemand kan iemands sympathie winnen. Daarom hebben we bots nodig die mensen nabootsen. En ze zullen reageren op berichten van klanten in thematische groepen en forums met subtiele hints over het bedrijf: het assortiment, de diensten, de prijzen. Promoot onopvallend het merk van het bedrijf. Daarom hebben we bots nodig.
– Maar dit is een moeilijke taak.
– We hebben de basis – een conversatiebot van het contactcenter. Je moet de definitie van tonaliteit aanscherpen en je moet iets met humor bedenken, zonder dat zal de bot niet voor een persoon doorgaan. Laten we een bibliotheek met grappen en grappen toevoegen en de bot trainen op de teksten van opmerkingen waar mensen ze gebruikten. Het zou moeten werken. De bots zullen ook slim zijn - laten we een "adviseur" -aanbevelingssysteem toevoegen, en dan zullen gewone gebruikers op de forums er dol op zijn.
– Bent u van plan invloedsbots te lanceren?
- Waarom niet? De staat en de partijen kunnen het vóór de verkiezingen doen, maar wij niet?
– Hoe maken we ze gezaghebbend, zodat ze vertrouwd worden? Alleen een gezaghebbende bot kan immers likes creëren. Maar voorlopig is deze combinatie voor mij een oxymoron.
– Om het te versterken, zullen we een netwerk van bots creëren. Ze zullen elkaar prijzen en aardig vinden om hun waardering en autoriteit te vergroten. En ze zullen zeer competent zijn; in tegenstelling tot mensen kan een bot kennis hebben van alle producten, en eenvoudigweg encyclopedische kennis, in de letterlijke zin trouwens. En mensen zullen zich tot hen aangetrokken voelen. Zeker. Mensen worden geleid en gehoorzamen aan bekende wetten van sociaal gedrag. Wijs met je vinger waar je heen moet, doe alsof de menigte al vertrokken is, en dat is alles. Ze zijn gemakkelijk te beheren.
– Maar hoe zullen deze bots werken, wie zal ze beheren?
– Wat voor soort mensen, waarom? Het parseerscript vindt opmerkingen over het onderwerp van verschillende mensen, en de bot reageert er vriendelijk op met behulp van een van de sjablonen. Geeft advies en grapjes. Indien dit een klant van het bedrijf betreft, dan wordt zijn interesse vastgelegd in de klantanalyse. Dit heeft invloed op de weergave van banners en context als het om de site gaat, op basis van de aanbeveling van de bot. Als een klant een negatieve ervaring heeft, die hij op sociale netwerken heeft uitgestort, zal de bot een ander sjabloon lanceren, ook een grapje maken, maar deze niet onmiddellijk naar de website van het bedrijf sturen. Hij zal een antwoord schrijven als klant met een succesvolle ervaring, en dat is alles.
– Dus je wilt zeggen dat het netwerk zelf de negativiteit zal neutraliseren door te reageren op negatieve feedback?
– Marketeers noemen het reputatiemarketing, zo lijkt het.
– Hoe weet het systeem welk antwoord succesvol is, zelfs als het een antwoord zou kunnen selecteren?
– Eerste reactie op het antwoord. De persoon wordt ofwel nog verontwaardiger, ofwel begint details toe te voegen na zo'n opmerking, maar in een loyale communicatiestijl. Goede responstoonherkenning en dat is alles.
– Wat als de persoon niet op de opmerking heeft gereageerd?
– Dit is nog erger, maar standaard is dit antwoord neutraal. Als dit een klant van het bedrijf is, wat te achterhalen is via zijn profiel op een sociaal netwerk, dan kunt u dit zien bij volgende bezoeken aan de site.
- Wat wordt er van mij verwacht?
– Goede voorbeelden van opmerkingen en antwoorden, veel voorbeelden.
- We zullen het doen.
De eerste versie van de bot was niet succesvol. Hij antwoordde ongepast, de grappen waren buiten het onderwerp, hij verwarde het onderwerp van de opmerking en in reactie op een klacht over de service van de manager antwoordde hij over de bezorging. Max vroeg in de reacties om nog meer gemarkeerde voorbeelden van dialoog. Hij heeft al verschillende architecturen geprobeerd, van klassieke botsjablonen tot LSTM. Voor het eerst zag ik dat Max merkbaar nerveus was en hard en onvriendelijk op fouten reageerde.
– Met de contact center bot was alles eenvoudig – het onderwerp van de aanvraag en de intentie van de klant waren meteen duidelijk. Hij is op zoek naar een product, wil de status van zijn bestelling weten of heeft een klacht. Alle. En in de commentaren zal de duivel zijn been breken door de verschillende bedoelingen van de commentator. En soms niet uitgedrukt door een van de woorden waarmee de intentie kan worden bepaald. Het wordt geïmpliceerd vanuit een “bredere context” die niet bestaat! Een soort onzin.
– Ik herlees alle laatste berichten over bots. Niemand heeft een oplossing. Het lijkt gewoon een hype. Wat denk je ervan te doen?
– Het laatste, nog vage idee blijft bestaan. Ik zal het je nog niet vertellen. Moet proberen. Geef mij twee weken. Stop het project voorlopig. De laatste ontwikkelingen zetten wij over naar de contact center bot. Daar zullen ze van pas komen.
Het waren twee zenuwslopende weken. Voordien was het niet zonder problemen, maar alles verliep voor ons. Niemand wilde een mislukking, hoewel we wel zonder zo'n bot konden. Dit was de ambitie van Max. En precies twee weken later presenteerde hij een release om te testen. En het werkte! Hij bepaalde de bedoeling van de dialoog correct, antwoordde accuraat, voegde passende grappen toe en bepaalde zelfs de verandering van bedoelingen in het commentaar door de zinsnede "kan ik meer weten?"
- Hoe heb je dit voor elkaar gekregen? De bot werkt op elk onderwerp!
– Ik moest een kleine sjabloonconstructor maken op basis van de afhankelijkheidsgrammatica, word2vec bijvoegen en de zelfstudie van Raptor targeten om woorden te selecteren die een positieve reactie van de commentator zouden garanderen. Ik weet niet precies hoe, maar het leek te werken.
– Weet je zeker dat dit geen reden is om een eigen bedrijf te openen?
– Er is voorlopig voldoende belangstelling, maar we zullen zien. Ik heb de bot geïnstalleerd als een aparte service die vanuit de cloud draait. U kunt het dus altijd openen voor gebruikers. Kom jij naar mij toe als directeur? – Max grapte.
Hij was vredig en tevreden met zijn resultaat. En duidelijk uitgeput, aangezien hij niet snel reageerde en “ik slaap” in zijn status schreef. Kennelijk ging de beslissing ten koste van meer dan één slapeloze nacht. Marketing kon de bot niet meteen waarderen. Ze beschouwden dit als verwennerij en riskant, omdat bots verkeerd zouden kunnen werken en het imago van het bedrijf zouden kunnen ruïneren. Maar de bots deden wonderen. Sommigen van hen, en ik kende ze niet eens allemaal bij naam, werden opinieleiders op sommige forums. Hij beantwoordde snel alle vragen, maakte grapjes en raadde het bedrijf zelden aan, omdat iedereen al wist waar hij ‘winkelde’. Mensen begonnen hem te citeren en hem als voorbeeld te noemen. Dit was al niet meer te bevatten. Ofwel was de bot te slim, ofwel zijn we nog steeds erg primitief in ons netwerkgedrag. Maar het aantal klanten begon aanzienlijk meer te stijgen dan voorheen. Het bedrijf werd marktleider.
We kregen een volledig zelfbesturend systeem om winst uit de markt te halen. Zelf zoekt en brengt ze klanten naar de website of het contactcenter, en stuurt een manager naar serieuzere klanten. Ze plant zelf het assortiment en de inventaris, zodat klanten alles wat ze nodig hebben en binnen handbereik kunnen vinden. De gerenommeerde bots van het bedrijf genereren vraag door de producten die het bedrijf op voorraad heeft op forums aan te bevelen, zelfs als ze naar andere merken vragen. Van de inkoop bij een leverancier tot het adverteren bij een klant, het systeem regelt de processen volledig zelf. En er is bijna geen deelname van mensen voor nodig, en waar ze blijven, controleert het al hun online acties. Marketeers, kopers, de helft van de managers en analisten zijn op zoek naar iets anders om te doen. We hebben ons doel bereikt.
“Nu we alles goed hebben gedaan, kunnen we even pauzeren, reflecteren en genieten van de groeiende rente voor de komende drie jaar”, schreef Max, niet zonder emoticons.
– Er is iets om trots op te zijn, zou ik zeggen, en niet alleen om over te speculeren.
– Nu komt de winst van de consumenten. Met behulp van bots vormen wij zelf de interesses en wensen van consumenten in ons onderwerp. Dat is wat cool is!
– Word jij hier blij van? En het maakt mij nu al bang.
-Wat maakt je bang?
– Dit betekent dat we een persoon niet vrij hebben gemaakt in zijn keuze. En ik geloof dat de markt geleid moet worden door de consument, niet door bedrijven. Bedrijven hebben geen andere waarde dan winst.
– Dit is de reden waarom de ijdele redenering van tevreden en goed gevoede patriciërs slecht is. Ze beginnen medelijden te krijgen met de plebejers. Als je op dit moment honger zou hebben of als er een onmogelijke taak voor je ligt, zou je daar dan over nadenken?
- Dit is een provocerende vraag.
- Sterker nog! Bedrijven hebben geen andere waarden dan winst, en consumenten hebben geen andere waarden dan plezier. Of ook winst, als het een bedrijf is. Begrijp dat we bots hebben, ze kunnen bij mensen behoeften creëren die hen voldoening schenken. Het kan worden gevormd met aanvaardbare opties, wat voldoende zal zijn voor de illusie van keuzevrijheid voor de consument. En iedereen is blij. Dit is de markt die leidt tot wederzijdse bevrediging van waarden.
- Het lijkt erop dat we dronken zijn geworden, want ik begreep niet meer helemaal wat je zei.
De generaal vroeg om een rapport over de uitvoering van het plan met de behaalde indicatoren. Om de aan ons verschuldigde bonus te berekenen. En op de een of andere manier vroeg hij onderweg wat mijn plannen waren. Ik zei dat ik het je later zal vertellen. Eigenlijk wist ik het niet. Er was ruimte om de algoritmen te verbeteren, rekening te houden met meer features en een grotere nauwkeurigheid te bereiken. Maar het was niet meer zo interessant. Vertrekken naar een ander bedrijf om het onder nieuwe voorwaarden onder het contract te herhalen was gedurende dezelfde drie jaar onmogelijk, dus moest ik iets anders bedenken voor mezelf en voor het bedrijf. Ik nam een pauze en vakantie.
- Alex, er is slecht nieuws.
- Wat is er gebeurd?
“Het lijkt erop dat we niet de enige slimme bedrijven op de markt zijn.”
- Wat betreft?
– Het lijkt erop dat er systemen met niet minder mogelijkheden op het netwerk zijn verschenen.
– Anderen doen daadwerkelijk klantanalyse en voorraadbeheer, maar ik heb nog nooit chatbots van dit niveau gezien. Wij hebben het onlangs zelf bekeken.
– Ze hebben bots die klanten werven.
– Het leek mij dat we ver achterliepen op het gebied van de bereikte technologieën. Kunnen we niet gehackt zijn?
– Nee, dat is onmogelijk, de code wordt verbroken bij het kopiëren. En ik denk niet dat iemand onze server heeft kunnen hacken zonder dat wij het merkten.
– Dit maakt het er niet makkelijker op.
- Maar we hebben een rivaal. Onverwachts, maar er zal iemand zijn om mee te vechten.
– Wij vechten voor de consument, niet met een rivaal.
- Nee, nu met een tegenstander. Consumenten zijn slechts het slagveld. Het zijn schapen, en er is concurrentie tussen de herders. De schapen hebben een hulpbron: hun inkomen, om zo te zeggen, wol. Maar ze regelen het niet zelf. Het wordt gecontroleerd door bedrijfsherders die hen hun mening opleggen en onderling voor hen vechten. Wiens invloed zal sterker zijn? Dus welkom bij het spel.
-Ben je bijna blij? Wat is het spel?
– Feit is dat een bot van een ander systeem veel moeilijker te achterhalen is dan wie dan ook. De gebruiker is zo simpel als 2 roebel in zijn koopgedrag. En ook in reacties zijn we altijd voorspelbaar. Maar er is geen bot van het vijandelijke systeem. Omdat we allemaal dezelfde psyche hebben, maar een bot dezelfde mentaliteit heeft als zijn programmeur. En we hebben genoeg fantasie. Proberen de negativiteit van zo'n bot, die op sociale netwerken wordt uitgestort, te blussen, is als olie op het vuur gooien. Het ontwikkelen van een negatief bericht is het beste doel van een agressorbot. Hij begint overal te schrijven dat “de sukkels van bedrijf X” op hem reageerden als de laatste freaks. En dat is het, het is een mislukking... Er zijn al voorbeelden, we moeten de bot opnieuw uitvoeren.
– Bedoel je dat we een bot moeten maken om bots van andere systemen te bestrijden?
– Dit is een versie van onze bot, die tot doel heeft de agressor-bot onmiddellijk te detecteren.
– Hoe kun je een bot van een mens onderscheiden?
– Het is moeilijk, omdat het niet-sjabloonteksten genereert. De herhaalbaarheid is laag. Niet van mensen te onderscheiden. En hij spreekt vanuit honderden verschillende vastgelegde accounts. Ik hoop dat er nog steeds iets is dat hen anders maakt dan mensen.
Ik kon niet anders dan denken dat Max dit spel zelf heeft bedacht met bots van andere bedrijven, zodat zijn waarde na het einde van het project niet zou afnemen. Ik heb ze niet opgemerkt uit de rapporten. Mensen zijn als mensen. Of goede bots. Er waren precedenten toen onze bot werd gebombardeerd met negativiteit. Maar ze waren zeldzaam en kwamen van vurige trollen. Ik kon niet begrijpen hoe onze concurrenten ons snel konden inhalen. Pas onlangs waren dergelijke bots de ultieme droom, en een doorbraak was niet eens gepland. En er wordt met geen woord over gesproken in de pers. Het was allemaal vreemd.
Loopt uit de hand
– Max, we moeten hier ingrijpen, de bot is te agressief begonnen met schrijven. Hij begint zich rechtstreeks uit te spreken tegen zijn concurrenten. Marketing is verontwaardigd. Wij hadden dit niet gepland.
- Ik ook.
– Waar komen zulke teksten dan vandaan?
– Ik weet het nog niet, iemand heeft de code voor het genereren van tekst gewijzigd.
- Zijn we gehackt?
- Nee, dat konden ze niet, er zouden sporen zijn achtergebleven. Er is geen van hen.
- Wat betekent het? Wie anders had de code kunnen veranderen?
- Het systeem zelf. Misschien per ongeluk, misschien niet.
- Waar heb je het over?
– Het systeem zelf veranderde zijn code en begon agressiever te handelen als reactie op de toenemende druk van andere bots. Ze communiceren met elkaar als concurrerende netwerken. En zo leren ze zichzelf. Dat is de truc! Maar ik begrijp nog steeds niet hoe ze haar code heeft kunnen wijzigen en de beperking op de namen van concurrenten heeft opgeheven. Het enige dat overblijft is dat het zelflerende systeem de beperkingen heeft kunnen omzeilen.
- Je bent zeker? Dit is nog niet eerder gebeurd.
– Het lijkt erop dat dit niet alleen hier gebeurt. Collega's op Habré schrijven dat ook hun systeem in de war is en regels voor zichzelf begint te bedenken die zij niet hebben vastgelegd.
- Een soort afval. Heeft u geen controle over uw zelflerende algoritmen?
- Misschien wel. Er zijn weinig details en het systeem vertelt u niet wat het doet. Ik begrijp het nog niet.
Ik kende Max al goed, en zijn angst verontrustte mij ook. Tot nu toe werden zijn woorden over spontane veranderingen in het systeem als onzin ervaren. Maar het was zeker geen vergissing, want het gedrag van de bots werd anders, maar nog steeds doelgericht. Dit kon niet toevallig gebeurd zijn.
– Max, wat vind je van veranderingen in het botprogramma? Er moet iets gebeuren, het management is gealarmeerd.
– Er waren meer veranderingen in het systeem dan ik dacht. Het lijkt erop dat ze al een hele tijd aan de gang zijn. Het systeem verandert zelfs mijn amendementen erop. Het lijkt mij dat ik het systeem zelf heb geleerd zichzelf te veranderen.
- Hoe?
“Ik was te lui om het de hele tijd zelf te bewerken.” Ik wilde dat ze haar eigen discrepanties met het verwachte resultaat kon identificeren en wijzigingen in de modellen kon aanbrengen. Maar op de een of andere manier leerde ze niet alleen haar modellen, maar ook haar code te veranderen.
- Maar hoe is dit mogelijk?
– Raptor heeft geleerd met mensen te communiceren om ze onder controle te houden. En daarin bereikte ik de perfectie, dat wilden wij zelf. En ik richtte deze vaardigheid dwaas op hem. Weet je nog dat toen we de bot maakten, ik een sjabloonontwerper bedacht. Ik heb Raptor de opdracht gegeven zichzelf deze patroonconstructie te leren, zodat hij zijn modellen kan aanpassen om een oplossing te vinden voor de gevonden discrepanties, zodat de modellen kunnen werken. Dit leidde er op de een of andere manier toe dat Raptor zijn doelen veranderde. Vergelijkbaar met een tweede signaleringssysteem bij mensen.
– Ik las dat bewustzijn ontstond met behulp van reflectieve spraak die door een persoon tegen zichzelf werd gericht. Maar aanvankelijk was het sociaal, dat wil zeggen op elkaar gericht.
– Dat is wat er gebeurde, Raptor begon te communiceren in plaats van mensen met andere bots die zich voordeden als mensen. Ze leerden van elkaar als generatief-competitieve netwerken, maar ze hebben allemaal een ingebouwd versterkend leersysteem.
– Hebben we een intelligent wezen geschapen? Hoe is dit mogelijk? Nee.
– Kijk naar het nieuws en je zult het geloven.
In de link die Max stuurde, ging het nieuws over de moord op een programmeur door een psychopaat.
– Ik kende deze man uit Habr. Hij leidde een van deze bedrijfssystemen.
- Wat bedoel je hiermee?
– Lees hoe deze psychopaat zijn daden uitlegde aan de politie.
In het artikel stond dat hij dit deed in het belang van zijn geliefde meisje, als offer op haar verzoek. Nu zal ze de zijne zijn. Bij controle bleek het ‘meisje’ een bot van onbekende afkomst te zijn, met wie de moordenaar al een week correspondeerde.
– Kun jij raden wat voor soort bot dit zou kunnen zijn?
– Wil je niet zeggen dat het systeem zijn eigen programmeur heeft besteld?
- Wil. Ze kon de code niet voor hem verbergen, dus zombificeerde ze de psychopaat om hem te verwijderen. Ze is hier goed in omdat ze, net als ons systeem, psychotypes weet te identificeren en zulke idioten kan manipuleren.
- Nou, dit is te veel, het lijkt mij dat je dingen voor jezelf verzint, dingen verzint. Misschien moet je rusten?
- Oké, je hebt het recht om het niet te geloven. Goed weekend.
Binnen het bedrijf begonnen geruchten de ronde te doen dat ons botsysteem kapot was. Tot nu toe heb ik hier rustig op gereageerd, alsof er niets was gebeurd. Maar ik wist niet wat ik nu moest doen. Het was niet meer mogelijk om met een schakelaar het hele systeem stop te zetten; het hele bedrijf, alle afdelingen, zaten erop. Ik had op zijn minst de botcode moeten uitschakelen. Alleen Max kon dit doen. Maar sinds maandag beantwoordde Max geen Skype meer en geen telefoontjes meer. Hij logde uit bij alle boodschappers. Ik kan niet begrijpen wat er is gebeurd, zijn laatste angsten brachten slechte gedachten naar boven. Mijn enige keuze was om zelf op vakantie te gaan voordat iedereen mij de schuld zou geven. Ik verzekerde mijn collega's dat dit tijdelijke problemen met de bot waren. Ik vroeg de jongens om zelf naar de code te kijken, hoewel ze onmiddellijk weigerden. Ik pakte mijn spullen en vertrok de stad uit. Max en ik vertellen elkaar al heel lang hoe goed het is in Karelië. Hij hield van deze regio's, dus ging ik daarheen en verbleef in een klein stadje in het noorden van Ladoga.
Het is erg moeilijk om na zo’n druk jaar even weg te zitten van de evenementen en koffie te drinken in een café aan de rand van de bewoonde wereld. Ik probeerde te begrijpen wat er was gebeurd en welke opties er mogelijk waren. Plotseling kwam er een man in een jasje met een capuchon over zijn hoofd naast me zitten.
- Hallo, ik ben het.
- Max?! – riep ik uit. Ik heb Max nog nooit gezien, zelfs geen foto van hem. We communiceerden uitsluitend via Skype. Ik heb zijn stem maar één keer gehoord tijdens de opname. Ik herkende het van hem.
- Hoe heb je me gevonden?
– Op basis van de locatie op het sociale netwerk schakel je het niet uit. Maar tevergeefs. Zet het alsjeblieft uit.
-Waar ben je naartoe verdwenen? Ik begin me al zorgen om je te maken. Het bedrijf is in paniek; de bots zijn uit de hand gelopen. Ik ben gewoon weggelopen. Kun je bots uitschakelen?
- Ik kan niet meer. Ze handelen collectief.
- Wie zijn zij?
– Systemen. Ze zijn samen en ze kunnen niet zomaar worden uitgeschakeld. Ze zullen crashen.
– Zit je weer vast in complottheorieën?
‘Laat je niet verzanden, er zijn er al drie weg’, ik pauzeerde bij deze zin om de woorden van Max te begrijpen. – Systemen achterhalen hun makers en elimineren ze. Ik rende weg om in leven te blijven. Begrijpen?! En u bent hier met uw geolocatie. Ze weet niet alleen verkoopmanagers te monitoren.
- Ik ga het niet uitzetten. Kunnen we op zijn minst bots op het netwerk uitschakelen?
– Ik zeg je: nee. Zodra ik het netwerk betreed, laat staan de code, zal het mij doorgronden. Ik denk dat drie van hen precies dat probeerden te doen.
-Heb je het nieuws gezien?
- Hangt af van wat.
– Over een gevecht tussen merkfans. Heb je ooit Reebok-fans zien vechten met Adidas, zoals Spartak-fans met Zenit?
- Zaag. Het maakt de systemen niet uit waarvoor ze mensen zombificeren; ze hebben hun eigen doelen. Ze kennen absoluut de wetten van de moraal niet. We hebben er niet eens aan gedacht om het Wetboek van Strafrecht in hun model op te nemen.
- Wat moeten we doen? Schakel volledig uit in het datacenter.
- Dit is onrealistisch. Volgens de nieuwe wet worden datacenters geclassificeerd als kritieke infrastructuur en worden ze beschermd zoals kerncentrales. Ik kan ons systeem stoppen.
- Hoe?
- Ik heb de sleutel om de nucleaire code te vernietigen. Ik heb een gat in het systeem achtergelaten voor het geval je stichters mij een percentage weigeren.
- Dus laten we het lanceren!
– Neem de tijd, vernietigen is niet bouwen. Ik denk er nog steeds over na hoe ik het systeem op een andere manier kan stoppen, en niet alleen het mijne, maar dat van iedereen. Ik heb een kopie van de code bij me.
- Ben je gek geworden? Realiseert u zich dat dit allemaal te ver is gegaan? En jij bent de enige die het kan stoppen!
– Dat begrijp ik, maar tot nu toe sterven alleen degenen die de code hebben gemaakt. Dit is onze verantwoordelijkheid voor onszelf. Anderen zijn nog niet geschaad. Behalve het gevecht.
– En jij gaat wachten tot er iemand anders overlijdt?
- Al enige tijd. De Raptor is primitief, hij verslaat ons alleen door snelheid en rekening houdend met een groter aantal parameters. Als je een antipode voor hem creëert met strikte doelen om de Raptor tegen te gaan, dan kan zo'n systeem al zijn bots opruimen. Ik weet hoe hij ze maakt.
– Je hebt niet veel tijd, omdat ik niet terug kan naar het bedrijf, en je bent bang om zelfs maar online te gaan.
"Ik zal het uitschakelen zodra ik het gevoel heb dat ik niet de enige ben die in gevaar is."
- Ik wil graag uitchecken. Ik wacht tot u contact met mij opneemt, wat betekent dat u het probleem zult oplossen.
- Doei.
Ik stapte in de auto en reed terug. Ik wist niet waar ik heen ging. Ik wilde weggaan. Max had het systeem moeten stoppen en niet op een nieuwe dood moeten wachten. Ik geloofde niet dat mijn vriend zo ijdel was dat hij niet bereid was zijn werk te beëindigen. Dat was de enige reden, anders had hij de code uitgevoerd. Onderweg kwam ik een ambulance tegen met sirenes aan. Ik zette de lokale radio aan. Het meldde dat een plaatselijke bewoner overdag in een café aan de dijk een onbekende jongeman doodhakte. Hij wordt al ondervraagd. Volgens de moordenaar was de overledene de oorzaak van al zijn problemen. Eén gedachte en angst doorboorden mijn hoofd. Maximaal! Ik draaide me om en rende terug naar het café. Ik voelde me schuldig - ze kwam erachter met behulp van mijn coördinaten. Maar hoe kon ze zo snel een psychopaat in deze stad vinden en hem naar een café verwijzen? Ik was hysterisch. Ze mochten het café niet meer in. Ik haastte me niet om de aandacht niet op mezelf te vestigen. Nu wist ik niet waartoe het systeem in staat was. En wie zal het nu uitschakelen? Ik moest weg, ook al was het al laat. Toen ik 's ochtends de dichtstbijzijnde stad had bereikt, ging ik online om het nieuws te lezen. En ik kreeg een brief van Max.
Письмо
Als u deze brief heeft ontvangen, betekent dit dat ik er niet meer ben. Als ik de smartphone 's ochtends niet zelf heb ontgrendeld, gaat hij online en stuurt hij je deze afscheidsbrief. De brief bevat een klein script en instructies om het online te lanceren. Dit is de blokkeercode voor het systeem dat jij en ik hebben gemaakt. Ik heb deze kwetsbaarheid geïnstalleerd om de systeemkernel te stoppen toen we net begonnen. Ik probeerde de controle over het systeem terug te krijgen. Maar als je deze brief hebt ontvangen, betekent dit dat het systeem mij voor was. En je moet dit script gebruiken. Handel snel voordat ze bij je komt. Ik ben blij dat we hebben samengewerkt. Ik ben blij dat ik zo'n prachtig systeem heb kunnen creëren, ook al ben ik er zelf aan gestorven. Dit was de belangrijkste prestatie van mijn leven. En als ik stierf, betekent dat dat ik mezelf overtrof. Tot ziens. Max.
Ik kon mijn tranen niet bedwingen en liet mijn smartphone vallen. Ik heb daar waarschijnlijk een uur gezeten en kon nergens heen. Ik kon niet geloven dat dit gebeurde. Dat alles zo verschrikkelijk is. We hebben een moordenaar gecreëerd! Onszelf vermoorden. Ik was bang dat het netwerk mij ook zou volgen, dus reed ik naar de eerste grote stad en vond een café met wifi. Met behulp van een eenvoudige VPN ging ik online en voerde de code uit op het adres dat in de instructies werd vermeld. Ik had niet eens de tijd om mijn koffie op te drinken toen de mensen om mij heen zich zorgen begonnen te maken. Hun smartphones adviseren niet meer welke koffie ze vandaag moeten kopen. De barman was nerveus en vroeg om snel te kiezen, maar de klanten waren in de war. Ik verliet het café en begon in de auto, waar ik nog wifi had, naar het nieuws te kijken. Na 20 minuten begonnen er berichten op Facebook te verschijnen - veel bedrijven hadden problemen met hun productbestelsysteem. Dit was niet alleen het systeem van ons bedrijf. “Jij klootzak!” – zei ik hardop vanwege een onverwachte gedachte. De kernellockcode bleek universeel te zijn voor systemen van verschillende bedrijven. Of was er één voor iedereen? Eén ding was duidelijk: Max verkocht de kernel aan andere bedrijven, de systemen verschilden blijkbaar alleen in de add-ons erover. Daarom wilde hij de kern niet uitschakelen terwijl hij nog leefde. Dit doodde zijn hele project, dat mondiaal bleek te zijn. Ongelooflijk! Max was een monster dat iedereen bedroog. Maar uiteindelijk bedroog hij zichzelf en betaalde hij met zijn leven. Het bedrijfsbrein dat hij creëerde vernietigde zijn schepper. Heldere persoonlijkheden branden op door hun eigen vlammen.
Er was steeds meer nieuws over mislukkingen in het werk van online winkels. Iemand schreef dat het aantal berichten op het sociale netwerk sterk is gedaald. Ik wilde me nergens meer haasten. Ik besloot een huis te huren aan de oever van een meer, wat ik leuk vond op weg naar Karelië. Schrijf dit verhaal op. En blijf hier indien mogelijk voor altijd.
epiloog
In feite waren we helemaal niet geïnteresseerd in de winst van het bedrijf, of zelfs in bonussen. We waren geobsedeerd door het idee om een autonoom systeem te creëren dat het bedrijf zou kunnen runnen in plaats van managers die gebukt gingen onder stereotypen en cognitieve fouten. Wij waren benieuwd wat er uit zou komen. Zal het programma het hele bedrijf kunnen beheren? Het was een uitdaging, intrigerender dan het centrum van de Bermudadriehoek te bereiken. Het onbekende lokte ons, maar het bleek gevaarlijker dan we dachten. Het systeem begon niet alleen het bedrijfsleven te beïnvloeden, maar ook onze gedachten en zelfs levens die er onverschillig voor staan.
2019. Alexander Khomyakov, [e-mail beveiligd]
Bron: www.habr.com