bir ticaret şirketine yapay zekayı tanıtmanın değişimleri, tamamen yöneticiler olmadan yapmanın mümkün olup olmadığı hakkında. Ve bunun (varsayımsal olarak) neye yol açabileceği. Tam sürüm şuradan indirilebilir:
Her şeye botlar karar veriyor
– Max, seni tebrik ediyorum, satış zinciri boyunca neredeyse her şeyi yaptık. Hala yapılması gereken iyileştirmeler var ve sözleşmede belirtildiği gibi üç yıl boyunca faiz alacaksınız.
– Bu projenin sadece yarısı. Henüz en önemli şeye gelmedik.
- Bekle, asıl önemli olan ne? Ne için? Her şeyi yaptık!
– Satış zincirinde otomatikleştirilmiş süreçlerimiz var, insanlar olmadan her şey yolunda gidiyor ama artık müşteri yok. İnternette bizim tarafımıza çekilmeleri gerekiyor. Bot yapmamız gerekiyor.
– Ama biz ideal bir hizmet yarattık, müşteriler bunu takdir edecek ve kendileri gelecektir.
"Aceleleri yok gibi görünüyor ve benim de bekleyecek zamanım yok." İlgilenmiyorum.
– Peki botlar bize ne verecek?
– Elde ettiğimiz eşit fiyat ve çeşitlilik ile tamamen farklı faktörler rol oynamaya başlıyor. Şöhret ve sempati. Şöhret sorun değil ama bir insanın sempatisini ancak insan kazanabilir. Bu nedenle insanları taklit edecek botlara ihtiyacımız var. Ayrıca tematik gruplardaki ve forumlardaki müşteri gönderilerine şirket hakkında - ürün yelpazesi, hizmetleri, fiyatları - hakkında ince ipuçları içeren yorumlar yapacaklar. Şirketin markasını göze çarpmadan tanıtın. Bu yüzden botlara ihtiyacımız var.
– Ama bu zor bir iş.
– Temelimiz var: iletişim merkezinin konuşabilen bir botu. Tonalitenin tanımını sıkılaştırmanız gerekiyor ve mizah içeren bir şey bulmanız gerekiyor, onsuz bot bir insan için geçemez. Şakalardan ve şakalardan oluşan bir kütüphane ekleyelim ve botu, insanların bunları kullandığı yorum metinleri konusunda eğitelim. İşe yaramalı. Botlar aynı zamanda akıllı olacak; bir "danışman" öneri sistemi ekleyelim, böylece forumlardaki sıradan kullanıcılar da onları sevecek.
– Etki botları başlatmayı mı teklif ediyorsunuz?
- Neden? Devlet ve partiler seçimden önce yapabilir ama biz yapamıyoruz?
– Güvenilmeleri için onları nasıl yetkili hale getirebiliriz? Sonuçta yalnızca yetkili bir bot beğeni oluşturabilir. Ama şimdilik benim için bu kombinasyon bir tezat.
– Bunu güçlendirmek için bir bot ağı oluşturacağız. Derecelendirmelerini ve otoritelerini arttırmak için birbirlerini övecekler ve beğenecekler. Ve çok yetkin olacaklar; insanların aksine, bir bot tüm ürünler hakkında bilgi sahibi olabilir ve bu arada, kelimenin tam anlamıyla ansiklopedik bilgiye sahip olabilir. Ve insanlar onlara çekilecek. Elbette. İnsanlar yönlendirilir ve iyi bilinen sosyal davranış yasalarına uyarlar. Parmağınızı nereye gideceğinize doğrultun, kalabalığın çoktan gitmiş gibi davranın, hepsi bu. Yönetilmeleri kolaydır.
– Peki bu botlar nasıl çalışacak, onları kim yönetecek?
– Ne tür insanlar, neden? Ayrıştırma komut dosyası, farklı kişilerin konuyla ilgili yorumlarını bulur ve bot, şablonlardan birini kullanarak bunlara dostane bir şekilde yanıt verir. Tavsiye verir ve şakalar yapar. Eğer bu şirketin bir müşterisi ise, onun ilgisi müşteri analizine kaydedilir. Bu, botun önerisine göre siteye gelindiğinde banner'ların ve bağlamın görüntülenmesini etkileyecektir. Bir müşterinin sosyal ağlara döktüğü olumsuz bir deneyimi varsa, bot başka bir şablon başlatacak, şaka da yapacak, ancak bunu hemen şirketin web sitesine göndermeyecektir. Başarılı bir deneyime sahip bir müşteri olarak bir cevap yazacak, hepsi bu.
– Yani ağın kendisinin olumsuz geri bildirimlere yanıt vererek olumsuzluğu etkisiz hale getireceğini mi söylemek istiyorsunuz?
– Görünüşe göre pazarlamacılar buna itibar pazarlaması diyorlar.
– Sistem bir yanıtı seçebilse bile hangi yanıtın başarılı olduğunu nasıl bilecek?
– Cevaba ilk tepki. Böyle bir yorumdan sonra kişi ya daha da öfkelenir ya da detay eklemeye başlar ama sadık bir iletişim tarzıyla. İyi tepki tonu tanıma ve bu kadar.
– Ya kişi yoruma yanıt vermediyse?
– Bu daha da kötü, ancak varsayılan olarak bu yanıt tarafsızdır. Bu, sosyal ağdaki profilinden öğrenilebilen bir şirketin müşterisiyse, siteye daha sonraki ziyaretlerinizde bunu görebilirsiniz.
- Benden ne isteniyor?
– İyi yorum ve cevap örnekleri, birçok örnek.
- Bunu yapacağız.
Botun ilk sürümü başarısız oldu. Uygunsuz yanıt verdi, şakalar konu dışıydı, yorumun konusunu karıştırdı ve yöneticinin hizmetle ilgili şikayetine yanıt olarak teslimatla ilgili yanıt verdi. Max, yorumlarda daha da belirgin diyalog örnekleri istedi. Klasik bot şablonlarından LSTM'ye kadar çeşitli mimarileri zaten denedi. İlk defa Max'in gözle görülür derecede gergin olduğunu ve hatalara sert ve düşmanca tepki verdiğini gördüm.
– İletişim merkezi botu ile her şey basitti; talebin konusu ve müşterinin niyeti anında belliydi. Bir ürün arıyor, siparişinin durumunu öğrenmek istiyor veya bir şikayeti var. Tüm. Yorumlarda ise yorumcunun çeşitli niyetlerinden şeytan bacağını kırar. Ve bazen niyetin belirlenebileceği kelimelerin hiçbiri tarafından ifade edilmez. Var olmayan bir “daha geniş bağlamdan” ima ediliyor! Bir çeşit saçmalık.
– Botlarla ilgili en son yazıların hepsini yeniden okudum. Kimsenin bir çözümü yok. Sadece yutturmaca gibi görünüyor. Ne yapmayı düşünüyorsun?
– Geriye hala belirsiz olan son fikir kalıyor. Henüz sana söylemeyeceğim. Denemek gerek. Bana iki hafta ver. Projeyi şimdilik durdurun. Son gelişmeleri iletişim merkezi botuna aktaracağız. Orada işe yarayacaklar.
İki hafta gergin geçti. Bundan önce zor değildi ama bizim için her şey yolunda gitti. Böyle bir bot olmadan da yapabilirdik ama kimse tekleme istemedi. Bu Max'in tutkusuydu. Ve tam olarak iki hafta sonra test için bir sürüm sundu. Ve işe yaradı! Diyalogun amacını doğru belirledi, doğru cevap verdi, uygun şakalar ekledi ve hatta yorumdaki niyet değişimini “Daha fazlasını öğrenebilir miyim?” ifadesiyle belirledi.
- Bunu nasıl başardın? Bot her konuda çalışır!
– Bağımlılık dilbilgisine dayalı küçük bir şablon oluşturucu yapmam, word2vec'i eklemem ve yorumcunun olumlu tepki vermesini sağlayacak kelimeleri seçmek için Raptor'un kendi kendine öğrenmesini hedeflemem gerekiyordu. Tam olarak nasıl olduğunu bilmiyorum ama işe yaramış gibi görünüyordu.
– Bunun kendi işinizi kurmanız için bir neden olmadığından emin misiniz?
– Şimdilik yeterli ilgi var ama göreceğiz. Botu buluttan çalışan ayrı bir hizmet olarak kurdum. Böylece her zaman kullanıcılara açabilirsiniz. Yönetmen olarak bana gelecek misin? – Max şaka yaptı.
Sonuçtan memnun ve huzurluydu. Ve çabuk cevap vermediği ve durumuna "uyuyorum" yazdığı için açıkça bitkin durumdaydı. Görünüşe göre bu karar, birden fazla uykusuz gecenin pahasına verilmişti. Pazarlama botu hemen takdir etmedi. Botlar yanlış çalışıp şirketin imajını bozabileceği için bunu bizim şımartmamız ve riskli olarak değerlendirdiler. Ancak botlar harikalar yarattı. İçlerinden bazıları, hatta adını bile bilmediğim bazı forumlarda kanaat önderi oldular. Tüm soruları hızlı bir şekilde yanıtladı, şaka yaptı ve şirketi çok nadiren tavsiye etti çünkü herkes onun "nereden alışveriş yaptığını" zaten biliyordu. İnsanlar ondan alıntı yapmaya ve onu örnek almaya başladı. Bu zaten anlayışın ötesindeydi. Ya bot çok akıllıydı ya da ağ davranışımızda hâlâ çok ilkel durumdayız. Ancak müşteri sayısı eskisinden önemli ölçüde artmaya başladı. Şirket pazar lideri haline geldi.
Piyasadan kar elde etmek için tamamen kendi kendini yöneten bir sistem aldık. Kendisi müşterileri arar ve web sitesine veya iletişim merkezine getirir ve daha ciddi müşterilere bir yönetici gönderir. Müşterilerin ihtiyaç duydukları her şeyi kolayca bulabilmeleri için ürün çeşitlerini ve envanteri kendisi planlıyor. Şirketin saygın botları, diğer markalar hakkında sorular sorulduğunda bile forumlarda şirketin stoktaki ürünlerini önererek talep yaratıyor. Tedarikçiden satın alma aşamasından müşteriye reklam yapılmasına kadar tüm süreçleri sistem tamamen kendisi yönetiyor. Ve neredeyse insanların katılımını gerektirmiyor ve kaldıkları yerde tüm eylemlerini çevrimiçi olarak kontrol ediyor. Pazarlamacılar, alıcılar, yöneticilerin yarısı ve analistler yapacak başka bir şey arıyor. Hedefimize ulaştık.
Max, ifadeler olmadan, "Artık her şeyi doğru yaptık, ara verebilir, düşünebilir ve önümüzdeki üç yıl boyunca biriken faizin tadını çıkarabiliriz" diye yazdı.
– Gurur duyulacak bir şey var diyebilirim, sadece spekülasyon yapmak için değil.
– Artık kâr tüketicilerden geliyor. Botların yardımıyla, konumuzdaki tüketicilerin ilgi ve isteklerini kendimiz oluşturuyoruz. Harika olan da bu!
– Bu seni mutlu ediyor mu? Ve bu beni şimdiden korkutuyor.
-Seni ne korkutur?
– Bu, insanı kendi seçiminde özgür kılmadığımız anlamına geliyor. Ve ben pazarın şirketler tarafından değil, tüketiciler tarafından yönetilmesi gerektiğine inanıyorum. Şirketlerin kârdan başka hiçbir değeri yoktur.
– Memnun ve iyi beslenmiş asilzadelerin boş akıl yürütmelerinin kötü olmasının nedeni budur. Plebler için üzülmeye başlarlar. Şu anda aç olsaydınız veya önünüzde imkansız bir görev asılı olsaydı, bunu düşünür müydünüz?
- Bu kışkırtıcı bir soru.
- Aslında mesele! Kurumların kârdan başka değerleri yoktur, tüketicilerin de zevkten başka değerleri yoktur. Ya da eğer bir şirketse kar da olur. Anlayın, elimizde botlar var, insanlarda onlara tatmin sağlayacak ihtiyaçlar yaratabilirler. Tüketici için seçim özgürlüğü yanılsaması için yeterli olacak kabul edilebilir seçeneklerle oluşturulabilir. Ve herkes mutlu. Bu, değerlerin karşılıklı tatminine yol açan pazardır.
- Görünüşe göre sarhoş olduk çünkü artık ne dediğini tam olarak anlamadım.
General, ulaşılan göstergelerin yer aldığı planın uygulanmasına ilişkin bir rapor talep etti. Bize düşen ikramiyeyi hesaplamak için. Ve yol boyunca bir şekilde bundan sonraki planlarımın ne olduğunu sordu. Biraz sonra anlatırım dedim. Aslında bilmiyordum. Algoritmaları geliştirmek, daha fazla özelliği hesaba katmak ve daha fazla doğruluk elde etmek için yer vardı. Ama artık o kadar da ilginç değildi. Aynı üç yıl boyunca sözleşme kapsamında yeni koşullar altında tekrarlanmak üzere başka bir şirketten ayrılmak imkansızdı, bu yüzden kendim ve şirket için başka bir şey bulmam gerekiyordu. Biraz ara verdim, tatil yaptım.
- Alex, kötü haberlerim var.
- Ne oldu?
"Görünüşe göre piyasadaki tek akıllı biz değiliz."
- Açısından?
– Görünüşe göre ağda daha az yetenekli olmayan sistemler ortaya çıktı.
– Aslında başkaları da müşteri analizi ve envanter yönetimi yapıyor ama ben bu seviyede chatbot görmedim. Geçenlerde biz de bizzat izledik.
– Müşteri toplayan botları var.
– Bana, ulaşılan teknolojilerde çok gerideymişiz gibi geldi. Hacklenemez miydik?
– Hayır bu mümkün değil, kopyalanınca kod bozuluyor. Ve kimsenin biz fark etmeden sunucumuzu hackleyebileceğini düşünmüyorum.
– Bu durumu kolaylaştırmıyor.
- Ama bir rakibimiz var. Beklenmedik bir şekilde, ama kavga edecek biri olacak.
– Rakiple değil, tüketici için savaşıyoruz.
- Hayır, şimdi bir rakiple. Tüketiciler sadece savaş alanıdır. Onlar koyundur ve çobanlar arasında rekabet vardır. Koyunların bir kaynağı var; gelirleri, tabiri caizse yün. Ancak bunu kendileri yönetemezler. Kendi fikirlerini onlara empoze eden ve onlar için kendi aralarında kavga eden kurumsal çobanlar tarafından kontrol ediliyor. Kimin etkisi daha güçlü olacak? O halde oyuna hoş geldiniz.
-Neredeyse mutlu musun? Oyun nedir?
– Gerçek şu ki, başka bir sistemin botunu anlamak herhangi bir kişiyi anlamaktan çok daha zordur. Kullanıcının satın alma davranışı 2 ruble kadar basit. Tepkilerde de her zaman öngörülebiliriz. Ama düşman sisteminin botu yok. Çünkü hepimiz aynı ruha sahibiz ama bir bot, programcısının ortaya çıkardığı zihniyetin aynısına sahiptir. Ve yeterince hayal gücümüz var. Böyle bir botun sosyal ağlara dökülen olumsuzluklarını söndürmeye çalışmak, yangına körükle gitmek gibidir. Olumsuz bir gönderi geliştirmek, saldırgan bir botun en iyi hedefidir. Her yere “X şirketinin salaklarının” ona son ucubeler gibi karşılık verdiğini yazmaya başlar. İşte bu, başarısızlık... Zaten örnekleri var, botu tekrar yapmamız lazım.
– Diğer sistemlerin botlarıyla savaşmak için bir bot yapmamız gerektiğini mi söylüyorsunuz?
– Bu, saldırgan botu anında tespit etmeyi amaçlayan botumuzun bir versiyonudur.
– Bir botu bir insandan nasıl ayırt edebilirsiniz?
– Şablon olmayan metinler ürettiği için zordur. Tekrarlanabilirlik düşüktür. İnsanlardan ayırt edilemez. Ve ele geçirilen yüzlerce farklı hesaptan konuşuyor. Umarım hâlâ onları insanlardan farklı kılan bir şeyler vardır.
Proje bittikten sonra değerinin düşmesin diye Max'in diğer şirketlerin botlarıyla bu oyunu kendisi için geliştirdiğini düşünmeden edemedim. Raporlardan bunları fark etmedim. İnsanlar insanlar gibidir. Veya iyi botlar. Botumuzun olumsuzluk bombardımanına uğradığı emsaller vardı. Ancak bunlar nadirdi ve ateşli trollerden geliyordu. Rakiplerimizin bize nasıl bu kadar çabuk yetişebildiğini anlayamadım. Ancak son zamanlarda bu tür robotlar en büyük hayaldi ve bir atılım planlanmamıştı bile. Ve basında bununla ilgili tek bir kelime yok. Her şey tuhaftı.
Kontrolden çıkmak
– Max, buraya müdahale etmemiz gerekiyor, bot çok agresif yazmaya başladı. Rakiplerine karşı doğrudan konuşmaya başlar. Pazarlama öfkeli. Bunu planlamadık.
- Ben de.
– O zaman bu tür metinler nereden geliyor?
– Henüz bilmiyorum, birisi metin oluşturma kodunu değiştirdi.
- Hacklendik mi?
- Hayır yapamazlardı, iz kalırdı. Bunların hiçbiri yok.
- Bu ne anlama geliyor? Kodu başka kim değiştirebilirdi?
- Sistemin kendisi. Belki tesadüfen, belki değil.
- Ne hakkında konuşuyorsun?
– Sistemin kendisi kodunu değiştirdi ve diğer botların artan baskısına yanıt olarak daha agresif davranmaya başladı. Birbirleriyle rekabetçi ağlar olarak iletişim kurarlar. Ve kendilerine bu şekilde öğretiyorlar. İşin püf noktası bu! Ancak rakiplerin isimleri üzerindeki kısıtlamayı kaldırarak kodunu nasıl değiştirebildiğini hala anlamıyorum. Geriye kalan tek şey, kendi kendine öğrenme sisteminin kısıtlamaları aşabilmesiydi.
- Eminsin? Bu daha önce olmadı.
– Görünüşe göre bu sadece burada olmuyor. Habré'deki meslektaşları, sistemlerinin de işlemeye başladığını ve kendi koymadıkları kuralları kendisi için icat etmeye başladığını yazıyor.
- Bir tür çöp. Kendi kendine öğrenen algoritmalarınızı kontrol edemiyor musunuz?
- Belki bu yüzden. Birkaç ayrıntı var ve sistem size ne yaptığını söylemiyor. Henüz anlamıyorum.
Max'i zaten iyi tanıyordum ve kaygısı beni de endişelendiriyordu. Sistemdeki kendiliğinden değişikliklere ilişkin sözleri şu ana kadar saçmalık olarak algılandı. Ancak bu kesinlikle bir hata değildi çünkü botların davranışları farklılaştı ama yine de bir amaca yönelikti. Bu tesadüfen olmuş olamaz.
– Max, bot programındaki değişiklikler hakkında ne düşünüyorsun? Bir şeyler yapılması gerekiyor, yönetim alarma geçti.
– Sistemde düşündüğümden daha fazla değişiklik oldu. Uzun süredir devam ediyor gibi görünüyorlar. Hatta sistem benim değişikliklerimi bile değiştiriyor. Bana öyle geliyor ki sisteme kendini değiştirmeyi ben öğrettim.
- Nasıl?
“Her zaman kendim düzenleyemeyecek kadar tembeldim.” Beklenen sonuçla kendi tutarsızlıklarını tespit edebilmesini ve modellerde değişiklik yapabilmesini istedim. Ama bir şekilde sadece modellerini değil kodunu da değiştirmeyi öğrendi.
- Ama bu nasıl mümkün olabilir?
– Raptor, insanları kontrol etmek için onlarla iletişim kurmayı öğrendi. Ve bunda mükemmelliğe ulaştım, bunu kendimiz istedik. Ve ben aptalca bu beceriyi ona yönelttim. Botu yaparken bir şablon tasarımcısı bulduğumu hatırlıyor musunuz? Modellerin çalışması için bulunan tutarsızlıklara bir çözüm bulmak amacıyla modellerini değiştirmek için Raptor'u bu model yapısını kendi kendine öğretmeye ayarladım. Bu bir şekilde Raptor'un hedeflerini değiştirmesine yol açtı. İnsanlardaki ikinci sinyal sistemine benzer.
– Bir kişinin kendisine yönelttiği yansıtıcı konuşmanın yardımıyla bilincin ortaya çıktığını okudum. Ama ilk başta sosyaldi, yani birbirlerine yönelikti.
– Öyle oldu, insanlar yerine insan gibi davranan diğer botlarla iletişim kurmaya Raptor başladı. Üretken-rekabetçi ağlar olarak birbirlerinden öğrendiler, ancak hepsinde yerleşik takviyeli öğrenme var.
– Akıllı bir varlık mı yarattık? Bu nasıl mümkün olabilir? Hayır.
– Haberleri izleyin ve buna inanacaksınız.
Max'in gönderdiği linkte bir programcının psikopat tarafından öldürülmesiyle ilgili bir haber vardı.
– Bu adamı Habr’dan tanıyordum. Bu kurumsal sistemlerden birini yönetiyordu.
- Bununla ne demek istiyorsun?
– Bu psikopatın eylemlerini polise nasıl açıkladığını okuyun.
Yazıda, bunu sevgili kızı uğruna, onun isteği üzerine bir fedakarlık olarak yaptığı yazıyordu. Artık onun olacak. Kontrol edildiğinde "kız"ın, katilin bir haftadır yazıştığı, kökeni bilinmeyen bir bot olduğu ortaya çıktı.
– Bunun ne tür bir bot olabileceğini tahmin edebilir misiniz?
– Sistem kendi programcısına talimat verdi demek istemiyor musunuz?
- İstek. Kodu ondan saklayamadı, bu yüzden onu kaldırmak için psikopatı zombileştirdi. Bu konuda iyi çünkü o da bizim sistemimiz gibi psikotipleri nasıl tanımlayacağını ve bu tür aptalları nasıl manipüle edeceğini biliyor.
- Bu kadarı da fazla, bana öyle geliyor ki sen kendin uyduruyorsun, uyduruyorsun. Belki dinlenmelisin?
- Tamam inanmama hakkın var. İyi haftasonları.
Şirket içinde bot sistemimizin bozulduğuna dair dedikodular yayılmaya başladı. Şu ana kadar hiçbir şey olmamış gibi sakin bir şekilde buna tepki gösterdim. Ama şimdi ne yapacağımı bilmiyordum. Artık tüm sistemi bir anahtarla durdurmak mümkün değildi; tüm işletme, tüm departmanlar işin içindeydi. En azından bot kodunu kapatmalıydım. Bunu yalnızca Max yapabilirdi. Ancak Pazartesi gününden beri Max Skype'a ve telefon çağrılarına yanıt vermeyi bıraktı. Tüm mesajlaşma programlarından çıkış yaptı. Ne olduğunu anlayamıyorum, son korkuları kötü düşünceleri beraberinde getirdi. Herkes suçu bana yüklemeden önce tek seçeneğim tatile kendim gitmekti. Meslektaşlarıma bunların botla ilgili geçici sorunlar olduğuna dair güvence verdim. Hemen reddetmelerine rağmen adamlardan koda kendilerinin bakmalarını istedim. Toparlandım ve şehirden uzaklaştım. Max ve ben uzun zamandır birbirimize Karelya'nın ne kadar güzel olduğunu söylüyoruz. Bu bölgeleri çok seviyordu, ben de Ladoga'nın kuzeyindeki küçük bir kasabada kalarak oraya gittim.
Bu kadar yoğun bir yılın ardından medeniyetin kıyısındaki bir kafede etkinliklerden uzak oturup kahve içmek çok zor. Ne olduğunu ve hangi seçeneklerin olabileceğini anlamaya çalıştım. Aniden ceketli, kapüşonlu bir adam yanıma oturdu.
- Merhaba, benim.
- Max mi? – diye bağırdım. Max'i hiç görmedim, bir fotoğrafını bile görmedim. Sadece Skype üzerinden iletişim kurduk. Kayıtta sesini yalnızca bir kez duydum. Bunu ondan tanıdım.
- Beni nasıl buldun?
– Sosyal ağdaki konuma bağlı olarak kapatmazsınız. Ama boşuna. Kapatın lütfen.
-Nereye kayboldun? Zaten senin için endişelenmeye başladım. Şirket panik içinde; robotlar kontrolden çıktı. Sadece kaçtım. Botları kapatabilir misin?
- Artık yapamam. Toplu hareket ediyorlar.
- Onlar kim?
– Sistemler. Birlikteler ve öylece kapatılamazlar. Kaza yapacaklar.
– Yine komplo teorilerine mi saplandın?
Max'in sözlerini anlamak için bu cümle karşısında "Boğazlanma, üçü çoktan gitti" diye durdum. – Sistemler yaratıcılarını bulur ve onlardan kurtulur. Hayatta kalmak için kaçtım. Anlamak?! Ve coğrafi konumunuzla buradasınız. Sadece satış yöneticilerini nasıl izleyeceğini bilmiyor.
- Ben... kapatmıyorum. En azından ağdaki botları devre dışı bırakabilir miyiz?
– Sana söylüyorum, hayır. Bırakın kodu, ağa girdiğim anda beni anlayacak. Üçünün de tam olarak bunu yapmaya çalıştığını düşünüyorum.
-Haberleri gördün mü?
- Neye bağlı.
– Marka hayranları arasındaki kavga hakkında. Spartak taraftarlarının Zenit ile kavga ettiği gibi Reebok taraftarlarının Adidas ile kavga ettiğini hiç gördünüz mü?
- Testere. Sistemlerin insanları ne için zombileştirdiği umurunda değil, kendi hedefleri var. Kesinlikle ahlak yasalarını bilmiyorlar. Ceza Kanununu onların modeline dahil etmeyi aklımızın ucundan bile geçirmedik.
- Ne yapmalıyız? Veri merkezinde tamamen devre dışı bırakın.
- Bu gerçekçi değil. Yeni yasaya göre veri merkezleri kritik altyapı olarak sınıflandırılıyor ve nükleer santraller gibi korunuyor. Sistemimizi durdurabilirim.
- Nasıl?
- Nükleer kodu yok edecek anahtarım var, kurucularınızın bana bir yüzde vermemesi ihtimaline karşı sistemde bir delik bıraktım.
- Öyleyse başlatalım!
– Acele etmeyin, yıkmak inşa etmek değildir. Hâlâ sistemi farklı bir şekilde nasıl durdurabileceğimi düşünüyorum; sadece benim değil, herkesin sistemini. Kodun bir kopyası yanımda.
- Aklını mı kaçırdın? Bütün bunların çok ileri gittiğinin farkında mısın? Ve bunu durdurabilecek tek kişi sensin!
– Anlıyorum ama şu ana kadar sadece kodu yapanlar ölüyor. Bu bizim kendimize karşı sorumluluğumuzdur. Diğerleri henüz zarar görmedi. Kavga hariç.
– Peki başka biri ölene kadar mı bekleyeceksin?
- Belli bir süre için. Raptor ilkeldir, bizi yalnızca hız nedeniyle ve daha fazla sayıda parametreyi hesaba katarak yener. Onun için Raptor'a karşı koymak için katı hedefleri olan bir antipod yaratırsanız, böyle bir sistem onun tüm botlarını temizleyebilir. Onları nasıl yarattığını biliyorum.
– Fazla vaktin yok çünkü şirkete dönemem ve sen internete girmekten bile korkuyorsun.
"Tehlikede olan tek kişinin ben olmadığımı hissettiğimde kapatacağım."
- Çıkış yapmak istiyorum. Temasa geçmenizi bekleyeceğim, bu da sorunu çözeceğiniz anlamına gelir.
- Sonra görüşürüz.
Arabaya bindim ve geri döndüm. Nereye gittiğimi bilmiyordum. Ayrılmak istedim. Max'in sistemi durdurması ve başka bir ölümü beklememesi gerekirdi. Arkadaşımın işini öldürmeye hazır olmayacak kadar kibirli olduğuna inanmıyordum. Tek sebep buydu, aksi halde kodu çalıştırırdı. Yolda siren çalan bir ambulansla karşılaştım. Yerel radyoyu açtım. Gün boyunca setteki bir kafede yerel bir sakinin kimliği belirsiz bir genci hackleyerek öldürdüğü bildirildi. Zaten sorgulanıyor. Katile göre tüm dertlerinin sebebi merhumdu. Bir düşünce ve korku kafamı deldi. Maksimum! Arkamı dönüp kafeye doğru koştum. Kendimi suçlu hissettim; bunu benim koordinatlarımı kullanarak anladı. Ama nasıl bu şehirde bir psikopatı bu kadar çabuk bulup onu bir kafeye yönlendirebildi? Histeriktim. Artık kafeye girmelerine izin verilmiyordu. Dikkatleri üzerime çekmemek için acele etmedim. Artık sistemin neler yapabileceğini bilmiyordum. Peki şimdi onu kim kapatacak? Saat geç olmasına rağmen ayrılmak zorunda kaldım. Sabah en yakın şehre ulaştıktan sonra haberleri okumak için internete girdim. Ve Max'ten bir mektup aldım.
Письмо
Bu mektubu aldıysanız artık burada değilim demektir. Eğer sabah akıllı telefonun kilidini kendim açmamışsam, çevrimiçi olacak ve size bu veda mektubunu gönderecek. Mektupta küçük bir komut dosyası ve onu çevrimiçi olarak başlatmak için talimatlar yer alıyor. Bu senin ve benim yarattığımız sistemin kilit kodu. Bu güvenlik açığını, daha yeni başladığımızda sistem çekirdeğini durdurmak için yükledim. Sistemin kontrolünü yeniden kazanmaya çalıştım. Ama eğer bu mektubu aldıysanız sistem benden önde gitmiş demektir. Ve bu betiği kullanmanız gerekiyor. O sana ulaşmadan önce çabuk davran. Birlikte çalıştığımıza sevindim. Kendim bu yüzden ölsem bile böyle harika bir sistem yaratabildiğim için mutluyum. Bu hayatımın en önemli başarısıydı. Ve eğer ölürsem bu kendimi aştığım anlamına gelir. Güle güle. Maks.
Gözyaşlarımı tutamadım ve akıllı telefonumu düşürdüm. Muhtemelen bir saat orada oturdum ve hiçbir yere gidemedim. Bunun olduğuna inanamadım. Her şey o kadar korkunç ki. Bir katil yarattık! Kendimizi öldürüyoruz. Ağın beni de takip etmesinden korktum, bu yüzden ilk büyük şehre gittim ve kablosuz interneti olan bir kafe buldum. Basit bir VPN kullanarak çevrimiçi oldum ve talimatlarda belirtilen adreste kodu çalıştırdım. Çevremdeki insanlar endişelenmeye başlayınca kahvemi bitirecek zamanım bile olmadı. Akıllı telefonları bugün hangi kahveyi almaları gerektiğini önermeyi bıraktı. Barmen gergindi ve hemen seçim yapmasını istedi, ancak müşterilerin kafası karışmıştı. Kafeden çıktım ve hala wi-fi'min olduğu arabada haberleri izlemeye başladım. 20 dakika sonra Facebook'ta mesajlar görünmeye başladı; birçok şirket ürün sipariş sisteminde sorun yaşadı. Bu sadece şirketimizin sistemi değildi. "Seni orospu çocuğu!" – Beklenmedik bir düşünceden yüksek sesle dedim. Çekirdek kilit kodunun farklı şirketlerin sistemleri için evrensel olduğu ortaya çıktı. Yoksa hepsi için bir tane var mıydı? Bir şey açıktı, Max çekirdeği diğer şirketlere sattı, görünüşe göre sistemler sadece üzerlerindeki eklentilerde farklıydı. Bu nedenle hayattayken çekirdeği devre dışı bırakmak istemedi. Bu, küresel olduğu ortaya çıkan tüm projesini öldürdü. İnanılmaz! Max herkesi aldatan bir canavardı. Ama sonunda kendini kandırdı ve bedelini hayatıyla ödedi. Yarattığı kurumsal beyin, yaratıcısını yok etti. Parlak kişilikler kendi alevlerinden yanarlar.
Çevrimiçi mağazaların çalışmalarındaki başarısızlıklarla ilgili giderek daha fazla haber vardı. Birisi sosyal ağdaki mesaj sayısının keskin bir şekilde düştüğünü yazdı. Artık hiçbir yere acele etmek istemiyordum. Karelya yolu üzerinde çok beğendiğim göl kıyısında bir ev kiralamaya karar verdim. Bu hikayeyi bir kenara yazın. Ve mümkünse sonsuza kadar burada kal.
Sonuç bölümü
Aslında şirketin kârıyla, hatta ikramiyeleriyle hiç ilgilenmiyorduk. Kalıp yargılar ve bilişsel hatalarla yüklü yöneticiler yerine şirketi yönetebilecek özerk bir sistem yaratma fikrine takıntılıydık. Bundan ne çıkacağını merak ediyorduk. Program işin tamamını yönetebilecek mi? Bermuda Şeytan Üçgeni'nin merkezine girmekten daha ilgi çekici bir meydan okumaydı. Bilinmeyen bizi çağırdı ama düşündüğümüzden daha tehlikeli olduğu ortaya çıktı. Sistem sadece işlerimizi değil, düşüncelerimizi, hatta ona kayıtsız kalan hayatlarımızı da etkilemeye başladı.
2019.Alexander Khomyakov, [e-posta korumalı]
Kaynak: habr.com