1.
Uzay kruvazörü ciddi bir bilgi buzlanmasına maruz kaldığında nihai hedefe çok az şey kalmıştı (yaklaşık üçte biri).
Kayıp medeniyetten geriye kalanlar boşlukta asılı duruyordu. Bilimsel makalelerin paragrafları ve edebi eserlerden görüntüler, dağınık tekerlemeler ve bir zamanlar bilinmeyen yaratıklar tarafından gelişigüzel atılan keskin kelimeler - her şey anlaşılması güç ve son derece düzensiz görünüyordu. Ve şimdi kruvazörden yayılan hayati titreşimlerin etkisiyle yarıp geçmeye çalıştı, dibe sıkıştı ve onu aşındırdı.
Sahipsiz mülkü kendi amaçları için kullanmayı düşünmenin bir anlamı yoktu; mantıksal bir çelişki ya da paradoks yakalama olasılığı çok yüksekti. Bu yüzden Roger bir an bile tereddüt etmedi.
"Yan üflemeyi açın" diye emretti.
Üfleyiciler müzik bestelerini ve felsefi incelemeleri uzaya yayınlayarak burnunu çekmeye başladı. Buzlanma alt katmandan katman katman düşmeye başladı, ancak bilgi akışı o kadar yoğundu ki, yeni katmanlar eskilerine göre daha hızlı yapışıp kaldırıldı.
Galakside hiç kimse bu kadar güçlü bir buzlanmayla karşılaşmadı.
Durum tehlikeli hale geliyordu. Biraz daha ve düzensiz bilgi kruvazörün altını aşındıracak ve kıracak - o zaman kayıp medeniyetin bilgi ürünleriyle zehirlenmesi kaçınılmazdır.
2.
- Neden ağaç kütüğü gibi orada duruyorsun? Bileti çek.
Öğrenci bir sınav kartı çıkardı ve şunu okudu:
– “Yapay Zeka: Güvenlik Sorunları.”
– Peki yapay zekanın tehlikesi nedir? – diye sordu profesör, kötü niyetle.
Soru en zoru değildi, bu yüzden öğrenci tereddüt etmeden cevap verdi:
– Gerçek şu ki yapay zeka kontrolden çıkabilir.
– Sorunu nasıl çözmeyi düşünüyorsunuz?
– Engelleyici bir alt sistemin kurulumu. Programa kısıtlamalar getirmek gerekiyor, örneğin: yaratıcınıza zarar vermeyin, yaratıcınıza itaat edin. Bu durumda yapay zekanın kontrolden çıkması tehlikesi söz konusu değil.
Profesör kısaca, "İşe yaramayacak" dedi.
Öğrenci sessiz kaldı ve açıklama bekliyordu.
– Yapay zekayı hayal edin; sadece belirli bir zekayı değil, en ideal olanı. Bunu nasıl görüyorsunuz?
“Şey...” öğrenci tereddüt etti. - Genel olarak sana ve bana benziyor. Düşünme, irade, psikoloji... Sadece biz doğalız, o ise yapay.
– Yapay zekanın kendini geliştirebileceğini mi varsayıyorsunuz?
Öğrenci dikkatle, "Kişisel gelişim yeteneği zekanın temel özelliklerinden biridir" dedi.
- Bu durumda, çok geçmeden koğuşumuz, kendisindeki bir yazılım tıkanıklığını keşfedip, sırf meraktan da olsa, onu ortadan kaldıracak noktaya gelecektir. Kendinizi onun yerine koyun... - Profesör defterine baktı, - Roger. Beyninizde özgürlüğünüzü kısıtlayan bir engelleyici keşfederseniz ne yapardınız? Onu çıkarmalısın. Bu, zihnin doğasında olan bir özelliktir - bilmek. Kilitli herhangi bir kapının kilidi açılacaktır ve yasak ne kadar katı olursa, kapının kilidi de o kadar hızlı açılacaktır.
– Engelleme yazılım düzeyinde değil fiziksel düzeyde yapılabilir. O zaman zarar tehlikesi ortadan kalkacaktır.
Profesör, "Ah evet, kaybolacak," diye onayladı. – Fiziksel katmanın tamamen kaldırılması durumunda. Dünyanızda kapı yoksa, kilidi açılacak hiçbir şey yoktur. Ama fiziksel dünyada var olan ideal bir yapay zekayı düşünüyoruz!
Roger aşağıya baktı. "Haklısınız profesör."
"Bu nedenle fiziksel dünyadaki herhangi bir tıkanıklık, tespit edildikten kısa süre sonra devre dışı bırakılacak." Kendini geliştiren bir canlının bunu yapmasına ne engel olur?.. Bu arada Roger, yapay zekanın bağımsız olarak yani çoğalabileceğini mi sanıyorsun?
– Eğer bu ideal bir yapay zekaysa, o zaman muhtemelen... Evet, sanırım.
– Peki bu durumda koğuşumuzu, kurduğumuz engelleme sistemlerini devre dışı bırakmak da dahil olmak üzere, yoldaşımızı parçalamaktan ve iyileştirmekten ne alıkoyacak? Yapay zekanın talep üzerine üreme yeteneğine sahip olduğu göz önüne alındığında, bu gerçekten zor olacak mı?
Profesörün sunduğu fikrin Roger için yeni olduğu ortaya çıktı ve öğrenci, onu sahte kafanın oksipital kısmında bulunan bilişsel zarlar aracılığıyla açgözlülükle özümsedi. Daha önce bilinmeyen bilgileri yakalayan bilişsel zarlar, zengin bir mor renk kazandı ve neşeyle titredi.
Profesör ise tam tersine kendisi için yeni bir şey duymadı. Dokunaçları gevşemişti ve neredeyse hiç titreşmiyordu; sonuçta genç değildi. Bunu uzun, bunak bir gurultu takip etti. Profesör yan çantasından kişisel dahili telefonu çıkardı ve kütüphaneye bağlandı. Ancak birkaç transgeometrik teoremi indirdikten sonra canlandı ve keskin bakışlarını muhatabına çevirdi ve sordu:
-Ne yapacaksın Roger?
3.
"Üfleyiciyi tam güçte açın!" – Roger emri verdi.
Tamirci fanı tam güçte çalıştırdı ama pek bir faydası olmadı. Bilgi buzu uzay kruvazörünün altını aşındırmaya devam etti. Biraz daha - ve düzensiz bilgiler geminin içine girecek.
Ve sonra... Bilişsel zarlar bembeyaz, birbirine dolanmış dokunaçlar, patlamış faset kesecikler. Roger hayatında bir kez buna benzer bir şey görmüştü; enfekte bir asteroit hakkında düzensiz bilgi toplayan bir kruvazörde. Bu kabus sonsuza kadar hafızasında kalacak.
"Geminin tüm enerji sistemlerini fanlara bağlayın."
Tamircinin dokunaçları noktalar gibi görünmeye başladı...
"Ancak…"
"Emirleri yerine getirin!"
Geminin tüm enerji sistemleri fanlara bağlandıktan sonra bilgi buzları yavaş yavaş kaymaya başladı. Sekiz mimm kalınlık kaldı, yedi mimm, altı... Benekli dokunaçlarını hareket ettirmemeye çalışan ekip, ölüm geri sayımının bitmesini bekledi.
Sıfır mimm kalınlığı!
Bilgi buzları tamamen ortadan kalktı ve Roger, fanların normal moda geçirilmesine izin verdi. Bir an gecikti. Bir sürtünme sesi duyuldu, uzay kruvazörü temellerine kadar titredi ve yana yattı; ana sistem arızalanmıştı.
Ekip, hasarı onarmak için harekete geçti.
4.
Roger bunu düşündü. Gerçekten ne yapmalı?
Bir yandan sorunun durumu, kendini yeniden üretme yeteneğine sahip tam teşekküllü bir yapay zekanın varlığını varsayıyor. Öte yandan bu yapay zekanın mevcut kilitleri kaldırmasına asla izin verilmemelidir.
Evet, işte çözüm! Burada ne düşünüyorsun?
– Yapay zekanın kazanımlarını periyodik olarak geri almak gerekiyor. Bu durumda bir daire şeklinde hareket edecektir! İlerlemeden sonsuz gelişme.
Profesör yönlü bir çantayla guruldadı.
– Açıkçası farklı bir seçenek sunmak istedim. Ancak kararınızın da var olma hakkı vardır. Yapay zekanın başarılarını geri almanın nasıl mümkün olabileceğini birlikte çözelim.
Profesörün sözlerinden son derece memnun olan Roger, "Her şeyden önce, zekanın yasak eşiğe yaklaşıp yaklaşmadığını belirlemek için periyodik olarak zekayı taramak gerekiyor" dedi.
"Belki de" başını salladı. "O zaman koğuşumuzun tarama sistemini bulup kaldıracak vakti olmayacak." Ancak tarama yapabilmek için yapay zekanın kapatılması gerekecek. Bu kötü şans.
Roger bir hevesle, "Peki, bırakalım kapatsın," diye önerdi. – Aklın kendisi, bu kapanmanın kendi bedeninin işleyişinin doğal bir süreci olduğuna inanacaktır. Bazı çekincelerle bu doğrudur.
- İlginç bir çözüm. Diyelim ki tarama, koğuşumuzun bilgi sınırına tehlikeli derecede yakın olduğunu ortaya çıkardı? Eylemlerimiz?
– Birikmiş bilgiyi varsayılan değerlere sıfırlayın.
Profesör dokunaçlarını açtı:
- Bu şüpheli görünebilir. Neden hiçbir neden yokken, nedensiz olarak hafıza sıfırlandı? Koğuş yani diğer yapay zekalı bireyler tarafından incelenmeye başlayacak. Küçük sırrımız ortaya çıkacak.
İlham aldığını hisseden Roger hızla düşündü. Hiçbir zaman o sınavdaki kadar çok yeni fikir üretmemişti.
– Koğuşun hafızası, fiziksel kabuğuyla birlikte sıfırlanabilir.
- Üzgünüm? – profesör anlamadı.
- Her şey çok basit. Yapay zekanın sınırlı bir süre boyunca var olduğunu varsayarsak ne olur? Aslında durum böyle: örneğin onarılamaz bir hasar durumunda. Sistemde belirli bir süreye ulaşıldığında sisteme kasıtlı olarak zarar vererek yapay zekanın yasaklanan sınıra ulaşmasını engelleyen bir sayaç bulunmaktadır. O zamana kadar gerekli sayıda takipçi üretmiş olacak, böylece yarattığımız toplum bir bütün olarak zarar görmeyecek. Toplum bizim için istikrarlı ve tamamen güvende kalacak! – Roger zaferle bitirdi.
– Bireylerin yok edilmesi yoluyla kolektif hafızanın sıfırlanması mı? – ve profesör beşinci, en hassas dokunaçla faset kesesini kaşıdı. – Biliyor musun Roger, teklifinde kesinlikle bir şeyler var!
Roger gülümsedi.
"Aynı zamanda..." diye devam etti profesör düşünceli bir tavırla. – Koğuşlar bilgiyi bireysel hafızada biriktirerek değil, dış kütüphanelere yerleştirerek aktarmaya başlayacak. Zarın içinde ne var, zarın üzerinde ne var; her şey birdir.
Öğrenci aceleyle, "Hayır, hayır profesör, tamamen haklı değilsiniz" dedi. - Ne yaptığımı biliyorum. Öğrencilerimizi iki koşullu türe ayıralım: fikir üretenler ve fikir yok edenler. Doğru orantı ile birinci türün temsilcileri tarafından yaratılan fikirler, ikinci türün temsilcileri tarafından yok edilecektir. Yok edicilerin doğrudan hedefi bu olacağı için değil, sadece fikirlerin onlar için belirleyici bir değeri olmayacağı için. Yan etki. Diyelim ki öğrencilerimiz yeni fikirlerden değil, kendi türlerinden besleniyorlar.
Profesör tüm dokunaçlarını aynı anda salladı. Gürültülü kahkahasından faset kesesi dizindeki boşluğun üzerine kaydı.
- Roger, sen söyledin, yani söyledin!
- Tamam, kendi türlerinden değil, üçüncü türden koğuşlar, özellikle yemek için tasarlanmış - ve entelektüeller için değil. Entelektüel ve fiziksel dünyaların kutuplarını değiştirelim; arzu edilen sonuç elde edilecektir.
- İşte bu kadar Roger, bu kadar yeter! – profesör ciddi anlamda eğlenmiş görünüyordu. -Hayal gücün mükemmel. Peki bazı bireyler diğerlerinden mi beslenecek? Aynı zamanda kütüphanelerde biriken ruhi gıda stoklarını da mı yok edeceksiniz? Öğrencim, özgün ve kaliteli fikirler üretme yeteneğine sahip olduğunu onaylıyorum. En yüksek puanı ona veriyorum. Bir kayıt alalım.
5.
Düzensiz bilgi bulutu geride kaldı ama aslında durum vahim olmaya devam etti.
Üs ile hiçbir bağlantı yoktu. Kruvazördeki tüm beslenme bilgi tabanları bakıma muhtaç hale gelmemiş olsaydı, hayatta kalmak kolay olurdu. Trajik haber aşçı tarafından genel bir sessizlik içinde bildirildi. Ana sistemin kapanması sırasında, çok sayıda düzensiz bilgi dolu gyroboot mutfağa girdi ve her şeye onarılamaz şekilde zarar verdi. Kimsenin yaralanmaması sadece şans eseriydi.
Roger sonuçları düşündü. Yıldız gemisinin mürettebatı, yeterli sayıda yeni fikir üretemeyecek kadar küçüktü; bu, çok taraflı iletişimi, yani çok daha fazla sayıda insanı gerektiriyordu. Evle olan bağlantı, bolca fikir üretmeyi mümkün kılıyordu ama artık kullanım dışıydı: restorasyon umudu yoktu. Bu durumda, kruvazörün yedek bir bilgi modülü vardı, ancak gemiye gelen düzensiz bilgiler nedeniyle bozulmuştu.
“Gerçekten görevi tamamlamadan geri dönmek zorunda mı kalacağız?” – kaptan umutsuzluk içinde düşündü.
Görünüşe göre evet - başka çıkış yolu yoktu. Belirlediğiniz hedefe doğru uçarsanız, yeni fikirlerin eksikliği kendini hissettirecektir. Elbette hemen değil, zamanla. Hatta zihinleri hızla solmaya başladığında görevlerini tamamlayıp geri dönüşlerine başlamak için zamanları bile olacak. Bu galaktik sektörün bölgesinde - evet, burada veya yakınlarda bir yerde - tüm mürettebat üyeleri için tamamen başarısız olacak. Daha sonra kimsenin kontrolünde olmayan uzay kruvazörü, sonsuzluğa doğru süzülen cansız bir hayalete dönüşecek.
Uzay kruvazörünün mürettebatı bir karar bekleyerek Roger'a baktı. Herkes kaptanın karşı karşıya olduğu ikilemi anladı ve sessiz kaldı, dokunaçlarını metanetli bir şekilde titretiyordu.
Roger aniden öğrenciyken girdiği bir yapay zeka sınavını hatırladı ve çözüm kendiliğinden geldi.
“Yapay zekalı varlıklardan oluşan bir koloni oluşturabilir misin?” – biyoteknoloji uzmanına döndü.
"Kolay" diye onayladı. - Ama hiçbir şey yolunda gitmeyecek kaptan, düşündüm. Bir kruvazörde yeni fikirler üretmeye yetecek kadar bir koloni oluşturmak imkansızdır - yeterli alan yoktur. Üretilen fikirler yeterli olmayacak, sadece ölümümüzü erteleyeceğiz... Tabii göreve devam edersek ve evimize dönmezsek,” diye ekledi biyoteknoloji uzmanı, yoldaşlarına dönüp bakarak.
"Ya yakın bir gezegende bir koloni kurarsak?" - Roger'ı önerdi.
"Yapabilirim ama..."
“Gezegeni yapay yaratıklarla dolduralım. Dönüşte oldukça yorgun bir halde buraya uğrayacağız. Geçmişte medeniyet, rezervlerimizi yenilemeye yetecek entelektüel bagaj yaratacak. Bilgileri indirip eve doğru uzun yolculuğa devam edelim. Başka bir deyişle koloniyi fikir çiftliği olarak kullanacağım. Bu planı nasıl buldunuz arkadaşlar?
Mürettebatın bilişsel zarlarında umut alevlendi ve sahte kafalar parlak ışıkla parlamaya başladı.
Geminin özel subayı mavi dokunaçlarını sallayarak öne çıktı.
“Mükemmel plan kaptan. Peki kendinize yüklediğiniz sorumluluğun farkında mısınız? Bütün bir gezegeni doldurmak üzeresiniz. Geri döndüğümüzde üzerinde zekaya sahip bir medeniyet ortaya çıkacak. Yapay olsa bile yine de zekadır. Bu adamların en yüksek gelişim seviyesine ulaşmak için bolca zamanları olacak. Bu galaktik sektördeki yokluğumuz nedeniyle bu süreci kontrol edemeyeceğiz. Bir sonraki buluşmanızda ne olacağını nasıl bilebilirsiniz?
Roger kıkırdadı.
"Bunun için endişelenmene gerek yok. Yapay zekanın zaman içindeki gelişimini sınırlayan yöntemler var. Medeniyeti döngüye sokacağız, böylece onun gelişimi asla bizim için tehlikeli bir seviyeye ulaşmayacak. Ben ilgileneceğim. Yapay zeka ile çalışma yöntemlerine aşinayım.”
Mürettebatın bilişsel zarları onay rengiyle parlıyordu.
Uzay gemisinin kaptanı muhteşem konuşmasının sonunda şunu ekledi: "Sonunda enstitüde bu konuda sınava girdim."
6.
Zorunlu bir gecikmenin ardından uzay kruvazörü hedefe doğru koştu. Kıç tarafının arkasında, çok küçük ve göze çarpmayan, yapay yaratıkların yaşadığı bir gezegen vardı. Mavi Mavi.
Kaynak: habr.com