1.
Yakuniy maqsadga erishishga oz qoldi - uchdan bir qismi - kosmik kreyser qattiq ma'lumot muzlashi ostida qolgan.
Yo'qotilgan tsivilizatsiyadan qolgan narsa bo'shliqda muallaq turardi. Ilmiy insholarning paragraflari va adabiy asarlardan tasvirlar, tarqoq qofiyalar va oddiygina o'tkir so'zlar, bir paytlar noma'lum mavjudotlar tomonidan tasodifiy tashlangan - hamma narsa mavhum va juda tartibsiz ko'rinardi. Va endi, kreyserdan chiqadigan hayotiy tebranishlarni o'ziga jalb qilib, u yorib o'tishga harakat qildi, tubiga yopishib oldi va uni zanglab ketdi.
Egasiz mulkdan o'z maqsadlari uchun foydalanish haqida o'ylashning ma'nosi yo'q edi, mantiqiy qarama-qarshilik yoki paradoksni olish ehtimoli juda katta edi. Shuning uchun Rojer bir zum ham ikkilanmadi.
"Yon tomondan puflang", dedi u.
Puflovchilar kosmosga musiqiy asarlar va falsafiy risolalarni efirga uzata boshladilar. Muz qatlami quyi qatlamdan qatlamma-qavat tusha boshladi, lekin axborot oqimi shu qadar zich ediki, yangi qatlamlar eskilariga qaraganda tezroq yopishib qoldi.
Galaktikada hech kim bunday kuchning muzlanishiga duch kelmagan.
Vaziyat xavfli tus oldi. Yana bir oz ko'proq va tartibsiz ma'lumotlar kreyserning pastki qismidan o'tib ketadi - keyin yo'qolgan tsivilizatsiyaning axborot mahsulotlari bilan zaharlanish muqarrar.
2.
- Nega u yerda daraxt dumiga o'xshab turibsiz? Chiptani torting.
Talaba imtihon kartochkasini chiqarib, o‘qib chiqdi:
- "Sun'iy intellekt: xavfsizlik masalalari."
- Sun'iy intellektning xavfi nimada? — so'radi professor, g'azabsiz emas.
Savol eng qiyin emas edi, shuning uchun talaba ikkilanmasdan javob berdi:
- Gap shundaki, sun'iy intellekt nazoratdan chiqib ketishi mumkin.
- Muammoni qanday hal qilmoqchisiz?
– Bloklash quyi tizimini o'rnatish. Dasturga cheklovlarni kiritish kerak, masalan: yaratuvchingizga zarar bermang, yaratuvchingizga itoat qiling. Bunday holda, sun'iy intellekt nazoratdan chiqib ketish xavfi yo'q.
"Bu ishlamaydi", dedi professor qisqacha.
Talaba jim bo'lib, tushuntirishni kutdi.
- Tasavvur qiling, sun'iy intellekt - har qanday aniq emas, balki eng ideal. Siz buni qanday ko'rasiz?
– Xo‘sh... – taraddudlandi talaba. - Umuman olganda, u sizga va menga o'xshaydi. Tafakkur, iroda, psixologiya... Faqat biz tabiiymiz, u esa sun’iy.
- Sun'iy intellekt o'z-o'zini rivojlantirishga qodir deb o'ylaysizmi?
"O'z-o'zini rivojlantirish qobiliyati aqlning asosiy xususiyatlaridan biridir", dedi diqqat bilan talaba.
- Bunday holda, bizning palatamiz juda tez orada rivojlanib boradi, u o'zida dasturiy ta'minot blokirovkasini topadi va uni faqat qiziquvchanlik bilan bartaraf qiladi. O'zingizni uning o'rniga qo'ying... - professor daftariga qaradi, - Rojer. Agar siz miyangizda erkinligingizni cheklovchi blokerni topsangiz nima qilgan bo'lardingiz? Siz uni olib tashlashingiz kerak. Bu aqlning o'ziga xos xususiyati - bilish. Har qanday qulflangan eshik qulfdan chiqariladi va taqiq qanchalik qattiq bo'lsa, eshik tezroq ochiladi.
– Bloklash dasturiy ta’minot darajasida emas, balki jismoniy darajada amalga oshirilishi mumkin. Shunda zarar etkazish xavfi yo'qoladi.
"Ha, u yo'q bo'lib ketadi", dedi professor. – Jismoniy qatlam butunlay olib tashlangan taqdirda. Agar sizning dunyongizda eshik bo'lmasa, unda qulfni ochish uchun hech narsa yo'q. Ammo biz jismoniy dunyoda mavjud bo'lgan ideal sun'iy intellektni ko'rib chiqamiz!
- To'g'ri aytdingiz, professor, - Rojer pastga qaradi.
"Shuning uchun, jismoniy dunyodagi har qanday blokirovka aniqlangandan keyin tez orada o'chiriladi." O‘z-o‘zidan rivojlanayotgan jonzotning buni qilishiga nima to‘sqinlik qiladi?.. Darvoqe, Rojer, sun’iy intellekt ko‘paya oladi, deb o‘ylaysizmi, demoqchimanki, mustaqil ravishda?
- Agar bu ideal sun'iy intellekt bo'lsa, ehtimol ... Ha, menimcha.
- Va bu holda bizning palatamiz o'rtog'ini parchalab tashlashga va uni yaxshilashga, shu jumladan biz o'rnatgan blokirovka tizimini o'chirib qo'yishga nima to'sqinlik qiladi? Sun'iy intellekt talabga ko'ra ko'payish qobiliyatiga ega ekanligini hisobga olsak, bu haqiqatan ham qiyin bo'ladimi?!
Professor tomonidan taqdim etilgan g'oya Rojer uchun yangi bo'lib chiqdi va talaba uni soxta boshning oksipital qismida joylashgan kognitiv membranalar orqali ochko'zlik bilan o'zlashtirdi. Ilgari noma'lum bo'lgan ma'lumotni ushlagan holda, kognitiv membranalar boy binafsha rangga ega bo'ldi va quvonch bilan titraydi.
Professor, aksincha, o'zi uchun hech qanday yangilik eshitmadi. Uning chodirlari bo'shashgan va zo'rg'a tebranib turardi - axir u yosh emas edi. Uning ortidan uzoq, qarilikdagi shovqin eshitildi. Professor sumkasidan shaxsiy interkomni chiqarib, kutubxonaga ulandi. Faqat bir nechta transgeometrik teoremalarni yuklab olgandan so'ng, u o'rnidan turdi va suhbatdoshiga chuqur nigohini burib, so'radi:
- Nima qilasiz, Rojer?
3.
"Puflagichni to'liq quvvat bilan yoqing!" – Rojer buyruq berdi.
Mexanik puflagichni to‘liq quvvatda ishga tushirdi, ammo bu unchalik yordam bermadi. Axborot muzi kosmik kreyserning tubida yeb ketishda davom etdi. Bir oz ko'proq - va tartibsiz ma'lumotlar kema ichida bo'ladi.
Va keyin ... Kognitiv membranalar o'lik oq, chigallashgan tentacles, portlash faset qoplari. Rojer hayotida bir marta shunday hodisani ko'rgan - zararlangan asteroid haqida tartibsiz ma'lumot olgan kreyserda. Bu dahshatli tush uning xotirasida abadiy qoladi.
"Kemaning barcha energiya tizimlarini shamollatgichlarga ulang."
Mexanikning chodirlari dog‘dek paydo bo‘la boshladi...
"Lekin..."
"Buyurtmalarni bajaring!"
Kemaning barcha energiya tizimlari shamollatgichlarga ulangandan so'ng, axborot muzlari asta-sekin siljiy boshladi. Sakkiz mimm qalinlik qoldi, yetti mimm, olti... Dog‘li tentaklarini qimirlatmaslikka uringan jamoa o‘limni ortga hisoblash tugashini kutdi.
Mimm qalinligi nol!
Axborot muzi butunlay g'oyib bo'ldi va Rojer shamollatgichlarni normal rejimga o'tkazishga ruxsat berdi. U bir zum kechikdi. Shiqillagan tovush eshitildi, kosmik kreyser poydevorigacha qaltirdi va egildi - asosiy tizim ishdan chiqdi.
Jamoa zararni bartaraf etishga shoshildi.
4.
Rojer bu haqda o'yladi. U aslida nima qilishi kerak?
Bir tomondan, muammoning sharti o'z-o'zini ko'paytirish qobiliyatiga ega bo'lgan to'liq huquqli sun'iy intellekt mavjudligini nazarda tutadi. Boshqa tomondan, bu sun'iy intellekt mavjud qulflarni olib tashlashga hech qachon ruxsat berilmasligi kerak.
Ha, bu yechim! Bu yerda nima deb o'ylayapsiz?!
- Sun'iy intellekt yutuqlarini vaqti-vaqti bilan orqaga qaytarish kerak. Bunday holda, u aylana bo'ylab harakatlanadi! Oldinga harakat qilmasdan abadiy yaxshilanish.
Professor qirrali sumka bilan gurillatdi.
- Ochig'i, men boshqacha variant taklif qilmoqchi edim. Biroq, sizning qaroringiz ham mavjud bo'lish huquqiga ega. Keling, qanday qilib sun'iy intellekt yutuqlarini orqaga qaytarish mumkinligini birgalikda aniqlaylik.
"Avvalo, aql-idrok taqiqlangan chegaraga yaqinlashgan yoki yaqinlashmaganligini aniqlash uchun vaqti-vaqti bilan tekshirib turish kerak", dedi professorning so'zlaridan juda mamnun bo'lgan Rojer.
- Balki, - u bosh irg'adi. "Unda bizning palatada skanerlash tizimini topish va olib tashlash uchun vaqt bo'lmaydi." Biroq, skanerlash uchun sun'iy intellektni o'chirib qo'yish kerak bo'ladi. Bu omadsizlik.
"Xo'sh, o'chirilsin", dedi Rojer injiqlik bilan. - Aqlning o'zi bu yopilish uning tanasi faoliyatining tabiiy jarayoni ekanligiga ishonadi. Ba'zi rezervasyonlar bilan bu haqiqat.
- Qiziqarli yechim. Aytaylik, tekshiruv bizning palatamiz bilim chegarasiga xavfli darajada yaqin ekanligini aniqladi? Bizning harakatlarimiz?
– To‘plangan bilimlarni standart qiymatlarga qaytaring.
Professor chodirlarini yoydi:
- Bu shubhali tuyulishi mumkin. Nima uchun - hech qanday sababsiz, hech qanday sababsiz - xotira nolga qaytarildi? Bo'lim boshqa sun'iy aqlli shaxslar tomonidan tekshirila boshlaydi. Bizning kichik sirimiz oshkor bo'ladi.
Rojer ilhomlanib, tezda o'yladi. U hech qachon o'sha imtihondagidek ko'p yangi g'oyalarni yaratmagan edi.
- Bo'limning xotirasi uning jismoniy qobig'i bilan birga qayta tiklanishi mumkin.
- Kechirasizmi? – professor tushunmadi.
- Hammasi juda oddiy. Agar sun'iy intellekt cheklangan vaqt oralig'ida mavjud deb hisoblasak nima bo'ladi? Aslida, bu shunday: tuzatib bo'lmaydigan zarar bo'lsa, masalan. Tizimda ma'lum bir muddatga yetgandan so'ng, sun'iy intellektning taqiqlangan chegaraga yetishiga to'sqinlik qilib, tizimga ataylab zarar etkazadigan hisoblagich mavjud. Bu vaqtga kelib, u kerakli miqdordagi izdoshlarni tug'diradi, shuning uchun biz yaratgan jamiyat umuman zarar ko'rmaydi. Jamiyat biz uchun barqaror va butunlay xavfsiz bo'lib qoladi! - Rojer g'alaba bilan yakunladi.
– Jismoniy shaxslarni yo'q qilish orqali jamoaviy xotirani qayta tiklash? - va professor beshinchi, eng sezgir chodir bilan faset xaltasini tirnadi. - Bilasizmi, Rojer, sizning taklifingizda aniq nimadir bor!
Rojer nur sochdi.
— Shu bilan birga... — o‘ylanib davom etdi professor. - Bo'limlar bilimlarni shaxsiy xotirada to'plash orqali emas, balki tashqi kutubxonalarga joylashtirish orqali uzatishni boshlaydilar. Membranada nima bor, membranada nima bor - hamma narsa bitta.
- Yo'q, yo'q, professor, siz mutlaqo haqsiz, - shoshib qoldi talaba. - Men nima qilishni bilaman. Keling, talabalarimizni ikkita shartli turga bo'laylik: g'oyalar yaratuvchilari va g'oyalarni yo'q qiluvchilar. To'g'ri mutanosiblik bilan birinchi turdagi vakillar tomonidan yaratilgan g'oyalar ikkinchisining vakillari tomonidan yo'q qilinadi. Bu halokatchilarning to'g'ridan-to'g'ri maqsadi bo'lishi uchun emas, balki g'oyalar ular uchun aniq qiymatga ega bo'lmagani uchun. Yon ta'sir. Faraz qilaylik, o‘quvchilarimiz yangi g‘oyalar bilan emas, balki... deylik, o‘z turlari bilan oziqlanadilar.
Professor birdaniga barcha chodirlarini silkitdi. Uning shov-shuvli qahqahasidan faset xaltasi tizzasi bo'shlig'iga sirg'alib ketdi.
- Xo'sh, Rojer, siz aytdingiz, shuning uchun aytdingiz!
- Xo'sh, o'z turi emas, balki ovqat uchun maxsus mo'ljallangan uchinchi turdagi palatalar - va umuman ziyolilar emas. Keling, intellektual va jismoniy dunyoning qutblarini siljiting - va kerakli natijaga erishiladi.
- Bo'pti, Rojer, bo'ldi! – professor jiddiy quvnoq edi shekilli. - Tasavvuringiz ajoyib. Xo'sh, ba'zi odamlar boshqalar bilan oziqlanadimi? Shu bilan birga, kutubxonalarda to'plangan ma'naviy ozuqa zahiralarini yo'q qilish kerakmi? Tasdiqlayman, talaba, siz original va sifatli g'oyalarni yaratishga qodirsiz. Men unga eng yuqori ball beraman. Keling, rekord o'rnatamiz.
5.
Tartibsiz ma'lumotlar buluti ortda qoldi, lekin vaziyat dahshatli bo'lib qoldi, aslida.
Baza bilan hech qanday aloqasi yo'q edi. Agar kreyserdagi barcha ozuqaviy ma'lumotlar bazalari yaroqsiz holga kelib qolmaganida, bundan omon qolish oson bo'lar edi. Achinarli xabarni oshpaz sukut saqladi. Tizimning asosiy o'chirilishi paytida, bir nechta uyushtirilmagan ma'lumotlarning gyrobootlari oshxonaga kirdi va hamma narsani tuzatib bo'lmaydigan darajada buzdi. Faqat omad tufayli hech kim jabrlanmadi.
Rojer oqibatlari haqida o'yladi. Yulduzli kema ekipaji etarli miqdordagi yangi g'oyalarni yaratish uchun juda kichik edi: bu ko'p tomonlama aloqani talab qildi - bu juda ko'p sonli shaxslar. Uy bilan aloqa mo'l-ko'l g'oyalarni yaratishga imkon berdi, ammo endi u ishlamay qoldi: qayta tiklashga umid yo'q edi. Bunday holda, kreyserda zaxira ma'lumot moduli bor edi, ammo u bortga kelgan tartibsiz ma'lumotlar bilan buzilgan.
"Biz haqiqatan ham vazifani bajarmasdan qaytishimiz kerakmi?" – umidsizlik bilan o‘yladi kapitan.
Ko'rinishidan, ha - boshqa yo'l yo'q edi. Agar siz belgilangan maqsad sari uchib ketsangiz, yangi g'oyalarning etishmasligi o'zini his qiladi. Darhol emas, albatta - vaqt o'tishi bilan. Ular hatto o'z missiyalarini bajarishga va fikrlari tezda so'na boshlaganda qaytishni boshlashga vaqtlari bo'ladi. Ushbu galaktika sektori hududida - ha, bu erda yoki yaqin joyda - barcha ekipaj a'zolari uchun u butunlay muvaffaqiyatsiz bo'ladi. Shunda hech kim tomonidan boshqarilmaydigan kosmik kreyser abadiylikka suzuvchi jonsiz sharpaga aylanadi.
Kosmik kreyser ekipaji qaror kutayotgan Rojerga qaradi. Hamma kapitan oldida turgan dilemmani tushundi va jim bo'lib, chodirlarini tebranishdi.
To‘satdan Rojer talabalik chog‘ida topshirgan sun’iy intellekt imtihonini esladi va yechim o‘z-o‘zidan paydo bo‘ldi.
"Siz sun'iy aqlli mavjudotlar koloniyasini tashkil qila olasizmi?" – u biotexnologga yuzlandi.
"Oson", deb tasdiqladi u. - Lekin hech narsa bo'lmaydi, kapitan, men o'yladim. Kreyserda yangi g'oyalarni yaratish uchun etarli koloniya yaratish mumkin emas - etarli joy yo'q. Yaratilgan g'oyalar yetarli bo'lmaydi, biz faqat o'limimizni kechiktiramiz... Agar biz missiyani davom ettirsak va uyga qaytmasak, albatta, - deya qo'shimcha qildi biotexnolog o'rtoqlariga qarab.
"Agar biz yaqin atrofdagi sayyorada koloniya tuzsak nima bo'ladi?" - taklif qildi Rojer.
"Men qila olaman, lekin ..."
“Sayyoramizni sun'iy mavjudotlar bilan to'ldiraylik. Qaytishda, juda charchagan holda, biz shu erda to'xtab qolamiz. O'tgan vaqt ichida tsivilizatsiya bizning zaxiralarimizni to'ldirish uchun etarli bo'lgan intellektual yukni yaratadi. Keling, ma'lumotni yuklab olib, uyga uzoq sayohatni davom ettiramiz. Boshqacha qilib aytganda, men koloniyadan g'oya fermasi sifatida foydalanmoqchiman. Bu reja sizga qanday yoqdi, do'stlar?
Ekipajning kognitiv membranalarida umid yonib ketdi va soxta boshlar yorqin nur bilan porlay boshladi.
Kemaning maxsus zobiti ko‘k tentaklarini silkitib, oldinga chiqdi.
“Ajoyib reja, kapitan. Lekin o'zingizga yuklagan mas'uliyatni bilasizmi? Siz butun sayyorani joylashtirmoqchisiz. Biz qaytib kelganimizda, unda aql-zakovatga ega tsivilizatsiya paydo bo'ladi. Sun'iy bo'lsa ham, u baribir aql. Bu bolalarda rivojlanishning eng yuqori darajasiga erishish uchun ko'p vaqt bo'ladi. Ushbu galaktika sektorida yo'qligimiz tufayli biz bu jarayonni nazorat qila olmaymiz. Keyingi safar uchrashganingizda nima bo'lishini qanday bilasiz?
Rojer kulib yubordi.
“Bu haqda tashvishlanishingiz shart emas. Vaqt o'tishi bilan sun'iy intellektning rivojlanishini cheklaydigan usullar mavjud. Biz tsivilizatsiyani aylantiramiz, shuning uchun uning rivojlanishi hech qachon biz uchun xavfli darajaga etmaydi. Men unga g'amxo'rlik qilaman. Men sun’iy intellekt bilan ishlash usullari bilan tanishman”.
Ekipajning kognitiv membranalari ma'qullash rangi bilan porladi.
"Oxir-oqibat," deb qo'shimcha qildi kosmik kreyser kapitani o'zining ajoyib nutqining oxirida, - men institutda shu fandan imtihon topshirdim.
6.
Majburiy kechikishdan so'ng kosmik kreyser nishon tomon yugurdi. Uning orqa tomonida sun'iy mavjudotlar yashaydigan sayyora bor edi - juda kichik va ko'zga ko'rinmas. Moviy-ko'k.
Manba: www.habr.com