1.
Terdapat sedikit baki untuk gol terakhir - kira-kira satu pertiga daripada perjalanan - apabila kapal penjelajah angkasa itu mendapat maklumat yang teruk.
Apa yang tinggal dari tamadun yang hilang berlegar dalam kekosongan. Perenggan esei saintifik dan imej dari karya sastera, rima yang berselerak dan kata-kata yang tajam, pernah dilemparkan secara santai oleh makhluk yang tidak dikenali - semuanya kelihatan kabur dan sangat tidak teratur. Dan kini, tertarik dengan getaran penting yang terpancar dari kapal penjelajah, ia cuba menerobos, melekat pada bahagian bawah dan menghakisnya.
Tidak ada gunanya memikirkan tentang menggunakan harta tanpa pemilik untuk tujuan sendiri; kebarangkalian untuk mendapatkan percanggahan logik atau paradoks adalah terlalu besar. Jadi Roger tidak teragak-agak seketika.
"Hidupkan tiupan sebelah," perintahnya.
Para peniup mula menghidu, menyiarkan gubahan muzik dan risalah falsafah ke angkasa lepas. Ais mula jatuh dari lapisan bawah demi lapisan, tetapi aliran maklumat sangat padat sehingga lapisan baru tersekat lebih cepat daripada yang lama dikeluarkan.
Tiada seorang pun di galaksi yang pernah mengalami aising kuasa sedemikian.
Keadaan menjadi berbahaya. Sedikit lagi, dan maklumat yang tidak teratur akan memakan bahagian bawah kapal penjelajah dan menembusi - maka keracunan dengan produk maklumat tamadun yang hilang tidak dapat dielakkan.
2.
- Kenapa awak berdiri di sana seperti tunggul pokok? Tarik tiket.
Pelajar itu mengeluarkan kad peperiksaan dan membaca:
– “Kecerdasan Buatan: Isu Keselamatan.”
– Dan apakah bahaya kecerdasan buatan? - profesor bertanya, bukan tanpa niat jahat.
Soalan itu bukanlah yang paling sukar, jadi pelajar menjawab tanpa teragak-agak:
– Hakikatnya ialah kecerdasan buatan boleh hilang kawalan.
– Bagaimana anda berhasrat untuk menyelesaikan masalah tersebut?
– Pemasangan subsistem penyekat. Ia adalah perlu untuk memperkenalkan sekatan ke dalam program, sebagai contoh: jangan membahayakan pencipta anda, taat kepada pencipta anda. Dalam kes ini, tiada bahaya kecerdasan buatan hilang kawalan.
"Ia tidak akan berfungsi," kata profesor itu ringkas.
Pelajar itu diam, menunggu penjelasan.
– Bayangkan kecerdasan buatan – bukan sahaja yang khusus, tetapi yang paling ideal. Bagaimana anda melihatnya?
“Baiklah...” pelajar itu teragak-agak. - Secara umum, dia serupa dengan anda dan saya. Berfikir, kehendak, psikologi... Hanya kita yang semula jadi, dan dia adalah buatan.
– Adakah anda menganggap bahawa kecerdasan buatan mampu membangunkan diri?
"Keupayaan untuk pembangunan diri adalah salah satu sifat asas kecerdasan," kata pelajar itu dengan berhati-hati.
- Dalam kes ini, tidak lama lagi wad kami akan berkembang ke tahap di mana dia mendapati sekatan perisian dalam dirinya dan membuangnya, jika hanya kerana rasa ingin tahu yang tulen. Letakkan diri anda di tempatnya... - profesor melihat buku notanya, - Roger. Apakah yang anda akan lakukan jika anda menemui penyekat dalam otak anda yang mengehadkan kebebasan anda? Anda harus menanggalkannya. Ini adalah sifat bawaan minda - untuk mengetahui. Mana-mana pintu yang terkunci akan dibuka kuncinya, dan semakin ketat larangan, semakin cepat pintu itu akan dibuka kuncinya.
– Penyekatan boleh dilakukan bukan pada peringkat perisian, tetapi pada peringkat fizikal. Maka bahaya kemudaratan akan hilang.
"Oh ya, ia akan hilang," profesor itu bersetuju. – Sekiranya lapisan fizikal dikeluarkan sama sekali. Jika tiada pintu di dunia anda, maka tiada apa-apa untuk dibuka. Tetapi kami sedang mempertimbangkan kecerdasan buatan yang ideal yang wujud dalam dunia fizikal!
"Anda betul, profesor," Roger menunduk.
"Oleh itu, sebarang sekatan dalam dunia fizikal akan dilumpuhkan sejurus selepas pengesanan." Apakah yang akan menghalang makhluk yang berkembang sendiri daripada melakukan ini?.. By the way, Roger, adakah anda menganggap bahawa kecerdasan buatan akan dapat membiak - maksud saya, secara bebas?
– Jika ini adalah kecerdasan buatan yang ideal, maka mungkin... Ya, saya rasa.
– Dan apakah, dalam kes ini, akan menghalang wad kami daripada mengoyak rakannya dan memperbaikinya, termasuk dengan melumpuhkan sistem penyekat yang telah kami pasang? Adakah ini akan menjadi sukar, memandangkan kecerdasan buatan mampu menghasilkan semula atas permintaan?!
Idea yang dikemukakan oleh profesor itu ternyata baru untuk Roger, dan pelajar itu dengan rakus menyerapnya melalui membran kognitif yang terletak di bahagian oksipital kepala palsu. Setelah menangkap maklumat yang tidak diketahui sebelum ini, membran kognitif memperoleh warna ungu yang kaya dan menggeletar dengan gembira.
Profesor itu, sebaliknya, tidak mendengar apa-apa yang baru untuk dirinya sendiri. Sesungutnya santai dan hampir tidak bergetar - lagipun, dia tidak muda. Bunyi rengek yang panjang dan nyanyuk menyusul. Profesor itu mengeluarkan interkom peribadi dari beg facetnya dan menyambung ke perpustakaan. Hanya selepas memuat turun beberapa teorem transgeometri, dia berasa gembira dan mengalihkan pandangannya yang tajam kepada rakan bicaranya, bertanya:
-Apa yang awak akan buat, Roger?
3.
"Hidupkan peniup dengan kuasa penuh!" – Roger memberi arahan.
Mekanik menghidupkan blower dengan kuasa penuh, tetapi ia tidak banyak membantu. Ais maklumat terus memakan di bahagian bawah kapal penjelajah angkasa. Sedikit lagi - dan maklumat tidak teratur akan menembusi dalam kapal.
Dan kemudian... Membran kognitif berwarna putih mati, sesungut kusut, kantung facet pecah. Roger pernah melihat sesuatu seperti ini sekali dalam hidupnya - di atas kapal penjelajah yang telah mengambil maklumat tidak teratur mengenai asteroid yang dijangkiti. Mimpi ngeri ini akan kekal dalam ingatannya.
"Sambungkan semua sistem tenaga kapal ke blower."
Sesungut mekanik mula kelihatan seperti bintik-bintik...
"Tetapi…"
“Tunaikan pesanan!”
Selepas semua sistem tenaga kapal disambungkan ke blower, ais maklumat mula beransur-ansur turun. Ketebalan lapan mimm kekal, tujuh mimm, enam... Pasukan itu, cuba untuk tidak menggerakkan sesungut mereka yang bertompok, menunggu kiraan detik kematian berakhir.
Ketebalan mimm sifar!
Ais maklumat hilang sepenuhnya, dan Roger memberi kebenaran untuk menukar peniup ke mod biasa. Dia terlewat sekejap. Terdapat bunyi pengisaran, kapal penjelajah angkasa bergegar ke asasnya dan condong - sistem utama telah gagal.
Pasukan itu bergegas membaiki kerosakan.
4.
Roger memikirkannya. Apa yang patut dia buat sebenarnya?
Di satu pihak, keadaan masalah mengandaikan kewujudan kecerdasan buatan sepenuhnya dengan keupayaan untuk membiak sendiri. Sebaliknya, kecerdasan buatan ini tidak boleh dibenarkan untuk mengeluarkan kunci sedia ada.
Ya, inilah penyelesaiannya! Apa yang kamu fikirkan di sini?!
– Pencapaian kecerdasan buatan adalah perlu secara berkala. Dalam kes ini, ia akan bergerak dalam bulatan! Peningkatan abadi tanpa bergerak ke hadapan.
Profesor itu menggerutu dengan beg muka.
– Terus terang, saya mahu menawarkan pilihan yang berbeza. Walau bagaimanapun, keputusan anda juga mempunyai hak untuk wujud. Mari kita fikirkan bersama bagaimana mungkin untuk melancarkan semula pencapaian kecerdasan buatan.
"Pertama sekali, adalah perlu untuk mengimbas intelek secara berkala untuk menentukan sama ada ia telah menghampiri ambang larangan atau tidak," saran Roger, sangat gembira dengan kata-kata profesor itu.
"Mungkin," dia mengangguk. "Maka wad kami tidak akan mempunyai masa untuk mencari dan mengalih keluar sistem pengimbasan." Walau bagaimanapun, kecerdasan buatan perlu dimatikan untuk mengimbas. Nasib malang.
"Nah, biarkan dia mematikan," Roger mencadangkan secara sesuka hati. – Akal sendiri akan percaya bahawa penutupan ini adalah proses semula jadi fungsi badannya. Dengan beberapa tempahan, ini adalah benar.
- Penyelesaian yang menarik. Katakan imbasan mendedahkan bahawa wad kami adalah berbahaya dekat dengan had pengetahuan? tindakan kita?
– Tetapkan semula pengetahuan terkumpul kepada nilai lalai.
Profesor menyebarkan tentakelnya:
- Ini mungkin kelihatan mencurigakan. Mengapakah - tanpa sebab, tanpa sebab - bahawa memori telah ditetapkan semula kepada sifar? Wad akan mula diperiksa, maksud saya, oleh individu pintar buatan yang lain. Rahsia kecil kami akan terbongkar.
Berasa terinspirasi, Roger berfikir dengan pantas. Dia tidak pernah menjana banyak idea baru seperti yang dia lakukan dalam peperiksaan itu.
– Memori wad boleh ditetapkan semula bersama-sama kulit fizikalnya.
- Maaf? - profesor tidak faham.
- Semuanya sangat mudah. Bagaimana jika kita menganggap bahawa kecerdasan buatan wujud dalam tempoh masa yang terhad? Sebenarnya, beginilah keadaannya: dalam kes kerosakan yang tidak boleh diperbaiki, contohnya. Sistem ini mempunyai kaunter yang, apabila mencapai tempoh tertentu, dengan sengaja merosakkan sistem, menghalang kecerdasan buatan daripada mencapai had yang dilarang. Pada masa itu, dia akan menghasilkan bilangan pengikut yang diperlukan, jadi masyarakat yang kita cipta secara keseluruhan tidak akan menderita. Masyarakat akan kekal stabil dan selamat sepenuhnya untuk kita! – Roger selesai dengan penuh kemenangan.
– Tetapkan semula ingatan kolektif melalui pemusnahan individu? – dan profesor menggaru kantung facet dengan sesungut kelima, paling sensitif. – Anda tahu, Roger, pasti ada sesuatu dalam cadangan anda!
Roger berseri-seri.
“Pada masa yang sama...” sambung profesor itu termenung. – Wad akan mula memindahkan pengetahuan dengan tidak mengumpulnya dalam ingatan individu, tetapi dengan meletakkannya di perpustakaan luar. Apa yang ada dalam membran, apa yang ada pada membran - semuanya adalah satu.
"Tidak, tidak, profesor, anda tidak sepenuhnya betul," pelajar itu tergesa-gesa. - Saya tahu apa yang perlu dilakukan. Mari bahagikan pelajar kita kepada dua jenis bersyarat: penjana idea dan pemusnah idea. Dengan perkadaran yang betul, idea yang dicipta oleh wakil jenis pertama akan dimusnahkan oleh wakil yang kedua. Bukan kerana ini akan menjadi matlamat langsung pemusnah, tetapi semata-mata kerana idea tidak akan mempunyai nilai yang menentukan untuk mereka. Kesan sampingan. Anggaplah pelajar kita bukan makan idea baru, tetapi... katakan, mengikut jenis mereka sendiri.
Profesor itu menggoncang semua sesungutnya serentak. Dari tawanya yang riuh, kantung mukanya meluncur ke rongga lututnya.
- Baiklah, Roger, anda mengatakannya, jadi anda mengatakannya!
- Baiklah, bukan jenis mereka sendiri, tetapi wad jenis ketiga, khusus untuk makanan - dan bukan intelektual sama sekali. Marilah kita mengalihkan kutub dunia intelek dan fizikal - dan hasil yang diinginkan akan dicapai.
- Itu sahaja, Roger, itu sudah cukup! – profesor itu kelihatan sangat terhibur. -Imaginasi anda sangat baik. Jadi, sesetengah individu akan memberi makan kepada orang lain? Pada masa yang sama, memusnahkan stok makanan rohani yang terkumpul di perpustakaan? Saya mengesahkan, pelajar, bahawa anda mampu menjana idea asli dan berkualiti tinggi. Saya memberikannya markah tertinggi. Mari kita ambil rekod.
5.
Awan maklumat yang tidak teratur telah ditinggalkan, tetapi keadaan masih teruk, sebenarnya.
Tiada kaitan dengan pangkalan itu. Ini akan menjadi mudah untuk terus hidup jika semua asas maklumat pemakanan pada kapal penjelajah itu tidak rosak. Berita tragis itu dilaporkan oleh tukang masak secara senyap. Semasa penutupan sistem utama, beberapa gyroboots maklumat yang tidak teratur memasuki dapur dan merosakkan segala-galanya secara tidak dapat diperbaiki. Hanya dengan nasib yang tidak ada yang cedera.
Roger memikirkan akibatnya. Krew kapal luar angkasa itu terlalu kecil untuk menjana sejumlah idea baharu yang mencukupi: ini memerlukan komunikasi pelbagai hala - bilangan individu yang lebih besar. Hubungan dengan rumah memungkinkan untuk menjana idea dengan banyaknya, tetapi kini ia tidak teratur: tidak ada harapan untuk dipulihkan. Dalam kes ini, kapal penjelajah mempunyai modul maklumat ganti, tetapi ia dirosakkan oleh maklumat bercelaru yang datang di atas kapal.
"Adakah kita benar-benar perlu kembali tanpa menyelesaikan tugas?" – kapten berfikir dalam keputusasaan.
Nampaknya, ya - tidak ada jalan keluar lain. Jika anda terbang ke hadapan ke matlamat anda yang ditetapkan, kekurangan idea-idea segar akan terasa. Tidak serta-merta, sudah tentu - dari masa ke masa. Mereka juga akan mempunyai masa untuk menyelesaikan misi mereka dan memulakan kepulangan mereka apabila fikiran mereka mula pudar dengan cepat. Di kawasan sektor galaksi ini - ya, di suatu tempat di sini atau berdekatan - ia akan gagal sepenuhnya, untuk semua anak kapal. Kemudian kapal penjelajah angkasa, yang tidak dikawal oleh sesiapa, akan bertukar menjadi hantu tidak bernyawa yang terapung ke dalam keabadian.
Krew kapal penjelajah angkasa memandang Roger, menunggu keputusan. Semua orang memahami dilema yang dihadapi kapten dan berdiam diri, dengan tenang menggetarkan sesungut mereka.
Tiba-tiba, Roger teringat peperiksaan kecerdasan buatan yang diambilnya sebagai pelajar, dan penyelesaiannya datang secara semula jadi.
"Bolehkah anda membentuk koloni makhluk pintar buatan?" – dia berpaling kepada ahli bioteknologi.
"Mudah," dia mengesahkan. - Tetapi tiada apa yang akan berjaya, kapten, saya memikirkannya. Tidak mustahil untuk mencipta koloni yang mencukupi untuk menjana idea segar pada kapal penjelajah - tidak ada ruang yang mencukupi. Idea yang dijana tidak akan mencukupi, kita hanya akan menangguhkan kematian kita... Sekiranya, sudah tentu, kita meneruskan misi dan tidak pulang ke rumah,” tambah ahli bioteknologi itu sambil memandang ke belakang kepada rakan-rakannya.
"Bagaimana jika kita membentuk koloni di beberapa planet berdekatan?" - cadang Roger.
"Saya boleh melakukannya, tetapi..."
“Mari kita penuhi planet ini dengan makhluk buatan. Dalam perjalanan balik, agak letih, kami akan singgah di sini. Pada masa lalu, tamadun akan mencipta bagasi intelektual yang mencukupi untuk menambah simpanan kita. Jom muat turun maklumat dan teruskan perjalanan jauh ke rumah. Dalam erti kata lain, saya akan menggunakan koloni sebagai ladang idea. Bagaimana anda suka rancangan ini, kawan-kawan?
Harapan menyala pada membran kognitif kru, dan kepala palsu mula bersinar dengan cahaya terang.
Pegawai khas kapal itu melangkah ke hadapan sambil menggoyang-goyangkan sesungut birunya.
“Perancangan yang sangat baik, kapten. Tetapi adakah anda sedar tanggungjawab yang anda berikan pada diri anda? Anda akan mengisi seluruh planet. Pada masa kita kembali, tamadun dengan kecerdasan akan muncul di atasnya. Walaupun ia tiruan, ia tetap kecerdasan. Mereka ini akan mempunyai banyak masa untuk mencapai tahap pembangunan tertinggi. Kami tidak akan dapat mengawal proses ini kerana ketiadaan kami dalam sektor galaksi ini. Bagaimana anda tahu apa yang akan berlaku apabila anda bertemu seterusnya?
Roger ketawa kecil.
“Anda tidak perlu risau tentang itu. Terdapat kaedah yang mengehadkan perkembangan kecerdasan buatan dari semasa ke semasa. Kita akan melingkari tamadun, jadi pembangunannya tidak akan sampai ke tahap yang berbahaya untuk kita. Saya akan menjaganya. Saya sudah biasa dengan kaedah bekerja dengan kecerdasan buatan.”
Membran kognitif kru bercahaya dengan warna kelulusan.
"Akhirnya," tambah kapten kapal penjelajah angkasa lepas di akhir ucapannya yang mengagumkan, "Saya mengambil peperiksaan dalam subjek ini di institut."
6.
Selepas kelewatan paksa, kapal penjelajah angkasa itu meluru ke arah sasaran. Di belakang buritannya terdapat sebuah planet yang didiami oleh makhluk buatan - sangat kecil dan tidak mencolok. Biru-biru.
Sumber: www.habr.com