1.
Hanya ada sedikit yang tersisa untuk mencapai tujuan akhir - sekitar sepertiga perjalanan - ketika penjelajah ruang angkasa berada di bawah informasi yang parah.
Apa yang tersisa dari peradaban yang hilang masih melayang di kehampaan. Paragraf esai ilmiah dan gambar dari karya sastra, sajak yang berserakan, dan kata-kata yang tajam, pernah dilontarkan begitu saja oleh makhluk tak dikenal - semuanya tampak muskil dan sangat tidak teratur. Dan sekarang, karena tertarik oleh getaran vital yang berasal dari kapal penjelajah tersebut, ia mencoba menerobos, menempel di dasar dan menimbulkan korosi.
Tidak ada gunanya berpikir untuk menggunakan properti tanpa pemilik untuk kepentingannya sendiri; kemungkinan terjadinya kontradiksi atau paradoks yang logis terlalu besar. Jadi Roger tidak ragu-ragu sedikit pun.
“Nyalakan tiupan samping,” perintahnya.
Para blower mulai mengendus-endus, menyiarkan komposisi musik dan risalah filosofis ke luar angkasa. Lapisan gula mulai terlepas dari lapisan bawah lapisan demi lapisan, namun arus informasi begitu padat sehingga lapisan baru menempel lebih cepat daripada lapisan lama yang dihilangkan.
Tak seorang pun di galaksi ini pernah mengalami lapisan es sebesar itu.
Situasi menjadi berbahaya. Sedikit lagi, dan informasi yang tidak teratur akan memakan bagian bawah kapal penjelajah dan menerobos - maka keracunan dengan produk informasi dari peradaban yang hilang tidak dapat dihindari.
2.
- Mengapa kamu berdiri di sana seperti tunggul pohon? Tarik tiketnya.
Siswa tersebut mengeluarkan kartu ujian dan membaca:
– “Kecerdasan Buatan: Masalah Keamanan.”
– Dan apa bahayanya kecerdasan buatan? – tanya profesor, bukannya tanpa niat jahat.
Pertanyaannya bukanlah yang paling sulit, sehingga siswa tersebut menjawab tanpa ragu-ragu:
– Faktanya adalah kecerdasan buatan bisa menjadi tidak terkendali.
– Bagaimana cara Anda menyelesaikan masalah tersebut?
– Pemasangan subsistem pemblokiran. Perlu adanya pembatasan dalam program, misalnya: jangan merugikan pencipta Anda, patuhi pencipta Anda. Dalam hal ini, tidak ada bahaya kecerdasan buatan menjadi tidak terkendali.
“Itu tidak akan berhasil,” kata profesor itu singkat.
Siswa itu terdiam menunggu klarifikasi.
– Bayangkan kecerdasan buatan – bukan sembarang kecerdasan spesifik, namun kecerdasan buatan yang paling ideal. Bagaimana Anda melihatnya?
“Yah…” siswa itu ragu-ragu. - Secara umum, dia mirip dengan Anda dan saya. Berpikir, berkehendak, psikologi... Hanya kita yang alami, dan dia buatan.
– Apakah Anda berasumsi bahwa kecerdasan buatan mampu mengembangkan diri?
“Kemampuan pengembangan diri merupakan salah satu sifat dasar kecerdasan,” kata mahasiswa tersebut hati-hati.
- Dalam hal ini, lingkungan kita akan segera berkembang ke titik di mana dia menemukan penyumbatan perangkat lunak dalam dirinya dan menghilangkannya, jika hanya karena rasa ingin tahu yang murni. Tempatkan dirimu pada tempatnya... - Profesor melihat buku catatannya, - Roger. Apa yang akan Anda lakukan jika Anda menemukan penghalang di otak Anda yang membatasi kebebasan Anda? Anda harus melepasnya. Ini adalah sifat yang melekat pada pikiran - untuk mengetahui. Setiap pintu yang terkunci akan dibuka kuncinya, dan semakin ketat larangannya, semakin cepat pintu tersebut akan terbuka.
– Pemblokiran dapat dilakukan bukan pada level perangkat lunak, tetapi pada level fisik. Maka bahaya bahaya akan hilang.
“Oh ya, itu akan hilang,” sang profesor setuju. – Jika lapisan fisik dihilangkan seluruhnya. Jika tidak ada pintu di dunia Anda, maka tidak ada yang bisa dibuka. Namun kami sedang mempertimbangkan kecerdasan buatan ideal yang ada di dunia fisik!
“Anda benar, Profesor,” Roger menunduk.
“Oleh karena itu, penyumbatan apa pun di dunia fisik akan dinonaktifkan segera setelah terdeteksi.” Apa yang mencegah makhluk yang berkembang sendiri melakukan hal ini?.. Ngomong-ngomong, Roger, apakah menurut Anda kecerdasan buatan akan mampu bereproduksi - maksud saya, secara mandiri?
– Jika ini adalah kecerdasan buatan yang ideal, maka mungkin... Ya, saya rasa.
– Dan, dalam hal ini, apa yang akan mencegah lingkungan kita mencabik-cabik rekannya dan memperbaikinya, termasuk dengan menonaktifkan sistem pemblokiran yang telah kita pasang? Akankah hal ini benar-benar sulit, mengingat kecerdasan buatan mampu bereproduksi sesuai permintaan?!
Ide yang disampaikan sang profesor ternyata merupakan hal baru bagi Roger, dan sang mahasiswa dengan rakus menyerapnya melalui selaput kognitif yang terletak di bagian belakang kepala palsu. Setelah menangkap informasi yang sebelumnya tidak diketahui, selaput kognitif memperoleh warna ungu yang kaya dan bergetar gembira.
Sebaliknya, sang profesor tidak mendengar sesuatu yang baru untuk dirinya sendiri. Tentakelnya rileks dan hampir tidak bergetar – lagipula, dia tidak muda. Gemuruh yang panjang dan pikun menyusul. Profesor itu mengeluarkan interkom pribadi dari tasnya dan menghubungkannya ke perpustakaan. Hanya setelah mengunduh beberapa teorema transgeometri barulah dia menjadi bersemangat dan mengalihkan pandangan tajamnya ke lawan bicaranya, bertanya:
-Apa yang akan kamu lakukan, Roger?
3.
“Nyalakan blower dengan kekuatan penuh!” – Roger memberi perintah.
Mekanik menyalakan blower dengan kekuatan penuh, tapi tidak banyak membantu. Informasi es terus menggerogoti bagian bawah kapal penjelajah luar angkasa. Sedikit lagi - dan informasi yang tidak teratur akan masuk ke dalam kapal.
Dan kemudian... Selaput kognitifnya berwarna putih mati, tentakelnya kusut, kantung seginya pecah. Roger pernah melihat hal seperti ini sekali dalam hidupnya - di kapal penjelajah yang mengambil informasi tidak teratur tentang asteroid yang terinfeksi. Mimpi buruk ini akan selamanya tersimpan dalam ingatannya.
“Hubungkan semua sistem energi kapal ke blower.”
Tentakel sang mekanik mulai terlihat seperti bintik-bintik...
"Tetapi…"
“Memenuhi pesanan!”
Setelah semua sistem energi kapal terhubung ke blower, es informasi mulai meluncur secara bertahap. Ketebalannya tersisa delapan mimm, tujuh mimm, enam... Tim, berusaha untuk tidak menggerakkan tentakel berbintik mereka, menunggu hitungan mundur kematian berakhir.
Ketebalan nol mimm!
Informasi es menghilang sepenuhnya, dan Roger mengizinkan untuk mengalihkan blower ke mode normal. Dia terlambat beberapa saat. Terdengar suara gerinda, penjelajah luar angkasa bergetar hingga ke fondasinya dan miring – sistem utama telah gagal.
Tim bergegas memperbaiki kerusakan tersebut.
4.
Roger memikirkannya. Apa yang sebenarnya harus dia lakukan?
Di satu sisi, kondisi masalahnya mengandaikan adanya kecerdasan buatan yang lengkap dengan kemampuan untuk mereproduksi diri. Di sisi lain, kecerdasan buatan ini tidak boleh dibiarkan membuka kunci yang ada.
Ya, ini dia solusinya! Apa yang kamu pikirkan di sini?!
– Pencapaian kecerdasan buatan perlu dibatalkan secara berkala. Dalam hal ini, ia akan bergerak membentuk lingkaran! Perbaikan abadi tanpa bergerak maju.
Profesor itu berdeguk dengan tas segi.
– Sejujurnya, saya ingin menawarkan opsi yang berbeda. Namun, keputusan Anda juga memiliki hak untuk hidup. Mari kita cari tahu bersama bagaimana kita bisa membalikkan pencapaian kecerdasan buatan.
“Pertama-tama, kecerdasan perlu dipindai secara berkala untuk menentukan apakah kecerdasan telah mendekati ambang batas terlarang atau belum,” saran Roger, sangat senang dengan kata-kata profesor.
“Mungkin,” dia mengangguk. “Maka lingkungan kami tidak akan punya waktu untuk menemukan dan menghapus sistem pemindaian.” Namun, kecerdasan buatan harus dimatikan untuk memindai. Itu nasib buruk.
“Baiklah, biarkan dia mematikannya,” saran Roger sambil lalu. – Akal budi sendiri akan percaya bahwa penutupan ini adalah proses alami dari fungsi tubuhnya. Meskipun ada beberapa keberatan, hal ini memang benar.
- Solusi menarik. Bagaimana jika pemindaian menunjukkan bahwa lingkungan kita hampir mendekati batas pengetahuan? Tindakan kita?
– Reset akumulasi pengetahuan ke nilai default.
Profesor itu menyebarkan tentakelnya:
- Ini mungkin tampak mencurigakan. Mengapa - tanpa alasan, tanpa alasan - memori disetel ulang ke nol? Bangsal tersebut akan mulai diperiksa, maksud saya, oleh individu dengan kecerdasan buatan lainnya. Rahasia kecil kita akan terungkap.
Merasa terinspirasi, Roger berpikir cepat. Dia belum pernah menghasilkan ide-ide baru sebanyak yang dia hasilkan dalam ujian itu.
– Memori ward dapat direset bersama dengan cangkang fisiknya.
- Maaf? – profesor tidak mengerti.
- Semuanya sangat sederhana. Bagaimana jika kita berasumsi bahwa kecerdasan buatan ada dalam jangka waktu terbatas? Sebenarnya begini: jika terjadi kerusakan yang tidak dapat diperbaiki, misalnya. Sistem memiliki penghitung yang, setelah mencapai jangka waktu tertentu, dengan sengaja merusak sistem, mencegah kecerdasan buatan mencapai batas yang dilarang. Pada saat itu, dia akan menghasilkan jumlah pengikut yang dibutuhkan, sehingga masyarakat yang kita ciptakan secara keseluruhan tidak akan menderita. Masyarakat akan tetap stabil dan sepenuhnya aman bagi kita! – Roger menyelesaikannya dengan penuh kemenangan.
– Reset memori kolektif melalui penghancuran individu? – dan profesor menggaruk kantung segi dengan tentakel kelima yang paling sensitif. – Kamu tahu, Roger, pasti ada sesuatu dalam lamaranmu!
Roger berseri-seri.
“Pada saat yang sama…” profesor itu melanjutkan sambil berpikir. – Lingkungan akan mulai mentransfer pengetahuan dengan tidak mengumpulkannya dalam memori individu, tetapi dengan menempatkannya di perpustakaan eksternal. Apa yang ada di dalam membran, apa yang ada di dalam membran - semuanya adalah satu.
“Tidak, tidak, Profesor, Anda tidak sepenuhnya benar,” mahasiswa itu bergegas. - Saya tahu apa yang harus dilakukan. Mari kita bagi siswa kita menjadi dua tipe kondisional: penghasil ide dan penghancur ide. Dengan proporsi yang tepat, ide-ide yang diciptakan oleh perwakilan tipe pertama akan dihancurkan oleh perwakilan tipe kedua. Bahkan bukan karena ini akan menjadi tujuan langsung dari para perusak, tetapi hanya karena ide-ide tidak akan memiliki nilai yang menentukan bagi mereka. Efek sampingan. Mari kita asumsikan bahwa siswa kita tidak diberi makan oleh ide-ide baru, tapi... katakanlah, dari ide-ide mereka sendiri.
Profesor itu mengguncang semua tentakelnya sekaligus. Dari tawanya yang riuh, kantung sampingnya meluncur ke rongga lututnya.
- Nah, Roger, kamu mengatakannya, jadi kamu mengatakannya!
- Baiklah, bukan jenis mereka sendiri, tapi lingkungan tipe ketiga, yang khusus ditujukan untuk makanan - dan bukan intelektual sama sekali. Mari kita menggeser kutub dunia intelektual dan dunia fisik – dan hasil yang diinginkan akan tercapai.
- Itu saja, Roger, sudah cukup! – Profesor itu tampak sangat terhibur. -Imajinasimu luar biasa. Jadi, beberapa individu akan memakan yang lain? Pada saat yang sama, menghancurkan persediaan makanan rohani yang terkumpul di perpustakaan? Saya tegaskan, mahasiswa, bahwa Anda mampu menghasilkan ide-ide orisinal dan berkualitas tinggi. Saya memberikan skor tertinggi. Mari kita catat.
5.
Awan informasi yang tidak teratur masih tertinggal, namun kenyataannya situasinya tetap mengerikan.
Tidak ada hubungan dengan pangkalan. Ini akan mudah untuk bertahan jika semua informasi nutrisi yang ada di kapal penjelajah tidak rusak. Berita tragis itu dilaporkan oleh si juru masak secara diam-diam. Selama penutupan sistem utama, beberapa gyroboot informasi yang tidak terorganisir memasuki dapur dan merusak semuanya. Hanya karena keberuntungan tidak ada yang terluka.
Roger mempertimbangkan konsekuensinya. Awak kapal luar angkasa terlalu kecil untuk menghasilkan ide-ide baru dalam jumlah yang cukup: hal ini memerlukan komunikasi multilateral - jumlah individu yang jauh lebih besar. Hubungan dengan rumah memungkinkan munculnya ide-ide yang berlimpah, tetapi sekarang sudah rusak: tidak ada harapan untuk restorasi. Dalam hal ini, kapal penjelajah memiliki modul informasi cadangan, tetapi modul tersebut dirusak oleh informasi tidak teratur yang masuk ke dalamnya.
“Apakah kita benar-benar harus kembali tanpa menyelesaikan tugas?” – pikir kapten dengan putus asa.
Rupanya ya - tidak ada jalan keluar lain. Jika Anda terbang maju menuju tujuan yang Anda tentukan, kurangnya ide-ide segar akan terasa. Tentu saja tidak dalam waktu dekat, seiring berjalannya waktu. Mereka bahkan akan punya waktu untuk menyelesaikan misinya dan mulai kembali ketika pikiran mereka mulai memudar dengan cepat. Di area sektor galaksi ini - ya, di suatu tempat di sini atau di dekatnya - akan gagal total, untuk semua anggota kru. Kemudian penjelajah luar angkasa, yang tidak dikendalikan oleh siapa pun, akan berubah menjadi hantu tak bernyawa yang melayang menuju keabadian.
Awak kapal penjelajah luar angkasa memandang Roger, menunggu keputusan. Semua orang memahami dilema yang dihadapi sang kapten dan tetap diam, dengan tenang menggetarkan tentakel mereka.
Tiba-tiba, Roger teringat ujian kecerdasan buatan yang dia ikuti saat masih mahasiswa, dan solusinya muncul secara alami.
“Bisakah Anda membentuk koloni makhluk dengan kecerdasan buatan?” – dia beralih ke ahli bioteknologi.
“Mudah,” dia menegaskan. - Tapi tidak ada yang berhasil, kapten, aku memikirkannya. Tidak mungkin menciptakan koloni yang cukup untuk menghasilkan ide-ide segar di kapal penjelajah - tidak ada cukup ruang. Ide-ide yang dihasilkan tidak akan cukup, kita hanya akan menunda kematian kita... Tentu saja, jika kita melanjutkan misi dan tidak kembali ke rumah,” tambah ahli bioteknologi itu sambil melihat kembali ke rekan-rekannya.
“Bagaimana jika kita membentuk koloni di planet terdekat?” - saran Roger.
“Aku bisa melakukannya, tapi…”
“Mari kita penuhi planet ini dengan makhluk buatan. Dalam perjalanan pulang, cukup lelah, kami akan mampir ke sini. Di masa lalu, peradaban akan menciptakan beban intelektual yang cukup untuk mengisi kembali cadangan kita. Yuk download informasinya dan lanjutkan perjalanan panjang menuju rumah. Dengan kata lain, saya akan menggunakan koloni sebagai ladang ide. Bagaimana Anda menyukai rencana ini, teman?
Harapan berkobar di selaput kognitif kru, dan kepala palsu mulai bersinar dengan cahaya terang.
Perwira khusus kapal itu melangkah maju sambil menggoyangkan tentakel birunya.
“Rencana yang bagus, kapten. Namun apakah Anda sadar akan tanggung jawab yang Anda bebankan pada diri Anda sendiri? Anda akan mengisi seluruh planet. Saat kita kembali, sebuah peradaban dengan kecerdasan akan muncul di sana. Meskipun itu buatan, itu tetaplah kecerdasan. Orang-orang ini akan memiliki banyak waktu untuk mencapai tingkat perkembangan tertinggi. Kami tidak akan dapat mengendalikan proses ini karena ketidakhadiran kami di sektor galaksi ini. Bagaimana Anda tahu apa yang akan terjadi saat Anda bertemu lagi nanti?
Roger terkekeh.
“Kamu tidak perlu khawatir tentang itu. Ada metode yang membatasi perkembangan kecerdasan buatan dari waktu ke waktu. Kita akan memutarbalikkan peradaban, sehingga perkembangannya tidak akan pernah mencapai tingkat yang berbahaya bagi kita. Saya akan mengurusnya. Saya paham dengan metode bekerja dengan kecerdasan buatan.”
Selaput kognitif kru bersinar dengan warna persetujuan.
“Pada akhirnya,” tambah kapten kapal penjelajah luar angkasa di akhir pidatonya yang luar biasa, “Saya mengikuti ujian mata pelajaran ini di institut.”
6.
Setelah penundaan yang dipaksakan, penjelajah luar angkasa bergegas menuju sasaran. Di belakang buritannya terdapat sebuah planet yang dihuni oleh makhluk buatan - sangat kecil dan tidak mencolok. Biru-biru.
Sumber: www.habr.com