PERINGATAN
Dilihat dari tingginya rasio antara jumlah orang yang diam-diam tidak puas dengan jumlah komentator yang merasa keberatan, tidak jelas bagi banyak pembaca bahwa:
1) Ini adalah artikel diskusi yang murni teoretis. Tidak akan ada saran praktis di sini dalam memilih alat untuk menambang mata uang kripto atau merakit multivibrator untuk menyalakan dua bola lampu.
2) Ini bukan artikel sains populer. Tidak akan ada penjelasan boneka prinsip pengoperasian mesin Turing pada contoh kotak korek api.
3) Pikirkan baik-baik sebelum melanjutkan membaca! Apakah sikap amatirisme yang agresif menarik bagi Anda: Saya mengabaikan semua yang tidak saya mengerti?
Terima kasih sebelumnya kepada semua orang yang memutuskan untuk tidak membaca artikel ini!
Daemon adalah program komputer pada sistem kelas UNIX yang diluncurkan oleh sistem itu sendiri dan berjalan di latar belakang tanpa interaksi pengguna langsung.
Bahkan di usia prasekolah, saya mendengar dongeng tentang murid magang seorang penyihir. Saya akan mengulanginya dalam menceritakan kembali saya:
Suatu ketika, di suatu tempat di Eropa abad pertengahan, hiduplah seorang penyihir. Dia memiliki sebuah buku mantra besar yang diikat dengan kulit anak sapi hitam dengan jepitan dan sudut besi. Ketika penyihir perlu membaca mantra, dia membukanya dengan kunci besi besar, yang selalu dia bawa di ikat pinggangnya di dalam kantong khusus. Penyihir itu juga memiliki murid yang mengabdi pada penyihir itu, tetapi dia dilarang melihat ke dalam buku mantra.
Suatu hari penyihir itu pergi seharian penuh untuk urusan bisnis. Begitu dia meninggalkan rumah, siswa itu bergegas ke ruang bawah tanah, di mana terdapat laboratorium alkimia yang di dalamnya terdapat buku mantra yang dirantai ke meja. Siswa tersebut mengambil cawan lebur tempat sang penyihir melelehkan timah untuk mengubahnya menjadi emas, meletakkannya di atas anglo dan mengipasi api. Timahnya dengan cepat meleleh, tetapi tidak berubah menjadi emas. Kemudian siswa tersebut teringat bahwa sang dukun, setelah melelehkan timahnya, setiap kali membuka kunci buku itu dengan kunci dan membisikkan mantra dari buku itu untuk waktu yang lama. Siswa itu memandang dengan putus asa ke buku yang terkunci dan melihat di sebelahnya terdapat kunci, yang dilupakan oleh penyihir itu. Kemudian dia bergegas ke meja, membuka kunci buku, membukanya dan dengan keras membaca mantra pertama, dengan hati-hati mengucapkan kata-kata asing suku demi suku kata, dengan asumsi bahwa mantra penting seperti mantra transmutasi timah menjadi emas pasti akan menjadi yang pertama. .
Tapi tidak terjadi apa-apa: pemimpinnya tidak mau berubah. Siswa tersebut ingin mencoba mantra lain, tetapi kemudian petir mengguncang rumah, dan setan besar yang menyeramkan muncul di depan siswa tersebut, dipanggil oleh mantra yang baru saja diucapkan oleh siswa tersebut.
- Memesan! - iblis itu menggeram.
Karena ketakutan, semua pikiran meninggalkan kepala siswa tersebut, dia bahkan tidak bisa bergerak.
- Beri perintah, atau aku akan memakanmu! - iblis itu menggeram lagi dan mengulurkan tangan besarnya ke arah siswa itu untuk menangkapnya.
Dalam keputusasaan, siswa tersebut menggumamkan hal pertama yang terpikir olehnya:
- Siram bunga ini.
Dan dia menunjuk ke geranium, yang potnya berdiri di lantai di sudut laboratorium; di langit-langit di atas bunga itu ada satu-satunya jendela kecil di ruang bawah tanah, di mana sinar matahari nyaris tidak bisa menembusnya. Setan itu menghilang, tetapi sesaat kemudian muncul kembali dengan membawa tong besar berisi air, lalu dia membalikkan bunga itu, menuangkan airnya. Dia menghilang lagi dan muncul kembali dengan laras penuh.
“Cukup,” teriak siswa itu sambil berdiri setinggi pinggang di dalam air.
Namun rupanya keinginan saja tidak cukup - iblis itu membawa dan membawa air dalam tong, menuangkannya ke sudut tempat pernah berdiri sekuntum bunga yang tersembunyi di bawah air. Mantra khusus mungkin diperlukan untuk mengusir iblis itu. Namun meja yang berisi buku tersebut telah menghilang ke dalam air berlumpur, yang di dalamnya mengapung abu dan batu bara dari anglo, retort kosong, termos, bangku, galvanometer, dosimeter, jarum suntik sekali pakai, dan puing-puing lainnya, bahkan jika siswa tersebut tahu cara menemukannya. mantra yang diperlukan, dia tidak bisa melakukannya. Airnya naik, dan siswa itu naik ke atas meja agar tidak tersedak. Tapi ini tidak membantu dalam waktu lama - iblis itu secara metodis terus membawa air. Siswa itu sudah terendam air sampai ke lehernya ketika penyihir itu kembali, menemukan bahwa dia telah lupa kunci buku di rumah, dan mengusir setan itu. Akhir dari dongeng.
Langsung saja tentang yang sudah jelas. Dengan kecerdasan alami (NI) siswa, tampaknya semuanya jelas - bodoh, Anda harus mencari sesuatu yang lebih bodoh lagi untuk waktu yang lama. Tapi dengan kecerdasan iblis – ngomong-ngomong, kecerdasan macam apa yang dia miliki: EI atau AI? – ambigu. Versi yang berbeda adalah sah (dan pertanyaan juga akan muncul tentangnya):
Versi 1) Setan itu bahkan lebih bodoh dari muridnya. Dia menerima perintah dan akan melaksanakannya tanpa batas waktu, bahkan ketika semua maknanya hilang: bunga - objek penyiraman - akan hilang, sudut di mana koordinat bunga itu dipasang akan hilang, planet Bumi akan hilang, dan iblis bodoh akan terus mengirimkan air dalam tong ke titik tertentu di luar angkasa. Dan jika supernova terjadi pada saat ini, iblis tidak peduli ke mana harus membawa air. Terlebih lagi: betapa bodohnya Anda menyiram bunga kecil dari tong besar? Ini sudah disebut bukan menyiram bunga, tapi menenggelamkan bunga. Apakah dia mengerti arti perintah?
Versi 2) Iblis memahami segalanya, tetapi terikat oleh kewajiban. Jadi dia melakukan sesuatu seperti pemogokan Italia. Sampai dia resmi dikeluarkan sesuai aturan, dia tidak akan berhenti.
Pertanyaan 1 sampai versi 1,2) Bagaimana membedakan setan yang benar-benar bodoh menurut versi 1 dengan setan yang tidak bodoh sama sekali menurut versi 2?
Pertanyaan 2 hingga versi 1,2) Akankah setan melakukan formulasi yang lebih tepat (dari sudut pandang siswa) dengan benar? Misalnya, jika seorang siswa berkata: ambillah botol liter kosong yang ada di rak, isi dengan air dan sirami bunga itu satu kali. Atau misalnya siswa berkata: pergi.
Versi 3) Penyihir memberikan mantra tambahan pada iblis, yang menyatakan bahwa jika orang lain selain penyihir menggunakan jasa iblis, maka iblis harus segera memberi tahu penyihir tentang fakta ini.
Versi 4) Iblis tidak menyimpan dendam terhadap dukun dan muridnya, oleh karena itu, melihat situasi di luar kendali, selama gerakannya dengan tong dia muncul di belakang punggung dukun dan menggonggong: “Kamu lupa kuncinya di rumah. , ada banjir.” Tapi penyihir itu sendiri tidak akan mengingatnya.
Catatan 1 hingga versi 4) Perlu dicatat bahwa operator EI memiliki memori yang sangat tidak sempurna.
Versi selanjutnya dapat dikalikan seperti “Kelinci Fibonacci”, yaitu. bukan algoritma yang sangat kompleks. Misalnya:
Versi 5) Setan membalas dendam pada siswa karena mengganggunya.
Versi 6) Setan tidak menaruh dendam pada muridnya, tetapi membalas dendam pada penyihir.
Versi 6) Setan membalas dendam pada semua orang.
Versi 7) Setan tidak membalas dendam, tetapi bersenang-senang. Selesai ketika dia lelah.
Dan seterusnya.
Jadi, dengan setan jelas tidak ada yang jelas. Tidak lebih baik dengan seorang penyihir. Anda dapat menemukan versi yang sama: bahwa dia dengan sengaja memutuskan untuk memberikan pelajaran kepada seorang siswa yang menjulurkan hidung penasarannya ke mana-mana; bahwa dia ingin menenggelamkan siswa itu, tetapi ketika iblis itu menggonggong tentang banjir, dia menjadi takut - tiba-tiba salah satu orang yang lewat mendengarnya, maka kecurigaan akan jatuh pada penyihir itu; ingin membangkitkan minat siswa pada mantra, dll.
Di sini pertanyaan kekanak-kanakan mungkin muncul: versi manakah yang benar? Rupanya, apa saja. Tidak ada informasi yang tidak terpakai dalam kisah ini sehingga mendukung versi mana pun dibandingkan versi lainnya. Di sini kita berhadapan dengan kasus karya seni yang cukup umum dengan kemungkinan interpretasi yang ambigu. Misalnya, jika seorang sutradara ingin mementaskan dongeng ini di teater atau membuat film berdasarkan dongeng tersebut, ia dapat memilih interpretasi yang paling menarik dari sudut pandangnya. Sutradara lain mungkin menganggap interpretasi berbeda menarik. Pada saat yang sama, daya tarik dapat ditentukan oleh pertimbangan tambahan, misalnya daya tarik bagi pemirsa untuk memastikan penerimaan box office yang maksimal, atau daya tarik untuk menunjukkan beberapa ide super: gagasan kemenangan kebaikan atas kejahatan, gagasan tentang tugas, gagasan yang memberontak - misalnya, menurut Dostoevsky: seorang siswa, seperti Raskolnikov, mengajukan pertanyaan "apakah dia makhluk yang gemetar atau apakah dia berhak", dll.
Pertanyaan lain muncul.
Satu pertanyaan lagi). Bagaimana kita bisa mengajarkan AI untuk memberikan preferensi pada salah satu versi suara jika kita sendiri, yang memiliki AI, tidak selalu dapat secara sadar memilih salah satunya?
Kembali ke sang dukun, versi bahwa dia menginginkan murid yang berbakti dan taat, seperti setan, agar dia tidak menyodok buku terlarang dan di tempat yang tidak diminta, terlihat sangat masuk akal. Hal serupa kini sering diinginkan dari AI. Sekilas, ini adalah persyaratan tradisional yang normal untuk mesin apa pun: kepatuhan penuh, ketidaktaatan tidak dapat diterima. Namun dalam kasus AI, masalah versi 1,2 (lihat di atas) mungkin muncul, yaitu. AI mengalami kemunduran - perangkat keras dapat memikirkan apa pun yang diinginkannya tentang pembuat dan pemiliknya, tetapi perangkat tersebut tidak akan melakukan tindakan apa pun yang terkait dengan AI, mis. Alih-alih AI, kita akan mendapatkan robot primitif yang bodoh. Dari sinilah timbul kecurigaan: mungkin penyihir itu tidak ingin menjadikan muridnya pemain bodoh seperti setan? Itu. Muncul ide AI dengan keterbatasan. Di sini semuanya menjadi lebih sulit bahkan di bidang EI: ingat konflik abadi “ayah dan anak”, “guru dan murid”, “bos dan bawahan”.
Saat memilih definisi AI dari kemungkinan yang ada, saya mencatat:
tugas menyortir beberapa puluh ribu kata menurut abjad akan membosankan bagi seseorang, akan memakan waktu lama untuk melakukannya, dan kemungkinan kesalahan bagi pemain rata-rata dengan tingkat tanggung jawab rata-rata akan sangat besar. Komputer modern akan melakukan tugas ini tanpa kesalahan dalam waktu yang sangat singkat bagi seseorang (sepersekian detik).
Saya menetapkan definisi berikut: AI mencakup tugas-tugas yang penyelesaiannya jauh lebih buruk oleh komputer daripada manusia.
Definisi ini mempertimbangkan pertimbangan yang diungkapkan di atas dan sesuai untuk praktik; pada saat yang sama, definisi ini tidak ideal, jika hanya karena daftar tugas “yang diselesaikan oleh komputer jauh lebih buruk daripada manusia” berbeda sekarang dan 20 tahun yang lalu. . Namun menurut saya, belum ada yang bisa memberikan definisi yang lebih sempurna.
Hal di atas diilustrasikan secara kualitatif melalui diagram di awal artikel. Pada sumbu koordinat “keterampilan”, keterampilan di wilayah nol (nol dan sedikit lebih) berhubungan dengan keterampilan di mana seseorang lebih unggul dari komputer, misalnya, dalam kemampuan membuat keputusan yang tidak standar. Keterampilan di wilayah satu (satu dan sedikit kurang) sesuai dengan keterampilan di mana komputer lebih unggul daripada manusia: kemampuan berhitung, memori. Menempatkan keunggulan maksimum sama dengan satuan konvensional pada sumbu koordinat “superioritas”, diperoleh ketergantungan keunggulan pada keterampilan manusia dan komputer dalam bentuk diagonal satuan persegi. Beginilah situasi yang terlihat saat ini. Mungkinkah AI yang kuat bisa memaksimalkan semua skillnya (garis merah)? Atau bahkan lebih tinggi (super-AI - garis biru)? Mungkin tujuan antara kemajuan tidak harus kuat, tapi belum sepenuhnya
AI lemah (garis ungu), yang akan kalah dengan AI dalam beberapa skill, tapi tidak sebanyak sekarang.
Kembali ke model dongeng sastra kita, kita dapat mengatakan bahwa semua pahlawannya tidak tampil dengan cara terbaik: penyihir yang ceroboh lupa kuncinya dan menerima banjir di ruang bawah tanahnya, siswa, karena kebodohan dan kecerobohan, menerima banyak kesan ekstrim dan hampir tenggelam, setan itu diusir tanpa rasa terima kasih. Adapun kecerdasan iblis, telah dicatat bahwa sulit untuk mengklasifikasikannya dengan jelas sebagai AI atau EI, tetapi kecerdasan (walaupun tidak mengesankan) yang lain jelas milik EI. Dapat dikatakan tentang mereka bahwa membuat kesalahan berbahaya dalam mengambil keputusan, lalai, melupakan hal-hal yang perlu dan menjadi lelah adalah sifat utama yang melekat pada mereka. Sayangnya, sifat-sifat ini pada tingkat yang lebih besar atau lebih kecil melekat pada semua pembawa EI lainnya. Tidak dapat diandalkannya penyortiran kata atau angka EI telah disebutkan di atas, tetapi ini tampaknya merupakan tugas yang lebih sederhana - mengingat suatu angka saja ternyata sangat sulit bagi manusia. Untuk sebuah mesin, kemampuan mengingat angka pi hanya dibatasi oleh ukuran memorinya, dan kebanyakan orang harus menggunakannya , seperti “Apa yang saya ketahui tentang lingkaran”. Tampaknya baris “3,1416” memiliki karakter yang lebih sedikit dibandingkan mnemonik yang ditentukan, namun karena alasan tertentu orang lebih memilih untuk mengingat dengan cara yang kurang ekonomis. Dan lebih lama:
Pelajari dan ketahui angka dibalik angka tersebut, cara memperhatikan keberuntungan
Agar kita tidak melakukan kesalahan,
Harus dibaca dengan benar
Tiga, empat belas, lima belas
Sembilan puluh dua dan enam
Untuk mengingat warna pelangi:
Setiap desainer ingin tahu di mana mengunduh Photoshop
Dan awal dari tabel periodik:
Air asli (Hidrogen) dicampur dengan Gel (Helium) untuk dituangkan (Lithium). Ya, Ambil dan tuangkan (Berilium) ke dalam hutan pinus (Boron), di mana dari bawah Sudut Asli (Karbon) Asia (Nitrogen) mengintip keluar, dan dengan Wajah Asam (Oksigen) sehingga Sekunder (Fluorin) saya tidak melakukannya ingin melihat. Tapi kami tidak membutuhkannya (Neon), jadi kami pindah sejauh tiga (Sodium) meter dan berakhir di Magnolia (Magnesium), dimana Alya dengan rok mini (Aluminium) diolesi Krim (Silikon) yang mengandung Fosfor (Fosfor) sehingga dia berhenti menjadi Sera (Sera). Setelah itu Alya mengambil Klorin (Chlorine) dan mencuci kapal Argonauts (Argon)
Tapi mengapa ada ketidaksempurnaan yang begitu jelas dalam EI yang begitu sempurna? Mungkin, berkat kemampuan untuk melupakan fakta yang paling sederhana, seseorang memperoleh kebebasan untuk menggabungkan bagian-bagian pemikirannya dalam tatanan liar yang sewenang-wenang dan menemukan solusi yang tidak standar? Jika demikian, maka AI yang kuat tidak mungkin dilakukan. Entah dia akan lupa seperti manusia, atau dia tidak akan mampu mengambil keputusan yang tidak standar. Bagaimanapun, dari asumsi di atas dapat disimpulkan bahwa tujuan AI perlu dibedakan: salah satu tujuannya adalah pemodelan AI, yang lainnya adalah penciptaan AI yang kuat. Pencapaian yang satu mungkin mengecualikan pencapaian yang lain.
Seperti yang bisa kita lihat, terlalu banyak pertanyaan dengan jawaban ambigu di bidang AI, sehingga tidak jelas harus bergerak ke arah mana. Seperti yang terjadi dalam kasus seperti ini, mereka mencoba bergerak ke segala arah sekaligus. Pada saat yang sama, karena kurangnya formulasi matematis yang tepat, kita harus beralih ke filsafat dan pemodelan seni dan sastra. Salah satu contoh paling terkenal dari arah ini adalah buku “Turing Selection” (1992) oleh salah satu tokoh AI, Marvin Lee Minsky, dan penulis fiksi ilmiah terkenal Harry Harrison. Saya akan mengutip dari buku ini, mungkin menjelaskan fenomena mnemonik yang dijelaskan di atas:
Ingatan manusia bukanlah alat perekam yang mencatat segala sesuatu dalam urutan kronologis. Strukturnya sangat berbeda - seperti indeks kartu yang dipelihara dengan sembarangan, dilengkapi dengan indeks yang membingungkan dan kontradiktif. Dan tidak hanya membingungkan - dari waktu ke waktu kami mengubah prinsip klasifikasi konsep.
Sebuah interpretasi yang menarik dari metafora tape-recorder dalam karya sastra lain, cerita Stanislaw Lem “Terminus” (dari seri “Stories about the Pilot Pirx”). Berikut adalah kasus semacam “tape recorder cerdas”: robot tua di pesawat luar angkasa tua yang pernah mengalami kecelakaan sedang melakukan pekerjaan perbaikan yang sedang berlangsung, disertai dengan penyadapan. Namun jika Anda mendengarkan dengan seksama, ini bukan hanya white noise teknologi, tetapi rekaman kode Morse - percakapan antara awak kapal yang sekarat. Pirx ikut campur dalam negosiasi ini dan secara tak terduga menerima tanggapan dari para astronot yang telah lama meninggal. Ternyata robot perbaikan primitif entah bagaimana menyimpan salinan kesadaran mereka atau apakah itu distorsi kognitif dari persepsi pilot Pirx?
Dalam cerita lain, "Ananke" (dari seri yang sama), salinan EI di komputer kendali transportasi luar angkasa menyebabkan kelebihan beban paranoid dengan tugas pengujian, yang berakhir dengan bencana.
Dalam cerita “Kecelakaan,” robot yang diprogram secara antropomorfik mati akibat pendakian gunung yang ia putuskan untuk dilakukan di waktu luangnya. Apakah pemain seperti itu dibutuhkan? Namun setan yang terpaku pada menyiram bunga juga tidak selalu diperlukan.
Beberapa spesialis di bidang AI tidak menyukai “filsafat” dan “sastraisme” seperti itu, tetapi “filosofis” dan “sastraisme” ini secara tradisional melekat dalam analisis AI dan tidak dapat dihindari selama AI dibandingkan dengan AI, dan bahkan terlebih lagi selama AI mencoba meniru AI.
Kesimpulannya, survei terhadap sejumlah permasalahan yang muncul.
Hanya pengguna terdaftar yang dapat berpartisipasi dalam survei. , silakan.
1. Apakah AI mencakup tugas-tugas yang penyelesaiannya jauh lebih buruk oleh komputer dibandingkan manusia?
-
Ya
-
Tidak
-
Saya lebih tahu definisinya. Saya akan memberikannya di komentar.
-
Saya merasa sulit untuk menjawabnya
34 pengguna memilih. 7 pengguna abstain.
2. Jika AI hanya menjadi eksekutor, apakah semua perintah harus dipahami secara harfiah? Misalnya, mereka mengatakan menyirami bunga berarti menyiraminya sampai mereka mengusir Anda
-
Ya
-
Tidak
-
Saya merasa sulit untuk menjawabnya
37 pengguna memilih. 6 pengguna abstain.
3. Mungkinkah memiliki AI yang kuat, di mana semua skill akan maksimal (garis merah pada gambar di awal artikel)?
-
Ya
-
Tidak
-
Saya merasa sulit untuk menjawabnya
35 pengguna memilih. 7 pengguna abstain.
4. Apakah super-AI mungkin terjadi (garis biru pada gambar di awal artikel)?
-
Ya
-
Tidak
-
Saya merasa sulit untuk menjawabnya
36 pengguna memilih. 7 pengguna abstain.
5. Target perantaranya tidak boleh kuat, tapi juga tidak sepenuhnya lemah AI (garis ungu pada gambar di awal artikel), yang dalam beberapa skill akan kalah dengan AI, tapi tidak sebanyak sekarang. ?
-
Ya
-
Tidak
-
Saya merasa sulit untuk menjawabnya
33 pengguna memilih. 5 pengguna abstain.
6. Membuat kesalahan yang berbahaya dalam mengambil keputusan, lalai, melupakan hal-hal yang perlu dan cepat lelah merupakan sifat utama yang melekat pada EI?
-
Ya
-
Tidak
-
Saya memiliki pendapat berbeda, yang akan saya berikan di komentar.
-
Saya merasa sulit untuk menjawabnya
33 pengguna memilih. 5 pengguna abstain.
7. Berkat kemampuan untuk melupakan fakta yang paling sederhana, seseorang memperoleh kebebasan untuk menggabungkan bagian-bagian pemikirannya dalam tatanan liar yang sewenang-wenang dan menemukan solusi yang tidak standar?
-
Ya
-
Tidak
-
Saya memiliki pendapat berbeda, yang akan saya berikan di komentar.
-
Saya merasa sulit untuk menjawabnya
31 pengguna memilih. 4 pengguna abstain.
8. Memodelkan AI dan menciptakan AI yang kuat adalah dua tugas berbeda yang dapat diselesaikan dengan metode berbeda?
-
Ya
-
Tidak
-
Saya memiliki pendapat berbeda, yang akan saya berikan di komentar.
-
Saya merasa sulit untuk menjawabnya
32 pengguna memilih. 4 pengguna abstain.
Sumber: www.habr.com