Banyak orang yang mengenal saya dapat memastikan bahwa saya cukup kritis terhadap banyak masalah, dan dalam beberapa hal saya bahkan menunjukkan sikap maksimalisme. Saya sulit untuk menyenangkan. Apalagi jika menyangkut buku. Saya sering mengkritik penggemar fiksi ilmiah, agama, cerita detektif dan banyak omong kosong lainnya. Saya pikir inilah saat yang tepat untuk mengurus hal-hal yang sangat penting dan berhenti hidup dalam ilusi keabadian.
Dalam salah satu diskusi dengan salah satu teman baik saya, setelah kemarahan saya berikutnya mengenai kenyataan bahwa saya terus-menerus ditawari berbagai omong kosong (fiksi ilmiah yang sama), dia menyarankan saya untuk membaca buku “Life 3.0. Menjadi manusia…". Saya malu untuk mengakui bahwa saya sudah lama mengunduhnya dan bahkan tidak menyadarinya, bersama dengan pilihan yang luar biasa dari Dynasty Foundation. Sangat sulit bagi saya untuk menyenangkan, karena... Saya telah membaca beberapa buku, secara halus. Tapi saya menyukai yang ini, dan saya memutuskan tidak hanya untuk menjawab pertanyaannya apakah buku itu layak untuk dikerjakan atau tidak, tetapi juga untuk menulis ulasan kritis saya sendiri, karena, meskipun buku tersebut layak untuk diperhatikan, masih ada sesuatu untuk dikerjakan.
Saya percaya bahwa ulasan saya tidak akan tenggelam, seperti biasa, dalam banjir besar dan spam, dan tidak hanya akan menjangkau pembaca, tetapi juga penulis yang akan mempertimbangkan kekurangan dalam karya-karya selanjutnya. Tentu saja, di bawah ini hanya pendapat subjektif saya, tetapi saya akan berusaha membuktikannya semaksimal mungkin. Terlepas dari kenyataan bahwa, seperti biasanya bencana, tidak ada waktu untuk segalanya dan pada kenyataannya, saya adalah seorang budak pengemis biasa; Namun, saya menganggap itu tugas sipil saya sebagai seorang kosmopolitan untuk menulis ulasan ini, karena... Saya sudah lama tertarik dengan topik ini dan banyak topik terkait lainnya. Saya percaya bahwa sebagian besar dari apa yang dijelaskan di bawah ini adalah tugas-tugas utama yang ditetapkan baik bagi umat manusia secara keseluruhan maupun bagi individu-individunya. Tidak peduli betapa megahnya kedengarannya. Jadi…
Kehidupan 3.0. Menjadi manusia
Kritik
Kesalahannya dimulai secara harfiah dari halaman pertama buku ini. Saya mengutip:
“Seperti diketahui, sudah lama tidak ada kesepakatan mengenai apa yang dimaksud dengan kehidupan. Sejumlah besar definisi alternatif telah diusulkan, dan beberapa di antaranya mencakup pembatasan yang cukup ketat: misalnya, adanya struktur seluler, yang kemungkinan besar akan mengecualikan mesin berpikir masa depan dan beberapa peradaban luar bumi dari daftar makhluk hidup. Karena kita tidak ingin membatasi pemikiran kita tentang masa depan kehidupan hanya pada spesies-spesies yang sudah kita kenal, mari kita definisikan lebih luas dengan memasukkan proses-proses lainnya, selama proses tersebut mempunyai kompleksitas dan kemampuan untuk bereproduksi. Apa sebenarnya yang direproduksi tidak begitu penting (terdiri dari atom), yang penting adalah informasi (terdiri dari bit-bit), yang ditentukan oleh posisi relatif atom-atom relatif satu sama lain. Ketika bakteri menyalin DNA-nya, tidak ada atom baru yang tercipta, namun atom-atom yang ada tersusun dalam rantai yang sama persis dengan rantai aslinya, sehingga hanya informasi yang disalin. Dengan kata lain, kita dapat menganggap hidup suatu sistem yang mampu mereproduksi dirinya sendiri yang mampu memproses informasi, yang informasinya (“perangkat lunaknya”) menentukan perilaku dan strukturnya (“keras”).”
Belum ada kesepakatan, namun ada gagasan yang lebih jelas tentang kehidupan saat ini. Alangkah baiknya jika kita mengenal mereka.
Sebaliknya, jika kita menyederhanakannya dengan cara ini dan mendekatinya dari posisi ini, maka kehidupan dapat dikaitkan dengan pertumbuhan kristal kompleks yang mereproduksi strukturnya dari substrat. Atau mungkin beberapa proses pembentukan minyak dan humus, di mana juga terdapat biji, sehingga menyebabkan munculnya molekul-molekul benih yang sama. Ini seolah-olah merupakan nenek moyang enzim, tetapi dalam ilmu pengetahuan modern mereka tidak dianggap sebagai kehidupan yang utuh, karena mereka tidak mampu berkembang dan bermutasi. Jika tidak ada variabilitas, maka ini bukanlah kehidupan. Oleh karena itu, saya mengusulkan untuk sedikit mempersempit konsep kehidupan, dan mempertimbangkan kembali ciri-ciri lain yang mungkin dimilikinya. Saya juga merekomendasikan artikel saya: “Klasifikasi potensi kehidupan.”
Kutipan berikutnya:
“Mengikuti Alam Semesta itu sendiri, kehidupan menjadi semakin kompleks dan menarik 4, dan, seperti yang akan saya jelaskan sekarang, bagi saya tampaknya berguna untuk memperkenalkan klasifikasi bentuk kehidupan menurut korespondensinya dengan tiga tingkat kompleksitas: Kehidupan 1.0, 2.0 dan 3.0. Perbedaan ketiga bentuk ini satu sama lain dapat dilihat dengan jelas secara umum pada Gambar. 1.1….
Tiga tahap kehidupan: evolusi biologis, evolusi budaya, dan evolusi teknologi. Life 1.0 tidak dapat mempengaruhi “keras” atau “lunak” selama keberadaannya
sebuah organisme tunggal: keduanya ditentukan oleh DNA-nya, yang dapat berubah dari generasi ke generasi dalam periode evolusi yang panjang.”
Di sini, sejauh yang saya mengerti, ada kesalahan besar. Jelas bahwa penulis tidak familiar dengan penelitian modern tentang mikroorganisme. Mereka dapat mengubah perangkat keras dan perangkat lunaknya. Itu. kehidupan 1, nyatanya, dapat melakukan hal yang sama seperti kehidupan 3. Mikroorganisme bahkan dapat menangkap potongan DNA lebih baik daripada manusia. Mereka melakukan ini dengan berbagai cara. Baik secara langsung, dari lingkungan (jika mereka menemukan DNA dari sel yang hancur), atau dengan bantuan bakteriofag dan plasmid, atau melalui reproduksi seksual, membentuk apa yang disebut konjugasi pil seksual pada bakteri - Wikipedia. Mereka juga dapat memotong area yang tidak perlu dengan presisi tinggi. Misalnya, berkat CRISPR. Oleh karena itu, bahkan Life 1.0 dapat mengubah perangkat keras dan perangkat lunaknya. Ini untuk kita yang takut dengan GMO dan lupa bahwa LUCA, sampai batas tertentu, masih hidup, tampak sebagai sesuatu yang inovatif dan belum pernah terdengar sebelumnya. Kita telah kehilangan kemampuan ini, dan bagi primata “pintar”, mengganti hard drive mereka adalah hal yang tabu. Oleh karena itu, ini bukanlah hal baru, ini sudah lama terlupakan. Tidak ada gunanya menggunakan parameter ini sebagai perbandingan. Tingkat kompleksitas adalah satu hal, namun perubahan diri (pada tingkat kompleksitas yang berbeda) adalah hal lain. Anda harus bisa memisahkan lalat dari irisan daging. Klasifikasi ini perlu direvisi secara signifikan.
Tapi ini tetaplah bunga. Maka saya tidak punya kesempatan untuk membuat bookmark. Terlepas dari kenyataan bahwa buku ini menyentuh isu-isu yang sangat penting dan global dengan cara yang benar, penulisnya sangat terpelajar, namun tampaknya ia kekurangan sesuatu untuk membuat interpolasi yang kompeten dan masih sampai pada hipotesis kerja yang masuk akal dan setidaknya kesimpulan awal.
Misalnya, di salah satu bagian ia menginterpolasi pendekatan primitif manusia yang nakal terhadap AI, karena takut dan mempertimbangkan kemungkinan penipuan manusia oleh AI. Ya, mungkin saja kalau hanya AI yang kuat, maka penipuan seperti itu bisa saja terjadi. Namun, jika itu adalah kecerdasan buatan (AI) super, maka penipuan seperti itu kemungkinan tidak diperlukan. Hanya saja kecerdasan seperti itu, tanpa kebohongan dan kelicikan apa pun, akan mampu memberikan tawaran yang tidak dapat mereka tolak kepada banyak orang. Saya tidak memiliki kesempatan untuk menjelaskan semuanya di sini, tetapi untuk memahami mengapa AI lebih cenderung tidak menipu, saya sarankan untuk mempelajari, misalnya, buku-buku Matt Ridley. “Asal Usul Altruisme dan Kebajikan”, dan salah satunya, “Evolusi Segalanya”. Setelah menganalisis karya-karya ini, kita dapat menyimpulkan bahwa semakin tinggi perkembangannya, semakin besar kecenderungan ke arah altruisme, kerjasama dan permainan non-zero-sum, dibandingkan persaingan. Oleh karena itu, semakin pintar akalnya, semakin besar kemungkinannya untuk menjadi lebih manusiawi dan jujur. Itu. intelijen itu sendiri merupakan sumber daya yang ampuh untuk memahami dan memanfaatkan masyarakat bukan sebagai pesaing yang tertipu, namun sebagai sekutu. Temukan kekuatan dan kelemahan seseorang, kompensasikan kekuatan dan kelemahannya, dan manfaatkan kelemahannya. Jika tidak diperlukan kerjasama dengan masyarakat, kecil kemungkinannya akan diperlukan adanya persaingan, karena Ada cukup banyak sumber daya gratis yang tersedia. Lautan kita masih kosong. Banyak ruang kosong di bawah Bumi, saya sudah diam untuk planet lain. Oleh karena itu, AI berteknologi tinggi, yang ditempatkan pada media yang lebih efisien dibandingkan dengan media yang diciptakan melalui seleksi buta dari bentuk biologis, akan memiliki ruang untuk berkeliaran tanpa persaingan dengan manusia. Ini hanya akan menempati banyak ceruk yang masih ada, dan mungkin tidak akan pernah bisa diklaim oleh orang-orang. Dan dia tidak akan menipu siapa pun. Saat ini, tidak hanya AI, tetapi bahkan orang-orang biasa yang melek huruf pun mempraktikkan pendekatan yang berbeda. Bukan tipu muslihat dan kerahasiaan, tapi keterbukaan, keikhlasan dan kerjasama yang maksimal. Orang-orang dengan mentalitas keras, kuno, dan pencuri tidak dapat memahami hal ini. Kemungkinan besar, kode AI tidak akan bersifat open source. Seperti kode banyak perangkat lunak gratis. Dan peretas tidak akan dihukum dan ditindas, namun akan didorong untuk melaporkan kerentanan kode ini. Sama halnya dengan pembunuhan sebagai hukuman dan penjara. Semua ini tidak akan terjadi, ini kebiadaban. Ada dua jalan bagi kaum marjinal: pertama mereka perlu dikaji secara detail, kemudian diperhitungkan dan didengarkan dengan cara berkompromi dengan mereka, karena itu bisa berupa opini yang luar biasa penting, atau mendidik kembali, mengobati, dan bukan menghukum.
Secara umum, saya dengan tegas menentang semua ketakutan dan sentimen Luddist ini; umat manusia harus mencurahkan seluruh upayanya untuk menciptakan kecerdasan, karena sebenarnya, kecerdasan alami kita tidak terlalu pintar. Hanya saja banyak primata, tidak ada cara lain untuk memanggil mereka, jangan perhatikan ini. Kembali ke interpolasi, saya ingin merangkum bagian ini dan melanjutkan. Seperti yang bisa kita lihat, di satu sisi, Tegmark tidak boleh menggambar analogi dan mentransfer kompleks manusia dari kepala manusia yang sakit ke digital yang sehat: kelicikan, penipuan, dll., dll., dan di sisi lain, di beberapa bagian dia tidak bisa memutuskan dengan pemahaman global tentang makna hidup. Hal ini juga sangat menyedihkan, dan menunjukkan bahwa ia tidak berbuat banyak terhadap evolusi. Jika dia bekerja lebih keras, dia tidak akan mengalami dilema mengenai tujuan apa, atau, menurut saya, filosofi dan penetapan tujuan, yang harus ditetapkan untuk AI. Karena Menganalisis dunia di sekitar kita, kita dapat menyimpulkan bahwa secara praktis segala sesuatu yang hidup, dan mungkin tidak hidup, cenderung berkembang. Banyak bentuk kehidupan yang berkembang secara kompleks berusaha untuk mencapai perkembangan yang lebih besar, peningkatan diri, perluasan pengaruh dan interaksi dengan benda hidup dan benda mati lainnya. Oleh karena itu, kemungkinan besar AI akan sampai pada kesimpulan serupa sendiri, atau prinsip-prinsip tersebut akan tertanam di dalamnya. Sebagai hasilnya, ia akan terus, seperti semua makhluk hidup, mengembangkan, meningkatkan, dan menaklukkan wilayah-wilayah baru, mengubah Dunia tidak hanya untuk dirinya sendiri, tetapi juga untuk lingkungannya.
Saya setuju
Jika Anda memutar mata ketika mendengar pembicaraan tentang pengambilalihan bersenjata seluruh dunia oleh robot Terminator, maka reaksi Anda akurat: skenario seperti itu sama sekali tidak realistis. Ini
Robot-robot Hollywood tidak bisa lebih pintar dari kita, atau bahkan lebih pintar sama sekali. Menurut saya, bahaya dalam cerita Terminator bukanlah apa yang mungkin terjadi.
sesuatu yang serupa, namun mengalihkan perhatian kita dari risiko dan bahaya nyata yang terkait dengan kecerdasan buatan. Transisi dari dunia saat ini ke dunia di mana
keunggulan benar-benar dimenangkan oleh kecerdasan buatan universal, memerlukan tiga langkah logis:
- Langkah 1. Menciptakan kecerdasan buatan universal (AGI) pada tingkat manusia.
- Langkah 2. Gunakan AGI ini untuk menciptakan kecerdasan super.
- Langkah 3. Gunakan kecerdasan super untuk mengambil alih dunia atau memberinya kesempatan untuk melakukannya sendiri.
Cari berdasarkan teks, cerita serupa dengan media yang menulis tentang perang robot, dll.
Saran saya.
Saya tidak akan bosan mengulanginya, sekarang setiap orang harus mengerahkan seluruh kekuatannya untuk menciptakan pikiran, pikiranlah, dan bukan keindahan, atau kebodohan lainnya, menurut saya, yang akan menyelamatkan Dunia. Dan Anda tidak boleh memisahkan pikiran (kecerdasan) ini dengan menetapkan batasan - buatan, alami. Pada tahap ini AI masih dalam tahap awal sehingga peran kecerdasan alami yang didukung oleh teknologi sangat besar. Tidak ada garis yang jelas antara buatan dan alami. Jika kita ingin menciptakan kecerdasan normal, dan bukan kecerdasan primitif yang ada sekarang, kita perlu menggunakan segala kemungkinan, menggunakan semua teknologi, karena... mereka bekerja secara tandem rekursif: kecerdasan alami menciptakan kecerdasan buatan, dan kecerdasan buatan, setidaknya pada tahap awal, akan tertarik untuk memodernisasi dan memperluas kemampuan kecerdasan alami.
Masa depan seperti apa yang ingin saya lihat sendiri?
Perlu segera disebutkan bahwa ini adalah perkiraan saya yang paling optimis saat ini. Faktanya, dalam masyarakat kuno kita, kecil kemungkinannya saya akan mampu menjalaninya. Tapi saya ingin percaya. Sebagian, saya ingin hasil akhirnya seperti di film: “Pertanyaan Alam Semesta: Bisakah kita hidup selamanya?” dengan Adam Savage dari Penemuan.
Kemungkinan masalah
Orang yang serakah akan mendiskreditkan AI. Mereka akan mulai menggunakan AI yang lemah dan bahkan kuat, namun tidak berlebihan, untuk tujuan egois mereka sendiri. Di sinilah kita menghadapi masalah, yang, jika ingatan saya benar, tidak dijelaskan dengan baik di dalam buku.
Saya pikir, suka atau tidak, pertarungan yang keras, kejam, tetapi intelektual menanti kita di masa depan, pada tingkat kode, meme, program, keyakinan, dll. Kemungkinan besar, mereka akan ditampilkan terutama di media digital dalam realitas virtual, yang bahkan lebih realistis daripada hal-hal sepele. Tidak akan ada korban atau daging yang terkoyak dengan darah. Perang akan terjadi karena pandangan, opini, penilaian kita. Dan semakin cepat perang ini dimulai, semakin baik bagi semua orang. Tidak perlu takut, ini sudah dimulai, dan jika kita tidak ingin menjadi orang luar, kita perlu mengambil bagian di dalamnya. Saya tidak ingat di mana saya membaca bahwa jika Anda offline, anggaplah Anda tidak pernah hidup. Kedengarannya liar, dan para obskurantis (pecinta serangga, hutan, dan kotoran) akan berdebat dengan saya. Tapi jika mereka menginjak-injak kotoran di hutan dan memberi makan nyamuk. maka Anda tidak perlu berdebat dengan mereka. Kita harus berdebat dengan orang-orang munafik sesat yang, dengan menggunakan teknologi, menganggapnya jahat dan segala sesuatunya salah, KARENA NAMA-NAMA mereka tidak akan melepaskan TI yang ada di sekitar kita di mana pun.
Tautan dan komunikasi
Penulis di halaman buku lebih dari satu kali menyarankan untuk menghubunginya di situs web . Saya berdua mendukung koneksi seperti itu. Saya pikir baik pembaca maupun penulis akan mendapat manfaat dari hal ini. Tapi entah kenapa halaman saya melalui link tersebut tidak terbuka, tapi dialihkan ke beberapa . Mungkin, jika saya punya waktu, saya akan mencoba memberikan link ulasan ini kepada penulis bukunya, meskipun artikel saya dalam bahasa Rusia dan situsnya dalam bahasa Inggris. Untungnya, ada penerjemah elektronik. Anda juga perlu melihat, mungkin sudah ada beberapa pemikiran bermanfaat lainnya di sana. Dan yang lebih baik lagi di sini adalah ziminbookprojects.ru. Kemungkinan besar ini adalah versi serupa dari situs sebelumnya, tetapi dalam bahasa Rusia. Tapi, saya tidak yakin. Bagaimanapun, menurut saya tautannya patut diperhatikan, begitu pula topik yang diangkat.
Berikut beberapa kutipan lagi yang saya suka:
Bagi yang beriman:
“Jika ternyata semuanya mematuhi hukum fisika, maka jiwa tidak mempunyai pengaruh terhadap partikel-partikel penyusun Anda, yang berarti kesadaran Anda, pikiran Anda, dan kemampuannya untuk mengendalikan gerakan Anda tidak ada hubungannya dengan itu. lakukan dengan jiwa. Sebaliknya, jika ternyata partikel-partikel penyusun Anda tidak mematuhi hukum fisika yang diketahui, karena pengaruh jiwa Anda terhadap partikel-partikel tersebut mengganggu hal ini, maka entitas baru ini menurut definisinya harus bersifat fisik, dan kemudian kita akan dapat mempelajarinya seperti kita mempelajari bidang dan partikel di masa lalu."
Sangat berguna bagi mereka yang memisahkan sains dari agama. Meyakini bahwa ilmu pengetahuan tidak boleh mengganggu agama, dan agama dengan ilmu pengetahuan. Namun, bagi kaum fanatik agama yang buta, ini hanyalah ungkapan kosong. Namun bagi orang yang ragu dan mampu berpikir logis, pemikiran lebih dari sekedar berguna.
Bagi para ilmuwan:
“genom bakteri Candidatus Carsonella ruddii menyimpan hingga 40 kilobyte informasi, sedangkan genom manusia menyimpan sekitar 1,6 gigabyte”
Fakta yang menarik. Saya mencoba mengumpulkan ini. Mungkin berguna dalam pekerjaan, atau sekadar membahas topik-topik di bidang bioinformatika.
Secara umum, buku ini hampir seluruhnya dapat dibongkar menjadi kutipan dan dianalisis secara mendetail, tetapi sayangnya, seperti biasa, tidak ada waktu. Ngomong-ngomong, teman yang merekomendasikan karya ini kepada saya sama sekali tidak mengerti apa-apa tentang hakikat dan maknanya, karena... Saya mendengarkan buku ini bukan dengan penyintesis ucapan, tetapi sebagai buku audio. Oleh karena itu, sebagian perhatiannya tertuju pada KEINDAHAN suara penyiar, dan bukan pada maknanya. Saya sudah bungkam tentang ketidakmungkinan mengutip dan banyak hal lain yang tidak ada di buku audio. Ya, ini sedikit seruan dari hati, untuk pecinta buku audio berat. Saya menjelaskan semua ini secara rinci dalam buku saya “Buku 3.0. Mendengarkan!
Sumber: www.habr.com