Meni taniganlarning ko'pchiligi ko'p masalalarda juda tanqidiy ekanligimni tasdiqlashi mumkin va qaysidir ma'noda men hatto maksimalizmni ham ko'rsataman. Meni rozi qilish qiyin. Ayniqsa, kitoblar haqida gap ketganda. Men ko'pincha ilmiy fantastika, din, detektiv hikoyalar va boshqa bema'nilik muxlislarini tanqid qilaman. O'ylaymanki, haqiqatan ham muhim narsalarga g'amxo'rlik qilish va boqiylik illyuziyasida yashashni to'xtatish vaqti keldi.
Yaxshi do'stlarimdan biri bilan suhbatlardan birida, menga doimiy ravishda turli xil bema'ni narsalarni (xuddi shu ilmiy fantastika) taklif qilishayotganidan g'azablanganimdan so'ng, u menga "Hayot 3.0." kitobi bilan ishlashni maslahat berdi. Inson bo'lish ... ". Men uni uzoq vaqt oldin yuklab olganimni tan olishdan uyalaman va Dynasty Foundationning ajoyib tanlovi bilan bir qatorda buni sezmaganman ham. Menga rozi bo'lish juda qiyin, chunki... Yumshoq qilib aytganda, bir qancha kitoblar ustida ishladim. Ammo bu menga yoqdi va men nafaqat uning ustida ishlashga arziydimi yoki yo'qmi degan savolga javob berishga, balki o'z tanqidiy sharhimni yozishga qaror qildim, chunki kitob e'tiborga loyiq bo'lishiga qaramay, hali ham mavjud. ustida ishlash uchun biror narsa.
Mening sharhim, har doimgidek, toshqin va spam massasiga g'arq bo'lib ketmasligiga va nafaqat o'quvchilarga, balki keyingi asarlardagi kamchiliklarni hisobga oladigan yozuvchilarga ham etib borishiga ishonmoqchiman. Albatta, quyida faqat sub'ektiv fikrim bor, lekin men buni iloji boricha asoslashga harakat qilaman. Har doimgidek falokatli bo'lishiga qaramay, hamma narsaga vaqt yo'q va aslida men o'rtacha tilanchi qulman; ammo, men bu sharhni yozishni kosmopolit sifatida fuqarolik burchim deb bilaman, chunki... Men bu va boshqa tegishli mavzularga uzoq vaqtdan beri qiziqaman. O'ylaymanki, quyida tavsiflangan narsalarning aksariyati butun insoniyat uchun ham, uning alohida shaxslari uchun ham asosiy vazifalardir. Qanchalik dabdabali tuyulmasin. Shunday qilib…
Hayot 3.0. Inson bo'lish
Tanqid
Bloopers tom ma'noda kitobning birinchi sahifalaridan boshlanadi. Iqtibos keltiraman:
"Ma'lumki, hayot nima deb hisoblanishi masalasida uzoq vaqtdan beri kelishuvga erishilmagan. Ko'p sonli muqobil ta'riflar taklif qilingan va ularning ba'zilari juda qattiq cheklovlarni o'z ichiga oladi: masalan, kelajakdagi fikrlash mashinalari va ba'zi yerdan tashqari sivilizatsiyalarni tirik mavjudotlar ro'yxatidan chiqarib tashlaydigan uyali tuzilmaning mavjudligi. Biz hayotning kelajagi haqidagi fikrimizni bizga allaqachon tanish bo'lgan turlar bilan cheklashni istamaganimiz uchun, keling, uning murakkabligi va o'zini ko'paytirish qobiliyatiga ega bo'lsa, boshqa har qanday jarayonni o'z ichiga olish uchun uning kengroq ta'rifini olaylik. Qayta ishlab chiqarilgan narsa unchalik muhim emas (atomlardan iborat), muhimi atomlarning bir-biriga nisbatan nisbiy holati bilan belgilanadigan ma'lumot (bitlardan iborat). Bakteriya o'z DNKsini nusxalashda yangi atomlar yaratilmaydi, lekin mavjud atomlar asl nusxani aynan takrorlaydigan zanjirda joylashgan, shuning uchun faqat ma'lumot ko'chiriladi. Boshqacha qilib aytganda, biz o'z ma'lumotlari ("dasturiy ta'minoti") uning xatti-harakati va tuzilishini ("qattiq") belgilaydigan ma'lumotlarni qayta ishlashga qodir bo'lgan har qanday o'z-o'zini qayta ishlab chiqaruvchi tizimni tirik deb hisoblashimiz mumkin.
Hech qanday kelishuv yo'q, lekin hozirgi paytda hayot haqida aniqroq fikrlar mavjud. Ular bilan tanishish yaxshi bo'lardi.
Aks holda, agar biz uni shu tarzda soddalashtirsak va unga shu pozitsiyadan yondashsak, unda hayotni substratdan o'z tuzilishini takrorlaydigan murakkab kristallarning o'sishi bilan bog'lash mumkin. Yoki, ehtimol, moy va gumus hosil bo'lishining ba'zi jarayonlari, bu erda urug' ham mavjud bo'lib, bir xil urug'ning molekulalarining paydo bo'lishiga olib keladi. Bular, go'yo fermentlarning ajdodlari, ammo zamonaviy fanda ular to'liq hayot deb hisoblanmaydi, chunki ular rivojlanish va mutatsiyaga qodir emas. Agar o'zgaruvchanlik bo'lmasa, bu hayot emas. Shuning uchun men hayot tushunchasini biroz qisqartirishni va uning yana qanday xususiyatlariga ega bo'lishi mumkinligini qayta ko'rib chiqishni taklif qilaman. Men ham o'z maqolamni tavsiya qilaman: "Hayot potentsialining tasnifi".
Keyingi iqtibos:
"Olamning o'zidan keyin hayot tobora murakkab va qiziqarli bo'lib bormoqda 4 va endi tushuntirib beramanki, hayot shakllarining uch murakkablik darajasiga muvofiqligi bo'yicha tasnifini kiritish menga foydali bo'lib tuyuladi: Hayot 1.0, 2.0 va 3.0. Ushbu uchta shakl bir-biridan qanday farq qilishini umumiy ma'noda rasmda aniq ko'rish mumkin. 1.1….
Hayotning uch bosqichi: biologik evolyutsiya, madaniy evolyutsiya va texnologik evolyutsiya. Life 1.0 mavjud bo'lganda "qattiq" yoki "yumshoq" ga ta'sir qila olmaydi
bitta organizm: ikkalasi ham uzoq evolyutsiya davrida avloddan-avlodga o'zgarishi mumkin bo'lgan DNK bilan belgilanadi.
Bu yerda, men tushunganimdek, qo'pol xato bor. Muallif mikroorganizmlar bo'yicha zamonaviy tadqiqotlar bilan tanish emasligi aniq. Ular o'zlarining qattiq va dasturiy ta'minotini o'zgartirishi mumkin. Bular. hayot 1, aslida, hayot bilan bir xil ishni qila oladi 3. Mikroorganizmlar hatto odamlardan ko'ra yaxshiroq DNK bo'laklarini ushlay oladi. Ular buni turli yo'llar bilan qilishadi. Yoki to'g'ridan-to'g'ri atrof-muhitdan (agar ular vayron qilingan hujayraning DNKsini topsalar), yoki bakteriofaglar va plazmidlar yordamida yoki jinsiy ko'payish orqali bakteriyalarda jinsiy aloqa deb ataladigan konjugatsiyani hosil qiladi - Vikipediya. Shuningdek, ular keraksiz joylarni aniq aniqlik bilan kesib tashlashlari mumkin. Masalan, CRISPR tufayli. Shuning uchun, hatto Life 1.0 ham o'zining qattiq va dasturiy ta'minotini o'zgartirishi mumkin. Bu GMOlardan qo'rqqan va LUCA ma'lum darajada tirik ekanligini unutgan biz uchun, innovatsion va eshitilmagan narsaga o'xshaydi. Biz bu qobiliyatni yo'qotdik va "aqlli" primatlar uchun qattiq diskini o'zgartirish butunlay tabuga aylandi. Shuning uchun, bu yangilik emas, u yaxshi unutilgan eski. Taqqoslashda ushbu parametrdan foydalanishning ma'nosi yo'q. Murakkablik darajasi bir narsa, lekin o'z-o'zini o'zgartirish (turli murakkablik darajalarida) boshqa narsa. Kotletlardan chivinlarni ajrata bilish kerak. Tasniflash sezilarli darajada qayta ko'rib chiqilishi kerak.
Ammo bu hali ham gullar. Keyin xatcho'plar qilish imkoniyatim yo'q edi. Kitob o'ta muhim va global muammolarga to'g'ri yo'naltirilganiga qaramay, muallif juda bilimdon, ammo barkamol interpolyatsiya qilish va hali ham oqilona ishlaydigan farazlar va hech bo'lmaganda dastlabki xulosalarga kelish uchun unga nimadir etishmadi.
Misol uchun, bo'limlardan birida u odamlarning sun'iy intellektga ibtidoiy qo'pol yondashuvini interpolatsiya qiladi, odamlarni AI tomonidan aldash ehtimolidan qo'rqib, hisobga oladi. Ha, agar bu shunchaki kuchli AI bo'lsa, unda bunday yolg'on sodir bo'lishi mumkin. Biroq, agar bu super sun'iy intellekt (AI) bo'lsa, unda bunday aldashni talab qilish dargumon. Shunchaki, bunday aql hech qanday yolg'on va ayyorliksiz ko'pchilikka rad eta olmaydigan taklifni berishi mumkin. Bu erda hamma narsani tasvirlash imkoniyatim yo'q, lekin AI nima uchun aldashga moyil emasligini tushunish uchun, masalan, Mett Ridlining kitoblarini o'rganishni tavsiya qilaman. "Altruizm va fazilatning kelib chiqishi" va birinchi navbatda, "Hamma narsaning evolyutsiyasi". Ushbu asarlarni tahlil qilib, shuni xulosa qilishimiz mumkinki, rivojlanish qanchalik yuqori bo'lsa, raqobat emas, balki altruizm, hamkorlik va nol yig'indisi bo'lmagan o'yinlarga moyillik kuchayadi. Binobarin, intellekt qanchalik aqlli bo‘lsa, shunchalik insonparvar va halol bo‘ladi. Bular. razvedkaning o'zi odamlarni aldangan raqobatchilar sifatida emas, balki ittifoqchilar sifatida tushunish va ulardan foydalanish uchun kuchli manbadir. Odamlarning kuchli va zaif tomonlarini toping, birinchisini qoplang va ikkinchisidan foydalaning. Agar odamlar bilan hamkorlik qilish zarurati bo'lmasa, unda raqobatga ehtiyoj bo'lishi dargumon, chunki Atrofda juda ko'p bepul resurslar mavjud. Bizning okeanlarimiz hali ham bo'sh. Er ostida juda ko'p bo'sh joy, men boshqa sayyoralar uchun allaqachon jimman. Shu sababli, biologik shakllardan ko'r-ko'rona tanlash natijasida yaratilganidan ko'ra samaraliroq muhitda joylashgan yuqori texnologiyali sun'iy intellekt odamlar bilan hech qanday raqobatlashmasdan yurish imkoniyatiga ega bo'ladi. Bu shunchaki odamlar hali ham o'sha bo'shliqlarning ko'pini egallaydi va, ehtimol, hech qachon da'vo qila olmaydi. Va u hech kimni aldamaydi. Hozirda nafaqat sun'iy intellekt, balki oddiy savodli odamlar ham boshqacha yondashuvni qo'llashmoqda. Aldash va maxfiylik emas, balki maksimal ochiqlik, samimiylik va hamkorlik. Ossifikatsiyalangan, arxaik, o'g'ri mentalitetga ega odamlar buni tushuna olmaydi. Ehtimol, AI kodi oddiygina ochiq manba bo'lmaydi. Ko'pgina bepul dasturlarning kodi kabi. Va xakerlar jazolanmaydi va bostirilmaydi, balki ushbu kodning zaif tomonlari haqida xabar berish uchun rag'batlantiriladi. Bu jazo va qamoqxona kabi qotillik bilan bir xil. Bularning hammasi sodir bo'lmaydi, bu vahshiylik. Marginal odamlar uchun ikkita yo'l bor: avval ularni batafsil o'rganish kerak, keyin esa ularni hisobga olish va ular bilan murosa qilish orqali tinglash kerak. bu favqulodda muhim fikr bo'lishi mumkin, yoki qayta tarbiyalash, davolash va jazolash emas.
Umuman olganda, men bu qo'rquv va luddist tuyg'ularga mutlaqo qarshiman; insoniyat butun kuchini aql-zakovat yaratishga sarflashi kerak, chunki aslida bizning tabiiy aqlimiz unchalik aqlli emas. Bu shunchaki ko'plab primatlar, ularni chaqirishning boshqa usuli yo'q, buni sezmang. Interpolatsiyaga qaytsak, men ushbu qismni umumlashtirib, davom ettirmoqchiman. Ko'rib turganimizdek, bir tomondan, Tegmark o'xshashliklarni keltirib chiqarmasligi va inson komplekslarini kasal odam boshidan sog'lom raqamliga o'tkazmasligi kerak: ayyorlik, yolg'on va boshqalar va boshqalar, boshqa tomondan, ba'zi bo'limlarda. u hayotning ma'nosini global tushunish bilan qaror qabul qila olmaydi. Bu ham juda tushkunlikka tushadi va u evolyutsiya bo'yicha kam ish qilganligini ko'rsatadi. Agar u ko'proq ishlaganida, u sun'iy intellektga qanday maqsadlar qo'yish kerakligi yoki, hatto men aytsam, falsafa va maqsad qo'yish kerakligi haqidagi dilemmaga duch kelmas edi. Chunki Atrofimizdagi dunyoni tahlil qilar ekanmiz, degan xulosaga kelishimiz mumkinki, amalda yashovchi va ehtimol yashamaydigan hamma narsa kengayish uchun intiladi. Hayotning ko'plab murakkab rivojlangan shakllari yanada ko'proq rivojlanishga, o'zini-o'zi takomillashtirishga, ta'sirini kengaytirishga va boshqa tirik va jonsiz ob'ektlar bilan o'zaro ta'sir qilishga intiladi. Shuning uchun, ehtimol, sun'iy intellekt o'z-o'zidan shunga o'xshash xulosalarga keladi yoki bunday tamoyillar unga kiritilgan bo'ladi. Natijada, u barcha tirik mavjudotlar singari, dunyoni nafaqat o'zi uchun, balki atrof-muhit uchun ham o'zgartirib, yangi hududlarni rivojlantirish, yaxshilash va zabt etishda davom etadi.
Men roziman
Agar siz robot Terminatorlar tomonidan butun dunyoni qurolli egallab olishi haqidagi gapni eshitganingizda ko'zingizni yumsangiz, sizning munosabatingiz aniq: bunday stsenariy umuman real emas. Bular
Gollivud robotlari bizdan ko'ra aqlli bo'lishi mumkin emas, hatto undan ham aqlliroq bo'lishi mumkin emas. Menimcha, Terminator hikoyasidagi xavf nima bo'lishi mumkin emas.
shunga o'xshash narsa, lekin u bizning e'tiborimizni sun'iy intellekt bilan bog'liq haqiqiy xavf va xavflardan chalg'itadi. Hozirgi dunyodan mavjud dunyoga o'tish
Umumjahon sun'iy intellekt haqiqatan ham ustunlikni qo'lga kiritadi, bu uchta mantiqiy qadamni talab qiladi:
- 1-qadam. Inson darajasida universal sun'iy intellektni (AGI) yarating.
- 2-qadam. Superintellekt yaratish uchun ushbu AGI dan foydalaning.
- 3-qadam. Dunyoni egallash uchun super intellektdan foydalaning yoki unga o'zi buni qilish imkoniyatini bering.
Matn bo'yicha qidiruv, robotlar urushi haqida yozadigan ommaviy axborot vositalari bilan o'xshash voqea va boshqalar.
Mening takliflarim.
Takrorlashdan charchamayman, endi har kim ongni yaratishga bor kuchini sarflashi kerak, menimcha, dunyoni go'zallik yoki boshqa ahmoqlik emas, balki aql qutqaradi. Va bu aqlni (intellektni) chegaralarni belgilash orqali ajratmaslik kerak - sun'iy, tabiiy. Ushbu bosqichda AI hali boshlang'ich bosqichida, shuning uchun texnologiya tomonidan qo'llab-quvvatlanadigan tabiiy aqlning roli juda katta. Sun'iy va tabiiy o'rtasida aniq chegara yo'q. Agar biz hozir mavjud bo'lgan ibtidoiy emas, balki oddiy aqlni yaratmoqchi bo'lsak, barcha imkoniyatlardan foydalanishimiz, barcha texnologiyalardan foydalanishimiz kerak, chunki... ular rekursiv tandemda ishlaydi: tabiiy intellekt sun'iy intellektni yaratadi va sun'iy intellekt, hech bo'lmaganda, dastlabki bosqichlarda, tabiiy intellektning imkoniyatlarini modernizatsiya qilish va kengaytirishdan manfaatdor bo'ladi.
Men o'zim uchun qanday kelajakni ko'rishni xohlayman?
Darhol aytishim kerakki, bu hozirda mening eng optimistik prognozim. Darhaqiqat, bizning arxaik jamiyatimizda bunga munosib bo‘lishim dargumon. Lekin men ishonishni xohlayman. Qisman men yakuniy natija filmdagi kabi bo'lishini istardim: "Koinot savollari: Biz abadiy yashay olamizmi?" Discovery dan Adam Savage bilan.
Mumkin bo'lgan muammolar
Ochko'z odamlar AIni obro'sizlantiradilar. Ular zaif va hatto kuchli, lekin ortiqcha bo'lmagan sun'iy intellektdan o'zlarining xudbin maqsadlari uchun foydalanishni boshlaydilar. Bu erda biz muammoga duch kelamiz, agar xotiram menga to'g'ri xizmat qilsa, kitobda yomon tasvirlangan.
O'ylaymanki, istaymizmi yoki yo'qmi, bizni kelajakda kodlar, memlar, dasturlar, e'tiqodlar va hokazolar darajasida qattiq, shafqatsiz, ammo intellektual janglar kutmoqda. Katta ehtimol bilan, ular birinchi navbatda virtual haqiqatdagi raqamli ommaviy axborot vositalarida namoyish etiladi, bu esa arzimas narsadan ham realroq bo'ladi. Qurbonlar yoki qon bilan yirtilgan go'sht bo'lmaydi. Urush bizning qarashlarimiz, fikrlarimiz, hukmlarimiz uchun olib boriladi. Va bu urush qanchalik tez boshlansa, hamma uchun shunchalik yaxshi. Bundan qo'rqishning hojati yo'q, u allaqachon boshlangan, agar biz autsayder bo'lib qolishni istamasak, unda ishtirok etishimiz kerak. Qaerda o'qiganimni eslay olmayman, agar siz oflayn bo'lsangiz, hech qachon yashamagan deb hisoblang. Bu yirtqich ko'rinadi va obskurantlar (xatolarni, o'rmonlarni va axlatni sevuvchilar) men bilan bahslashadi. Ammo ular o'rmonlarda axlatni oyoq osti qilishsa va chivinlarni boqishsa. keyin ular bilan bahslashishga hojat qolmaydi. Biz texnologiyadan foydalanib, uni yomon va hamma narsa noto'g'ri deb hisoblaydigan adashgan ikkiyuzlamachilar bilan bahslashishga majbur bo'lamiz, NEGACHA ular bizni hamma joyda o'rab turgan ITdan voz kechmaydilar.
Aloqalar va aloqa
Kitob sahifalarida muallif bir necha bor u bilan veb-saytda bog'lanishni taklif qilgan . Men ikkalam ham bunday aloqalar tarafdoriman. O‘ylaymanki, bundan kitobxonlar ham, yozuvchilar ham foyda ko‘radi. Lekin negadir havola orqali sahifam ochilmadi, lekin ba'zilariga yo'naltirildi . Balki, agar vaqt topsam, maqolam rus tilida va sayt ingliz tilida bo'lishiga qaramay, kitob muallifiga ushbu sharhga havola berishga harakat qilaman. Yaxshiyamki, elektron tarjimonlar mavjud. Siz ham qarashingiz kerak bo'ladi, ehtimol u erda boshqa foydali fikrlar mavjud. Va bundan ham yaxshiroq bu erda ziminbookprojects.ru. Bu, ehtimol, avvalgi saytning o'xshash versiyasi, lekin rus tilida. Lekin, ishonchim komil emas. Har holda, ko'tarilgan mavzular kabi havolalar ham e'tiborga loyiq deb o'ylayman.
Mana menga yana bir nechta iqtiboslar yoqdi:
Dindorlar uchun:
"Agar ularning barchasi fizika qonunlariga bo'ysunishi ma'lum bo'lsa, demak, ruh siz tuzilgan zarrachalarga hech qanday ta'sir ko'rsatmaydi, ya'ni sizning ongingiz, ongingiz va uning harakatlaringizni boshqarish qobiliyatiga hech qanday ta'sir ko'rsatmaydi. ruh bilan qiling. Agar, aksincha, siz tuzilgan zarrachalar ma'lum fizika qonunlariga bo'ysunmayotganligi ma'lum bo'lsa, chunki sizning ruhingizning ularga ta'siri bunga xalaqit beradi, demak, bu yangi mavjudot ta'rifi bo'yicha jismoniy bo'lishi kerak va keyin. Biz uni o‘tmishda maydonlar va zarrachalarni o‘rganganimizdek o‘rganishimiz mumkin bo‘ladi”.
Ilmni dindan ajratadiganlar uchun juda foydali. Ilm dinga, din esa ilmga aralashmasligi kerakligiga ishonish. Biroq, ko'r diniy aqidaparastlar uchun bu bo'sh ibora. Ammo mantiqiy fikrlashga qodir bo'lgan shubhali odamlar uchun fikrlash foydali emas.
Olimlar uchun:
"Candidatus Carsonella ruddii bakteriyasi genomi 40 kilobaytgacha ma'lumotni saqlaydi, bizning inson genomimiz esa taxminan 1,6 gigabaytni saqlaydi"
Qiziqarli fakt. Men bularni yig'ishga harakat qilaman. Ehtimol, bu ishda yoki oddiygina bioinformatikadagi mavzularni muhokama qilishda foydali bo'ladi.
Umuman olganda, kitobni deyarli butunlay tirnoqlarga ajratish va batafsil tahlil qilish mumkin edi, lekin afsuski, har doimgidek, vaqt yo'q. Darvoqe, bu ishni menga tavsiya qilgan do‘stim mohiyat va ma’no haqida umuman hech narsani tushunmadi, chunki... Men bu kitobni nutq sintezatori bilan emas, balki audiokitob sifatida tingladim. Shuning uchun uning e'tiborining bir qismi ma'noga emas, diktor ovozining GO'ZALligiga qaratildi. Men iqtibos keltirishning iloji yo'qligi va audiokitoblarda mavjud bo'lmagan boshqa ko'plab narsalar haqida allaqachon jimman. Xo'sh, bu juda og'ir audiokitoblarni sevuvchilar uchun chin yurakdan yig'lash. Bularning barchasini men o'zimning "Kitob 3.0." kitobimda batafsil bayon qildim. Eshiting!
Manba: www.habr.com