Menimcha, muammo mashinalar odamlarni ish joyida, shu jumladan intellektual sohada almashtirishida emas, balki kompyuterlar oliy ma'lumotli va Twitter akkauntlariga ega odamlarga qarshi qurol ko'targandek emas. AIni amalga oshirish tez emas, aksincha, juda sekin. Nega? Chunki bu insoniyat rivojlanishining normal tsiklidir va biz ko‘rayotgan halokat yangi ish o‘rinlarini yaratishdan avval eskilarini yo‘q qiladigan yangi texnologiyalarning joriy etilishini anglatishini shunchaki tushunmaymiz.
Texnologiyalar eskirgan tarmoqlarni yo'q qiladi va yangilarini yaratadi, bu yaratilish jarayoni, bu rivojlanish tsikli. Agar siz jarayonga eski texnologiyalarni kiritish yoki eskirgan texnologiyalar uchun ba'zi afzalliklar yaratish orqali azobni uzaytirishga harakat qilsangiz, jarayonni sekinlashtirasiz va uni yanada og'riqli qilasiz. Bu baribir sodir bo'ladi, lekin muammo shundaki, biz jarayonni ataylab sekinlashtiradigan qoidalarni yaratish orqali tartibga solamiz. Menimcha, bu biz aniqroq biladigan muammolardan ko'ra kattaroq muammo. Bu ko'proq psixologik muammo bo'lib, odamlar savol berishadi: "O'z-o'zidan boshqariladigan mashinada o'zingizni qanday xavfsiz his qilishingiz mumkin?"
Men tarixga nazar tashladim va yuz yil oldin Nyu-Yorkdagi eng kuchli kasaba uyushmalaridan biri 17 ming ishchini birlashtirgan lift ishchilari kasaba uyushmasi ekanligini bilib oldim. Aytgancha, o'sha paytda siz shunchaki tugmachani bosishingiz mumkin bo'lgan texnologiya allaqachon mavjud edi va siz tugatdingiz, lekin odamlar bunga ishonishmadi! Liftga qo'ng'iroq qilish uchun tugmani o'zingiz bosishingiz juda dahshatli! Bilasizmi, nima uchun bu kasaba uyushmasi "o'ldi" va odamlar tugmachalarni o'zlari ishlata boshladilar? Chunki bir kuni lift ishchilari ish tashlashga qaror qilishdi. Ular ish tashlashdi, keyin Empire State Building tepasiga ko'tarilishga majbur bo'lgan odamlar o'z qo'llari bilan tugmachalarni bosish xavfiga duch kelishdi.
20-30 yil oldin ular mashina ruliga o'tirganlarida bolalar yoki nabiralar haqida aytganlarini eslang: “Bu dahshatli, statistik ma'lumotlarga qarang, chunki mashinalar odamlar o'limining asosiy sabablaridan biri, ular qanday xavf tug'dirishi mumkin? ularning hayoti?"
Demak, bularning barchasi sof psixologiya. Biz avtohalokatda qancha odam halok bo'lishiga unchalik e'tibor bermaymiz, biroq o'z-o'zini boshqarayotgan mashina bir kishi halok bo'lganidan keyin voqea noaniq bo'lib ketadi. Sun'iy intellekt texnologiyalaridagi har qanday nosozlik, har qanday xato gazetalarning birinchi sahifalarida darhol yoritiladi. Ammo statistik ma'lumotlarga qarang, hodisalar soniga qarang va bu baxtsiz hodisalar umumiy sonining qancha kichik foizini tashkil etishini ko'rasiz. Binobarin, insoniyat jamiyati ana shunday qo‘rquvlardan falaj bo‘lmasdan oldinga intila olsagina g‘alaba qozonadi.
Soxta yangiliklar yoki kiberxavfsizlik haqida gapirganda yana bir muammo paydo bo'ladi, bular juda siyosiylashgan mavzular va menga ko'p qo'ng'iroqlar bo'lib, AIni yomon ko'radiganlar bilan qanday munosabatda bo'lishimni so'rashadi. Masalan, men muntazam blog yozaman, bir-ikki kundan keyin chiqadigan yangi postimda nafrat va nafratdan najot bilimda, ilm olishda ekani haqida so‘z boradi. Biz shuni tushunishimiz kerakki, bu muammo bularning barchasi ixtiro qilinishidan ancha oldin mavjud bo'lgan, shunchaki uning ahamiyati millionlab va milliardlab odamlarni qamrab olgan Internet tufayli oshdi.
O'ylaymanki, kimdir sun'iy intellektni qonundan chetlashtirish orqali taraqqiyotni to'xtatishga harakat qilsa, bu juda yaxshi narsa va siz bilasizki, bu ishlamaydi, chunki bizda Putin va boshqa yomon odamlar bor, ular qaerda bo'lishidan qat'i nazar, bizga qarshi foydalanadigan bizning texnologiyalarimiz erkin dunyo. Shuning uchun men buni faqat berilgan deb qabul qilishimiz kerak deb o'ylayman.
Muammoning mohiyati faqat o'zimizda, savollarga javob esa o'zimizda, o'z kuchimiz va ishonchimizda. Men aqlli mashinalar bizni "eskirgan" qila olmaydi, deb ta'kidlayman. Ammo shuni esda tutish kerakki, inson va kompyuter hamkorligi bo'yicha ma'lum cheklovlar mavjud va bu ko'p jihatdan ilgari mavjud bo'lgan mish-mishlardir. Har doimgidek, bu eski dunyoni yo'q qiladigan va yangisini yaratadigan shunchaki yangi imkoniyatlar va biz qanchalik oldinga intilsak, biz shunchalik yaxshi bo'lamiz.
Hozirgi kunda u ilmiy fantastika olamiga o'tishga juda o'xshaydi. Paradoks shundaki, agar biz 50-60 yil orqaga nazar tashlasak, o'sha paytlarda fantastika mutlaq ijobiy, bu butunlay utopiya bo'lganini ko'ramiz. Biroq, keyinchalik utopiyadan distopiyaga bosqichma-bosqich o'tish sodir bo'ldi, shunda biz endi insoniyatning kelajagi haqida hech narsa eshitishni xohlamaymiz.
Bu bir kechada sodir bo'lmadi. Odamlar koinotni o'rganish juda xavfli deb qaror qilgan paytlar bo'lgan. Bu haqiqatan ham katta xavf, lekin tasavvur qiling-a, 1969 yilda amerikaliklar Oyga qo'nganida, NASA ning butun hisoblash quvvati cho'ntagingizga sig'adigan har qanday zamonaviy hisoblash qurilmasi kuchidan kamroq edi. Bu qurilma bundan 40 yil avval mavjud bo‘lgan superkompyuterdan ming marta kuchliroq. Sizning cho'ntagingizda bor hisoblash quvvatini tasavvur qiling! Biroq, Apple iPhone 7 Apollon 7 bilan bir xil hisoblash kuchiga ega ekanligiga ishonchim komil emas, ya'ni u bir xil effekt yaratishga qodir.
Biroq, mashinalar bizga koinot yoki okeanlarni tadqiq qilishda ko'plab katta yutuqlarni taqdim etdi va biz kompyuterlar bizga katta tavakkal qilish qobiliyatini berishini tushunishimiz kerak.
Nutqimni ijobiy fikrlar bilan yakunlamoqchiman. Ushbu slaydda ijobiy suratlar ko'rsatilmaydimi? Pastki o'ng burchakdagi fotosurat fotoshop emas, men Terminator bilan 2003 yilda tanishganman.
U ham bolaligidan shaxmatni yaxshi ko'rardi, lekin uni maxsus o'rganmagan, shuning uchun u juda tez mag'lub bo'lgan. Shunday qilib, 6 oydan keyin u Kaliforniya gubernatorligiga nomzodini qo'yganida va g'alaba qozonganida men juda hayron bo'ldim!
Nega bu rasmlarni ijobiy deb atayman? Chunki birinchi epizoddan tashqari barcha epizodlarda keksa Arnold har doim g'oliblar tomonida bo'lib, yangi mashinalarga qarshi kurashishdan charchamasa ham, aynan birinchi epizodda biz aytayotgan kombinatsiyani ko'ramiz - bu odam va eski mashina va mukammal interfeys eng yangi mashinani mag'lub qiladi.
Siz shunday deyishingiz mumkin: "Ha, mashinalar odamlardan kuchliroq, chunki ular hamma narsani hisoblay oladilar!" Biroq, gap shundaki, ular hamma narsani hisoblay oladilar. Misol uchun, shaxmatda biz 1045 ga teng bo'lgan mumkin bo'lgan harakatlar sonining matematik cheksizligi haqida texnik jihatdan gapirishimiz mumkin, bu har qanday zamonaviy kompyuter uchun hisoblash qiyin emas. Biroq, o'yinda muhim bo'lgan narsa hisob-kitoblar emas, balki kompyuterning odamdan oldinda ekanligi, chunki u doimo qoidalarga amal qiladi. Va siz ushbu qoidalarning ta'sirini bilasiz va nima uchun kompyuter turli xil mumkin bo'lgan harakatlardan eng yaxshi harakatni tanlashini bilasiz.
Ammo real hayotga murojaat qilsak, kompyuter har doim ham foydali bo'lishi mumkinligiga ishonchim komil emas. Keling, eng odatiy holatni ko'rib chiqaylik - sizning byudjetingizni kuzatib boradigan kompyuteringiz bor, siz do'kondasiz va qimmatbaho sovg'a sotib olmoqchisiz. Kompyuter xaridni baholaydi va "yo'q, siz bu narsani sotib ololmaysiz, chunki siz byudjetdan oshib ketasiz" deydi. Mashina hamma narsani hisoblab chiqdi, lekin kichik bir nuance bor - sizning farzandingiz sizning yoningizda turibdi va bu sovg'a uning tug'ilgan kuniga mo'ljallangan. Bu muammoning shartlarini qanday o'zgartirishini ko'ryapsizmi? Bu hamma narsani o'zgartiradi, chunki bola bu sovg'ani kutmoqda.
Men hamma narsani o'zgartiradigan bu kichik narsalarni qo'shishni boshlashim mumkin, lekin men ularni muammo bayonotiga kiritib, to'g'ri echimni olish mumkin deb o'ylamayman. Bizda juda ko'p qoidalar bor, lekin biz hali ham savollar berishimiz kerak, chunki narsalar o'zgaradi. Buni oddiy holat deb atash mumkin, ammo bu filmlarni ko'rib chiqsangiz, bu erda ko'rsatilgan vaziyat yanada dramatik va g'ayrioddiyroq ekanligini aytishingiz mumkin. Ushbu slaydda "Yulduzli urushlar: Imperiya orqaga qaytdi" filmining V-qismidan lavha ko'rsatilgan.
Xan Solo kemani to‘g‘ridan-to‘g‘ri asteroid maydonidan o‘tkazdi va C-3PO dalada omon qolish imkoniyati 1:3122 ekanligini vahima qo‘zg‘atdi. Xan Solo unga: “Bizning imkoniyatlarimiz qanday ekanini menga hech qachon aytma!” deydi. Shu o'rinda savol tug'iladi, bu holatda kim ko'proq haqli?
C-3PO tomonidan taqdim etilgan texnologiya mutlaqo to'g'ri, chunki omon qolish imkoniyati nolga teng. Ehtimol, robot nuqtai nazaridan, Imperator kuchlari tomonidan qo'lga tushish, asteroid maydonida o'lishdan ko'ra, inson o'ylamagan yaxshi tanlovdir. Ammo agar kompyuter imperiyaga taslim bo'lish eng yaxshi variant deb qaror qilsa, u holda odamning umuman imkoniyatlari yo'q deb taxmin qilishimiz mumkin. Eng muhimi, har ikkala holatda ham, oddiy va favqulodda, bizda yakuniy qaror qabul qilish imkoniyati mavjud va bunday qarorni qabul qilish uchun hali ham insoniy etakchilik kerak.
Ba'zan bu sizning kompyuter tavsiyalariga qarshi chiqishingiz kerakligini anglatadi. Inson etakchiligining maqsadi - ehtimolliklarni bilish emas, balki faqat bugun yoki ertaga emas, balki uzoq kelajak uchun muhim bo'lgan savollarni berishdir. Bu jarayonni aqlli mashinalar yordamisiz ta'sir etuvchi "inson yo'l-yo'rig'i" yoki "inson aralashuvi" deb atash mumkin. Bu asrda bizning kursimiz shunday bo'lishi kerak.
Odamlar ba'zan mening aqlli mashinalar haqidagi nekbinligimdan hayratda qolishadi, ular bilan bo'lgan tajribamni hisobga olsak, men haqiqatan ham optimistman. Ishonchim komilki, barchangiz AI kelajagi haqida bir xil darajada optimistsiz. Ammo bizning texnologiyalarimiz agnostik ekanligini unutmasligimiz kerak. Bu yaxshi ham, yomon ham emas, balki yaxshi va yomon uchun ham ishlatilishi mumkin. Mashinalar yanada aqlli va qobiliyatli bo'lishi kerak. Va biz odamlar faqat odamlar qila oladigan narsani qilishimiz kerak - orzu qilish, to'liq orzu qilish va shunda biz ushbu ajoyib yangi vositalar keltiradigan barcha imtiyozlarni olishimiz mumkin.
Rejalashtirilganidek, savollarga javob berish uchun hali 10 daqiqa vaqtimiz bor.
Savol: Sizningcha, qaysi harakatlar inson o'yin uslubiga mos kelishini aniqlay oladigan mashinani o'rganish tizimini yaratish mumkinmi?
Kasparov: Birinchidan, kompyuter bizga birinchi harakatni va qolgan 17505 ta harakatni aytishini kutmaymiz. O'ylaymanki, biz noyob harakatlar uchun eng yaxshi tavsiyalarni berish uchun mashinaga tayanishimiz kerak. Aytgancha, yuqori darajadagi o'yinchilar kompyuterlardan o'yinda eng mos pozitsiyani egallashga yordam beradigan qo'llanma sifatida foydalanadilar. Yana bir bor takrorlayman - 9 ta holatdan 10 tasida kompyuterning vaziyatni baholashi inson qila oladigan bahodan ancha ustundir.
Savol: Haqiqiy aql tanlash erkinligi, faqat odamgina qabul qila oladigan qarorlar qabul qilish erkinligini talab qiladi, degan fikrga qo‘shilasizmi? Axir, Deep Blue dasturiy ta'minoti va boshqa kompyuter dasturlari odamlar tomonidan yoziladi va siz Deep Bluega yutqazsangiz, kompyuterga emas, balki dasturni yozgan dasturchilarga yutqazasiz. Mening savolim: kompyuterlar tanlash erkinligiga ega ekan, har qanday mashina razvedkasidan xavf bormi?
Kasparov: Bu erda men fandan falsafaga o'tishim kerak. Deep Blue haqida hamma narsa aniq - bu juda katta miqdordagi inson mehnatining natijasidir. Aksariyat hollarda, hatto Demis Xassabisning AlphaGo misolida ham, bularning barchasi inson aqlining mahsulidir. Mashinalar tanlash erkinligiga ega bo'ladimi yoki yo'qmi, bilmayman, lekin men nima qilishimizdan qat'iy nazar, agar biz buni qanday qilishni bilsak, mashinalar buni yaxshiroq qilishiga ishonaman. Biroq, biz ko'p narsalarni qilganimizda, biz ularni qanday qilib eng yaxshi tarzda qilishni bilmaymiz, shuning uchun biz ko'pincha nimaga erishishimizni tushunolmaymiz. Oddiy qilib aytganda, bizning maqsadimiz bor, lekin u nima ekanligini bilmaymiz va mashinaning roli bu maqsadni amalga oshirishga yordam berishdir. Shuning uchun, agar biz kompyuterlarni erkin tanlash haqida gapiradigan bo'lsak, bu bizni ushbu maqsadga bog'lashga yordam berishi kerak. Menimcha, bu kompyuterlar uchun juda uzoq kelajak.
Savol: Jasorat va axloq kabi insoniy xususiyatlar va ular asosida sun’iy intellekt qabul qilishi mumkin bo‘lgan qarorlar haqida qanday fikrdasiz? Masalan, o‘zini o‘zi boshqaradigan mashina nima qilishi kerak – bolani bosib o‘tib ketish yoki toshga urilib, yo‘lovchisini o‘ldirish orqali uni urmaslik kerakmi?
Kasparov: Bularni odamlar "hissiyotlar" deb atashadi, ular miqdoriy jihatdan aniqlanmaydi, chunki ular turli xil insoniy xususiyatlarning to'liq to'plamidir. Agar biz jasorat haqida gapiradigan bo'lsak, unda bu xususiyat har doim optimal variantni tanlash imkoniyatiga zid keladi. Jasorat, boshqa insoniy his-tuyg'ular kabi, aniq hisob-kitoblarga ziddir.
Savol: Janob Kasparov, mening savolim kompyuterlarga tegishli emas: kolbangizda nima bor va sinab ko'rsam bo'ladimi?
Kasparov: nima demoqchisiz?
Xost: U cho'ntagingizda nima borligini so'raydi!
Kasparov: mening cho'ntagimdami? "Stolichnaya"! Bu reklama emas, agar e'tibor bergan bo'lsangiz, men uni tashlab yubordim.
Savol: Shaxmat bo‘yicha navbatdagi jahon chempioni kim bo‘ladi deb o‘ylaysiz va yosh xitoylik shaxmatchi Vey Yining Karelsenni shaxmat qiroli sifatida taxtdan tushirish imkoniyati bormi?
Kasparov: Karelsen birinchi raqamli o'yinchi, u jahon chempioni emas, shunchaki reytingga ko'ra dunyoning eng yaxshi shaxmatchisi. U bu yil 1 yoshga to'ladi, shuning uchun u hali yosh, ammo bugungi standartlarga ko'ra unchalik yosh emas. Menimcha, Vey Yi hozir 27 yoki 18 yoshda. Magnus amerikalik Uesli So va Fabiano Keruana kabi yosh futbolchilardan oldinda, Vey Yi esa uning raqibi bo'lishi mumkin. Vaholanki, jahon chempioni bo'lish uchun iqtidor kerak, yosh va baquvvat bo'lish shart emas, ozgina omad bo'lsin. Demak, savolga javob berish uchun aytishim mumkin - ha, uning Magnus Karelsenni mag'lub etish imkoniyati bor.
Savol: Deterministik algoritmlar va mashinani o'rganish haqida gapirganda, siz mashinalardan bizning aqlimizni to'ldirish uchun vosita sifatida foydalanish imkoniyatini eslatib o'tdingiz. Kuchli AI yaratish yoki hatto inson miyasini kompyuterga qo'yishdan oldin resurslarni maksimal darajada oshirish imkoniyati haqida nima deyish mumkin?
Kasparov: Savolga to'g'ri javob bera olmasligimga ishonchim komil bo'lsa, o'zimning nodonligimni tan olishdan uyalmayman. Men inson miyasi nima ekanligini, agar uni inson tanasidan alohida ko'rib chiqsak, u qanday funktsiyalarni bajarishini tushunishga harakat qilaman. Chunki miyaning tanadan alohida qanday harakat qilishini tasavvur qilish qiyin. Ehtimol, kelajakda bunday tajriba o'tkazilishi mumkin, ammo ishonchim komilki, inson miyasi, inson his-tuyg'ulari va his-tuyg'ularining kompyuter bilan uyg'unligi, olingan va muzlatilgan, ishlatilgan miyadan ko'ra ancha samaraliroq bo'lgan "aql"ni hosil qiladi. neyronlar bilan to'ldirilgan qurilma sifatida.
Savol: Inson ishini kompyuterlar bilan almashtirish muammosiga universal asosiy yondashuv bormi?
Kasparov: Menimcha, bu juda muhim savol, chunki biz ko'p odamlar ishsiz qolishi mumkin bo'lgan nuqtaga yaqinlashayotganimiz aniq. Bu texnologik taraqqiyotning paradoksidir: bir tomondan, bizda ushbu qurilmalar va texnologiyalar bilan shug'ullanadigan yosh avlodga katta raqobatdosh ustunliklarni taqdim etadigan eng yangi texnologiyalar mavjud. Boshqa tomondan, inson umrini uzaytiruvchi, insonga ko‘p yillar mehnat qilish qobiliyatini beradigan tibbiyot va sog‘lom ovqatlanish borasida ham yutuqlarimiz bor. Shu ma’noda 50-60-yillar, hatto 40-yillardagi avlod ham bugungi yoshlar bilan bellasha olmaydi. Biz avlodlar orasidagi tafovut juda katta bo'lgan bu paradoksal vaziyatga yechim topishimiz kerak. Tarixiy tajriba shuni ko'rsatadiki, bunday bo'shliq har doim katta portlashga olib keladi. Men jamiyatning mavjud ijtimoiy infratuzilmasi va texnologik taraqqiyot o'rtasidagi tafovutni nazarda tutyapman.
Bu siyosatchilar keyingi saylovgacha qoldirishni ma’qul ko‘radigan masala. Hech kim bu haqda gapirishni xohlamaydi, chunki bu nozik masala. Pulni chop etish juda oson va kelajakda kimdir uni to'lashiga umid qilaman. Xullas, bu sohada ko'plab paradokslar mavjud, masalan, keksa avlodga ijtimoiy kafolatlar berish uchun qarzlarning to'planishi, bu qarzlarni to'lash yuki yosh avlod yelkasiga tushishini kutish. Menda javob bera olmaydigan juda ko'p savollar bor va men berishim mumkin bo'lgan juda ko'p savollar bor, AI menga yordam berishiga umid qilaman.
O'nlab yillar davomida siyosatchilar biz muhokama qilgan muammolarni e'tiborsiz qoldirishga urinayotgani juda yomon. Ular har doim bayonot berishga tayyor, har doim rejalari bor, lekin ular texnologiya va jamiyat o'rtasidagi ziddiyat muammosi haqida sukut saqlashning teskari samarasini tushunishni xohlamaydilar. E'tiboringiz uchun rahmat!
Biz bilan qolganingiz uchun tashakkur. Bizning maqolalarimiz sizga yoqdimi? Yana qiziqarli tarkibni ko'rishni xohlaysizmi? Buyurtma berish yoki do'stlaringizga tavsiya qilish orqali bizni qo'llab-quvvatlang, Habr foydalanuvchilari uchun biz siz uchun ixtiro qilingan boshlang'ich darajadagi serverlarning noyob analogiga 30% chegirma: (RAID1 va RAID10, 24 tagacha yadro va 40 Gb gacha DDR4 bilan mavjud).
Dell R730xd 2 barobar arzonmi? Faqat shu yerda Gollandiyada! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - 99 dollardan! Haqida o'qing
Manba: www.habr.com