Ushbu matn ilmiy tadqiqotlar natijasi emas, balki bizning bevosita texnologik taraqqiyotimizga oid ko'plab fikrlardan biridir. Va ayni paytda munozaraga taklif.
Nyu-York universiteti professori Gari Markusning fikricha, AI rivojlanishida chuqur o‘rganish muhim rol o‘ynaydi. Ammo u ushbu texnikaga haddan tashqari ishtiyoq uni obro'sizlantirishga olib kelishi mumkin deb hisoblaydi.
Uning kitobida AIni qayta ishga tushirish: biz ishonishimiz mumkin bo'lgan sun'iy intellektni yaratish Marcus, AI bo'yicha ilg'or tadqiqotlar bo'yicha martaba qurgan, ta'lim bo'yicha nevrolog, texnik va axloqiy jihatlarga murojaat qiladi. Texnologiya nuqtai nazaridan, chuqur o'rganish miyamiz bajaradigan tasvir yoki nutqni aniqlash kabi pertseptiv vazifalarni muvaffaqiyatli taqlid qilishi mumkin. Ammo suhbatlarni tushunish yoki sabab-oqibat munosabatlarini aniqlash kabi boshqa vazifalar uchun chuqur o'rganish mos kelmaydi. Ko'pincha sun'iy umumiy intellekt deb ataladigan kengroq muammolarni hal qila oladigan ilg'or aqlli mashinalarni yaratish uchun chuqur o'rganishni boshqa usullar bilan birlashtirish kerak.
Agar AI tizimi o'z vazifalarini yoki uning atrofidagi dunyoni chinakam tushunmasa, bu xavfli oqibatlarga olib kelishi mumkin. Tizim muhitidagi eng kichik kutilmagan o'zgarishlar ham noto'g'ri xatti-harakatlarga olib kelishi mumkin. Bunday misollar allaqachon ko'p bo'lgan: aldash oson bo'lgan nomaqbul iboralarning aniqlovchilari; doimiy ravishda kamsituvchi ish qidirish tizimlari; halokatga uchragan va ba'zida haydovchi yoki piyodani o'ldiradigan haydovchisiz mashinalar. Sun'iy umumiy intellektni yaratish nafaqat qiziqarli tadqiqot muammosi, balki u juda ko'p amaliy qo'llanmalarga ega.
O'z kitoblarida Markus va uning hammuallifi Ernest Devis boshqa yo'l haqida bahslashadilar. Ular biz hali ham umumiy sun'iy intellekt yaratishdan yiroq ekanligimizga ishonishadi, lekin ular ertami-kechmi uni yaratish mumkinligiga ishonchlari komil.
Nima uchun bizga umumiy AI kerak? Ixtisoslashtirilgan versiyalar allaqachon yaratilgan va juda ko'p foyda keltiradi.
To'g'ri va bundan ham ko'proq foyda bo'ladi. Ammo ixtisoslashgan AI oddiygina hal qila olmaydigan ko'plab muammolar mavjud. Masalan, oddiy nutqni tushunish yoki virtual dunyoda umumiy yordam yoki tozalash va pishirishda yordam beradigan robot. Bunday vazifalar ixtisoslashgan AI imkoniyatlaridan tashqarida. Yana bir qiziqarli amaliy savol: ixtisoslashtirilgan sun'iy intellekt yordamida xavfsiz o'zini o'zi boshqaradigan mashina yaratish mumkinmi? Tajriba shuni ko'rsatadiki, bunday sun'iy intellektda g'ayritabiiy vaziyatlarda, hatto haydash paytida ham xatti-harakatlar bilan bog'liq ko'plab muammolar mavjud, bu esa vaziyatni ancha murakkablashtiradi.
O'ylaymanki, barchamiz tibbiyotda katta yangi kashfiyotlar qilishga yordam beradigan sun'iy intellektga ega bo'lishni xohlaymiz. Hozirgi texnologiyalar bunga mos keladimi yoki yo'qmi, noma'lum, chunki biologiya murakkab sohadir. Siz ko'p kitob o'qishga tayyor bo'lishingiz kerak. Olimlar tarmoqlar va molekulalarning oʻzaro taʼsirida sabab-oqibat munosabatlarini tushunadilar, sayyoralar haqidagi nazariyalarni ishlab chiqishlari mumkin va hokazo. Biroq, ixtisoslashgan sun'iy intellekt yordamida biz bunday kashfiyotlar qila oladigan mashinalarni yarata olmaymiz. Umumiy AI yordamida biz fan, texnologiya va tibbiyotda inqilob qilishimiz mumkin. Menimcha, umumiy AI yaratish ustida ishlashni davom ettirish juda muhim.
"Umumiy" deganda siz kuchli sun'iy intellektni nazarda tutyapsizmi?
"Umumiy" deganda men sun'iy intellekt tezda yangi muammolar haqida o'ylash va hal qilish imkoniyatiga ega bo'lishini nazarda tutyapman. Masalan, so'nggi 2000 yil davomida muammo o'zgarmagan Go'dan farqli o'laroq.
Umumiy AI siyosatda ham, tibbiyotda ham qaror qabul qila olishi kerak. Bu inson qobiliyatiga o'xshaydi; har qanday aqli raso odam ko'p ish qila oladi. Siz tajribasiz talabalarni qabul qilasiz va bir necha kun ichida ularni huquqiy muammodan tortib tibbiy muammogacha deyarli hamma narsa ustida ishlashga majbur qilasiz. Buning sababi shundaki, ular dunyo haqida umumiy tushunchaga ega va o'qiy oladilar va shuning uchun juda keng ko'lamli faoliyatga hissa qo'shishlari mumkin.
Bunday aql va kuchli aql o'rtasidagi bog'liqlik shundaki, kuchli bo'lmagan razvedka, ehtimol, umumiy muammolarni hal qila olmaydi. Doimiy o'zgaruvchan dunyo bilan kurashish uchun etarlicha kuchli narsalarni yaratish uchun siz hech bo'lmaganda umumiy aqlga murojaat qilishingiz kerak bo'lishi mumkin.
Ammo hozir biz bundan juda uzoqdamiz. AlphaGo 19x19 o'lchamdagi doskada juda yaxshi o'ynay oladi, lekin uni to'rtburchaklar taxtada o'ynash uchun qayta o'rgatish kerak. Yoki o'rtacha chuqur o'rganish tizimini olaylik: u yaxshi yoritilgan va teri tuzilishi ko'rinadigan bo'lsa, filni taniy oladi. Va agar faqat filning silueti ko'rinadigan bo'lsa, tizim uni taniy olmaydi.
Kitobingizda siz chuqur o'rganish umumiy AI imkoniyatlariga erisha olmasligini eslatib o'tasiz, chunki u chuqur tushunishga qodir emas.
Kognitiv fanda ular turli kognitiv modellarning shakllanishi haqida gapiradilar. Men mehmonxona xonasida o'tiraman va tushunaman, u erda shkaf, to'shak, g'ayrioddiy tarzda osilgan televizor bor. Men bu ob'ektlarning barchasini bilaman, men ularni shunchaki aniqlamayman. Ular bir-biri bilan qanday bog'langanligini ham tushunaman. Menda atrofimdagi dunyoning ishlashi haqida fikrlarim bor. Ular mukammal emas. Ular noto'g'ri bo'lishi mumkin, lekin ular juda yaxshi. Va ularga asoslanib, men kundalik harakatlarim uchun ko'rsatma bo'ladigan ko'plab xulosalar chiqaraman.
Boshqa ekstremal narsa DeepMind tomonidan qurilgan Atari o'yin tizimi edi, unda u ekranning ma'lum joylarida piksellarni ko'rganda nima qilish kerakligini eslab qoladi. Agar siz etarli ma'lumotga ega bo'lsangiz, siz o'zingizni tushunasiz deb o'ylashingiz mumkin, lekin aslida bu juda yuzaki. Buning isboti shundaki, agar siz ob'ektlarni uch pikselga siljitsangiz, AI ancha yomonroq o'ynaydi. O'zgarishlar uni hayratda qoldiradi. Bu chuqur tushunishga qarama-qarshidir.
Ushbu muammoni hal qilish uchun siz klassik AIga qaytishni taklif qilasiz. Qanday afzalliklardan foydalanishga harakat qilishimiz kerak?
Bir nechta afzalliklarga ega.
Birinchidan, klassik AI aslida dunyoning kognitiv modellarini yaratish uchun asos bo'lib, shundan so'ng xulosalar chiqarish mumkin.
Ikkinchidan, klassik AI qoidalarga juda mos keladi. Hozirda chuqur o‘rganishda g‘alati tendentsiya mavjud bo‘lib, mutaxassislar qoidalardan qochishga harakat qilmoqdalar. Ular neyron tarmoqlarda hamma narsani qilishni va klassik dasturlash kabi ko'rinadigan hech narsa qilmaslikni xohlashadi. Ammo shunday muammolar ham borki, ular shu tarzda xotirjamlik bilan hal etildi, bunga hech kim e’tibor bermadi. Masalan, Google Xaritalarda marshrutlarni qurish.
Aslida, bizga ikkala yondashuv ham kerak. Mashinani o'rganish ma'lumotlardan o'rganishda yaxshi, lekin kompyuter dasturi bo'lgan mavhumlikni ifodalashda juda yomon. Klassik AI abstraktsiyalar bilan yaxshi ishlaydi, lekin u butunlay qo'lda dasturlashtirilgan bo'lishi kerak va ularning barchasini dasturlash uchun dunyoda juda ko'p bilim mavjud. Shubhasiz, biz ikkala yondashuvni birlashtirishimiz kerak.
Bu inson ongidan nimani o'rganishimiz mumkinligi haqida gapiradigan bobga bog'liq. Va birinchi navbatda, yuqorida aytib o'tilgan g'oyaga asoslangan kontseptsiya haqida, bizning ongimiz turli yo'llar bilan ishlaydigan juda ko'p turli xil tizimlardan iborat.
O'ylaymanki, buni tushuntirishning yana bir usuli shundaki, bizda mavjud bo'lgan har bir kognitiv tizim haqiqatan ham boshqa muammolarni hal qiladi. AIning o'xshash qismlari har xil xususiyatlarga ega bo'lgan turli muammolarni hal qilish uchun mo'ljallangan bo'lishi kerak.
Endi biz bir-biridan tubdan farq qiladigan muammolarni hal qilish uchun ba'zi all-in-one texnologiyalaridan foydalanishga harakat qilmoqdamiz. Gapni tushunish ob'ektni tan olish bilan bir xil emas. Ammo odamlar ikkala holatda ham chuqur o'rganishdan foydalanishga harakat qilmoqdalar. Kognitiv nuqtai nazardan, bular sifat jihatidan farq qiladigan vazifalardir. Chuqur o‘rganish hamjamiyatida klassik sun’iy intellektni qadrlash qanchalik kamligidan hayratdaman. Nega kumush o'q paydo bo'lishini kutish kerak? Bunga erishib bo'lmaydi va samarasiz qidiruvlar AIni yaratish vazifasining to'liq murakkabligini tushunishga imkon bermaydi.
Siz shuningdek, AI tizimlari sabab-ta'sir munosabatlarini tushunish uchun zarurligini eslatib o'tasiz. Sizningcha, chuqur o'rganish, klassik sun'iy intellekt yoki mutlaqo yangi narsa bunda bizga yordam beradimi?
Bu chuqur o'rganish unchalik mos kelmaydigan yana bir sohadir. U muayyan hodisalarning sabablarini tushuntirmaydi, balki berilgan sharoitlarda hodisaning ehtimolini hisoblab chiqadi.
Biz nima haqida gapiryapmiz? Siz ma'lum stsenariylarni kuzatasiz va nima uchun bu sodir bo'lishini va ba'zi holatlar o'zgarsa nima bo'lishi mumkinligini tushunasiz. Men televizor o‘tirgan stendga qarab, uning bir oyog‘ini kesib tashlasam, stend ag‘darilib, televizor qulab tushishini tasavvur qila olaman. Bu sabab va natija munosabatlari.
Klassik AI bizga buning uchun ba'zi vositalarni beradi. U, masalan, qo'llab-quvvatlash nima ekanligini va yiqilish nima ekanligini tasavvur qilishi mumkin. Lekin ortiqcha maqtamayman. Muammo shundaki, klassik AI ko'p jihatdan nima bo'layotgani haqida to'liq ma'lumotga bog'liq va men stendga qarab bir xulosaga keldim. Men qandaydir tarzda umumlashtirishim, stendning menga ko'rinmaydigan qismlarini tasavvur qilishim mumkin. Bizda bu xususiyatni amalga oshirish uchun hali vositalar mavjud emas.
Odamlarda tug‘ma bilim bor, deysiz. Buni AIda qanday amalga oshirish mumkin?
Tug'ilish paytida bizning miyamiz allaqachon juda rivojlangan tizimdir. Bu sobit emas, tabiat birinchi, qo'pol qoralama yaratgan. Va keyin o'rganish bizga hayotimiz davomida ushbu loyihani qayta ko'rib chiqishga yordam beradi.
Miyaning qo'pol loyihasi allaqachon ma'lum qobiliyatlarga ega. Yangi tug'ilgan tog' echkisi bir necha soat ichida tog' yonbag'iridan bexato tusha oladi. Ko'rinib turibdiki, u allaqachon uch o'lchovli makon, uning tanasi va ular orasidagi munosabatlar haqida tushunchaga ega. Juda murakkab tizim.
Bu qisman nima uchun men duragaylar kerakligiga ishonaman. Bo'sh varaqdan boshlash va uzoq, katta tajribadan o'rganish o'rniga, qaerdan boshlash kerakligi haqida o'xshash bilimsiz dunyoda yaxshi ishlaydigan robotni qanday yaratish mumkinligini tasavvur qilish qiyin.
Odamlarga kelsak, bizning tug'ma bilimimiz uzoq vaqt davomida rivojlangan genomimizdan kelib chiqadi. Ammo AI tizimlari bilan biz boshqa yo'ldan borishimiz kerak bo'ladi. Buning bir qismi bizning algoritmlarimizni qurish qoidalari bo'lishi mumkin. Buning bir qismi ushbu algoritmlar manipulyatsiya qiladigan ma'lumotlar tuzilmalarini yaratish qoidalari bo'lishi mumkin. Va buning bir qismi biz to'g'ridan-to'g'ri mashinalarga sarmoya kiritishimiz haqidagi bilim bo'lishi mumkin.
Qizig'i shundaki, kitobda siz ishonch va ishonchli tizimlarni yaratish g'oyasini keltirasiz. Nega aynan shu mezonni tanladingiz?
Men ishonamanki, bugungi kunda bularning barchasi to'p o'yini. Menimcha, biz ishonchli bo'lmagan ko'plab dasturlarga ishonib, tarixda g'alati bir lahzani boshdan kechirmoqdamiz. Menimcha, bugungi tashvishlarimiz abadiy qolmaydi. Yuz yildan so‘ng AI ishonchimizni oqlaydi, balki tezroq.
Ammo bugungi kunda AI xavfli. Ilon Mask qo'rqadigan ma'noda emas, balki dasturchilar nima qilishidan qat'i nazar, ish suhbati tizimlari ayollarni kamsitadi, chunki ularning vositalari juda oddiy.
Bizda yaxshi AI bo'lishini istardim. Men odamlar AI ishlamasligini va shunchaki xavfli ekanligini tushunadigan va uni tuzatishni istamaydigan "AI qishini" ko'rishni xohlamayman.
Qaysidir ma'noda, sizning kitobingiz juda optimistik ko'rinadi. Ishonchli AIni yaratish mumkin deb o'ylaysiz. Biz faqat boshqa tomonga qarashimiz kerak.
To'g'ri, kitob qisqa muddatda juda pessimistik, uzoq muddatda esa juda optimistik. Biz ta'riflagan barcha muammolarni to'g'ri javoblar qanday bo'lishi kerakligini kengroq ko'rib chiqish orqali hal qilish mumkinligiga ishonamiz. Va agar bu sodir bo'lsa, dunyo yaxshiroq joy bo'ladi deb o'ylaymiz.
Manba: www.habr.com