این متن نتیجه تحقیقات علمی نیست، بلکه یکی از نظرات متعدد در مورد توسعه فوری فناوری ما است. و در عین حال دعوت به بحث.
گری مارکوس، استاد دانشگاه نیویورک، معتقد است که یادگیری عمیق نقش مهمی در توسعه هوش مصنوعی دارد. اما او همچنین معتقد است که اشتیاق بیش از حد به این تکنیک می تواند منجر به بی اعتباری آن شود.
در کتابش راه اندازی مجدد هوش مصنوعی: ساختن هوش مصنوعی که می توانیم به آن اعتماد کنیم مارکوس، یک متخصص علوم اعصاب با آموزش که روی تحقیقات پیشرفته هوش مصنوعی حرفه ای ایجاد کرده است، به جنبه های فنی و اخلاقی می پردازد. از منظر فناوری، یادگیری عمیق می تواند با موفقیت از وظایف ادراکی مغز ما مانند تشخیص تصویر یا گفتار تقلید کند. اما برای کارهای دیگر، مانند درک مکالمات یا تعیین روابط علت و معلولی، یادگیری عمیق مناسب نیست. برای ایجاد ماشین‌های هوشمند پیشرفته‌تر که می‌توانند طیف وسیع‌تری از مسائل را حل کنند - که اغلب به آن هوش مصنوعی عمومی گفته می‌شود - یادگیری عمیق باید با تکنیک‌های دیگر ترکیب شود.
اگر یک سیستم هوش مصنوعی به درستی وظایف خود یا دنیای اطراف خود را درک نکند، می تواند منجر به عواقب خطرناکی شود. حتی کوچکترین تغییرات غیرمنتظره در محیط سیستم می تواند منجر به رفتار اشتباه شود. نمونه‌های زیادی از این دست وجود داشته است: عوامل تعیین‌کننده عبارات نامناسب که فریب دادن آنها آسان است. سیستم های کاریابی که به طور مداوم تبعیض قائل می شوند. خودروهای بدون راننده که تصادف می کنند و گاهی راننده یا عابر پیاده را می کشند. ایجاد هوش عمومی مصنوعی فقط یک مشکل تحقیقاتی جالب نیست، بلکه کاربردهای کاملاً عملی زیادی دارد.
مارکوس و نویسنده همکارش ارنست دیویس در کتابشان برای مسیری متفاوت استدلال می کنند. آنها معتقدند که ما هنوز با ایجاد هوش مصنوعی عمومی فاصله داریم، اما مطمئن هستند که دیر یا زود امکان ایجاد آن وجود خواهد داشت.
چرا به هوش مصنوعی عمومی نیاز داریم؟ نسخه های تخصصی قبلاً ایجاد شده اند و مزایای زیادی به همراه دارند.
درست است و مزایای بیشتری نیز وجود خواهد داشت. اما مشکلات زیادی وجود دارد که هوش مصنوعی تخصصی به سادگی نمی تواند آنها را حل کند. به عنوان مثال، درک گفتار معمولی، یا کمک کلی در دنیای مجازی، یا رباتی که در تمیز کردن و آشپزی کمک می کند. چنین وظایفی فراتر از توانایی های تخصصی هوش مصنوعی است. یک سوال کاربردی دیگر: آیا می توان با استفاده از هوش مصنوعی تخصصی یک ماشین خودران ایمن ایجاد کرد؟ تجربه نشان می‌دهد که چنین هوش مصنوعی هنوز مشکلات زیادی در رفتار در موقعیت‌های غیرعادی، حتی در هنگام رانندگی دارد، که وضعیت را به شدت پیچیده می‌کند.
فکر می‌کنم همه ما دوست داریم هوش مصنوعی داشته باشیم که بتواند به ما در کشف اکتشافات جدید بزرگ در پزشکی کمک کند. مشخص نیست که آیا فناوری های فعلی برای این کار مناسب هستند یا خیر، زیرا زیست شناسی یک رشته پیچیده است. شما باید برای خواندن کتاب های زیادی آماده باشید. دانشمندان روابط علت و معلولی را در تعامل شبکه‌ها و مولکول‌ها درک می‌کنند، می‌توانند نظریه‌هایی درباره سیارات و غیره ایجاد کنند. با این حال، با هوش مصنوعی تخصصی، نمی‌توانیم ماشین‌هایی بسازیم که قادر به چنین اکتشافاتی باشند. و با هوش مصنوعی عمومی، می‌توانیم علم، فناوری و پزشکی را متحول کنیم. به نظر من، ادامه کار برای ایجاد هوش مصنوعی عمومی بسیار مهم است.
به نظر می رسد منظور شما از "عمومی" هوش مصنوعی قوی است؟
منظور من از "عمومی" این است که هوش مصنوعی قادر خواهد بود در مورد مشکلات جدید فکر کند و آن را حل کند. برخلاف مثلا برو، جایی که مشکل در 2000 سال گذشته تغییر نکرده است.
هوش مصنوعی عمومی باید بتواند هم در سیاست و هم در پزشکی تصمیم بگیرد. این مشابه توانایی انسان است. هر انسان عاقلی می تواند کارهای زیادی انجام دهد. شما دانش آموزان بی تجربه را می گیرید و در عرض چند روز آنها را مجبور می کنید تقریباً روی هر چیزی کار کنند، از یک مشکل قانونی گرفته تا یک مشکل پزشکی. این به این دلیل است که آنها درک کلی از جهان دارند و می توانند بخوانند و بنابراین می توانند در طیف وسیعی از فعالیت ها مشارکت داشته باشند.
رابطه بین چنین هوشی و هوش قوی این است که یک هوش غیر قوی احتمالاً قادر به حل مسائل کلی نخواهد بود. برای ایجاد چیزی به اندازه کافی قوی برای مقابله با جهانی همیشه در حال تغییر، ممکن است لازم باشد حداقل به هوش عمومی نزدیک شوید.
اما اکنون با این موضوع بسیار فاصله داریم. AlphaGo می تواند به خوبی روی تخته 19x19 بازی کند، اما برای بازی روی تخته مستطیلی باید دوباره آموزش داده شود. یا سیستم یادگیری عمیق متوسط را در نظر بگیرید: اگر فیل به خوبی روشن باشد و بافت پوستش قابل مشاهده باشد، می تواند تشخیص دهد. و اگر فقط شبح یک فیل قابل مشاهده باشد، سیستم احتمالاً قادر به تشخیص آن نخواهد بود.
در کتاب خود اشاره کرده اید که یادگیری عمیق نمی تواند به قابلیت های هوش مصنوعی عمومی دست یابد زیرا قادر به درک عمیق نیست.
در علوم شناختی در مورد شکل گیری مدل های شناختی مختلف صحبت می کنند. من در یک اتاق هتل نشسته‌ام و می‌دانم که یک کمد، یک تخت، یک تلویزیون وجود دارد که به روشی غیرعادی آویزان شده است. من همه این اشیاء را می شناسم، فقط آنها را شناسایی نمی کنم. من همچنین درک می کنم که چگونه آنها با یکدیگر در ارتباط هستند. من در مورد عملکرد دنیای اطرافم ایده هایی دارم. آنها کامل نیستند. آنها ممکن است اشتباه کنند، اما بسیار خوب هستند. و بر اساس آنها نتیجه گیری های زیادی می کنم که به دستورالعمل اعمال روزانه من تبدیل می شود.
حالت افراطی دیگر چیزی شبیه به سیستم بازی آتاری بود که توسط DeepMind ساخته شده بود، که در آن به یاد می آورد وقتی پیکسل ها را در مکان های خاصی روی صفحه می دید چه کاری باید انجام دهد. اگر داده های کافی به دست آورید، ممکن است فکر کنید که درک درستی دارید، اما در واقعیت بسیار سطحی است. دلیل این امر این است که اگر اجسام را با سه پیکسل حرکت دهید، هوش مصنوعی بسیار بدتر بازی می کند. تغییرات او را گیج می کند. این برعکس درک عمیق است.
برای حل این مشکل، بازگشت به هوش مصنوعی کلاسیک را پیشنهاد می کنید. سعی کنیم از چه مزایایی استفاده کنیم؟
چندین مزیت وجود دارد.
اول، هوش مصنوعی کلاسیک در واقع چارچوبی برای ایجاد مدل‌های شناختی از جهان است که بر اساس آن می‌توان نتیجه‌گیری کرد.
ثانیاً، هوش مصنوعی کلاسیک کاملاً با قوانین سازگار است. در حال حاضر روند عجیبی در یادگیری عمیق وجود دارد که در آن کارشناسان سعی می کنند از قوانین اجتناب کنند. آنها می خواهند همه چیز را در شبکه های عصبی انجام دهند و کاری که شبیه برنامه نویسی کلاسیک است انجام ندهند. اما مشکلاتی وجود دارد که با آرامش این راه حل شد و هیچکس به آن توجهی نکرد. به عنوان مثال، ساخت مسیر در نقشه های گوگل.
در واقع، ما به هر دو رویکرد نیاز داریم. یادگیری ماشینی در یادگیری از داده ها خوب است، اما در نمایش انتزاعی که یک برنامه کامپیوتری است بسیار ضعیف است. هوش مصنوعی کلاسیک با انتزاع‌ها به خوبی کار می‌کند، اما باید کاملاً با دست برنامه‌ریزی شود، و دانش زیادی در دنیا برای برنامه‌ریزی همه آنها وجود دارد. واضح است که ما باید هر دو رویکرد را با هم ترکیب کنیم.
این به فصلی مربوط می شود که در آن درباره آنچه می توانیم از ذهن انسان بیاموزیم صحبت می کنید. و اول از همه، در مورد مفهوم مبتنی بر ایده ذکر شده در بالا که آگاهی ما شامل بسیاری از سیستم های مختلف است که به روش های مختلف کار می کنند.
من فکر می کنم راه دیگری برای توضیح این موضوع این است که هر سیستم شناختی ما واقعاً یک مشکل متفاوت را حل می کند. بخش‌های مشابه هوش مصنوعی باید برای حل مشکلات مختلف که ویژگی‌های متفاوتی دارند، طراحی شوند.
اکنون ما سعی می کنیم از برخی فناوری های همه کاره برای حل مشکلاتی استفاده کنیم که به طور اساسی با یکدیگر متفاوت هستند. فهمیدن جمله اصلاً با شناخت یک شی نیست. اما مردم سعی می کنند در هر دو مورد از یادگیری عمیق استفاده کنند. از نقطه نظر شناختی، اینها وظایف کیفی متفاوتی هستند. من به سادگی از اینکه چقدر برای هوش مصنوعی کلاسیک در جامعه یادگیری عمیق قدردانی می شود شگفت زده شدم. چرا منتظر ظاهر شدن یک گلوله نقره باشیم؟ دست نیافتنی است و جستجوهای بی‌ثمر به ما اجازه نمی‌دهند که پیچیدگی کامل کار ایجاد هوش مصنوعی را درک کنیم.
شما همچنین اشاره می کنید که سیستم های هوش مصنوعی برای درک روابط علت و معلولی مورد نیاز هستند. آیا فکر می کنید یادگیری عمیق، هوش مصنوعی کلاسیک یا چیز کاملاً جدیدی به ما در این امر کمک می کند؟
این حوزه دیگری است که یادگیری عمیق در آن مناسب نیست. علل رویدادهای خاص را توضیح نمی دهد، اما احتمال یک رویداد را در شرایط معین محاسبه می کند.
ما در مورد چه چیزی صحبت می کنیم؟ شما سناریوهای خاصی را تماشا می کنید و می فهمید که چرا این اتفاق می افتد و در صورت تغییر برخی شرایط چه اتفاقی می افتد. می توانم به پایه ای که تلویزیون روی آن می نشیند نگاه کنم و تصور کنم که اگر یکی از پایه های آن را قطع کنم، پایه واژگون می شود و تلویزیون می افتد. این یک رابطه علت و معلولی است.
هوش مصنوعی کلاسیک ابزارهایی برای این کار در اختیار ما قرار می دهد. او می تواند تصور کند که مثلاً حمایت چیست و سقوط چیست. اما زیاد تعریف نمی کنم. مشکل این است که هوش مصنوعی کلاسیک تا حد زیادی به اطلاعات کامل در مورد آنچه در حال رخ دادن است بستگی دارد، و من فقط با نگاه کردن به جایگاه به نتیجه رسیدم. می توانم به نوعی تعمیم دهم، قسمت هایی از جایگاه را تصور کنم که برای من قابل مشاهده نیست. ما هنوز ابزاری برای اجرای این ویژگی نداریم.
شما هم می گویید مردم علم فطری دارند. چگونه می توان این را در هوش مصنوعی پیاده سازی کرد؟
در لحظه تولد، مغز ما یک سیستم بسیار پیچیده است. ثابت نیست؛ طبیعت اولین پیش نویس خشن را ایجاد کرد. و سپس یادگیری به ما کمک می کند تا آن پیش نویس را در طول زندگی خود تجدید نظر کنیم.
پیش نویس ناهموار مغز از قبل دارای قابلیت های خاصی است. یک بز کوهی تازه متولد شده می تواند در عرض چند ساعت بدون خطا از دامنه کوه پایین بیاید. واضح است که او قبلاً درک درستی از فضای سه بعدی، بدن خود و رابطه بین آنها دارد. یک سیستم بسیار پیچیده
به همین دلیل است که من معتقدم ما به هیبرید نیاز داریم. تصور اینکه چگونه می‌توان رباتی را خلق کرد که در دنیایی بدون دانش مشابه از کجا شروع کند، به‌خوبی کار می‌کند، نه اینکه با یک صفحه خالی شروع کند و از تجربیات طولانی و گسترده درس بگیرد.
در مورد انسان ها، دانش ذاتی ما از ژنوم ما ناشی می شود که طی مدت طولانی تکامل یافته است. اما با سیستم‌های هوش مصنوعی، باید مسیر دیگری را طی کنیم. بخشی از این ممکن است قوانین ساخت الگوریتم های ما باشد. بخشی از این ممکن است قوانینی برای ایجاد ساختارهای داده ای باشد که این الگوریتم ها دستکاری می کنند. و بخشی از این ممکن است دانشی باشد که ما مستقیماً روی ماشین‌ها سرمایه‌گذاری خواهیم کرد.
جالب است که در کتاب ایده اعتماد و ایجاد سیستم های اعتماد را مطرح می کنید. چرا این معیار خاص را انتخاب کردید؟
من معتقدم که امروز همه اینها یک بازی با توپ است. به نظر من ما در یک لحظه عجیب از تاریخ زندگی می کنیم و به نرم افزارهای زیادی اعتماد می کنیم که قابل اعتماد نیستند. من فکر می کنم نگرانی هایی که امروز داریم برای همیشه دوام نخواهد داشت. صد سال دیگر، هوش مصنوعی اعتماد ما را توجیه خواهد کرد و شاید زودتر.
اما امروزه هوش مصنوعی خطرناک است. نه به این معنا که ایلان ماسک از آن می ترسد، بلکه به این معنا که سیستم های مصاحبه شغلی، صرف نظر از اینکه برنامه نویسان چه می کنند، علیه زنان تبعیض قائل می شوند، زیرا ابزارهای آنها بسیار ساده است.
ای کاش هوش مصنوعی بهتری داشتیم. من نمی‌خواهم «زمستان هوش مصنوعی» را ببینم که در آن مردم متوجه شوند که هوش مصنوعی کار نمی‌کند و فقط خطرناک است و نمی‌خواهند آن را برطرف کنند.
از برخی جهات، کتاب شما بسیار خوش بینانه به نظر می رسد. شما فرض می کنید که امکان ساخت هوش مصنوعی قابل اعتماد وجود دارد. فقط باید در جهت دیگری نگاه کنیم.
درست است، کتاب در کوتاه مدت بسیار بدبینانه و در دراز مدت بسیار خوش بینانه است. ما معتقدیم که تمام مشکلاتی که توضیح دادیم را می توان با نگاهی گسترده تر به پاسخ های صحیح حل کرد. و ما فکر می کنیم که اگر این اتفاق بیفتد، جهان جای بهتری خواهد شد.
منبع: www.habr.com