من فکر می‌کنم مشکل این نیست که ماشین‌ها در محل کارشان، از جمله در حوزه فکری، جایگزین انسان‌ها می‌شوند، و نه اینکه به نظر می‌رسد رایانه‌ها علیه افرادی که دارای تحصیلات عالی و حساب‌های توییتر هستند، اسلحه گرفته‌اند. پیاده سازی هوش مصنوعی به سرعت اتفاق نمی افتد، بلکه برعکس، بسیار کند است. چرا؟ زیرا این یک چرخه طبیعی توسعه انسانی است و ما به سادگی متوجه نمی شویم که تخریبی که می بینیم به معنای ورود فناوری جدیدی است که قبل از ایجاد مشاغل جدید، مشاغل قدیمی را از بین می برد.
فن آوری ها صنایع منسوخ شده را نابود می کند و صنایع جدید ایجاد می کند، این روند ایجاد است، این چرخه توسعه است. اگر بخواهید با وارد کردن فناوری‌های قدیمی در فرآیند یا ایجاد مزایایی برای فناوری‌های منسوخ، رنج را طولانی‌تر کنید، به سادگی روند را کاهش داده و دردناک‌تر می‌کنید. به هر حال این اتفاق خواهد افتاد، اما مشکل اینجاست که ما با ایجاد قوانینی که عمدا سرعت آن را کند می‌کند، روند را تنظیم می‌کنیم. من فکر می‌کنم این مشکل بزرگ‌تر از مشکلاتی است که ما به وضوح از آنها آگاه هستیم. این بیشتر یک مشکل روانی است که در آن مردم این سوال را می پرسند: "چگونه می توانید در یک ماشین خودران احساس امنیت کنید؟"
من به تاریخ نگاه کردم و فهمیدم که صد سال پیش یکی از قدرتمندترین اتحادیه های نیویورک، اتحادیه کارگران آسانسور بود که 17 هزار کارگر را متحد کرد. به هر حال، در آن زمان قبلاً یک فناوری وجود داشت که می توانستید فقط یک دکمه را فشار دهید و کارتان تمام شد، اما مردم به آن اعتماد نداشتند! خیلی وحشتناک است که مجبور شوید خودتان دکمه را فشار دهید تا با آسانسور تماس بگیرید! آیا می دانید چرا این اتحادیه کارگری «مرده» و مردم خودشان شروع به استفاده از دکمه ها کردند؟ چون یک روز کارگران آسانسور تصمیم گرفتند اعتصاب کنند. آنها دست به اعتصاب زدند و سپس افرادی که باید به بالای ساختمان امپایر استیت صعود می کردند، خطر فشار دادن دکمه ها را با دست خود داشتند.
به یاد داشته باشید که 20-30 سال پیش در مورد بچه ها یا نوه ها وقتی پشت فرمان ماشین نشستند چه گفتند: "این وحشتناک است، فقط به آمار نگاه کنید، زیرا ماشین ها یکی از عوامل اصلی مرگ و میر انسان ها هستند، چگونه می توانند خطر کنند. زندگی آنها؟"
پس همه اینها روانشناسی محض است. ما توجه چندانی به این که چند نفر در تصادفات رانندگی جان خود را از دست می دهند، نداریم، اما زمانی که یک نفر توسط یک خودروی خودران کشته شود، این رویداد نامتناسب می شود. هر گونه نقص، هر اشتباهی در فناوری های هوش مصنوعی بلافاصله در صفحه اول روزنامه ها پوشش داده می شود. اما به آمار نگاه کنید، به تعداد حوادث نگاه کنید، خواهید دید که درصد ناچیزی از تعداد کل تصادفات چقدر است. بنابراین، جامعه بشری تنها در صورتی پیروز خواهد شد که بتواند بدون فلج شدن توسط چنین ترس هایی به جلو حرکت کند.
وقتی درباره اخبار جعلی یا امنیت سایبری صحبت می‌کنیم، موضوع دیگری مطرح می‌شود، این موضوعات بسیار سیاسی هستند و من تماس‌های زیادی دریافت می‌کنم که می‌پرسند چگونه با افرادی که از هوش مصنوعی متنفر هستند برخورد کنم. به عنوان مثال، من یک وبلاگ معمولی می نویسم و پست جدیدم که تا یکی دو روز دیگر منتشر می شود، در مورد نفرت صحبت می کند و این واقعیت است که نجات از نفرت در دانش، در یادگیری است. فقط باید درک کنیم که این مشکل خیلی قبل از اختراع همه این چیزها وجود داشته است، فقط اهمیت آن در حال حاضر به لطف اینترنت که به میلیون ها و میلیاردها نفر می رسد افزایش یافته است.
من فکر می‌کنم در واقع چیز خوبی است وقتی کسی سعی می‌کند با تلاش برای غیرقانونی کردن هوش مصنوعی جلوی پیشرفت را بگیرد، و می‌دانید که این کار نمی‌تواند کارساز باشد، زیرا ما پوتین و افراد بد دیگری را داریم، هر کجا که هستند، که علیه ما از فناوری‌های خودمان استفاده می‌کنند. دنیای آزاد بنابراین من فکر می کنم ما باید آن را به عنوان یک امر داده شده بپذیریم.
ماهیت مشکل فقط در درون ما نهفته است و پاسخ به سوالات در درون ما نهفته است، در قدرت و اعتماد خودمان. من استدلال می کنم که ماشین های هوشمند نمی توانند ما را "منسوخ" کنند. با این حال، باید به خاطر داشت که محدودیت های خاصی در رابطه با همکاری انسان و رایانه وجود دارد و تا حد زیادی اینها فقط شایعاتی هستند که قبلا وجود داشته است. مثل همیشه، اینها فقط فرصت های جدیدی هستند که دنیای قدیم را ویران می کنند و دنیای جدیدی را ایجاد می کنند، و هر چه جلوتر برویم، وضعیت بهتری خواهیم داشت.
امروزه بیشتر شبیه حرکت به دنیای علمی تخیلی است. تناقض این است که اگر به 50-60 سال گذشته نگاه کنیم، خواهیم دید که در آن روزها داستان علمی تخیلی کاملاً مثبت بود، یک مدینه فاضله کامل بود. با این حال، پس از آن یک انتقال تدریجی از اتوپیا به دیستوپیا صورت گرفت، به گونه ای که دیگر نمی خواهیم چیزی در مورد آینده بشر بشنویم.
این یک شبه اتفاق نیفتاد. زمانی بود که مردم به این نتیجه رسیدند که اکتشاف فضایی بسیار خطرناک است. این در واقع یک خطر بزرگ است، اما تصور کنید که در سال 1969، زمانی که آمریکایی ها بر روی ماه فرود آمدند، کل قدرت محاسباتی ناسا کمتر از قدرت هر دستگاه محاسباتی مدرنی بود که در جیب شما جا می شود. این دستگاه هزار برابر قدرتمندتر از ابررایانه ای است که 40 سال پیش وجود داشت. فقط قدرت محاسباتی را در جیب خود تصور کنید! با این حال، مطمئن نیستم که آیفون 7 اپل همان قدرت محاسباتی آپولو 7 را داشته باشد، یعنی بتواند همان اثر را ایجاد کند.
با این حال، ماشین‌ها پیشرفت‌های بزرگی را در زمینه اکتشافات فضا یا اقیانوس برای ما به ارمغان آورده‌اند، و ما باید درک کنیم که رایانه‌ها توانایی پذیرش ریسک‌های بزرگ را برای ما فراهم می‌کنند.
من می خواهم صحبت خود را با یک نکته مثبت به پایان برسانم. آیا این اسلاید تصاویر مثبت را نشان نمی دهد؟ عکس گوشه سمت راست پایین فتوشاپ نیست، من در واقع در سال 2003 با ترمیناتور آشنا شدم.
او همچنین از کودکی عاشق شطرنج بود، اما به طور خاص آن را مطالعه نکرد، بنابراین خیلی سریع شکست خورد. بنابراین من بسیار تعجب کردم که 6 ماه بعد او برای فرمانداری کالیفرنیا نامزد شد و برنده شد!
چرا من این عکس ها را مثبت می نامم؟ زیرا اگرچه در تمام قسمت‌ها به جز قسمت اول، آرنولد قدیمی همیشه در کنار برندگان می‌ایستد و از مبارزه با ماشین‌های جدید خسته نمی‌شود، اما در اپیزود اول است که ترکیبی را می‌بینیم که در مورد آن صحبت می‌کردم - این زمانی است که یک شخص به اضافه یک ماشین قدیمی به اضافه یک رابط عالی جدیدترین ماشین را شکست می دهد.
ممکن است بگویید: "بله، ماشین ها قوی تر از مردم هستند، زیرا می توانند کاملاً همه چیز را محاسبه کنند!" با این حال، نکته این نیست که آنها می توانند همه چیز را محاسبه کنند. به عنوان مثال، در شطرنج می توان از نظر فنی در مورد بی نهایت ریاضی تعداد حرکات ممکن، برابر با 1045 صحبت کرد که محاسبه آن برای هیچ کامپیوتر مدرنی دشوار نیست. با این حال، آنچه در بازی مهم است، محاسبات نیست، بلکه این واقعیت است که رایانه از شخص جلوتر است، زیرا همیشه با قوانین هدایت می شود. و شما تاثیر این قوانین را می دانید و می دانید که چرا کامپیوتر بهترین حرکت را از بین طیف گسترده ای از حرکات ممکن انتخاب می کند.
اما اگر به زندگی واقعی روی بیاوریم، مطمئن نیستم که کامپیوتر همیشه بتواند مفید باشد. بیایید به معمول ترین وضعیت نگاه کنیم - شما کامپیوتری دارید که بر بودجه شما نظارت می کند، در یک فروشگاه هستید و می خواهید یک هدیه گران قیمت بخرید. رایانه خرید را ارزیابی می‌کند و می‌گوید: «نه، شما نمی‌توانید این کالا را بپردازید، زیرا بودجه شما بیش از حد است.» دستگاه همه چیز را محاسبه کرده است، اما یک تفاوت ظریف وجود دارد - فرزند شما در کنار شما ایستاده است، و این هدیه برای تولد او در نظر گرفته شده است. آیا می بینید که این چگونه شرایط مشکل را تغییر می دهد؟ این همه چیز را تغییر می دهد زیرا کودک منتظر این هدیه است.
من می توانم شروع به اضافه کردن این چیزهای کوچک کنم که همه چیز را تغییر می دهد، اما فکر نمی کنم بتوان آنها را در بیان مسئله گنجاند و راه حل مناسبی دریافت کرد. ما قوانین زیادی داریم، اما هنوز باید سوال بپرسیم زیرا همه چیز تغییر می کند. این همان چیزی است که می توان آن را یک موقعیت معمولی نامید، اما اگر به این فیلم ها نگاه کنید، می توانید بگویید که وضعیت نمایش داده شده در اینجا دراماتیک تر و خارق العاده تر است. این اسلاید عکسی از قسمت پنجم جنگ ستارگان: امپراتوری واکنش نشان می دهد.
هان سولو کشتی را مستقیماً در یک میدان سیارکی هدایت می کند و C-3PO وحشت می کند و گزارش می دهد که شانس زنده ماندن در میدان 1:3122 است. هان سولو به او می گوید: "هرگز به من نگو شانس ما چقدر است!" در اینجا این سوال پیش می آید که در این شرایط حق با کیست؟
فناوری ارائه شده توسط C-3PO کاملاً درست است، زیرا شانس بقا به صفر می رسد. این امکان وجود دارد که از منظر یک روبات، اسیر شدن توسط نیروهای امپراتوری انتخاب بهتری باشد که یک انسان حتی به فکر مرگ در میدان سیارک نیست. اما اگر کامپیوتر تصمیم بگیرد که تسلیم شدن در برابر امپراتوری بهترین گزینه است، آنگاه می توانیم فرض کنیم که فرد اصلاً گزینه ای ندارد. نکته بسیار مهم این است که در هر دو حالت عادی و فوق العاده، فرصت تصمیم گیری نهایی را داریم و اتخاذ چنین تصمیمی همچنان نیازمند رهبری انسانی است.
گاهی اوقات این بدان معنی است که شما باید برخلاف توصیه های رایانه عمل کنید. هدف رهبری بشر دانستن شانس نیست، بلکه پرسیدن سؤالاتی است که واقعاً مهم هستند، نه فقط امروز یا فردا، بلکه در آینده بسیار دور. این فرآیند را می توان «هدایت انسانی» یا «مداخله انسانی» نامید که بدون کمک ماشین های هوشمند تأثیر می گذارد. این چیزی است که مسیر ما در این قرن باید باشد.
با توجه به تجربه ای که از ماشین های هوشمند دارم، گاهی اوقات مردم از خوش بینی من نسبت به ماشین های هوشمند شگفت زده می شوند، اما من واقعاً خوش بین هستم. و من مطمئن هستم که همه شما به یک اندازه به آینده هوش مصنوعی خوش بین هستید. اما باید به خاطر داشته باشیم که فناوری‌های ما آگنوستیک هستند. نه خوب است و نه بد، بلکه می تواند هم برای خیر و هم برای بد استفاده شود. ماشین ها باید هوشمندتر و توانمندتر شوند. و ما انسان‌ها باید کاری را انجام دهیم که فقط انسان‌ها می‌توانند انجام دهند - رویاپردازی، رویاپردازی کامل، و سپس ما قادر خواهیم بود تمام مزایایی را که این ابزارهای شگفت‌انگیز جدید به ارمغان می‌آورند، استخراج کنیم.
طبق برنامه ریزی، هنوز 10 دقیقه فرصت داریم تا به سوالات پاسخ دهیم.
سوال: آیا فکر می کنید می توان یک سیستم یادگیری ماشینی ایجاد کرد که بتواند تعیین کند کدام حرکات با سبک بازی انسان سازگارتر است؟
کاسپاروف: اول از همه، ما انتظار نداریم که کامپیوتر اولین حرکت و 17505 حرکت باقیمانده را به ما بگوید. فکر می‌کنم برای ارائه بهترین توصیه‌ها برای حرکت‌های منحصربه‌فرد باید به دستگاه تکیه کنیم. به هر حال، بازیکنان درجه یک از رایانه ها به عنوان راهنما استفاده می کنند و به آنها کمک می کند تا مناسب ترین موقعیت را در بازی بگیرند. یک بار دیگر تکرار می کنم - در 9 مورد از 10 مورد، ارزیابی رایانه از وضعیت بسیار برتر از ارزیابی است که یک فرد می تواند انجام دهد.
سوال: آیا قبول دارید که هوش واقعی مستلزم آزادی انتخاب، آزادی تصمیم گیری است که فقط یک شخص می تواند بگیرد؟ به هر حال، نرم افزار Deep Blue و سایر برنامه های کامپیوتری توسط افراد نوشته می شود و زمانی که شما به Deep Blue باختید، نه به کامپیوتر، بلکه به برنامه نویسانی که برنامه را نوشته اند، بازنده می شوید. سوال من این است: آیا تا زمانی که رایانه ها آزادی انتخاب دارند، خطری از هر نوع هوش ماشینی وجود دارد؟
کاسپاروف: در اینجا باید از علم به فلسفه حرکت کنم. همه چیز در مورد آبی عمیق روشن است - این نتیجه حجم عظیمی از کار انسانی است. در بیشتر موارد، حتی در مورد AlphaGo دمیس حسابیس، همه اینها محصول هوش انسانی هستند. نمی‌دانم ماشین‌ها می‌توانند آزادی انتخاب داشته باشند یا خیر، اما معتقدم هر کاری که ما انجام دهیم، اگر بدانیم چگونه آن را انجام دهیم، ماشین‌ها آن را بهتر انجام خواهند داد. با این حال، وقتی بیشتر کارها را انجام می‌دهیم، نمی‌دانیم چگونه آنها را به بهترین شکل انجام دهیم، بنابراین اغلب نمی‌توانیم بفهمیم که چه چیزی موفق خواهیم شد. به بیان ساده، ما هدف داریم، اما نمی دانیم آن هدف چیست و نقش ماشین این است که به ما در تحقق آن هدف کمک کند. بنابراین، اگر ما در مورد انتخاب آزادانه رایانه صحبت می کنیم، باید ما را به این هدف پیوند دهد. من فکر می کنم این آینده ای بسیار دور برای رایانه ها است.
سوال: نظر شما در مورد ویژگی های انسانی مانند شجاعت و اخلاق و تصمیماتی که هوش مصنوعی بر اساس آنها می تواند بگیرد چیست؟ به عنوان مثال، یک خودروی خودران چه باید بکند - زیر گرفتن کودک یا اجتناب از برخورد با او با برخورد با سنگ و کشته شدن مسافر آن؟
کاسپاروف: اینها چیزی است که مردم آن را "احساسات" می نامند، آنها قابل اندازه گیری نیستند زیرا آنها مجموعه ای کامل از ویژگی های مختلف انسانی هستند. اگر ما در مورد شجاعت صحبت می کنیم، این ویژگی همیشه با شانس انتخاب گزینه بهینه مخالف است. شجاعت نیز مانند سایر عواطف انسانی بنا به تعریف بر خلاف محاسبه دقیق است.
سوال: آقای کاسپاروف، سوال من به کامپیوتر مربوط نمی شود: در فلاسک شما چیست و آیا می توانم آن را امتحان کنم؟
کاسپاروف: منظورت چیه؟
مجری: میپرسه تو جیبت چیه!
کاسپاروف: در جیب من؟ "Stolichnaya"! این یک تبلیغ نیست، اگر متوجه شده اید آن را دور انداختم.
سوال: به نظر شما قهرمان بعدی شطرنج جهان چه کسی خواهد بود و آیا وی یی شطرنج باز جوان چینی شانسی برای خلع کارلسن به عنوان پادشاه شطرنج دارد؟
کاسپاروف: کارلسن بازیکن شماره 1 است، او قهرمان جهان نیست، بلکه به سادگی بهترین شطرنج باز جهان بر اساس رتبه بندی است. او امسال 27 ساله می شود، بنابراین او هنوز جوان است، اما با استانداردهای امروزی خیلی جوان نیست. فکر می کنم وی یی اکنون 18 یا 19 ساله است. مگنوس از بازیکنان جوانی مانند وسلی سو و فابیانو کروآنا آمریکایی جلوتر است و وی یی می تواند حریف او باشد. با این حال، برای تبدیل شدن به یک قهرمان جهان، به استعداد نیاز دارید، لازم نیست جوان و پرانرژی باشید، فقط کمی شانس داشته باشید. بنابراین، برای پاسخ به این سوال، می توانم بگویم - بله، او شانس شکست مگنوس کارلسن را دارد.
سوال: وقتی در مورد الگوریتم های قطعی و یادگیری ماشین صحبت کردید، به امکان استفاده از ماشین ها به عنوان ابزاری برای تکمیل هوش ما اشاره کردید. در مورد امکان به حداکثر رساندن منابع قبل از ایجاد هوش مصنوعی قدرتمند یا حتی قرار دادن مغز انسان در رایانه چیست؟
کاسپاروف: وقتی مطمئن نیستم قادر به پاسخ صحیح به یک سوال نیستم از اعتراف به نادانی خود خجالت نمی کشم. من تمام تلاشم را می کنم تا بفهمم مغز انسان چیست، اگر آن را جدا از بدن انسان در نظر بگیریم، چه عملکردهایی را انجام می دهد. زیرا تصور اینکه مغز چگونه جدا از بدن رفتار خواهد کرد دشوار است. شاید بتوان چنین آزمایشی را در آینده انجام داد، اما من مطمئن هستم که ترکیب مغز انسان، احساسات و عواطف انسان با یک کامپیوتر، "ذهنی" را تشکیل می دهد که بسیار مؤثرتر از مغز استخراج شده و منجمد شده است. به عنوان وسیله ای پر از نورون ها.
سوال: آیا یک رویکرد اساسی جهانی برای مشکل جایگزینی مشاغل انسانی با رایانه وجود دارد؟
کاسپاروف: فکر می‌کنم این سؤال بسیار مهمی است، زیرا واضح است که به نقطه‌ای نزدیک می‌شویم که ممکن است بسیاری از مردم بیکار شوند. این پارادوکس پیشرفت فناوری است: از یک سو، ما جدیدترین فناوری‌ها را داریم که مزیت‌های رقابتی عظیمی را برای نسل جوانی که با این دستگاه‌ها و فناوری‌ها سروکار دارند، فراهم می‌کند. از طرفی در پزشکی و تغذیه سالم پیشرفت هایی داریم که عمر انسان را طولانی می کند و سال ها توانایی کار را به انسان می دهد. از این نظر نسل دهه 50، 60 یا حتی 40 نمی تواند با جوانان امروز رقابت کند. ما باید راه حلی برای این وضعیت متناقض پیدا کنیم که شکاف بین نسل ها بسیار زیاد است. تجربه تاریخی می گوید که چنین شکافی همیشه منجر به یک انفجار بزرگ می شود. منظورم شکاف بین زیرساخت های اجتماعی موجود جامعه و پیشرفت تکنولوژی است.
این موضوعی است که سیاستمداران ترجیح می دهند آن را به انتخابات بعدی موکول کنند. هیچ کس نمی خواهد در مورد آن صحبت کند زیرا این یک موضوع حساس است. چاپ پول بسیار آسان است و امیدواریم که روزی در آینده کسی هزینه آن را بپردازد. بنابراین پارادوکس‌های زیادی در این زمینه وجود دارد، مثلاً انباشت بدهی‌ها برای ارائه ضمانت‌های اجتماعی به نسل قدیمی‌تر به این امید که بار پرداخت این بدهی‌ها بر دوش نسل جوان بیفتد. سؤالات زیادی وجود دارد که من پاسخی برای آنها ندارم و سؤالات زیادی وجود دارد که می توانم بپرسم که امیدوارم هوش مصنوعی بتواند به من کمک کند.
این بسیار بد است که دهه هاست که سیاستمداران تلاش می کنند مشکلاتی را که ما در مورد آنها صحبت کردیم نادیده بگیرند. آنها همیشه آماده اظهار نظر هستند، همیشه برنامه هایی دارند، اما نمی خواهند نتیجه معکوس سکوت در مورد مشکل تضاد بین فناوری و جامعه را درک کنند. با تشکر از توجه شما!
از اینکه با ما ماندید متشکرم آیا مقالات ما را دوست دارید؟ آیا می خواهید مطالب جالب تری ببینید؟ با ثبت سفارش یا معرفی به دوستان از ما حمایت کنید 30٪ تخفیف برای کاربران Habr در آنالوگ منحصر به فرد سرورهای سطح ورودی که توسط ما برای شما اختراع شده است: (در دسترس با RAID1 و RAID10، حداکثر 24 هسته و حداکثر 40 گیگابایت DDR4).
Dell R730xd 2 برابر ارزان تر است؟ فقط اینجا در هلند! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - از 99 دلار! در مورد بخوانید
منبع: www.habr.com