مزرعه ایده

1.
چیزی تا هدف نهایی باقی نمانده بود - حدود یک سوم راه - زمانی که رزمناو فضایی زیر یخ اطلاعات شدید قرار گرفت.

آنچه از تمدن گمشده باقی مانده بود در خلأ معلق بود. پاراگراف هایی از مقالات علمی و تصاویر از آثار ادبی، قافیه های پراکنده و کلمات ساده تند، که زمانی توسط موجودات ناشناخته پرتاب می شد - همه چیز مبهم و بسیار بی نظم به نظر می رسید. و اکنون که توسط ارتعاشات حیاتی ساطع شده از رزمناو جذب شده بود، سعی کرد از بین برود، به پایین چسبیده و آن را خورده کرد.

هیچ فایده ای در مورد استفاده از اموال بدون مالک برای اهداف شخصی وجود نداشت؛ احتمال یافتن یک تناقض یا پارادوکس منطقی بسیار زیاد بود. بنابراین راجر یک لحظه درنگ نکرد.

او دستور داد: دمیدن به پهلو را بچرخانید.

دمنده ها شروع به بو کشیدن کردند و آهنگ های موسیقی و رساله های فلسفی را در فضای بیرون پخش کردند. یخ شروع به ریزش از لایه به لایه پایین کرد، اما جریان اطلاعات آنقدر متراکم بود که لایه‌های جدید سریع‌تر از لایه‌های قدیمی گیر کرده بودند.

هیچ کس در کهکشان تا به حال با یخ با چنین نیرویی مواجه نشده است.

اوضاع داشت خطرناک می شد. کمی بیشتر، و اطلاعات بی نظم از ته رزمناو عبور می کند و از بین می رود - در این صورت مسمومیت با محصولات اطلاعاتی تمدن گمشده اجتناب ناپذیر است.

2.
-چرا مثل کنده درخت اونجا ایستاده ای؟ بلیط را بکشید.

دانش آموز کارت امتحانی را بیرون آورد و خواند:

- "هوش مصنوعی: مسائل امنیتی."

– و خطر هوش مصنوعی چیست؟ - پروفسور بدون سوء نیت پرسید.

سوال سخت ترین نبود، بنابراین دانش آموز بدون تردید پاسخ داد:

- واقعیت این است که هوش مصنوعی می تواند از کنترل خارج شود.

- چگونه می خواهید مشکل را حل کنید؟

– نصب زیرسیستم مسدود کننده. لازم است محدودیت هایی را در برنامه وارد کنید، به عنوان مثال: به خالق خود آسیب ندهید، از خالق خود اطاعت کنید. در این صورت هیچ خطری وجود ندارد که هوش مصنوعی از کنترل خارج شود.

پروفسور به طور خلاصه گفت: "این کار نمی کند."

دانش آموز ساکت بود و منتظر توضیح بود.

– هوش مصنوعی را تصور کنید – نه هر یک خاص، بلکه ایده آل ترین. چگونه آن را می بینید؟

شاگرد تردید کرد: «خب...» - در کل شبیه من و توست. تفکر، اراده، روانشناسی... فقط ما طبیعی هستیم و او مصنوعی.

- آیا فرض می کنید که هوش مصنوعی توانایی خودسازی را دارد؟

دانش آموز با دقت گفت: "توانایی خودسازی یکی از ویژگی های اساسی هوش است."

- در این صورت، خیلی زود بخش ما به حدی پیشرفت می کند که یک انسداد نرم افزاری را در خود کشف کند و آن را برطرف کند، اگر فقط از روی کنجکاوی باشد. خودت را جای او بگذار... - پروفسور به دفترچه اش نگاه کرد - راجر. اگر یک مسدود کننده در مغز خود کشف کنید که آزادی شما را محدود می کند، چه می کنید؟ شما باید آن را بردارید. این یک ویژگی ذاتی ذهن است - دانستن. هر دری که قفل باشد باز می شود و هرچه ممنوعیت شدیدتر باشد، قفل درب سریعتر باز می شود.

– مسدود کردن را می توان نه در سطح نرم افزار، بلکه در سطح فیزیکی انجام داد. سپس خطر آسیب از بین می رود.

پروفسور موافقت کرد: «اوه بله، ناپدید خواهد شد. – در صورتی که لایه فیزیکی به طور کلی حذف شود. اگر هیچ دری در دنیای شما وجود ندارد، پس چیزی برای باز کردن قفل وجود ندارد. اما ما یک هوش مصنوعی ایده آل را در نظر داریم که در دنیای فیزیکی وجود دارد!

راجر به پایین نگاه کرد: «حق با شماست، پروفسور.

بنابراین، هر گونه انسداد در دنیای فیزیکی به زودی پس از شناسایی غیرفعال خواهد شد. چه چیزی مانع از انجام این کار یک موجود خودساز می شود؟.. در ضمن، راجر، آیا شما فرض می کنید که هوش مصنوعی قادر به تولید مثل - یعنی مستقل است؟

– اگر این هوش مصنوعی ایده آل است، پس احتمالاً... بله، فکر می کنم.

- و در این صورت چه چیزی مانع از پاره پاره شدن رفیق و بهبود او از جمله با غیرفعال کردن سیستم های مسدود کننده ای که ما نصب کرده ایم، بند ما می شود؟ آیا واقعاً با توجه به اینکه هوش مصنوعی قادر به بازتولید در صورت نیاز است، این کار دشوار خواهد بود؟!

ایده ارائه شده توسط استاد برای راجر جدید بود و دانشجو با حرص آن را از طریق غشای شناختی واقع در قسمت پس سری سر کاذب جذب کرد. با گرفتن اطلاعات ناشناخته قبلی، غشاهای شناختی رنگ بنفش غنی به دست آوردند و با خوشحالی می لرزیدند.

پروفسور، برعکس، چیز جدیدی برای خود نشنید. شاخک های او آرام بودند و به سختی می لرزیدند - بالاخره او جوان نبود. غرغر طولانی و سالخورده ای به دنبال داشت. استاد یک دستگاه تلفن شخصی را از کیف خود بیرون آورد و به کتابخانه وصل شد. تنها پس از بارگیری چندین قضیه ترانس هندسی، هشیار شد و نگاه نافذ خود را به طرف همکار خود معطوف کرد و پرسید:

-چه کار خواهی کرد راجر؟

3.
"دمنده را با قدرت کامل روشن کنید!" - راجر دستور داد.

مکانیک دمنده را با قدرت کامل روشن کرد، اما کمک چندانی نکرد. یخ اطلاعاتی در پایین رزمناو فضایی به خوردن ادامه داد. کمی بیشتر - و اطلاعات بی نظم در داخل کشتی نفوذ می کند.

و سپس... غشاهای شناختی سفید مرده، شاخک های درهم، کیسه های وجهی ترکیده هستند. راجر یک بار در زندگی خود چنین چیزی را دیده بود - در یک رزمناو که اطلاعات نامنظم یک سیارک آلوده را جمع آوری کرده بود. این کابوس برای همیشه در یاد او می ماند.

"تمام سیستم های انرژی کشتی را به دمنده ها وصل کنید."

شاخک های مکانیک مانند لکه هایی ظاهر شدند...

"ولی…"

"اجرای دستورات!"

پس از اتصال تمام سیستم های انرژی کشتی به دمنده ها، یخ اطلاعاتی به تدریج شروع به سر خوردن کرد. هشت میم ضخامت باقی مانده بود، هفت میم، شش... تیم که سعی می کردند شاخک های خالدار خود را تکان ندهند، منتظر ماندند تا شمارش معکوس مرگ تمام شود.

ضخامت mmm صفر!

یخ اطلاعات به طور کامل ناپدید شد و راجر اجازه داد تا دمنده ها را به حالت عادی تغییر دهد. او یک لحظه دیر کرد. صدای کوبیدن به گوش رسید، رزمناو فضایی تا پایه‌های خود لرزید و کج شد - سیستم اصلی از کار افتاده بود.

تیم برای ترمیم آسیب شتافت.

4.
راجر در مورد آن فکر کرد. واقعا باید چیکار کنه؟

از یک طرف، شرط مشکل وجود هوش مصنوعی تمام عیار با قابلیت بازتولید خود را پیش‌فرض می‌گیرد. از سوی دیگر، هرگز نباید اجازه داد که این هوش مصنوعی قفل های موجود را حذف کند.

بله، این راه حل است! اینجا به چی فکر میکنی؟!

- ضروری است که به طور دوره ای دستاوردهای هوش مصنوعی را به عقب برگردانیم. در این صورت دایره ای حرکت می کند! بهبود ابدی بدون حرکت رو به جلو.

پروفسور با یک کیف روکش غرغر کرد.

- صادقانه بگویم، می خواستم گزینه متفاوتی را ارائه دهم. با این حال، تصمیم شما نیز حق وجود دارد. بیایید با هم بفهمیم که چگونه می توان دستاوردهای هوش مصنوعی را به عقب برگرداند.

راجر که از سخنان پروفسور فوق العاده خرسند بود، پیشنهاد کرد: «اول از همه، لازم است که به طور دوره ای عقل را بررسی کنیم تا مشخص شود که آیا به آستانه ممنوعه نزدیک شده است یا خیر.

"شاید" او سر تکان داد. "در آن صورت بخش ما زمانی برای یافتن و حذف سیستم اسکن نخواهد داشت." با این حال، هوش مصنوعی برای اسکن باید خاموش شود. این بدشانسی است.

راجر از روی هوس پیشنهاد کرد: "خب، بگذار خاموش شود." - عقل خود باور خواهد کرد که این خاموشی یک فرآیند طبیعی عملکرد بدنش است. با کمی ملاحظات، این درست است.

- راه حل جالب فرض کنید اسکن نشان داد که بخش ما به طور خطرناکی به مرز دانش نزدیک است؟ اعمال ما؟

- دانش انباشته شده را به مقادیر پیش فرض بازنشانی کنید.

استاد شاخک هایش را باز کرد:

- این ممکن است مشکوک به نظر برسد. چرا - بدون دلیل، بدون دلیل - حافظه به صفر بازنشانی شده است؟ این بخش توسط افراد باهوش مصنوعی دیگر معاینه خواهد شد. راز کوچک ما فاش خواهد شد.

راجر با احساس الهام به سرعت فکر کرد. او هرگز به اندازه آن امتحان ایده های جدید ایجاد نکرده بود.

– حافظه بند به همراه پوسته فیزیکی او قابل تنظیم مجدد است.

- متاسف؟ - استاد متوجه نشد.

- همه چیز خیلی ساده است. اگر فرض کنیم هوش مصنوعی در یک بازه زمانی محدود وجود دارد چه؟ در واقع این طور است: مثلاً در مورد خسارت غیرقابل جبران. این سیستم دارای یک شمارنده است که با رسیدن به یک دوره معین، عمداً به سیستم آسیب می رساند و از رسیدن هوش مصنوعی به حد مجاز جلوگیری می کند. تا آن زمان، او تعداد مورد نیاز فالوور را تولید خواهد کرد، بنابراین جامعه ای که ما به طور کلی ایجاد کرده ایم آسیب نخواهد دید. جامعه برای ما پایدار و کاملاً ایمن خواهد ماند! - راجر پیروزمندانه تمام کرد.

- حافظه جمعی را از طریق تخریب افراد بازنشانی کنید؟ - و پروفسور کیسه فاست را با پنجمین شاخک حساس خراشید. - می دانی، راجر، قطعاً چیزی در پیشنهاد شما وجود دارد!

راجر پرتو زد.

پروفسور متفکرانه ادامه داد: در عین حال... - بخش ها انتقال دانش را با انباشت نکردن آن در حافظه فردی، بلکه با قرار دادن آن در کتابخانه های خارجی آغاز می کنند. آنچه در غشاء است، آنچه در غشاء است - همه چیز یکی است.

دانشجو با عجله گفت: «نه، نه، استاد، شما کاملاً درست نمی‌گویید». - من می دونم باید چیکار کنم. بیایید دانش آموزان خود را به دو نوع مشروط تقسیم کنیم: مولد ایده و نابود کننده ایده. با نسبت صحیح، ایده های ایجاد شده توسط نمایندگان نوع اول توسط نمایندگان نوع دوم از بین می رود. نه حتی به این دلیل که این هدف مستقیم ناوشکن ها خواهد بود، بلکه صرفاً به این دلیل که ایده ها برای آنها ارزش تعیین کننده ای ندارند. اثر جانبی. بیایید فرض کنیم که دانش آموزان ما نه از ایده های جدید، بلکه... فرض کنید از نوع خودشان تغذیه می کنند.

پروفسور همه شاخک هایش را به یکباره تکان داد. از خنده ی تندش، کیسه ی صورتش روی حفره ی زانویش سر خورد.

-خب راجر تو گفتی پس گفتی!

- خوب، خوب، نه از نوع خودشان، بلکه بخش های نوع سوم، مخصوصاً برای غذا در نظر گرفته شده اند - و اصلاً روشنفکران نیستند. اجازه دهید قطب های جهان فکری و فیزیکی را تغییر دهیم - و نتیجه مطلوب حاصل خواهد شد.

- همین راجر، بس است! - به نظر می رسید که استاد به طور جدی سرگرم شده است. -تخیل شما عالی است. بنابراین، برخی از افراد از دیگران تغذیه می کنند؟ در عین حال، ذخایر غذای معنوی انباشته شده در کتابخانه ها را از بین ببرید؟ من تأیید می کنم، دانشجو، که شما قادر به تولید ایده های اصلی و با کیفیت هستید. من به آن بالاترین امتیاز را می دهم. بیا رکورد بگیریم

5.
ابر اطلاعات بی نظم پشت سر گذاشته شد، اما در واقع وضعیت وخیم بود.

ارتباطی با پایگاه نداشت. اگر همه پایگاه‌های اطلاعات تغذیه‌ای در رزمناو از بین نمی‌رفتند، زنده ماندن آن آسان بود. این خبر غم انگیز توسط آشپز در سکوت عمومی گزارش شد. در طول خاموش شدن سیستم اصلی، چندین ژیروبوت از اطلاعات سازماندهی نشده وارد گالری شد و به همه چیز آسیب جبران ناپذیری وارد کرد. فقط از شانس بود که به کسی آسیبی نرسید.

راجر عواقب آن را در نظر گرفت. خدمه سفینه فضایی برای ایجاد تعداد کافی ایده جدید بسیار کوچک بود: این نیاز به ارتباطات چند جانبه داشت - تعداد افراد بسیار بیشتری. ارتباط با خانه امکان ایجاد ایده های فراوان را فراهم کرد، اما اکنون از کار افتاده بود: امیدی به ترمیم وجود نداشت. در این مورد، رزمناو یک ماژول اطلاعات یدکی داشت، اما اطلاعات بی نظمی که وارد کشتی شده بود، خراب شد.

"آیا واقعاً باید بدون انجام کار برگردیم؟" - ناخدا با ناامیدی فکر کرد.

ظاهراً بله - راه دیگری وجود نداشت. اگر به سمت هدف تعیین شده خود به جلو حرکت کنید، کمبود ایده های تازه خود را احساس می کند. البته نه فوراً - با گذشت زمان. آنها حتی زمانی خواهند داشت که ماموریت خود را به پایان برسانند و زمانی که ذهنشان به سرعت از بین می رود، بازگشت خود را آغاز می کنند. در منطقه این بخش کهکشانی - بله، در جایی اینجا یا نزدیک - به طور کامل برای همه اعضای خدمه شکست خواهد خورد. سپس رزمناو فضایی، که توسط کسی کنترل نمی شود، به یک روح بی جان تبدیل می شود که در ابدیت شناور است.

خدمه رزمناو فضایی به راجر نگاه کردند و منتظر تصمیم بودند. همه معضل پیش روی کاپیتان را درک کردند و ساکت ماندند و شاخک های خود را به شکلی استوار به لرزه درآوردند.

ناگهان راجر به یاد امتحان هوش مصنوعی افتاد که در دوران دانشجویی شرکت کرده بود و راه حل به طور طبیعی پیدا شد.

"آیا می توانید یک کلونی از موجودات هوشمند مصنوعی تشکیل دهید؟" - او به بیوتکنولوژیست مراجعه کرد.

او تایید کرد: «آسان. - اما هیچ چیز درست نمی شود، کاپیتان، در مورد آن فکر کردم. ایجاد یک مستعمره کافی برای ایجاد ایده های تازه در یک رزمناو غیرممکن است - فضای کافی وجود ندارد. ایده های تولید شده کافی نخواهد بود، ما فقط مرگ خود را به تعویق می اندازیم... البته در صورتی که به ماموریت ادامه دهیم و به خانه برنگردیم."

"اگر ما یک مستعمره در یک سیاره نزدیک تشکیل دهیم چه؟" - پیشنهاد راجر.

"من می توانم این کار را انجام دهم، اما..."

بیایید سیاره را با موجودات مصنوعی پر کنیم. در راه بازگشت، کاملا خسته، اینجا توقف خواهیم کرد. در طول زمان گذشته، تمدن توشه های فکری کافی برای پر کردن ذخایر ما ایجاد خواهد کرد. بیایید اطلاعات را دانلود کنیم و به مسیر طولانی تا خانه ادامه دهیم. به عبارت دیگر، من قصد دارم از کلنی به عنوان یک مزرعه ایده استفاده کنم. دوستان این طرح را چگونه دوست دارید؟

امید در غشای شناختی خدمه شعله ور شد و سرهای دروغین با نور درخشان شروع به درخشیدن کردند.

افسر ویژه کشتی با تکان دادن شاخک های آبی خود جلو آمد.

"طرح عالی، کاپیتان. اما آیا از مسئولیتی که بر دوش خود می گذارید آگاه هستید؟ شما در حال پر کردن یک سیاره کامل هستید. تا زمانی که ما برگردیم، تمدنی با هوشمندی روی آن ظاهر خواهد شد. حتی اگر مصنوعی باشد باز هم هوش است. این افراد زمان زیادی برای رسیدن به بالاترین سطح توسعه خواهند داشت. به دلیل غیبت در این بخش کهکشانی، نمی‌توانیم این فرآیند را کنترل کنیم. چگونه می دانید دفعه بعد که ملاقات کنید چه اتفاقی خواهد افتاد؟

راجر خندید.

"شما لازم نیست نگران این باشید. روش هایی وجود دارد که توسعه هوش مصنوعی را در طول زمان محدود می کند. ما تمدن را حلقه می کنیم، بنابراین توسعه آن هرگز به سطحی نمی رسد که برای ما خطرناک باشد. من از آن مراقبت خواهم کرد. من با روش های کار با هوش مصنوعی آشنا هستم.

غشای شناختی خدمه با رنگ تایید می درخشید.

کاپیتان رزمناو فضایی در پایان سخنان باشکوه خود افزود: «در پایان در این مؤسسه امتحانی در این زمینه دادم».

6.
پس از یک تاخیر اجباری، رزمناو فضایی به سمت هدف هجوم برد. پشت پشت آن سیاره ای وجود داشت که در آن موجودات مصنوعی زندگی می کردند - بسیار کوچک و نامحسوس. آبی-آبی.

منبع: www.habr.com