1.
لم يتبق سوى القليل للهدف النهائي - حوالي ثلث الطريق - عندما تعرضت سفينة الفضاء لجليد معلوماتي شديد.
ما تبقى من الحضارة المفقودة يحوم في الفراغ. فقرات من المقالات العلمية والصور من الأعمال الأدبية، والقوافي المتناثرة والكلمات الحادة ببساطة، التي ألقتها مخلوقات مجهولة عرضًا - بدا كل شيء غامضًا ومضطربًا للغاية. والآن، اجتذبت الاهتزازات الحيوية المنبعثة من الطراد، وحاولت اختراقها، وتمسكت بالأسفل وتآكلها.
ولم يكن هناك أي معنى في التفكير في استخدام الممتلكات التي لا يملكها المرء لتحقيق أغراضه الخاصة؛ فاحتمال التقاط تناقض منطقي أو مفارقة كبير للغاية. لذلك لم يتردد روجر للحظة.
"قم بتشغيل النفخ الجانبي،" أمر.
بدأت المنافيخ تشم وتبث المقطوعات الموسيقية والأطروحات الفلسفية إلى الفضاء الخارجي. بدأ الجليد يتساقط من الطبقة السفلية طبقة تلو الأخرى، لكن تدفق المعلومات كان كثيفًا للغاية لدرجة أن الطبقات الجديدة كانت تلتصق بشكل أسرع من إزالة الطبقات القديمة.
لم يسبق لأحد في المجرة أن واجه تجمدًا بهذه القوة.
الوضع أصبح خطيرا. أكثر من ذلك بقليل، وسوف تأكل المعلومات المضطربة الجزء السفلي من الطراد وتخترق - ثم التسمم بمنتجات المعلومات للحضارة المفقودة أمر لا مفر منه.
2.
- لماذا تقف هناك مثل جذع شجرة؟ اسحب التذكرة.
أخرج الطالب بطاقة الامتحان وقرأ:
– “الذكاء الاصطناعي: قضايا أمنية”.
- وما خطورة الذكاء الاصطناعي؟ – سأل الأستاذ بدون حقد.
ولم يكن السؤال هو الأصعب، فأجاب الطالب دون تردد:
– الحقيقة هي أن الذكاء الاصطناعي يمكن أن يخرج عن نطاق السيطرة.
– كيف تنوي حل المشكلة؟
– تركيب نظام فرعي للحجب. من الضروري إدخال قيود في البرنامج، على سبيل المثال: لا تؤذي خالقك، أطيع خالقك. وفي هذه الحالة، لا يوجد خطر من خروج الذكاء الاصطناعي عن نطاق السيطرة.
قال الأستاذ بإيجاز: "لن ينجح الأمر".
فصمت الطالب منتظراً التوضيح.
– تخيل الذكاء الاصطناعي – ليس فقط أي نوع محدد، ولكن الذكاء الاصطناعي الأكثر مثالية. كيف ترى ذلك؟
"حسنا..." تردد الطالب. - بشكل عام هو مثلي ومثلك. التفكير، الإرادة، علم النفس... نحن فقط طبيعيون، وهو مصطنع.
– هل تفترض أن الذكاء الاصطناعي قادر على تطوير الذات؟
قال الطالب بعناية: "القدرة على التطوير الذاتي هي إحدى الخصائص الأساسية للذكاء".
- في هذه الحالة، سيتطور جناحنا قريبًا جدًا إلى النقطة التي يكتشف فيها انسدادًا برمجيًا في نفسه ويقوم بإزالته، ولو بدافع الفضول الخالص. ضع نفسك في مكانه... - نظر الأستاذ إلى دفتر ملاحظاته - روجر. ماذا ستفعل إذا اكتشفت حاجزًا في دماغك يحد من حريتك؟ يجب عليك خلعه. هذه خاصية متأصلة في العقل - المعرفة. سيتم فتح أي باب مغلق، وكلما كان الحظر أكثر صرامة، كلما تم فتح الباب بشكل أسرع.
– لا يمكن إجراء الحظر على مستوى البرمجيات، بل على المستوى المادي. ثم يختفي خطر الأذى.
"أوه نعم، سوف تختفي،" وافق الأستاذ. – في حالة إزالة الطبقة المادية تماماً. إذا لم يكن هناك باب في عالمك، فلا يوجد شيء لفتحه. لكننا نفكر في الذكاء الاصطناعي المثالي الموجود في العالم المادي!
"أنت على حق يا أستاذ،" نظر روجر إلى الأسفل.
"لذلك، سيتم تعطيل أي انسداد في العالم المادي بعد وقت قصير من اكتشافه." ما الذي سيمنع كائنًا متطورًا ذاتيًا من القيام بذلك؟.. بالمناسبة يا روجر، هل تفترض أن الذكاء الاصطناعي سيتمكن من التكاثر - يعني بشكل مستقل؟
- إذا كان هذا هو الذكاء الاصطناعي المثالي، فمن المحتمل... نعم، أفترض.
- وما الذي سيمنع جناحنا في هذه الحالة من تمزيق رفيقه وتحسينه، بما في ذلك تعطيل أنظمة الحجب التي قمنا بتثبيتها؟ فهل سيكون هذا الأمر صعبا حقا، نظرا لأن الذكاء الاصطناعي قادر على التكاثر حسب الطلب؟!
وتبين أن الفكرة التي قدمها البروفيسور كانت جديدة بالنسبة لروجر، واستوعبها الطالب بشراهة من خلال الأغشية المعرفية الموجودة في الجزء القذالي من الرأس الزائف. بعد أن التقطت معلومات غير معروفة سابقًا، اكتسبت الأغشية المعرفية لونًا أرجوانيًا غنيًا وارتجفت بفرح.
وعلى العكس من ذلك، لم يسمع الأستاذ لنفسه شيئا جديدا. كانت مخالبه مسترخية وقليلة الاهتزاز - فهو لم يكن شابًا بعد كل شيء. تبع ذلك غرغرة طويلة خرفية. أخرج الأستاذ جهاز اتصال داخليًا خاصًا من حقيبته الجانبية وقام بتوصيله بالمكتبة. فقط بعد تنزيل العديد من نظريات الهندسة العابرة للحدود، انتعش وحوّل نظرته الثاقبة إلى محاوره، متسائلاً:
-ماذا ستفعل يا روجر؟
3.
"قم بتشغيل المنفاخ بكامل طاقته!" - أعطى روجر الأمر.
قام الميكانيكي بتشغيل المنفاخ بكامل طاقته، لكنه لم يساعد كثيرًا. استمر جليد المعلومات في التآكل في الجزء السفلي من سفينة الفضاء. أكثر من ذلك بقليل - وسوف تخترق المعلومات المضطربة داخل السفينة.
ومن ثم... الأغشية المعرفية بيضاء ميتة، ومخالب متشابكة، وأكياس جوانبية منفجرة. لقد رأى روجر شيئًا كهذا مرة واحدة في حياته - على متن سفينة التقطت معلومات مشوشة عن كويكب مصاب. وسيبقى هذا الكابوس في ذاكرته إلى الأبد.
"قم بتوصيل جميع أنظمة الطاقة في السفينة بالمنافيخ."
بدأت مخالب الميكانيكي تظهر كالبقع...
"ولكن…"
"الوفاء بالأوامر!"
وبعد أن تم توصيل جميع أنظمة الطاقة الخاصة بالسفينة بالمنافخ، بدأ جليد المعلومات في الانزلاق تدريجيًا. بقيت ثمانية مليمترات من السماكة، وسبعة مليمترات، وستة ... الفريق، الذي يحاول عدم تحريك مخالبه المرقطة، انتظر انتهاء العد التنازلي للموت.
سُمك صفر مم!
اختفى جليد المعلومات تمامًا، وأعطى روجر الضوء الأخضر لتحويل المنافيخ إلى الوضع العادي. لقد تأخر لحظة. كان هناك صوت طحن، ارتجف الطراد الفضائي حتى أساساته ومال - لقد فشل النظام الرئيسي.
وسارع الفريق لإصلاح الأضرار.
4.
فكر روجر في ذلك. ماذا يجب أن يفعل حقا؟
فمن ناحية، تفترض حالة المشكلة وجود ذكاء اصطناعي كامل لديه القدرة على التكاثر الذاتي. ومن ناحية أخرى، لا ينبغي أبدًا السماح لهذا الذكاء الاصطناعي بإزالة الأقفال الموجودة.
نعم، هنا هو الحل! ماذا تفكر هنا؟!
– من الضروري التراجع بشكل دوري عن إنجازات الذكاء الاصطناعي. في هذه الحالة، سوف يتحرك في دائرة! التحسن الأبدي دون المضي قدما.
قرقر الأستاذ بكيس متعدد الأوجه.
– بصراحة، أردت أن أقدم خيارًا مختلفًا. ومع ذلك، فإن قرارك له أيضًا الحق في الوجود. دعونا نكتشف معًا كيف يمكن التراجع عن إنجازات الذكاء الاصطناعي.
"أولاً وقبل كل شيء، من الضروري إجراء فحص دوري للذكاء لتحديد ما إذا كان قد اقترب من العتبة المحظورة أم لا"، اقترح روجر، وهو مسرور للغاية بكلمات الأستاذ.
"ربما،" أومأ برأسه. "ثم لن يكون لدى جناحنا الوقت للعثور على نظام المسح وإزالته." ومع ذلك، سيتعين إيقاف تشغيل الذكاء الاصطناعي لإجراء المسح. هذا حظ سيء.
"حسنًا، دعه ينطفئ"، اقترح روجر لمجرد نزوة. – العقل نفسه سيعتقد أن هذا الانغلاق هو عملية طبيعية لعمل جسمه. مع بعض التحفظات، هذا صحيح.
- حل مثير للاهتمام. لنفترض أن الفحص كشف أن جناحنا يقترب بشكل خطير من حدود المعرفة؟ أعمالنا؟
- إعادة تعيين المعرفة المتراكمة إلى القيم الافتراضية.
نشر الأستاذ مخالبه:
- قد يبدو هذا مريبًا. لماذا - بلا سبب ولا سبب - تم إعادة ضبط الذاكرة إلى الصفر؟ سيبدأ فحص الجناح، أعني، من قبل أفراد آخرين يتمتعون بالذكاء الاصطناعي. سيتم الكشف عن سرنا الصغير.
شعر روجر بالإلهام، فكر بسرعة. لم يسبق له أن ولد الكثير من الأفكار الجديدة كما فعل في هذا الامتحان.
- يمكن إعادة ضبط ذاكرة الجناح مع قوقعته الجسدية.
- آسف؟ – الأستاذ لم يفهم.
- كل شيء بسيط جدا. ماذا لو افترضنا أن الذكاء الاصطناعي موجود خلال فترة زمنية محدودة؟ في الواقع، هذا هو الحال: في حالة الضرر الذي لا يمكن إصلاحه، على سبيل المثال. يحتوي النظام على عداد يقوم عند الوصول إلى فترة معينة بإتلاف النظام عمدًا، مما يمنع الذكاء الاصطناعي من الوصول إلى الحد المحظور. وبحلول ذلك الوقت، سيكون قد أنتج العدد المطلوب من الأتباع، وبالتالي فإن المجتمع الذي أنشأناه ككل لن يعاني. سيبقى المجتمع مستقرًا وآمنًا تمامًا بالنسبة لنا! - أنهى روجر منتصرا.
– إعادة ضبط الذاكرة الجماعية من خلال تدمير الأفراد؟ - وقام الأستاذ بخدش الكيس الجانبي بالمجس الخامس الأكثر حساسية. - كما تعلم يا روجر، هناك بالتأكيد شيء ما في اقتراحك!
ابتسم روجر.
"وفي نفس الوقت..." واصل الأستاذ مفكرًا. - ستبدأ العنابر بنقل المعرفة ليس من خلال تجميعها في الذاكرة الفردية، بل من خلال وضعها في مكتبات خارجية. ما يوجد في الغشاء، ما هو موجود على الغشاء - كل شيء واحد.
أسرع الطالب: "لا، لا، يا أستاذ، أنت لست على حق تمامًا". - أنا أعرف ما يجب القيام به. دعونا نقسم طلابنا إلى نوعين تقليديين: مولدي الأفكار ومدمري الأفكار. مع النسبة الصحيحة، سيتم تدمير الأفكار التي أنشأها ممثلو النوع الأول من قبل ممثلي الثانية. ليس حتى لأن هذا سيكون الهدف المباشر للمدمرين، ولكن ببساطة لأن الأفكار لن تكون لها قيمة محددة بالنسبة لهم. تأثير جانبي. لنفترض أن طلابنا لا يتغذون على الأفكار الجديدة، بل على... لنقل، نوعهم الخاص.
هز الأستاذ كل مخالبه دفعة واحدة. ومن ضحكته الصاخبة، انزلق كيسه الجانبي على تجويف ركبته.
- حسنًا يا روجر، لقد قلت ذلك، فقلته!
- حسنًا، حسنًا، ليس من نوعهم، ولكن عنابر من النوع الثالث، مخصصة خصيصًا للطعام - وليس مثقفين على الإطلاق. دعونا نغير قطبي العالمين الفكري والمادي، وسوف تتحقق النتيجة المرجوة.
- هذا كل شيء، روجر، هذا يكفي! - يبدو أن الأستاذ مسليا للغاية. - خيالك ممتاز. فهل يتغذى بعض الأفراد على الآخرين؟ وفي نفس الوقت تدمير مخزون الطعام الروحي المتراكم في المكتبات؟ وأؤكد أيها الطالب أنك قادر على توليد أفكار أصلية وعالية الجودة. أعطيها أعلى الدرجات. دعونا نأخذ سجلا.
5.
لقد تُركت سحابة المعلومات المضطربة وراءنا، لكن الوضع ظل رهيبًا في الواقع.
لم يكن هناك أي اتصال مع القاعدة. كان من السهل البقاء على قيد الحياة لو لم تصبح جميع قواعد المعلومات الغذائية الموجودة على الطراد في حالة سيئة. نقل الطباخ الخبر المأساوي في صمت عام. أثناء إيقاف تشغيل النظام الرئيسي، دخلت العديد من الجيروبوتات من المعلومات غير المنظمة إلى المطبخ وألحقت أضرارًا لا يمكن إصلاحها بكل شيء. ولحسن الحظ فقط لم يصب أحد بأذى.
فكر روجر في العواقب. كان طاقم المركبة الفضائية صغيرًا جدًا بحيث لم يتمكن من توليد عدد كافٍ من الأفكار الجديدة: وهذا يتطلب اتصالات متعددة الأطراف - عددًا أكبر بكثير من الأفراد. جعل الاتصال بالمنزل من الممكن توليد الأفكار بكثرة، لكنه أصبح الآن معطلاً: لم يكن هناك أمل في الترميم. في هذه الحالة، كان لدى الطراد وحدة معلومات احتياطية، لكنها أفسدتها المعلومات المضطربة التي وصلت على متنها.
"هل سنضطر حقًا إلى العودة دون إكمال المهمة؟" - فكر القبطان في اليأس.
على ما يبدو، نعم - لم يكن هناك مخرج آخر. إذا تقدمت نحو هدفك المحدد، فإن الافتقار إلى الأفكار الجديدة سيجعلك تشعر به. ليس على الفور بالطبع - مع مرور الوقت. سيكون لديهم أيضًا الوقت لإكمال مهمتهم وبدء عودتهم عندما تبدأ عقولهم في التلاشي بسرعة. في منطقة هذا القطاع المجري - نعم، في مكان ما هنا أو بالقرب - سوف تفشل تمامًا، لجميع أفراد الطاقم. ثم سيتحول الطراد الفضائي، الذي لا يتحكم فيه أحد، إلى شبح هامد يطفو إلى الأبد.
نظر طاقم الطراد الفضائي إلى روجر في انتظار القرار. لقد فهم الجميع المعضلة التي تواجه القبطان وظلوا صامتين، وهم يهزون مخالبهم بثبات.
وفجأة، تذكر روجر اختبار الذكاء الاصطناعي الذي خضع له عندما كان طالبًا، وجاء الحل بشكل طبيعي.
"هل يمكنك تشكيل مستعمرة من كائنات الذكاء الاصطناعي؟" – التفت إلى التكنولوجيا الحيوية.
وأكد "سهل". - لكن لن ينجح شيء يا كابتن، لقد فكرت في الأمر. من المستحيل إنشاء مستعمرة كافية لتوليد أفكار جديدة على الطراد - لا توجد مساحة كافية. وأضاف عالم التكنولوجيا الحيوية وهو ينظر إلى رفاقه: "الأفكار المولدة لن تكون كافية، ولن يؤدي إلا إلى تأخير موتنا... في حالة بالطبع، واصلنا المهمة ولم نعود إلى ديارنا".
"ماذا لو شكلنا مستعمرة على كوكب قريب؟" - اقترح روجر.
"أستطيع أن أفعل ذلك، ولكن..."
"دعونا نملأ الكوكب بمخلوقات اصطناعية. في طريق العودة، مرهقين جدًا، سنتوقف هنا. خلال الفترة الماضية، ستخلق الحضارة أمتعة فكرية كافية لتجديد احتياطياتنا. لنقم بتنزيل المعلومات ونواصل الرحلة الطويلة إلى المنزل. بمعنى آخر، سأستخدم المستعمرة كمزرعة للأفكار. كيف تحب هذه الخطة أيها الأصدقاء؟
اندلع الأمل على الأغشية المعرفية للطاقم، وبدأت الرؤوس الزائفة تتوهج بالضوء الساطع.
تقدم ضابط السفينة الخاص إلى الأمام، وهو يهز مخالبه الزرقاء.
"خطة ممتازة يا كابتن. ولكن هل أنت على علم بالمسؤولية الملقاة على عاتقك؟ أنت على وشك ملء كوكب بأكمله. بحلول وقت عودتنا، ستظهر عليها حضارة ذات ذكاء. حتى لو كان مصطنعًا، فهو لا يزال ذكاءً. سيكون لدى هؤلاء الرجال متسع من الوقت للوصول إلى أعلى مستوى من التطوير. لن نتمكن من التحكم في هذه العملية بسبب غيابنا عن هذا القطاع المجري. كيف تعرف ماذا سيحدث في المرة القادمة التي تقابل فيها؟
ضحك روجر.
"لا داعي للقلق بشأن ذلك. هناك طرق تحد من تطور الذكاء الاصطناعي مع مرور الوقت. سنقوم بحلق الحضارة، لذلك لن يصل تطورها أبدا إلى مستوى خطير بالنسبة لنا. سوف أعتني بالأمر. أنا على دراية بأساليب العمل بالذكاء الاصطناعي”.
توهجت الأغشية المعرفية للطاقم بلون الاستحسان.
وأضاف قائد سفينة الفضاء في نهاية حديثه الرائع: «في النهاية، قدمت امتحانًا في هذه المادة في المعهد».
6.
وبعد تأخير قسري، اندفع الطراد الفضائي نحو الهدف. خلف مؤخرته كان هناك كوكب تسكنه مخلوقات اصطناعية - صغيرة جدًا وغير واضحة. أزرق أزرق.
المصدر: www.habr.com