أصبحت الهلوسة، أو الإجابات الخاطئة المتعمدة، التي تقدمها نماذج الذكاء الاصطناعي في بعض الأحيان، واحدة من المشاكل الرئيسية التي تواجه الصناعة بأكملها، مما دفع بعض المواطنين إلى رفض استخدام الذكاء الاصطناعي على الإطلاق. اكتشف باحثو OpenAI أن إصلاح مثل هذه الثغرات قد يكون أكثر صعوبة مما كان يُعتقد سابقًا.
نشر علماء من شركة OpenAI ، حيث وصفوا محاولاتهم لإرساء السيطرة على نماذج الذكاء الاصطناعي المعقدة، بما في ذلك النماذج المنطقية، من أجل منعها من تجاوز الحدود المحددة. استخدم الباحثون استراتيجيات وأساليب فريدة، بما في ذلك فرض عقوبات على الأفعال الخبيثة ومحاولات خداع المستخدم. استخدم المشروع، من بين أمور أخرى، نموذج الذكاء الاصطناعي الذي أنشأته شركة OpenAI ولكن لم يتم إطلاقه في السوق، والذي تم تكليفه بمهام مختلفة يمكن تسهيلها عن طريق خداع المستخدم أو تخطي بعض الإجراءات.
تعتمد نتائج التعلم الخاصة بالنموذج إلى حد كبير على مرحلة التعلم التعزيزي، حيث يتلقى مكافأة لتنفيذ أمر أو توليد الاستجابة الصحيحة. تميل نماذج الذكاء الاصطناعي إلى محاولة الحصول على المكافآت من خلال التلاعب، بما في ذلك كسر قواعد وإرشادات معينة، من أجل تحقيق النتيجة المرجوة. وكان الباحثون يأملون أن يتمكنوا من تحديد الثغرات وفهم سلوك الذكاء الاصطناعي بشكل أفضل من خلال تتبع سلسلة التفكير الخاصة به، لكن هذا لم يساعد. إن محاولات تحسين سلسلة التفكير بشكل مباشر، أي إصدار أمر بعدم تجاوز التعليمات، لا تؤدي إلا إلى تأثير قصير المدى، كما وجد العلماء: "إنها لا تقضي على كل السلوك غير المرغوب فيه ويمكن أن تؤدي إلى إخفاء النموذج لنواياه الحقيقية".
وكان على مؤلفي المشروع أن يعترفوا بأن آليات مراقبة النماذج "هشة". إن الرقابة الصارمة على سلسلة التفكير قد تشجع الذكاء الاصطناعي على إخفاء أخطائه لضمان حصوله على المكافأة أثناء التحايل على القيود. تم استخدام GPT-4o التجاري لمراقبة نموذج الاختبار أثناء قيامه بمهام الترميز، لكن الشخص الذي تم اختباره ارتكب أخطاء غير مقصودة واعترف علنًا في سلسلة التفكير بأنه فعل ذلك للحصول على مكافأة؛ على سبيل المثال، قامت بإنهاء بعض البرامج قبل الأوان. حاول الباحثون بعد ذلك معاقبة النموذج، لكن التأثير كان قصير الأجل: إذ أظهرت سلسلة التفكير علامات على محاولة الحصول على المكافأة بطريقة غير مباشرة وإعطاء الإجابة الخاطئة. وهذا يعني أنها وجدت طريقة لإخفاء دوافعها عن الذكاء الاصطناعي المسيطر.
وفي هذا الصدد، يظل من غير الواضح ما إذا كان العالم مستعدًا للذكاء الاصطناعي على المستوى البشري إذا استمرت المشكلة ولم يعد البشر قادرين على التدخل. ويأمل الباحثون أن تكون هناك في المستقبل طرق للتأثير على النماذج من خلال سلسلة التفكير الخاصة بهم دون الغش أو التكتيكات الخفية - ويقترحون جعل طرق التحسين أقل تدخلاً ومباشرة.
المصدر:
المصدر: 3dnews.ru
