نشر مشروع OpenAI، الذي يطور مشاريع متاحة للعامة في مجال الذكاء الاصطناعي، برنامج Transformer Debugger، المصمم لتحليل تنشيط الهياكل في نماذج لغة التعلم الآلي عند معالجة بيانات معينة. مثل أدوات تصحيح الأخطاء التقليدية، يدعم Transformer Debugger التنقل خطوة بخطوة خلال مخرجات النموذج، والتتبع، واعتراض نشاط معين. بشكل عام، يسمح لك مصحح المحول بفهم سبب قيام نموذج اللغة بإخراج رمز واحد بدلاً من آخر استجابة لطلب معين، أو لماذا يولي النموذج مزيدًا من الاهتمام لرموز معينة في الطلب. تمت كتابة الكود بلغة بايثون وتم توزيعه بموجب ترخيص MIT.
يتضمن التكوين المكونات التالية:
- يعد عارض الخلايا العصبية ملاحًا عبر مكونات النموذج الفردية مثل خلايا MLP، وبؤر الاهتمام، والتمثيلات المخفية للمشفرات التلقائية.
- خادم التنشيط - خادم خلفي يتفاعل مع النموذج المحلل ويسترد البيانات للمصحح.
- Models عبارة عن مكتبة للتفاعل مع نماذج لغة GPT-2 ومشفرات البرمجة التلقائية التي تستخدمها، مما يوفر خطافات لاعتراض التنشيطات.
- أمثلة على مجموعات بيانات التنشيط لخلايا عصبية MLP، ونقاط التركيز، والتمثيلات الكامنة للمشفرات الذاتية.
المصدر: opennet.ru
