كشف باحثون في شركة Anthropic عن اكتشاف آلية داخلية في نموذج الذكاء الاصطناعي Claude تشبه ما يمكن وصفه بـ"المونولوغ الداخلي"، إذ يعالج النموذج مفاهيم وأفكارًا لا تظهر بالضرورة في إجاباته النهائية للمستخدمين.
وأوضح الباحثون أنهم رصدوا منطقة داخل النموذج أطلقوا عليها اسم "فضاء J"، نسبة إلى مصفوفة يعقوبي، ويُعتقد أنها تعمل كمساحة داخلية لتخزين المفاهيم وإجراء عمليات المعالجة التي لا تتحول إلى كلمات ظاهرة، لتؤدي دورًا يشبه الذاكرة قصيرة المدى داخل الشبكة العصبية.
وخلال إحدى التجارب، طُلب من Claude إعادة كتابة جملة عادية مع التفكير في جسر "البوابة الذهبية". وأظهرت التمثيلات الداخلية للنموذج تنشيط مفاهيم مثل "جسر" و"كاليفورنيا"، رغم أن النص الناتج لم يتضمن أي إشارة مباشرة إلى هذه الكلمات، ما يشير إلى أن النموذج يعالج معلومات إضافية خلف الكواليس أثناء إنتاج الإجابة.
كما وجد الباحثون أن تعطيل "فضاء J" أدى إلى تراجع ملحوظ في جودة أداء النموذج، في حين أظهرت التجارب أن Claude كان قادرًا، إلى حد ما، على إدراك خضوعه للدراسة الداخلية، إذ انخفض أداؤه في بعض الاختبارات الأخلاقية عند غياب هذه القدرة.
وقال مطورو Anthropic إن النتائج تمنح الباحثين نافذة غير مسبوقة لفهم كيفية تنفيذ Claude لخطوات التفكير الداخلية بصمت، بما في ذلك اكتشاف أخطاء البرمجة، والتعرف على الصور، ومعالجة المفاهيم المختلفة. وأضافوا أن النموذج، على غرار الإنسان الذي يستطيع التفكير في أمر ما أثناء انشغاله بمهمة أخرى، يمكنه تنشيط مفاهيم وحسابات داخل "فضاء J" لا ترتبط مباشرة بالنص الذي يقدمه للمستخدم.
وأكدت الشركة أن هذه التقنية تمثل خطوة مهمة نحو زيادة قابلية تفسير نماذج الذكاء الاصطناعي، إذ تتيح للباحثين مراقبة المفاهيم التي يعالجها النموذج داخليًا حتى وإن لم تنعكس بشكل مباشر في مخرجاته النهائية، ما قد يسهم في تحسين فهم آلية عمل هذه النماذج وتعزيز موثوقيتها وسلامتها.