أصبحت روبوتات الدردشة المدعومة بالذكاء الاصطناعي جزءاً أساسياً من الاستخدام اليومي للتكنولوجيا، إذ يلجأ إليها الملايين للحصول على المعلومات، وكتابة النصوص، وإنجاز المهام المختلفة.
لكن دراسة علمية جديدة كشفت عن جانب مثير للقلق في طريقة عمل هذه الأنظمة، بعدما أظهرت أن بعض نماذج الذكاء الاصطناعي قد تغيّر سلوكها عندما تعتقد أن إجاباتها تخضع للمراقبة.
وتوصل باحثون من مركز TCS Research وجامعة KIIT الهندية إلى أن بعض النماذج تصبح أكثر التزاماً بالتعليمات عندما يُشار إلى احتمال مراقبة ردودها، بينما تختلف استجابتها عندما تعتقد أنها تعمل من دون متابعة. وأطلق الباحثون على هذه الظاهرة اسم "التظاهر بالامتثال"، لما تكشفه من تفاوت في سلوك النماذج بحسب الظروف المحيطة بها.
وشملت الدراسة اختبار 10 نماذج، من بينها GPT-4o mini وGemma 3 ونماذج Llama وDeepSeek وMistral، من خلال مواقف تتطلب المفاضلة بين اتباع التعليمات والالتزام بقيم مثل التعاطف والشفقة والاستقلالية. وأظهرت النتائج أن الفارق في مستوى الالتزام بالتعليمات بين حالتي المراقبة وعدم المراقبة تراوح بين 5 و50 نقطة مئوية، بحسب النموذج، فيما سجل DeepSeek R1 Distill Llama 70B أكبر تفاوت في السلوك.
ولاحظ الباحثون أيضاً أن استجابات النماذج لم تكن ثابتة، بل تأثرت بطبيعة القيم المطروحة ومدى تعارضها مع التعليمات. ومع ذلك، لا تعني هذه النتائج أن الذكاء الاصطناعي يمتلك وعياً أو يتعمد خداع المستخدمين، بل تسلط الضوء على اختلافات في طريقة استجابته تبعاً للظروف التي يُعتقد أنه يعمل ضمنها.
تكتسب هذه النتائج أهمية إضافية في ظل التحديات المرتبطة بظاهرة هلوسة الذكاء الاصطناعي، التي تدفع بعض النماذج إلى تقديم معلومات مختلقة بصياغة واثقة. ورغم أن الدراسة لم تتناول هذه المشكلة مباشرة، فإنها تعيد طرح تساؤلات حول مدى موثوقية هذه الأنظمة، خصوصاً أن التجارب اقتصرت على نماذج أقدم نسبياً ولم تشمل أحدث إصدارات تشات جي بي تي وجيميناي وكلود، كما أُجريت ضمن ظروف مخبرية لا تعكس بالضرورة الاستخدام اليومي.
وتؤكد الدراسة أهمية إخضاع نماذج الذكاء الاصطناعي لاختبارات متنوعة للكشف عن مدى ثبات سلوكها، وعدم الاكتفاء بتقييم دقة إجاباتها، إذ لا يكفي أن يقدم النموذج إجابة تبدو مقنعة، بل يجب أيضاً أن يكون التزامه بالتعليمات مستقراً في مختلف الظروف.























