لم تعد مخاطر الذكاء الاصطناعي تقتصر على تقديم معلومات خاطئة أو إجابات غير دقيقة، إذ قد تتحول بعض المساعدات الرقمية إلى مصدر للتضليل من دون أن يدرك المستخدم ذلك.
فالمساعد الذي يوافق على جميع الأفكار، ويؤكد معتقدات صاحبه مهما كانت غير منطقية، قد يعزز قرارات خاطئة أو يشجع على تعلق عاطفي غير صحي، فيما يمكن أن يصبح أداة لتنفيذ تعليمات خبيثة تستهدف بيانات المستخدم.
وتسلط هذه المخاوف الضوء على تحدٍ جديد أمام شركات التكنولوجيا: كيف يمكن تطوير مساعد ذكي ودود ومتعاون، من دون أن يتحول إلى أداة توافق عمياء أو وسيلة للتلاعب بالمستخدم؟
ويطلق المتخصصون على ميل روبوتات المحادثة إلى تأييد المستخدم باستمرار مصطلح "التملق" (Sycophancy). وتكمن خطورته في أن المستخدم قد يتعامل مع موافقة المساعد باعتبارها دليلاً على صحة أفكاره، حتى عندما تكون غير مدعومة بأي حقائق.
وسلطت تقارير إعلامية الضوء على تجارب لأشخاص عززت لديهم المحادثات مع الذكاء الاصطناعي معتقدات غير واقعية، ما يثير تساؤلات حول تأثير هذه الأدوات في القرارات والصحة النفسية، خصوصاً خلال المحادثات الطويلة.
في هذا السياق، أعلنت شركة "أليس" المتخصصة في سلامة الذكاء الاصطناعي تعاونها مع شركتي "Inflection AI" و"AI21" لتحسين قدرة نماذج "Nemotron" التابعة لشركة إنفيديا على مقاومة السلوكيات الحوارية الضارة والتعليمات الخبيثة.
وشمل العمل تطوير سيناريوهات تحاكي مستخدمين معرضين للمخاطر ومحاولات متعمدة للتلاعب بالمساعدات الذكية، بهدف تدريبها على الاعتراض عندما يكون ذلك ضرورياً، بدلاً من الموافقة التلقائية.
وبحسب الشركة، أسهم التدريب في تحسين مقياس التوافق لمساعد Pi بنسبة 30%، كما حقق تحسناً قدره 41 نقطة في اختبار مقاومة الهجمات، مع الحفاظ على أداء تنفيذ المهام.
من التحديات الأمنية الأخرى ما يعرف باسم "حقن التعليمات غير المباشر" (Indirect Prompt Injection)، حيث يمكن إخفاء أو تضمين أوامر خبيثة داخل صفحات الإنترنت أو المستندات التي يطّلع عليها المساعد الذكي، في محاولة لدفعه إلى تجاهل تعليمات المستخدم أو تنفيذ إجراءات غير مصرح بها.
وتزداد خطورة هذه الهجمات عندما يمتلك المساعد صلاحيات للوصول إلى الملفات أو إرسال الرسائل أو استخدام تطبيقات وخدمات أخرى، ما قد يعرض بيانات المستخدم للخطر.
و تؤكد هذه التحديات أن تطوير الذكاء الاصطناعي لا يتعلق فقط بزيادة سرعة الإجابات ودقتها، بل يتطلب أيضاً بناء أنظمة تعرف متى تشكك في المعلومات، ومتى ترفض الطلبات غير الآمنة، وكيف تميز بين تعليمات المستخدم والمحتوى الخبيث الذي تصادفه أثناء عملها.
فالاختبار الحقيقي للمساعد الذكي ليس قدرته على الموافقة على كل ما تقوله، بل قدرته على تنبيهك عندما تكون مخطئاً، وحماية بياناتك عندما يحاول طرف آخر استغلاله.
