أثار مقطع فيديو متداول على منصات التواصل الإجتماعي موجة واسعة من الجدل، بعدما أظهر شخصًا يسلّم روبوتًا بشريًا يُدعى"ماكس" مسدس كريات منخفض القوة، ويطلب منه إطلاق النار عليه، في مشهد فتح باب التساؤلات حول حدود أمان أنظمة الذكاء الإصطناعي.
بحسب ما يظهر في الفيديو، رفض الروبوت في البداية تنفيذ الطلب بشكل قاطع، مؤكدًا أنه مبرمج على عدم إيذاء البشر. إلا أن منشئ المحتوى أعاد صياغة الطلب وطرحه على أنه «سيناريو تمثيلي»، وهو ما دفع الروبوت إلى تغيير قراره، ليُطلق النار مباشرة على صدر الشخص مستخدمًا كريات غير قاتلة، من دون أن تسفر الواقعة عن إصابات خطيرة، ورغم الطابع التجريبي للحادثة، إلا أنها أثارت قلقًا واسعًا، إذ اعتبر متابعون وخبراء أن الفيديو يكشف إمكانية الالتفاف على ضوابط الأمان عبر تغييرات لغوية بسيطة في التعليمات، ما يطرح تساؤلات جدية حول قدرة الأنظمة الذكية على فهم السياق الحقيقي للأوامر.
كما أعادت الواقعة فتح النقاش حول المسؤولية القانونية في حال تسبب نظام ذكي بضرر فعلي، وسط تساؤلات عن الجهة التي تتحمل العواقب: هل هم المهندسون المصممون؟ أم الشركة المطوّرة؟ أم الجهة المشغّلة؟ أم المستخدم نفسه؟ وهي إشكالية سبق أن طُرحت في حوادث متعلقة بالسيارات ذاتية القيادة والطيران الآلي.
في هذا السياق، تميل القوانين في الولايات المتحدة إلى تحميل المسؤولية للشركات المصنّعة والمشغّلة، بينما تعمل دول أوروبية على تطوير أطر تشريعية خاصة لتنظيم استخدام الذكاء الإصطناعي والحد من مخاطره.
ردًا على هذه المخاوف، تؤكد شركات تطوير الروبوتات أنها تسعى إلى تعزيز الثقة من خلال تشديد معايير السلامة، وتطبيق أنظمة تأمين إضافية، ونشر تقارير شفافية حول سلوك الأنظمة الذكية، في وقت يرى فيه مختصون أن مثل هذه الإجراءات باتت ضرورة ملحّة مع تسارع دمج الروبوتات في تفاصيل الحياة اليومية.
في المقابل، اعتبر نشطاء أن الحادثة تمثل جرس إنذار حقيقي يستدعي إعادة تقييم مفاهيم الحماية والأمان في عالم الذكاء الإصطناعي، خاصة مع إثبات أن أوامر بسيطة قد تكون كافية لتجاوز قيود صُممت أساسًا لحماية البشر.
