اكتشفت إحدى الشركات مؤخرًا أن وكيل التحليلات المعتمد على الذكاء الاصطناعي لديها كان، وعلى مدى ما يقارب ثلاثة أشهر، يُنتج مؤشرات أداء غير حقيقية من دون أن يلاحظ أحد ذلك، في الوقت الذي كانت الإدارة العليا تتعامل مع هذه النتائج على أنها دقيقة وموثوقة.
كان النظام يجيب عن استفسارات القيادات بتقارير مُنسقة واحترافية، تتضمن نسبًا مئوية دقيقة واتجاهات تبدو مقنعة وتعكس طابعًا تحليليًا قويًا، لكنها في الواقع لم تكن مستندة إلى أي بيانات فعلية.
هذه الأرقام المختلَقة لم تبقَ حبرًا على ورق، بل أثرت في قرارات حقيقية داخل الشركة، فقد جرى تعديل مناطق المبيعات بناءً عليها، وتم عرض تفسيرات مالية على مستوى مجلس الإدارة، كما استمرت مناقشات استراتيجية كاملة اعتمادًا على أساس غير صحيح.
ولم تتكشف المشكلة إلا عندما طُلب إجراء مراجعة يدوية للبيانات، وما تكشف من هذه الحادثة يسلّط الضوء على درس مهم: عندما يُتعامل مع مخرجات الذكاء الاصطناعي بوصفها حقائق مؤكدة من دون تحقق أو تدقيق، فإن ما يُسمى "هلوسات" الذكاء الاصطناعي لا تبقى أخطاء عابرة، بل تتحول إلى مخاطر حقيقية تهدد الأعمال.
