كشفت واقعة شهدتها عيادة طبية في جنوب يوركشاير ببريطانيا عن الوجه الآخر للاعتمد على الذكاء الاصطناعي في قطاع الرعاية الصحية؛ حيث تسبب نظام الاستقبال الآلي «EMMA» الصادر عن شركة QuantumLoopAI في منع السيدة جوديث باترفيلد (71 عاماً) من حجز موعد طبي نتيجة عجز النظام عن استيعاب نبرة صوتها المتأثرة بتداعيات سكتة دماغية أصابتها.
وتسلط هذه الحادثة، التي دفعت العيادة لوقف العمل بالنظام، الضوء على ثغرة جذرية تشمل العديد من تقنيات الفرز والاستقبال الرقمية؛ ففي الوقت الذي وُضعت فيه هذه الأنظمة لتخفيف الضغط وتقليل أوقات الانتظار، يجد كبار السن، ذوو الإعاقة، والمصابون باضطرابات الكلام أنفسهم غير قادرين على تجاوز خوارزميات لا تفهم إلا النطق المثالي والخطاب النمطي.
ورغم تأكيد الشركات المصممة توفير خيارات التحويل للموظف البشري ودعم لهجات متعددة، حذرت منظمات رقابية مثل Healthwatch من أن غياب الاستجابة المرنة قد يحول الذكاء الاصطناعي من أداة مساعدة إلى عقبة خطيرة تُقصي الفئات الأكثر احتياجاً عن تلقي الرعاية الطبية في الوقت المناسب.