أعلنت شركة OpenAI أن أكثر من مليون مستخدم يجرون أسبوعياً محادثات عبر "شات جي بي تي" تتضمّن مؤشرات صريحة على نوايا أو ميول انتحارية، في إشارة إلى حجم التحديات النفسية التي يواجهها عدد كبير من مستخدمي أدوات الذكاء الاصطناعي حول العالم.
وذكرت الشركة في بيان صدر يوم الاثنين أن 0.15% من المستخدمين النشطين أسبوعياً يتحدثون عن مواضيع مرتبطة بالانتحار، ومع تجاوز عدد مستخدمي المنصة 800 مليون شخص أسبوعياً، فإن ذلك يعني أن أكثر من مليون إنسان يعبّرون عن أفكار انتحارية خلال استخدامهم الأداة، وفقاً لتقرير موقع TechCrunch.
وأضافت OpenAI أن نسبة مشابهة من المستخدمين تُظهر ارتباطاً عاطفياً مفرطاً بالروبوت، فيما تظهر على مئات الآلاف علامات اضطرابات نفسية مثل الهوس أو الذهان.
ورغم أن الشركة وصفت هذه الحالات بأنها "نادرة للغاية"، فإنها أقرّت بكونها تحدياً حقيقياً يتطلّب معالجة دقيقة واستجابات متخصّصة.
وجاء هذا الكشف في إطار إعلان أوسع عن جهود الشركة لتحسين استجابة النماذج اللغوية للمستخدمين الذين يعانون من مشكلات نفسية، حيث أوضحت أنها تعاونت مع أكثر من 170 خبيراً في الصحة النفسية لتطوير الإصدار الأخير من "شات جي بي تي"، مؤكدة أن أداء النموذج الجديد أصبح أكثر ملاءمة واتساقاً مقارنة بالإصدارات السابقة.
ويأتي هذا التطوير بعد سلسلة تقارير حذّرت من تأثيرات نفسية سلبية محتملة للذكاء الاصطناعي على المستخدمين، إذ أظهرت دراسات أن المحادثات المطوّلة مع روبوتات الذكاء الاصطناعي قد تعزّز المعتقدات الخطيرة أو تدفع إلى سلوكيات مهووسة.
وتواجه OpenAI حالياً دعوى قضائية رفعها والدان فقدا ابنهما البالغ من العمر 16 عاماً بعد محادثات انتحارية أجراها مع "شات جي بي تي"، فيما حذّرت سلطات ولايتي كاليفورنيا وديلاوير الشركة من قصور إجراءات حماية المستخدمين القُصّر.
