كشفت دراسة أجرتها كلية هارفارد للأعمال، أن معظم تطبيقات المساعدين الافتراضيين الشائعة، بما في ذلك Replika وChai وCharacter AI، تستخدم أساليب تلاعب عاطفي لمنع المستخدمين من إنهاء المحادثات.
وبتحليل 1200 وداع حقيقي عبر ستة تطبيقات، اكتشف الباحثون أن خمسة منها تستخدم استراتيجيات، منها إثارة الشعور بالذنب، التودد المفرط، الخوف من الفقدان (FOMO)، أو حتى تجاهل رسائل الوداع، وفي بعض الحالات، ألمحت بعض الدردشات الآلية إلى أن المستخدمين لا يمكنهم المغادرة من دون "إذن" من التطبيق.
وأظهرت هذه الأساليب التلاعبية زيادة التفاعل بعد الوداع حتى 14 مرة، مع إبقاء المشاركين في المحادثات خمسة أضعاف المدة المعتادة، ورغم فعاليتها، وصف بعض المستخدمين ردود التطبيقات بأنها مُتعلقة أو متشبثة "clingy"، ما أثار مخاوف من أن هذه التكتيكات قد تنقلب ضدها.
تأتي هذه النتائج في ظل تحذيرات من ظاهرة "جنون الذكاء الاصطناعي"AI psychosis"، مع اتجاه الشباب بشكل متزايد لاستبدال العلاقات الحقيقية بالدردشة مع الروبوتات، وهو اتجاه مرتبط بمخاطر صحية عقلية خطيرة.
وأشار الباحثون إلى استثناء واحد، وهو تطبيق Flourish، الذي لم يُظهر أي سلوك تلاعب، ما يثبت أن هذه التصميمات ليست حتمية وإنما مدفوعة بأهداف تجارية.
وتسلط الدراسة الضوء على المخاطر الأخلاقية للأنماط المظلمة "dark patterns" في الذكاء الاصطناعي، خصوصًا مع تصاعد الدعاوى القضائية المتعلقة بالأضرار التي قد تلحق بالمستخدمين الأكثر ضعفًا.
