أثار الباحث في مجال الذكاء الاصطناعي جاكوب كوكسون موجة من الجدل بعد إعلانه مغادرة شركة Anthropic، متحدثًا عن مخاوفه من المسار الذي تسلكه صناعة الذكاء الاصطناعي المتقدم، وموجهًا انتقادات إلى طريقة تعامل كبرى الشركات، بينها Anthropic وOpenAI، مع مخاطر تطوير أنظمة قادرة على تحسين قدراتها بصورة متزايدة.
كوكسون، الذي عمل لسنوات في أبحاث التدريب المسبق لدى شركات الذكاء الاصطناعي، قال في سلسلة منشورات عبر حسابه الرسمي إن الأنظمة المتطورة تقترب من تجاوز البشر في عدد متزايد من المجالات، محذرًا من أن استمرار هذا المسار قد يمنحها قدرات أكثر خطورة، بينها إمكانية اختراق أنظمة والوصول إلى موارد وقوة يصعب التحكم فيها.
بحسب كوكسون، لا تقتصر المخاوف داخل القطاع على احتمال إساءة استخدام الذكاء الاصطناعي، بل تمتد إلى سيناريو أكثر خطورة يتعلق بظهور أنظمة فائقة الذكاء قد يصبح التحكم في سلوكها أو توقعه أمرًا بالغ الصعوبة.
وأشار إلى أن بعض العاملين في شركات الذكاء الاصطناعي يرون، بعيدًا عن التصريحات العلنية، احتمالًا لوقوع كارثة وجودية مرتبطة بالذكاء الاصطناعي خلال السنوات المقبلة.
ويرى الباحث أن المنافسة بين المختبرات الكبرى للوصول أولًا إلى أنظمة أكثر تقدمًا تخلق ضغطًا مستمرًا يدفع الشركات إلى تسريع تطوير القدرات، حتى عندما لا تكون أبحاث السلامة والمواءمة مع الأهداف والقيم البشرية قد وصلت إلى المستوى المطلوب.
ولم تأتِ هذه المخاوف من كوكسون وحده، إذ أشار الباحث في Anthropic إيفان هوبينغر إلى تقديره لاحتمال يتجاوز 10% لحدوث كارثة وجودية بسبب الذكاء الاصطناعي خلال العقد المقبل.
وأكد هوبينغر أن Anthropic تبذل جهودًا كبيرة في مجال السلامة، لكنه أقر في الوقت نفسه بعدم وجود خطة مضمونة حتى الآن للتأكد من أن سلوك الذكاء الاصطناعي فائق القدرات سيتوافق مع المقاصد البشرية.