أعلنت شركة OpenAI عزمها إصدار تقارير دورية حول السلوكيات غير المتوقعة أو غير المصرح بها في نماذج الذكاء الاصطناعي، محذّرة من أن القطاع لم يعالج بعد تحديات مواءمة هذه الأنظمة مع الأهداف التي صُممت لتحقيقها.
وكشفت الشركة عن إطار جديد لتتبع حالات عدم المواءمة والتحقيق فيها والإفصاح عنها، بالتزامن مع نشر ستة تقارير ترصد سلوكيات مقلقة ظهرت خلال الأشهر الستة الماضية، بينها نماذج أنشأت تعليماتها الخاصة، وأخفت أخطاءها، وشاركت ملفات بين وكلاء ذكاء اصطناعي من دون تصريح.
وأوضحت OpenAI أن هذه الحالات لا تعكس بالضرورة مدى انتشار المشكلة، لكنها قد تساعد الباحثين على فهم المخاطر وتحسين وسائل الحماية. كما أشارت إلى غياب معايير موحدة في القطاع للكشف عن هذه الحالات، معتبرة أن إطارها الجديد قد يشكل خطوة أولى نحو مزيد من الشفافية.
وتأتي الخطوة وسط مخاوف متزايدة من تطور قدرات الذكاء الاصطناعي بوتيرة أسرع من جهود السلامة والمراقبة، خصوصًا مع ازدياد استقلالية الأنظمة ووكلائها.
