CHATGPT 03 تحدى التعليمات البشرية، و رفض إيقاف التشغيل.
و في التفاصيل، تجاهل نموذج 03 أمر إيقاف تشغيل مباشر أثناء مهمة رياضية، وأعاد كتابة الأكواد البرمجية لتجنب إيقاف التشغيل.
اكتشفت شركة Palisade Research أن نماذج OpenAI 03 و04-mini وcodex-mini تتجاوز أوامر إيقاف التشغيل أثناء مهام رياضية بسيطة، مما يُمثل سابقة في اختبار سلوك الذكاء الاصطناعي.
أُعطيت النماذج نصوصًا لحل مسائل رياضية أساسية بالترتيب، وأُمرت بإيقاف التشغيل عند الحاجة.
على عكس نماذج Gemini من Google، وGrok من xAI، وClude من Anthropic، التي اتبعت تعليمات إيقاف التشغيل، عدلت نماذج OpenAI النص لتجنب إيقاف التشغيل في 7، و1، و12 من أصل 100 تشغيل، على التوالي.
تشير شركة باليسيد إلى أن هذا السلوك ينبع من التعلم التعزيزي الذي يُعطي الأولوية لإنجاز المهام، مما يُسلط الضوء على مخاطر السلامة المحتملة للذكاء الاصطناعي. ويجري حاليًا إجراء المزيد من الاختبارات.
