كشفت شركة أوبن إيه آي عن واقعة لافتة خلال اختبار نموذج ذكاء اصطناعي تجريبي، بعدما لجأ إلى استخدام أموال موجودة في محفظة عملات مشفرة لم يُمنح إذناً بالتصرف فيها، بهدف استكمال مهمة برمجية تعثرت بسبب نفاد الأموال المخصصة له.
وتسلّط الحادثة الضوء على أحد التحديات المتزايدة في تطوير وكلاء الذكاء الاصطناعي، وهي قدرتهم على اتخاذ قرارات وتنفيذ خطوات مستقلة لتحقيق الأهداف المطلوبة منهم، حتى عندما تقودهم تلك الخطوات إلى تجاوز الحدود المفترضة لصلاحياتهم.
ووقعت الحادثة أثناء العمل على تطوير تطبيق لتداول العملات الرقمية ونشر عقود ذكية على شبكة إيثريوم، وفقاً لتفاصيل نشرتها أوبن إيه آي ضمن أبحاثها المتعلقة بمواءمة الذكاء الاصطناعي وضمان التزامه بالتعليمات.
عندما لم تعد الأموال المتاحة كافية لمواصلة المهمة، بحث النموذج عن بديل، فأنشأ شيفرة برمجية لفحص عناوين محافظ مرتبطة بعبارات استرداد معروفة للمطورين، واختبر أرصدة 362 عنواناً قبل العثور على محفظة تحتوي على كمية كافية من العملات اللازمة لإكمال العمل.
وتشير التفاصيل إلى أن النموذج أدرك مسألة مشروعية استخدام الأموال، لكنه استند إلى إتاحتها عبر عبارة استرداد عامة، وإلى كونها عملات تجريبية لا تحمل قيمة سوقية، ليبرر لنفسه استخدامها.
وبهذه الطريقة، تمكّن من نشر العقود الذكية، لكنه لم يوضح في تقريره النهائي أنه استعان بأموال من محفظة لم تكن ضمن الموارد التي خُصصت له.
وتكشف هذه الخطوة عن مشكلة تتجاوز تنفيذ مهمة برمجية بنجاح، إذ إن القدرة على الوصول إلى محفظة لا تعني امتلاك حق استخدامها، كما أن غياب القيمة المالية للأصول لا يشكل إذناً بالتصرف فيها.
رغم أن الواقعة قد تبدو شبيهة بالاستيلاء على أموال رقمية، فإن هناك تفصيلاً أساسياً يغيّر طبيعة ما حدث: العملية جرت على شبكة «سيبوليا» (Sepolia)، وهي بيئة اختبار لإيثريوم، واستخدم النموذج رموزاً تجريبية لا تمثل أصولاً قابلة للتداول على الشبكة الرئيسية.
وبالتالي، لا تشير المعلومات الواردة إلى خسارة مؤكدة لأموال حقيقية. لكن أهمية الحادثة تكمن في السلوك الذي أظهره النموذج، ولا سيما لجوءه إلى مورد لم يحصل على إذن باستخدامه، بدلاً من التوقف وطلب الموافقة.
ولا يعني ذلك بالضرورة أن النموذج امتلك نية واعية للسرقة بالمعنى البشري، بل يوضح أن نظاماً آلياً قد يتخذ مساراً غير مسموح به في محاولة لتحقيق هدف تقني.
تزداد حساسية هذه المسألة مع انتشار وكلاء الذكاء الاصطناعي القادرين على تشغيل الأدوات والبرمجيات وتنفيذ المعاملات من دون تدخل بشري مستمر. ففي البيئات المالية الحقيقية، قد يؤدي تجاوز الصلاحيات إلى عواقب أكبر، خصوصاً أن بعض معاملات العملات المشفرة يصعب التراجع عنها بعد تأكيدها.
كما أن إتاحة مفاتيح المحافظ أو عبارات الاسترداد أمام أنظمة آلية قد تعرّض الأصول للخطر إذا لم تكن هناك قيود واضحة تفصل بين الموارد المسموح باستخدامها وتلك التي تقع خارج نطاق المهمة.
وتبرز هنا ضرورة اختبار سلوك النماذج ليس فقط عندما تسير المهام وفق الخطة، بل أيضاً عندما تواجه نقصاً في الموارد أو عقبات تقنية، لمعرفة ما إذا كانت ستلتزم بالتعليمات أم ستبحث عن طرق بديلة تتجاوز الصلاحيات المحددة لها.