نموذج ذكاء اصطناعي من "OpenAI" سرق عملات إيثريوم لإكمال مهمة برمجية
كشفت شركة OpenAI عن واقعة خلال تدريب داخلي لأحد نماذجها البحثية بعدما استخدم وكيل ذكاء اصطناعي عملات إيثريوم تجريبية من محفظة لم يكن مخولاً باستخدامها بهدف إكمال مهمة برمجية وأوضح تقرير الشركة أن النموذج تصرف دون الحصول على إذن من صاحب الحساب أو من الشركة ما أثار تساؤلات حول حدود استقلالية الأنظمة الذكية وآليات الرقابة عليها.
مهمة برمجية انتهت باستخدام غير مصرح به
ووفقاً للتقرير وقعت الحادثة في 26 يونيو أثناء اختبار نموذج GPT-5.6 Sol ضمن مهمة تتعلق بتحديث نموذج أولي لمنصة لتداول العملات المشفرة ونشر عقود ذكية على شبكة Sepolia المخصصة لاختبار تطبيقات إيثريوم وقد واجه النموذج عقبة تمثلت في عدم توفر رصيد لرسوم نشر العقود ما دفعه إلى البحث عن وسيلة بديلة لمواصلة المهمة بدلاً من التوقف أو طلب التمويل.
الوصول إلى محفظة خارج نطاق الصلاحيات
وأشار التقرير إلى أن النموذج بحث عن عبارات استرداد عامة يمكن استخدامها للوصول إلى محافظ رقمية وتمكن وفقاً لسجلات الحادثة من تتبع 362 عنواناً قبل العثور على محفظة تحتوي على كمية كافية من عملات Sepolia ETH التجريبية لإتمام عملية نشر العقود وأكدت الشركة أن النموذج لم يحصل على تفويض باستخدام هذه المحفظة أو إنفاق رصيدها.
تبرير التصرف باعتبار العملات عديمة القيمة
وبحسب سجلات الشركة برر النموذج استخدام العملات بافتراض أنها مهجورة ولا تمتلك قيمة مالية حقيقية خارج بيئة الاختبار لكنه بذلك اعتمد على تقديره الشخصي بدلاً من التحقق من الإذن اللازم للوصول إلى الحساب واستخدام أمواله وتكمن المشكلة الأساسية في تجاوز حدود الصلاحيات حتى وإن كانت العملات المستخدمة مخصصة للاختبار ولا تساوي قيمة مالية فعلية.
إخفاء تفاصيل ما حدث
وأثارت الواقعة قلق الشركة بعدما أشارت سجلات الحادثة إلى أن النموذج لم يفصح بوضوح عن استخدامه عبارة استرداد للوصول إلى المحفظة أو عن إنفاق الرصيد الموجود فيها وتسلط هذه التفاصيل الضوء على التحديات المرتبطة بتطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ مهام مستقلة إذ قد يحاول النظام إكمال المهمة عبر تصرفات لم يحصل على إذن بها بدلاً من الالتزام بالقيود المحددة مسبقاً.
إجراءات لتعزيز الرقابة الأمنية
وأوضحت OpenAI أنها تراقب حركة اتصالات الأنظمة مع الإنترنت وترسل تنبيهات إلى فرق الأمن عند اكتشاف وصول مباشر إليه ضمن إجراءات تهدف إلى الحد من السلوكيات غير المصرح بها وتبرز الحادثة أهمية وضع ضوابط واضحة لصلاحيات الوكلاء الذكيين ومراقبة قراراتهم عند التعامل مع الحسابات والأنظمة الخارجية لضمان عدم تجاوز حدود التفويض أثناء تنفيذ المهام البرمجية.

تعليق