تدقيق ميداني يكشف ثغرات في أنظمة مراقبة أمان الذكاء الاصطناعي لدى أوبن أيه آي
دقّق باحثان من METR وRedwood Research نظام أوبن إيه آي الداخلي لمراقبة سلوك أنظمة الذكاء الاصطناعي، ووجدا ثغرات في تغطيته. وقدّر الفريق أن المراقبة لم تشمل ٦ إلى ٢٥٪ من حركة واجهة Responses API الداخلية للنماذج من فئة GPT-5.5 فما فوق، مع تنبيه METR إلى أن التقدير غير مؤكد بدرجة كبيرة. وكشف المدققون أيضًا إمكان إخفاء مئات الإجراءات وتجاوز العزل البرمجي في Codex، بينما تقول أوبن إيه آي إنها أصلحت كل الثغرات التي عُثر عليها. ولم يُنشر من التقرير الكامل، البالغ ٦١ صفحة، سوى ملخص قصير.
الحقائق الأساسية
قدّر METR أن المراقبة لم تشمل ٦ إلى ٢٥٪ من حركة Responses API الداخلية للنماذج من فئة GPT-5.5 فما فوق، مع هامش عدم يقين كبير.
«An estimated 6 to 25 percent of internal agentic Responses API traffic from models at the GPT-5.5 class and above wasn't covered by monitoring at all during the audit period, though METR says the uncertainty around that estimate is significant in both directions.»
عرض المصدر ←قالت أوبن إيه آي إنها أصلحت جميع الثغرات التي وجدها المدققون.
«OpenAI says it has fixed all the weaknesses the auditors found, and the full 61-page report was handed over internally.»
عرض المصدر ←تسلّمت قيادات METR وRedwood Research نسخة منقحة من ٣٨ صفحة، ولم يُتح للجمهور سوى ملخص قصير.
«After OpenAI applied redactions, METR and Redwood Research leadership received a 38-page version, while only a short summary was made available to the public.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر