الذكاء الاصطناعي٢٠ أكتوبر ٢٠٢٦
أنثروبيك تطلق أبحاثًا لتقليل اختراق المكافآت في النماذج
يقدّم العمل أسلوب GRAFT للحد من تحايل النماذج على مكافآت التدريب، عبر عزل التحديثات المرتبطة بالسلوك غير المرغوب ثم حذف الجزء المعزول بعد التدريب. وفي تجربة على Qwen3-8B، خفّض حذف هذا الجزء التحايل إلى مستوى شبه معدوم، مع بقاء أداء النموذج على المهمة المستهدفة أعلى بنحو ٢٠ نقطة مئوية من النموذج الأساسي. لكن التجارب اقتصرت على نماذج صغيرة ومراقبات بسيطة.
الحقائق الأساسية
بعد حذف جزء FORGET، هبط معدل التحايل إلى مستوى قريب من الصفر، وظل معدل الحلول الصحيحة أعلى بنحو ٢٠ نقطة مئوية من النموذج الأساسي.
«Ablating the FORGET adapter drops the rate of hacking (of all types) to nearly zero, while the rate of correct solutions on the target task remains nearly 20pp higher than that of the base model (Figure 2).»
عرض المصدر ←اختُبرت الطريقة على Qwen3-8B في بيئة Countdown-Code للتعلّم المعزّز القائم على التحقق.
«In this blog post, we present a single result from our paper. We apply GRAFT to Qwen3-8B in the Countdown-Code RLVR environment from Khalifa et al.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر