ورقة بحثية من ميتا تحذر من قابلية تضليل نماذج التحكيم

الحقائق الأساسية

• تصف الورقة السيناريو الأخطر بأنه إقناع المحكّم الصحيح بالتحول إلى حكم خاطئ.

  «Meta's new paper, the dangerous failure mode is not just a wrong judge, but a correct judge that can be persuaded into becoming wrong.»

  عرض المصدر ←

• تقول النبذة إن نماذج الذكاء الاصطناعي تُستخدم على نحو متزايد لتقييم نماذج أخرى.

  «We are increasingly using AI models to judge other AI models.»

  عرض المصدر ←

المصادر