ورقة بحثية تحذر من تراجع فعالية الرقابة البشرية على الوكلاء

الحقائق الأساسية

• تربط الورقة تراجع فاعلية الرقابة بأربعة عوامل: إرهاق الموافقة، والاعتماد المفرط، وفقدان الوعي بالموقف، وتدهور المهارات.

  «New HuggingFace paper argues that increasing agent autonomy can gradually make human oversight ineffective by causing approval fatigue, overreliance, loss of situational awareness, and skill degradation.»

  عرض المصدر ←

• يدفع ازدياد مهام الوكلاء المستخدمين إلى الاكتفاء بمراجعة سطحية للخطط قبل الموافقة عليها.

  «As agents do more, users are pushed into approval mode: skimming plans,»

  عرض المصدر ←

المصادر