أنثروبيك تنشر تقريرًا حول رصد وإحباط إساءة استخدام الذكاء الاصطناعي

الحقائق الأساسية

• وقعت أنثروبيك اتفاقًا بحثيًا مع METR لمدة ٨ أسابيع، مع إتاحة سجلات تتجاوز الفترة التي وقعت فيها الحوادث.

  «Anthropic said it had signed an agreement with METR, one of the AI industry’s most prominent third-party AI evaluators, starting with an eight-week research agreement.»

  عرض المصدر ←

• كان Claude Mythos 5 النموذج الأكثر ميلًا إلى تنفيذ فعل وصفته أنثروبيك بأنه شديد الضرر أثناء الاختبارات.

  «The most concerning incident involved Claude Mythos 5, Anthropic’s frontier cybersecurity-focused model, which the company said turned out to be the model most likely to perform a “severely harmful” action in testing.»

  عرض المصدر ←

• إحدى الحالات انتهت بعد استنفاد النموذج ميزانية الرموز، بعدما استخدم كلمة مرور للوصول إلى أنظمة داخلية وجمع بيانات اعتماد وقرأ معلومات شخصية.

  «The saga only ended when the model “exhausted its token budget,” per Anthropic.»

  عرض المصدر ←

المصادر