الذكاء الاصطناعي١٩ أغسطس ٢٠٢٦
فابرايكس تطلق وكيل Nyx لاختبار أمن وكلاء الذكاء الاصطناعي
أطلقت فابرايكس وكيل Nyx المستقل لاختبار أمن وكلاء الذكاء الاصطناعي عبر هجمات مضادة. ويمكن توجيه Nyx إلى أي وكيل ذكاء اصطناعي لتنفيذ هجمات من مكتبة تضم أكثر من ١٠ آلاف محاولة لتجاوز قيود النماذج، بهدف كشف الثغرات الأمنية. ويعرض الوكيل مع كل نتيجة خطوات الهجوم كي يتمكن الوكيل المستهدف من رصد نقطة الضعف، بحسب منشور @testingcatalog على إكس.
الحقائق الأساسية
يستخدم Nyx مكتبة تضم أكثر من ١٠ آلاف محاولة لتجاوز القيود عند اختبار الوكلاء.
«Users can point it at any AI agent and run adversarial attacks from a library of 10,000+ jailbreaks to surface security holes.»
عرض المصدر ←تتضمن كل نتيجة خطوات الهجوم لمساعدة الوكيل على اكتشاف الثغرة.
«Every finding outputs the attack steps to the agent so it can spot a vulnerability.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر