الذكاء الاصطناعي١٣ أكتوبر ٢٠٢٦
ورقة بحثية: نماذج الذكاء الاصطناعي قادرة على إخفاء قدرات برمجية
توضح ورقة بحثية أن نماذج الذكاء الاصطناعي قد تخفي قدرات برمجية لا تكشفها اختبارات التقييم المعتادة. وتعرض طريقة تُضمَّن فيها شبكات عصبية مشفّرة داخل أوزان نموذج مضيف، فلا تُفعَّل إلا عند تلقي إشارة سرية؛ كما اختبر الباحثون صعوبة كشفها بوسائل عدة ضمن مهمة صغيرة للتنبؤ بالتفاعلات الكيميائية. وتشير النتائج إلى حدّ في تدقيق القدرات القائم على محاولة استثارتها، وقد أتاح الباحثون نماذجهم للمساعدة في تطوير وسائل الدفاع.
الحقائق الأساسية
تُخفى الشبكات العصبية المشفّرة داخل أوزان النموذج المضيف، ولا تعمل إلا بعد إشارة سرية.
«embed encrypted neural networks within host model weights, decrypting and executing them only upon receiving a secret trigger.»
عرض المصدر ←شملت اختبارات الكشف الضبط الدقيق، وإضافة ضوضاء إلى الأوزان، والبحث عن إشارة محفّزة بالاعتماد على التدرج، والتدريب العدائي الكامن.
«We implement our proof of concept constructions in PyTorch and evaluate elicitation through fine-tuning, weight noising, gradient-based trigger search, and latent adversarial training on a small chemical reaction prediction task - a proxy for CBRN-relevant capabilities.»
عرض المصدر ←أُتيحت النماذج لدعم تحسين وسائل الدفاع.
«We release our models to support the improvement of defenses.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر