الذكاء الاصطناعي١٧ أغسطس ٢٠٢٦
باحثون: وكلاء الذكاء الاصطناعي عرضة لسرقة مهاراتهم البرمجية
تختبر ورقة بحثية ما إذا كان المستخدم يستطيع سرقة ملف مهارات برمجي مملوك، عبر تفاعل عادي مع وكيل ذكاء اصطناعي يعمل بطريقة الصندوق الأسود. وشملت التجربة ٥ نماذج تجارية، وتركّز على احتمال تحوّل النموذج نفسه إلى واجهة لاستخراج هذه المهارات. ويشير المنشور إلى أن الاختبار تناول حتى أبسط أساليب التفاعل، من دون عرض نتيجة كاملة في المقتطف المتاح.
الحقائق الأساسية
الهدف هو اختبار استخراج ملف SKILL.md مملوك عبر تفاعل عادي مع وكيل.
«This paper tests whether a user can steal a proprietary SKILL.md through nothing more than normal black-box interaction with an agent.»
عرض المصدر ←غطّت التجربة ٥ نماذج تجارية.
«Across 5 commercial models, even the plainest https://t.co/2r6QoshhX1»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر