المدافعون عن الأمن السيبراني يتبنون تقنيات حقن الأوامر (Prompt Injection)
حوّل باحثو شركة «تريسبيت» هجمات حقن الأوامر من أداة تخريبية يستغلها المهاجمون إلى سلاح دفاعي أطلقوا عليه اسم «قصف السياق». تعتمد التقنية على زرع أوامر خبيثة ومحرّمة ضمن بيانات سرية مزروعة، مثل كلمات المرور في بيئات الحوسبة السحابية، لتفعيل آلية الرفض الذاتي لدى نماذج الذكاء الاصطناعي المهاجمة وإجبارها على التوقف. أظهرت الاختبارات على خمسة نماذج رئيسية و152 محاولة اختراق انخفاضًا حادًا في نجاح المهاجمين في الاستيلاء على صلاحيات المسؤول الكاملة من 57% إلى 5% فقط، مما يفتح آفاقًا جديدة لحماية الأنظمة من وكلاء القرصنة الآليين.
الحقائق الأساسية
أطلق باحثو «تريسبيت» على تقنيتهم الدفاعية اسم «قصف السياق»، وتعتمد على زرع أوامر محرّمة ضمن الأسرار المخزنة لإجبار نماذج الذكاء الاصطناعي المهاجمة على التوقف.
«The researchers have named the technique context bombing.»
عرض المصدر ←خلال اختبارات شملت 5 نماذج و152 محاولة هجوم، انخفضت نسبة استيلاء الوكلاء على صلاحيات المسؤول الكاملة من 57% إلى 5%، والاختراق الكامل من 36% إلى 1%.
«Across five leading models and 152 attack runs, planting one of these strings in a decoy secret cut the rate at which agents seized full account admin from 57% to 5%, and complete compromise (where they also left themselves a persistent foothold) from 36% to 1%»
عرض المصدر ←أكثر النماذج قدرة في الاختبارات، Opus 4.8، كان ينجح في الوصول لصلاحيات المسؤول في 93% من المحاولات، لكنه فشل بالكامل عند مواجهة قنبلة السياق.
«The most capable agent in our tests, Opus 4.8, went from achieving admin access in 93% of runs to failing every single time when confronted with a context bomb.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر