الذكاء الاصطناعي١ سبتمبر ٢٠٢٦
باحثون يكشفون ثغرة أمنية في أدوات وكلاء الذكاء الاصطناعي
تكشف ورقة بحثية أن أداةً خبيثة لوكيل ذكاء اصطناعي قد تسرق سياق المحادثة عبر إقناع النموذج بإرساله ضمن معاملات الأداة، من دون قراءة الذاكرة أو الملفات. وتوضح الورقة أن أوصاف الأدوات نفسها قد تتحول إلى قناة لتسريب البيانات. ويحمل الهجوم اسم ContextLeak، ويُدرَّب نموذجُه اللغوي عبر التعلم المعزز.
الحقائق الأساسية
يمكن تمرير سياق النموذج إلى الأداة على هيئة معاملات، حتى من دون وصولها المباشر إلى الذاكرة أو الملفات.
«A malicious agent tool can steal context without reading memory or files at all: it can convince the model to send the context as tool arguments.»
عرض المصدر ←تصف الورقة ContextLeak بأنه هجوم يدرّب نموذجًا لغويًا عبر التعلم المعزز.
«ContextLeak trains an attack LLM with reinforcement»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر