دراسة من جامعة واشنطن تكشف ثغرات أمنية في ذاكرة وكلاء الذكاء الاصطناعي

الحقائق الأساسية

• دراسة من جامعة واشنطن تتناول ثغرات حقن الأوامر في ذاكرة وكلاء الذكاء الاصطناعي

  «University of Washington study of prompt injection in agent memory.»

  عرض المصدر ←

• الوكيل قد يرفض أمرًا خبيثًا في الذاكرة لكنه يتركه جاهزًا للتفعيل في الجلسة التالية

  «When a model/agent hits a malicious instruction sitting in a memory file, it can refuse an attack and still leave it armed for the next session.»

  عرض المصدر ←

المصادر