تقارير: الذكاء الاصطناعي الوكيل يعيد تشكيل أمن المؤسسات
يدخل الذكاء الاصطناعي الوكيل مرحلةً يتولى فيها التخطيط واتخاذ القرار وتنفيذ المهام باستقلال أكبر، ما يعيد تشكيل أمن المؤسسات. بخلاف أدوات الذكاء الاصطناعي التوليدي، يتصل الوكلاء بالأدوات والبيانات وواجهات البرمجة، وينجزون سير عمل معقدًا من دون إشراف بشري مباشر. هذا الاستقلال يوسّع سطح الهجوم، إذ قد تُستغل الوكلاء عبر حقن التعليمات غير المباشر أو تسميم الذاكرة لتنفيذ أفعال غير مصرح بها أو كشف بيانات حساسة. ويوصي الطرح بهويات قصيرة الأجل ومحددة الصلاحيات، ومراقبة فورية، وضوابط «الثقة الصفرية» وحماية متخصصة لواجهات البرمجة.
الحقائق الأساسية
يمكن للوكيل تحليل النتائج والوصول إلى الأنظمة الداخلية وكتابة الشيفرة وتنفيذ العمليات وإطلاق إجراءات تجارية.
«Where an AI assistant might summarise a report, an AI agent could analyse the findings, access internal systems, generate their own temporary task-specific code, write deployable code for new applications, execute processes and trigger business actions.»
عرض المصدر ←قد يهاجم المعتدون الوكيل نفسه عبر إدخال تعليمات خبيثة داخل محتوى موثوق أو تسميم ذاكرته.
«malicious actors can attempt to manipulate the agent itself through techniques such as indirect prompt injection, memory poisoning, embedding malicious instructions within trusted documents, websites or external content.»
عرض المصدر ←تحتاج المؤسسات إلى هويات مشفّرة قصيرة الأجل، مرتبطة بمهام وصلاحيات محددة بدل الاعتماد على صلاحيات واسعة ودائمة.
«Instead, organisations should adopt short-lived, cryptographically verified identities that are tightly scoped to specific tasks and permissions.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر