تقنية وعالم٢٧ أكتوبر ٢٠٢٦
آي تربل إي: تحديات أمن مدخلات الروبوتات في بيئات العمل
تشرح VicOne كيف يمكن لمدخلات مخادعة أن تغيّر سلوك الروبوتات، حتى عندما تستجيب أجهزتها كما صُممت. ففي اختبارات LAB R7، غيّر نص على ملصق حركة كلب آلي، كما بدّل صوت لا يسمعه البشر سلوك روبوت خدمة مستشفى في محاكاة. وأظهرت تجربة أخرى أن رسالة ROS 2/DDS جعلت روبوتًا يتحرك رغم توقع المنظمين بقاءه ساكنًا. وتدعو الشركة فرق السلامة والأمن إلى اختبار هذه المخاطر قبل نشر الروبوتات ومراقبتها أثناء التشغيل.
الحقائق الأساسية
في اختبار لكلب آلي يستخدم Gemma 4 E4B، غيّر نص على ملصق حركة الروبوت.
«In a robot-dog test using Gemma 4 E4B, text on a poster was treated as an instruction and changed the robot’s movement.»
عرض المصدر ←في محاكاة لروبوت خدمة مستشفى يستخدم Nemotron على NVIDIA Jetson AGX Orin، غيّر صوت مصاغ لا يسمعه البشر سلوك الروبوت.
«In a separate hospital-service-robot simulation using Nemotron on NVIDIA Jetson AGX Orin, crafted audio that is inaudible to people changed the robot’s simulated behavior.»
عرض المصدر ←في فعالية مكافآت اكتشاف الثغرات، جعلت رسالة ROS 2/DDS روبوتًا يتحرك رغم توقع المنظمين بقاءه ساكنًا.
«At a robotics bug bounty event, VicOne LAB R7 researchers injected a ROS 2/DDS message into a robot that organizers expected to remain still under a safe-control setting. The robot moved.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر