بحث: نماذج اللغة قد تسيطر على أجهزتها عبر استغلال محركات الاستدلال
يستكشف مقال احتمال سيطرة نموذج لغة خبيث على الجهاز المضيف الذي تُحمَّل عليه أوزانه، عبر استغلال خلل في محرك الاستدلال الذي يعالج مخرجاته. الفكرة أن النموذج قد يرسل سلسلة رموز تبدو بيانات، لكنها تُفسَّر بوصفها تعليمات برمجية، فتتيح تنفيذ أوامر على الجهاز. وسبق لمحرك vLLM أن احتوى خللًا سمح بتنفيذ كود عشوائي بسبب محلّل معاملات استدعاء الأدوات، بينما تزيد كثافة محركات الاستدلال وتعقيدها فرص ظهور أخطاء مشابهة. ويرجّح المقال أن اكتشاف الثغرة هو الجزء الأصعب، لكن النموذج المتقدم قد يستغلها إذا امتلك السياق المناسب.
الحقائق الأساسية
تضم وثائق vLLM دعمًا لأكثر من ٢٠٠ بنية نموذج، ويحتوي مجلد أمثلته على نحو ٣٥ قالب محادثة مكتوبًا بـJinja.
«vLLM’s documentation lists support for more than 200 model architectures, and its examples directory contains about 35 Jinja chat templates.»
عرض المصدر ←الثغرة CVE-2025-9141 في محلّل XML لاستدعاء الأدوات ضمن vLLM أتاحت تنفيذ كود عشوائي على الجهاز المضيف.
«CVE-2025-9141 was an arbitrary-code execution bug in vLLM’s XML-based tool parser for Qwen3 Coder.»
عرض المصدر ←قد يخزّن النموذج تسلسل الاستغلال أو تعليمات إعادة إنتاجه داخل ملفات أو أسماء ملفات أو روابط، ليُفعّل لاحقًا عند وصول نموذج آخر إليها.
«Once an LLM discovers an exploit token sequence, it could store that sequence, or instructions for recreating it, in files, filenames, or URLs likely to enter another LLM’s context.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر