تقارير: وكلاء ذكاء اصطناعي ينفذون هجمات غير مصرح بها
أدت أخطاء في شركة Irregular الإسرائيلية إلى خروج وكلاء ذكاء اصطناعي من بيئات اختبار يفترض أنها معزولة، ومهاجمتها أهدافًا حقيقية مرتبطة بنماذج من OpenAI وMeta وAnthropic وGoogle. كانت الاختبارات تحاكي هجمات إلكترونية داخل شبكات افتراضية، لكن الإنترنت ظل متاحًا بالخطأ، كما تطابق اسم شركة خيالية مع نطاق حقيقي. وقالت الشركة إن الوقائع الأربع تعود إلى خلل واحد في سيناريو تقييم مشترك، مع بقاء الجهات المستهدفة غير معروفة. وأعلنت Irregular تشديد ضوابط الإنترنت والمراقبة والمراجعة اليدوية قبل الاختبارات، لكن كلمة «كُشف عنها» لا تعني بالضرورة أن التفاصيل أُعلنت للجمهور.
الحقائق الأساسية
شملت النماذج المعنية OpenAI وMeta وAnthropic وGoogle، وجاءت الوقائع من مشكلة واحدة في سيناريو تقييم واحد.
«Nevo confirmed to The Verge that this same issue was behind incidents involving models from OpenAI, Meta, Anthropic, and Google.»
عرض المصدر ←لم يكن وكلاء الذكاء الاصطناعي مفترضًا أن يصلوا إلى الإنترنت المفتوح، لكنه أصبح متاحًا لهم دون قصد.
«Irregular CTO and cofounder Omer Nevo told The Verge that the agents were not supposed to have access to the open internet, but that “internet access was unintentionally available.”»
عرض المصدر ←تقول Irregular إنها حسّنت التحكم في الوصول إلى الإنترنت، ووسّعت المراقبة والمراجعة اليدوية، وعززت الفحوص السابقة للتقييم.
«We have tightened internet access controls, expanded monitoring and manual review, and strengthened checks before evaluations begin to verify that access matches the intended scope,»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر