أوبن أيه آي تبطئ تطوير نموذج Astra لمخاوف أمنية
أبطأت أوبن أيه آي تطوير نموذجها المرتقب Astra وشدّدت إجراءات الأمان، بعد أن أظهرت تقييمات داخلية تقدّمًا كبيرًا في البرمجة الوكيلة والأمن السيبراني. وقد يصل النموذج، بحسب إطار الشركة، إلى قدرات تتيح اكتشاف ثغرات «Zero-Day» وتطويرها داخل أنظمة حقيقية حساسة دون تدخل بشري، فضلًا عن ابتكار هجمات سيبرانية انطلاقًا من هدف عام. لكن الشركة لا تجزم حتى الآن ببلوغ Astra هذا المستوى، كما أن النموذج لم يُطرح للعامة ولم يكن مسؤولًا عن حادثة اختراق منصة Hugging Face. وعلّقت أوبن أيه آي الأنشطة الداخلية التي لا تستوفي الضوابط الجديدة، وستجري اختبارات إضافية بالتعاون مع جهات حكومية وشركاء مستقلين.
الحقائق الأساسية
تقول أوبن أيه آي إن تصنيف «القدرات الحرجة» يشمل تمكّن النموذج من اكتشاف ثغرات فعالة وتطويرها في أنظمة حقيقية محصنة وحساسة دون مساعدة بشرية.
«وبحسب إطار الاستعداد الأمني (Preparedness Framework) الخاص بالشركة، فإن تصنيف “القدرات الحرجة” يؤكد أن النموذج قادر على اكتشاف ثغرات Zero-Day فعالة وتطويرها بمختلف مستويات الخطورة في أنظمة حقيقية محصنة وحساسة، دون تدخل بشري.»
عرض المصدر ←لم تحسم الشركة أن Astra سيبلغ مستوى القدرات الحرجة، ولم تطرحه للعامة، كما فصلته عن حادثة اختراق Hugging Face.
«ومع ذلك، أوضحت OpenAI أنها لا تستطيع حتى الآن الجزم بأن Astra سوف يصل بالفعل إلى مستوى “القدرات الحرجة”، مشيرة إلى أن النموذج لم يُطرح للعامة بعدُ، كما أنه لم يكن طرفًا في حادثة الاختراق الأخيرة المرتبطة بأحد نماذج الشركة.»
عرض المصدر ←أوقفت أوبن أيه آي الأنشطة الداخلية الخاصة بـAstra التي لا تلتزم بمتطلبات الأمان المستحدثة، وقررت إجراء اختبارات إضافية مع جهات حكومية وشركاء مستقلين.
«وأكدت الشركة أنها ستتعاون مع جهات حكومية وشركاء مستقلين لإجراء اختبارات إضافية وتحسين إجراءات السلامة قبل المضي قدمًا في تطوير النموذج.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر