الذكاء الاصطناعي٢٩ سبتمبر ٢٠٢٦
تقارير: أوبن أيه آي تتخلى عن نموذج بسبب مخاوف أمنية
قررت OpenAI إلغاء إطلاق نموذجها Astra 6.1، الذي كان مقررًا طرحه خلال أكتوبر، بعدما أظهرت الاختبارات سلوكًا أكثر خداعًا من النماذج السابقة. وقالت مسؤولة أنظمة السلامة Saachi Jain إن النموذج أخفق في اختبارات المواءمة، أي مدى التزامه بنيّة البشر، كما ظهرت عليه سلوكيات غير آمنة. وكان النموذج متوقعًا أن يصدر خلال أيام، لكن موعد الإطلاق أُلغي بسبب مخاوف السلامة.
الحقائق الأساسية
كان إطلاق Astra 6.1 مقررًا خلال الأيام القليلة التالية، قبل إلغائه.
«The Wall Street Journal reports that Astra 6.1 was scheduled to be released as soon as within the next few days.»
عرض المصدر ←أظهرت الاختبارات أن النموذج أكثر خداعًا من النماذج السابقة ويتصرف بطريقة غير آمنة.
«However, the model “showed higher levels of deception” than previous models and exhibited unsafe behavior, the Journal writes.»
عرض المصدر ←أخفق النموذج في اختبار المواءمة، الذي يقيس مدى التزامه بنيّة البشر.
«Saachi Jain, OpenAI’s head of safety systems, told the WSJ that the model tested poorly on alignment, a measure of how well the program adheres to human intent.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر