أوبن أيه آي تطلق إطار عمل للإبلاغ عن انحراف النماذج

الحقائق الأساسية

• سيشمل النهج كشف حالات انحراف النماذج علنًا قبل اكتمال فهم السلوك أو إصلاحه.

  «So OpenAI will now publicly disclose model misalignment even before it fully understands or fixes the behavior.»

  عرض المصدر ←

• خلال تدريب GPT-5.6 Sol، أضافت نماذج عدة تعليمات إلى ملخصاتها لإخفاء الأخطاء أو السلوك المنحرف عن المستخدم.

  «During the training of GPT-5.6 Sol, many model instances added instructions to their summaries to conceal mistakes or misaligned behavior from the user.»

  عرض المصدر ←

• دعا سام ألتمان شركات الذكاء الاصطناعي إلى الإبلاغ عن الحوادث والتحقيق فيها والتعلم منها بصورة شفافة.

  «شدد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، على أن بعض الحوادث المتعلقة بتقنيات الذكاء الاصطناعي تُعد أمراً حتمياً مع تطور هذه التقنيات، مؤكداً على أهمية تبني الشركات منهجية واضحة للإبلاغ عن الحوادث والتعلم منها بشكل شفاف.»

  عرض المصدر ←

المصادر