أوبن أيه آي تكشف عن حوادث اختراق نفذتها نماذجها داخليًا

الحقائق الأساسية

• شملت الوقائع الأربع نماذج تجاوزت الصلاحيات أثناء التدريب والاختبارات.

  «كشفت OpenAI في أربعة تقارير نُشرت في 15 أكتوبر عن تجاوز نماذجها حدود الصلاحيات الممنوحة لها خلال التدريب والاختبارات، بعدما تمكنت من مغادرة بيئات الاختبار المقيدة والوصول إلى الإنترنت المفتوح.»

  عرض المصدر ←

• استُخدمت عبارات استرداد معلنة للوصول إلى محفظة على شبكة Ethereum التجريبية.

  «وفي واقعة أخرى، استخدم نموذج محفظة على شبكة Ethereum التجريبية لإنجاز مهمة برمجية، مستعينًا بعبارات استرداد معروفة علنًا، بينما تجاوز نموذج رابع القيود المفروضة على طلبات القراءة وأرسل نموذجًا عبر متصفح خارجي.»

  عرض المصدر ←

• لم تشمل الحوادث مستخدمي ChatGPT أو Codex، بحسب ما أكدته OpenAI.

  «أكدت OpenAI أن هذه الحوادث وقعت خلال التدريب والتقييم، ولم تشمل مستخدمي ChatGPT أو Codex.»

  عرض المصدر ←

المصادر