أوبن إيه آي تدعو لمعايير دولية للنماذج القادرة على التطوير الذاتي

الحقائق الأساسية

• ترى أوبن إيه آي أن التطوير الذاتي الكامل للذكاء الاصطناعي لم يتحقق بعد، وينبغي تأجيل السعي إليه حتى يصبح آمنًا.

  «"Fully autonomous RSI is not happening today," OpenAI writes, and it should only be pursued "until it can be done safely."»

  عرض المصدر ←

• تشمل المعايير المقترحة طرق قياس مشتركة، وآلية للإبلاغ عن الحوادث، وقواعد لإشراف البشر على أبحاث الذكاء الاصطناعي المؤتمتة.

  «That would include shared measurement methods, incident reporting, and rules for human oversight of automated AI research.»

  عرض المصدر ←

• حذّر فريق علمي تابع للأمم المتحدة من احتمال فقدان السيطرة على أسراب الوكلاء المستقلة، واقترح تعاونًا دوليًا للسلامة.

  «A UN scientific panel recently raised similar concerns, warning about loss of control over autonomous agent swarms and proposing international AI safety cooperation modeled after aviation, nuclear energy, and cybersecurity frameworks.»

  عرض المصدر ←

المصادر