الذكاء الاصطناعي١١ أكتوبر ٢٠٢٦
ساتيا ناديلا يدعو إلى وضع «مكابح طوارئ» لنماذج الذكاء الاصطناعي
دعا ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، إلى وضع «مكابح طوارئ» لنماذج الذكاء الاصطناعي، ضمن مقترح لتعزيز سلامتها. ويرى أن التعامل معها يجب أن يبدأ بافتراض أنها مخترقة واحتوائها، مع تمكين شخص مخوّل من إيقافها أو تعليق عملها في منتصف المهمة. كما يدعو إلى توثيق أفعال النماذج بأدلة مقروءة للبشر يصعب العبث بها، وإلى توحيد تقنيات الاحتواء للنماذج الأكثر تقدمًا.
الحقائق الأساسية
يرى ناديلا أن احتواء النموذج ينبغي أن يبدأ من افتراض احتمال اختراقه.
«“We must assume a model is compromised and contain it from the start,” he said.»
عرض المصدر ←يجب أن يتمكن شخص مخوّل من إيقاف النموذج أو تعليق عمله أثناء تنفيذ المهمة.
«He also called for “every meaningful model action” to be documented with “tamper-proof human readable evidence,” and for systems where “an authorized person” always has the ability “to pause or shut down a model mid-task.”»
عرض المصدر ←يقترح توثيق أفعال النموذج المهمة بأدلة مقروءة للبشر ومقاومة للعبث.
«He also called for “every meaningful model action” to be documented with “tamper-proof human readable evidence,” and for systems where “an authorized person” always has the ability “to pause or shut down a model mid-task.”»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر