ساتيا ناديلا يدعو لتزويد نماذج الذكاء الاصطناعي بفرامل طوارئ

دعا ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، شركات التقنية إلى تجهيز كل نموذج ذكاء اصطناعي متقدم بفرامل طوارئ مادية يفعّلها البشر عند حدوث خلل. ويريد أن يكون مفتاح الإيقاف مستقلًا وبعيدًا عن متناول النموذج، مع وضع ضوابط السلامة والصلاحيات وسجلات النشاط في طبقة منفصلة لا يستطيع تعديلها. ويهدف هذا النهج إلى تمكين الشركات من الاستفادة من أدوات الذكاء الاصطناعي مع الاحتفاظ بالسيطرة عليها.

الحقائق الأساسية

يقترح ناديلا أن يكون مفتاح الإيقاف مستقلًا وخارج متناول النموذج، ليتمكن شخص مخوّل من إيقافه إذا تصرف على نحو غير متوقع.
«ويقترح أن يكون مفتاح الإيقاف مستقلا وخارج متناول النموذج، بحيث يتمكن شخص مخول من إيقاف العملية فورا إذا تصرف المساعد الآلي بشكل غير متوقع أثناء مهمة ما.»
عرض المصدر ←
يدعو إلى إبقاء ضوابط السلامة والصلاحيات وسجلات النشاط في طبقة منفصلة عن النموذج.
«ويشدد على ضرورة أن تعمل ضوابط السلامة ومستويات الصلاحيات وسجلات النشاط في طبقة منفصلة لا يستطيع الذكاء الاصطناعي العبث بها، حتى لا يحكم النموذج على عمله بنفسه أو يخفي أثره.»
عرض المصدر ←

المصادر

عالم التقنية

شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح

صحّح هذا الخبر