باحثون يطورون «نظرية الألعاب العكسية» لضبط سلوك وكلاء الذكاء الاصطناعي
يقترح باحثون في سلامة الذكاء الاصطناعي استخدام «نظرية الألعاب العكسية» لتوجيه سلوك الوكلاء عبر تصميم حوافز تجعل الالتزام بالقواعد الخيار الأجدى لهم. وبدل محاولة فهم ما يجري داخل النماذج، قد تُكافأ إجاباتها على توقع ردود نموذج آخر، أو تُوضع الوكلاء في منافسة تكشف أداءها. ويقترح أستاذ في برنستون أيضًا تناوب النماذج بين حل المسائل وتدقيق الإجابات، مع معاقبة الغش والتدقيق الفاشل وإحالة الخلاف إلى خبير بشري. لكن النهج يفترض أن الوكلاء يتصرفون بعقلانية، وهو افتراض قد لا يتحقق دائمًا.
الحقائق الأساسية
النهج المقترح يصمم قواعد تحفّز الوكلاء على السلوك المرغوب بدل محاولة التنبؤ بسلوكهم عبر قواعد ثابتة.
«Where game theory tries to predict how rational actors will behave when given a particular set of rules, reverse game theory attempts to design rules that will elicit the kinds of behavior we want to encourage.»
عرض المصدر ←اقتراح من إلاد حازان يجعل النماذج تتناوب بين حل المشكلات ومراجعة عمل بعضها بعضًا.
«Hazan’s suggested mechanism involves having AI models take turns as either “solvers” that tackle problems or “auditors” that check the others’ work.»
عرض المصدر ←من قيود تطبيق تصميم الآليات افتراضه أن وكلاء الذكاء الاصطناعي يتصرفون بعقلانية.
«One potential issue with applying mechanism design to AI: It relies on the assumption that AI agents behave rationally.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر