الشرق الأوسط تناقش تحديات شفافية قرارات وكلاء الذكاء الاصطناعي
يحذّر جيمس هودج، كبير استراتيجيي البيانات والمدير التقني الميداني في «سبلانك»، من منح وكلاء الذكاء الاصطناعي صلاحيات أوسع قبل القدرة على تفسير قراراتهم. ويقترح تقييم سلوك الوكيل عبر ثلاث طبقات: البيانات التي يعتمد عليها، والسياق المحيط به، والسياسات التي تحدد المقبول. كما تساعد أدوات المراقبة في تسجيل المدخلات والخطوات والمخرجات، لإعادة بناء المسار الذي قاد إلى القرار وتحديد مصدر الخطأ. وتختلف حدود المراقبة بحسب موقع الوكيل؛ فالوكلاء داخل المؤسسة أوضح سلوكاً من الوكلاء الخارجيين، بينما يتطلب تسارع عملياتهم استخدام نماذج أصغر وتقنيات إحصائية وقواعد تقليدية لرصد الانحرافات.
الحقائق الأساسية
يعتمد تقييم انحراف الوكيل على ثلاث طبقات مترابطة تشمل البيانات والسياق والسياسات.
«ويشرح أن ذلك يتطلب ثلاث طبقات مترابطة، بدءاً من طبقة بيانات يعتمد عليها الوكيل، وطبقة سياق تساعد في فهم ما يحدث، ثم طبقة سياسات تحدد ما يعتبر سلوكاً مقبولاً.»
عرض المصدر ←تسجل أدوات المراقبة مطالبات النظام ومدخلاته وخطواته ومخرجاته لإعادة بناء القرار النهائي.
«وبحسب هودج، تتيح أدوات مراقبة الوكلاء تسجيل المطالبات التي تدخل إلى النظام، والمدخلات التي تلقاها، والخطوات التي نفذها، والمخرجات التي نتجت عنها، بما يسمح بإعادة بناء المسار الذي أدى إلى القرار النهائي.»
عرض المصدر ←تستخدم «سبلانك» نماذج لغوية أصغر وتقنيات إحصائية وقواعد تقليدية لمراقبة الوكلاء بسرعة وكلفة أقل.
«ولهذا يقول جيمس هودج إن «سبلانك» تعتمد على مزيج من الأساليب، بينها نماذج لغوية أصغر، ومحددة المهام، إلى جانب تقنيات إحصائية، وقواعد تقليدية، لرصد الانحرافات بسرعة وكلفة أقل.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر