دراسة: الذكاء الاصطناعي أكثر عرضة للانحياز من البشر في عمليات التوظيف
كشفت دراسة علمية من جامعتي برنستون وشيكاغو أن نماذج الذكاء الاصطناعي مثل ChatGPT و Claude و Gemini أكثر عرضة للانحياز من البشر عند توظيف المرشحين، بل وتصنع تحيزات جديدة من تجاربها الخاصة. وفي تجربة محاكاة لوظائف متخيلة، أظهرت النماذج قدرة على فصل المرشحين حسب انتمائهم العرقي بناءً على ملاحظات مبكرة محدودة، وسجلت مستويات تمييز أعلى بكثير من المشاركين البشر. ووجد الباحثون أن النماذج الأحدث ذات قدرات استدلالية أعلى كانت أكثر انحيازًا، وأن توجيه النموذج للتصرف بعدل لم يغير سلوكه كثيرًا، بينما ساعد تقديم معلومات شخصية مفصلة أو مكافأة على التنويع في تقليل هذا التحيز بشكل ملحوظ. وتثير هذه النتائج مخاوف جدية مع توسع الشركات في استخدام الذكاء الاصطناعي لفرز السير الذاتية وإجراء المقابلات، إذ قد يصنع أنماطًا تمييزية من بيانات محدودة.
الحقائق الأساسية
أجرى باحثون من جامعتي برنستون وشيكاغو تجربة على نماذج LLM لتوظيف مرشحين من أربع مجموعات عرقية وهمية، فسجلت النماذج مستوى تمييز أعلى بنحو 65% من البشر، حيث بلغ نموذج o3 من OpenAI 1.83 على مقياس الفصل مقارنة بـ 0.84 للبشر.
«The models scored roughly 65% higher, with OpenAI’s reasoning model o3 scoring 1.83, close to the maximum possible.»
عرض المصدر ←نماذج الاستدلال الأحدث مثل o3 من OpenAI و R1 من DeepSeek أظهرت مستويات انحياز أعلى، لأنها تميل إلى التعميم السريع من بيانات محدودة.
«In the experiment, newer models with higher reasoning capabilities, such as OpenAI’s o3 and DeepSeek’s R1, showed even stronger biases.»
عرض المصدر ←تقديم معلومات شخصية مفيدة كالعمر والتعليم قلل من انحياز النماذج، بينما لم يكن توجيهها للتصرف بعدل فعالًا، ونجح وعد بمكافأة إضافية للتوظيف المتنوع في تقليل التحيز.
«But promising the models an additional bonus for diverse hiring made them far less biased.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر