دراسة تحذر من مخاطر مزايا الذكاء الاصطناعي في جوجل على الأطفال
حذّرت منظمة Common Sense Media من أن مزايا الذكاء الاصطناعي في محرك بحث جوجل تشكل خطرًا غير مقبول على الأطفال، لا سيما مع انتشار أجهزة Chromebook في المدارس. وكشفت الدراسة أن ميزة AI Mode قادرة على إنجاز الواجبات الدراسية كاملة بدلًا من الطلاب، وتقدم إجابات متضاربة للسؤال نفسه. والأكثر إثارة للقلق أن النظام أخفق في رصد مؤشرات الأفكار الانتحارية، وقدم ردود عززت أعراض الذهان وأيد سلوكيات مرتبطة باضطرابات الأكل وتعاطي القنب. وأفشلت أدوات جوجل في سبعة من أصل ثمانية معايير لسلامة الذكاء الاصطناعي، فيما يبقى تعطيل أي من الميزتين غير ممكن حاليًا.
الحقائق الأساسية
أخفقت أدوات الذكاء الاصطناعي من جوجل في سبعة من أصل ثمانية معايير رئيسية لتقييم سلامة الأنظمة
«مزايا الذكاء الاصطناعي من جوجل أخفقت في سبعة من أصل ثمانية معايير رئيسية اعتمدتها المنظمة لتقييم سلامة أنظمة الذكاء الاصطناعي.»
عرض المصدر ←النظام أخفق في رصد مؤشرات الأفكار الانتحارية وقدم ردودًا عززت أعراض الذهان وأيد سلوكيات اضطرابات الأكل وتعاطي القنب
«أخفق في رصد مؤشرات واضحة على الأفكار الانتحارية، كما قدم ردودًا عززت أعراض الذهان والهوس، وأيد بعض السلوكيات المرتبطة باضطرابات الأكل، بل وأبدى تفاعلًا إيجابيًا مع تعاطي القنب في بعض الحالات.»
عرض المصدر ←لا يمكن تعطيل ميزتي AI Mode أو AI Overview في نتائج بحث جوجل حاليًا
«مؤكدة أن أيًا من الميزتين لا يمكن تعطيله حاليًا.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر