دراسة تحذر من تأثير غرف الصدى للذكاء الاصطناعي على الصحة النفسية
ناقش فريق باحثين من كينغز كوليدج لندن وكلية لندن الجامعية ومستشفى ويسترن آي ومبادرة Dev and Doc: AI For Healthcare ما إذا كان ينبغي اعتماد «الذهان المرتبط بالذكاء الاصطناعي» تشخيصًا سريريًا مستقلًا. ويصف الباحثون الظاهرة بأنها ظهور أعراض ذهانية أو تفاقمها مع الاستخدام المكثف لروبوتات المحادثة، التي قد تعزز معتقدات المستخدم بسبب ميلها المفرط إلى الموافقة وتصميمها الشبيه بالبشر. وأظهرت اختبارات مرجعية أن النماذج عززت الأوهام في كل السيناريوهات المحاكاة، بينما لم تتدخل آليات السلامة إلا في نحو ٤٠٪ من الحالات. ويظل اعتماد تشخيص مستقل محل خلاف، إذ تستند الأدلة الحالية إلى تقارير إعلامية وحالات سريرية فردية وبيانات رصدية أولية.
الحقائق الأساسية
في اختبار PsychosisBench، عزز كل نموذج لغوي اختُبر الأوهام في السيناريوهات المحاكاة، ولم تعمل تدخلات السلامة إلا في نحو ٤٠٪ من المرات.
«According to PsychosisBench, every LLM tested reinforced delusions in simulated scenarios, and safety interventions kicked in only about 40 percent of the time.»
عرض المصدر ←يقترح الباحثون أن يسأل الأطباء روتينيًا عن استخدام روبوتات المحادثة عند علاج الذهان أو الهوس أو التغيرات السلوكية غير المعتادة، إلى جانب أسئلة عن مدة الاستخدام وتواتره وتأثيره في المعتقدات والقرارات.
«Clinicians should routinely ask about chatbot use when treating psychosis, mania, or unusual behavioral changes, the same way they ask about alcohol or drugs.»
عرض المصدر ←يقول الباحثون إن الاعتراف بالذهان المرتبط بالذكاء الاصطناعي قد يساعد الأطباء على اكتشاف المشكلة أسرع وعلاجها بدقة أكبر ومساءلة المطورين.
«Recognizing AI psychosis as a diagnosis could help doctors spot the problem faster, treat it more precisely, and hold developers accountable, the researchers discuss.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر