دراسة علمية تبحث في دقة استنتاجات نماذج الذكاء الاصطناعي وأسبابها
تبحث الدراسة في التناقض بين تحسّن أداء نماذج الذكاء الاصطناعي الاستدلالية، وبين الشكوك حول ما إذا كانت خطوات التفكير التي تعرضها تمثّل فعلًا ما يحدث داخل النموذج. وتوضح الباحثة ميلاني ميتشل أن هذه النماذج تحسّن الدقة، لكن نصوص «سلاسل التفكير» ليست بالضرورة أمينة، وقد لا تكون مفيدة أصلًا. وتشير أبحاث أخرى إلى أن النماذج قد تحافظ على أدائها حتى عند استبدال آثار الاستدلال الصحيحة بأخرى خاطئة أو غير مرتبطة، بل إن سلاسل من النقاط يمكن أن تؤدي وظيفة مماثلة.
الحقائق الأساسية
تقول ميلاني ميتشل إن نماذج الاستدلال تحسّن الأداء، لكن النص الناتج عن سلاسل التفكير لا يعكس بالضرورة ما يجري داخل النموذج، وقد يمكن الاستغناء عنه.
«“Number one: It works. It improves things,” she said, referring to LRMs’ superior accuracy on reasoning tasks compared to LLMs. “Number two: The actual text that’s generated” — i.e., the chain of thought that every LRM is trained to produce to improve its performance — “isn’t necessarily faithful to what’s going on [inside the model]. And number three: A lot of that text isn’t even useful. You can actually take it out.”»
عرض المصدر ←أظهر مختبر سوباراو كامبهامبتي في 2025 أن استبدال آثار الاستدلال الصحيحة بأخرى خاطئة أو غير مرتبطة لم يضعف أداء النموذج في مهمة استدلال رسمية.
«Kambhampati’s lab showed in 2025 that fully replacing a model’s correct “traces” with incorrect or irrelevant ones didn’t degrade its performance on a formal reasoning task.»
عرض المصدر ←وجدت ورقة بحثية من جامعة نيويورك عام 2024 أن سلاسل من النقاط يمكن أن تؤدي بفاعلية مكان سلسلة تفكير مفهومة للبشر.
«A 2024 paper from researchers at New York University showed that “meaningless filler tokens” — literally, strings of dots — could function effectively in place of a human-readable “chain of thought.”»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر