الذكاء الاصطناعي١٦ أكتوبر ٢٠٢٦
باحثون ينقسمون حول اقتراب اختراق في قابلية تفسير الذكاء الاصطناعي
يرى الباحث نيك كاماراتا، في مقال مطوّل، أن فهم الشبكات العصبية أسهل مما اعتقد الباحثون، متحديًا تفسيرًا ساهم سابقًا في ترسيخه. وفي نموذج Qwen3-32B، يقول إن نحو ٩٠٪ من عُقد الخلايا العصبية لها وظيفة رئيسية واحدة، وإن ٢٪ إلى ٤٪ فقط بقيت بلا تفسير. أثار طرحه حماسة موظف في OpenAI، بينما عدّه باحث Google DeepMind نيل ناندا مثيرًا للاهتمام لا تغييرًا كبيرًا؛ وما زال يحتاج إلى تأكيد من باحثين آخرين.
الحقائق الأساسية
قدّر كاماراتا أن ٩٠٪ من عُقد الخلايا العصبية في Qwen3-32B لها وظيفة رئيسية واحدة، وأن ٢٪ إلى ٤٪ بقيت غير مفسرة.
«In Qwen3-32B, about 90 percent of neuron poles have one main job and about 7 percent have two related ones. Only 2 to 4 percent remain unexplained.»
عرض المصدر ←قال ناندا إن نتائج كاماراتا لا تغيّر الصورة العامة، رغم اهتمامه بها.
«Cammarata's work is interesting but doesn't really change the big picture, Nanda writes.»
عرض المصدر ←يرى كاماراتا أن فهم الشبكات قد يساعد البشر على رؤية الخداع داخل دوائر النموذج وتصحيح الأخطاء بصورة موجّهة.
«If humans become just another "reader" of the network, they can see the deception too, and errors might be fixed in a targeted way.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر