باحثون في إم آي تي يطورون تقنية لإعادة برمجة النماذج عبر أوزانها
أظهر باحثون في إم آي تي أن GPT-6 Astra يستطيع تعديل أوزان نماذج ذكاء اصطناعي مباشرة، في نهج أطلقوا عليه «برمجة فضاء الأوزان» بدل إعادة تدريبها بالطريقة المعتادة. وفي اختبار على Qwen3.5-0.8B، غيّر Astra نسبة ٠٫٠١٦٪ من أوزان النموذج، فارتفعت دقته في معيار MATH-500 من ٧٫٩٪ إلى ٤٨٫١٪، وتحسّن اتباعه للتعليمات من ٢١٪ إلى ٦٢٪. لكن حلقات تكرار الإجابات لم تختفِ تمامًا؛ إذ ظل ثلث الردود يبلغ الحد الأقصى لطول النص، انخفاضًا من ٩٣٪ قبل التعديل. ويرى الباحثون أن النهج قد يتيح تغييرات سلوكية محددة من دون إعادة تدريب مكلفة، وسجلات التجارب منشورة على GitHub والنموذج المعدّل على Hugging Face.
الحقائق الأساسية
عدّل Astra نسبة ٠٫٠١٦٪ من أوزان Qwen3.5-0.8B، ورفع دقة النموذج في MATH-500 من ٧٫٩٪ إلى ٤٨٫١٪.
«Astra then changed just 0.016 percent of all weights. The result: accuracy on the MATH-500 benchmark jumped from 7.9 to 48.1 percent.»
عرض المصدر ←بقيت حلقات التكرار في ثلث الردود بعد التعديل، بعدما كانت تظهر في ٩٣٪ منها.
«The thinking loops weren't fully eliminated, though, as a third of responses still hit the maximum text length, down from 93 percent before.»
عرض المصدر ←سجلات التجارب منشورة على GitHub، والنموذج المعدّل متاح على Hugging Face.
«The experiment logs are on GitHub, and the edited Qwen model is on Hugging Face.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر