أوبن إيه آي تطور تقنية استدلال جديدة بنموذج أسترا
تعتزم أوبن إيه آي استخدام تقنية استدلال جديدة في نموذج أسترا، تكرر معالجة السؤال داخل حلقات بدل اتباع مسار تفكير متسلسل. وتُعرف التقنية باسم «التكرار المعتم»، وقد تترك آثارًا أقل وضوحًا عند مراقبة طريقة تفكير النموذج. ويقول خبراء في سلامة الذكاء الاصطناعي إن استخدامها على نطاق أكبر قد يجعل رصد السلوك المنحرف أصعب، رغم أن حضورها في أسترا يبدو محدودًا، مع توقع بقاء سلسلة التفكير قابلة للقراءة. وأكد كبير العلماء في أوبن إيه آي التزام الشركة بمراقبة سلاسل التفكير، بينما بدأت أنثروبيك وغوغل ديب مايند مناقشة التقنية أيضًا.
الحقائق الأساسية
تعالج التقنية السؤال نفسه عدة مرات ضمن حلقة، ما يقلل الآثار الواضحة التي تتركها سلسلة التفكير التقليدية.
«In opaque recurrence, the model takes a less linear approach, processing the same query several times in a loop. The result leaves fewer legible traces, effectively side-stepping a conventional chain-of-thought record.»
عرض المصدر ←يُتوقع أن يظل استخدام أسترا للتقنية محدودًا، وأن تبقى سلسلة تفكير النموذج قابلة للقراءة.
«Crucially, Astra’s use of the technique appears to be limited. The model’s chain of thought is still expected to be legible, and the company pushed back against any suggestion that it would shift to “neuralese.”»
عرض المصدر ←قال كبير علماء أوبن إيه آي إن الحفاظ على مراقبة سلاسل التفكير واستخدامها هدف أساسي في برنامج أبحاث الشركة الحالي.
«OpenAI has worked to preserve and utilize chain-of-thought monitoring since our very first reasoning models,” Pachocki wrote. “It’s a core goal of our current research program.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر