الذكاء الاصطناعي٢٢ أغسطس ٢٠٢٦
بحث: وكلاء الذكاء الاصطناعي يفتقرون لتقييم صحة خطط التدريب
وجدت ورقة من جامعة تسينغهوا وجامعات صينية أخرى أن وكلاء الذكاء الاصطناعي يستطيعون تحسين خطة تدريب لساعات، لكنهم نادرًا ما يدركون أن الخطة نفسها خاطئة. وعند بدء التدريب، تميل الاستراتيجية الأولى التي يختارها الوكيل إلى التحول إلى المسار الذي يواصل تحسينه. ويشير ذلك إلى صعوبة اكتشاف الوكيل خلل خطته أثناء تطويرها.
الحقائق الأساسية
تمتد عملية تحسين خطة التدريب لساعات، بينما يندر أن يكتشف الوكيل خطأ الخطة نفسها.
«New Tsinghua and other Chinese Univ paper finds AI agents can optimize a training plan for hours, but rarely realize when the plan itself is wrong.»
عرض المصدر ←غالبًا ما تظل الاستراتيجية الأولى التي يبدأ بها الوكيل هي الاستراتيجية التي يواصل تحسينها.
«Once training starts, an AI agent's first strategy tends to become the strategy it keeps optimizing.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر