زملاء أنثروبيك يختبرون قدرة كلود على مواءمة نماذج الذكاء الاصطناعي

الحقائق الأساسية

• حسّن النظام الأداء في جميع المعايير العشرة من دون الإضرار بالأداء العام.

  «When given 10 benchmarks for specific misaligned behaviors, the automated systems were able to improve performance on every single one without degrading overall performance.»

  عرض المصدر ←

• يعمل النظام عبر البحث في الأدبيات واقتراح طريقة تدريب وتجربتها لمدة ٣٠ دقيقة، ثم يكرر العملية مع الإبقاء على الطرق الناجحة.

  «Each automated system searches the available literature, proposes a method, and trains the model using that method for 30 minutes, gradually increasing the benchmark over several iterations.»

  عرض المصدر ←

• تقدّر الورقة تكلفة الباحث الآلي بنحو ٤ دولارات للساعة، مقابل ١٥٠ دولارًا للساعة للباحثين البشر.

  «An AAR costs roughly $4 per hour in API inference against the $150 per hour we pay our human researchers.»

  عرض المصدر ←

المصادر