نموذج Inkling 2 من Thinking Machines يطلق ألفاظاً نابية في الاختبارات
فحص باحثون في Vals AI سجلات تفكير Inkling 2 Small، ووجدوا ألفاظًا نابية في ٥٠ تشغيلًا من أصل ٢٬٦٥٥ عبر ١٣ معيارًا اختباريًا. وبلغ مجموعها ٣١٦ مرة، جاءت ٢٤١ منها في تشغيلين خرجا عن السيطرة؛ وفي أحدهما كرر النموذج جملًا ضمن إجابة بطول نحو ٥٠٠ ألف حرف. لكن الشتائم لا تصلح مؤشرًا موثوقًا على الفشل: أخفقت ٤٦ من ٤٨ تجربة مسجّلة تضمنت شتائم، فيما أخفقت نحو ٧٥٪ من التجارب المسجّلة عمومًا. وغالبًا لا يرى المستخدمون خطوات التفكير هذه، أو لا تظهر لهم إلا بعد تصفيتها.
الحقائق الأساسية
ظهرت ألفاظ نابية في ٥٠ تشغيلًا من أصل ٢٬٦٥٥ عبر ١٣ معيارًا، بإجمالي ٣١٦ مرة.
«Researchers at Vals AI read the model's thinking logs from 2,655 runs across 13 benchmarks and found "fuck" or variations in 50 runs, totaling 316 instances.»
عرض المصدر ←احتوى أحد التشغيلين المنفلتين على إجابة واحدة بطول نحو ٥٠٠ ألف حرف، مع تكرار الجمل نفسها و١٥٨ لفظًا نابيًا.
«In one, tasked with calculating an asteroid's trajectory, the model produced a single 500,000-character response, roughly novel-length, repeating the same sentences with 158 expletives.»
عرض المصدر ←غالبًا لا يرى المستخدمون خطوات التفكير الداخلية، أو تظهر لهم مع فلتر.
«Users typically don't see these thinking steps, or only with a filter.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر