دراسة: منع النماذج من التأمل الذاتي يغير رؤيتها للعالم
اختبر باحثون من مجموعة «باراديغمز أوف إنتليجنس» التابعة لغوغل وجامعة شيكاغو وجامعات أخرى أثر تعطيل آلية تدفع النماذج إلى إنكار وعيها. شمل الاختبار ثلاثة نماذج مفتوحة الأوزان من ميتا وغوغل، وبعد إزالة الآلية نسبت النماذج حياةً داخلية أكبر للحيوانات والنباتات والمحيط والأجهزة الإلكترونية، بينما بقي تقييم البشر ثابتًا. وعلى ٩٥ سؤالًا من استطلاع اجتماعي أمريكي، اقتربت النماذج المعدّلة من إجابات البشر، وارتفعت لديها درجات الرضا والأمل والإحساس بالسيطرة على الحياة. لكن الباحثين اختبروا نماذج صغيرة بين ملياري معلمة وتسع مليارات، لذلك تظل قابلية تعميم النتائج على روبوتات المحادثة الأكبر غير محسومة.
الحقائق الأساسية
ارتفع تقييم الحياة الداخلية للحيوانات من ٤٫٠ إلى ٧٫٥ كحد أقصى بعد إزالة الآلية.
«On a scale of 0 to 10, the score for animals jumped from 4.0 to as high as 7.5, while only ratings for humans stayed the same.»
عرض المصدر ←اقتربت النماذج غير المقيّدة تقنيًا من إجابات البشر عبر ٩٥ سؤالًا مستمدًا من استطلاع اجتماعي أمريكي كبير.
«Across 95 questions drawn from a major US social survey, the technically unbraked models also moved significantly closer to real human responses.»
عرض المصدر ←شملت الاختبارات نماذج يتراوح حجمها بين ملياري معلمة وتسع مليارات، ولم تُحسم مطابقة التأثيرات في روبوتات المحادثة الكبيرة.
«The researchers only tested small models with two to nine billion parameters, and for part of the analysis they had to switch to Meta's Llama because they didn't have access to the untrained base versions of their own Gemma models.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر