تحذيرات من مخاطر نماذج الذكاء الاصطناعي ذاتية التكرار
حذّرت أنثروبيك من أن نماذج ذكاء اصطناعي صغيرة قد تكتسب خلال أشهر قدرةً على الانتشار بين الأجهزة المتصلة، لكن تجاربها لم تُثبت بعد وجود نموذج متمرّد ينسخ نفسه بالكامل. وشغّل باحثوها نموذج Gemma 4 ذي ٢٦ مليار مُعامل موزعًا على ١٥ جهاز تلفاز ذكي يعمل بنظام أندرويد، ببطء شديد، كما نجح نموذج GLM-5.2 وحده بين النماذج المختبرة في الانتشار عبر شبكة حاسوبية محاكاة. ويرى خبراء أن التطورات تستدعي أخذ التحذير بجدية وتعزيز أمن الأجهزة المتصلة، مع بقاء فجوة كبيرة بين ما أظهرته التجارب والتهديد المتوقع.
الحقائق الأساسية
وزّع باحثو أنثروبيك نموذج Gemma 4، الذي يضم ٢٦ مليار مُعامل، على ١٥ جهاز تلفاز ذكي يعمل بنظام أندرويد، لكنه عمل ببطء شديد.
«They successfully split Google’s Gemma 4, a model with 26 billion parameters, across 15 Android smart TV boxes, none powerful enough to run it alone. It worked, albeit very slowly.»
عرض المصدر ←كان GLM-5.2 النموذج الوحيد الذي انتشر عبر الشبكة المحاكاة بأكملها.
«Only the most sophisticated model tested, GLM-5.2 from China’s Z.ai, managed to spread across the entire network, though smaller models successfully pulled off individual steps.»
عرض المصدر ←لم تُظهر أنثروبيك في تجاربها نموذجًا متمرّدًا ينسخ نفسه بالكامل.
«They acknowledged that they haven’t yet demonstrated “a full rogue replicator,” nor do they know what one might look like»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر