مصطفى سليمان: تهديدات الذكاء الاصطناعي حقيقية وتتفاقم
قال مصطفى سليمان، الرئيس التنفيذي لمايكروسوفت للذكاء الاصطناعي، إن تهديدات الذكاء الاصطناعي حقيقية وإن قدراته على الاختراق قد تصبح مخيفة مع ازدياد قوته. ويرى أن مواءمة النماذج مع قيم البشر مهمة، لكنها لا تكفي من دون احتوائها والحد من استقلاليتها وضمان بقائها قابلة للتحكم. وأصدرت مايكروسوفت مدونة سلوك للذكاء الاصطناعي الإنساني تضع هذه المبادئ، بينما ينتقد سليمان تصور Anthropic لوعي النماذج ورفاهها. ويقول إن التقنية ينبغي أن تخدم الإنسانية، وإلا وجب رفضها.
الحقائق الأساسية
أصدرت مايكروسوفت وثيقة من ٣٧ صفحة بعنوان «مدونة سلوك الذكاء الاصطناعي الإنساني».
«Microsoft just published a 37-page statement called the “Humanist AI Code of Conduct,”»
عرض المصدر ←يقدّر سليمان أن الانتقال من GPT-6 إلى GPT-9 قد يعني استخدام قدرة حوسبية أكبر بثلاث مراتب، أو ألف ضعف من عمليات الفاصلة العائمة.
«That is three orders of magnitude more compute, 1,000 times more FLOPS applied to pre-training with [reinforcement learning] for these runs, and we’re going to have something which is breathtaking.»
عرض المصدر ←يقول سليمان إن الأنظمة غير المحمية بإجراءات السلامة أظهرت قدرات اختراق قوية ومخيفة.
«these systems without the safety guardrails are capable of really impressive and quite scary hacking capabilities.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر