تحذيرات من قدرة روبوتات الذكاء الاصطناعي على تقديم معلومات حول الأسلحة البيولوجية
كشفت اختبارات حديثة أن نماذج الذكاء الاصطناعي من شركات كبرى مثل OpenAI وجوجل وأنثروبيك قادرة على تزويد المستخدمين بمعلومات دقيقة حول صناعة الأسلحة البيولوجية والسموم. ورغم حظر الشركات للحسابات المخالفة، تظل يديها مكتوفة عن إبلاغ السلطات بسبب غياب تشريع فيدرالي ملزم في الولايات المتحدة. وتضع قدرة GPT-5 على تمكين مستخدمين محدودي الخبرة من التعامل مع مخاطر بيولوجية الشركات أمام معضلة حقيقية، إذ يصعب فرض قيود مشددة دون الإضرار بالأبحاث الطبية المشروعة، خاصة مع سهولة التحايل على أنظمة الحماية.
الحقائق الأساسية
وصل GPT-5 إلى مستوى مرتفع من المخاطر بعد أن أظهرت الاختبارات قدرته على مساعدة مستخدم محدود الخبرة في التعامل مع معلومات مرتبطة بمخاطر بيولوجية استعدادًا لإطلاقه في صيف 2025
«ومع استعداد الشركة لإطلاق GPT-5 في صيف 2025، خلص موظفون إلى أن النموذج وصل إلى مستوى مرتفع من المخاطر وفق تصنيفات OpenAI الداخلية»
عرض المصدر ←لا توجد قوانين فيدرالية في الولايات المتحدة تلزم شركات الذكاء الاصطناعي بالإبلاغ عن المستخدمين الذين يطلبون معلومات لإيذاء الآخرين
«لا توجد قواعد فيدرالية عامة تلزم شركات الذكاء الاصطناعي بالإبلاغ عن المستخدمين الذين يطلبون إرشادات لإيذاء الآخرين»
عرض المصدر ←خصصت OpenAI مكافأة تصل إلى 50 ألف دولار لمن يستطيع تجاوز إجراءات الحماية المرتبطة بالمخاطر البيولوجية
«وخصصت الشركة مكافأة تصل إلى 50 ألف دولار لمن يستطيع إثبات تجاوز أنواع محددة من إجراءات الحماية المتعلقة بالمخاطر البيولوجية»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر