رئيس أنثروبيك يدعو إلى إبطاء وتيرة تطوير الذكاء الاصطناعي
دعا داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إلى إبطاء تطوير الذكاء الاصطناعي، مقترحًا ثلاث استراتيجيات لتقليل مخاطر التقدم السريع. وتشمل خطته إدخال مقيمين مستقلين من جهات خارجية داخل شركات الذكاء الاصطناعي، للتحقق من التزامات السلامة والإبلاغ عن الحوادث. كما اقترح تنسيق معايير سلامة مشتركة بين الشركات الكبرى في الدول الديمقراطية، إلى جانب تعاون عالمي يحد من استخدامات خطرة مثل إنتاج الأسلحة البيولوجية. وتقول أنثروبيك إنها ستلتزم منفردة بإتاحة وصول واسع نسبيًا لهؤلاء المقيمين، مع استثناءات يفرضها القانون أو العقود.
الحقائق الأساسية
يريد أمودي أن يتولى مقيمون من جهات خارجية التحقق من التزام شركات الذكاء الاصطناعي بإجراءات الإبطاء والسلامة، ورصد الحوادث والإبلاغ عنها.
«His proposed first step would involve “embedded evaluators” from third-party organizations like METR — evaluators who can verify that AI companies are actually following their pacing and safety commitments and can also ensure that safety incidents get reported.»
عرض المصدر ←تتعهد أنثروبيك بمنح المقيمين بطاقات دخول ومكاتب وأجهزة حاسوب، مع وصول قريب من صلاحيات فرق تقييم المخاطر الداخلية.
«That means giving evaluators company badges, desks, and laptops, and providing access “mostly comparable to what internal risk assessment teams have,” with exceptions when required by law or contracts.»
عرض المصدر ←يرى أمودي أن التعاون الدولي قد يركز على حظر استخدامات محددة وخطرة للذكاء الاصطناعي، بينها إنتاج الأسلحة البيولوجية.
«Amodei said this would mean “cooperation with China,” and he admitted that there are “stark limits on what can be achieved,” but he still suggested there might be opportunities for agreement, even if it’s just “prohibiting certain narrow and obviously dangerous uses of AI, such as using AI for the production of biological weapons or allowing users to do so.”»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر