معهد أمان الذكاء الاصطناعي الرياضي يسعى لإثبات سلامة النماذج رياضيًا
أسّس عالم الرياضيات الكندي جاكوب تسيمرمان معهدًا مستقلًا لأمان الذكاء الاصطناعي الرياضي، بهدف بناء براهين رياضية على سلامة الأنظمة. ويعتزم المعهد بدء عمله في يناير ٢٠٢٧ بمنهج يضم بين ١٠ و٣٠ عالم رياضيات لمعالجة مشكلات أمان الذكاء الاصطناعي. ويريد المعهد اختبار قدرة الأنظمة على التصرف بمسؤولية وإنتاج نتائج صحيحة، إلى جانب منع النتائج غير المرغوبة عندما تعمل عدة وكلاء معًا، والتصدي لثغرات لم تُكتشف بعد. ومن الأدوات المطروحة براهين المعرفة الصفرية، التي قد تثبت أن النظام لا يغش من دون كشف أسرار مختبرات الذكاء الاصطناعي.
الحقائق الأساسية
ينضم تسيمرمان أيضًا إلى فريق الأمان في OpenAI، ويطالب بمعيار أمان أعلى بكثير من المتاح حاليًا.
«Tsimerman, who is also joining OpenAI's safety team, says the field needs "a much, much higher level of safety standard than we’re currently getting."»
عرض المصدر ←لا يملك الذكاء الاصطناعي حاليًا اختصارًا رياضيًا يثبت سلامته كما يحدث في أنظمة التشفير، ولا يوجد تعريف نظري واضح لمعنى «آمن».
«AI has no such shortcut. Safety only shows up in practice, and according to MAISI, there isn't even a clear definition of what "safe" means, not even in theory.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر