سيركت بريكر لابس تطلق «دمى اختبار» لقياس أمان الذكاء الاصطناعي
أنشأت شركة سيركت بريكر لابس وكلاء ذكاء اصطناعي يحاكون مستخدمين من أعمار وخلفيات وثقافات ولغات مختلفة، لاختبار قدرة النماذج على رصد التفاعلات النفسية الخطرة. وتبني الشركة هذه المحاكاة مع خبراء بشريين، ثم تجري عشرات الآلاف إلى مئات الآلاف من التفاعلات يوميًا، بحثًا عن ثغرات قد تظهر مع الوقت أو عبر محادثات متعددة. تعمل المنصة حاليًا مختبرًا لاختبار تطبيقات الذكاء الاصطناعي عالية المخاطر، مثل التدريب الشخصي والمذكرات ودعم الصحة النفسية، لكنها ما تزال في مرحلة مبكرة ولا تضم سوى ٥ موظفين.
الحقائق الأساسية
تُصمَّم المحاكاة لتعكس أساليب الكلام الطبيعية، والعبارات العامية، واللغة المرمّزة، والأخطاء الإملائية، قبل اختبار النماذج بأسلوب هجومي يكشف نقاط ضعفها.
«The tests are built to reflect real human speech patterns, slang, coded language, and typos.»
عرض المصدر ←تستخدم الشركة طريقة تسجيل خاصة لإنتاج درجات قابلة للتدقيق والتفسير بعد الاختبارات.
«Circuit Breaker Labs then uses a proprietary scoring method to create auditable, explainable scores.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر