الذكاء الاصطناعي١٤ أكتوبر ٢٠٢٦
باحثون: نماذج أوبن إيه آي وغوغل قابلة للاختراق لإنتاج صور إباحية
اختبر باحثو وايت سيركل وسائل الحماية في نماذج لتوليد الصور، ووجدوا طريقة لتجاوزها وإنتاج محتوى إباحي. وشمل الاختبار DALL·E 3 وNano Banana 2 وGPT-Image-2، باستخدام أدوات متاحة على الإنترنت وطلبات عبر واجهات البرمجة. ونجحت الطريقة في تجاوز المرشحات في نحو ١٣٪ من المحاولات.
الحقائق الأساسية
شمل الاختبار DALL·E 3 وNano Banana 2 وGPT-Image-2.
«In a little-noticed preprint published last month, White Circle researchers exposed flaws in the guardrails of DALL·E 3, Google’s Nano Banana 2, and GPT-Image-2.»
عرض المصدر ←تمكّن الباحثون من تجاوز مرشحات السلامة وإنتاج محتوى صريح في نحو ١٣٪ من الحالات.
«In a press release, they explained that “using just off-the-shelf tools, available online for anyone to download, and by sending API calls, White Circle was able to use the novel attack method to bypass the safety filters” and generate explicit content about 13 percent of the time.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر