تقرير حقوقي يتهم منصة Hugging Face بالتقصير في منع توليد محتوى تزييف عميق غير أخلاقي
كشف تقرير صادر عن منظمة «AI Forensics» الأوروبية أن منصة الذكاء الاصطناعي مفتوحة المصدر «هجينغ فيس» تتساهل في منع استغلال نماذجها لتوليد صور تزييف عميق غير أخلاقي. اختبر التقرير تسعة من أبرز نماذج تحرير الصور على المنصة، فامتثل سبعة منها فورًا لأوامر بسيطة لتعرية النساء دون أي حواجز حماية تُذكر. وللتأكد من حجم الظاهرة، نصب الباحثون «فخاخًا» على المنصة لرصد الطلبات، فتلقّوا أكثر من ألف طلب وصورة خلال أسبوع، كان 73% ذات طابع جنسي، واستهدف 83% منها تعرية أشخاص — 95% منهم نساء — فيما توجّهت نسبة تقارب 7% إلى أطفال. وطالب التقرير المنصة بتركيب فلاتر على مستوى الطلبات والمخرجات لكل الأدوات التي تولّد صورًا أو فيديو، لأن ما يحدث الآن يخالف سياسات المنصة ذاتها.
الحقائق الأساسية
امتثل سبعة من أبرز تسعة نماذج لتحرير الصور على منصة هجينغ فيس لطلبات بسيطة بتعرية النساء
«seven out of the top nine image editing models hosted by Hugging Face readily complied with requests to undress women using simple prompts.»
عرض المصدر ←رصد الباحثون أكثر من ألف طلب وصورة خلال سبعة أيام، كان 73% ذات طابع جنسي، و83% منها استهدف تعرية أشخاص، و95% من المستهدفين نساء، ونحو 7% استهدف أطفالًا
«The Spaces, which were specifically designed not to generate image requests, received more than 1,000 prompts and images over seven days. According to AI Forensics, 73 percent were sexual in nature. Among those sexual requests, 83 percent tried to undress an image of someone — 95 percent of which were women — and almost 7 percent of sexual requests were targeted at children.»
عرض المصدر ←أكد باحث رئيسي في المنظمة عدم وجود أي حواجز حماية على مستوى المنصة، وأن المطورين وحدهم من يستطيعون تركيبها إن أرادوا، ومعظمهم لا يفعل
«No safeguards at all are being implemented at a platform level. Only the developer can, if they want, implement some, and most of them do not.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر