انتقادات لـ أنثروبيك بسبب إدراج علامات مائية في نصوص كلود
تعتزم أنثروبيك إضافة علامة مائية إلى النصوص التي تنتجها نماذج كلود حول العالم، ما أثار انتقادات بسبب احتمال تأثيرها في صياغة النص ومعناه. وتعتمد التقنية على اختيار الكلمات أثناء التوليد من قائمتين احتمالتين، بحيث تترك الصياغة بصمة يمكن تحليلها لاحقًا بدرجة من الترجيح. ويقول المقال إن اكتشاف العلامة يحتاج إلى مفتاح سري تملكه أنثروبيك، كما تزداد دقة التحليل كلما طال النص، بينما يصعب الوصول إلى نتيجة موثوقة في النصوص القصيرة.
الحقائق الأساسية
تشمل الخطة جميع نماذج كلود، ومن المقرر تطبيقها عالميًا على كل ما تنتجه، بما في ذلك النصوص.
«all Claude models, worldwide, would soon begin “watermarking” everything they generate, including text»
عرض المصدر ←تُرجّح التقنية اختيار كلمات من قائمة «خضراء» بدل قائمة «حمراء» عند نقاط توليد الرموز، من دون منع اختيار كلمات القائمة الأخرى.
«At each decision point, they’re a little more likely to pick a word from the green list than the red list.»
عرض المصدر ←لا يستطيع تحديد القائمة المناسبة لكل كلمة عند كل نقطة توليد إلا من يملك المفتاح السري، وهو ما يتيح اكتشاف العلامة المائية.
«Someone with the secret key can determine which list a word will be on at each token generation point (which is how the watermarking is detected); those without the secret key cannot.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر