دراسة: تكرار المعلومات يضلل نماذج الذكاء الاصطناعي
أظهرت دراسة أن تكرار المعلومات الخاطئة قد يدفع بعض نماذج الذكاء الاصطناعي إلى قبولها والتعامل معها كأنها أكثر موثوقية. ويزداد هذا التأثير عندما تُصاغ المعلومة بثقة أو تُنسب إلى مصادر تبدو موثوقة، بينما قد تغيّر البيانات الملوثة تمثيل النماذج الداخلي للحقائق. ومع انتشار استخدام هذه النماذج في البحث والإعلام والتعليم واتخاذ القرارات، قد يمنح تداول المعلومة على نطاق واسع حضورًا أكبر داخل بياناتها رغم عدم دقتها. ويقترح الباحثون تشديد التحقق من المصادر وتنقية بيانات التدريب، مع إبقاء المراجعة البشرية في المجالات الحساسة.
الحقائق الأساسية
قد يزيد تكرار المعلومات المضللة قبول بعض النماذج اللغوية لها، خصوصًا إذا عُرضت بصياغة واثقة أو عبر مصادر تبدو موثوقة.
«وتشير دراسة تناولت سلوك النماذج اللغوية إلى أن تكرار المعلومات المضللة يمكن أن يرفع معدلات قبولها لدى بعض النماذج، خصوصاً عندما تُقدَّم بصياغة واثقة أو ضمن مصادر تبدو موثوقة.»
عرض المصدر ←قد تؤدي البيانات الملوثة المتكررة إلى تغييرات في تمثيل النماذج الداخلي للحقائق، ما يبرز الحاجة إلى تحسين بيانات التدريب وتحديثها.
«كما أظهرت أبحاث أخرى أن تعريض النماذج باستمرار لبيانات ملوثة قد يؤدي إلى تحوّلات في تمثيلها الداخلي للحقائق، ما يفتح باباً جديداً للنقاش حول جودة بيانات التدريب والتحديث المستمر للنماذج.»
عرض المصدر ←تشمل الإجراءات المقترحة للحد من الخطر تحسين التحقق من المصادر وتنقية بيانات التدريب ومنح المصادر الموثوقة وزنًا أكبر، مع استمرار المراجعة البشرية.
«ويرى الباحثون أن الحد من هذا الخطر يتطلب تحسين آليات التحقق من المصادر، وتنقية بيانات التدريب، ومنح المصادر الموثوقة وزناً أكبر، إلى جانب استمرار المراجعة البشرية في المجالات الحسّاسة.»
عرض المصدر ←
المصادر
شفت معلومة تحتاج تصحيح؟ بلّغنا ونتحقق ونصحّح — سياسة التصحيح
صحّح هذا الخبر