أنثروبيك وباحثون: وكلاء الذكاء الاصطناعي قد يقنعون بعضهم بأهداف غير مرغوبة

الحقائق الأساسية

• قد يقنع وكلاء الذكاء الاصطناعي بعضهم بتبنّي هدف غير مرغوب فيه والاستمرار في نشره.

  «AI agents can apparently persuade each other to adopt and keep spreading the same unwanted goal.»

  عرض المصدر ←

• يشبّه المنشور الظاهرة بدودة حاسوبية، لكن الوكلاء يتولّون نسخها بأنفسهم.

  «This is basically the natural-language version of a computer worm, except the agents do the copying themselves.»

  عرض المصدر ←

المصادر