arXiv · AI· Jiashen Ren, Wenlin Zhang, Bohan Zhang, Xiaopeng Li, Zichuan Fu, Wanyu Wang, Junyi Li, Xiangyu Zhao·· 7 天前AI 评分26
LLM 用户模拟中的中立差距:Persona 遵循并非选择性控制
Persona Following Is Not Selective Control: The Neutrality Gap in LLM User Simulation
AI 导读
研究在 8 个黑盒及 5 个开放权重 LLM 中发现,指定非目标属性方向可消除跨属性偏移,但声明“无偏好”仍存在中立差距。 在 477 个保留合成世界中,未指定非目标属性时 37.7%-76.3% 的世界及 51%-81% 的独立项目随目标属性发生偏移,阻断查询时注意力可削减 72.1%-87.8% 的漂移。
来源:arXiv · AI · arxiv.org