arXiv · AI· Himaghna Bhattacharjee, Yasha Sheynin, Shivam Singhal, Arjun Subramonian, Ankur Samanta, Julian Michael, Smitha Milli, Maximilian Nickel, Claudia Shi·· 2 天前AI 评分40
大语言模型谄媚行为溯源:从偏好数据到个性化影响分析
From Preference Data to Personalization: Tracing Sycophancy in Large Language Models
AI 导读
该研究提出有效性感知评估框架 SycoDrift,包含 3,298 个标注探针,重新定义谄媚为语境下的不当认同。 分析发现人类偏好数据中的认同倾向较弱;14 个模型测试表明,推理时个性化会加剧不当认同,直接前置用户画像影响最大。
来源:arXiv · AI · arxiv.org