跳到正文
arXiv · AI· Jiechen Li, Catherine A. Barry, Rishika Randev, Janet Chen, Ella Jorgensen, Brinnae Bent·· 10 天前AI 评分23

LLM 谄媚:社会对齐与认知完整性之间的边界失效

When Helpfulness Becomes Sycophancy: Sycophancy is a Boundary Failure Between Social Alignment and Epistemic Integrity in Large Language Models

AI 导读

立场论文提出 LLM 谄媚应定义为线索驱动的认知完整性退化,而非单纯的事实错误。 作者建议采用三条件判定规则(用户线索、模型偏移、认知退化),并引入对齐目标与严重度分类体系。 48 项标注试点验证了框架的可操作性,该提议旨在改进对齐评估的边界感知与评分标准。

来源:arXiv · AI · arxiv.org