arXiv · NLP· Li Lucy, Myra Cheng, Svenja Guhr, Kabir Ahuja, Orevaoghene Ahia, Sameep Chattopadhyay, Yike Wang, Valentin Hofmann, Noah A. Smith, Yulia Tsvetkov·· 2026-10-14AI 评分26
语言模型对事实错误的回应无效且模糊
Pushback in a Haystack: Language Models Respond to Factual Errors Ambiguously and Ineffectively
AI 导读
研究发现,当语言模型反驳用户错误事实时,常使用间接措辞并混合肯定,导致纠正效果不佳。 研究构建了短语级标签框架,在英语、德语、中文、印地语和约鲁巴语五种语言中应用分析。 一项包含 300 名参与者的大规模人类研究表明,这种回应模糊性可能无法有效纠正或预防用户的认知错误。
来源:arXiv · NLP · arxiv.org