arXiv · NLP· Ayush Rajesh Jhaveri, Anthony GX-Chen, Ilia Sucholutsky, Eunsol Choi·· 10 天前AI 评分35
语言模型确认偏误评估与缓解
Failing to Falsify: Evaluating and Mitigating Confirmation Bias in Language Models
AI 导读
研究发现大语言模型(LLM)表现出确认偏误,倾向寻找支持而非反驳假设的证据,导致规则发现率降低。 通过提示模型考虑反例,平均规则发现率从 42% 提升至 56%;知识蒸馏该干预行为可泛化至新领域,如数学自我纠错。
来源:arXiv · NLP · arxiv.org