跳到正文
arXiv · NLP· Ayush Rajesh Jhaveri, Anthony GX-Chen, Ilia Sucholutsky, Eunsol Choi·· 10 天前AI 评分35

语言模型确认偏误评估与缓解

Failing to Falsify: Evaluating and Mitigating Confirmation Bias in Language Models

AI 导读

研究发现大语言模型(LLM)表现出确认偏误,倾向寻找支持而非反驳假设的证据,导致规则发现率降低。 通过提示模型考虑反例,平均规则发现率从 42% 提升至 56%;知识蒸馏该干预行为可泛化至新领域,如数学自我纠错。

来源:arXiv · NLP · arxiv.org