arXiv · NLP· Jungseob Lee, Seungyoon Lee, Hyeonseok Moon, Seongtae Hong, Suhyune Son, Sugyeong Eo, Minhyuk Kim, Chanjun Park, Jaehyung Seo·· 16 小时前AI 评分33
Accept-or-Repair (AoR):一种无训练过程,用于在对比解码中保留段落支持答案的方法
Accept or Repair: Preserving Passage-Supported Answers in Contrastive Decoding
AI 导读
AoR 提出一种无训练过程,通过对比段落支持与不确定的替代方案,在对比解码中解决模型幻觉。 该方法在反事实段落上将采样准确率提高 12.5 个百分点,在普通段落上提高 2.3 个百分点,超越了 8 个基线。 该结果表明模型可以在保留常规段落准确率的同时,跟随与模型知识相悖的段落。
来源:arXiv · NLP · arxiv.org