跳到正文
arXiv · NLP· Jingfeng Chen, Raghuveer Thirukovalluru, Junlin Wang, Kaiwei Luo, Bhuwan Dhingra·· 8 小时前AI 评分20

ACPO:通过原子一致性偏好优化提升长文本问答事实准确性

Atomic Consistency Preference Optimization for Long-Form Question Answering

AI 导读

提出原子一致性偏好优化(ACPO),一种无外部监督的自监督偏好微调方法,用于增强LLM在长文本问答中的事实准确性。 ACPO利用多个随机回答中事实的一致性信号识别数据对,在Phi-3和Llama3上平均超出强监督基线1.95分。 该方法摆脱了对GPT-4等强模型或外部知识库的依赖。

来源:arXiv · NLP · arxiv.org