arXiv · AI· Zizhuo Lin, Quanling Liu, Jinsheng Quan, Chao Zhang, Yifan Zhu, Xing Shi, Jingtao Xu, Zhihui Li, Yawei Luo·· 6 小时前AI 评分35
同一证据不同答案：多轮语言模型的规范上下文在线策略蒸馏
Same Evidence, Different Answers: Canonical-Context On-Policy Distillation for Multi-Turn Language Models
AI 导读
针对LLM在信息分轮次揭示时因“自我锚定漂移”导致回答偏离单一提示词结果的问题，提出规范上下文在线策略蒸馏（CCOPD）方法。该方法以同一基座模型的完整上下文冻结教师对齐增量交互的学生轨迹，仅在数学对话上训练即实现32%平均相对提升。分析表明CCOPD强化了用户证据锚定，降低了早期助手轮次污染敏感度，且在五个零样本跨域任务族上保持性能。
来源：arXiv · AI · arxiv.org