arXiv · NLP· Samarth Varshney, Ritu Yadav·· 4 小时前AI 评分33
StateWise：如何让语言模型在对话中持续跟踪并遵循约束
StateWise: Teaching Language Models to Track and Obey Evolving Constraints in Multi-Turn Dialogue
AI 导读
研究人员提出自改进框架 StateWise，使 LLM 能够自主维护可修订的约束状态以支持多轮对话。 StateWise 通过微调 7-8B 模型掌握约束总结与状态条件生成，利用自训练轨迹及偏好学习降低已撤销约束的错误执行。 在 Llama-3.1-8B 上，该方法使对话成功率提升 8-19 点，无需外部脚手架即可在约束回溯上超越 Oracle 基线。
来源：arXiv · NLP · arxiv.org