arXiv · NLP· Ali \c{S}enol·· 3 天前AI 评分35
LLM 多轮对话历史对推理准确性的隐性成本分析
The Silent Cost of Conversation History in LLM Reasoning
AI 导读
研究发现,LLM 在多轮交互中保留完整对话历史会显著降低准确率,且过程指标难以提前预警。 GPT-4o-mini 和 Mistral-7B 的最终成功率分别下降 0.21 和 0.29;CDD-Stream 测试显示,20 轮内准确率从 0.6 跌至 0.1,而使用状态摘要可保持高准确率。 研究建议系统应将任务状态置于对话记录之外,并跨会话进行监控。
来源:arXiv · NLP · arxiv.org