跳到正文
arXiv · NLP· Jiaqi Xue, Mengxin Zheng, Heng Huang, Qian Lou·· 10 天前AI 评分28

MultiTurnRoute: 构建和评估多轮 LLM 路由器的平台

MultiTurnRoute: A Platform for Building and Evaluating Multi-Turn LLM Routers

AI 导读

研究者提出 MultiTurnRoute 平台及 Chain-of-Route (CoR) 路由算法,用于评估多轮 LLM 路由器在会话质量与成本上的表现。 CoR 结合可复用前缀长度估计成本,在基于 WildChat 和 LMSYS-Chat-1M 的基准测试中,使匹配最强模型质量所需的归一化成本最多降低 20.3%。 该研究成果已被 NeurIPS 2026 接收。

来源:arXiv · NLP · arxiv.org