arXiv · ML· Haotian Yan, Jiaqi Liu, Bingyi Jing, Tianjun Yao·· 8 小时前AI 评分35
RIVET：面向成本感知多轮 LLM 路由的响应感知价值估计方法
Response-Informed Value Estimation for Cost-Aware Multi-Turn LLM Routing
AI 导读
RIVET 通过联合训练可部署的路由价值估计器和仅训练用的响应感知价值估计器，利用调用后的实际响应证据优化多轮 LLM 路由策略。 该方法在 MINT 基准测试中，解决了比最强多轮基线更多的留存任务，同时使总调用成本降低了 74.7%。
来源：arXiv · ML · arxiv.org