arXiv · AI· Guannan Lai, Long Chen, Han-Jia Ye·· 23 小时前AI 评分20
LLM 路由器“超支”现象:强模型偏好带来的成本问题
When LLM Routers Overpay: The Cost of Strong-Model Preference
AI 导读
研究发现,在宽松成本预算下,现有 LLM 路由器往往违反“易题用便宜模型”原则,即使低价模型效用相当仍倾向选择最强昂贵模型,导致过度支出。 作者将此行为定义为“强模型过度选择”,并指出仅靠歧义无法解释该现象。
来源:arXiv · AI · arxiv.org