Yasmin Moslem团队提出CRE-Router级联框架

2026年10月26日，Yasmin Moslem等研究者在arXiv（cs.CL）发布论文，提出名为CRE-Router的两阶段级联服务框架。该框架旨在解决大语言模型服务中的成本与准确率平衡问题，通过“聚类、路由、升级”的机制，将查询分配给最佳性价比模型，若质量估算器拒绝则升级至强模型。 该框架的一个关键特性是无需额外的标注数据，仅需任务正确性标签即可运行。评估在A100 GPU上进行了测试，模型池规模从2个到9个不等，测试数据集包括TeleMath、TeleQnA和AIME。结果显示，CRE-Router在保持与强模型相当准确率的同时，实现了比池内高效模型更准确的表现。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。