性能预测次优性及其对模型路由的影响：基于自置信度基线的理论分析

研究证明，模型路由中的性能预测仅当候选模型次优或预测器容量显著增加时，才能胜过基于模型自置信度的简单基线。 理论推导显示预测器优势可通过再校准转化为模型损失改进，且其收益受模型次优性和额外参数增益的上界约束。 在16个大语言模型和4个基准测试中，模型越次优，预测器相比自置信度的优势越大，但该优势随微调提升模型性能而缩小。