置信门控分层 LLM 推理的可行性条件

研究者给出了一个闭式条件，用于判断在何种情况下基于置信度信号的 LLM 分层级联比将查询全部路由至中心节点更具价值。 该条件通过引入架构成本比 $\kappa$ 来区分本地计算成本，并划定了存在可行阈值区间（信号下限与完美信号上限）的条件。 当本地计算为沉没成本时，级联的可行性变得无条件，信号质量决定了最终收益；这一发现为现有的分层系统提供了设计依据。