研究者提出置信门控LLM分层推理可行性闭式条件

1. 13:00
   arXiv · AI

   置信门控分层 LLM 推理的可行性条件

   研究者给出了一个闭式条件，用于判断在何种情况下基于置信度信号的 LLM 分层级联比将查询全部路由至中心节点更具价值。 该条件通过引入架构成本比 $\kappa$ 来区分本地计算成本，并划定了存在可行阈值区间（信号下限与完美信号上限）的条件。 当本地计算为沉没成本时，级联的可行性变得无条件，信号质量决定了最终收益；这一发现为现有的分层系统提供了设计依据。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。