预填充解码长度预测的根本局限性

研究指出当前预填充解码长度预测基准混淆了预测器质量与任务难度，当目标模型、数据集或采样配置改变时，预测器准确度会崩溃。分析将解码视为停止随机过程，推导出每提示词正态性误差项及仿射方差定律 $\sigma=\alpha\mu+b$。