arXiv · NLP· Chenyang Yu, Zifan Zeng, Qunli Zhang, Feng Liu·· 3 小时前AI 评分26
STEP:通过逐步概率评分估算 LLM 预测正确性
STEP: Soft Trajectory Estimation of Prediction Correctness via Per-Step Probability Scoring
AI 导读
提出无训练框架 STEP,通过轻量前向传播对 LLM 各推理步骤评分,生成软概率分布 q_i 以估算预测正确性。 实验在多个基准上显示,相比基线,STEP 在 AUROC 上取得显著改进;其中对后期稳定步骤加权的一致性方法贡献最大。
来源:arXiv · NLP · arxiv.org