LessWrong · All Posts· Virginia Ceccatelli·· 2026-10-17AI 评分45
基于 J-lens 构建 U-lens:无标签估算推理模型不确定性
Uncertainty in the Verbalizable Workspace
AI 导读
研究提出 U-lens 方法,利用 4 个正交隐藏状态方向结合 next-token entropy 估算推理模型不确定性。 方法无需训练且仅需单次前向传播,在 3 个模型和 4 个 benchmark 上表现优于训练探针。 代码已开源,该读out 或可帮助模型 harness 标记可疑行为。
来源:LessWrong · All Posts · lesswrong.com