跳到正文
arXiv · NLP· Chu Fei Luo, Samuel Dahan, Xiaodan Zhu·· 2 天前AI 评分43

将问答作为隐状态探针研究 LLM 测试时推理机制

What Am I Missing? Question-Answering as Hidden State Probing

AI 导读

summary_zh: 研究利用问答作为 LLM 测试时推理的推理期干预,训练探针预测最终正确性,显示自我诊断包含有效信号。 实验将问答建模为序贯决策问题,采用门控策略最大化正确率;实证表明成功度依赖模型自一致性,存在检测与恢复间的差距。

来源:arXiv · NLP · arxiv.org