arXiv · NLP· Lihu Chen, Xiang Yin, Francesca Toni·· 8 小时前AI 评分29
Latent Debate：解释 LLM 二元决策思维过程的替代框架
Latent Debate: A Surrogate Framework for Interpreting LLM Thinking towards Binary Decisions
AI 导读
研究提出 Latent Debate 框架，用于解释 LLM 在 True/False 预测任务中的内部思维过程。该框架通过分析单次推理中的潜在支持性与攻击性信号，构建符号化替代模型。 实证研究表明，Latent Debate 的预测与原始 LLM 高度一致，且中高层辩论分歧度与幻觉风险呈强相关，为幻觉检测提供了强基线。
来源：arXiv · NLP · arxiv.org