arXiv · NLP· Changming Li, Kaixing Zhang, Haoyun Xu, Yingdong Shi, Zheng Zhang, Kaitao Song, Kan Ren·· 8 小时前AI 评分38
Integrated Policy Gradient：通过结果导向归因追踪 LLM 推理机制
From Outcome to Representation: Tracing Reasoning Mechanisms through Integrated Policy Gradient
AI 导读
提出免训练框架 Integrated Policy Gradient (IPG)，将策略归因引入 LLM 推理的机制可解释性研究，通过路径积分隔离结果相关的内部组件，提供因果中介分析的线性近似。 实验表明 IPG 能精确定位与特定推理行为相关的稀疏、集中内部组件子集，并实现推理能力的调制，为理解 LLM 推理提供了可靠框架，已被 NeurIPS 2026 接收。
来源：arXiv · NLP · arxiv.org