arXiv · AI· Mar Gonz\`alez I Catal\`a, Haitz S\'aez de Oc\'ariz Borde, George D. Monta\~nez, Pietro Li\`o·· 16 小时前AI 评分27
LLM推理中熵动力学与正确性的对齐：步进信息量假设（SIA）理论分析
The Stepwise Informativeness Assumption: When Do Entropy Dynamics Track Reasoning Correctness in LLMs?
AI 导读
研究提出步进信息量假设（SIA），刻画了LLM推理中熵动力学与答案正确性的对齐条件。 实验在GSM8K、ARC、SVAMP、MATH四个基准上验证，发现后训练（SFT/RL）能增强熵-正确性对齐，但当任务难度超出模型能力时该对齐会减弱。 该理论为理解基于熵的推理信号提供了框架，并揭示了训练机制如何耦合推理轨迹与正确答案。
来源：arXiv · AI · arxiv.org