arXiv · NLP· Max Henning H\"oth, Kristian Kersting, Bj\"orn Deiseroth, Letitia Parcalabescu·· 4 小时前AI 评分20
AtManRL：通过可微注意力显著性实现忠实推理
AtManRL: Towards Faithful Reasoning via Differentiable Attention Saliency
AI 导读
AtManRL 利用可微注意力操纵和 GRPO 训练显著推理，在 Qwen2.5-3B 等模型上显著优于长度惩罚基线。 具体表现为显著性提升 3.9-4.0pp，忠实性提升 5.7-7.7pp，同时保持准确率不变。 该方法为探索更忠实反映模型决策过程的 CoT 推理提供了有效路径。
来源：arXiv · NLP · arxiv.org