arXiv · AI· Kai Liu, Peijie Dong, Xinchen Xie, Jianfei Gao, Qipeng Guo, Xiaowen Chu, Shaoting Zhang, Kai Chen·· 4 小时前AI 评分30
SWARR：架构感知强化学习提升滑动窗口注意力在数学推理中的表现
Architecture-Aware Reinforcement Learning Makes Sliding-Window Attention Competitive in Math Reasoning
AI 导读
arXiv 论文提出 SWARR，通过 SFT 转换 SA 模型为 SWA 并应用 RL 策略适应，解决 SWA 在数学推理中因数据架构失配导致的性能下降问题。 实验表明该方法显著缩小 SWA 与 SA 的差距，在保持线性复杂度注意力效率优势的同时恢复了转换过程中损失的准确性。 研究发现 RL 改变了仅通过转换和 SFT 得出的 SWA 在数学推理可行性方面的结论。
来源：arXiv · AI · arxiv.org