arXiv · ML· Yingbo Hao, Song Liu, Guanghua Yu, Zhaojing Zhou, Jianchen Zhu, Yi Zou·· 24 天前AI 评分30
InterQ-RL: 量化代理强化学习中执行失配的交互感知校正
InterQ-RL: Interaction-Aware Correction of Execution Mismatch in Quantized Agentic RL
AI 导读
InterQ-RL 提出了一种无需额外前向传播的有界执行前缀校正方法,用于修复量化强化学习中的执行失配。该方法在 ALFWorld 等基准测试中,使量化模型性能与 BF16 精度相比差距缩小至 0.7 分以内。该技术适用于 4B 至 30B 的稠密及 MoE 模型,且学习速度优于单纯的量化对齐方法。
来源:arXiv · ML · arxiv.org