跳到正文
arXiv · AI· Peng Kuang, Haibo Jin, Xiaoyu Han, Yanli Wang, Xiaopeng Yuan, Ye Yu, Kaidi Xu, Haohan Wang·· 8 小时前AI 评分28

KV-PRM:通过 KV-Cache 传输实现高效过程奖励模型,用于多智能体测试时扩展

KV-PRM: Efficient Process Reward Modeling via KV-Cache Transfer for Multi-Agent Test-Time Scaling

AI 导读

提出 KV-PRM 过程奖励模型,利用生成阶段的 KV-Cache 替代文本重编码,将评分计算复杂度从 O(L^2) 降至 O(L)。 在 MATH、GSM8K 和 AIME 基准上,KV-PRM 的性能匹配或优于文本型 PRM,且评分 FLOPs 降低 5000 倍,延迟降低 37 倍,单序列内存占用降低 34 倍。

来源:arXiv · AI · arxiv.org