arXiv · AI· Tianyang Luo, Tao Feng, Zhigang Hua, Yan Xie, Shuang Yang, Ge Liu, Jiaxuan You·· 8 小时前AI 评分23
MemReward: 基于图的经验记忆实现 LLM 有限标签下的奖励预测
MemReward: Graph-Based Experience Memory for LLM Reward Prediction with Limited Labels
AI 导读
MemReward 提出一种基于图的异质经验记忆，利用 GNN 将标签数据上的奖励传播至无标签 rollout，提升在线 RL 微调效率。 在 Qwen2.5-1.5B 和 3B 模型上，仅用 20% 标签数据，MemReward 分别达到全监督训练 96.6% 和 97.3% 的性能，优于 label propagation 和 FixMatch 方法。
来源：arXiv · AI · arxiv.org