跳到正文
arXiv · AI· Ria Shekhawat, Abhijeet Sinha, Yingtao Zhu, Dianbo Liu·· 13 小时前AI 评分42

DARS:一种促进奖励比例采样的密度感知奖励缩放强化学习框架

Density-Aware Reward Scaling: A Reinforcement Learning Framework for Reward-Proportional Sampling

AI 导读

研究者提出密度感知奖励缩放(DARS)机制,通过逆密度缩放奖励来避免高奖励结果集中,促进连续结果空间中的多样性采样。该机制无需学习密度模型、辅助目标或修改标准策略梯度训练目标。在受控多模态导航任务中,DARS-GRPO 避免了 GRPO 的单模态坍缩并恢复了目标模式分配;在文本到图像提示词适应中,它一致提升了图像和提示词多样性,同时保持语义对齐。

来源:arXiv · AI · arxiv.org