跳到正文
arXiv · ML· Heming Zou, Qi Wang, Yixiu Mao, Yun Qu, Yuyi Guo, Zeyuan Liu, Chenglin Li, Weijie Liu, Saiyong Yang, Xiangyang Ji·· 8 小时前AI 评分42

TreeOPSD:用于长程智能体强化学习的树感知后验自蒸馏框架

Tree-Aware Posterior Distillation for Long-Horizon Agentic Reinforcement Learning

AI 导读

研究提出 TreeOPSD 框架,通过无评估器树感知后验自蒸馏解决长程交互中的信用分配稀疏问题。 该框架将终端奖励回传至隐式回合级信用,并映射为有界教师分布,限制了策略更新漂移。 实验显示 TreeOPSD 提升 Qwen3-30B-A3B-Thinking-2507 在 Deep Research 任务上的准确率,较 GRPO 提升 4.97 点。

来源:arXiv · ML · arxiv.org