arXiv · NLP· Zhiyu Cao, Kaixin Wu, Mingjie Zhong, Peifeng Li, Can Ye, Qiaoming Zhu·· 10 天前AI 评分24
基于提示引导的多样化策略优化提升LLM推理
Hint-Guided Diversified Policy Optimization for LLM Reasoning
AI 导读
针对现有可验证奖励强化学习缺乏多样化信号的问题,研究者提出了提示引导的多样化策略优化(HDPO)框架。 HDPO采用两阶段方法,通过“提出-选择-思考”的轨迹引导模型生成并筛选多样化解决方案。 实验结果证明,该方法能有效提升大语言模型的推理能力和候选方案多样性。
来源:arXiv · NLP · arxiv.org