arXiv · AI· Fanyu meng, Zhaodan Kong, Xin Liu·· 1 天前AI 评分40
Chain of Faith: 基于策略内部奖励提升推理依赖的研究
Chain of Faith: Policy-Internal Rewards for Reasoning Reliance
AI 导读
研究提出四种基于策略信号的奖励机制,旨在增强模型对生成推理过程的依赖,解决链式思维解释与实际答案脱节的问题。 实验将梯度敏感性、置信度差距、渐进置信度增益及推理提示词交换奖励加入 GRPO 训练,在 GSM8K 和 StrategyQA 上评估两个小模型,发现部分配置提升了答案对推理编辑的依赖,但准确率与改写鲁棒性效果不一。
来源:arXiv · AI · arxiv.org