arXiv · NLP· Dani Roytburg, Shreya Sridhar, Daphne Ippolito·· 11 天前AI 评分42
测量推理模型弱到强可读性:引入转移效用评估指标
Measuring Weak-to-Strong Legibility of Reasoning Models
AI 导读
针对现有指标无法衡量推理轨迹彻底性的问题,本文提出转移效用方法,通过弱模型补全不完整轨迹来量化可读性。 在评估12个推理模型的84k条轨迹时发现,性能最高和效率最高的模型转移效用反而最低。 该指标能预测弱监控器对数学和逻辑密集轨迹的验证能力,但开源奖励模型与正确性信号解耦。
来源:arXiv · NLP · arxiv.org