arXiv · ML· Guangcheng Zhu, Shenzhi Yang, Haobo Wang, Xing Zheng, Yingfan MA, Xuening Feng, Zhongqi Chen, Bowen Song, Weiqiang Wang, Gang Chen·· 9 小时前AI 评分28
PivotTrace 通过追踪元认知转折点实现高效 RLVR 推理训练
Smart Picks in the Dark: Towards Efficient RLVR for Reasoning via Tracing Metacognitive Pivots
AI 导读
PivotTrace 提出一种利用注意力动态追踪推理中元认知转折点的三元数据分诊框架。该框架通过量化转折点密度来精确评估不确定性,实现了自动化数据路由,以协同最大化标注与训练效率。实验表明,PivotTrace 仅使用 29.3% 的标注样本即超越了全监督大模型,且收敛速度提升 2.75 倍。
来源:arXiv · ML · arxiv.org