arXiv · AI· Ik-hwan Kim, Hyeongrok Han, Mingi Jung, Sangwon Yu, Jinseok Hong, Sang Hun Kim, Yoonyoung Choi, Sungroh Yoon·· 5 小时前AI 评分40
MBT-A:通过 Agentic 编辑蒸馏元认知行为以提升小模型推理性能
Distilling Metacognitive Behaviors through Agentic Editing
AI 导读
MBT-A 提出通过 Agentic 逐行编辑教师模型推理轨迹并记录为 git commit,将七种元认知行为注入其中,再训练学生模型。在竞赛数学任务上,Qwen3.5-4B-Base 学生模型使用 MBT-A 轨迹训练,得分 85.4,高于未编辑轨迹 SFT 的 83.1,并优于 token 匹配对照及五种既有方法。
来源:arXiv · AI · arxiv.org