arXiv · ML· Ihor Vitenko·· 11 小时前AI 评分27
VERS:通过编辑激活解释引导推理模型
VERS: Steering Reasoning Models by Editing Their Activation Explanations
AI 导读
VERS 框架通过编辑自然语言自动编码器的解释来引导推理模型,在 GSM8K 测试集上减少 45.8% 的生成 token,准确率仅下降 0.82 个百分点。 该框架在 MATH-500 上节省 31.3% token,准确率下降 3.05 个百分点;在 Qwen3 235B-A22B 模型上可迁移并节省 30-35% token,但在竞赛题上准确率损失 3-7 个百分点。
来源:arXiv · ML · arxiv.org