arXiv · AI· Tiejin Chen, Maunil Vyas, Huaiyuan Yao, Hua Wei·· 18 天前AI 评分24
引导向量作为 LLM 后训练的训练信号
Steering Vectors as a Training Signal in LLM Post-Training
AI 导读
研究证明引导向量可作为大语言模型后训练的有效训练信号。 在监督学习中,引导向量注入使模型性能比纯 SFT 和蒸馏提升最高达 12%;在 RLVR 场景中,通过优势修复机制恢复了无学习信号的梯度。 该成果已被 NeurIPS 2026 接受,相关代码已开源。
来源:arXiv · AI · arxiv.org