arXiv · NLP· Ziwen Xu, Chenyan Wu, Hengyu Sun, Haiwen Hong, Mengru Wang, Yunzhi Yao, Longtao Huang, Hui Xue, Shumin Deng, Zhixuan Chu, Huajun Chen, Ningyu Zhang·· 3 天前AI 评分23
为何模型操控有效:LLM 参数动态的统一视角
Why Steering Works: Toward a Unified View of Language Model Parameter Dynamics
AI 导读
该研究提出统一框架,将 LLM 的 LoRA 微调与激活干预解释为控制信号诱导的动态权重更新。 分析表明,强操控在提升目标概念倾向(preference)的同时,可预测地降低生成连贯性(utility)。 基于此,新方法 SPLIT 在增强操控效果的同时更好地保留效用,代码已开源。
来源:arXiv · NLP · arxiv.org