跳到正文
arXiv · NLP· Ziwen Xu, Chenyan Wu, Hengyu Sun, Haiwen Hong, Mengru Wang, Yunzhi Yao, Longtao Huang, Hui Xue, Shumin Deng, Zhixuan Chu, Huajun Chen, Ningyu Zhang·· 3 天前AI 评分23

为何模型操控有效:LLM 参数动态的统一视角

Why Steering Works: Toward a Unified View of Language Model Parameter Dynamics

AI 导读

该研究提出统一框架,将 LLM 的 LoRA 微调与激活干预解释为控制信号诱导的动态权重更新。 分析表明,强操控在提升目标概念倾向(preference)的同时,可预测地降低生成连贯性(utility)。 基于此,新方法 SPLIT 在增强操控效果的同时更好地保留效用,代码已开源。

来源:arXiv · NLP · arxiv.org