arXiv · ML· Vincent Siu, Glenn Grant-Richards, Vlad Pavlovich, Yizhou Sun, Dawn Song, Chenguang Wang·· 2026-10-07AI 评分37
Transformer 拒止机制中的组件与维度稀疏性研究
Component and Dimension Sparsity in Transformer Refusal Mechanisms
AI 导读
研究揭示了大型语言模型拒止行为的激活引导存在显著的组件与维度稀疏性。在四个开源模型中,仅需引导28%–48%的上游组件即可保留88%–101%的引导效果。 进一步发现,有效信号集中在这部分组件内约50%的残差流维度中,可保留85%–98%的基准效果。该结果发表于COLM 2026会议,相关代码与原始数据已开源。
来源:arXiv · ML · arxiv.org