arXiv · AI· Tong Che, Yilong Li·· 2026-10-07AI 评分34
LLM 特征解读:区分特征引导与机制使用的实证测试
Does the Model Use the Feature? Separating Steering from Mechanism in LLMs
AI 导读
该研究指出,LLM 内部特征对概念的追踪及对行为的引导并不等同于模型在计算中真正使用该特征。研究提出一种实证契约,通过“安装”与“移除”测试来评估特征在自然输入值下的实际作用。
来源:arXiv · AI · arxiv.org