跳到正文
arXiv · ML· Srikanth Malla, Chiho Choi, Joon Hee Choi·· 10 天前AI 评分33

Steering Interference Reflects the Model's Defaults, Not the Behavior Directions

Steering Interference Reflects the Model's Defaults, Not the Behavior Directions

AI 导读

激活引导无法实现模块化控制,其干扰主要反映模型默认行为而非目标方向。 在 Qwen2.5-7B 上,引导主要降低未引导答案表现,提升拒绝、谄媚和诗意等默认行为。 基于 10 个指令微调模型和 24 种行为的数据,单向干扰结构和几何预测失效证实了解耦行为方向无法使引导模块化。

来源:arXiv · ML · arxiv.org