跳到正文
arXiv · ML· Anna C. Marbut, Daniel R. Olson, Travis J. Wheeler·· 2026-10-21AI 评分33

MoE 模型拒答转向机制分解:单一专家可恢复 78% 转向效果

Decomposing Refusal Steering in Mixture-of-Experts Models

AI 导读

研究显示在 3 个开源 MoE 大语言模型中,单一专家可平均恢复 78% 的全局拒答转向效果,表明拒答机制在架构中分布不均。 当受限使用全层转向的位置时,专家级转向仅能恢复 54% 的效果,且该差距在安全相关系统提示词下进一步拉大。 研究证实 MoE 复杂路由模式不会抑制转向性能,且拒答信号与专家路由行为所捕捉的信号存在差异。

来源:arXiv · ML · arxiv.org