arXiv · ML· Jiacheng Liang, Yuhui Wang, Tanqiu Jiang, Ting Wang·· 2026-10-06AI 评分26
RASA:面向混合专家模型的路由感知安全对齐框架
Routing-Aware Safety Alignment for Mixture-of-Experts Models
AI 导读
summary_zh: 研究提出路由感知专家级对齐框架 RASA,在两类混合专家(MoE)架构上实现近完美的越狱攻击鲁棒性。 框架通过识别被成功越狱攻击异常激活的安全关键专家,在固定路由条件下仅微调这些专家,并强制安全对齐的路由一致性。
来源:arXiv · ML · arxiv.org