跳到正文
arXiv · ML· Jiacheng Liang, Yuhui Wang, Tanqiu Jiang, Ting Wang·· 2026-10-06AI 评分26

RASA:面向混合专家模型的路由感知安全对齐框架

Routing-Aware Safety Alignment for Mixture-of-Experts Models

AI 导读

summary_zh: 研究提出路由感知专家级对齐框架 RASA,在两类混合专家(MoE)架构上实现近完美的越狱攻击鲁棒性。 框架通过识别被成功越狱攻击异常激活的安全关键专家,在固定路由条件下仅微调这些专家,并强制安全对齐的路由一致性。

来源:arXiv · ML · arxiv.org