arXiv · AI· Gregory N. Frank·· 6 小时前AI 评分42
拒绝对齐失效：路由层揭示中文模型审查机制盲区
Detection Is Cheap, Routing Is Learned: Why Refusal-Based Alignment Evaluation Fails
AI 导读
summary_zh: 针对中国起源模型的政治审查研究指出，仅基于“拒绝”的对齐评估失效。研究发现，探针准确率非诊断性，跨模型迁移因路由几何结构差异而失败。 研究涉及5家实验室的9个开源模型，采用手术式消融验证特定路由逻辑。
来源：arXiv · AI · arxiv.org