arXiv · AI· Hayden Helm, Xiaodong Liu, Weiwei Yang·· 11 天前AI 评分33
利用模型行为几何预测和缓解越狱攻击
Jailbreak susceptibility prediction and mitigation via the behavioral geometry of models
AI 导读
该研究提出利用模型群体的行为几何来预测越狱脆弱性并优化防御迁移,在 82 个模型和 24 个提供商上验证有效。 方法仅需全量评估 2% 的探针量即可达 0.94 AUPRC;基于几何选择防御源模型比同提供商分配性能提升 4.1%,且 3 个模型即可覆盖群体。 该方法大幅降低安全评估成本,提升防御迁移效率,对大规模模型安全部署具有实际意义。
来源:arXiv · AI · arxiv.org