arXiv · ML· Andrew C. Cullen, Neil G. Marchant, Paul Montague, Jiani Xie, Benjamin I. P. Rubinstein·· 7 天前AI 评分26
生成式 AI 时代对抗风险:为何需摒弃小 epsilon 球范式
Adversarial Risk in the Generative AI Era Necessitates Dropping the Small Epsilon Ball
AI 导读
本文指出当前对抗机器学习过度聚焦于寻找 $\ell_p$ 范数下的小 epsilon 球,这种范式将防御者引向狭窄的数学鲁棒性优化,导致系统性安全被忽视。 研究认为该范式不仅无法降低风险,反而通过传递虚假安全感,激励攻击者利用未覆盖的对抗路径,进而加剧实际危害。 这是一篇发表于 NeurIPS 2026 的观点论文,主张在生成式 AI 时代应放弃对单一小扰动球的执念。
来源:arXiv · ML · arxiv.org