arXiv · ML· Brandon Ismalej, Alex Cloninger, Gal Mishne·· 4 天前AI 评分21
表征几何作为对抗鲁棒性的诊断工具
Representational Geometry as a Diagnostic for Adversarial Robustness
AI 导读
该研究在 MNIST 数据集上训练多层感知机,对比三种对抗训练机制与常规训练的表征几何差异。 通过嵌入分析发现,对抗训练导致内部表征结构改变,且鲁棒准确率与表征稳定性对防御的排序可能相反。 作者建议将潜在表征及训练轨迹作为模型鲁棒性审计的诊断工具。
来源:arXiv · ML · arxiv.org