LessWrong · All Posts· Xijia Che·· 11 天前AI 评分42
复现研究证实 ViT 中叠加特性与对抗样本的关联
Confirming Claims of Superposition and Adversarial Examples in Vision Transformers
AI 导读
对 Second Look Summer Fellowship 项目的复现工作证实,在 ViT 模型中叠加特性的增加会强化对抗攻击与类别向量几何的对应关系,且趋势与原始论文一致。 实验表明,输入与分类头几何的耦合独立于具体的对抗攻击方法;对抗训练提升了鲁棒性,但无法通过论文方法测量几何变化。代码与模型已开源,鼓励读者后续探索。
来源:LessWrong · All Posts · lesswrong.com