arXiv · ML· Teresa Pui Yee Yong, Win Kent Ong, Chee Seng Chan·· 2026-10-12AI 评分43
机器遗忘评测谬误:输出级遗忘不代表真正的表示空间一致性遗忘
Erased, but Not Gone: Output Forgetting Is Not True Forgetting
AI 导读
研究发现标准输出级评估系统性高估机器遗忘成功率,当前方法常表现为“表观遗忘”而非重训练一致性遗忘。 重训练一致的表示空间分析显示,现有模型在遗忘样本与保留样本间存在不对称残留,且残留集中沿重训练相关方向分布。 这种结构化失配超过独立重训练的变异性,导致再学习攻击中信息恢复风险,揭示了输出遗忘隐藏的安全隐患。
来源:arXiv · ML · arxiv.org