arXiv · ML· Mengying Zhang, Derui Wang, Ibrahim Khalil, Bowen Liu, Xiaoyu Xia, Minhui Xue·· 5 小时前AI 评分44
TRACE：针对LLM近似遗忘的数据无关文本重构攻击
TRACE: Data-Free Text Reconstruction Attacks against Approximate Unlearning in LLMs
AI 导读
论文提出TRACE框架，证明LLM近似遗忘在模型快照中残留可恢复的训练数据痕迹，导致隐私泄露。 TRACE利用嵌入层参数差异定位候选Token，结合困惑度间隙对比评分重构文本，并在TOFU等数据集上验证了其高保真重构能力。 该研究揭示了现有近似遗忘部署中参数差异泄露的显著隐私风险，凸显了管理模型快照访问的必要性。
来源：arXiv · ML · arxiv.org