新论文审计文本去标识化隐私评估

2026年11月4日，arXiv平台发布NLP领域新论文《Residual Attribute Leakage Is an Interface: Auditing Privacy Evaluation After Text De-identification》。该研究由Tuan Thanh Duong等人主导，主要关注文本去标识化后的隐私评估问题。论文引入了一种基于先验归一化的截断泄露分数，旨在审计在此类数据处理后得出的隐私评估结论。 在具体测试中，研究团队对MedQA数据集进行了压力测试。测试发现，尽管某种反向编辑策略误导了大多数评估对象，但由于AUC解读存在偏差，其排名仍靠前。只有对手模型能够反转这种比较结果。此外，通过消融实验，研究者展示了SACC编辑工具优势失效的具体边界，进一步明确了相关技术在隐私审计中的适用性与局限性。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。