arXiv · AI· Kareem Amin, Rudrajit Das, Alessandro Epasto, Adel Javanmard, Dennis Kraft, M\'onica Ribero, Sergei Vassilvitskii·· 8 小时前AI 评分29
用于合成数据隐私审计的统计框架:区分真实泄露与幽灵泄露
Phantoms and Disclosures: A Statistical Framework for Auditing Privacy in Synthetic Data
AI 导读
针对生成式AI合成数据的隐私风险,本文提出一种无需模型访问、金丝雀插入或参考模型训练的统计审计框架。 该框架通过区分“真实泄露”与“幽灵泄露”,结合假设检验严格验证数据披露是否符合零学习或差分隐私(DP)基线,并作为成员推理攻击提供比现有方法更紧的隐私泄露下限。 作为模型无关的通用工具,该方法所需的计算资源比影子模型或基于金丝雀的替代方案低几个数量级。
来源:arXiv · AI · arxiv.org